คำถามติดแท็ก self-awareness

ความสำนึกและความประหม่ามีความสำคัญต่อการทำ AIs ขั้นสูงอย่างไร? เราอยู่ห่างไกลจากการทำเช่นนี้? เมื่อทำเช่นโครงข่ายประสาทเทียม (อาจมี) ไม่มีสติอยู่ภายใน แต่แค่คณิตศาสตร์ข้างหลัง แต่เราต้องการให้ AIs มีสติเพื่อแก้ไขงานที่ซับซ้อนมากขึ้นในอนาคตหรือไม่ นอกจากนี้จริง ๆ แล้วมีวิธีใดที่เราสามารถรู้ได้อย่างแน่นอนว่ามีบางสิ่งที่ใส่ใจหรือว่ามันแกล้งทำมัน? มัน "ง่าย" ในการสร้างโปรแกรมคอมพิวเตอร์ที่อ้างว่ามีสติ แต่นั่นไม่ได้หมายความว่าเป็น (เช่น Siri) และถ้า AIs อยู่บนพื้นฐานของกฎที่กำหนดไว้ล่วงหน้าโดยไม่มีสติเราสามารถเรียกมันว่า "ปัญญา" ได้หรือไม่?

14 philosophy  artificial-consciousness  self-awareness 

ลองนึกภาพว่าพยายามสร้างสภาพแวดล้อมเสมือนจำลองที่ซับซ้อนพอที่จะสร้าง "AI ทั่วไป" (ซึ่งฉันกำหนดเป็น AI ที่รู้ตัวเอง) แต่ก็ง่ายที่สุดเท่าที่จะทำได้ สภาพแวดล้อมที่น้อยที่สุดนี้จะเป็นอย่างไร เช่นสภาพแวดล้อมที่เป็นเพียงเกมหมากรุกจะง่ายเกินไป โปรแกรมหมากรุกไม่สามารถเป็น AI ทั่วไป สภาพแวดล้อมที่มีตัวแทนหลายรายที่เล่นหมากรุกและสื่อสารผลลัพธ์ของพวกเขาถึงกันและกัน นี่เป็น AI ทั่วไปหรือไม่ (ถ้าคุณสามารถพูดได้ว่าเป็นปรมาจารย์หมากรุกที่คิดเกี่ยวกับหมากรุกตลอดทั้งวันมี 'AI ทั่วไป' ในระหว่างที่เขาคิดเกี่ยวกับหมากรุก แล้วโลกที่เหมือนซิม 3D จะเป็นอย่างไร ดูเหมือนจะซับซ้อนเกินไป ท้ายที่สุดทำไม AI ทั่วไปถึงไม่สามารถมีอยู่ในโลก 2 มิติ อะไรจะเป็นตัวอย่างของสภาพแวดล้อมที่เรียบง่าย แต่ไม่ง่ายเกินไปที่ AI จะมีความตระหนักรู้ในตนเอง?

11 agi  artificial-consciousness  self-awareness