3
ความแปลกประหลาดทางเทคโนโลยีสามารถเกิดขึ้นได้กับความฉลาดล้ำเท่านั้นหรือไม่?
ในบทที่ 26 ของหนังสือปัญญาประดิษฐ์: วิธีการที่ทันสมัย (ฉบับที่ 3) ตำรากล่าวถึง "เอกฐานเทคโนโลยี" มันเป็นคำพูด IJ ดีผู้เขียนในปี 1965: ให้เครื่องที่มีความฉลาดพิเศษถูกกำหนดให้เป็นเครื่องที่ไกลเกินกว่ากิจกรรมทางปัญญาทั้งหมดของผู้ชายคนใด แต่ฉลาด เนื่องจากการออกแบบเครื่องจักรเป็นหนึ่งในกิจกรรมทางปัญญาเหล่านี้เครื่องที่ชาญฉลาดสามารถออกแบบเครื่องจักรที่ดียิ่งขึ้น จากนั้นจะมี "การระเบิดของความรู้แจ้ง" อย่างไม่ต้องสงสัยและสติปัญญาของมนุษย์จะถูกทิ้งไว้เบื้องหลัง ดังนั้นเครื่องอัลตร้าที่ชาญฉลาดเครื่องแรกคือการประดิษฐ์ครั้งสุดท้ายที่มนุษย์ต้องการโดยมีเงื่อนไขว่าเครื่องนั้นเชื่องพอที่จะบอกเราว่าจะควบคุมมันอย่างไร ต่อมาในตำราเรียนคุณมีคำถามนี้: 26.7 - IJ ดีอ้างว่าหน่วยสืบราชการลับเป็นคุณสมบัติที่สำคัญที่สุดและการสร้างเครื่องจักรที่ยอดเยี่ยมจะเปลี่ยนทุกอย่าง เสือชีตาห์ที่มีอารมณ์ตอบโต้ว่า "ความเร็วที่แท้จริงนั้นสำคัญกว่าถ้าเราสามารถสร้างเครื่องจักรที่เร็วมากมันจะเปลี่ยนทุกอย่าง" และช้างที่มีสรรพสิ่งอ้างว่า "คุณทั้งคู่ผิดสิ่งที่เราต้องการคือเครื่องอัลตร้าไกล การขัดแย้ง? ดูเหมือนว่าคำถามในตำราเรียนเป็นข้อโต้แย้งโดยนัยต่อ IJ Good ดีอาจรักษาความฉลาดมีค่าเพียงเพราะความแข็งแกร่งของมนุษย์อยู่ในลักษณะที่เรียกว่า "ปัญญา" แต่คุณสมบัติอื่น ๆ อาจมีค่าเท่า ๆ กันแทน (ความเร็วหรือความแข็งแกร่ง) และสรรพสัตว์อาจคาดเดาอย่างดุเดือดเกี่ยวกับลักษณะที่ต้องการของพวกเขาเป็น "ขยาย" โดยบางเครื่องหรืออื่น ๆ สิ่งนี้ทำให้ฉันสงสัยว่าภาวะเอกฐานอาจเกิดขึ้นได้หรือไม่ถ้าเราสร้างเครื่องจักรที่ไม่ได้เพิ่มความฉลาดให้สูงสุด แต่แทนที่จะเพิ่มลักษณะอื่น ๆ (เครื่องจักรที่เพิ่มความแข็งแกร่งอยู่เสมอหรือเป็นเครื่องจักรที่เพิ่มความเร็วเสมอ) เครื่องประเภทนี้สามารถเปลี่ยนได้เหมือนกัน - …