ความแปลกประหลาดทางเทคโนโลยีสามารถเกิดขึ้นได้กับความฉลาดล้ำเท่านั้นหรือไม่?

ในบทที่ 26 ของหนังสือปัญญาประดิษฐ์: วิธีการที่ทันสมัย (ฉบับที่ 3) ตำรากล่าวถึง "เอกฐานเทคโนโลยี" มันเป็นคำพูด IJ ดีผู้เขียนในปี 1965:

ให้เครื่องที่มีความฉลาดพิเศษถูกกำหนดให้เป็นเครื่องที่ไกลเกินกว่ากิจกรรมทางปัญญาทั้งหมดของผู้ชายคนใด แต่ฉลาด เนื่องจากการออกแบบเครื่องจักรเป็นหนึ่งในกิจกรรมทางปัญญาเหล่านี้เครื่องที่ชาญฉลาดสามารถออกแบบเครื่องจักรที่ดียิ่งขึ้น จากนั้นจะมี "การระเบิดของความรู้แจ้ง" อย่างไม่ต้องสงสัยและสติปัญญาของมนุษย์จะถูกทิ้งไว้เบื้องหลัง ดังนั้นเครื่องอัลตร้าที่ชาญฉลาดเครื่องแรกคือการประดิษฐ์ครั้งสุดท้ายที่มนุษย์ต้องการโดยมีเงื่อนไขว่าเครื่องนั้นเชื่องพอที่จะบอกเราว่าจะควบคุมมันอย่างไร

ต่อมาในตำราเรียนคุณมีคำถามนี้:

26.7 - IJ ดีอ้างว่าหน่วยสืบราชการลับเป็นคุณสมบัติที่สำคัญที่สุดและการสร้างเครื่องจักรที่ยอดเยี่ยมจะเปลี่ยนทุกอย่าง เสือชีตาห์ที่มีอารมณ์ตอบโต้ว่า "ความเร็วที่แท้จริงนั้นสำคัญกว่าถ้าเราสามารถสร้างเครื่องจักรที่เร็วมากมันจะเปลี่ยนทุกอย่าง" และช้างที่มีสรรพสิ่งอ้างว่า "คุณทั้งคู่ผิดสิ่งที่เราต้องการคือเครื่องอัลตร้าไกล การขัดแย้ง?

ดูเหมือนว่าคำถามในตำราเรียนเป็นข้อโต้แย้งโดยนัยต่อ IJ Good ดีอาจรักษาความฉลาดมีค่าเพียงเพราะความแข็งแกร่งของมนุษย์อยู่ในลักษณะที่เรียกว่า "ปัญญา" แต่คุณสมบัติอื่น ๆ อาจมีค่าเท่า ๆ กันแทน (ความเร็วหรือความแข็งแกร่ง) และสรรพสัตว์อาจคาดเดาอย่างดุเดือดเกี่ยวกับลักษณะที่ต้องการของพวกเขาเป็น "ขยาย" โดยบางเครื่องหรืออื่น ๆ

สิ่งนี้ทำให้ฉันสงสัยว่าภาวะเอกฐานอาจเกิดขึ้นได้หรือไม่ถ้าเราสร้างเครื่องจักรที่ไม่ได้เพิ่มความฉลาดให้สูงสุด แต่แทนที่จะเพิ่มลักษณะอื่น ๆ (เครื่องจักรที่เพิ่มความแข็งแกร่งอยู่เสมอหรือเป็นเครื่องจักรที่เพิ่มความเร็วเสมอ) เครื่องประเภทนี้สามารถเปลี่ยนได้เหมือนกัน - เครื่องที่เร็วมากอาจแก้ไขปัญหาได้อย่างรวดเร็วเนื่องจาก "กำลังดุร้าย" และเครื่อง ultrastrong สามารถใช้พลังงานดิบสำหรับงานทางกายภาพที่หลากหลาย บางทีเครื่อง Ultra-X ไม่สามารถสร้างเครื่อง ultra-X อีกเครื่องได้ (เนื่องจาก IJ Good ปฏิบัติต่อการออกแบบเครื่องจักรเป็นกิจกรรมทางปัญญา) แต่เครื่องจักรที่พัฒนาตนเองอย่างต่อเนื่องจะยังคงทิ้งผู้สร้างไว้เบื้องหลังและบังคับให้ผู้สร้างเป็น ขึ้นอยู่กับมัน

เอกสิทธิ์ทางเทคโนโลยีมี จำกัด เฉพาะในระดับอัจฉริยะหรือไม่? หรือความผิดปกติทางเทคโนโลยีนั้นเกิดจากเครื่องจักรที่ไม่ใช่ "AI ที่แข็งแกร่ง" แต่ยังคงเป็น "ตัวจับเวลา" พิเศษหรือไม่?

นั่นจะไม่ใช่สำหรับความเร็วหรือความแข็งแกร่งหากคุณมีเอนทิตีที่แข็งแกร่ง แต่ไม่สามารถค้นคว้าวัสดุใหม่ได้มันจะถูก จำกัด อย่างรวดเร็วสิ่งเดียวกันสำหรับความเร็วโดยทั่วไปคุณต้องการบางสิ่งบางอย่างจากสนามของพวกเขาเพื่อปรับปรุงพวกเขาซึ่งทำให้ การปรับปรุงควบคุมไม่ได้เป็นไปไม่ได้

แม้ว่าเราจะมีเครื่องจักรที่แข็งแกร่งและเร็วเป็นพิเศษอยู่แล้วนั่นคือรถยนต์รถบรรทุกเครื่องอัดไฮดรอลิกเอ็กโซเคลตันอุตสาหกรรม ฯลฯ ... แต่ถึงแม้ว่าเราสามารถสร้างเครื่องจักรที่ดีกว่าผ่านการใช้งานของเก่า ที่ไม่สามารถปรับปรุงได้โดยคนเก่า

สิ่งที่เราต้องการสำหรับภาวะเอกฐานคือสิ่งที่การปรับปรุงนั้นทำให้การปรับปรุงง่ายขึ้น และฉันไม่รู้สนามที่มันไม่เกี่ยวข้องกับความฉลาด หากมีอย่างใดอย่างหนึ่งที่อาจเป็นไปได้ที่จะมีภาวะเอกฐานที่ไม่ใช่ปัญญาที่นั่น

"Monte Carlo" น่าจะเป็นวิธีที่ดีที่สุดสำหรับความคิดสร้างสรรค์อัลกอริทึมในปัจจุบัน (เช่นเครื่องสร้างตัวเลือกแบบสุ่มและดูว่าพวกเขานำไปสู่สิ่งที่มีประโยชน์หรือไม่)

ในขณะที่ปรากฏชัดเจนว่าการเชื่อมต่อที่สร้างสรรค์ที่เกิดจากความเข้าใจนั้นยอดเยี่ยมกว่าการเชื่อมต่อแบบสุ่มหากเครื่องเร็วพอมันก็น่าจะชนะได้ด้วย "กำลังดุร้าย"

นั่นคือวิวัฒนาการก่อนการชี้แนะของมนุษย์นั้นไม่ได้มีพื้นฐานมาจากสติปัญญา * ค่อนข้างวิวัฒนาการมาจากการกลายพันธุ์แบบสุ่มที่มีประโยชน์หรือเป็นอันตราย

* ข้อแม้คือมนุษย์สร้างอัลกอริธึมและดัดแปลงยีน (ทั้งในห้องแล็บหรือผ่านการเลี้ยงสัตว์และพืชสวน) สามารถกล่าวได้ว่าเป็นวิวัฒนาการรูปแบบใหม่ที่ฝังรากอยู่ในความฉลาดและความปรารถนาของมนุษย์

นี่อาจไม่ใช่สิ่งที่คุณกำลังมองหา แต่ในทางเทคนิคแล้วใช่ แม้ว่าจะไม่ใช่สำหรับความเร็วและความแข็งแกร่ง แต่คุณสามารถคาดเดาวิธีแก้ปัญหาทางคณิตศาสตร์ / กายภาพ / เคมีแบบใหม่ให้มีประสิทธิภาพมากขึ้นในการคาดเดาแบบสุ่ม (โดยทั่วไปสิ่งใดก็ตามที่ทำให้เครื่องคำนวณได้เร็วขึ้นและอาจจำลองผลของการค้นพบเหล่านั้น) ดังนั้นในทางเทคนิค ที่จะมีความฉลาดใด ๆ เลย (หรือเพียงแค่ในระดับมนุษย์) เนื่องจากคุณสามารถดุร้ายได้ทั้งหมด

มันมีประสิทธิภาพไหม? ไม่ไม่ได้ใกล้เคียงกับการเป็นไปได้ในทางใดทางหนึ่ง มันใช้งานได้หรือไม่ ในทางเทคนิคใช่

มันจะเป็นสิ่งแปลกประหลาดเพราะมันปรับปรุงตัวเองอย่างต่อเนื่อง แต่มันไม่จำเป็นต้องปรับปรุงความฉลาดของตัวเอง

แน่นอนว่าการค้นพบบางอย่างอาจทำให้มีความฉลาดมากขึ้น แต่ลองสมมติว่ามันไม่ได้ใช้การค้นพบเหล่านั้นกับตัวเอง