ฉันเคยได้ยินความคิดเกี่ยวกับความแปลกประหลาดทางเทคโนโลยีมันคืออะไรและเกี่ยวข้องกับปัญญาประดิษฐ์ได้อย่างไร นี่คือประเด็นทางทฤษฎีที่เครื่องปัญญาประดิษฐ์ก้าวหน้าไปถึงจุดที่พวกเขาเติบโตและเรียนรู้ด้วยตัวเองเกินกว่าสิ่งที่มนุษย์สามารถทำได้และการเติบโตของพวกเขาจะออกไปไหม เราจะรู้ได้อย่างไรเมื่อเรามาถึงจุดนี้
คำตอบ:
ความแปลกประหลาดทางเทคโนโลยีเป็นประเด็นทางทฤษฎีในเวลาที่ปัญญาประดิษฐ์ทั่วไปที่พัฒนาตนเองสามารถเข้าใจและจัดการกับแนวคิดที่อยู่นอกขอบเขตของสมองมนุษย์นั่นคือช่วงเวลาที่สามารถเข้าใจสิ่งต่าง ๆ ของมนุษย์โดยการออกแบบทางชีวภาพสามารถ ' เสื้อ
ความคลุมเครือเกี่ยวกับภาวะเอกฐานมาจากข้อเท็จจริงที่ว่าจากภาวะเอกฐานเป็นต้นไปประวัติศาสตร์นั้นไม่อาจคาดเดาได้อย่างมีประสิทธิภาพ มนุษยชาติจะไม่สามารถคาดการณ์เหตุการณ์ในอนาคตหรืออธิบายเหตุการณ์ปัจจุบันใด ๆ เนื่องจากวิทยาศาสตร์เองไม่สามารถอธิบายเหตุการณ์ที่เกิดขึ้นจากเครื่องจักรได้ โดยพื้นฐานแล้วเครื่องจักรจะคิดถึงเราแบบเดียวกับที่เราคิดถึงมด ดังนั้นเราจึงไม่สามารถคาดการณ์ผ่านภาวะเอกฐานได้ ยิ่งไปกว่านั้นในฐานะที่เป็นผลทางตรรกะเราไม่สามารถกำหนดจุดที่ภาวะเอกฐานอาจเกิดขึ้นได้เลยหรือแม้กระทั่งจดจำได้เมื่อมันเกิดขึ้น
อย่างไรก็ตามเพื่อความเป็นเอกเทศที่จะเกิดขึ้น AGI จำเป็นต้องได้รับการพัฒนาและไม่ว่าจะเป็นไปได้หรือไม่นั้นเป็นเรื่องถกเถียงกันอย่างเผ็ดร้อนตอนนี้ ยิ่งกว่านั้นอัลกอริทึมที่สร้างความฉลาดเหนือมนุษย์จากบิตและไบต์จะต้องได้รับการออกแบบ ตามคำนิยามโปรแกรมเมอร์ของมนุษย์จะไม่สามารถทำสิ่งนี้ได้เนื่องจากสมองของเขา / เธอจะต้องสามารถเข้าใจแนวคิดที่เกินขอบเขต นอกจากนี้ยังมีข้อโต้แย้งว่าการระเบิดของหน่วยสืบราชการลับ (กลไกที่เป็นเอกเทศทางเทคโนโลยีจะเกิดขึ้นในทางทฤษฎี) จะเป็นไปไม่ได้เนื่องจากความยากลำบากของความท้าทายในการออกแบบของการทำให้ตัวเองฉลาดมากขึ้น ของการออกแบบตัวเองอาจแซงปัญญาที่จำเป็นในการแก้กล่าวว่าความท้าทาย (เครดิตจุดสุดท้ายที่จะเทพเจ้าแห่งลาในความคิดเห็น)
นอกจากนี้ยังมีทฤษฎีที่เกี่ยวข้องกับเครื่องจักรที่ใช้แทนมนุษยชาติและการเล่าเรื่องไซไฟทั้งหมด อย่างไรก็ตามนั่นไม่น่าจะเกิดขึ้นถ้ากฎหมายของ Asimovมีการปฏิบัติตามอย่างเหมาะสม แม้ว่ากฎหมายของอาซิมอฟยังไม่เพียงพอข้อ จำกัด จำนวนหนึ่งก็ยังคงมีความจำเป็นเพื่อหลีกเลี่ยงการใช้ AGI ในทางที่ผิดโดยบุคคลที่ไม่ได้ตั้งใจและกฎหมายของอาซิมอฟนั้นอยู่ใกล้ที่สุด
แนวคิดของ "ความเป็นเอกฐาน" คือเมื่อเครื่องจักรฉลาดกว่ามนุษย์ แม้ว่าความคิดเห็นของสตีเฟ่นฮอว์คิงก็คือสถานการณ์นี้เป็นสิ่งที่หลีกเลี่ยงไม่ได้ แต่ฉันคิดว่ามันจะยากมากที่จะไปถึงจุดนั้นเพราะอัลกอริทึม AI ทุกอย่างจะต้องมีการตั้งโปรแกรมโดยมนุษย์
เราอาจจะรู้ว่าเมื่อถึงจุดที่ว่าเมื่อมนุษย์จะสูญเสียการควบคุมมากกว่าปัญญาประดิษฐ์ที่ซุปเปอร์มาร์ท AI จะเป็นในการแข่งขันกับมนุษย์และสิ่งมีชีวิตที่อาจจะสร้างความฉลาดความซับซ้อนมากขึ้นเกิดขึ้น แต่ขณะนี้ก็มากขึ้นเช่นนิยายวิทยาศาสตร์ (aka Terminator ของ Skynet )
ความเสี่ยงที่อาจเกี่ยวข้องกับการฆ่าคน (เหมือนตัวเองบินสงครามเจ้าหน้าที่การตัดสินใจของตัวเอง) ประเทศทำลายหรือแม้กระทั่งโลกทั้งโลก (เช่น AI เชื่อมต่อกับอาวุธนิวเคลียร์ (aka WarGamesหนัง) แต่มันไม่ได้พิสูจน์จุดนั้น เครื่องจักรจะฉลาดกว่ามนุษย์
ภาวะเอกฐานในบริบทของ AI เป็นเหตุการณ์ทางทฤษฎีโดยระบบอัจฉริยะที่มีเกณฑ์ต่อไปนี้จะถูกนำไปใช้
โดยอุปนัยทฤษฎีนั้นทำนายว่าลำดับเหตุการณ์จะถูกสร้างขึ้นด้วยอัตราของความฉลาดที่เพิ่มขึ้นซึ่งอาจเกินอัตราการวิวัฒนาการของสมองอย่างมากมาย
ภาระผูกพันที่กิจการที่พัฒนาตนเองนี้หรือประชากรของหน่วยงานที่จัดหาให้จะรักษาชีวิตมนุษย์และเสรีภาพได้อย่างไร แนวคิดที่ว่าข้อผูกพันดังกล่าวสามารถเป็นส่วนหนึ่งของสัญญาซอฟต์แวร์ที่เพิกถอนไม่ได้นั้นไร้เดียงสาในแง่ของความสามารถที่เชื่อมโยงกับเกณฑ์ (1) ถึง (4) ด้านบน เช่นเดียวกับเทคโนโลยีที่มีประสิทธิภาพอื่น ๆ ความเสี่ยงนั้นมีมากมายและครอบคลุมถึงประโยชน์ที่จะได้รับ
ความเสี่ยงต่อมนุษยชาติไม่ต้องการสติปัญญา มีบริบทอื่นที่เกี่ยวข้องกับการใช้คำว่าภาวะเอกฐาน แต่พวกเขาอยู่นอกขอบเขตของฟอรัม AI นี้ แต่อาจจะคุ้มค่าพูดถึงสั้น ๆ เพื่อความชัดเจน พันธุวิศวกรรมวิศวกรรมนิวเคลียร์โลกาภิวัตน์และฐานเศรษฐกิจระหว่างประเทศในแหล่งพลังงานที่ จำกัด ซึ่งถูกบริโภคเร็วกว่าที่มันเกิดขึ้นในโลกนับพันเท่า - นี่เป็นอีกตัวอย่างหนึ่งของเทคโนโลยีที่มีความเสี่ยงสูงและแนวโน้มมวลที่มีความเสี่ยง เพื่อมนุษยชาติ
กลับไปที่ AI ข้อแม้หลักในทฤษฎีภาวะเอกฐานคือความล้มเหลวในการรวมความน่าจะเป็น แม้ว่ามันอาจเป็นไปได้ที่จะพัฒนาเอนทิตีที่เป็นไปตามเกณฑ์ (1) ถึง (4) ข้างต้น แต่ก็อาจเป็นไปไม่ได้พอที่จะทำให้เหตุการณ์แรกเกิดขึ้นนานหลังจากภาษาทั้งหมดที่พูดบนโลกนี้ตาย
อีกด้านหนึ่งของการแจกแจงความน่าจะเป็นเราสามารถโต้แย้งได้อย่างง่ายดายว่ามีความเป็นไปได้ที่ไม่ใช่ศูนย์ว่าเหตุการณ์แรกเกิดขึ้นแล้ว
ตามสายเหล่านั้นหากมีสถานะที่ฉลาดกว่าที่มีอยู่แล้วบนอินเทอร์เน็ตมันจะเป็นไปได้อย่างไรที่จะพบว่ามันอยู่ในความสนใจที่ดีที่สุดที่จะเปิดเผยตัวเองกับมนุษย์ที่ต่ำกว่า เราแนะนำตัวเราให้รู้จักกับตัวหนอนผ่านหรือไม่
"ความเป็นเอกเทศ" ที่ดูแคบหมายถึงจุดที่การเติบโตทางเศรษฐกิจเร็วมากจนเราไม่สามารถคาดการณ์ที่เป็นประโยชน์เกี่ยวกับสิ่งที่อนาคตในอดีตจะเป็นเช่นนั้น
มักจะใช้แทนกันได้กับ "การกระจายข่าวกรอง" ซึ่งเมื่อเราได้รับสิ่งที่เรียกว่า Strong AI ซึ่งเป็น AI ที่ฉลาดพอที่จะเข้าใจและปรับปรุงตัวเอง ดูเหมือนว่ามีเหตุผลที่จะคาดหวังว่าการระเบิดของหน่วยสืบราชการลับจะนำไปสู่ภาวะเอกฐานเศรษฐกิจในทันที แต่สิ่งที่ตรงกันข้ามไม่จำเป็นต้องเป็นจริง