สภาพแวดล้อมจำลองแบบใดที่ซับซ้อนเพียงพอที่จะพัฒนา AI ทั่วไป

ลองนึกภาพว่าพยายามสร้างสภาพแวดล้อมเสมือนจำลองที่ซับซ้อนพอที่จะสร้าง "AI ทั่วไป" (ซึ่งฉันกำหนดเป็น AI ที่รู้ตัวเอง) แต่ก็ง่ายที่สุดเท่าที่จะทำได้ สภาพแวดล้อมที่น้อยที่สุดนี้จะเป็นอย่างไร

เช่นสภาพแวดล้อมที่เป็นเพียงเกมหมากรุกจะง่ายเกินไป โปรแกรมหมากรุกไม่สามารถเป็น AI ทั่วไป

สภาพแวดล้อมที่มีตัวแทนหลายรายที่เล่นหมากรุกและสื่อสารผลลัพธ์ของพวกเขาถึงกันและกัน นี่เป็น AI ทั่วไปหรือไม่ (ถ้าคุณสามารถพูดได้ว่าเป็นปรมาจารย์หมากรุกที่คิดเกี่ยวกับหมากรุกตลอดทั้งวันมี 'AI ทั่วไป' ในระหว่างที่เขาคิดเกี่ยวกับหมากรุก

แล้วโลกที่เหมือนซิม 3D จะเป็นอย่างไร ดูเหมือนจะซับซ้อนเกินไป ท้ายที่สุดทำไม AI ทั่วไปถึงไม่สามารถมีอยู่ในโลก 2 มิติ

อะไรจะเป็นตัวอย่างของสภาพแวดล้อมที่เรียบง่าย แต่ไม่ง่ายเกินไปที่ AI จะมีความตระหนักรู้ในตนเอง?

ฉันคิดว่านี่เป็นหนึ่งในคำถามที่ดีที่สุดที่เกี่ยวข้องกับ AGI ที่ฉันเห็นในฟอรัมนี้

ฉันจะข้ามทุกเรื่องเกี่ยวกับ "สิ่งที่เป็น AGI", "เกมจำลอง", ... หัวข้อเหล่านี้ได้รับการพูดคุยในช่วงหลายทศวรรษและในปัจจุบันพวกเขาอยู่ในความคิดของฉันปลายตาย

ดังนั้นฉันสามารถตอบได้เฉพาะกับประสบการณ์ส่วนตัวของฉัน:

มันเป็นทฤษฎีบทพื้นฐานในการคำนวณว่ามิติใด ๆ รวมถึงกาลในพื้นที่ จำกัด ขนาดสามารถลดลงเป็น 1D

อย่างไรก็ตามในตัวอย่างที่ใช้งานได้จริงการเป็นตัวแทน 1D นั้นยากที่จะวิเคราะห์และทำให้มองเห็นได้ มันเป็นงานที่ใช้งานได้จริงมากขึ้นกับกราฟซึ่งสามารถเห็นได้ว่าเป็นตัวกลางระหว่าง 1D ถึง 2D กราฟช่วยให้แสดงข้อเท็จจริงและความสัมพันธ์ที่จำเป็นทั้งหมด

ตัวอย่างเช่นถ้าเราพยายามพัฒนา AGI ที่สามารถทำงานในด้านคณิตศาสตร์การแสดงออกใด ๆ (มนุษย์ที่เราเขียนด้วยการแสดงแบบ 2 มิติด้วย rationals, subscripts, integrals, ... ) สามารถแสดงเป็น 1D (เป็นการแสดงออก เขียนในซอร์สโปรแกรม) แต่ต้องแยกวิเคราะห์ 1D นี้เพื่อเข้าถึงกราฟที่สามารถวิเคราะห์หรือดำเนินการได้ ดังนั้นกราฟที่เกิดขึ้นหลังจากการแยกวิเคราะห์นิพจน์เป็นการนำเสนอที่เป็นประโยชน์มากที่สุด

อีกตัวอย่างหนึ่งถ้าเราต้องการตัวแทนที่เดินทางข้ามโลก 3 มิติโลกนี้สามารถถูกมองว่าเป็นพื้นที่ว่างเปล่าพร้อมวัตถุที่มีคุณสมบัติบางอย่าง อีกครั้งหลังจากขั้นตอนแรกของการวิเคราะห์ฉากและการรับรู้วัตถุ (เทียบเท่ากับตัวแยกวิเคราะห์ในตัวอย่างก่อนหน้า) เราถึงกราฟ

ดังนั้นในการทำงานในพื้นที่ของ AGI ฉันขอแนะนำให้ข้ามปัญหาของการวิเคราะห์ฉากการรู้จำวัตถุการรู้จำเสียง (Narrow AI) และทำงานโดยตรงกับกราฟตัวแทน

ฉันคิดว่าสิ่งที่สำคัญที่สุดคือต้องมีการจำลองเวลาในบางวิธี คิดว่าแชทบ็อตรู้ตัว จากนั้นจึงจะ "รู้ตัวเอง" สภาพแวดล้อมอาจเป็นข้อมูลที่ถูกป้อนผ่านช่วงเวลาที่สามารถจำแนกได้ว่าเป็น "ตัวเอง" และ "อื่น ๆ " โดยที่ฉันคิดว่าฉันหมายถึง "ตัวเอง" เป็นส่วนที่มีอิทธิพลโดยตรงและ "อื่น ๆ " เป็นส่วนที่ได้รับอิทธิพลทางอ้อมหรือไม่เลย นอกจากนั้นมันอาจอยู่ในสภาพแวดล้อมที่เป็นนามธรรมสวย เหตุผลที่เวลามีความสำคัญมากโดยที่ไม่มีอัลกอริทึมองค์ความรู้เป็นเพียงการแก้ปัญหาทางคณิตศาสตร์

AI ทั่วไปสามารถมีอยู่จริงในโลก 2D ซึ่ง AI ทั่วไป (นิยามไว้ที่นี่ว่า "ความแข็งแกร่งที่สอดคล้องกันในชุดของปัญหา") ในบริบทนี้จะยังคงแตกต่างจากปัญญาประดิษฐ์ทั่วไปซึ่งกำหนดเป็น "อัลกอริทึมที่สามารถ ปฏิบัติงานทางปัญญาใด ๆ ที่มนุษย์สามารถทำได้ "

ถึงแม้จะมีคำจำกัดความของ AGI นั้นคลุมเครือเพราะ "มนุษย์คนไหน" (ความฉลาดของมนุษย์เป็นคลื่นความถี่ที่แต่ละคนมีความสามารถในการแก้ปัญหาที่แตกต่างกันในบริบทที่แตกต่างกัน)

ความรู้สึกนึกคิดประดิษฐ์ : น่าเสียดายที่ความตระหนักรู้ในตนเอง / จิตสำนึกเป็นอภิปรัชญาอย่างหนักปัญหาแตกต่างจากความสามารถในการแก้ปัญหา (ปัญญา)

แน่นอนคุณต้องการดู " ห้องจีน " และการโต้แย้ง

อาจมีค่าควรดูหลักการโฮโลกราฟิก : "แนวคิดในฟิสิกส์โดยที่พื้นที่นั้นถูกพิจารณาว่าเป็นโฮโลแกรมของ n-1 มิติ" แน่นอนว่ารูปแบบและเกมสามารถจัดโครงสร้างด้วยวิธีนี้

สถานที่ในการสำรวจก็คือทฤษฎีของการเกิดขึ้นของ superintelligence บนอนันต์เกมคอนเวย์ของชีวิต (โดยสรุปความเข้าใจของฉันคือเมื่อนักวิจัยคิดวิธีสร้างจำนวนภายในเซลออโตมาต้าความเป็นไปได้ของประโยคที่เกิดขึ้นใหม่ในขณะที่บอร์ดเกมมีขนาดเพียงพออย่างน้อยก็ในทางทฤษฎีแล้ว)

จากคำตอบจนถึงตอนนี้ @DukeZhou เป็นคนที่ยั่วยุมากที่สุด ตัวอย่างเช่นการอ้างอิงถึงคำวิจารณ์ของ Chinese Room นำมาซึ่งการโต้แย้งของ Searle ว่ารูปแบบของความตั้งใจบางอย่างอาจต้องการการสนับสนุนในสภาพแวดล้อมการประดิษฐ์ สิ่งนี้อาจบ่งบอกถึงความจำเป็นของระบบค่านิยมหรือระบบความเจ็บปวดเจ็บปวดซึ่งเป็นสิ่งที่ผลกระทบที่ดีสามารถ "ได้รับประสบการณ์" หรือแสวงหาอย่างแข็งขันและหลีกเลี่ยงผลกระทบที่ไม่ดี หรือความเป็นไปได้บางอย่างสำหรับการสูญพันธุ์รายบุคคล (ความตายหรือการสิ้นสุด) อาจจำเป็นต้องได้รับการยอมรับ ความเป็นไปได้ของ "อัตตาความตาย"อาจต้องมีค่าลบสูง นั่นอาจหมายถึงโลกเทียมควรรวมถึง "จิตใจอื่น ๆ " หรือตัวแทนอื่น ๆ ซึ่งตัวแทนที่เกิดขึ้นใหม่หรือการเรียนรู้ที่ชาญฉลาดสามารถสังเกต (ในบางแง่) และ "สะท้อนใน" คือรู้จักปัญญาเช่นของตัวเอง ในแง่นี้การใช้ถ้อยคำคาร์ทีเซียน "ฉันคิดว่าฉันเป็น" ได้รับการแปลงเป็น: ฉัน (หรือฉันเป็น AI) เห็นหลักฐานของคนอื่นคิดและ "โดย gawd, 'ฉัน' สามารถทำได้เช่นกัน "คนอื่น ๆ " เหล่านั้นอาจเป็นได้ทั้งระบบการเรียนรู้อื่น (AGI's) หรือการติดต่อกับปัจจัยการผลิตที่แยกจากมนุษย์โดยอาศัยสภาพแวดล้อมการประดิษฐ์ การอภิปราย Wikipedia ของ "reverse Turing test"

การกล่าวถึงมิติควรกระตุ้นการอภิปรายในสิ่งที่จะต้องมีความลึกของการเป็นตัวแทนของ "ฟิสิกส์" ของโลกภายนอก AI การเป็นตัวแทนของเวลาและสถานที่บางอย่างอาจจำเป็นเช่นโครงสร้างย่อยบางมิติเพื่อความก้าวหน้าในการบรรลุเป้าหมาย The Blocks World เป็นปัญหาของเล่นยุคแรก ๆที่ทางออกได้กระตุ้นการมองโลกในแง่ดีในช่วงทศวรรษที่ 60 และ 70 ของศตวรรษที่ผ่านมาซึ่งมีความคืบหน้าอย่างมาก ฉันไม่ได้ตระหนักถึงความพยายามในการเขียนโปรแกรมในความเจ็บปวดหรือความพึงพอใจในโปรแกรม SHRDLU ในยุคนั้น (ไม่มีบล็อกวางที่นิ้วเท้าของโปรแกรม) แต่สิ่งที่เป็นตัวแทนนิยายวิทยาศาสตร์ที่น่าสนใจทั้งหมดของ AI นั้นได้รับการยอมรับว่า ใน "โลกแห่งความจริง"

แก้ไข: ฉันจะเพิ่มความต้องการ "เอนทิตีที่มีคุณสมบัติ" ในสภาพแวดล้อมนี้ที่อาจ "รับรู้" (โดย "ผู้อื่น" ที่มีปฏิสัมพันธ์กับ AGI ใด ๆ ) เป็นข้อมูลที่ป้อนให้กับความพยายามในการริเริ่ม และการอนุมานเกี่ยวกับความสัมพันธ์ สิ่งนี้จะสร้างพื้นฐานสำหรับ "ประสบการณ์" ที่ใช้ร่วมกัน

แม้ว่าคำตอบที่ดีโดย @pasaba por aqui แต่ฉันเห็นด้วยกับ @zooby ว่ากราฟอาจง่ายเกินไป หากมนุษย์อยู่ในสภาพแวดล้อมที่มีตัวเลือกจมน้ำตายหรือทำขั้นตอนที่ไม่เกี่ยวข้องกัน 5,000 ขั้นเพื่อสร้างเรือเราจะไม่ข้ามทะเลไปเลย ฉันคิดว่ากราฟใด ๆ หากออกแบบด้วยมือจะไม่ซับซ้อนพอที่จะเรียกตัวแทนภายใน AI ทั่วไป โลกจะต้องเพียงพอในระหว่างรัฐที่มันจะไม่ถูกอธิบายที่ดีที่สุดเป็นกราฟ แต่อย่างน้อยก็เป็นพื้นที่หลายมิติ

ฉันคิดว่ามี 2 คะแนนที่คุณต้องพิจารณา "ง่าย" คืออะไรและเมื่อใดที่คุณจะยอมรับว่าเป็น "AI ทั่วไป" ฉันไม่พบว่าตนเองรู้ตัว AI พึงพอใจเนื่องจากเราไม่สามารถวัดสิ่งใดที่เรียกว่าการรับรู้ เราสามารถเห็นสถานะและการโต้ตอบกับสภาพแวดล้อมของมันเท่านั้น

สำหรับ 1. ฉันคิดว่าโลกที่เราอาศัยอยู่นั้นค่อนข้างเรียบง่าย มีพลังธรรมชาติ 4 ข้อกฎหมายการอนุรักษ์เพียงไม่กี่ข้อและอนุภาคชนิดต่างๆที่อธิบายทุกสิ่งส่วนใหญ่ มันเป็นเพียงแค่ว่ามีอนุภาคเหล่านี้จำนวนมากและสิ่งนี้นำไปสู่โลกที่ค่อนข้างซับซ้อน แน่นอนว่ามันมีราคาแพงในการจำลอง แต่เราอาจใช้ทางลัดบางอย่าง ผู้คนเมื่อ 200 ปีที่แล้วไม่ต้องการกลศาสตร์ควอนตัมทั้งหมดเพื่ออธิบายโลก ถ้าเราแทนที่โปรตอนนิวตรอนและแรงที่มีอะตอมในตารางธาตุเราจะไม่เป็นไร ปัญหาคือเราแทนที่กฎหมายทั่วไปอีก 3 ฉบับด้วย 100 กรณีที่เฉพาะเจาะจง เพื่อให้สภาพแวดล้อมจำลองมีความซับซ้อนเพียงพอฉันคิดว่าแนวโน้มนี้ต้องคงไว้

ซึ่งนำฉันมาที่ 2 ฉันคิดว่าเราจะพอใจกับตัวแทนที่แสดงออก AI ทั่วไปอย่างแท้จริงเท่านั้นเมื่อมันสามารถโต้ตอบกับสิ่งแวดล้อมในลักษณะที่จะทำให้เรางงงวยในขณะที่ได้รับประโยชน์จากมันอย่างชัดเจน (ไม่ได้ตั้งใจ) ตอนนี้อาจจะค่อนข้างยากหรือใช้เวลานานดังนั้นเงื่อนไขที่ผ่อนคลายมากขึ้นก็คือการสร้างเครื่องมือที่เราคาดว่าจะสร้างขึ้นดังนั้นจึงแสดงให้เห็นถึงสภาพแวดล้อมของมันเอง ตัวอย่างเช่นหลักฐานของเรือถูกพบที่ไหนสักแห่งระหว่าง 100k และ 900k ปีที่แล้วซึ่งเป็นช่วงเวลาเดียวกันเมื่อมนุษย์เริ่มพัฒนา. อย่างไรก็ตามแม้ว่าเราจะคิดว่าตัวเองฉลาด แต่ฉันก็ไม่แน่ใจว่าเราจะพิจารณาตัวแทนการทำเรือให้มีความรู้ทั่วไปเพราะดูเหมือนจะเป็นสิ่งประดิษฐ์ที่ค่อนข้างง่าย แต่ฉันคิดว่าเราจะพอใจหลังจากการประดิษฐ์เช่นนี้สองสามอย่าง

ดังนั้นฉันคิดว่าเราต้องการซิมเหมือนกับโลกจริงๆแล้วมันซับซ้อนกว่าเกมมาก ด้วยประเภทรายการนับพันรายการหลายรายการของแต่ละรายการและมีระดับความเป็นอิสระเพียงพอที่จะโต้ตอบกับทุกสิ่ง ฉันยังคิดว่าเราต้องการบางสิ่งที่ดูคุ้นเคยเพื่อรับรู้ถึงตัวแทนใด ๆ ดังนั้นโลก 3 มิติที่ซับซ้อนและเหมือน minecraft จะเป็นโลกที่ง่ายที่สุดที่เราจะรู้จักการเกิดขึ้นของหน่วยสืบราชการลับทั่วไป

“ ปัญญาประดิษฐ์ทั่วไป” เป็นสิ่งที่แตกต่างจากตัวแทนซึ่งทำหน้าที่อย่างชาญฉลาดในสภาพแวดล้อม เพราะตามวรรณคดีตัวแทนดังกล่าวเรียกว่า "Narrow AI" ระบบ AGI คือสภาพแวดล้อม นั่นหมายถึงความท้าทายล่าสุดของ Micromouse คือระบบ AGI ซึ่งมีจุดประสงค์ในการพัฒนาระบบ AI แบบแคบ

การพัฒนา AGI เท่ากับการพัฒนาการแข่งขันหุ่นยนต์ มันเป็นระเบียบในหนังสือกฎและทำหน้าที่เป็นสภาพแวดล้อมในการเรียนรู้ซอฟต์แวร์โปรแกรมและหารือเกี่ยวกับผลลัพธ์ ไม่ว่าในกรณีใดระบบ AGI คือการแข่งขันทางสังคมซึ่งหมายความว่ามันน่าดึงดูดสำหรับทีมที่จะเข้าร่วมในการแข่งขัน AGI ไม่ตอบวิธีที่จะตระหนักถึงความฉลาด แต่เป็นการทดสอบวัด เรียกว่าสมองมนุษย์สถาปัตยกรรมความรู้ความเข้าใจและนักแก้ปัญหาทั่วไปไม่ได้พัฒนาเป็น AI ที่แคบสำหรับการทำหน้าที่อย่างชาญฉลาดพวกเขาได้รับการพัฒนาเป็นการทดสอบทัวริงสำหรับเครื่องที่ฉลาด

เราจะวัดด้วยโปรแกรมคอมพิวเตอร์ได้อย่างไรถ้าโปรแกรมคอมพิวเตอร์อื่นฉลาด? ความเป็นไปได้อย่างหนึ่งคือทฤษฎีการจำลองมนุษย์ นั่นหมายความว่าเรากำลังทดสอบว่าโปรแกรมคอมพิวเตอร์มีพฤติกรรมเหมือนมนุษย์หรือไม่และการทดสอบของทัวริงมีข้อผูกมัดในการทดสอบความจำระยะสั้นความจำระยะยาวและความสามารถในการเรียนรู้สิ่งใหม่ ในรูปแบบที่ง่ายที่สุดการทดสอบทัวริงสามารถทำได้ด้วยรูปแบบง่าย ๆ ซึ่งจะต้องกรอกเป็นมนุษย์ แต่ก็เป็นไปได้ที่จะนำมนุษย์ออกจากวงและใช้คอมพิวเตอร์เพื่อทดสอบความฉลาดของคอมพิวเตอร์เครื่องอื่น . นั่นคือจุดประสงค์ SOAR, OpenCog และ AIXI ได้รับการพัฒนา