อะไรคือองค์ประกอบที่จำเป็นในการทำให้เอเจนต์ที่สามารถเขียนโปรแกรมด้วยตนเองได้


9

ตัวแทน AI มักจะคิดว่ามี "เซ็นเซอร์" "หน่วยความจำ" "หน่วยประมวลผลการเรียนรู้เครื่อง" และ "ปฏิกิริยา" อย่างไรก็ตามเครื่องที่มีสิ่งเหล่านี้ไม่จำเป็นต้องกลายเป็นเอเจนต์การโปรแกรมด้วยตนเอง นอกเหนือจากส่วนที่กล่าวถึงข้างต้นมีองค์ประกอบหรือรายละเอียดอื่น ๆ ที่จำเป็นในการทำให้เครื่องสามารถเป็นตัวแทน AI แบบตั้งโปรแกรมเองได้หรือไม่?

ตัวอย่างเช่นกระดาษจาก 2011ประกาศว่าการแก้ปัญหาการเพิ่มประสิทธิภาพของการเพิ่มความฉลาดเป็นคุณสมบัติที่ต้องมีสำหรับกระบวนการเขียนโปรแกรมด้วยตนเองดังที่แสดงด้านล่าง:

ระบบบอกว่าจะทำตัวอย่างของการเขียนโปรแกรมด้วยตนเองเมื่อได้รับการเรียนรู้เกี่ยวกับองค์ประกอบของ "โครงสร้างพื้นฐานทางปัญญา" บางส่วนของมันซึ่งหลังถูกกำหนดให้เป็นชุดของคุณสมบัติ "ปัญญา - วิกฤติ" ที่คลุมเครือของระบบ; และความสำคัญของข่าวกรองของคุณลักษณะของระบบนั้นถูกกำหนดให้เป็น "คุณสมบัติของคุณลักษณะ" ซึ่งพิจารณาจากมุมมองของการแก้ปัญหาการหาค่าเหมาะที่สุดเพื่อเพิ่มความฉลาดของระบบมัลติฟีเจอร์ให้สูงสุด

อย่างไรก็ตามคำอธิบายของ "การเพิ่มประสิทธิภาพของความฉลาด" นี้ไม่ชัดเจน ใครสามารถให้คำจำกัดความที่ชัดเจนหรือสรุปที่ดีกว่าสำหรับองค์ประกอบที่จำเป็นสำหรับตัวแทนการเขียนโปรแกรมด้วยตนเอง?

คำถามนี้มาจากเบต้าปิดปี 2014 โดยผู้ถามมี UID 23


3
นี่เป็นคำพูดสุดท้ายในการเพิ่มประสิทธิภาพตนเอง: arxiv.org/abs/cs/0309048
NietzscheanAI

ขอบคุณสำหรับการฟื้นฟูเนื้อหาที่สูญหายและดีในเบต้าที่หายไป :-)
peterh - Reinstate Monica

คำตอบ:


5

ในระดับสูงสุดสิ่งที่จำเป็นสำหรับระบบต่าง ๆ ที่กล่าวถึงแล้วเพื่อรวมวัตถุรหัส ถ้ามันสามารถตีความซอร์สโค้ด / โมเดลสถาปัตยกรรมจากวัตถุข้อความที่จัดรูปแบบที่สนับสนุนพวกเขาสามารถ 'เข้าใจ' พวกเขาในแง่ของการมีโมเดล ML ที่มีประโยชน์และแก้ไขโค้ดด้วยปฏิกิริยาของมันจากนั้นมันสามารถโปรแกรมเอง

นั่นคือการวนรอบพื้นฐานที่อยู่เบื้องหลังสติปัญญาที่พัฒนาซ้ำ ๆ นั้นง่าย ตรวจสอบตัวเองเขียนเวอร์ชันใหม่แล้วตรวจสอบเวอร์ชั่นใหม่และเขียนเวอร์ชันใหม่และอื่น ๆ

องค์ประกอบที่ยากมาอยู่ในระดับที่ต่ำกว่า เราไม่จำเป็นต้องคิดค้นแนวคิดใหม่เช่น 'เซ็นเซอร์' สิ่งที่เราต้องทำคือสร้างเซ็นเซอร์ที่ซับซ้อนมาก ๆ ซึ่งมีค่าเท่ากับภาระงานของการทำความเข้าใจโค้ดดีพอที่จะตรวจจับและเขียนการปรับปรุง


2
แม้ว่าเข่าเหวี่ยงคอมพิวเตอร์ปฏิกิริยาวิทยาศาสตร์งบเกี่ยวกับระบบที่เข้าใจรหัสของตัวเองมักจะเป็นเพื่ออ้างอิงลังเลปัญหาก็ปรากฎว่าแนวทางของ AI จะมีบางสิ่งบางอย่างที่เป็นประโยชน์ที่จะพูดเกี่ยวกับว่า: cs.stackexchange.com/questions/62393/ …
NietzscheanAI

3
ขวาลังเลปัญหาคือไม่มีไปทฤษฎีบทอย่างเต็มที่ในการทำความเข้าใจเป็นไปได้ทั้งหมดรหัส แต่ไม่ได้หยุดหนึ่งจากการมีความเข้าใจที่ดีของรหัสที่มากที่สุดที่คุณจริงเจอ
Matthew Graves

ปัญหาการหยุดชะงักจริง ๆ แล้วใช้กับ 'การเปลี่ยนเครื่องจักร' เท่านั้นซึ่งเป็นโครงสร้างทางคณิตศาสตร์ล้วนๆที่ไม่มีอยู่จริง (พวกเขาต้องการเทปที่ไม่มีที่สิ้นสุดสำหรับหน่วยความจำที่ไม่ จำกัด ตัวอย่าง) และสามารถทำงานได้ในเวลาไม่ จำกัด คอมพิวเตอร์ในโลกแห่งความจริงมีหน่วยความจำ จำกัด มีวิธีการเขียนซอฟต์แวร์ที่สามารถตรวจสอบได้อย่างเป็นทางการ (Idris, Coq) ใช้ประเภทขึ้นอยู่กับ จำกัด ขนาดของอาร์เรย์ (เช่น <จำนวนหรือ RAM) ไม่อนุญาตให้โปรแกรมแก้ไขตัวเองในหน่วยความจำในลักษณะที่อาจละเมิดหลักฐานอย่างเป็นทางการ ไม่มีลูปไม่มีที่สิ้นสุด ไม่มีการวนซ้ำไบต์ / หารด้วยศูนย์ ฯลฯ ...
David C. Bishop
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.