อะไรคือข้อบกพร่องในกรอบ AI ของ Jeff Hawkins?

ในปี 2547 เจฟฮอว์กินส์นักประดิษฐ์นักบินต้นปาล์มได้ตีพิมพ์หนังสือที่น่าสนใจมาก ๆ เรื่องหนึ่งที่เรียกว่าOn Intelligenceซึ่งเขามีรายละเอียดเกี่ยวกับทฤษฎีว่า neocortex ของมนุษย์ทำงานอย่างไร

ทฤษฎีนี้เรียกว่ากรอบการทำนายหน่วยความจำและมีคุณสมบัติที่โดดเด่นเช่นไม่เพียง แต่จากล่างขึ้นบน (feedforward) แต่ยังรวมถึงการประมวลผลข้อมูลจากบนลงล่างและความสามารถในการสร้างพร้อมกันในบทความนี้ )

คำมั่นสัญญาของกรอบการทำนายความทรงจำคือการสร้างตัวแทนระดับสูงที่มีเสถียรภาพของความเป็นไปได้ในอนาคต สิ่งที่จะปฏิวัติพื้นที่การวิจัย AI ทั้งหมด

Hawkins ก่อตั้งบริษัทและดำเนินการตามความคิดของเขา น่าเสียดายที่กว่าสิบปีต่อมาสัญญาของความคิดของเขายังคงไม่ได้ผล จนถึงขั้นตอนการติดตั้งใช้สำหรับการตรวจจับความผิดปกติเท่านั้นซึ่งเป็นสิ่งที่ตรงกันข้ามกับสิ่งที่คุณต้องการจะทำจริงๆ แทนที่จะแยกความเข้าใจออกคุณจะแยกอินสแตนซ์ที่เยื่อหุ้มสมองเทียมของคุณไม่เข้าใจ

คำถามของฉันอยู่ที่กรอบของ Hawkins สั้นเพียงใด ปัญหาที่เป็นรูปธรรมหรือแนวความคิดที่ป้องกันไม่ให้ทฤษฎีของเขาจากการทำงานในทางปฏิบัติคืออะไร?

คำตอบสั้น ๆ ก็คือวิสัยทัศน์ของฮอว์กินส์นั้นยังไม่สามารถนำไปใช้ได้ในวงกว้างโดยเฉพาะในส่วนที่ขาดไม่ได้ซึ่งเกี่ยวข้องกับการทำนาย

คำตอบที่ยาวนานคือฉันอ่านหนังสือของ Hawkins เมื่อไม่กี่ปีที่ผ่านมาและรู้สึกตื่นเต้นกับความเป็นไปได้ของหน่วยความจำแบบลำดับชั้น (HTM) ฉันยังเป็นฉันอยู่แม้ว่าจะมีการจองสักเล็กน้อยเกี่ยวกับเพลงปรัชญาบางส่วนของเขาเกี่ยวกับความหมายของสติความตั้งใจและหัวข้ออื่น ๆ ฉันจะไม่อธิบายรายละเอียดของความวิตกกังวลเหล่านี้ที่นี่เพราะพวกเขาไม่ได้มีความเกี่ยวข้องกับหลักเหตุผลที่ล้นหลามว่าทำไมอวน HTM จึงไม่ประสบความสำเร็จเท่าที่คาดไว้จนถึงปัจจุบัน: สำหรับความรู้ของฉัน Numenta พวกเขาละทิ้งสถาปัตยกรรมการทำนายส่วนใหญ่ซึ่งมีบทบาทสำคัญในทฤษฎีของฮอว์กินส์ Gerod M. Bonhoff วางไว้ในวิทยานิพนธ์ที่ยอดเยี่ยม1เกี่ยวกับ HTMs

การตัดสินใจออกแบบที่สำคัญที่สุดที่ Numenta นำมาใช้คือการกำจัดข้อเสนอแนะภายในลำดับชั้นและเลือกที่จะจำลองแนวคิดเชิงทฤษฎีนี้โดยใช้อัลกอริธึมการรวบรวมข้อมูลเพื่อการถ่วงน้ำหนักแทนเท่านั้น การตัดสินใจครั้งนี้ต้องสงสัยและละเมิดแนวคิดหลักของ HTM ข้อเสนอแนะของฮอว์กินยืนยันว่ามีความสำคัญต่อการทำงานของเยื่อหุ้มสมองและเป็นศูนย์กลางของทฤษฎีของเขา ถึงกระนั้น Numenta อ้างว่าปัญหาที่สามารถใช้งานได้กับ HTM ส่วนใหญ่สามารถแก้ไขได้ด้วยการใช้งานและอัลกอริทึมการรวมกำไรที่เป็นกรรมสิทธิ์

ฉันยังคงเรียนรู้เกี่ยวกับเชือกในสาขานี้และไม่สามารถบอกได้ว่า Numenta ได้ทิ้งวิธีการนี้เพื่อสนับสนุนการดำเนินการตามความคิดของ Hawkins โดยเฉพาะสถาปัตยกรรมการทำนายที่สำคัญทั้งหมดหรือไม่ แม้ว่าพวกเขาจะมีการตัดสินใจออกแบบนี้อาจล่าช้านำไปใช้เป็นเวลาหลายปี นั่นไม่ใช่คำวิจารณ์ต่อ se; บางทีค่าใช้จ่ายในการคำนวณการติดตามค่าการทำนายและการปรับปรุงพวกเขาในทันทีนั้นมากเกินกว่าที่จะแบกรับได้ในเวลาที่สูงกว่าค่าใช้จ่ายปกติของการประมวลผลอวนประสาททำให้พวกเขาไม่มีเส้นทางอื่นยกเว้นการทดลองครึ่งหนึ่ง กลไก อย่างไรก็ตามบทความวิจัยที่ดีที่สุดทั้งหมดที่ฉันได้อ่านในหัวข้อตั้งแต่นั้นเลือกที่จะปรับใช้อัลกอริทึมมากกว่าการพึ่งพาแพลตฟอร์ม Numenta โดยทั่วไปเป็นเพราะคุณสมบัติการทำนายที่ขาดหายไปรายงานทางเทคนิค Maltoni สำหรับมหาวิทยาลัย Bologna Biometric ระบบห้องปฏิบัติการ 2 อย่างไรก็ตามในทุกกรณีนั้นไม่มีซอฟต์แวร์ที่สามารถเข้าถึงได้อย่างง่ายดายสำหรับการวาง HTM ​​ที่แตกต่างของพวกเขาให้ใช้งานได้ทันที (เท่าที่ฉันรู้) แก่นแท้ของทั้งหมดนี้เป็นเช่นเดียวกับจุดสำคัญที่มีชื่อเสียงของ GK Chesterton เกี่ยวกับศาสนาคริสต์ "HTMs ยังไม่ได้ลองและพบว่าต้องการ; พวกเขาพบยากและไม่ได้ลอง" ตั้งแต่ Numenta ออกจากขั้นตอนการทำนายฉันคิดว่าพวกเขาจะเป็นบล็อกสะดุดหลักรอใครก็ตามที่ต้องการรหัสวิสัยทัศน์ที่สมบูรณ์แบบของ Hawkins เกี่ยวกับสิ่งที่ HTM ควรจะเป็น

1 Bonhoff, Gerod M. , 2008, การใช้หน่วยความจำชั่วคราวตามลำดับชั้นเพื่อตรวจจับกิจกรรมเครือข่ายที่ผิดปกติ นำเสนอในเดือนมีนาคม 2551 ที่สถาบันเทคโนโลยีกองทัพอากาศฐานทัพอากาศไรท์ - แพตเตอร์สันโอไฮโอ

2 Maltoni, Davide, 2011, การจดจำรูปแบบโดยหน่วยความจำชั่วคราวลำดับชั้น รายงานทางเทคนิค DEIS เผยแพร่เมื่อวันที่ 13 เมษายน 2011 ห้องปฏิบัติการระบบชีวภาพของมหาวิทยาลัยโบโลญญา: โบโลญญา, อิตาลี

10 ปีในการผลิตพร้อมหรือยัง?

ลองใส่ในมุมมอง Perceptron เปิดตัวในปีพ. ศ. 2500 มันไม่ได้เริ่มเป็นแบบอย่างที่ใช้งานได้จริงจนกว่าจะมีการเปิดตัวหนังสือ PDP ในปี 1986 สำหรับการรักษาคะแนน: 29 ​​ปี

จากหนังสือ PDP เราไม่เห็นว่าเป็นเครือข่ายลึกที่ใช้งานได้จนถึงทศวรรษที่ผ่านมา หากคุณใช้งานแอนดรูอึ้งและเจฟฟ์ดีนรับรู้ถึงภารกิจการกำหนดเครือข่ายอย่างลึกซึ้งนั่นคือปี 2555 นับเป็นเวลามากกว่า 25 ปีที่จะผลิตพร้อม

https://en.wikipedia.org/wiki/Timeline_of_machine_learning