การวิจารณ์เกี่ยวกับประสิทธิภาพของ HTM ​​คืออะไร


16

ฉันเพิ่งเรียนรู้เกี่ยวกับการมีอยู่ของหน่วยความจำชั่วคราวเชิงลำดับชั้น (HTM)นี้ ฉันได้อ่านเอกสารลำดับชั้นของหน่วยความจำชั่วคราว: แนวคิดทฤษฎีและคำศัพท์ (โดย Jeff Hawkins และ Dileep George) ซึ่งดูเหมือนจะค่อนข้างง่ายต่อการเข้าใจ แต่ธงแดงหนึ่งคือเอกสารไม่ได้ผ่านการตรวจสอบโดยเพื่อนหรือพยายามอธิบายว่าทำไมจึงควร ทำงานในรายละเอียด

ฉันพยายามมองหาแหล่งข้อมูลอิสระบางแห่ง ฉันพบเอกสารสองสามฉบับที่เปรียบเทียบประสิทธิภาพกับเอกสารอื่น แต่ไม่มีใครอธิบายว่าทำไมจึงมีประสิทธิภาพดี (หรือไม่) ฉันสังเกตเห็นความคิดเห็นบางส่วนที่อ้างว่าถูกผู้เชี่ยวชาญด้านดูถูก แต่ฉันไม่สามารถหาคำวิจารณ์ที่แท้จริงได้

การวิจารณ์เกี่ยวกับประสิทธิภาพของ HTM ​​คืออะไร เนื่องจาก HTM มีความหมายว่าเป็นคำทั่วไปคำวิจารณ์เฉพาะโดเมนใด ๆ ควรเกี่ยวข้องกับปัญหาพื้นฐานมากขึ้น

นอกจากนี้ยังมีข้อมูลการฝึกอบรมจำนวนมากที่ใช้งานได้เพียงพอสำหรับการฝึกซ้อมหลายเดือน โดยทั่วไปการวิพากษ์วิจารณ์เกี่ยวกับขนาดหรือความยาวของการฝึกอบรมไม่เกี่ยวข้อง

คำตอบ:


6

บทวิจารณ์ต่อเจฟฟ์ฮอว์กินส์สรุปไว้ในบทความต่อไปนี้ซึ่งนำมาจาก http://www.theregister.co.uk/2014/03/29/hawkins_ai_feature/

ฉันเองเชื่อว่าทฤษฎี HTM มีศักยภาพมากและจะเป็นรากฐานของความฉลาดทางกลไกที่แท้จริง IBM เพิ่งประกาศสำรองทฤษฎี HTM และเริ่มต้น Cortical Learning Center รวมถึงสมาชิกหลายร้อยคน

http://www.technologyreview.com/news/536326/ibm-tests-mobile-computing-pioneers-controversial-brain-algorithms/

ดังที่ได้กล่าวไว้ในบทความนี้ Dillep George ผู้ร่วมก่อตั้ง Numenta ได้ทำการเริ่มต้น Vicarious ซึ่งดึงดูดเงินทุนจำนวนมากซึ่งความจริงนี้ชี้ให้เห็นศักยภาพของทฤษฎี HTM

ที่มา: การวิพากษ์วิจารณ์ Jeff Hawkins , The Register

ความเข้าใจในสื่อและความมั่นใจของเขาดูเหมือนจะกระตุ้นความรู้สึกไม่ดีในหมู่นักวิชาการคนอื่น ๆ ที่ชี้ให้เห็นอย่างถูกต้องว่าฮอว์กินส์ไม่ได้เผยแพร่อย่างกว้างขวางและเขาก็ไม่ได้คิดค้นแนวคิดมากมายด้วยตัวเอง

Numenta ก็มีปัญหาเช่นกันส่วนหนึ่งเป็นผลมาจากมุมมองที่แปลกประหลาดของ Hawkins เกี่ยวกับการทำงานของสมอง

ยกตัวอย่างเช่นในปี 2010 Numenta ผู้ร่วมก่อตั้ง Dileep George ออกจาก บริษัท ของเขาเองเพื่อหา Vicarious เพื่อเลือกผลไม้ที่แขวนอยู่ในทุ่งหญ้าที่มีแนวโน้มของ AI จากสิ่งที่เราเข้าใจการแยกกันเองนี้เกิดขึ้นจากความคิดเห็นที่แตกต่างระหว่างจอร์จกับฮอว์กินส์ขณะที่จอร์จมีแนวโน้มที่จะเข้าถึงวิธีการทางคณิตศาสตร์ที่มากขึ้นและฮอว์กินส์กับชีววิทยาที่มากกว่า

ฮอว์กินส์ก็เข้ามามีส่วนร่วมจากการใช้ปัญญากับศาสตราจารย์แกรี่มาร์คัสจิตวิทยา NYU ไม่สนใจแนวทางของ Numenta ใน New Yorker บทความพาดหัว Steamrolled โดย Big Data

นักวิชาการคนอื่น ๆ El Reg ให้สัมภาษณ์กับบทความนี้ไม่ต้องการอ้างถึงเนื่องจากพวกเขารู้สึกว่าการขาดเอกสารที่ผ่านการตรวจสอบจากเพื่อนร่วมงานของ Hawkins รวมกับบุคคลผู้ประกอบการของเขาลดความน่าเชื่อถือของวิธีการทั้งหมดของเขา

ฮอว์กินส์ปัดการวิพากษ์วิจารณ์เหล่านี้และเชื่อว่าพวกเขาลงความเห็นที่แตกต่างระหว่างเขากับกลุ่มปัญญาชน AI

“ สิ่งเหล่านี้เป็นระบบชีวภาพที่ซับซ้อนซึ่งไม่ได้ออกแบบโดยหลักการทางคณิตศาสตร์ [ที่] ยากมากที่จะทำให้เป็นทางการทั้งหมด” เขาบอกกับเรา


2

ฉันเรียน HTM มาระยะหนึ่งแล้ว มันเจ๋งนะ พฤติกรรมเริ่มต้นของ HTM ​​คือการวิเคราะห์ข้อมูลทางโลก ในทางกลับกันทุกวันนี้คุณจำเป็นต้องมีโครงข่ายประสาท "ที่น่าสนใจ" (เช่นเครือข่ายประสาทที่กำเริบ) เพื่อสร้างแบบจำลองปัญหาต่อเนื่องตามลำดับ (เช่น chatbot) แต่ HTM สามารถใช้กับปัญหาประเภทนี้ได้ตามธรรมชาติ!

ฉันกำลังวางแผนที่จะสร้างทีวีแบบอินเทอร์แอคทีฟด้วยข้อมูลการควบคุมที่ส่งด้วยข้อมูลภาพจากนั้น จำกัด ข้อมูลภาพให้เป็นข้อมูลการควบคุม (เป็นไปได้ แต่อย่าคาดหวังว่ามันจะฝันถึงวิดีโอใหม่ในทันที มันไม่ได้เกิดขึ้น) แต่ฉันต้องบอกว่าสิ่งที่เจ๋งที่สุดเกี่ยวกับมันคือวิดีโอที่คุณสอนด้วยจะไม่ออกมาเล่น แต่มันจะแสดงเวอร์ชั่นทั่วไปที่สุดซึ่งเป็นรูปแบบของความเข้าใจและทำให้เป็นจริง เย็น. ดังนั้นมันก็เหมือนกับความฝันที่คุณจะได้จากมัน

หากคุณใช้ HTM พร้อมข้อความ

  1. มันเก็บจดหมาย
  2. จากนั้นมันจะสร้างพยางค์
  3. จากนั้นจะใช้พยางค์เหล่านี้และก่อให้เกิดความสามัญออกมาจากสิ่งเหล่านี้
  4. จากนั้นมันจะสร้างคำจากพยางค์ทั่วไป
  5. จากนั้นก็ใช้คำเหล่านี้และกำหนดสิ่งที่พวกเขามีเหมือนกัน
  6. จากนั้นมันอาจจะเป็นคำที่ใหญ่กว่า
  7. จากนั้นมันจะรวมกลุ่มของคำ
  8. จากนั้นมันจะรวมกลุ่มของประโยค

ดังนั้นในแต่ละครั้งมันจะเพิ่มขึ้นในระดับมัน "ลืม" อีกเล็กน้อยเพื่อให้เข้ากับกลุ่มได้แน่นขึ้น กลุ่มที่ฝังแน่นเหล่านี้จะเล่นแตกต่างจากการบันทึกลงไปเล็กน้อย และการเล่นนี้ไม่ได้เห็นคนจำนวนมาก

ฉันสงสัยว่ามันเกิดขึ้นกับประโยคของตัวเองอย่างสมบูรณ์หรือไม่

มันทำให้ประโยคเติบโตช้าลงเล็กน้อยดีขึ้นมาก มันทำงานหนักกว่าที่จะไม่ลืมอะไรเลยเพียงแค่เล่นแผ่นเรียบ ๆ ฉันจะบอกว่ายิ่งประโยคของคุณช้าลงเท่าไหร่คุณก็ยิ่งทำได้ดีขึ้นเท่านั้นดังนั้นหากมีวิธีการหาแบบอย่างมากกว่านี้คุณควรทำเช่นนั้น


2
คำตอบนี้อย่างไร "การวิจารณ์เกี่ยวกับประสิทธิภาพของ HTM ​​คืออะไร"
Evil
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.