เครื่อง Boltzmann ที่ จำกัด : มันถูกใช้ในการเรียนรู้ของเครื่องได้อย่างไร?


21

พื้นหลัง:

ใช่เครื่อง Boltzmann ที่ จำกัด (RBM) สามารถใช้เพื่อเริ่มต้นน้ำหนักของเครือข่ายประสาท นอกจากนี้ยังสามารถนำมาใช้ในวิธี "เลเยอร์โดยชั้น" เพื่อสร้างเครือข่ายความเชื่อลึก(นั่นคือเพื่อฝึกอบรมเลเยอร์ th ด้านบนของ - ชั้นที่แล้วจากนั้นในการฝึกอบรมชั้น -th ด้านบนของชั้น -th ล้างและทำซ้ำ ... n(n-1)n+1n)

เกี่ยวกับวิธีการใช้ RBM รายละเอียดสามารถพบได้จากเธรดการ สอนที่ดีสำหรับเครื่อง Boltzmann (RBM)ที่ จำกัด ซึ่งสามารถหาเอกสารและแบบฝึกหัดได้

คำถามของฉันจะเป็น:

  • RBM ใช้จริง ๆ ในโครงการอุตสาหกรรมหรือโครงการวิชาการหรือไม่
  • ถ้าใช่มีการใช้งานอย่างไรและโครงการใด
  • มีห้องสมุดยอดนิยมใด ๆ (เช่น tensorflow, Caffe, Theono และอื่น ๆ ) มีโมดูล RBM หรือไม่?

ขอบคุณสำหรับการแบ่งปัน. ฉันต้องการทราบว่า RBM มีประโยชน์จริง ๆ ในทางปฏิบัติหรือไม่

คำตอบ:


2

RBM เป็นหนึ่งในวิธีแรกในการฝึกฝน / เรียนรู้เครือข่ายที่ลึกล้ำมีมากกว่าหนึ่งหรือสองชั้น และเครือข่ายความเชื่อที่ลึกซึ้งถูกเสนอโดยเจฟฟรีย์ฮินตันผู้ซึ่งได้รับการยกย่องให้เป็นหนึ่งใน 'บิดาแห่งการเรียนรู้อย่างลึกล้ำฉันคิดว่าถึงแม้ Yann LeCun จะเป็น' บิดา 'ของอีกคนหนึ่ง แน่นอนว่าทุกอย่างถูกประดิษฐ์ขึ้นเมื่อหลายปีก่อนโดย Jurgen Schmidhuber :-)

ดังนั้น RBMs มีชื่อเสียงเพราะ 1. หนึ่งในวิธีแรก ๆ ในการเรียนรู้อย่างลึกซึ้ง 2. Geoffrey Hinton

อย่างไรก็ตามในทางปฏิบัติพวกเขาถูกนำมาใช้อย่างแน่นอนและเป็นประโยชน์ในการวิจัยเชิงวิชาการเนื่องจากมีผู้คนจำนวนมากที่พยายามค้นหาช่องที่ไม่ซ้ำกันซึ่งพวกเขาสามารถเป็นผู้เชี่ยวชาญและเป็นผู้เชี่ยวชาญระดับโลกในช่องของ RBMs เป็นสิ่งที่ดี ซอกเป็น ๆ ๆ อย่างไรก็ตามในทางปฏิบัติในอุตสาหกรรมในขณะที่ฉันจะไม่อ้างว่าพวกเขาไม่เคยใช้ แต่พวกเขามาไม่ค่อยมาก มีเทคนิคมาตรฐานจำนวนมากที่ฝึกได้อย่างรวดเร็วและง่ายดายเช่นการถดถอยโลจิสติกและเครือข่ายประสาทเทียมไปข้างหน้า สำหรับสิ่งที่ไม่ได้รับการดูแลอย่าง GAN นั้นได้รับความนิยมในขณะนี้


1

เป็นไปได้ที่จะใช้ RBM เพื่อจัดการกับปัญหาทั่วไปที่เกิดขึ้นในการรวบรวมข้อมูล (ซึ่งสามารถใช้เป็นตัวอย่างในการฝึกอบรมรูปแบบการเรียนรู้ของเครื่อง) ปัญหาดังกล่าวรวมถึงชุดข้อมูลที่ไม่สมดุล (ในปัญหาการจำแนกประเภท) หรือชุดข้อมูลที่มีค่าขาดหายไป (ไม่ทราบค่าของคุณสมบัติบางอย่าง) ในกรณีแรกเป็นไปได้ที่จะฝึก RBM ด้วยข้อมูลจากคลาสของชนกลุ่มน้อยและใช้มันเพื่อสร้างตัวอย่างสำหรับคลาสนี้ในขณะที่ในกรณีที่สองมันเป็นไปได้ที่จะฝึก RBM แยกต่างหากสำหรับแต่ละคลาสและเปิดเผยค่าคุณสมบัติที่ไม่รู้จัก

อีกแอปพลิเคชันทั่วไปของ RBMs คือการกรองการทำงานร่วมกัน ( http://dl.acm.org/citation.cfm?id=1273596 )

เท่าที่ห้องสมุดยอดนิยมมีความกังวลฉันคิดว่า deeplearning4j เป็นตัวอย่างที่ดี ( http://deeplearning4j.org )

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.