เรียนรู้อย่างลึกซึ้งเทียบกับต้นไม้ตัดสินใจและวิธีการส่งเสริม

ฉันกำลังมองหาเอกสารหรือข้อความที่เปรียบเทียบและพูดคุย (ทั้งสังเกตุหรือในทางทฤษฎี):

• การเพิ่มและตัดสินใจอัลกอริธึมทรีของต้นไม้เช่นป่าสุ่มหรือAdaBoostและ GentleBoost นำไปใช้กับต้นไม้ตัดสินใจ

กับ

• วิธีการเรียนรู้อย่างลึกซึ้งเช่นเครื่องจักร Boltzmann ที่ จำกัด , หน่วยความจำชั่วคราวลำดับชั้น , เครือข่ายประสาทเทียม , ฯลฯ

มีใครรู้หรือไม่ว่าข้อความที่กล่าวถึงหรือเปรียบเทียบสองช่วงตึกของวิธีการ ML ในแง่ของความเร็วความแม่นยำหรือการลู่เข้า นอกจากนี้ฉันกำลังมองหาข้อความที่อธิบายหรือสรุปความแตกต่าง (เช่นข้อดีและข้อเสีย) ระหว่างแบบจำลองหรือวิธีการในบล็อกที่สอง

คำแนะนำหรือคำตอบใด ๆ เกี่ยวกับการเปรียบเทียบดังกล่าวโดยตรงจะได้รับการชื่นชมอย่างมาก

คุณสามารถระบุประเภทของข้อมูลที่คุณกำลังมองหาได้มากขึ้นหรือไม่? ส่วนนี้จะเป็นตัวกำหนดว่าอัลกอริทึมชนิดใดที่จะมาบรรจบกันเร็วที่สุด

ฉันยังไม่แน่ใจว่าจะเปรียบเทียบวิธีต่างๆเช่นการเพิ่มและ DL ได้อย่างไรเนื่องจากการเพิ่มประสิทธิภาพนั้นเป็นเพียงวิธีการรวบรวม คุณใช้อัลกอริธึมอื่นแบบใดกับการเพิ่มประสิทธิภาพ

โดยทั่วไปเทคนิค DL สามารถอธิบายเป็นเลเยอร์ของตัวเข้ารหัส / ตัวถอดรหัส Unsupervised pre-training ทำงานโดย pre-training แต่ละเลเยอร์โดยการเข้ารหัสสัญญาณถอดรหัสสัญญาณจากนั้นทำการวัดข้อผิดพลาดในการสร้างใหม่ การจูนนั้นสามารถใช้เพื่อให้ได้ประสิทธิภาพที่ดีขึ้น (เช่นถ้าคุณใช้ denoising stack-auto encoders คุณสามารถใช้ back-propagation)

จุดเริ่มต้นที่ดีสำหรับทฤษฎี DL คือ:

http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.73.795&rep=rep1&type=pdf

เช่นเดียวกับสิ่งเหล่านี้:

http://portal.acm.org/citation.cfm?id=1756025

(ขออภัยต้องลบลิงค์สุดท้ายเนื่องจากระบบการกรองสแปม)

ฉันไม่ได้รวมข้อมูลใด ๆ เกี่ยวกับ RBM แต่มีความเกี่ยวข้องอย่างใกล้ชิด (แม้ว่าเป็นการยากที่จะเข้าใจในตอนแรก)

เป็นคำถามที่ดี! ทั้งการส่งเสริมการปรับตัวและการเรียนรู้อย่างลึกซึ้งสามารถจัดเป็นเครือข่ายการเรียนรู้ที่น่าจะเป็น ความแตกต่างคือ "การเรียนรู้ลึก" โดยเฉพาะเกี่ยวข้องกับ "โครงข่ายประสาท" หนึ่งหรือมากกว่าในขณะที่ "ส่งเสริม" เป็น "อัลกอริทึมการเรียนรู้เมตา" ที่ต้องใช้หนึ่งหรือมากกว่าเครือข่ายการเรียนรู้ที่เรียกว่าอ่อนแอผู้เรียนซึ่งอาจเป็น "อะไร" (เช่น โครงข่ายประสาทเทียมต้นไม้ตัดสินใจ ฯลฯ ) อัลกอริธึมการส่งเสริมใช้เครือข่ายผู้เรียนที่อ่อนแออย่างน้อยหนึ่งเครือข่ายเพื่อสร้างสิ่งที่เรียกว่า "ผู้เรียนที่แข็งแกร่ง" ซึ่งสามารถ "เพิ่ม" ผลการเรียนรู้เครือข่ายโดยรวมอย่างมีนัยสำคัญ (เช่น Viola และ Jones Face Detector, OpenCV)