การเรียนรู้อย่างล้ำลึกอยู่ที่ไหนและเพราะเหตุใด


20

ด้วยการที่สื่อพูดคุยและโฆษณาเกี่ยวกับการเรียนรู้อย่างลึกซึ้งในทุกวันนี้ฉันได้อ่านสิ่งเบื้องต้นเกี่ยวกับมัน ฉันเพิ่งพบว่ามันเป็นเพียงวิธีการเรียนรู้ของเครื่องอีกวิธีหนึ่งในการเรียนรู้รูปแบบจากข้อมูล แต่คำถามของฉันคือ: ที่ไหนและทำไมวิธีการนี้ส่องแสง? ทำไมทุกคนพูดถึงมันตอนนี้? คือเอะอะทั้งหมดเกี่ยวกับอะไร?


4
ดูการบรรยาย youtube ของ Geoff Hinton และ Andrew Ng สำหรับภาพรวมอย่างง่ายว่าทำไมมันถึงดี
Jase

คำตอบ:


22

ประโยชน์หลักที่อ้างว่า:

(1)ไม่จำเป็นต้องส่งมอบคุณสมบัติวิศวกรสำหรับปัญหาการเรียนรู้ที่ไม่ใช่เชิงเส้น (ประหยัดเวลาและปรับขนาดได้ในอนาคตเนื่องจากวิศวกรรมมือบางคนมองว่าเป็นวงช่วยเหลือระยะสั้น)

(2)ฟีเจอร์ที่เรียนรู้บางครั้งดีกว่าฟีเจอร์ที่ได้รับการออกแบบด้วยมือที่ดีที่สุดและอาจซับซ้อน (การมองเห็นของคอมพิวเตอร์ - เช่นคุณสมบัติที่คล้ายกัน) ที่จะใช้เวลาในการสร้างวิศวกรมากเกินไป

(3)สามารถใช้ข้อมูลที่ไม่มีป้ายกำกับเพื่อฝึกอบรมเครือข่ายล่วงหน้า สมมติว่าเรามีภาพที่ไม่มีป้ายกำกับ 1000000 ภาพและมีป้ายกำกับ 1,000 ภาพ ตอนนี้เราสามารถปรับปรุงอัลกอริทึมการเรียนรู้ภายใต้การดูแลอย่างมากโดยการฝึกอบรมล่วงหน้าเกี่ยวกับภาพที่ไม่มีป้ายกำกับ 1000000 ภาพพร้อมการเรียนรู้ลึก นอกจากนี้ในบางโดเมนเรามีข้อมูลที่ไม่มีป้ายกำกับจำนวนมาก แต่ข้อมูลที่ติดป้ายกำกับนั้นหายาก อัลกอริทึมที่สามารถใช้ข้อมูลที่ไม่มีป้ายกำกับนี้เพื่อปรับปรุงการจำแนกประเภทมีค่า

(4)เชิงประจักษ์ทุบมาตรฐานมากมายที่ได้เห็นการปรับปรุงที่เพิ่มขึ้นจนกระทั่งการแนะนำวิธีการเรียนรู้ลึก

(5)อัลกอริทึมเดียวกันทำงานในหลายพื้นที่ด้วยอินพุต (อาจมีการประมวลผลล่วงหน้าเล็กน้อย)

(6) ยังคงปรับปรุงเนื่องจากมีการป้อนข้อมูลเพิ่มเติมในเครือข่าย (สมมติว่ามีการแจกแจงแบบคงที่และอื่น ๆ )


1

อีกจุดที่สำคัญนอกเหนือจากข้างต้น (ฉันไม่มีตัวแทนเพียงพอที่จะเพิ่มมันเป็นความคิดเห็น) ก็คือมันเป็นรูปแบบกำเนิด (อย่างน้อยความเชื่อตาข่ายอย่างน้อย) และทำให้คุณสามารถตัวอย่างจากการแจกแจงการเรียนรู้ - นี้สามารถ มีประโยชน์ที่สำคัญบางอย่างในแอปพลิเคชันบางอย่างที่คุณต้องการสร้างข้อมูลสังเคราะห์ที่สอดคล้องกับคลาส / กลุ่มที่เรียนรู้


1
นี่ไม่ใช่คุณสมบัติทั่วไปของการเรียนรู้เชิงลึก แต่เป็นตัวอย่างที่เป็นรูปธรรม เช่นคุณสามารถสุ่มตัวอย่างจาก Gaussian แต่ไม่ได้มาจากการถดถอยโลจิสติก นอกจากนี้คุณยังสามารถลองตัวอย่างจากรูปแบบการเรียนรู้ที่หลากหลายเช่นอวนความเชื่อลึกอย่างที่คุณพูดเครื่องลึก Boltzmann แบบจำลองแฝงแบบเกาส์แฝง ฯลฯ แต่คุณไม่สามารถลองตัวอย่างจาก drednets ซึ่งเป็นแบบจำลองที่ใช้ในสิ่งที่น่าประทับใจทั้งหมด การใช้งาน
bayerj

... ทำไมคุณไม่ลองตัวอย่างจากการถดถอยโลจิสติกส์?
Hong Ooi

พี(|x)

1
แต่สิ่งเดียวกันก็เป็นแบบจำลองการถดถอยแบบเกาส์เซียนถ้าคุณหมายถึงการถดถอยเชิงเส้นแบบพื้นฐาน
Hong Ooi
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.