ความแตกต่างระหว่างโครงข่ายประสาทและการเรียนรู้อย่างลึกซึ้ง


10

ในแง่ของความแตกต่างระหว่างโครงข่ายประสาทและการเรียนรู้เชิงลึกเราสามารถแสดงรายการได้หลายรายการเช่นมีเลเยอร์เพิ่มขึ้นชุดข้อมูลขนาดใหญ่ฮาร์ดแวร์คอมพิวเตอร์ทรงพลังเพื่อให้การฝึกอบรมมีความซับซ้อน

นอกจากนี้มีคำอธิบายรายละเอียดเพิ่มเติมเกี่ยวกับความแตกต่างระหว่าง NN และ DL หรือไม่?


3
เท่าที่ฉันรู้เพียงแค่มีเลเยอร์ที่ซ่อนอยู่หลายแห่งก็เพียงพอที่จะสร้างเครือข่าย "ที่ลึกล้ำ" ข้อมูลที่มากขึ้นและคอมพิวเตอร์ขนาดใหญ่เป็นอาการของความพร้อมใช้งานที่เพิ่มขึ้นของทั้งสองสำหรับงานการเรียนรู้ของเครื่อง
Sycorax พูดว่า Reinstate Monica

บางทีคำถามนี้ควรถูกย้ายไปยังการแลกเปลี่ยนปัญญาประดิษฐ์แบบใหม่หรือไม่?
WilliamKF

2
@WilliamKF นี่เป็นหัวข้ออย่างตรงไปตรงมาที่นี่
Sycorax พูดว่า Reinstate Monica

คำตอบ:


7

การเรียนรู้ลึก = เครือข่ายประสาทเทียมลึก + แบบจำลองชนิดลึกอื่น

โครงข่ายประสาทเทียมระดับลึก = เครือข่ายประสาทเทียมที่มีชั้นมากกว่า 1 ชั้น (ดูจำนวนเลเยอร์ขั้นต่ำในเครือข่ายประสาทลึก )


4

Frank Dernoncourt มีคำตอบสำหรับวัตถุประสงค์ทั่วไปที่ดีกว่า แต่ฉันคิดว่ามันคุ้มค่าที่จะพูดถึงว่าเมื่อผู้คนใช้คำว่า "การเรียนรู้ลึก" ในวงกว้างพวกเขามักจะใช้เทคนิคล่าสุดเช่นการบิดที่คุณไม่พบ (เชื่อมต่อทั้งหมด) เครือข่ายประสาท สำหรับปัญหาการจดจำรูปภาพ Convolution สามารถเปิดใช้งานเครือข่ายประสาทที่ลึกกว่าเนื่องจากเซลล์ / ฟิลเตอร์ที่ซับซ้อนช่วยลดความเสี่ยงของการเกิด overfitting บ้างโดยการแบ่งปันน้ำหนัก


1

โครงข่ายประสาทเทียมที่มีเลเยอร์จำนวนมากเป็นสถาปัตยกรรมที่ลึกล้ำ

อย่างไรก็ตามอัลกอริทึมการเรียนรู้ backpropagation ที่ใช้ในเครือข่ายนิวรัลนั้นทำงานได้ไม่ดีเมื่อเครือข่ายลึกมาก สถาปัตยกรรมการเรียนรู้ในสถาปัตยกรรมระดับลึก ("การเรียนรู้ลึก") ต้องกล่าวถึงสิ่งนี้ ตัวอย่างเช่นเครื่อง Boltzmann ใช้อัลกอริทึมการเรียนรู้แบบตัดกันแทน

มากับสถาปัตยกรรมที่ลึกเป็นเรื่องง่าย การหาอัลกอริทึมการเรียนรู้ที่ใช้งานได้ดีสำหรับสถาปัตยกรรมเชิงลึกนั้นพิสูจน์ได้ยาก


แต่ดูเหมือนว่าอัลกอริทึมการ backpropagation ยังคงใช้ในการฝึกอบรม conv net และ recurrent net แม้ว่าพวกเขาจะใช้ประโยชน์จากเทคนิคการเพิ่มประสิทธิภาพเชิงตัวเลขที่พัฒนาขึ้นใหม่บางอย่างเช่นการทำให้เป็นมาตรฐานแบบแบตช์
user3269

@ user3269 การทำให้เป็นมาตรฐานและการดรอปเอาท์เป็นตัวอย่างของการแก้ไขอัลกอริทึมการเรียนรู้เพื่อพยายามทำให้มันทำงานได้ดีในสถาปัตยกรรมที่ลึก
Neil G

0

การเรียนรู้ลึกต้องใช้โครงข่ายประสาทเทียมที่มีหลายเลเยอร์ - แต่ละเลเยอร์ทำการแปลงทางคณิตศาสตร์และป้อนเข้าไปในเลเยอร์ถัดไป เอาต์พุตจากเลเยอร์สุดท้ายคือการตัดสินใจของเครือข่ายสำหรับอินพุตที่กำหนด เลเยอร์ระหว่างเลเยอร์อินพุตและเอาต์พุตเรียกว่าเลเยอร์ที่ซ่อนอยู่

เครือข่ายนิวรัลการเรียนรู้อย่างลึกซึ้งคือคอลเล็กชั่น perceptrons ที่เชื่อมต่อกันเป็นชั้น ๆ น้ำหนักและอคติของ perceptron แต่ละตัวในเครือข่ายมีอิทธิพลต่อธรรมชาติของการตัดสินใจส่งออกของเครือข่ายทั้งหมด ในเครือข่ายประสาทที่ปรับได้อย่างสมบูรณ์ค่าของน้ำหนักและอคติของ perceptron ทั้งหมดนั้นจะทำให้การตัดสินใจเอาต์พุตนั้นถูกต้องเสมอ (ตามที่คาดไว้) สำหรับอินพุตที่เป็นไปได้ทั้งหมด น้ำหนักและอคติมีการกำหนดค่าอย่างไร สิ่งนี้เกิดขึ้นซ้ำ ๆ ในระหว่างการฝึกอบรมเครือข่าย - เรียกว่าการเรียนรู้ลึก (Sharad Gandhi)

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.