ความสัมพันธ์ระหว่างอัตราการเรียนรู้และจำนวนเลเยอร์ที่ซ่อนอยู่?

มีกฎของหัวแม่มือระหว่างความลึกของเครือข่ายประสาทและอัตราการเรียนรู้หรือไม่? ฉันสังเกตเห็นว่ายิ่งเครือข่ายลึกเท่าไรอัตราการเรียนรู้ก็จะยิ่งต่ำลงเท่านั้น

หากถูกต้องทำไมถึงเป็นเช่นนั้น

คำถามนี้ได้รับการตอบที่นี่:

ด้วยเครือข่ายนิวรัลอัตราการเรียนรู้ควรเป็นสัดส่วนกับขนาดเลเยอร์ที่ซ่อนอยู่หรือไม่? พวกเขาควรส่งผลกระทบต่อกันหรือไม่?

คำตอบสั้น ๆ คือใช่มีความสัมพันธ์ แม้ว่าความสัมพันธ์จะไม่ได้เป็นเรื่องเล็กน้อย แต่ทั้งหมดนี้ฉันสามารถบอกคุณได้ว่าสิ่งที่คุณเห็นคือเนื่องจากพื้นผิวการปรับให้เหมาะสมมีความซับซ้อนมากขึ้นเมื่อจำนวนเลเยอร์ที่ซ่อนอยู่เพิ่มขึ้นดังนั้นอัตราการเรียนรู้ที่น้อยลง ในขณะที่ติดอยู่ในจุดต่ำสุดในท้องถิ่นเป็นไปได้ที่มีอัตราการเรียนรู้ต่ำ แต่ดีกว่าพื้นผิวที่ซับซ้อนและอัตราการเรียนรู้สูงมาก