จำนวนชั้นที่เหมาะสมที่สุดในโครงข่ายประสาทเทียม?

วิธีการตัดสินใจจำนวนเลเยอร์ที่เหมาะสมที่จะสร้างขึ้นในขณะที่ติดตั้ง Neural Network (Feedforward, back propagation หรือ RNN)

มีเทคนิคที่เรียกว่าPruningในโครงข่ายประสาทเทียมซึ่งใช้เพื่อจุดประสงค์เดียวกันนี้เท่านั้น

การตัดจะทำกับจำนวนเลเยอร์ที่ซ่อนอยู่ กระบวนการนี้คล้ายกับกระบวนการตัดแต่งกิ่งต้นไม้การตัดสินใจ กระบวนการตัดจะทำดังนี้:

• ฝึกอบรมเครือข่ายขนาดใหญ่เชื่อมต่ออย่างหนาแน่นด้วยอัลกอริทึมการฝึกอบรมมาตรฐาน
• ตรวจสอบเครือข่ายที่ผ่านการฝึกอบรมเพื่อประเมินความสำคัญของน้ำหนัก
• ลบน้ำหนักที่สำคัญที่สุด
• สั่งสอนขึ้นใหม่เครือข่าย pruned
• ทำซ้ำขั้นตอนที่ 2-4 จนกว่าจะพอใจ

อย่างไรก็ตามมีวิธีการที่เหมาะสมที่สุดสำหรับการตัดแต่งกิ่งอวนประสาทและยังเป็นพื้นที่การวิจัยที่ใช้งานมาก

คุณสามารถดูการเพิ่มประสิทธิภาพพารามิเตอร์ hypereses แบบเบส์เป็นวิธีทั่วไปของการเพิ่มประสิทธิภาพการสูญเสีย (หรืออะไรก็ได้) เป็นฟังก์ชั่นของพารามิเตอร์ แต่โปรดทราบว่าโดยทั่วไปเครือข่ายของคุณจะยิ่งดียิ่งขึ้นดังนั้นการเพิ่มประสิทธิภาพการสูญเสียเนื่องจากฟังก์ชั่นจำนวนเลเยอร์นั้นไม่ใช่เรื่องสนุกที่จะทำ

การค้นหากริดและสามัญสำนึกเล็กน้อย (เท่าที่เรียนรู้จากการดูตัวอย่างมากมาย) ควรเป็นทางออกที่ดีที่สุดของคุณ