การสูญเสียน้ำหนักคืออะไร?


11

ฉันเริ่มต้นด้วยการเรียนรู้อย่างลึกซึ้งและฉันมีคำถามที่คำตอบที่ฉันไม่สามารถหาได้บางทีฉันอาจค้นหาไม่ถูกต้อง ฉันได้เห็นคำตอบนี้แล้ว แต่ก็ยังไม่ชัดเจนว่าการลดลงของน้ำหนักคืออะไรและเกี่ยวข้องกับฟังก์ชั่นลดน้ำหนักอย่างไร

คำตอบ:


9

การลดน้ำหนักระบุการทำให้เป็นปกติในเครือข่ายประสาท

ในระหว่างการฝึกอบรมจะมีการเพิ่มคำศัพท์ให้กับการสูญเสียของเครือข่ายเพื่อคำนวณการไล่ระดับสี backpropagation weight decayค่ากำหนดวิธีการที่โดดเด่นในระยะนี้กูจะอยู่ในการคำนวณการไล่ระดับสี

ตามกฎง่ายๆคุณควรมีตัวอย่างการฝึกอบรมมากขึ้นเทอมที่อ่อนแอกว่านี้ควรจะเป็น พารามิเตอร์เพิ่มเติมที่คุณมีคำนี้ควรสูงกว่า

ดังนั้นการลดน้ำหนักจึงเป็นคำศัพท์ที่ทำให้น้ำหนักตัวใหญ่ เมื่อค่าสัมประสิทธิ์การสลายตัวของน้ำหนักมีขนาดใหญ่บทลงโทษสำหรับตุ้มน้ำหนักขนาดใหญ่ก็ใหญ่เมื่อมันเป็นตุ้มน้ำหนักขนาดเล็กที่สามารถเติบโตได้อย่างอิสระ

ดังนั้นตอนนี้ถ้าคุณกลับไปอ่านคำตอบที่คุณเชื่อมโยงกับคำถามของคุณตอนนี้มันก็สมเหตุสมผลแล้ว


1
ฉันคิดว่ามันเริ่มมีเหตุผล ... ขอบคุณ!
Pablo Arnau González
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.