คำถามที่บอกมันทั้งหมด
"การฝึกอบรมเครือข่ายประสาท" มีความหมายอย่างไร ใครสามารถอธิบายเป็นภาษาอังกฤษง่าย ๆ บริสุทธิ์
ฉันไม่สามารถค้นหาแหล่งข้อมูลที่เกี่ยวข้องได้ มันจะดีมากถ้ามีคนชี้ให้ฉันดู
คำตอบ:
วิธีปกติในการฝึกอบรมเครือข่าย:
คุณต้องการฝึกอบรมเครือข่ายประสาทเทียมเพื่อทำงาน (เช่นการจัดหมวดหมู่) ในชุดข้อมูล (เช่นชุดภาพ) คุณเริ่มการฝึกอบรมโดยเริ่มต้นน้ำหนักแบบสุ่ม ทันทีที่คุณเริ่มฝึกน้ำหนักจะเปลี่ยนแปลงเพื่อให้งานมีข้อผิดพลาดน้อยลง (เช่นปรับให้เหมาะสม) เมื่อคุณพอใจกับผลการฝึกอบรมแล้วคุณจะสามารถบันทึกน้ำหนักของเครือข่ายของคุณได้
ตอนนี้คุณมีความสนใจในการฝึกอบรมเครือข่ายเพื่อทำงานใหม่ (เช่นการตรวจจับวัตถุ) ในชุดข้อมูลอื่น (เช่นรูปภาพด้วย แต่ไม่เหมือนกับที่คุณเคยใช้มาก่อน) แทนที่จะทำซ้ำสิ่งที่คุณทำสำหรับเครือข่ายแรกและเริ่มต้นจากการฝึกด้วยน้ำหนักเริ่มต้นแบบสุ่มคุณสามารถใช้น้ำหนักที่คุณบันทึกไว้จากเครือข่ายก่อนหน้าเป็นค่าน้ำหนักเริ่มต้นสำหรับการทดสอบใหม่ของคุณ การเริ่มต้นน้ำหนักด้วยวิธีนี้เรียกว่าการใช้เครือข่ายที่ผ่านการฝึกอบรมมาล่วงหน้า เครือข่ายแรกคือเครือข่ายที่ผ่านการอบรมมาแล้วของคุณ เครือข่ายที่สองคือเครือข่ายที่คุณปรับจูน
แนวคิดที่อยู่เบื้องหลังการฝึกอบรมล่วงหน้าคือการเริ่มต้นแบบสุ่มคือ ... ดี ... สุ่มค่าของน้ำหนักนั้นไม่เกี่ยวข้องกับงานที่คุณกำลังพยายามแก้ไข ทำไมชุดของค่าควรมีค่าใดที่ดีกว่าอีกชุดหนึ่ง แต่คุณจะเริ่มต้นน้ำหนักได้ยังไง? หากคุณรู้วิธีการเริ่มต้นอย่างถูกต้องสำหรับงานคุณอาจตั้งค่าเหล่านั้นให้เป็นค่าที่เหมาะสม (เกินจริงเล็กน้อย) ไม่จำเป็นต้องฝึกอะไรเลย คุณมีทางออกที่ดีที่สุดสำหรับปัญหาของคุณ การฝึกอบรมล่วงหน้าจะทำให้เครือข่ายเริ่มต้นขึ้น ราวกับว่าเคยเห็นข้อมูลมาก่อน
สิ่งที่ต้องระวังเมื่อก่อนการฝึกอบรม:
ภารกิจแรกที่ใช้ในการฝึกอบรมล่วงหน้าเครือข่ายอาจเหมือนกับขั้นตอนการปรับจูน ชุดข้อมูลที่ใช้สำหรับการฝึกอบรมล่วงหน้าและการปรับจูนอาจเหมือนกัน แต่อาจแตกต่างกัน เป็นเรื่องที่น่าสนใจมากที่จะเห็นว่าการฝึกอบรมล่วงหน้าของงานที่แตกต่างกันและชุดข้อมูลที่แตกต่างกันยังคงสามารถถ่ายโอนไปยังชุดข้อมูลใหม่และงานใหม่ที่แตกต่างกันเล็กน้อย โดยทั่วไปแล้วการใช้เครือข่ายที่ผ่านการฝึกอบรมมาแล้วจะเหมาะสมถ้างานหรือชุดข้อมูลทั้งสองมีอะไรที่เหมือนกัน ช่องว่างที่ใหญ่กว่าการฝึกอบรมล่วงหน้าที่มีประสิทธิภาพจะน้อยลง การฝึกอบรมเครือข่ายเพื่อการจัดหมวดหมู่ภาพโดยใช้ข้อมูลทางการเงินก่อนเป็นเรื่องเล็กน้อย ในกรณีนี้มีการตัดการเชื่อมต่อมากเกินไประหว่างขั้นตอนการฝึกอบรมล่วงหน้าและการปรับจูนอย่างละเอียด
คำตอบสองข้อข้างต้นอธิบายได้ดี เพียงแค่ต้องการเพิ่มสิ่งที่ละเอียดอ่อนเกี่ยวกับการฝึกอบรมล่วงหน้าสำหรับ Deep Belief Nets (DBN) การฝึกอบรมล่วงหน้าสำหรับ DBN คือการเรียนรู้ที่ไม่ได้รับการดูแล (เช่นข้อมูลที่ไม่มีป้ายกำกับ) และการฝึกอบรมหลังจากนั้นจะเป็นการเรียนรู้แบบมีผู้สอน (เช่นข้อมูลที่มีป้ายกำกับ w /.)