การแสดงการฝึกอบรมโครงข่ายประสาทเทียมเชิงลึก


13

ฉันกำลังพยายามหา Hinton Diagrams ที่เทียบเท่าสำหรับเครือข่ายหลายชั้นเพื่อวางแผนน้ำหนักในระหว่างการฝึก

เครือข่ายที่ได้รับการฝึกอบรมจะค่อนข้างคล้ายกับ Deep SRN นั่นคือมันมีการฝึกอบรมน้ำหนักหลายอย่างซึ่งจะทำให้พล็อต Hinton Diagrams หลาย ๆ ภาพพร้อมกันสับสน

ไม่มีใครรู้วิธีที่ดีในการมองเห็นกระบวนการปรับปรุงน้ำหนักสำหรับเครือข่ายที่เกิดซ้ำที่มีหลายเลเยอร์

ฉันไม่พบเอกสารจำนวนมากในหัวข้อ ฉันกำลังคิดที่จะแสดงข้อมูลเกี่ยวกับเวลาเกี่ยวกับน้ำหนักต่อเลเยอร์แทนหากฉันไม่สามารถหาอะไรได้ เช่น Weight-delta เมื่อเวลาผ่านไปสำหรับแต่ละเลเยอร์ (ไม่ใช้การเชื่อมต่อทุกครั้ง) PCA เป็นไปได้อีกอย่างหนึ่ง แต่ฉันไม่ต้องการสร้างการคำนวณเพิ่มเติมเนื่องจากการสร้างภาพข้อมูลออนไลน์ในระหว่างการฝึกอบรม

คำตอบ:


10

สิ่งปิดที่ฉันรู้คือConvNetJS :

ConvNetJS เป็นห้องสมุด Javascript สำหรับการฝึกอบรมรูปแบบการเรียนรู้ลึก (ส่วนใหญ่เป็นโครงข่ายประสาทเทียม) ทั้งหมดในเบราว์เซอร์ของคุณ เปิดแท็บและคุณกำลังฝึก ไม่มีข้อกำหนดของซอฟต์แวร์ไม่มีคอมไพเลอร์ไม่มีการติดตั้งไม่มี GPUs ไม่มีเหงื่อ

การสาธิตเกี่ยวกับพล็อตไซต์นี้มีน้ำหนักและวิธีการเปลี่ยนแปลงตามเวลา (โปรดจำไว้ว่าพารามิเตอร์หลายตัวเนื่องจากเครือข่ายที่ใช้งานจริงมีเซลล์ประสาทจำนวนมาก) นอกจากนี้หากคุณไม่พอใจกับการวางแผนของพวกเขามีการเข้าถึงพารามิเตอร์เครือข่ายและคุณสามารถพล็อตตามที่คุณต้องการ (เนื่องจากเป็น JavaScript)


ขอบคุณ! น่าสนใจพอพวกเขาเลือกใช้ Hinton Diagrams หลายตัวเพื่อวางแผนน้ำหนักของพวกเขา ฉันยังคิดว่ามันยากที่จะแปลความหมายทันทีที่คุณมีเลเยอร์ / การเชื่อมต่อมากเกินไป แต่ก็เป็นการดีที่จะเห็นมันทำงานอย่างน้อย
runDOSrun

5

จากความเข้าใจคร่าวๆของหัวข้อที่เกี่ยวข้องกับคำถามของคุณฉันคิดว่าGephi ( https://gephi.github.io ; ลิงค์ gephi.org ดั้งเดิมที่เปลี่ยนเส้นทางไปที่นั่น) ควรจะสามารถจัดการกับการสร้างภาพไดนามิกของเครือข่ายประสาทได้ ดูเหมือนว่าเพื่อให้บรรลุเป้าหมายของคุณคุณต้องสตรีมกราฟของคุณด้วยน้ำหนักที่สอดคล้องกัน ( https://forum.gephi.org/viewtopic.php?t=1875 ) สำหรับการสตรีมมิ่งคุณมักจะต้องนี้plug-in ที่ : https://marketplace.gephi.org/plugin/graph-streaming

UPDATE : คุณยังอาจพบว่าซอฟแวร์ที่มีประโยชน์ Sonia: http://web.stanford.edu/group/sonia


1
ความคิดที่น่าสนใจมาก! จริงๆแล้วการแสดงภาพตาข่ายลึก ๆ เหมือนเครือข่ายสังคมออนไลน์เป็นสิ่งที่ฉันไม่ได้คิด ความแตกต่างที่สำคัญระหว่างตัวแบบคือกราฟข้อมูลเหล่านี้ในโหนดของมันในขณะที่เครือข่ายประสาทเทียมทำในการเชื่อมต่อ แต่มันสามารถแก้ไขได้เช่นโดยการตั้งค่าโหนดเครือข่ายสังคมเป็นน้ำหนักการเชื่อมต่อขาออกของเครือข่ายประสาท
runDOSrun

ฉันดีใจที่คุณชอบความคิด อย่าลังเลที่จะโหวต / ยอมรับ และอย่าลืมทบทวนซอฟต์แวร์ SoNIA พร้อมลิงค์ที่ฉันเพิ่งอัพเดตคำตอบของฉัน สุดท้ายหากคุณใช้ (หรือวางแผนที่จะใช้) R, นี่อีกข้อมูลที่น่าสนใจที่เกี่ยวข้องสำหรับคุณ: sna.stanford.edu/rlabs.php
Aleksandr Blekh
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.