แบบจำลอง (ของเล่น) ของโครงข่ายประสาทเทียม

อาจารย์ฟิสิกส์ของฉันในโรงเรียนระดับประถมศึกษาเช่นเดียวกับผู้ได้รับพระราชทานรางวัลไฟน์แมนมักจะนำเสนอสิ่งที่พวกเขาเรียกว่าแบบจำลองของเล่นเพื่อแสดงแนวคิดและวิธีการขั้นพื้นฐานในวิชาฟิสิกส์เช่นออสซิลเลเตอร์ออสซิลเลเตอร์, ลูกตุ้ม

โมเดลของเล่นใดที่ใช้เพื่อแสดงแนวคิดพื้นฐานและวิธีการพื้นฐานที่ประยุกต์ใช้กับโครงข่ายประสาทเทียม (โปรดอ้างอิง)

ด้วยแบบจำลองของเล่นฉันหมายถึงเครือข่ายที่เรียบง่ายและมีขนาดเล็กที่สุดที่ใช้กับปัญหาที่มีข้อ จำกัด สูงซึ่งวิธีการขั้นพื้นฐานสามารถนำเสนอและความเข้าใจของผู้ทดสอบและปรับปรุงผ่านการใช้งานจริงเช่นการสร้างรหัสพื้นฐาน การตรวจสอบคณิตศาสตร์พื้นฐานด้วยมือหรือได้รับความช่วยเหลือจากแอปคณิตศาสตร์สัญลักษณ์

หนึ่งในคลาสสิกที่สุดคือPerceptronใน 2 มิติซึ่งย้อนกลับไปในช่วงปี 1950 นี่เป็นตัวอย่างที่ดีเพราะมันเป็นแป้นยิงสำหรับเทคนิคที่ทันสมัยกว่า:

1) ไม่ใช่ทุกอย่างที่แยกได้เป็นเส้นตรง (ดังนั้นความต้องการการเปิดใช้งานแบบไม่เชิงเส้นหรือวิธีเคอร์เนลหลายเลเยอร์ ฯลฯ )

2) Perceptron จะไม่มาบรรจบกันหากข้อมูลนั้นไม่สามารถแบ่งแยกได้แบบเส้นตรง (การวัดแบบแยกอย่างต่อเนื่องเช่น softmax, อัตราการเรียนรู้การสลายตัว ฯลฯ )

3) ในขณะที่มีวิธีแก้ปัญหามากมายในการแยกข้อมูลมันชัดเจนว่าบางคนต้องการมากกว่าคนอื่น ๆ (แยกขอบเขตสูงสุด SVMs ฯลฯ )

สำหรับเครือข่ายประสาทหลายชั้นคุณอาจชอบตัวอย่างการจำแนกของเล่นที่มาพร้อมกับการสร้างภาพข้อมูลนี้

สำหรับ Convolutional ประสาทตาข่ายที่ MNIST เป็นมาตรฐานทองคำคลาสสิกด้วยการสร้างภาพที่น่ารักที่นี่และที่นี่

สำหรับ RNNs ปัญหาที่ง่ายมากที่พวกเขาสามารถแก้ไขได้คือการเติมเลขฐานสองซึ่งต้องใช้การจำ 4 รูปแบบ

1. ปัญหา XOR อาจเป็นปัญหาของเล่น ANN แบบบัญญัติ

   Richard Bland มิถุนายน 1998 มหาวิทยาลัยสเตอร์ลิงภาควิชาวิทยาศาสตร์คอมพิวเตอร์และคณิตศาสตร์รายงานทางเทคนิควิทยาศาสตร์คอมพิวเตอร์ " การเรียนรู้ XOR: การสำรวจอวกาศของปัญหาคลาสสิก "

2. TensorFlow สนามเด็กเล่นเป็นอินเตอร์เฟซแบบโต้ตอบเพื่อมุ้งของเล่นประสาทหลายแห่งรวมถึงแฮคเกอร์และเจลลิรลล์

3. การคำนวณค่าลักษณะเฉพาะที่ใหญ่ที่สุดของเมทริกซ์สมมาตรขนาดคงที่ (2x2 หรือ 3x3) คือสิ่งที่ฉันใช้ในการสาธิตในห้องเรียน

   A. Cichocki และ R. Unbehauen " เครือข่ายประสาทสำหรับการคำนวณค่าเฉพาะและ eigenvector " ชีววิทยาไซเบอร์เนติกส์ ธันวาคม 2535 เล่ม 68 ฉบับที่ 2, pp 155–164

ปัญหาเช่น MNIST นั้นเป็นที่ยอมรับอย่างแน่นอน แต่ไม่ได้รับการยืนยันด้วยมืออย่างง่ายดายเว้นแต่คุณจะมีเวลาว่างมหาศาล หรือเป็นรหัสพื้นฐานโดยเฉพาะอย่างยิ่ง

เท่าที่มีงาน NLP, ธนาคารต้นไม้เพนน์เป็นชุดข้อมูลมาตรฐานมาตรฐานที่ใช้ตัวอย่างเช่นในวอย Zaremba, Ilya Sutskever, Oriol Vinyals "การทำให้เป็นปกติของเครือข่ายประสาทซ้ำ " และเอกสารอื่น ๆ หลายร้อยรายการ

ฉันไม่รู้ของเล่นทางกายภาพ แต่ตัวอย่างที่ดีที่สุดที่ฉันรู้จักคือ AI หลายเลเยอร์ที่สร้างขึ้นโดยอัลกอริทึมทางพันธุกรรมเพื่อเล่น Super Mario Brothers ซอร์สโค้ดอยู่ในคำอธิบายวิดีโอ

MarI / O - การเรียนรู้ของเครื่องสำหรับวิดีโอเกม: https://www.youtube.com/watch?v=qv6UVOQ0F44