อะไรทำให้เครือข่ายประสาทเทียมดีในการทำนาย

ฉันยังใหม่กับเครือข่ายประสาทและฉันพยายามที่จะเข้าใจทางคณิตศาสตร์สิ่งที่ทำให้เครือข่ายประสาทดีในการจำแนกปัญหา

โดยการใช้ตัวอย่างของโครงข่ายประสาทขนาดเล็ก (ตัวอย่างเช่นหนึ่งที่มี 2 อินพุต 2 โหนดในเลเยอร์ที่ซ่อนอยู่และ 2 โหนดสำหรับเอาท์พุท) สิ่งที่คุณมีคือฟังก์ชั่นที่ซับซ้อนที่เอาต์พุตซึ่ง sigmoid ส่วนใหญ่เป็นชุดเชิงเส้น ของ sigmoid

ดังนั้นวิธีที่ทำให้พวกเขาดีในการทำนาย? ฟังก์ชั่นสุดท้ายนำไปสู่การปรับตัวของเส้นโค้งบางอย่าง?

โครงข่ายประสาทเทียมนั้นดีในการจำแนก ในบางสถานการณ์ที่เกิดขึ้นกับการทำนาย แต่ไม่จำเป็น

เหตุผลทางคณิตศาสตร์สำหรับความกล้าหาญของเครือข่ายประสาทที่แบ่งเป็นทฤษฎีบทประมาณสากล ซึ่งระบุว่าเครือข่ายประสาทสามารถประมาณฟังก์ชั่นค่าจริงต่อเนื่องใด ๆ ในส่วนย่อยที่มีขนาดกะทัดรัด คุณภาพของการประมาณขึ้นอยู่กับจำนวนของเซลล์ประสาท นอกจากนี้ยังแสดงให้เห็นว่าการเพิ่มเซลล์ประสาทในเลเยอร์เพิ่มเติมแทนที่จะเพิ่มเข้าไปในเลเยอร์ที่มีอยู่จะช่วยปรับปรุงคุณภาพของการประมาณได้เร็วขึ้น

เพิ่มไปที่ประสิทธิภาพของอัลกอริทึมbackpropagationที่ไม่เข้าใจเป็นอย่างดีและคุณมีการตั้งค่าจากนั้นคุณสามารถเรียนรู้ฟังก์ชั่นที่ UAT สัญญาหรือสิ่งที่ใกล้เคียงจริง ๆ

ใน Neural Networks เราพิจารณาทุกอย่างในมิติที่สูงและพยายามหาไฮเปอร์เพลนที่จำแนกพวกมันจากการเปลี่ยนแปลงเล็กน้อย ...

อาจเป็นเรื่องยากที่จะพิสูจน์ว่ามันใช้งานได้ แต่สัญชาตญาณบอกว่ามันสามารถจำแนกคุณสามารถทำได้โดยการเพิ่มระนาบที่ผ่อนคลายและปล่อยให้มันเคลื่อนที่ไปมาท่ามกลางข้อมูลเพื่อหาสิ่งที่ดีที่สุดในท้องถิ่น ...

ด้วย Neural Networks คุณเพียงแค่จำแนกข้อมูล หากคุณจำแนกอย่างถูกต้องเพื่อให้คุณสามารถจัดประเภทในอนาคต

มันทำงานอย่างไร?

โครงข่ายประสาทอย่างง่ายเช่น Perceptron สามารถวาดขอบเขตการตัดสินใจหนึ่งขอบเขตเพื่อจัดประเภทข้อมูล

ตัวอย่างเช่นสมมติว่าคุณต้องการแก้ปัญหาอย่างง่ายและมีปัญหากับ Neural Network คุณมีข้อมูลตัวอย่าง 4 ชุดที่มี x1 และ x2 และน้ำหนักเวกเตอร์ที่มี w1 และ w2 สมมติว่าเวกเตอร์น้ำหนักเริ่มต้นคือ [0 0] ถ้าคุณทำการคำนวณซึ่งขึ้นกับ NN algoritm ในตอนท้ายคุณควรมีเวกเตอร์น้ำหนัก [1 1] หรืออะไรทำนองนี้

กรุณาเน้นกราฟิก

มันบอกว่า: ฉันสามารถแบ่งค่าอินพุตเป็นสองคลาส (0 และ 1) ตกลง. แล้วฉันจะทำสิ่งนี้ได้อย่างไร มันง่ายเกินไป ค่าอินพุตผลรวมแรก (x1 และ x2)

0 + 0 = 0

0 + 1 = 1

1 + 0 = 1

1 + 1 = 2

มันบอกว่า:

ถ้าผลรวม <1.5 คลาสจะเป็น 0

ถ้าผลรวม> 1.5 คลาสจะเป็น 1

โครงข่ายใยประสาทเทียมนั้นมีความหลากหลายของงาน แต่เพื่อให้เข้าใจอย่างถ่องแท้ว่าทำไมมันง่ายกว่าที่จะทำภารกิจเฉพาะอย่างเช่นการจำแนกประเภทและการดำน้ำลึก

กล่าวอย่างง่ายเทคนิคการเรียนรู้ของเครื่องจักรเรียนรู้ฟังก์ชันในการทำนายว่าคลาสอินพุตใดเป็นของคลาสใดขึ้นอยู่กับตัวอย่างที่ผ่านมา สิ่งที่ทำให้อวนประสาทแตกต่างกันคือความสามารถในการสร้างฟังก์ชั่นเหล่านี้ซึ่งสามารถอธิบายรูปแบบที่ซับซ้อนของข้อมูลได้ หัวใจของเครือข่ายประสาทเป็นฟังก์ชั่นการเปิดใช้งานเช่น Relu ซึ่งช่วยให้สามารถวาดขอบเขตการจำแนกประเภทพื้นฐานบางอย่างเช่น:

โดยการรวม Relus หลายร้อยตัวเข้าด้วยกันทำให้โครงข่ายประสาทสามารถสร้างขอบเขตการจำแนกที่ซับซ้อนได้ตามใจชอบตัวอย่างเช่น

ในบทความนี้ฉันพยายามอธิบายสัญชาตญาณเบื้องหลังสิ่งที่ทำให้เครือข่ายประสาททำงาน: https://medium.com/machine-intelligence-report/how-do-neural-networks-work-57d1ab5337ce