พื้นหลังทางคณิตศาสตร์สำหรับเครือข่ายประสาท


11

ไม่แน่ใจว่าสิ่งนี้เหมาะสมสำหรับไซต์นี้หรือไม่ แต่ฉันเริ่มต้น MSE ของฉันในสาขาวิทยาศาสตร์คอมพิวเตอร์ (BS ในคณิตศาสตร์ประยุกต์) และต้องการที่จะมีพื้นฐานที่แข็งแกร่งในการเรียนรู้ของเครื่อง หนึ่งในความสนใจย่อยของฉันคือเครือข่ายประสาท

พื้นหลังทางคณิตศาสตร์ที่ดีสำหรับ ANNs คืออะไร เช่นเดียวกับในด้านอื่น ๆ ของการเรียนรู้ของเครื่องฉันคิดว่าพีชคณิตเชิงเส้นมีความสำคัญ แต่ส่วนอื่น ๆ ของคณิตศาสตร์มีความสำคัญอย่างไร

ผมวางแผนที่จะอ่านโครงข่ายประสาท: บทนำอย่างเป็นระบบหรือโครงข่ายประสาทเทียมสำหรับการจดจำรูปแบบ ใครบ้างมีคำแนะนำการป้อนข้อมูลหรือคำแนะนำอื่น ๆ

คำตอบ:


10

การอ้างอิงที่สองที่คุณให้คือในความคิดของฉันยังคงเป็นหนังสือที่ดีที่สุดใน NN แม้ว่ามันอาจจะล้าสมัยเล็กน้อยและไม่ได้เกี่ยวข้องกับการพัฒนาล่าสุดเช่นสถาปัตยกรรมที่ลึกซึ้ง คุณจะได้รับข้อมูลพื้นฐานที่ถูกต้องและทำความคุ้นเคยกับแนวคิดพื้นฐานทั้งหมดเกี่ยวกับการเรียนรู้ของเครื่อง

ถ้าคุณอ่านหนังสือเล่มนี้คุณจะต้องใช้พีชคณิตเชิงเส้น, แคลคูลัสหลายตัวแปรและแนวคิดพื้นฐานของสถิติ (ความน่าจะเป็นตามเงื่อนไข, ทฤษฎีบทเบส์และคุ้นเคยกับการแจกแจงทวินาม) ในบางจุดมันเกี่ยวข้องกับแคลคูลัสของการเปลี่ยนแปลง ภาคผนวกสำหรับแคลคูลัสของการเปลี่ยนแปลงควรจะเพียงพอ


นั่นคือสิ่งที่ฉันสิ้นสุดขึ้นไปด้วยหลังจากพวงของคำแนะนำฉันเป็นเพียงลังเลมากเพราะหนังสือบิชอปในการเรียนรู้เครื่องในขณะที่ประกาศโดยบางส่วนที่ควรจะเป็นหนังสือที่ยากมากที่จะเรียนรู้จากถ้าคุณไม่ทราบว่ามันมีอยู่แล้ว
Steve P.

5

องค์ประกอบทางคณิตศาสตร์น่าจะรวมถึงพีชคณิตขั้นสูงตรีโกณมิติพีชคณิตเชิงเส้นและแคลคูลัสอย่างน้อยที่สุด

แต่ยังคิดนอกกรอบ ทักษะการเขียนโปรแกรมที่ดียังมีความจำเป็นรวมถึงรากฐานที่มั่นคงในอัลกอริทึม (Coursera มีสองหลักสูตรเกี่ยวกับอัลกอริธึม) และความเชี่ยวชาญกับ MatLab, Octave หรือ R (และด้วยภาษาโปรแกรมที่ยืดหยุ่นเช่น Java, C / C ++ หรือ Python) ฉันพูดถึงสิ่งเหล่านี้ในการตอบคำถามของคุณเพราะพวกเขามีทักษะ "คณิตศาสตร์ประยุกต์" มากกว่าในความคิดของฉัน - และเป็นพื้นฐานในการแปลระหว่างทฤษฎีและการนำไปใช้งาน

ฉันใช้หลักสูตร Coursera จำนวนหนึ่งที่เกี่ยวข้องกับการเรียนรู้ของเครื่อง (และเห็นด้วยกับโปสเตอร์อื่น ๆ ที่ Prof. Ng's Machine Learning นั้นยอดเยี่ยม) และ NN ไม่กี่เดือนที่ผ่านมา Coursera ได้จัดหลักสูตร Neural Networks (ไม่แน่ใจว่ายังมีให้บริการ) ผ่าน University of Toronto และ Geoffrey Hinton หลักสูตรที่ยอดเยี่ยมและเรียกร้อง: ความรู้เกี่ยวกับแคลคูลัสความสามารถกับ Octave (โคลนแบบเปิดแหล่ง MatLab) การออกแบบอัลกอริทึมที่ดี (สำหรับความยืดหยุ่น) และพีชคณิตเชิงเส้น

นอกจากนี้คุณยังอาจ (ในขณะที่ไม่ใช่คณิตศาสตร์ต่อ se) คิดเกี่ยวกับหัวข้อต่าง ๆ เช่นการประมวลผลภาษาธรรมชาติ (สำหรับการดึงคุณสมบัติ ฯลฯ ) การดึงข้อมูลสถิติ / ทฤษฎีความน่าจะเป็นรวมถึงส่วนอื่น ๆ ของการเรียนรู้ของเครื่องจักร ข้อความล่าสุดเช่น Foundations of Machine Learning (Mohri) หรือ Introduction to Machine Learning (Alpaydin) อาจเป็นประโยชน์กับคุณในการลดความซับซ้อนของทฤษฎีต่อการใช้งาน (เพียงแค่ในความคิดของฉันนี่อาจเป็นก้าวกระโดดที่ยาก) - และทั้งคู่ ตำราเป็นคณิตศาสตร์ที่หนักมากโดยเฉพาะฐานราก

อีกครั้งฉันคิดว่าทั้งหมดเกี่ยวข้องกับคณิตศาสตร์และ NN แต่ในแง่ที่กว้างขึ้น


ขอบคุณ ฉันเรียนวิชาคณิตศาสตร์ประยุกต์เป็นระดับปริญญาตรี (และมีประสบการณ์การเขียนโปรแกรมมากมาย) ดังนั้นฉันจึงมีทุกอย่างยกเว้นหลักสูตรที่เข้มงวดในพีชคณิตนามธรรมซึ่งฉันสอนตัวเอง ... ฉันลงเอยด้วย Neural Networks for Pattern ได้รับการยอมรับโดยบิชอป สำหรับคนอื่นที่มีความสนใจฉันขอแนะนำอย่างยิ่ง ...
Steve P.

3

ดู: http://www.quora.com/Career-Advice/How-do-I-become-a-data-scientist คำตอบที่สอง แผนการทำงานที่สมบูรณ์

คำแนะนำแบบค่อยเป็นค่อยไปเพื่อการเรียนรู้ของเครื่อง: ทำตามหลักสูตรการเรียนรู้ของ Machine 101 ที่ยอดเยี่ยมโดย Andrew Ng แห่ง Standford ฉันคิดว่ามันยอดเยี่ยมหรือไม่?

https://www.coursera.org/course/ml


2

หนังสือที่ดีมาก (ไม่เกริ่นนำ แต่ไม่คิดว่ามีความรู้เดิมในเครือข่ายประสาทเทียม) คือ Brian Ripley: "การจดจำรูปแบบและโครงข่ายประสาท" ซึ่งฉันอยากจะบอกว่ามีส่วนมากของ prelims ด้วย BS ในคณิตศาสตร์ประยุกต์คุณควรเตรียม


2

หัวข้อหลักคือสถิติ

แคลคูลัสหลายตัวแปร

พีชคณิตเชิงเส้นเชิงตัวเลข (เมทริกซ์กระจัดกระจาย ฯลฯ ) การเพิ่มประสิทธิภาพเชิงตัวเลข (การไล่ระดับสีแบบลาดชัน ฯลฯ การเขียนโปรแกรมสมการกำลังสอง)

คุณอาจต้องการอ่านข้อมูลเกี่ยวกับกระบวนการ gaussian และคณิตศาสตร์จำเป็นต้องมีลองและทำการประมวลผลภาพ / คลาสการประมวลผลภาษาธรรมชาติบางอย่าง


จริง ๆ แล้วฉันกำลังเรียนหลักสูตร NLP ในฤดูใบไม้ร่วง
Steve P.
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.