การอ้างอิงเครือข่ายนิวรัล (ตำรา, หลักสูตรออนไลน์) สำหรับผู้เริ่มต้น

ฉันต้องการเรียนรู้โครงข่ายประสาท ฉันเป็นนักภาษาศาสตร์คอมพิวเตอร์ ฉันรู้วิธีการเรียนรู้ด้วยเครื่องเชิงสถิติและสามารถเขียนโค้ดใน Python ได้

ฉันกำลังมองหาที่จะเริ่มต้นด้วยแนวคิดของมันและรู้ว่าหนึ่งหรือสองรูปแบบที่นิยมซึ่งอาจเป็นประโยชน์จากมุมมองของภาษาศาสตร์เชิงคำนวณ

ฉันเรียกดูเว็บเพื่อการอ้างอิงและพบหนังสือและเอกสารสองสามฉบับ

• Ripley, Brian D. (1996) การจดจำรูปแบบและ Neural Networks, Cambridge

• บิชอปซม. (2538) เครือข่ายประสาทรับรู้รูปแบบออกซ์ฟอร์ด: สำนักพิมพ์มหาวิทยาลัยออกซ์ฟอร์ด

• เชื่อมโยงบางอย่างเช่นวิทยานิพนธ์ฉบับนี้ , เหล่านี้บันทึกหลักสูตร (มหาวิทยาลัยโตรอนโตจิตวิทยากรม) เหล่านี้บันทึกหลักสูตร (มหาวิทยาลัยวิสคอนซินวิทยาการคอมพิวเตอร์) และสไลด์โชว์ (การวิจัย Facebook)

โดยทั่วไปแล้วหลักสูตร Coursera นั้นดีถ้ามีใครรู้อะไรที่เกี่ยวข้องกับพวกเขา ฉันชอบวัสดุที่มีภาษาที่ชัดเจนและเป็นตัวอย่างที่กว้างขวาง

คุณอยู่ในโชค! มีจำนวนทรัพยากรที่น่าตื่นตาตื่นใจในขณะนี้ โดยเฉพาะอย่างยิ่งคุณสามารถดู:

• Coursera หลักสูตรเริ่มต้นเร็ว ๆ นี้
• หนังสือออนไลน์ที่เผยแพร่เมื่อเร็ว ๆ นี้โดยผู้นำบางคนในวงการ (Goodfellow, Bengio และ Courville)
• บันทึกการบรรยายเหล่านี้และภาพรวมนี้ซึ่งมุ่งเน้นไปที่การประมวลผลภาษาธรรมชาติ
• ชุดโพสต์บล็อกที่มีการสร้างภาพข้อมูลที่สวยงามโดย Chris Olah
• ชุดเครื่องมือที่รองรับสองชุดพร้อมอินเทอร์เฟซหลามและบทช่วยสอนออนไลน์: TensorflowและTheano

อ้างอิงหลัก:

หลักสูตรการเรียนรู้ลึก:

• หลักสูตรของ Andrew Ng เกี่ยวกับการเรียนรู้ของเครื่องมีส่วนแนะนำที่ดีเกี่ยวกับเครือข่ายประสาท
• หลักสูตรของ Geoffrey Hinton: Coursera Neural Networks สำหรับการเรียนรู้ของเครื่อง (ฤดูใบไม้ร่วง 2012)
• หนังสือของ Michael Nielsen ฟรีNeural Networks และ Deep Learning
• Yoshua Bengio, Ian Goodfellow และ Aaron Courville เขียนหนังสือเกี่ยวกับการเรียนรู้เชิงลึก (2016)
• หลักสูตรของ Hugo Larochelle (วิดีโอ + สไลด์) ที่Université de Sherbrooke
• บทช่วยสอนของ Stanford (Andrew Ng et al.) เกี่ยวกับการเรียนรู้คุณลักษณะที่ไม่ได้รับการสนับสนุนและการเรียนรู้เชิงลึก
• หลักสูตร ML 2014-2015 ของ Oxford
• หลักสูตรการเรียนรู้ของ NVIDIA Deep (ฤดูร้อนปี 2015)
• หลักสูตรการเรียนรู้ลึกของ Google เรื่อง Udacity (มกราคม 2559)

NLP ที่มุ่งเน้นการ:

• Stanford CS224d: การเรียนรู้อย่างลึกซึ้งสำหรับการประมวลผลภาษาธรรมชาติ (ฤดูใบไม้ผลิ 2015) โดย Richard Socher
• บทเรียนที่ให้ใน NAACL HLT 2013: การเรียนรู้ลึกเพื่อการประมวลผลภาษาธรรมชาติ (ไม่มีเวทมนตร์) (วิดีโอ + สไลด์)

วิสัยทัศน์ที่มุ่งเน้นการ:

• CS231n Convolutional Neural Networks สำหรับการจดจำภาพโดย Andrej Karpathy (เวอร์ชันก่อนหน้านี้สั้นกว่าและขัดน้อยกว่า: คู่มือแฮ็กเกอร์เกี่ยวกับ Neural Networks )

แบบฝึกหัดเฉพาะชุดเครื่องมือ:

• DL4J (Java): http://deeplearning4j.org/documentation.html
• Theano (Python, Y. Bengio): http://deeplearning.net/
• การเรียนรู้ของเครื่องด้วย Torch7 (Lua, LeCun): http://code.madbits.com/wiki/doku.php
• H2O Deep Learning (Java): http://0xdata.com/product/deep-learning/
• Caffee (C ++, UCB): http://caffe.berkeleyvision.org/
• หลักสูตรการเรียนรู้อย่างลึกซึ้งของ Nervana

http://www.kdnuggets.com/2015/11/seven-steps-machine-learning-python.html

http://neuralnetworksanddeeplearning.com/

นี่เป็นแหล่งข้อมูลที่ฉันโปรดปราน เริ่มด้วยหลักสูตรการเรียนรู้ของเครื่องสแตนฟอร์ด แต่ชอบอ่านมากกว่าการบรรยาย โดยเฉพาะอย่างยิ่งเนื่องจากการอ่านเป็นตัวอย่าง

https://coorsy.com/topics/artificial-neural-network/for-beginners

คุณสามารถสำรวจหลักสูตรออนไลน์จากผู้ให้บริการหลักสูตรมากมายที่นี่ นอกจากนี้ฉันขอแนะนำให้คุณดูหัวข้อที่เกี่ยวข้องที่นั่น

โครงข่ายประสาทและการเรียนรู้เชิงลึกเป็นจุดเริ่มต้นที่เข้าถึงได้

Neural Networks และ Deep Learning เป็นหนังสือออนไลน์ฟรี หนังสือเล่มนี้จะสอนคุณเกี่ยวกับ:

โครงข่ายประสาทเทียมเป็นกระบวนทัศน์การเขียนโปรแกรมทางชีววิทยาที่สวยงามซึ่งทำให้คอมพิวเตอร์สามารถเรียนรู้จากข้อมูลเชิงลึกการเรียนรู้อย่างลึกล้ำชุดเทคนิคอันทรงพลังสำหรับการเรียนรู้ในเครือข่ายประสาทเทียม การรับรู้และการประมวลผลภาษาธรรมชาติ หนังสือเล่มนี้จะสอนแนวคิดหลักหลายประการที่อยู่เบื้องหลังเครือข่ายประสาทและการเรียนรู้อย่างลึกซึ้ง

เพื่อการเรียนรู้ที่รวดเร็วฉันจะเลือก:

การบรรยายการเรียนรู้ลึกนี้จากนักวิจัยที่ยอดเยี่ยม Nando de Freitas: https://www.cs.ox.ac.uk/people/nando.defreitas/machinelearning/

สำหรับการทำความเข้าใจทฤษฎีการเขียนโปรแกรมเชิงปฏิบัติใน Python เนื้อหานี้จาก Andrej Karpathy: http://cs231n.github.io/

และสำหรับ NLP: https://arxiv.org/abs/1510.00726

http://yerevann.com/a-guide-to-deep-learning/

นี่เป็นแนวทางที่ดีในการเรียนรู้อย่างลึกซึ้ง