ฉันต้องเรียนอะไรเพื่อการเรียนรู้ของเครื่อง


9

ตั้งแต่ปีที่แล้วฉันได้เรียนวิชาต่าง ๆ เพื่อที่จะเข้าใจวิทยานิพนธ์ที่สำคัญที่สุดของการเรียนรู้ของเครื่องเช่น

S. Hochreiter & J. Schmidhuber (1997) หน่วยความจำยาวระยะสั้น การคำนวณทางประสาท, 9 (8), 2278-2323

อย่างไรก็ตามเนื่องจากความจริงที่ว่าฉันไม่มีภูมิหลังทางคณิตศาสตร์ฉันจึงเริ่มเรียนวิชาต่างๆเช่น

  • แคลคูลัส
  • แคลคูลัสหลายตัวแปร
  • Anaylsis ทางคณิตศาสตร์
  • พีชคณิตเชิงเส้น
  • สมการเชิงอนุพันธ์
  • Anaylsis จริง (ทฤษฎีการวัด)
  • ความน่าจะเป็นเบื้องต้นและสถิติ
  • สถิติทางคณิตศาสตร์

ตอนนี้ฉันไม่สามารถบอกได้ว่าฉันเรียนวิชาเหล่านี้อย่างจริงจัง แต่ฉันรู้ว่าวิชาด้านบนต้องการรับมือกับอะไร สิ่งนี้คือฉันไม่รู้ว่าฉันต้องทำอะไรในจุดนี้ มีหลายวิชาที่การเรียนรู้ของเครื่องใช้ในการแก้ปัญหามากมายที่นั่นและฉันไม่รู้วิธีการใช้อย่างถูกต้อง

ยกตัวอย่างเช่นการเรียนรู้การเสริมกำลังเป็นหนึ่งในหัวข้อที่ได้รับความนิยมมากที่สุดที่นักวิจัยหลายแสนคนกำลังทำการวิจัยเพื่อสร้างความก้าวหน้าของคำสาปของมิติ แต่ในฐานะพนักงานในอนาคตที่จะทำงานใน บริษัท ไอทีงานบนโต๊ะจะไม่เป็นสิ่งที่ฉันคาดหวัง

การมีความเชี่ยวชาญของตัวเองในการทำงานในสาขาต่าง ๆ เป็นสิ่งสำคัญหรือไม่ ถ้าเป็นเช่นนั้นฉันต้องเรียนวิชาอะไร

เพื่อความสะดวกของคุณฉันต้องการทราบข้อมูลเพิ่มเติมเกี่ยวกับกระบวนการมาร์คอฟและกระบวนการตัดสินใจมาร์คอฟ


1
ฉันจะบอกว่าถ้าคุณเข้าใจทุกอย่างในกระดาษ LSTM คุณมี "ข้อกำหนดเบื้องต้น" ทั้งหมดที่มีอยู่ในการติดตามอาชีพของคุณใน ML แน่นอนว่าคุณจะพบแนวคิดใหม่ (ทุกคนทำ) ในแบบของคุณ แต่คุณจะสามารถจัดการกับพวกเขาได้ (โดยการทำวิจัยด้วยตัวเอง) กระบวนการมาร์คอฟและ MDP ไม่ใช่เรื่องใหญ่หากคุณเข้าใจบทความ LSTM
nbro

คำตอบ:


4

ในฐานะนักศึกษาปริญญาโทด้านปัญญาประดิษฐ์ฉันขอแนะนำให้คุณศึกษาพื้นฐานบางอย่างในการเรียนรู้ของเครื่อง

ในการทำเช่นนั้นคุณจะได้รับหนังสือที่ดี ( Machine Learning , Tom Mitchell, McGraw Hill, 1997) สำหรับทฤษฏีและการฝึกฝนด้วยตัวเองลองใช้การแข่งขันKaggle

ฉันแนะนำหนังสือของมิตเชลล์เพราะเขาเป็นผู้เชี่ยวชาญในสาขานี้และหลักสูตรการเรียนรู้ของเครื่องมากมายใช้หนังสือของเขา คุณสามารถติดตามวิดีโอของเขาทางออนไลน์ได้เช่นกัน

บน Kaggle คุณสามารถค้นหาบทเรียนที่มีประโยชน์มากมาย (ตั้งชื่อเป็น Notebooks) เพื่อเริ่มต้นทำงานกับชุดข้อมูลที่มีอยู่ บทเรียนเกี่ยวกับการท้าทายไททานิกที่นี่


5

ที่จริงแล้วคุณไม่จำเป็นต้องศึกษาวิชาเหล่านี้อย่างเข้มงวดเพื่อใช้อัลกอริทึมการเรียนรู้ของเครื่องจักร ทฤษฎีความน่าจะเป็นเท่านั้นต้องได้รับการปฏิบัติอย่างจริงจังในการเรียนรู้ของเครื่อง คุณสามารถหาชุดการบรรยายทฤษฎีน่าจะเป็นชุดที่ดีมากที่นี่:

ความน่าจะเป็นเบื้องต้น - ศาสตร์แห่งความไม่แน่นอน

นอกจากนี้หลักสูตรพื้นฐานในแคลคูลัสก็พอเพียงสำหรับการใช้งานพื้นฐานที่คุณไม่ต้องการความเข้าใจในแคลคูลัสระดับสูงนอกเสียจากว่าคุณต้องการสร้างโครงร่างการอัพเดทน้ำหนักแบบเทเลอร์หรือโครงข่ายประสาทเทียมด้วยสิ่งใหม่ แต่เพื่อให้ได้สัญชาตญาณเรื่องแคลคูลัสลองดู Khan Academy: Calculus

แนวคิดพื้นฐานบางประการของพีชคณิตเชิงเส้นนั้นเพียงพอเพียงเพื่อให้เห็นภาพสิ่งต่าง ๆ และได้รับสัญชาตญาณ Khan academy มีหลักสูตรที่ยอดเยี่ยมสำหรับเรื่องนี้ฉันขอแนะนำให้คุณลองดู: พีชคณิตเชิงเส้น

สำหรับภาษาโปรแกรม Machine Learning หรือ Neural Nets นั้นดีที่สุดที่จะใช้ใน Python หรือ R เนื่องจากการสร้างภาพข้อมูลและการเขียนโปรแกรมในภาษานั้นค่อนข้างง่าย

สิ่งสำคัญเกี่ยวกับการใช้โครงข่ายประสาทและการเรียนรู้ของเครื่องคือการฝึกฝนยิ่งคุณฝึกฝนมากเท่าไหร่คุณก็ยิ่งได้รับมากขึ้นเท่านั้น นอกจากนี้คุณยังจะได้รับสัญชาติญาณของสิ่งที่คุณกำลังทำกับการปฏิบัติ การอ่านทฤษฏีและแนวคิดการทำความเข้าใจเท่านั้นจะไม่ช่วยคุณ คุณต้องใช้มันในชีวิตจริง เท่าที่หนังสือมีความกังวลคุณสามารถดูคำตอบของฉันที่นี่:

ทฤษฎี / เครื่องมือ / แอปพลิเคชั่น AI สำหรับนักเขียนโปรแกรมที่มีประสบการณ์มาก่อน


3

ฉันพบว่าแบบจำลองทางสถิติมีประโยชน์มาก อย่างไรก็ตามสถิติของตัวมันเองยังไม่เพียงพอคุณต้องมีพื้นฐานที่แข็งแกร่งในทฤษฎีความน่าจะเป็น


1

เรียนรู้พื้นฐานของหลามก่อน เริ่มต้นด้วยทฤษฎีบทของ Baye จากนั้นไปที่ 1) ฟังก์ชันความหนาแน่นของความน่าจะเป็น 2) ฟังก์ชันความหนาแน่นสะสม 3) ฟังก์ชันต่อเนื่อง 4) ทฤษฎีขีด จำกัด กลาง


นอกจากนี้คุณคิดว่าเป็นสิ่งสำคัญหรือไม่ที่ต้องเรียนรู้ทฤษฎีความน่าจะเป็นในระดับบัณฑิตศึกษาเพื่อที่จะเห็นวิทยานิพนธ์ระดับสูงของการเรียนรู้ด้วยเครื่อง? และสมมติว่าฉันรู้ทุกสิ่งข้างต้น (ฉันไม่ได้ตั้งใจจะหยาบคาย แต่พูดตามตรงฉันรู้ว่าอะไรคือความแตกต่างระหว่างความต่อเนื่องและความต่อเนื่องแบบสม่ำเสมอ pdf, cdf, mgf และอื่น ๆ ) คิดว่ามันสำคัญไหมที่ต้องเรียนรู้กระบวนการมาร์คอฟเพื่อสร้างโปรแกรมระดับการผลิต?
Windforces

1

ก่อนอื่นให้ฉันเป็นพื้นหลังอย่างรวดเร็ว ฉันเป็นนักเรียนแพทย์อายุน้อยที่จบการศึกษาระดับปริญญาตรีพร้อมชีวฟิสิกส์ หลังจากทำงานหนักและตัดสินใจอย่างชาญฉลาดตอนนี้ฉันเป็นวิศวกรซอฟต์แวร์ AI / ML กับปริญญาโทสาขาวิทยาศาสตร์คอมพิวเตอร์ (พิเศษในการเรียนรู้ของเครื่อง)

การมีความเชี่ยวชาญของตัวเองในการทำงานในสาขาต่าง ๆ เป็นสิ่งสำคัญหรือไม่

ใช่แน่นอน แต่ไม่จำเป็นต้องอยู่ในบริบทของมืออาชีพ คุณไม่จำเป็นต้องได้รับการว่าจ้างให้เป็นวิศวกรซอฟแวร์การเรียนรู้ของเครื่อง แต่จะต้องแสดงความสามารถกับสนาม คำถามต่อไปของส่วนที่สองของคุณ ...

ถ้าเป็นเช่นนั้นฉันต้องเรียนวิชาอะไร

พวกเขาไม่มีวิชาใดที่คุณควรให้ความสำคัญ การเรียนรู้ของเครื่องเป็นการผสมผสานระหว่างสาขาที่แตกต่างกันและมันจะไม่มีประสิทธิภาพมากนักที่จะมุ่งเน้นไปที่หนึ่งก่อนที่จะดำน้ำเพื่อฝึกฝนอย่างละเอียดมากขึ้น บทเรียนและแบบฝึกหัดเป็นชื่อของเกมแทน

  • 3Blue1Brownบน Youtube ให้บทเรียนที่ยอดเยี่ยมโดยเฉพาะกับระบบประสาท
  • Khan Academyเป็นสวรรค์เมื่อมันมาถึงแบบฝึกหัดคณิตศาสตร์ พีชคณิตเชิงเส้นและความน่าจะเป็น / สถิติที่ดีที่สุดในการเริ่มต้นด้วยฉันพูด แต่แคลคูลัสหลายตัวแปรและสมการเชิงอนุพันธ์ก็ถูกนำมาใช้เช่นกัน
  • Udacityเป็นเว็บไซต์กวดวิชาที่ยอดเยี่ยมที่ยังมีโปรแกรม "nanodegree" เพื่อมอบประสบการณ์การใช้ปัญญาประดิษฐ์และการเรียนรู้ของเครื่องให้คุณได้มากขึ้น ฟรีหากคุณต้องการดูวิดีโอ
  • OpenAIGymเป็นสถานที่ที่เหมาะสำหรับฝึกเสริมสร้างการเรียนรู้
  • Kaggleมีแบบฝึกหัดที่ยอดเยี่ยมเกี่ยวกับการเรียนรู้ของเครื่องและการแข่งขันของพวกเขาให้การฝึกฝนที่ยอดเยี่ยมด้วยการเรียนรู้แบบมีผู้สอน / ไม่มีผู้ดูแล

เสริมการพัฒนาของคุณในทฤษฎีและพื้นฐานทางคณิตศาสตร์ด้วยการพัฒนาและฝึกปฏิบัติเพื่อให้ได้ผลลัพธ์ที่ดีที่สุด คุณพูดถึงการมุ่งเน้นเฉพาะของ MDP ซึ่งบทเรียน Udacity และ OpenAIGym ทั้งสองจะให้การฝึกฝนที่ยอดเยี่ยม

หากคุณมีความสนใจในระดับปริญญาโทฉันไม่สามารถแนะนำโทออนไลน์ของ Georgia Tech ในสาขาวิทยาศาสตร์คอมพิวเตอร์ ( OMSCS ) ได้เพียงพอ มันเป็นการศึกษาที่ยอดเยี่ยมและ (เมื่อฉันลงทะเบียนในปี 2558) ไม่จำเป็นต้องใช้ GRE และมีค่าใช้จ่ายเพียงประมาณ $ 8000.00


-1

เรียนรู้การเรียนรู้ของเครื่องใน 3 เดือน

นี่คือหลักสูตรสำหรับ "เรียนรู้การเรียนรู้ของเครื่องใน 3 เดือน" วิดีโอนี้โดย Siraj Raval บน Youtube

เดือนที่ 1

พีชคณิตเชิงเส้น 1 สัปดาห์

https://www.youtube.com/watch?v=kjBOesZCoqc&index=1&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab https://ocw.mit.edu/courses/mathematics/18-06-linear-algebra-spring-2010/

แคลคูลัสสัปดาห์ที่ 2

https://www.youtube.com/playlist?list=PLZHQObOWTQDMsr9K-rj53DwVRMYO3t5Yr

สัปดาห์ที่ 3 น่าจะเป็น

https://www.edx.org/course/introduction-probability-science-mitx-6-041x-2

อัลกอริทึม 4 สัปดาห์

https://www.edx.org/course/algorithm-design-analysis-pennx-sd3x

เดือนที่ 2

สัปดาห์ที่ 1

เรียนรู้หลามสำหรับวิทยาศาสตร์ข้อมูล

https://www.youtube.com/watch?v=T5pRlIbr6gg&list=PL2-dafEMk2A6QKz1mrk1uIGfHkC1zZ6UU

คณิตศาสตร์แห่งปัญญา

https://www.youtube.com/watch?v=xRJCOz3AfYY&list=PL2-dafEMk2A7mu0bSksCGMJEmeddU_H4D

แนะนำ Tensorflow

https://www.youtube.com/watch?v=2FmcHiLCwTU&list=PL2-dafEMk2A7EEME489DsI468AB0wQsMV

สัปดาห์ที่ 2

แนะนำ ML (Udacity) https://eu.udacity.com/course/intro-to-machine-learning--ud120

สัปดาห์ที่ 3-4

แนวคิดโครงการ ML https://github.com/NirantK/awesome-project-ideas

เดือนที่ 3 (การเรียนรู้ลึก)

สัปดาห์ที่ 1

แนะนำการเรียนรู้อย่างลึก https://www.youtube.com/watch?v=vOppzHpvTiQ&list=PL2-dafEMk2A7YdKv4XfKpfbTH5z6rEEj3

สัปดาห์ที่ 2

Deep Learning โดย Fast.AI http://course.fast.ai/

สัปดาห์ที่ 3-4

ใช้งานโครงการ DL อีกครั้งจาก github ของฉัน https://github.com/llSourcell?tab=repositories


แหล่งข้อมูลเพิ่มเติม:
- ผู้คนใน ML ติดตามบน Twitter


1
ใช่ฉันสามารถบอกคุณได้ว่าทำไมฉันถึงลงคะแนนคำตอบนี้ 1) ฉันไม่คิดว่าคุณสามารถเรียนรู้เครื่องเรียนรู้ได้ดีใน 3 เดือนโดยศึกษาข้อกำหนดเบื้องต้นด้วย 2) ทุกคนมีจังหวะของตัวเองเมื่อเรียนรู้ดังนั้นการ จำกัด การเรียนถึง 3 เดือนจึงไม่ใช่ความคิดที่ดี 3) คุณกำลังเชื่อมโยงผู้คนกับแหล่งข้อมูลอื่นโดยไม่อธิบายสาเหตุ
nbro

เราไม่สามารถเป็นมืออาชีพได้ แต่อย่างน้อยก็แตกต่างกันนิดหน่อยที่จะทำบางอย่างและหัวขึ้นบางการแข่งขัน ML ถ้าฉันใส่ลิงค์ฉันพูดถึงสิ่งที่คุณจะได้รับจากลิงค์นั้น ทุกคนมีจังหวะการเรียนรู้ของตัวเองฉันก็เห็นด้วยกับจุดนั้น แต่คุณสามารถทำให้มือของคุณสกปรกในสามเดือนนี้ นี่เป็นคำตอบที่ธรรมดามากเมื่อพิจารณาว่าไม่มีใครรู้อะไรเลย แต่พวกเขาแค่ต้องการเริ่มและสร้างความมั่นใจหลังจากนั้นพวกเขาสามารถเริ่มเจาะลึก
Maheshwar Ligade

@nbro ถ้าฉันเห็นด้วยกับจุดของคุณทุกคนมีการเรียนรู้ของตัวเองแล้วอย่างน้อยคนไม่กี่คนสามารถใช้ประโยชน์จากคำตอบนี้
Maheshwar Ligade

คำตอบนี้ใช้ได้กับวิศวกรที่ไม่เหมาะกับนักวิจัยและนักวิทยาศาสตร์
Maheshwar Ligade
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.