อัลกอริทึมที่ยอดเยี่ยมการเรียนรู้ของเครื่องและไม่มีพีชคณิตเชิงเส้น

ฉันสอนหลักสูตรอัลกอริทึมขั้นสูงและต้องการรวมบางหัวข้อที่เกี่ยวข้องกับการเรียนรู้ของเครื่องซึ่งเป็นที่สนใจของนักเรียนของฉัน ด้วยเหตุนี้ฉันต้องการฟังความคิดเห็นของผู้คนเกี่ยวกับผลลัพธ์อัลกอริทึมที่น่าสนใจที่สุดในการเรียนรู้ของเครื่อง ข้อ จำกัด ที่อาจเกิดขึ้นได้ยากคือนักเรียนจะไม่เคยมีความรู้มาก่อนเกี่ยวกับพีชคณิตเชิงเส้นหรือหัวข้อหลักอื่น ๆ ในการเรียนรู้ของเครื่อง

นี่คือการกระตุ้นให้พวกเขาเกี่ยวกับหัวข้อและเพื่อให้พวกเขารู้ว่า ML เป็นพื้นที่การวิจัยที่น่าตื่นเต้นสำหรับผู้เชี่ยวชาญด้านอัลกอริทึม

แก้ไข: นี่เป็นหลักสูตรระดับปริญญาตรีปีสุดท้าย (เนื่องจากเราไม่มีหลักสูตรระดับบัณฑิตศึกษาในสหราชอาณาจักรเป็นหลัก) พวกเขาจะทำอย่างน้อยหนึ่งอัลกอริธึมพื้นฐานหลักสูตรล่วงหน้าและทำได้ดีในการเลือกหลักสูตรติดตามผลขั้นสูง หลักสูตรปัจจุบันของหลักสูตรขั้นสูงมีหัวข้อต่าง ๆ เช่นการแฮ็กที่สมบูรณ์แบบตัวกรอง Bloom ต้นไม้ Van Emde Boas โปรแกรมเชิงเส้นประมาณ อัลกอริธึมสำหรับปัญหา NP-hard เป็นต้นฉันไม่ได้ตั้งใจจะใช้เวลาบรรยายมากกว่าหนึ่งครั้งใน ML แต่ถ้ามีบางอย่างที่เกี่ยวข้องกับทั้งอัลกอริทึมและ ML อย่างแน่นอนก็อาจรวมอยู่ด้วย

คุณสามารถครอบคลุมการส่งเสริม มันฉลาดมากใช้งานง่ายมีการใช้กันอย่างแพร่หลายในทางปฏิบัติและไม่จำเป็นต้องมีความรู้เบื้องต้นในการทำความเข้าใจ

หากคุณต้องการที่จะเพิ่มความอยากอาหารในการบรรยายเพียงครั้งเดียวอาจเป็นเรื่องที่น่าตื่นเต้นที่สุดในการนำเสนอแอปพลิเคชั่นที่ทรงพลัง ตัวอย่างเช่นสนับสนุนเครื่องเวกเตอร์และอัลกอริทึมการเรียนรู้ของเครื่องอื่น ๆ ที่ใช้ในเคมีบำบัดสำหรับการค้นพบยา

ปัญหาการเรียนรู้เป็นหลักคือ: กำหนดพฤติกรรมที่เราต้องการให้สารเคมีจัดแสดงประดิษฐ์โครงสร้างที่แสดงพฤติกรรมนั้นโดยการอนุมานจากฐานข้อมูลของโครงสร้างที่รู้จักซึ่งมีพฤติกรรมคล้ายกัน (หรือแตกต่างกัน) ปัญหาการเรียนรู้มีริ้วรอยพิเศษ: ยาใหม่จะต้อง "อยู่ห่างไกล" ในโครงสร้างระดับโลกจากยาที่รู้จักกันก่อนหน้านี้เพื่อที่จะพบอสังหาริมทรัพย์

แหล่งข่าวคนหนึ่งคือการจัดกลุ่มวิธีการและใช้พวกเขาในการคำนวณเคมี

K-Means และ KNN นั้นทรงพลังมากและไม่ต้องการพีชคณิตเชิงเส้นใด ๆ ยกเว้นการคำนวณระยะทางของคะแนน

ส่วนที่สองของ "โครงข่ายประสาทและการเรียนรู้ของเครื่อง" โดย Christopher Bishop (ที่ MSR) อยู่บนอัลกอริทึมใน ML หนังสือเรียนของบิชอปมักใช้สำหรับตำราเรียนระดับบัณฑิตศึกษา

อัลกอริทึมนี้ใช้การตัดกราฟขั้นต่ำเพื่อจำแนกตัวอย่างที่ไม่มีป้ายกำกับจำนวนมากโดยใช้ตัวอย่างที่มีป้ายกำกับจำนวนเล็กน้อยเท่านั้น

ปริญญาตรีเป็นมิตร ฉันได้อธิบายสิ่งนี้กับผู้ที่ได้รับการสุ่มเลือกสองสามคนและพวกเขาเข้าใจ

Ref: Blum, A. , & Chawla, S. (2001) เรียนรู้จากข้อมูลที่ติดป้ายกำกับและไม่มีป้ายกำกับโดยใช้กราฟย่อ

โปรโมชั่นด้วยตนเองการแสดงของอัลกอริทึมในYouTube

ผมเห็นความคาดหวังว่าการเพิ่มประสิทธิภาพ (EM) ยังไม่ได้รับการกล่าวถึงและก็แน่นอน "ขึ้นมี" ในด้านบน 10: http://www.cs.uvm.edu/~icdm/algorithms/10Algorithms-08.pdf

อัลกอริทึมการเรียนรู้เสริม (โดยเฉพาะ Q-Learning และ SARSA) นั้นค่อนข้างเข้าใจง่ายและทรงพลังมากในการแก้ปัญหาการเรียนรู้ พวกเขาไม่ต้องการความรู้ขั้นสูงใด ๆ ในพีชคณิตเชิงเส้นยกเว้นการพิสูจน์การลู่เข้าและอัตราการลู่เข้า

คุณสามารถใช้แบบสำรวจที่รู้จักกันดีของ Littman และ al .: http://www.cs.cmu.edu/afs/cs/project/jair/pub/volume4/kaelbling96a-html/rl-survey.html

คุณสามารถครอบคลุมอัลกอริทึมบางอย่างที่คลาสสิกหรือมีสัญชาตญาณที่ดี

ตัวอย่างเช่น C4.5 และ CART ซึ่งเป็นอัลกอริธึมแผนผังการตัดสินใจแบบคลาสสิก

นอกจากนี้คุณยังสามารถครอบคลุมวิธีการทั้งมวล (เช่น AdaBoost (Boosting), Bagging) ซึ่งมีประสิทธิภาพที่ดีมากในการใช้งานจริง

นอกจากนี้การเรียนรู้เชิงลึกยังเป็นหัวข้อที่ดีเพราะมันร้อนมาก

Native Bayes และเครือข่าย Bayesian อัลกอริธึมต้นไม้ตัดสินใจค่อนข้างง่ายที่จะมองเห็นได้ง่ายกว่าเริ่มต้นด้วยเครือข่ายที่เป็นกลางหรือ svm

การเขียนโปรแกรมทางพันธุกรรมนั้นยอดเยี่ยมจริงๆ มันใช้แรงบันดาลใจจากชีววิทยาและสามารถนำไปใช้กับปัญหาจำนวนมาก (เช่นปัญหา n-queens และ TSP)

มันไม่จำเป็นต้องมีทักษะทางคณิตศาสตร์ลึก

แก้ไข: มันต้องใช้วิธีการประเมินว่าโซลูชั่นที่มีศักยภาพดีแค่ไหน มันสามารถใช้เป็นตัวอย่างในการเดากฎที่อยู่เบื้องหลังชุดของตัวเลขการค้นหาปัญหาขั้นต่ำและปัญหาหลายตัวแปรและค้นหาพื้นที่พารามิเตอร์ขนาดใหญ่ มันเหมาะเมื่อคุณไม่สนใจวิธีที่ดีที่สุด แต่เมื่อมีวิธีแก้ปัญหาที่ดีพอจะทำ ฉันเชื่อว่านี่ถูกใช้เพื่อค้นหากลยุทธ์ที่ดีสำหรับเกม (สร้างคำสั่งซื้อใน Starcraft 2 และการเล่นที่ดีที่สุดใน Mario)