การอ้างอิงที่ดีในการทำความเข้าใจการเรียนรู้ออนไลน์คืออะไร

โดยเฉพาะฉันขอทรัพยากรเพื่อเรียนรู้เกี่ยวกับระบบการเรียนรู้ของเครื่องที่สามารถปรับปรุงเครือข่ายความเชื่อของตน (หรือเทียบเท่า) ระหว่างการดำเนินการ ฉันวิ่งข้ามไปไม่กี่ครั้งแม้ว่าฉันจะทำบุ๊กมาร์กไม่สำเร็จ

อย่างที่คุณอาจจินตนาการมันเป็นหัวข้อที่ค่อนข้างท้าทายในการค้นหาบนอินเทอร์เน็ต

อัลกอริทึมการเรียนรู้ออนไลน์ส่วนใหญ่มาจากอย่างน้อยหนึ่งในสายเลือดเหล่านี้:

• perceptron

  รัฐเพอร์เซปตรอนศิลปะที่มีขั้นตอนวิธีการแบบพาสซีฟก้าวร้าวที่ตรอนโครงสร้างและหลายพันธุ์ของพวกเขา

• winnow

  winnow ได้รับการปรับรูปแบบเป็นวิธีการไล่ระดับสีแบบเอ็กซ์โพเนนเชียลและสามารถนำไปใช้กับปัญหาเชิงโครงสร้างได้เช่นกัน นอกจากนี้ยังมีสายพันธุ์ที่จัดการโดยตรงกับ L1 กู (เพื่อรับประกัน sparsity) เช่นSMIDAS

• โคตรลาดลง

  โคตรลาดแบบลาดชันคือเมื่อคุณใช้การออปติไมซ์แบบออนไลน์กับปัญหาแบทช์ อัลกอริธึมที่ทันสมัยที่สุดคือLaSVM , Pegasos , และอัลกอริธึมเครือข่ายประสาทมากมายของ Leon Bottou สามารถฝึกอบรมได้อย่างง่ายดายในการตั้งค่านี้ ดูTheano กวดวิชาสำหรับตัวอย่างมากมาย อาจออนไลน์ EMเหมาะกับที่นี่

• การกรองอนุภาค

  สิ่งนี้เรียกว่าการอนุมาน rao-blackwellized และช่วยให้คุณอัปเดตโมเดลกราฟิก / ความน่าจะเป็นเมื่อมีข้อมูลเข้ามามากขึ้น บางตัวอย่างที่ดีมีรุ่นหัวข้อออนไลน์และNIPS กวดวิชาของ SMC

นอกจากนี้ยังมีบางประเด็นที่กว้างขึ้นด้วยการเรียนรู้ออนไลน์เช่นออนไลน์เพื่อการแปลงชุดเทคนิคงบประมาณสำหรับการเรียนรู้ออนไลน์กับเมล็ด (ชอบบทความนี้ , กระดาษนี้และบทความนี้ ) รสชาติที่แตกต่างจากขอบเขตทั่วไป, ความกังวล sparsity (และยัง กระดาษ SMIDAS ที่ฉันอ้างถึงข้างต้น), การแปลงเพื่อบันทึกหน่วยความจำและปัญหาอื่น ๆ อีกมากมาย

Avrim Blum เป็นกระดาษสำรวจที่ยอดเยี่ยมที่ฉันขอแนะนำให้เริ่มต้นด้วย: "อัลกอริทึมออนไลน์ในการเรียนรู้ของเครื่อง" http://www.cs.cmu.edu/~avrim/Papers/survey.ps

หากคุณกำลังมองหาข้อมูลเกี่ยวกับทฤษฎีที่อยู่เบื้องหลังการเรียนรู้ออนไลน์หนังสือของCesa-Bianchi และ Lugosiเป็นข้อมูลอ้างอิงที่มั่นคง

มีบทช่วยสอนที่ดีจาก ICML 2008 โดย Yoram Singer และ Shai Shalev Shwartz เกี่ยวกับทฤษฎีและการฝึกฝนการเรียนรู้ออนไลน์

การเรียนรู้ของเครื่อง - วัสดุหลักสูตร - Stanford http://www.stanford.edu/class/cs229/materials.html

วิดีโอการเรียนรู้ของเครื่องและปัญญาประดิษฐ์วิดีโอบรรยาย http://freescienceonline.blogspot.com/2007/07/machine-learning-and-artificial.html

กระบวนการแบบเกาส์สำหรับการเรียนรู้ของเครื่อง http://www.gaussianprocess.org/gpml/