การอนุมานแบบแปรผันเป็นภาษาอังกฤษธรรมดา

หลังจากดูวิดีโอบน youtube แล้วฉันรู้สึกว่าฉันไม่สามารถกำหนดความแตกต่างของการอนุมานได้ ฉันสามารถทำตามขั้นตอนในขณะที่ฉันกำลังดูวิดีโอบรรยายเกี่ยวกับเรื่องนี้ แต่ยากที่จะกำหนดว่าจริงๆแล้วคืออะไร หวังว่าจะได้ยินเกี่ยวกับมัน

ไม่ขึ้นอยู่กับความรู้ของฉัน แต่นี่เป็นกระดาษ (ในภาษาอังกฤษธรรมดาธรรม) ที่ผมคิดว่ามีความเกี่ยวข้องมากคำถาม: Blei, Kucukelbir & McAuliffe 2016 แปรผันอนุมาน: Review สำหรับสถิติ https://arxiv.org/abs/1601.00670

จากนามธรรม:

หนึ่งในปัญหาหลักของสถิติสมัยใหม่คือการประมาณความหนาแน่นของความน่าจะเป็นที่ยากต่อการคำนวณ ปัญหานี้มีความสำคัญอย่างยิ่งในสถิติแบบเบย์ซึ่งทำการอนุมานเกี่ยวกับปริมาณที่ไม่ทราบทั้งหมดซึ่งเป็นการคำนวณที่เกี่ยวข้องกับความหนาแน่นหลัง ในบทความนี้เราจะตรวจสอบการอนุมานแบบอนุมาน (VI) ซึ่งเป็นวิธีการเรียนรู้จากเครื่องที่ใกล้เคียงกับความหนาแน่นของความน่าจะเป็นผ่านการปรับให้เหมาะสม VI ถูกนำมาใช้ในหลาย ๆ แอปพลิเคชันและมีแนวโน้มที่จะเร็วกว่าวิธีดั้งเดิมเช่นการสุ่มตัวอย่างลูกโซ่มาร์คอฟมอนติคาร์โล แนวคิดเบื้องหลัง VI คือการวางครอบครัวที่มีความหนาแน่นเป็นอันดับแรกจากนั้นจึงค้นหาสมาชิกของครอบครัวที่ใกล้เคียงกับเป้าหมาย. การวัดความใกล้ชิดโดย Kullback-Leibler divergence เราทบทวนแนวคิดเบื้องหลังการอนุมานการแปรปรวนของค่าเฉลี่ยและอภิปรายกรณีพิเศษของ VI ที่ใช้กับโมเดลครอบครัวแบบเอ็กซ์โปเนนเชียลนำเสนอตัวอย่างเต็มรูปแบบด้วยการผสมผสานของ Bayesian ของ Gaussians และหาตัวแปรที่ใช้การเพิ่มประสิทธิภาพสุ่ม เราหารือเกี่ยวกับการวิจัยที่ทันสมัยใน VI และเน้นปัญหาเปิดที่สำคัญ VI มีประสิทธิภาพ แต่มันก็ยังไม่เข้าใจกันดี ความหวังของเราในการเขียนบทความนี้คือกระตุ้นการวิจัยเชิงสถิติเกี่ยวกับอัลกอริทึมระดับนี้

พวกเขายังให้คำแนะนำเมื่อนักสถิติควรใช้การสุ่มตัวอย่างมาร์คอฟโซ่มอนติคาร์โลและเมื่อการอนุมานเชิงแปรปรวน (ดูวรรคการเปรียบเทียบการอนุมานความแปรปรวนและ MCMCในบทความ)