บทเรียนการสุ่มตัวอย่างและการอ้างอิงที่ดีของกิ๊บส์

ฉันต้องการเรียนรู้ว่า Gibbs Sampling ทำงานอย่างไรและฉันกำลังมองหากระดาษขั้นพื้นฐานที่ดีถึงขั้นกลาง ฉันมีพื้นฐานด้านวิทยาการคอมพิวเตอร์และมีความรู้ด้านสถิติขั้นพื้นฐาน

มีใครอ่านเนื้อหาที่ดีรอบ ๆ ? คุณเรียนที่ไหน

ขอบคุณ

ฉันจะเริ่มต้นด้วย:

Casella, George; George, Edward I. (1992) "การอธิบายตัวอย่างกิ๊บส์ " นักสถิติชาวอเมริกัน 46 (3): 167–174 ( PDF ฟรี )

บทคัดย่อ : อัลกอริธึมที่ใช้คอมพิวเตอร์เป็นอย่างมากเช่นเครื่องเก็บตัวอย่างกิ๊บส์ได้กลายเป็นเครื่องมือทางสถิติที่ได้รับความนิยมมากขึ้นทั้งในงานประยุกต์และเชิงทฤษฎี อย่างไรก็ตามคุณสมบัติของอัลกอริธึมดังกล่าวบางครั้งอาจไม่ชัดเจน ที่นี่เราให้คำอธิบายง่ายๆว่าทำไมตัวอย่าง Gibbs ถึงทำงานอย่างไร เราวิเคราะห์คุณสมบัติของมันในกรณีง่าย ๆ และให้ข้อมูลเชิงลึกสำหรับกรณีที่ซับซ้อนมากขึ้น นอกจากนี้ยังมีตัวอย่างอีกจำนวนหนึ่ง

นักสถิติชาวอเมริกันมักจะเป็นแหล่งข้อมูลที่ดีสำหรับบทความแนะนำสั้น ๆ ที่ไม่เคยมีความรู้มาก่อนในหัวข้อนี้แม้ว่าพวกเขาจะถือว่าคุณมีพื้นฐานความน่าจะเป็นและสถิติที่คาดว่าจะเป็นสมาชิกของชาวอเมริกัน สมาคมสถิติ

บทความออนไลน์หนึ่งเรื่องที่ช่วยให้ฉันเข้าใจการสุ่มตัวอย่างของกิ๊บส์ได้คือการประมาณค่าพารามิเตอร์สำหรับการวิเคราะห์ข้อความโดย Gregor Heinrich มันไม่ใช่แบบฝึกหัดการสุ่มตัวอย่างทั่วไปของกิ๊บส์ แต่มันกล่าวถึงในแง่ของการจัดสรร dirichlet แฝงซึ่งเป็นแบบจำลอง Bayesian ที่ได้รับความนิยมพอสมควรสำหรับการสร้างแบบจำลองเอกสาร มันเข้าสู่คณิตศาสตร์อย่างละเอียด

หนึ่งที่เข้าไปในรายละเอียดทางคณิตศาสตร์แม้ครบถ้วนสมบูรณ์มากขึ้นคือกิ๊บส์สุ่มตัวอย่างสำหรับฝึกหัด และฉันหมายถึงความครบถ้วนสมบูรณ์ในการที่มันจะถือว่าคุณรู้ว่าแคลคูลัสหลายตัวแปรแล้ววางทุกขั้นตอนจากจุดนั้น ดังนั้นในขณะที่มีคณิตศาสตร์จำนวนมากไม่มีขั้นสูงเลย

ฉันคิดว่าสิ่งเหล่านี้จะมีประโยชน์มากกว่าสำหรับคุณจากนั้นบางสิ่งที่ให้ผลลัพธ์ขั้นสูงเช่นสิ่งที่พิสูจน์ได้ว่าทำไมการสุ่มตัวอย่างของกิ๊บส์ถึงการกระจายตัวที่ถูกต้อง การอ้างอิงที่ฉันชี้ให้เห็นไม่ได้พิสูจน์สิ่งนี้

หนังสือMonte Carlo Strategies ในการคำนวณทางวิทยาศาสตร์เป็นทรัพยากรที่ยอดเยี่ยม มันจัดการกับสิ่งต่าง ๆ ด้วยวิธีการทางคณิตศาสตร์อย่างเข้มงวด แต่คุณสามารถข้ามส่วนทางคณิตศาสตร์ที่ไม่สนใจคุณได้อย่างง่ายดายและยังได้รับคำแนะนำที่เป็นประโยชน์มากมาย โดยเฉพาะอย่างยิ่งมันเป็นงานที่ดีของการผูกตัวอย่าง Metropolis-Hastings และ Gibbs ซึ่งเป็นสิ่งสำคัญ ในแอปพลิเคชั่นส่วนใหญ่คุณจะต้องดึงจากการแจกแจงหลังโดยใช้การสุ่มตัวอย่างจากกิ๊บส์และการรู้ว่ามันเหมาะสมกับตรรกะของมหานครโดยทั่วไปจะมีประโยชน์อย่างไร