แบบจำลอง Bayesian คืออะไร?

ฉันสามารถเรียกรูปแบบที่ทฤษฎีบทของเบย์ใช้ "แบบจำลองเบย์" ได้หรือไม่? ฉันกลัวคำจำกัดความดังกล่าวอาจกว้างเกินไป

แบบจำลอง Bayesian คืออะไร?

ในสาระสำคัญหนึ่งที่การอนุมานจะขึ้นอยู่กับการใช้ทฤษฎีบทของเบย์ที่จะได้รับการกระจายหลังสำหรับปริมาณหรือปริมาณของรูปแบบที่น่าสนใจบางรูปแบบ (เช่นค่าพารามิเตอร์) ขึ้นอยู่กับการกระจายก่อนหน้าบางอย่างสำหรับพารามิเตอร์ที่ไม่รู้จักที่เกี่ยวข้อง

นั่นคือจากแบบจำลองการกระจายตัวของบางรูปแบบ, , และก่อนหน้า p ( θ ) , ใครบางคนอาจพยายามที่จะรับหลังp ( θ | X$f(X_i|\mathbf{\theta})$$p(\mathbf{\theta})$$p(\mathbf{\theta}|\mathbf{X})$ )

ตัวอย่างง่ายๆของแบบจำลองแบบเบย์ถูกกล่าวถึงในคำถามนี้และในความคิดเห็นของแบบนี้ - การถดถอยเชิงเส้นแบบเบย์ที่กล่าวถึงในรายละเอียดเพิ่มเติมในวิกิพีเดียที่นี่ที่นี่การค้นหาจะเปิดการสนทนาของแบบจำลอง Bayesian จำนวนหนึ่งที่นี่

แต่มีอีกหลายสิ่งที่เราอาจลองทำกับการวิเคราะห์แบบเบย์นอกจากจะเหมาะกับแบบจำลอง - ดูตัวอย่างทฤษฎีการตัดสินใจแบบเบย์

แบบจำลองแบบเบย์เป็นเพียงแบบจำลองที่ดึงการอนุมานจากการแจกแจงแบบหลังเช่นใช้การแจกแจงก่อนหน้าและความน่าจะเป็นซึ่งสัมพันธ์กับทฤษฎีบทของเบย์

ฉันสามารถเรียกรูปแบบที่ทฤษฎีบทของเบย์ใช้ "แบบจำลองเบย์" ได้หรือไม่?

ไม่

ฉันกลัวคำจำกัดความดังกล่าวอาจกว้างเกินไป

คุณพูดถูก ทฤษฎีบทของเบย์คือความสัมพันธ์ที่ถูกต้องตามกฎหมายระหว่างความน่าจะเป็นของเหตุการณ์ส่วนเพิ่มและความน่าจะเป็นตามเงื่อนไข มันถือโดยไม่คำนึงถึงการตีความของคุณน่าจะเป็น

แบบจำลอง Bayesian คืออะไร?

หากคุณใช้ก่อนและหลังแนวคิดที่ใดก็ได้ในการอธิบายหรือตีความของคุณคุณมีแนวโน้มที่จะใช้แบบจำลองแบบเบย์ แต่นี่ไม่ใช่กฎแบบสัมบูรณ์เพราะแนวคิดเหล่านี้ยังใช้ในวิธีที่ไม่ใช่แบบเบย์

ในความหมายที่กว้างขึ้นแม้ว่าคุณจะต้องสมัครรับการตีความความน่าจะเป็นแบบเบย์ในฐานะที่เป็นความเชื่อส่วนตัว ทฤษฎีบทนี้เล็ก ๆ น้อย ๆ ของเบส์ได้ขยายและยืดโดยบางคนเข้ามาดูโลกนี้ทั้งหมดและแม้ผมจะพูดว่าปรัชญา หากคุณอยู่ในค่ายนี้คุณก็เป็นชาวเบย์ เบย์ไม่รู้ว่าสิ่งนี้จะเกิดขึ้นกับทฤษฎีบทของเขา เขาน่ากลัวฉันคิดว่า

แบบจำลองทางสถิติสามารถถูกมองว่าเป็นขั้นตอน / เรื่องราวที่อธิบายถึงข้อมูลบางอย่างที่เกิดขึ้น แบบจำลองแบบเบย์คือแบบจำลองทางสถิติที่คุณใช้ความน่าจะเป็นเพื่อแสดงถึงความไม่แน่นอนทั้งหมดภายในแบบจำลองทั้งความไม่แน่นอนเกี่ยวกับผลลัพธ์ แต่ยังรวมถึงความไม่แน่นอนเกี่ยวกับอินพุต (พารามิเตอร์อาคา) ไปยังแบบจำลอง สิ่งที่เป็นทฤษฎีบทก่อนหน้า / หลัง / เบย์ทั้งหมดตามมาในเรื่องนี้ แต่ในความคิดของฉันใช้ความน่าจะเป็นสำหรับทุกสิ่งเป็นสิ่งที่ทำให้เบส์ (และแน่นอนคำดีจะอาจเพียงเป็นสิ่งที่ชอบรูปแบบความน่าจะเป็น )

นั่นหมายความว่าแบบจำลองทางสถิติอื่น ๆ ส่วนใหญ่สามารถ "โยนเข้าสู่" แบบจำลองแบบเบย์โดยปรับเปลี่ยนให้ใช้ความน่าจะเป็นได้ทุกที่ นี่เป็นเรื่องจริงโดยเฉพาะอย่างยิ่งสำหรับแบบจำลองที่ขึ้นอยู่กับความเป็นไปได้สูงสุดเนื่องจากความเหมาะสมของแบบจำลองความเป็นไปได้สูงสุดเป็นส่วนย่อยที่เข้มงวดในการปรับแบบจำลองแบบเบย์

คำถามของคุณเกี่ยวกับความหมายมากขึ้น: ฉันจะเรียกแบบจำลอง "Bayesian" ได้เมื่อใด

ข้อสรุปจากบทความที่ยอดเยี่ยมนี้:

Fienberg, SE (2006) การอนุมานแบบเบย์ได้กลายเป็น "Bayesian" เมื่อใด การวิเคราะห์แบบเบย์, 1 (1): 1-40

มี 2 ​​คำตอบ:

• แบบจำลองของคุณเป็นแบบเบย์แรกหากใช้กฎของเบย์ (นั่นคือ "อัลกอริทึม")
• ถ้าคุณอนุมาน (ซ่อนเร้น) สาเหตุจากรูปแบบทั่วไปของระบบของคุณแสดงว่าคุณคือ Bayesian (นั่นคือ "ฟังก์ชัน")

น่าแปลกที่คำศัพท์ "แบบจำลองเบย์" ที่ใช้ทั่วทั้งสนามจะตัดสินลงรอบ ๆ ยุค 60 เท่านั้น มีหลายสิ่งที่ต้องเรียนรู้เกี่ยวกับการเรียนรู้ของเครื่องจักรเพียงแค่ดูประวัติของมัน!