อะไรคือความแตกต่างระหว่างการกระจายการทำนายหลังและการสะท้อนกลับ?


31

ฉันเข้าใจว่า Posterior คืออะไร แต่ฉันไม่แน่ใจว่าอันหลังหมายถึงอะไร

2 แตกต่างกันอย่างไร

เควินเมอร์ฟี่ย์ P ระบุไว้ในตำราเรียนของเขา: การเรียนรู้ของเครื่อง: มุมมองที่น่าจะเป็น , นั่นคือ "รัฐความเชื่อภายใน" นั่นหมายความว่าอย่างไร ฉันอยู่ภายใต้การแสดงผลที่ว่าก่อนหน้านี้แสดงถึงความเชื่อหรืออคติภายในของคุณฉันจะไปไหน

คำตอบ:


36

ความแตกต่างอย่างง่าย ๆ ระหว่างทั้งสองคือการกระจายหลังขึ้นอยู่กับพารามิเตอร์ที่ไม่รู้จักเช่นการกระจายหลังคือ: โดยที่คือค่าคงที่ normalizingθ

p(θ|x)=c×p(x|θ)p(θ)
c

ในขณะที่การกระจายการทำนายหลังไม่ได้ขึ้นอยู่กับพารามิเตอร์ที่ไม่รู้จักเพราะมันถูกรวมเข้าด้วยกันคือการกระจายการทำนายหลังคือ: θ

p(x|x)=Θc×p(x,θ|x)dθ=Θc×p(x|θ)p(θ|x)dθ

ที่เป็นตัวแปรสุ่มใหม่ไม่มีใครสังเกตและมีความเป็นอิสระของxxx

ฉันจะไม่อาศัยคำอธิบายการแจกแจงหลังเนื่องจากคุณบอกว่าคุณเข้าใจ แต่การแจกแจงหลัง "เป็นการแจกแจงปริมาณที่ไม่รู้จักซึ่งถือว่าเป็นตัวแปรสุ่มเงื่อนไขตามหลักฐานที่ได้รับ" (Wikipedia) โดยพื้นฐานแล้วการกระจายนั้นจะอธิบายพารามิเตอร์ที่คุณไม่รู้จักแบบสุ่ม

ในอีกทางหนึ่งการกระจายการทำนายหลังมีความหมายที่แตกต่างอย่างสิ้นเชิงในการกระจายข้อมูลสำหรับการทำนายอนาคตตามข้อมูลที่คุณได้เห็นแล้ว ดังนั้นการกระจายการคาดการณ์หลังจึงใช้เพื่อคาดการณ์ค่าข้อมูลใหม่

ถ้าช่วยได้ก็คือกราฟตัวอย่างของการแจกแจงหลังและการกระจายการทำนายหลัง:

ป้อนคำอธิบายรูปภาพที่นี่

ป้อนคำอธิบายรูปภาพที่นี่


3
กราฟการกระจายการคาดการณ์หลังนั้นต้องการฉลากแกนใหม่และคำอธิบายภาพหรือบางสิ่ง ฉันได้รับความคิดเพราะฉันรู้ว่าการกระจายการคาดการณ์ด้านหลังคืออะไร แต่ใครบางคนที่เพิ่งคิดออกก็อาจสับสนได้
ฟ้า

ขอบคุณ @BabakP คุณช่วยชี้ให้ฉันดูว่าคุณใช้การกระจายแบบไหนในการวางแผน PMF ของทีต้าและ P (x * | theta)
โฆษณา

... เพราะฉันต้องการตัวอย่างที่สมบูรณ์
โฆษณา

ฉันเพิ่งแสร้งทำเป็นว่าหลังฉันเป็นเบต้า (3,2) ฉันไม่ได้ทำงานอะไรเลย แต่แน่นอนถ้าคุณต้องการตัวอย่างสมมติว่ามีโอกาสเป็นแบบทวินาม (n, p) และก่อนหน้านี้ใน p คือเบต้า (a, b) จากนั้นคุณควรจะได้รับว่าผู้หลังเป็นการกระจายเบต้าอีกครั้ง .

เช่นกันการทำนายหลังนั้นไม่ใช่เรื่องง่ายที่จะได้มา ฉันเพิ่งคว้ากราฟจากรหัสกระบวนการแบบเกาส์บางอย่างที่ฉันเขียนเพื่อการคาดคะเนจาก GP หลัง และด้วยสิ่งที่กล่าวมานั้นพล็อตหลังและพล็อตการคาดการณ์หลังนั้นไม่ตรงกับที่แสดงหลังพวกมันทั้งคู่โดยพลการ

11

การกระจายการทำนายมักจะใช้เมื่อคุณได้เรียนรู้การกระจายหลังสำหรับพารามิเตอร์ของแบบจำลองการทำนายบางอย่าง ตัวอย่างเช่นในการถดถอยเชิงเส้นแบบเบย์คุณเรียนรู้การกระจายหลังผ่านพารามิเตอร์ w ของโมเดล y = wX ที่ให้ข้อมูลที่สังเกตได้ X บางส่วน
จากนั้นเมื่อจุดข้อมูลที่มองไม่เห็นใหม่ x * เข้ามาคุณต้องการค้นหาการกระจายมากกว่าการทำนายที่เป็นไปได้ * ให้การกระจายด้านหลังสำหรับ w ที่คุณเพิ่งเรียนรู้ การกระจายตัวเหนือความเป็นไปได้ของ y * ที่ได้จากด้านหลังสำหรับ w คือการกระจายการทำนาย


5

พวกเขาอ้างถึงการแจกแจงของสองสิ่งที่แตกต่างกัน

การกระจายตัวหลังหมายถึงการกระจายของพารามิเตอร์ในขณะที่การกระจายหลังการทำนาย (PPD) หมายถึงการกระจายของการสังเกตในอนาคตของข้อมูล

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.