ทำไมความหนาแน่นหลังเป็นสัดส่วนกับความหนาแน่นก่อนหน้าที่ฟังก์ชันโอกาส?


11

ตามทฤษฎีบท Bayes' ) แต่ตามข้อความทางเศรษฐมิติของฉันมันบอกว่าP ( θ | Y ) α P ( Y | θ ) P ( θ ) ทำไมถึงเป็นเช่นนี้ ฉันไม่เข้าใจว่าทำไมP ( y ) ถึงถูกเพิกเฉยP(y|θ)P(θ)=P(θ|y)P(y)P(θ|y)P(y|θ)P(θ)P(y)


1
โปรดสังเกตว่ามันไม่ได้บอกว่าทั้งสองมีค่าเท่ากัน แต่มีสัดส่วน (ขึ้นอยู่กับปัจจัยนั่นคือ )1/P(y)
jpmuc

4
ไม่ได้ถูกละเว้น แต่ถือว่าเป็นค่าคงที่เพราะเป็นฟังก์ชันของข้อมูล yซึ่งได้รับการแก้ไขสำหรับปัญหาที่เกิดขึ้น ถ้า A ( x ) = c B ( x )โดยที่ cเป็นค่าคงที่ (หมายถึงไม่ขึ้นอยู่กับ x ) จากนั้นเราสามารถเขียน A ( x ) B ( x )ซึ่งก็หมายความว่า A ( x )P(y) yA(x)=cB(x)cxA(x)B(x)เป็นค่าคงที่ (ไม่ระบุ) โปรดทราบว่า extrema ของA(x)และB(x)เกิดขึ้นในสถานที่เดียวกันเพื่อให้สิ่งต่าง ๆ เช่นค่าความน่าจะเป็นด้านหลัง (MAP หรือ MAPP) สูงสุดสามารถหาได้จากP(yθ)P(θ)โดยไม่จำเป็นต้องใช้ จะรู้ (หรือคำนวณ)P(Y) A(x)B(x)A(x)B(x)P(yθ)P(θ)P(y)
Dilip Sarwate

คำตอบ:


14

ความน่าจะเป็นที่ขอบของ yจะไม่ถูก "เพิกเฉย" มันคงที่ หารด้วย P R ( Y )มีผลของการ "rescaling" ที่พีอาร์( Y | θ ) P ( θ )การคำนวณที่จะวัดเป็นความน่าจะเป็นที่เหมาะสมคือบน [ 0 , 1 ]ช่วงเวลา โดยไม่ต้องปรับนี้พวกเขาจะยังคงถูกต้องสมบูรณ์ญาติมาตรการ แต่ไม่ได้ถูก จำกัด ไป [ 0 , 1 ]ช่วงเวลาPr(y)yPr(y)Pr(y|θ)P(θ)[0,1][0,1]

มักจะเป็น "ซ้าย" เนื่องจาก P r ( y ) = P r ( y | θ ) P r ( θ ) d θมักจะประเมินได้ยากและโดยทั่วไปจะสะดวกพอที่จะทำการรวมทางอ้อม ผ่านการจำลองPr(y)Pr(y)=Pr(y|θ)Pr(θ)dθ


11

สังเกตว่า

P(θ|y)=P(θ,y)P(y)=P(y|θ)P(θ)P(y).

เนื่องจากคุณสนใจที่จะคำนวณความหนาแน่นของฟังก์ชันใด ๆ ที่ไม่ได้ขึ้นอยู่กับพารามิเตอร์นี้ - เช่นP ( y ) - สามารถถูกละทิ้งได้ สิ่งนี้จะช่วยให้คุณθP(Y)

P(θ|Y)αP(Y|θ)P(θ).

ผลของการทิ้งคือว่าตอนนี้ความหนาแน่นของP ( θ | Y )มีการสูญเสียคุณสมบัติบางอย่างเช่นการรวมถึง 1 กว่าโดเมนของθ นี่ไม่ใช่เรื่องใหญ่เนื่องจากมักจะไม่สนใจในการรวมฟังก์ชั่นความน่าจะเป็น แต่เป็นการเพิ่มประสิทธิภาพให้สูงสุด และเมื่อคุณกำลังการเพิ่มฟังก์ชั่นการคูณฟังก์ชั่นนี้โดยคงที่บางคน (จำได้ว่าอยู่ในวิธีการคชกรรมข้อมูลy ที่ได้รับการแก้ไข) ไม่ได้เปลี่ยนθที่สอดคล้องกับจุดสูงสุด มันเปลี่ยนค่าP(Y)P(θ|Y)θYθของความน่าจะเป็นสูงสุด แต่แล้วอีกครั้งหนึ่งมักจะสนใจในการวางตำแหน่งสัมพัทธ์ของแต่ละθθ

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.