เหตุใดผู้คนจึงใช้คำว่า "น้ำหนักของหลักฐาน" และแตกต่างจาก "ข้อมูลร่วมกันแบบชี้จุด" อย่างไร

ที่นี่ "น้ำหนักของหลักฐาน" (WOE) เป็นคำทั่วไปในวรรณคดีทางวิทยาศาสตร์และนโยบายการตีพิมพ์ที่พบบ่อยที่สุดในบริบทของการประเมินความเสี่ยงที่กำหนดโดย:

w (e : h) = \log \frac{p (e | h)}{p (e | \bar{h})}

$w(e : h) = \log\frac{p(e|h)}{p(e|\overline{h})}$

โดยที่คือหลักฐาน $e$ $h$ คือสมมุติฐาน

ตอนนี้ฉันต้องการทราบว่าอะไรคือความแตกต่างที่สำคัญกับ PMI (ข้อมูลร่วมกันแบบจุด)

p m i (e, h) = \log \frac{p (e, h)}{p (e) * p (h)}

$pmi(e,h)=\log\frac{p(e,h)}{p(e)*p(h)}$

probability bayesian mutual-information

— Charlie Epps
แหล่งที่มา

ฉันเชื่อว่าคำประกาศเกียรติคุณในบทความนี้: projecteuclid.org/ …

— JohnRos

@ JohnRos: ในขณะที่เป็นกระดาษที่น่าสนใจน้ำหนักแนวคิดของหลักฐานไม่ได้มีชื่อ IJ Good มีหนังสือเล่มหนึ่งตีพิมพ์ในปี 1950 และบอกว่าเขาได้เรียนรู้แนวคิดจาก A Turing ที่ Bletchley Park!

— kjetil b halvorsen

โปรดทราบว่าความฉิบหายที่กำหนดไว้ที่นี่เป็นเพียงอัตราส่วนความน่าจะเป็นบันทึก หลายคนกล่าวถึงมันในเว็บไซต์นี้เป็นแนวคิดที่แตกต่างให้ดูstats.stackexchange.com/questions/462052/…

— kjetil b halvorsen

แม้ว่าพวกเขาจะดูคล้ายกัน แต่ก็เป็นสิ่งที่แตกต่างกันมาก เริ่มจากความแตกต่างที่สำคัญกันเถอะ

เป็นสิ่งที่แตกต่างใน PMI และใน WOE $h$
สังเกตคำศัพท์ใน PMI นี่ก็หมายความว่าเป็นตัวแปรสุ่มที่คุณสามารถคำนวณความน่าจะเป็น สำหรับ Bayesian นั้นไม่มีปัญหา แต่ถ้าคุณไม่เชื่อว่าสมมติฐานสามารถมีความน่าจะเป็นได้คุณจะไม่สามารถเขียน PMI สำหรับสมมติฐานและหลักฐานได้ ใน WOE,คือพารามิเตอร์ของการแจกแจงและการแสดงออกจะถูกกำหนดไว้เสมอ $p(h)$ $h$ $h$
PMI สมมาตรวิบัติไม่ได้
นิด ๆ , )อย่างไรก็ตามไม่จำเป็นต้องกำหนดเพราะคำอีแม้ว่าโดยทั่วไปแล้วจะไม่เท่ากับ $pmi(e,h) = pmi(h,e)$ $w(h:e) = \log p(h|e)/p(h|\bar{e})$ $\bar{e}$ . $w(e:h)$

นอกจากนั้น WOE และ PMI มีความคล้ายคลึงกัน

น้ำหนักของหลักฐานบอกว่ามีหลักฐานเท่าใดที่พูดถึงสมมุติฐาน ถ้าเป็น 0 ก็หมายความว่าไม่พูดหรือต่อต้าน สูงกว่ามันเป็นมากขึ้นก็จะตรวจสอบสมมติฐานและลดมันเป็นมากขึ้นก็จะตรวจสอบชั่วโมง $h$ $\bar{h}$

ข้อมูลร่วมกันบอกปริมาณการเกิดขึ้นของเหตุการณ์ ( หรือ ) ว่าบางอย่างเกี่ยวกับการเกิดขึ้นของเหตุการณ์อื่น ถ้าเป็น 0 เหตุการณ์เป็นอิสระและเหตุการณ์หนึ่งเกิดขึ้นโดยไม่ได้พูดถึงเหตุการณ์อื่น ยิ่งสูงก็ยิ่งเกิดขึ้นบ่อยและยิ่งต่ำก็ยิ่งพวกเขาเป็นพิเศษร่วมกัน $e$ $h$

สิ่งที่เกี่ยวกับกรณีที่สมมติฐานเป็นตัวแปรสุ่มและตัวเลือกทั้งสองนั้นถูกต้อง? ยกตัวอย่างเช่นใน communiction ผ่านช่องทางที่มีเสียงดังไบนารีสมมติฐานเป็นสัญญาณที่ปล่อยออกมาเพื่อถอดรหัสและหลักฐานที่เป็นสัญญาณที่ได้รับ บอกได้เลยว่าน่าจะเป็นของการพลิกเป็นดังนั้นหากคุณได้รับวิบัติสำหรับคือ 6.90ดัชนี PMI ในมืออื่น ๆ ขึ้นอยู่กับ proability เปล่งที่1คุณสามารถตรวจสอบว่าเมื่อความน่าจะเป็นของการปล่อยมีแนวโน้มที่จะเป็น 0, PMI มีแนวโน้มที่จะเป็น $h$ $h$ $1/1000$ $1$ $1$ $\log 0.999/0.001 = 6.90$ $1$ $1$ $6.90$ ในขณะที่มันมีแนวโน้มที่จะเมื่อความน่าจะเป็นของการเปล่งที่มีแนวโน้มที่จะ1 $0$ $1$ $1$

พฤติกรรมที่ขัดแย้งนี้แสดงให้เห็นถึงสองสิ่ง:

ไม่มีใครเหมาะสมที่จะคาดเดาเกี่ยวกับการปล่อย ถ้าความน่าจะเปล่งที่ลดลงต่ำกว่าที่ปล่อยก๊าซเรือนกระจกได้มากที่สุดคือแม้ในขณะที่ได้รับ1อย่างไรก็ตามสำหรับความน่าจะเป็นของเล็ก ๆ เปล่งทั้งวิบัติและ PMI อยู่ใกล้กับ6.90 $1$ $1/1000$ $0$ $1$ $1$ $6.90$
PMI เป็นกำไรจากข้อมูล (แชนนอน)เหนือการรับรู้ของสมมติฐานหากสมมติฐานเกือบจะแน่ใจแล้วจะไม่มีการรับข้อมูล WOE เป็นการอัพเดทอัตราต่อรองก่อนหน้าของเราซึ่งไม่ได้ขึ้นอยู่กับมูลค่าของราคาต่อรองเหล่านั้น

— gui11aume
แหล่งที่มา

นี่อาจเป็นเรื่องที่น่าสังเกต แต่ใน WMI คุณจะนิยาม

โดยไม่กำหนด

อย่างไร คุณไม่ไปกับ

p (e | h)

$p(e|h)$

p (h)

$p(h)$

p (e | h) = \frac{p (e, h)}{p (h)}

$p(e|h) = \frac{p(e,h)}{p(h)}$

— Mike Battaglia

ฉันถือว่าคุณหมายถึง WOE คิดว่า

เป็นพารามิเตอร์การแจกแจงของการแจกแจงปัวซงเป็นต้น ในกรณีนี้

เป็นเพียงความเป็นไปได้และคุณไม่จำเป็นต้องกำหนด

)

จริงๆแล้วคุณไม่จำเป็นต้องเชื่อว่ามันมีความหมายเลย

h

$h$

p (e | h)

$p(e|h)$

p (h)

$p(h)$

— gui11aume