การรวมความน่าจะเป็น / ข้อมูลจากแหล่งต่าง ๆ

ให้บอกว่าฉันมีสามแหล่งที่มาที่เป็นอิสระและแต่ละคนก็ทำนายสภาพอากาศในวันพรุ่งนี้ อันแรกบอกว่าความน่าจะเป็นของฝนในวันพรุ่งนี้คือ 0 จากนั้นอันที่สองบอกว่าความน่าจะเป็นที่ 1 และสุดท้ายอันสุดท้ายบอกว่าความน่าจะเป็นคือ 50% ฉันต้องการทราบความน่าจะเป็นทั้งหมดที่ได้รับจากข้อมูลนั้น

ถ้าใช้ทฤษฎีบทการคูณสำหรับเหตุการณ์อิสระฉันได้ 0 ซึ่งดูไม่ถูกต้อง เหตุใดจึงเป็นไปไม่ได้ที่จะคูณทั้งสามถ้าแหล่งทั้งหมดเป็นอิสระ? มีวิธีการแบบเบย์ในการอัปเดตก่อนหน้านี้เมื่อฉันรับข้อมูลใหม่หรือไม่

หมายเหตุ: นี่ไม่ใช่การบ้านเป็นสิ่งที่ฉันคิด

คุณถามเกี่ยวกับสามสิ่ง: (a) วิธีรวมการพยากรณ์หลายอย่างเข้าด้วยกันเพื่อให้ได้การพยากรณ์เดี่ยว (b) ถ้าสามารถใช้วิธีการแบบเบย์ในที่นี่ได้อย่างไรและ (c) วิธีจัดการกับความน่าจะเป็นศูนย์

รวมการคาดการณ์เป็นหลักปฏิบัติทั่วไป หากคุณมีการพยากรณ์หลายครั้งกว่าที่คุณใช้ค่าเฉลี่ยของการคาดการณ์เหล่านั้นการคาดการณ์รวมที่เกิดขึ้นควรจะดีกว่าในแง่ของความแม่นยำกว่าการพยากรณ์แต่ละอย่าง โดยเฉลี่ยพวกเขาที่คุณสามารถใช้ถัวเฉลี่ยถ่วงน้ำหนักที่น้ำหนักจะขึ้นอยู่กับข้อผิดพลาดผกผัน (เช่นความแม่นยำ) หรือเนื้อหาข้อมูล หากคุณมีความรู้เกี่ยวกับความน่าเชื่อถือของแหล่งข้อมูลแต่ละแหล่งคุณสามารถกำหนดน้ำหนักที่เป็นสัดส่วนกับความน่าเชื่อถือของแหล่งที่มาแต่ละแหล่งดังนั้นแหล่งที่เชื่อถือได้มากขึ้นจะมีผลกระทบมากขึ้นต่อการคาดการณ์รวมสุดท้าย ในกรณีของคุณคุณไม่มีความรู้ใด ๆ เกี่ยวกับความน่าเชื่อถือของพวกเขาดังนั้นการพยากรณ์แต่ละครั้งจะมีน้ำหนักเท่ากันดังนั้นคุณจึงสามารถใช้ค่าเฉลี่ยเลขคณิตอย่างง่ายของการพยากรณ์ทั้งสาม

$$0\%\times.33+50\%\times.33+100\%\times.33 = (0\%+50\%+100\%)/3=50\%$$

ตามที่แนะนำในความคิดเห็นโดย@AndyWและ@ArthurB นอกจากนี้ยังมีวิธีการอื่นนอกเหนือจากวิธีถ่วงน้ำหนักง่ายๆ มีวิธีการหลายอย่างที่อธิบายไว้ในวรรณกรรมเกี่ยวกับการคาดคะเนโดยผู้เชี่ยวชาญที่ฉันไม่คุ้นเคยมาก่อนดังนั้นขอบคุณพวก ในการคาดการณ์ของผู้เชี่ยวชาญโดยเฉลี่ยบางครั้งเราต้องการแก้ไขเพราะข้อเท็จจริงที่ว่าผู้เชี่ยวชาญมักจะถอยกลับไปที่ค่าเฉลี่ย (Baron et al, 2013) หรือทำให้การคาดการณ์ของพวกเขารุนแรงขึ้น (Ariely et al, 2000; Erev et al, 1994) เพื่อให้บรรลุถึงสิ่งนี้สามารถใช้การแปลงการพยากรณ์แต่ละเช่นฟังก์ชันlogit$p_i$

$$\mathrm{logit}(p_i) = \log\left( \frac{p_i}{1-p_i} \right) \tag{1}$$

อัตราต่อรองกับ -th พลังงาน$a$

$$g(p_i) = \left( \frac{p_i}{1-p_i} \right)^a \tag{2}$$

โดยที่หรือการเปลี่ยนแปลงรูปแบบทั่วไปเพิ่มเติม$0 < a < 1$

$$t(p_i) = \frac{p_i^a}{p_i^a + (1-p_i)^a} \tag{3}$$

โดยที่หากไม่มีการแปลงใด ๆ หากพยากรณ์แต่ละครั้งทำให้สุดขั้วมากขึ้นถ้าคาดการณ์ต่ำลงสุดขีดสิ่งที่แสดงในภาพด้านล่าง (ดู Karmarkar, 1978; Baron et al, 2013 )$a=1$$a>1$$0 < a<1$

หลังจากการพยากรณ์การเปลี่ยนแปลงดังกล่าวเป็นค่าเฉลี่ย (โดยใช้ค่าเฉลี่ยเลขคณิตค่ามัธยฐานค่าเฉลี่ยถ่วงน้ำหนักหรือวิธีอื่น) หากมีการใช้สมการ (1) หรือ (2) ผลลัพธ์จะต้องมีการแปลงกลับโดยใช้ log log สำหรับ (1) และอัตราต่อรองผกผันสำหรับ (2) หรือสามารถใช้ค่าเฉลี่ยทางเรขาคณิต (ดู Genest และ Zidek, 1986; cf. Dietrich and List, 2014)

$$\hat p = \frac{ \prod_{i=1}^N p_i^{w_i} }{ \prod_{i=1}^N p_i^{w_i} + \prod_{i=1}^N (1 - p_i)^{w_i} } \tag{4}$$

หรือวิธีการที่เสนอโดยSatopää et al (2014)

$$\hat p = \frac{ \left[ \prod_{i=1}^N \left(\frac{p_i}{1-p_i} \right)^{w_i} \right]^a }{ 1 + \left[ \prod_{i=1}^N \left(\frac{p_i}{1-p_i} \right)^{w_i} \right]^a } \tag{5}$$

ที่มีน้ำหนัก ในกรณีส่วนใหญ่จะใช้น้ำหนักที่เท่ากันยกเว้นว่ามีข้อมูลเบื้องต้นที่แนะนำตัวเลือกอื่นอยู่ วิธีการดังกล่าวใช้ในการพยากรณ์ค่าเฉลี่ยของผู้เชี่ยวชาญเพื่อแก้ไขความไม่มั่นใจหรือต่ำเกินไป ในกรณีอื่น ๆ คุณควรพิจารณาว่าการเปลี่ยนการพยากรณ์เป็นมากกว่าหรือน้อยกว่านั้นเป็นธรรมเพราะมันสามารถทำให้การประเมินโดยรวมลดลงจากขอบเขตที่ทำเครื่องหมายโดยการพยากรณ์ต่ำสุดและสูงสุด$w_i$$w_i = 1/N$

ถ้าคุณมีเบื้องต้นความรู้เกี่ยวกับความน่าจะเป็นฝนที่คุณสามารถใช้ Bayes ทฤษฎีบทที่จะปรับปรุงการคาดการณ์ที่กำหนดเบื้องต้นน่าจะเป็นของฝนตกลงมาในลักษณะคล้ายที่อธิบายไว้ในที่นี่ นอกจากนี้ยังมีวิธีการง่ายๆที่สามารถนำมาประยุกต์ใช้คือการคำนวณถัวเฉลี่ยถ่วงน้ำหนักของคุณคาดการณ์ (ตามที่กล่าวไว้ข้างต้น) ซึ่งก่อนน่าจะเป็นจะถือว่าเป็นจุดข้อมูลเพิ่มเติมที่มีน้ำหนัก prespecified บางในขณะนี้ตัวอย่างเช่นไอเอ็ม ( ดูแหล่งที่มาหรือที่นี่และที่นี่เพื่อสนทนา cf. Genest และ Schervish, 1985), เช่น$p_i$$\pi$$w_{\pi}$

$$\hat p = \frac{ \left(\sum_{i=1}^N p_i w_i \right) + \pi w_{\pi} }{ \left(\sum_{i=1}^N w_i \right) + w_{\pi} } \tag{6}$$

จากคำถามของคุณ แต่ไม่ได้ติดตามว่าคุณมีความรู้เบื้องต้นเกี่ยวกับปัญหาของคุณดังนั้นคุณอาจใช้ชุดเครื่องแบบก่อนเช่นสมมติว่ามี โอกาสของปริมาณน้ำฝนและสิ่งนี้ไม่ได้เปลี่ยนแปลงมากนักในกรณีของตัวอย่างที่คุณให้ไว้ .$50\%$

สำหรับการจัดการกับศูนย์มีหลายวิธีที่เป็นไปได้ ก่อนอื่นคุณควรสังเกตุว่าโอกาสของฝนนั้นไม่น่าเชื่อถือจริง ๆ เพราะมันบอกว่ามันเป็นไปไม่ได้ที่ฝนจะตก ปัญหาที่คล้ายกันมักเกิดขึ้นในการประมวลผลภาษาธรรมชาติเมื่ออยู่ในข้อมูลของคุณคุณจะไม่สังเกตเห็นค่าบางอย่างที่อาจเกิดขึ้นได้ (เช่นคุณนับความถี่ของตัวอักษรและข้อมูลของคุณตัวอักษรธรรมดาบางตัวไม่เกิดขึ้นเลย) ในกรณีนี้ตัวประมาณความน่าจะเป็นแบบดั้งเดิมคือ$0\%$

$$p_i = \frac{n_i}{\sum_i n_i}$$

ที่คือจำนวนของการเกิดขึ้นของ TH ค่า (จากหมวดหมู่) จะช่วยให้คุณถ้า0 นี้เรียกว่าปัญหาศูนย์ความถี่ สำหรับค่าดังกล่าวคุณรู้ว่าความน่าจะเป็นไม่ใช่ศูนย์ (มีอยู่จริง!) ดังนั้นการประเมินนี้จึงไม่ถูกต้อง นอกจากนี้ยังมีข้อกังวลในทางปฏิบัติ: การคูณและหารด้วยเลขศูนย์จะนำไปสู่ค่าศูนย์หรือผลลัพธ์ที่ไม่ได้กำหนดดังนั้นค่าศูนย์จึงเป็นปัญหาในการจัดการ$n_i$$i$$d$$p_i = 0$$n_i = 0$

การแก้ไขที่ง่ายและใช้กันทั่วไปคือการเพิ่มค่าคงที่ให้กับจำนวนของคุณดังนั้น$\beta$

$$p_i = \frac{n_i + \beta}{(\sum_i n_i) + d\beta}$$

ตัวเลือกทั่วไปสำหรับคือคือการใช้เครื่องแบบก่อนหน้านี้โดยยึดตามกฎการสืบทอดอย่างต่อเนื่องของ Laplace ,สำหรับการประมาณการ Krichevsky-Trofimov หรือสำหรับตัวประเมิน Schurmann-Grassberger (1996) อย่างไรก็ตามโปรดสังเกตว่าสิ่งที่คุณทำที่นี่คือคุณใช้ข้อมูลที่ไม่อยู่ในข้อมูล (ก่อนหน้า) ในแบบจำลองของคุณ ด้วยการใช้วิธีการนี้คุณจะต้องจดจำข้อสันนิษฐานที่คุณทำและนำมาพิจารณาด้วย ความจริงที่ว่าเรามีความรู้เบื้องต้นที่แข็งแกร่งว่าไม่ควรมีความน่าจะเป็นศูนย์ใด ๆ ในข้อมูลของเราโดยตรงแสดงให้เห็นถึงวิธีการแบบเบย์ที่นี่โดยตรง ในกรณีของคุณคุณไม่มีความถี่ แต่น่าจะเป็นดังนั้นคุณจะเพิ่มบางอย่าง1 1 / 2 1 /$\beta$$1$$1/2$$1/d$ค่าที่น้อยมากเพื่อแก้ไขให้เป็นศูนย์ โปรดสังเกตว่าในบางกรณีวิธีการนี้อาจมีผลกระทบที่ไม่ดี (เช่นเมื่อต้องจัดการกับบันทึก ) ดังนั้นจึงควรใช้ด้วยความระมัดระวัง

---

Schurmann, T. และ P. Grassberger (1996) การประมาณค่าเอนโทรปีของลำดับสัญลักษณ์ ความโกลาหล, 6, 41-427

Ariely, D. , Tung Au, W. , Bender, RH, Budescu, DV, Dietz, CB, Gu, H. , Wallsten, TS และ Zauberman, G. (2000) ผลกระทบของการประมาณค่าความน่าจะเป็นแบบอัตนัยระหว่างและภายในผู้ตัดสิน วารสารจิตวิทยาการทดลอง: ประยุกต์ 6 (2), 130

บารอน, เจ, Mellers, BA, Tetlock, PE, Stone, E. และ Ungar, LH (2014) เหตุผลสองประการที่ทำให้การคาดการณ์ความน่าจะเป็นรวมนั้นรุนแรงมากขึ้น การวิเคราะห์การตัดสินใจ, 11 (2), 133-145

Erev, I. , Wallsten, TS, และ Budescu, DV (1994) พร้อมกันเกินความมั่นใจ: บทบาทของข้อผิดพลาดในกระบวนการตัดสิน รีวิวจิตวิทยา, 101 (3), 519

Karmarkar สหรัฐอเมริกา (1978) ยูทิลิตี้ถ่วงน้ำหนักส่วนตัว: ส่วนขยายเชิงพรรณนาของตัวแบบอรรถประโยชน์ที่คาดหวัง พฤติกรรมองค์การและสมรรถนะของมนุษย์, 21 (1), 61-72

เทอร์เนอร์, BM, Steyvers, M. , Merkle, EC, Budescu, DV และ Wallsten, TS (2014) การรวมการพยากรณ์ผ่านการปรับเทียบใหม่ การเรียนรู้ของเครื่อง, 95 (3), 261-289

Genest, C. , และ Zidek, JV (1986) การรวมการแจกแจงความน่าจะเป็น: บทวิจารณ์และบรรณานุกรมที่มีคำอธิบายประกอบ วิทยาศาสตร์สถิติ, 1 , 114–135

Satopää, VA, Baron, J. , Foster, DP, Mellers, BA, Tetlock, PE และ Ungar, LH (2014) การรวมการทำนายความน่าจะเป็นหลาย ๆ แบบโดยใช้แบบจำลอง logit อย่างง่าย วารสารการพยากรณ์ระหว่างประเทศ, 30 (2), 344-356

Genest, C. และ Schervish, MJ (1985) การสร้างแบบจำลองการตัดสินของผู้เชี่ยวชาญสำหรับการปรับปรุงแบบเบย์ พงศาวดารสถิติ , 1198-1212

Dietrich, F. , และ List, C. (2014) การรวบรวมความคิดเห็นที่น่าจะเป็น (ไม่ได้เผยแพร่)

การคิดถึงปัญหามีสองวิธี หนึ่งคือการบอกว่าแหล่งที่มาสังเกตตัวแปรแฝงรุ่นที่มีเสียงดัง "มันจะฝนตก / มันจะไม่ฝนตก"

ตัวอย่างเช่นเราสามารถพูดได้ว่าแหล่งที่มาแต่ละแห่งใช้การประมาณค่าจากการแจกแจงแบบหากฝนตกและการแจกแจงแบบหากไม่เป็นเช่นนั้น$Beta(a+b,a)$$Beta(a,a+b)$

ในกรณีนี้พารามิเตอร์หยดออกและสามคาดการณ์ ,และจะรวมกันเป็น$a$$x$$y$$z$

$$p = \frac{1}{1+\left(\frac{1}{x}-1\right)^b\left(\frac{1}{y}-1\right)^b\left(\frac{1}{z}-1\right)^b}$$

$b$คือพารามิเตอร์ที่ควบคุมวิธีการภายใต้ ( ) หรือสูงกว่า ( ) มั่นใจในแหล่งที่มา หากเราสมมติว่าการประมาณการแหล่งที่มานั้นไม่เอนเอียงแล้วและการประมาณการจะลดความซับซ้อนลงเป็น$b>1$$b<1$$b = 1$

$$\frac{p}{1-p} = \frac{x}{1-x} \frac{y}{1-y} \frac{z}{1-z}$$

ซึ่งเป็นเพียงการพูด: อัตราต่อรองของฝนเป็นผลผลิตของราคาที่ได้รับจากแต่ละแหล่ง หมายเหตุว่ามันไม่ได้กำหนดไว้ได้ดีถ้าแหล่งที่มาให้การประมาณการว่าและอื่น ๆ จะช่วยให้การประมาณการว่าแต่ภายใต้รูปแบบของเรานี้ไม่เคยเกิดขึ้นแหล่งที่มาไม่เคยที่มีความมั่นใจ แน่นอนว่าเราสามารถแก้ไขโมเดลเพื่อให้สิ่งนี้เกิดขึ้นได้$1$$0$

แบบจำลองนี้ใช้งานได้ดีกว่าถ้าคุณคิดถึงคนสามคนที่บอกคุณว่าฝนตกเมื่อวานนี้หรือไม่ ในทางปฏิบัติเรารู้ว่ามีองค์ประกอบสุ่มที่ลดไม่ได้ในสภาพอากาศและดังนั้นจึงเป็นการดีกว่าที่จะสมมติว่าธรรมชาติเลือกความน่าจะเป็นของฝนเป็นครั้งแรกซึ่งเป็นแหล่งที่สังเกตได้อย่างน่าสังเกตและจากนั้นพลิกเหรียญอคติเพื่อตัดสินใจว่า ฝนกำลังจะตกหรือไม่

ในกรณีดังกล่าวการประมาณแบบรวมจะมีลักษณะเหมือนค่าเฉลี่ยระหว่างการประมาณที่ต่างกัน

ในกรอบการทำงานของแบบจำลองความเชื่อที่ถ่ายโอนได้ (TBM)เป็นไปได้ที่จะรวมการทำนายที่แตกต่างกันโดยใช้ตัวอย่างเช่น ในการใช้กฎนี้คุณต้องเปลี่ยนความน่าจะเป็นของการทำนายเป็นการกำหนดความเชื่อพื้นฐาน สิ่งนี้สามารถเกิดขึ้นได้ด้วยหลักการที่เรียกว่าหลักการน้อยที่สุด ใน R:

library(ibelief)
#probabilities
p1 <- c(0.99, 0.01) # bad results for 0 and 1
p2 <- c(0.01, 0.99)
p3 <- c(0.5, 0.5)

# basic belief assignment, 
# each row represents a subset of (rain, not rain)
# each column represents one prediction
Mat <- LCPrincple(rbind(p1,p2,p3))

# combine beliefs
m <- DST(Mat, 1)

# resulting probability distribution (pignistic probability)
mtobetp(m)
# returns 0.5 and 0.5

สำหรับตัวอย่างที่สองของการคาดการณ์อิสระสามครั้งที่ 0.75 วิธีการนี้จะส่งคืนค่าที่สูงกว่า:

p4 <- c(0.75, 0.25)
Mat <- LCPrincple(rbind(p4,p4,p4))
m <- DST(Mat, 1)
mtobetp(m)
#returns 0.9375 0.0625

นี่ไม่ไกลจากแนวทางแบบเบย์ที่แสดงในคำตอบของ Arthur B

ฉันคิดว่ามันคุ้มค่าที่จะดูรูปแบบการถ่วงน้ำหนักตามข้อผิดพลาดผกผันที่กล่าวถึงในหนึ่งในคำตอบ หากแหล่งที่มาเป็นอิสระอย่างแท้จริงและเรา จำกัด น้ำหนักที่จะรวมเป็นหนึ่งน้ำหนักจะได้รับจาก

$$w_1 = {{\sigma_2^2 \sigma_3^2} \over {\sigma_1^2 \sigma_2^2 + \sigma_1^2 \sigma_3^2 + \sigma_2^2 \sigma_3^2}},\ w_2 = {{\sigma_1^2 \sigma_3^2} \over {\sigma_1^2 \sigma_2^2 + \sigma_1^2 \sigma_3^2 + \sigma_2^2 \sigma_3^2}},\ w_3 ={{\sigma_1^2 \sigma_2^2} \over {\sigma_1^2 \sigma_2^2 + \sigma_1^2 \sigma_3^2 + \sigma_2^2 \sigma_3^2}}.$$

หากเป็นสถานะ OP การคาดการณ์มีความน่าเชื่อถือเท่า ๆ กันน้ำหนักทั้งหมดจะลดความซับซ้อนลงที่และการคาดการณ์แบบรวมสำหรับตัวอย่างที่กำหนดจะเป็น 50%$\frac{1}{3}$

โปรดทราบว่าค่าของไม่จำเป็นต้องทราบหากทราบสัดส่วนที่สัมพันธ์กัน ดังนั้นถ้าดังนั้นการคาดการณ์ในตัวอย่างจะเป็นσ 2 1 : σ 2 2 : σ 2 3 = 1 : 2 : 4 , f = $\sigma_i$$\sigma_1^2 : \sigma_2^2 : \sigma_3^2 = 1:2:4,$

$$f = { {{8} \over {14}}*(0) + {{4} \over {14}}*(1) + {{2} \over {14}}*(0.5) } = 0.3571$$

ตัวเลขของพวกเขาสำหรับโอกาสในการเกิดฝนตกเป็นเพียงครึ่งหนึ่งของเรื่องราวเท่านั้นเนื่องจากเราจะต้องทำให้การคาดการณ์ของพวกเขาสงบลงด้วยความน่าจะเป็นที่พวกเขาจะแม่นยำเมื่อทำการเดา

เพราะฝนบางอย่างไม่เหมือนกัน (ฝนตกหรือไม่ในการตั้งค่านี้) พวกเขาไม่สามารถแก้ไขได้พร้อมกับความน่าจะเป็น 75% ตามที่ Karsten แนะนำ (ฉันคิดว่ายากที่จะบอกด้วยความสับสนที่ฉันได้ยินเกี่ยวกับความหมาย เพื่อค้นหา "ความน่าจะเป็นรวม")

เมื่อพิจารณาถึงความสามารถส่วนตัวของพวกเขาในการทำนายสภาพอากาศเราสามารถแทง (a la Thomas Bayes เช่นเดียวกับที่คนตาบอดยิงในที่มืด) ในโอกาสที่ฝนจะตกในวันพรุ่งนี้

สถานีที่ 1 นั้นถูกต้องในการคาดการณ์ของพวกเขา 60% ของเวลาที่สอง 30% ของเวลาและสถานีสุดท้ายที่น่าสงสาร 10% ของเวลา

E [rain] = Px X + Py Y + Pz * Z เป็นรูปแบบที่เรากำลังดูที่นี่:

(.6) (0) + (. 3) (1) + (. 1) (. 5) = E [rain] = โอกาส 35% ของฝนที่มีความแม่นยำในการทำนาย

มีคำตอบที่ซับซ้อนมากมายสำหรับคำถามนี้ แต่สิ่งที่เกี่ยวกับค่าความแปรปรวนแบบถ่วงน้ำหนักของค่าเฉลี่ย: https://en.wikipedia.org/wiki/Inverse-variance_weighting

แทนที่จะใช้การวัดซ้ำซ้ำด้วยเครื่องมือเดียวหากผู้ทดลองสร้างปริมาณที่เท่ากันกับเครื่องมือที่แตกต่างกัน n ที่มีคุณภาพการวัดที่แตกต่างกัน ...

ตัวแปรสุ่มแต่ละตัวจะถูกถ่วงน้ำหนักในสัดส่วนผกผันกับความแปรปรวน

ค่าเฉลี่ยถ่วงน้ำหนักความแปรปรวนแบบผกผันดูเหมือนจะตรงไปตรงมามากในการคำนวณและเนื่องจากโบนัสมีความแปรปรวนน้อยที่สุดในค่าเฉลี่ยถ่วงน้ำหนักทั้งหมด

สำหรับการรวมความน่าเชื่อถือสูตร go-to ของฉันคือ r1xr2xr3 ÷ (r1xr2xr3 + (1-r1) x (1-r2) x (1-r3) ดังนั้นสำหรับ 3 แหล่งความน่าเชื่อถือ 75% ทั้งหมดที่พูดในสิ่งเดียวกันฉันจะมี .75 ^ 3 ÷ (.75 ​​^ 3 + .25 ^ 3) => 96% ความน่าเชื่อถือของการตอบสนองแบบรวม