ความน่าจะเป็น - ทำไมต้องทวีคูณ


22

ฉันกำลังศึกษาเกี่ยวกับการประมาณค่าความน่าจะเป็นสูงสุดและฉันอ่านว่าฟังก์ชันความน่าจะเป็นคือผลลัพธ์ของความน่าจะเป็นของแต่ละตัวแปร ทำไมถึงเป็นผลิตภัณฑ์ ทำไมไม่รวม ฉันพยายามค้นหาบน Google แล้ว แต่ไม่พบคำตอบที่มีความหมาย

https://en.wikipedia.org/wiki/Maximum_likelihood


7
โปรดทราบว่านี่ไม่จำเป็นต้องเป็นกรณีและโดยทั่วไปความน่าจะเป็นสูงสุดที่กำหนดไว้ในแง่ของความหนาแน่นร่วมของตัวแปรสุ่ม แน่นอนถ้าพวกเขามีความเป็นอิสระร่วมกันความหนาแน่นของพวกเขาเป็นเพียงผลิตภัณฑ์ของระยะขอบ
Ant

โปรดจำไว้ว่าการคูณนั้นเป็นเพียงการจดชวเลข เมื่อฉันพูด 2 ครั้ง 3 ฉันกำลังบอกว่า 2 + 2 + 2 เราคูณเพราะเราขี้เกียจ ใครมีเวลาทำอย่างหนัก? คุณสามารถเพิ่มถ้ามันช่วยให้คุณเห็นสิ่งที่เกิดขึ้น (ช่วยให้ฉันเข้าใจปัญหา Monty Hall) แต่หลังจากนั้นไม่นานคุณจะเบื่อกับมัน
candied_orange

สมมติว่าคุณมีโอกาส 80% ที่มีผมสีน้ำตาลและมีโอกาส 75% ที่มีดวงตาสีน้ำตาล คุณคิดว่าเป็นไปได้ไหมที่ความน่าจะเป็นที่จะมีผมสีน้ำตาลและผมสีน้ำตาลตาคือ80% + 75% = 155%? แล้วไง80% * 75% = 60%ล่ะ
njzk2

คำตอบ:


39

นี่เป็นคำถามพื้นฐานมากและแทนที่จะใช้ภาษาทางการและสัญกรณ์คณิตศาสตร์ฉันจะพยายามตอบในระดับที่ทุกคนที่เข้าใจคำถามสามารถเข้าใจคำตอบได้

ลองนึกภาพว่าเรามีแมวแข่งกัน พวกเขามีความน่าจะเป็น 75% ของการเกิดสีขาวและความน่าจะเป็น 25% ของการเกิดสีเทาไม่มีสีอื่น นอกจากนี้พวกเขามีโอกาส 50% ที่จะมีดวงตาสีเขียวและมีโอกาส 50% ที่มีดวงตาสีฟ้าและสีเสื้อและสีตามีความเป็นอิสระ

ตอนนี้ให้เราดูลูกแมวแปดตัว

ป้อนคำอธิบายรูปภาพที่นี่

คุณจะเห็นว่า 1 ใน 4 หรือ 25% เป็นสีเทา นอกจากนี้ 1 ใน 2 หรือ 50% มีดวงตาสีฟ้าด้วย ตอนนี้คำถามคือ

ลูกแมวกี่ตัวมีขนสีเทาและตาสีฟ้า

คุณสามารถนับได้คำตอบคือ นั่นคือหรือ 12.5% ​​ของ 8 ลูกแมว14×12=18

ทำไมมันเกิดขึ้น เพราะแมวตัวใดก็ตามที่มี 1 ใน 4 น่าจะเป็นสีเทา ดังนั้นเลือกแมวสี่ตัวและคุณสามารถคาดหวังว่าหนึ่งในนั้นจะเป็นสีเทา แต่ถ้าคุณเลือกแมวสี่ตัวจากหลาย ๆ ตัว (และรับค่าที่คาดหวังของแมวสีเทา 1 ตัว) แมวที่เป็นสีเทามีความน่าจะเป็น 1 ใน 2 ที่จะมีดวงตาสีฟ้า ซึ่งหมายความว่าจากจำนวนแมวทั้งหมดที่คุณเลือกอันดับแรกคุณจะคูณผลรวม 25% เพื่อรับแมวสีเทาจากนั้นคุณคูณ 25% ของแมวทั้งหมดที่เลือกไว้ 50% เพื่อให้ได้แมวที่มีดวงตาสีฟ้า สิ่งนี้ทำให้คุณมีโอกาสที่จะได้รับแมวสีเทาสีน้ำเงินตา

การรวมพวกมันเข้าด้วยกันจะให้ซึ่งทำให้314+12หรือ 6 จาก 8 ในภาพของเรามันสอดคล้องกับการสรุปแมวที่มีตาสีฟ้ากับแมวที่มีขนสีเทา - และนับลูกแมวตาสีฟ้าหนึ่งตัวสีเทาสองครั้ง! การคำนวณดังกล่าวสามารถมีที่ของมันได้ แต่มันค่อนข้างผิดปกติในการคำนวณความน่าจะเป็นและแน่นอนว่าไม่ใช่สิ่งที่คุณถาม34


1
ฉันรู้ว่าคำตอบอื่น ๆ ที่นี่หมายถึงสิ่งเดียวกัน ถึงกระนั้นฉันคิดว่าจำเป็นต้องใช้การแสดงภาพที่นี่ - ถ้า OP สามารถเห็นภาพแนวคิดด้วยตนเองเขาอาจจะมาถึงคำตอบแล้ว
Rumtscho

นี่เป็นคำตอบที่ยอดเยี่ยมเพราะมันแสดงให้เห็นว่าตัวแปรอิสระแต่ละตัวเป็นแกนอิสระในเมทริกซ์ของแมว ทำให้ง่ายต่อการเข้าใจ ฉันจะใช้ตัวอย่างนี้เพื่อสอนลูก ๆ ของฉัน!
dotancohen

3
คำตอบนี้มีข้อบกพร่องจริง ๆ เพราะมันยังคง conflates ค่าสังเกตและค่าที่คาดหวัง เมื่อเห็นว่ามันได้รับความนิยมมากแค่ไหนฉันจะพยายามหาเวลาที่จะอัปเดตด้วยคำอธิบายว่าทำไมการย่อยแมวแบบนี้จึงทำให้เรามีค่าประมาณโอกาสสูงสุด (หรือแก้ไขปัญหาในการเลือกแมวสุ่ม 8 ตัวและหาว่ามันไม่ใช่ สิ่งที่ฉันวาดในภาพ)
Rumtscho

ทำไมถึงไม่สามารถเป็นประชากรทั้งหมดของแมวแบบนี้ได้? (สมมติว่าพวกเขามีคุณสมบัติการวิจัยพิเศษบางอย่าง - ลิ้นของพวกเขานั้นมีเคมีบำบัดเช่นกัน) จากนั้นการทำ conflation นั้นไม่เป็นอันตราย
Eric Towers

16

ABSABP(AB)=P(AB)=P(A)P(B)A1,A2,...AnP(Aผมผมผม)=ΠผมผมP(Aผม)ผม[1,2,...,n]

x1,x2,...,xnn(x1,x2,...,xn|θ)=Πผม=1ผม=n(xผม|θ)


6

P(AB)P(A)P(B)

ดังนั้นหากคุณถือว่าการสังเกตทั้งหมดของคุณเป็นอิสระความน่าจะเป็นที่จะสังเกตค่าทั้งหมดที่คุณเห็นนั้นเท่ากับผลคูณของความน่าจะเป็นแต่ละข้อ


8
P(AB)

สวัสดีขอบคุณสำหรับคำตอบ! ทำไมฉันถึงเพิ่มโอกาสสูงสุด (ฟังก์ชั่นความหนาแน่นของข้อต่อ)? เหตุใดฉันจึงไม่สามารถเพิ่มผลรวมของความน่าจะเป็นของการสังเกตทั้งหมด (หรือฟังก์ชันอื่น ๆ ) ให้สูงสุดได้ ฉันต้องการค้นหาสาเหตุที่เลือกความหนาแน่นของข้อต่อ Wikipedia เริ่มต้นโดยใช้ฟังก์ชั่นความหนาแน่นของข้อต่อ แต่มีเหตุผลทำไมเราใช้ฟังก์ชั่นความหนาแน่นของข้อต่อ? นี่คือสิ่งที่ฉันพยายามทำความเข้าใจ
RuiQi

@haziqRazali ความคิดของ MLE คือการเลือกค่าประมาณเพื่อให้กลุ่มตัวอย่างเป็นไปได้มากที่สุดที่คุณได้รับการแจกแจง ดังนั้นชื่อโอกาสสูงสุด
Repmat

1
@HaziqRazali คำถามเช่น "ทำไมเพิ่มโอกาสในการเพิ่ม" เป็นคำถามใหม่ (คำถามที่ได้รับการถามและตอบที่อื่นบนเว็บไซต์)
Glen_b

3

ทำไมไม่เพิ่ม

เพราะเห็นได้ชัดว่าไม่มีเหตุผล สมมติว่าคุณมีเศษหนึ่งส่วนสี่และหนึ่งส่วนและคุณต้องการที่จะพลิกมันทั้งคู่ มีโอกาส 50% ในไตรมาสที่จะขึ้นหัวและโอกาส 50% ที่จะมีหัวนิกเกิล ถ้าโอกาสที่ทั้งสองขึ้นมาเป็นจำนวนรวมนั่นจะทำให้มีโอกาส 100% ซึ่งผิดอย่างเห็นได้ชัดเพราะไม่มีโอกาสสำหรับ HT, TH และ TT

ทำไมทวีคูณ

เพราะมันไม่เข้าท่า เมื่อคุณเพิ่มโอกาส 50% ในการควงหัวขึ้นด้วยโอกาส 50% ของการเพิ่มขึ้นของหัวนิกเกิลคุณจะได้รับ 0.5 x 0.5 = 0.25 = 25% โอกาสที่เหรียญทั้งสองจะถูกหัว ระบุว่ามีชุดค่าผสมที่เป็นไปได้สี่ชุด (HH, HT, TH, HT) และแต่ละชุดมีแนวโน้มเท่ากันชุดนี้สมบูรณ์แบบ เมื่อประเมินความน่าจะเป็นของเหตุการณ์สองเหตุการณ์ที่เกิดขึ้นทั้งสองเราจะเพิ่มความน่าจะเป็นของแต่ละคน


2

ฉันกำลังอ่านโพสต์เหล่านี้เพราะเช่นเดียวกับโปสเตอร์ต้นฉบับความต้องการของฉันคือการเข้าใจว่าทำไม ' ความน่าจะเป็น' fn คือ ' ผลิตภัณฑ์ ' ของความหนาแน่นของค่าตัวอย่างแต่ละค่า - ' x ' เหตุผลที่อ่านได้และมีเหตุผลให้อยู่ภายใต้หัวข้อหลักการของความน่าจะเป็นสูงสุดอ้างอิง: [ http://www-structmed.cimr.cam.ac.uk/Course/Likelihood/likelihood.html] ใบเสนอราคาเพิ่มเติมทางคณิตศาสตร์ความน่าจะเป็นที่กำหนดไว้ ความน่าจะเป็นของการสร้างชุดการวัด (อ้างอิงเดียวกัน) โดยสรุปความน่าจะเป็นที่คุณมาถึงตัวอย่างที่คุณมีอยู่


0

เป้าหมายของวิธีการความน่าจะเป็นสูงสุดคือการหาตัวประมาณที่เพิ่มความน่าจะเป็นของการสังเกตค่าของตัวแปร (ตัวแปรภายนอก) นั่นคือเหตุผลที่เราต้องคูณความน่าจะเป็นของการกลับเป็นซ้ำ

ตัวอย่างเช่นสมมติว่าจำนวนสายโทรศัพท์ที่เลขานุการสามารถรับได้ในหนึ่งชั่วโมงนั้นเป็นไปตามการแจกแจงปัวซอง จากนั้นคุณแยกค่าตัวอย่าง 2 ค่า (โทรศัพท์ 5 สายและโทรศัพท์ 8 สายต่อชั่วโมง) ตอนนี้คุณต้องตอบคำถามนี้ ค่าพารามิเตอร์ที่เพิ่มความน่าจะเป็นของการสังเกตการโทร 5 และ 8 พร้อมกันคืออะไร? หลังจากนั้นลองตอบด้วยความน่าจะเป็นที่สังเกตค่าทั้งหมดของแซม

เนื่องจากตัวแปรสุ่มอิสระ

f (y1 = 5 สายโทรศัพท์) * f (y2 = 8 สายโทรศัพท์) = ∏if (y, θ) = L (θ, y1, y2)

สุดท้ายลองตอบความน่าจะเป็นที่สังเกตค่าทั้งหมดของกลุ่มตัวอย่าง

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.