เข้าใจโดยสัญชาตญาณว่าเหตุใดการแจกแจงปัวซงเป็นกรณี จำกัด ของการแจกแจงทวินาม

ใน "การวิเคราะห์ข้อมูล" โดย DS Sivia มีการสืบทอดของการแจกแจงปัวซงจากการแจกแจงทวินาม

พวกเขาอ้างว่าการแจกแจงปัวซงเป็นกรณี จำกัด ของการแจกแจงทวินามเมื่อ$M\rightarrow\infty$โดยที่$M$คือจำนวนการทดลอง

คำถามที่ 1: การโต้แย้งนั้นจะเข้าใจได้อย่างไรอย่างสังหรณ์ใจ?

คำถามที่ 2: ทำไมขีด จำกัดขนาดใหญ่$M$ถึงเท่ากับM$\frac{M!}{N!(M-N)!}$ที่Nคือจำนวนความสำเร็จในการทดลองM? (ขั้นตอนนี้ใช้ในการสืบทอด)$\frac{M^{N}}{N!}$$N$$M$

ฉันจะลองคำอธิบายง่ายๆ บันทึกว่าสำหรับตัวแปรสุ่มทวินามเรามีความคาดหวังคือn Pและความแปรปรวนเป็นn P ( 1 - P ) ตอนนี้คิดว่าXบันทึกจำนวนเหตุการณ์ในการทดลองnจำนวนมากแต่ละเหตุการณ์มีความน่าจะเป็นน้อยpดังนั้นเราจึงใกล้เคียงกับ1 - p = 1 (จริงๆ≈ ) จากนั้นเรามีn p = $X \sim \text{Bin}(n,p)$$n p$$n p (1-p)$$X$$n$$p$$1-p=1$$\approx$$np=\lambda$พูดและดังนั้นค่าเฉลี่ยและความแปรปรวนมีทั้งเท่ากับλ จากนั้นจำไว้ว่าสำหรับตัวแปรปัวซองแบบกระจายสุ่มเรามีค่าเฉลี่ยและความแปรปรวนเท่ากันเสมอ! นั่นเป็นเหตุผลที่เป็นไปได้สำหรับการประมาณปัวซอง แต่ไม่ใช่ข้อพิสูจน์$n p (1-p) \approx n p 1 =\lambda$$\lambda$

จากนั้นดูจากมุมมองอื่นกระบวนการจุดปัวซองที่https://en.wikipedia.org/wiki/Poisson_point_process ในบรรทัดจริง นี่คือการกระจายตัวของคะแนนสุ่มบนเส้นที่เราได้รับหากคะแนนสุ่มเกิดขึ้นตามกฎ:

1. คะแนนในช่วง disjoint เป็นอิสระ
2. ความน่าจะเป็นของจุดสุ่มในช่วงเวลาสั้น ๆ เป็นสัดส่วนกับความยาวของช่วงเวลา
3. ความน่าจะเป็นที่จุดสองจุดขึ้นไปในช่วงเวลาสั้น ๆ นั้นเป็นศูนย์

จากนั้นการกระจายจำนวนจุดในช่วงเวลาที่กำหนด (ไม่จำเป็นต้องสั้น) คือปัวซอง (พร้อมพารามิเตอร์สัดส่วนกับความยาว) ทีนี้ถ้าเราแบ่งช่วงนี้ในช่วงย่อยสั้นมาก ๆ เท่ากัน ( n ) ความน่าจะเป็นที่จุดสองจุดหรือมากกว่านั้นในช่วงย่อยที่กำหนดนั้นเป็นศูนย์ดังนั้นตัวเลขนั้นจะมีการกระจายตัวเบออลลี่ที่ดีมาก นั่นคือBin ( 1 , p )ดังนั้นผลรวมของทั้งหมดนี้คือBin ( n , p )ดังนั้นการประมาณที่ดีของการแจกแจงปัวซองของจำนวนคะแนนในช่วงเวลา (ยาว) นั้น$\lambda$$n$$\text{Bin}(1,p)$$\text{Bin}(n,p)$

แก้ไขจาก @Ytsen de Boer (OP): ตอบคำถามหมายเลข 2 เป็นที่น่าพอใจโดย @ Łukasz Grad

ผมขอยกตัวอย่างฮิวริสติกสำรอง ฉันจะแสดงวิธีประมาณกระบวนการปัวซงว่าเป็นทวินาม (และยืนยันว่าการประมาณนั้นดีกว่าสำหรับการทดลองหลายครั้งที่มีความน่าจะเป็นต่ำ) ดังนั้นการแจกแจงทวินามจะต้องมีแนวโน้มการแจกแจงปัวซอง

สมมติว่าเหตุการณ์เกิดขึ้นโดยมีอัตราคงที่ในเวลา เราต้องการทราบการกระจายของเหตุการณ์ที่เกิดขึ้นในหนึ่งวันโดยรู้ว่าจำนวนเหตุการณ์ที่คาดหวังคือ$\lambda$ λ

ดีจำนวนที่คาดหวังของเหตุการณ์ต่อชั่วโมงเป็น$\lambda/24$ 24 ลองทำเป็นว่านี้หมายถึงว่าน่าจะเป็นของเหตุการณ์ที่เกิดขึ้นในชั่วโมงที่กำหนดจะ$\lambda/24$ 24 [มันไม่ถูกต้อง แต่มันเป็นประมาณที่ดีถ้า$\lambda/24 \ll 1$โดยทั่วไปถ้าเราสามารถสันนิษฐานได้ว่าหลายเหตุการณ์ไม่ได้เกิดขึ้นในเวลาเดียวกัน] แล้วเราสามารถใกล้เคียงกับการกระจายของจำนวนเหตุการณ์ที่เกิดขึ้นในขณะที่ทวินามกับ$M=24$การทดลองแต่ละคนมีความน่าจะเป็นความสำเร็จ$\lambda/24$ 24

เราปรับปรุงการประมาณโดยการเปลี่ยนช่วงเวลาเป็นนาที จากนั้นก็เป็น$p=\lambda/1440$ด้วย$M=1440$การทดลอง1440 ถ้า$\lambda$เป็นรอบกล่าวว่า 10 แล้วเราสามารถสวยมั่นใจว่าไม่มีนาทีมีสองเหตุการณ์

แน่นอนว่ามันจะดีขึ้นถ้าเราเปลี่ยนเป็นวินาที ตอนนี้เรากำลังมองหาที่$M=86400$เหตุการณ์แต่ละคนมีความน่าจะเป็นขนาดเล็ก$\lambda/86400$ 86400

ว่าใหญ่ของคุณไม่มี$\lambda$คือผมในที่สุดก็สามารถเลือกขนาดเล็กพอ$\Delta t$ดังกล่าวว่ามันเป็นไปได้มากว่าไม่มีสองเหตุการณ์ที่เกิดขึ้นในช่วงเวลาเดียวกัน จากนั้นการกระจายตัวแบบทวินามที่สอดคล้องกับ$\Delta t$จะเป็นการจับคู่ที่ดีเยี่ยมกับการแจกแจงปัวซองที่แท้จริง

เหตุผลเดียวที่พวกเขาไม่เหมือนกันคือมีความเป็นไปได้ที่ไม่ใช่ศูนย์ว่ามีสองเหตุการณ์เกิดขึ้นในช่วงเวลาเดียวกัน แต่เนื่องจากมีเพียงประมาณ$\lambda$เหตุการณ์และมีการกระจายไปยังถังขยะจำนวนหนึ่งที่มากเกินกว่า$\lambda$ไม่น่าเป็นไปได้ที่ทั้งสองจะอยู่ในถังขยะเดียวกัน

หรือในคำอื่น ๆ ที่มีการกระจายทวินามมีแนวโน้มที่จะการกระจาย Poisson เป็น$M \to \infty$ถ้าความน่าจะเป็นความสำเร็จคือ$p=\lambda/M$ M

คำถามที่ 1

เรียกคืนคำจำกัดความของการแจกแจงทวินาม:

การแจกแจงความถี่ของจำนวนผลลัพธ์ที่เป็นไปได้ที่ประสบความสำเร็จในการทดลองในแต่ละครั้งซึ่งมีความน่าจะเป็นเหมือนกันของความสำเร็จ

เปรียบเทียบสิ่งนี้กับคำจำกัดความของการแจกแจงปัวซอง:

การแจกแจงความถี่แบบแยกซึ่งให้ความน่าจะเป็นของเหตุการณ์อิสระจำนวนหนึ่งที่เกิดขึ้นในเวลาที่กำหนดเวลา

ความแตกต่างที่สำคัญระหว่าง 2 คือทวินามคือในการทดลอง , ปัวซองเป็นช่วงเวลา$n$$t$ทีขีด จำกัด จะเกิดขึ้นได้อย่างไรอย่างสังหรณ์ใจ?

ให้บอกว่าคุณต้องดำเนินการทดลอง Bernoulli ตลอดไปชั่วนิรันดร์ ยิ่งกว่านั้นคุณวิ่งต่อนาที ต่อนาทีคุณจะนับความสำเร็จแต่ละครั้ง ดังนั้นตลอดไปชั่วนิรันดร์คุณกำลังเรียกใช้กระบวนการ B i n ( p , 30 )ทุกนาที มากกว่า 24 ชั่วโมงคุณมี B ฉันn ( p , 43200 $n = 30$$Bin(p,30)$$Bin(p,43200)$ )

เมื่อคุณรู้สึกเหนื่อยคุณจะถูกถามว่า "มีกี่ความสำเร็จเกิดขึ้นระหว่างเวลา 18:00 น. - 19:00 น." คำตอบของคุณอาจเป็นนั่นคือคุณให้ความสำเร็จโดยเฉลี่ยในหนึ่งชั่วโมง ที่เสียงมากเช่นพารามิเตอร์ Poisson λให้ฉัน$30*60*p$$\lambda$

คำถาม 2)

$$\frac{\frac{M!}{N!(M-N)!}}{\frac{M^N}{N!}} = \frac{M(M-1)\dots(M - N + 1)}{M^N} = 1(1 - \frac{1}{M})\dots(1 - \frac{N - 1}{M})$$

ดังนั้นการ จำกัด สำหรับการแก้ไข$N$

$$\lim_{M \to \infty} \frac{\frac{M!}{N!(M-N)!}}{\frac{M^N}{N!}} = \lim_{M \to \infty} 1(1 - \frac{1}{M})\dots(1 - \frac{N - 1}{M}) = 1$$

ปัญหาคือว่าการกำหนดลักษณะของปัวซองเป็นกรณี จำกัด ของการแจกแจงทวินามนั้นไม่ถูกต้องตามที่ระบุไว้ไม่ถูกทีเดียวตามที่ระบุไว้

ปัวซองเป็นกรณี จำกัด ของทวินามเมื่อ: ส่วนที่สองมีความสำคัญ ถ้า

$$M \to \infty \quad \color{red}{\text{and} \quad Mp \to \lambda.}$$ $p$ยังคงอยู่ในเงื่อนไขแรกก็หมายความว่าอัตราจะเพิ่มขึ้นโดยไม่มีข้อผูกมัด

สิ่งที่กระจาย Poisson สันนิษฐานว่าเหตุการณ์ที่เกิดขึ้นเป็นของหายาก สิ่งที่เราหมายถึงโดย "หายาก" ไม่ใช่ว่าอัตราการจัดกิจกรรมมีขนาดเล็ก - แน่นอนกระบวนการปัวซงอาจมีความเข้มสูงมาก - แต่ค่อนข้างจะเป็นไปได้ว่าความน่าจะเป็นของเหตุการณ์ที่เกิดขึ้นในทันทีในเวลาใด ๆ[ t , t + d t )มีขนาดเล็กหายไป สิ่งนี้ตรงกันข้ามกับแบบจำลองทวินามที่ความน่าจะเป็นpของเหตุการณ์ (เช่น "ความสำเร็จ") ได้รับการแก้ไขสำหรับการทดลองใด ๆ$\lambda$$[t, t + dt)$$p$

เพื่อแสดงให้เห็นรูปแบบที่เราคิดว่าชุดของทดลองอิสระ Bernoulli แต่ละคนมีความน่าจะเป็นของความสำเร็จPและเรามองสิ่งที่เกิดขึ้นกับการกระจายของจำนวนความสำเร็จที่Xเป็นM →การ ∞ สำหรับNที่มีขนาดใหญ่เท่าที่เราต้องการและไม่ว่าpเล็กเพียงใดจำนวนที่คาดหวังของความสำเร็จคือE [ X ] = M p > NสำหรับM > N /$M$$p$$X$$M \to \infty$$N$$p$$\operatorname{E}[X] = Mp > N$$M > N/p$. กล่าวอีกนัยหนึ่งไม่ว่าโอกาสของความสำเร็จจะเป็นไปได้ยากเพียงใดในที่สุดคุณก็สามารถประสบความสำเร็จโดยเฉลี่ยได้มากเท่าที่คุณต้องการหากคุณทำการทดลองหลายครั้งอย่างเพียงพอ ดังนั้น (หรือเพียงแค่พูดว่า " Mมีขนาดใหญ่") ไม่เพียงพอที่จะปรับรูปแบบปัวซองสำหรับ$M \to \infty$$M$$X$ X

มันไม่ได้เป็นเรื่องยากที่จะสร้างพีชคณิตเป็นกรณี จำกัด ของ Pr [ X = x ] = (

$$\Pr[X = x] = e^{-\lambda} \frac{\lambda^x}{x!}, \quad x = 0, 1, 2, \ldots$$ โดยการตั้งค่า P = λ / Mและให้ M →การ ∞ คำตอบอื่น ๆ ที่นี่ได้กล่าวถึงสัญชาตญาณที่อยู่เบื้องหลังความสัมพันธ์นี้และให้คำแนะนำการคำนวณเช่นกัน แต่มันเป็นสิ่งสำคัญที่ P = λ / M คุณไม่สามารถเพิกเฉยได้ $$\Pr[X = x] = \binom{M}{x} p^x (1-p)^{M-x}, \quad x = 0, 1, 2, \ldots, M$$ $p = \lambda/M$$M \to \infty$$p = \lambda/M$

ฉันสามารถลองตอบได้เพียงส่วนเดียวเท่านั้นและมันเกี่ยวกับสัญชาตญาณของคำถาม 2 ไม่ใช่ข้อพิสูจน์ที่เข้มงวด

$N$$M$, without replacement and without order.

Here though $M$ becomes so large that you may approximate the scenario as sampling with replacement in which case you get $M^N$สั่งตัวอย่าง หากคุณไม่สนใจคำสั่งของ$N$ วัตถุที่เลือกสิ่งนี้จะลด $M^N/N!$ เพราะสิ่งเหล่านั้น $N$ สามารถสั่งวัตถุได้ $N!$ วิธี

ฉันคิดว่านี่เป็นตัวอย่างที่ดีที่สุดที่อธิบายถึงวิธีการแจกแจงทวินามโดยสังหรณ์ใจว่าเป็นเรื่องธรรมดากับลูกบอลจำนวนมาก ที่นี่ลูกบอลแต่ละลูกมีความน่าจะเป็นที่เท่ากันในการตกที่ด้านข้างของหมุดในแต่ละชั้นและลูกบอลทั้งหมดต้องเผชิญหน้ากับหมุดจำนวนเดียวกัน จะเห็นได้อย่างง่ายดายว่าเมื่อลูกบอลมีจำนวนสูงมากการกระจายของลูกบอลในส่วนต่าง ๆ จะเหมือนกับการแจกแจงแบบปกติ

คำตอบของคำถาม 2 ของฉันเหมือนกับคำตอบของ Lukasz