ช่วยพัฒนาสมอง: ความยาวที่คาดหวังของลำดับ iid ที่เพิ่มขึ้นแบบซ้ำซากคืออะไรเมื่อดึงจากการแจกแจงแบบ [0,1]

นี่เป็นคำถามที่สัมภาษณ์สำหรับตำแหน่งนักวิเคราะห์เชิงปริมาณรายงานที่นี่ สมมติว่าเราวาดจากการแจกแจงแบบสม่ำเสมอและการจับสลากคือ iid ความยาวที่คาดหวังของการแจกแจงแบบซ้ำซ้อนเพิ่มขึ้นคือเท่าใด? คือเราหยุดการวาดถ้าการดึงปัจจุบันมีขนาดเล็กกว่าหรือเท่ากับการวาดก่อนหน้า $[0,1]$

ฉันได้รับสองสามครั้งแรก:

Pr (length = 1) = \int_{0}^{1} \int_{0}^{x_{1}} d x_{2} d x_{1} = 1 / 2

$\Pr(\text{length} = 1) = \int_0^1 \int_0^{x_1} \mathrm{d}x_2\, \mathrm{d}x_1 = 1/2$

Pr (length = 2) = \int_{0}^{1} \int_{x_{1}}^{1} \int_{0}^{x_{2}} d x_{3} d x_{2} d x_{1} = 1 / 3

$\Pr(\text{length} = 2) = \int_0^1 \int_{x_1}^1 \int_0^{x_2} \mathrm{d}x_3 \, \mathrm{d}x_2 \, \mathrm{d}x_1 = 1/3$

Pr (length = 3) = \int_{0}^{1} \int_{x_{1}}^{1} \int_{x_{2}}^{1} \int_{0}^{x_{3}} d x_{4} d x_{3} d x_{2} d x_{1} = 1 / 8

$\Pr(\text{length} = 3) = \int_0^1 \int_{x_1}^1 \int_{x_2}^1 \int_0^{x_3} \mathrm{d}x_4\, \mathrm{d}x_3\, \mathrm{d}x_2\, \mathrm{d}x_1 = 1/8$

แต่ฉันคิดว่าการคำนวณปริพันธ์ซ้อนกันเหล่านี้ยากมากขึ้นและฉันไม่ได้รับ "เคล็ดลับ" ที่จะพูดคุยเพื่อ $\Pr(\text{length} = n)$ n) ฉันรู้ว่าคำตอบสุดท้ายมีโครงสร้าง

E (length) = \sum_{n = 1}^{\infty} n Pr (length = n)

$\mathbb E(\text{length}) = \sum_{n=1}^{\infty}n\Pr(\text{length} = n)$

ความคิดเห็นเกี่ยวกับวิธีตอบคำถามนี้หรือไม่?

— อเมซอน
แหล่งที่มา

คำตอบ:

ต่อไปนี้เป็นคำแนะนำทั่วไปในการแก้ไขคำถามนี้:

คุณมีลำดับของตัวแปรสุ่มแบบต่อเนื่องของ IID ซึ่งหมายความว่าสามารถแลกเปลี่ยนได้ สิ่งนี้หมายความว่าอะไรเกี่ยวกับความน่าจะเป็นที่จะได้รับออเดอร์เฉพาะสำหรับค่าแรก $n$ ? จากสิ่งนี้ความน่าจะเป็นที่จะได้รับลำดับที่เพิ่มขึ้นสำหรับค่าแรก $n$ คืออะไร มันเป็นไปได้ที่จะคิดออกโดยไม่ต้องรวมการกระจายของตัวแปรสุ่มพื้นฐาน หากคุณทำได้ดีคุณจะสามารถหาคำตอบได้โดยไม่ต้องมีการแจกแจงแบบสม่ำเสมอ - คุณจะได้คำตอบที่ใช้กับลำดับการแลกเปลี่ยนของตัวแปรสุ่มแบบต่อเนื่องใด ๆ

นี่เป็นวิธีการแก้ปัญหาอย่างเต็มรูปแบบ ( อย่าดูว่าคุณควรจะเข้าใจตัวเอง ):

ให้เป็นลำดับของตัวแปรสุ่มแบบต่อเนื่องอิสระและให้เป็นจำนวนองค์ประกอบที่เพิ่มขึ้นในช่วงเริ่มต้นของลำดับ เพราะสิ่งเหล่านี้เป็นตัวแปรสุ่มที่แลกเปลี่ยนได้อย่างต่อเนื่องพวกเขาเกือบจะไม่เท่าเทียมกันและการเรียงลำดับใด ๆ มีแนวโน้มเท่ากันดังนั้นเราจึงมี: (โปรดทราบว่าผลลัพธ์นี้เก็บไว้สำหรับลำดับ IID ใด ๆ ของตัวแปรสุ่มต่อเนื่องพวกเขาไม่จำเป็นต้องมีการแจกแจงแบบสม่ำเสมอ) ดังนั้นตัวแปรสุ่มจึงมีฟังก์ชันความน่าจะเป็นแบบ $U_1, U_2, U_3, \cdots \sim \text{IID Continuous Dist}$ $N \equiv \max \{ n \in \mathbb{N} | U_1 < U_2 < \cdots < U_n \}$
$P (N ⩾ n) = P (U_{1} < U_{2} < \dots < U_{n}) = \frac{1}{n!} .$ $\mathbb{P}(N \geqslant n) = \mathbb{P}(U_1 < U_2 < \cdots < U_n) = \frac{1}{n!}.$ $N$ $p_{N} (n) = P (N = n) = \frac{1}{n!} - \frac{1}{(n + 1)!} = \frac{n}{(n + 1)!} .$ $p_N(n) = \mathbb{P}(N=n) = \frac{1}{n!} - \frac{1}{(n+1)!} = \frac{n}{(n+1)!}.$ คุณจะสังเกตเห็นว่าผลลัพธ์นี้สอดคล้องกับค่าที่คุณคำนวณโดยใช้การผสานรวมกับค่าที่เกี่ยวข้อง (ส่วนนี้ไม่จำเป็นสำหรับการแก้ปัญหา; มันรวมอยู่เพื่อความสมบูรณ์) การใช้กฎที่รู้จักกันดีสำหรับค่าที่คาดหวังของตัวแปรสุ่มที่ไม่เป็นลบเรามี: โปรดทราบอีกครั้งว่าไม่มีสิ่งใดในการทำงานของเราที่ใช้การกระจายชุดข้อมูลพื้นฐาน ดังนั้นนี่คือผลลัพธ์ทั่วไปที่ใช้กับลำดับที่แลกเปลี่ยนได้ของตัวแปรสุ่มต่อเนื่อง $E (N) = \sum_{n = 1}^{\infty} P (N ⩾ n) = \sum_{n = 1}^{\infty} \frac{1}{n!} = e - 1 = 1.718282.$ $\mathbb{E}(N) = \sum_{n=1}^\infty \mathbb{P}(N \geqslant n) = \sum_{n=1}^\infty \frac{1}{n!} = e - 1 = 1.718282.$

ข้อมูลเชิงลึกเพิ่มเติมบางอย่าง:

จากการทำงานข้างต้นเราจะเห็นว่าผลลัพธ์การกระจายตัวนี้และผลลัพธ์ที่คาดหวังนั้นไม่ได้ขึ้นอยู่กับการแจกแจงพื้นฐานตราบใดที่มันเป็นการกระจายอย่างต่อเนื่อง นี่ไม่น่าแปลกใจจริงๆเมื่อเราพิจารณาความจริงที่ว่าตัวแปรสุ่มแบบสเกลาร์ต่อเนื่องทุกตัวสามารถรับได้จากการแปลงแบบโมโนโทนิกของตัวแปรสุ่มแบบสม่ำเสมอ (ด้วยการแปลงเป็นฟังก์ชันควอนไทล์) นับตั้งแต่การเปลี่ยนแปลงต่อเนื่องรักษายศสั่งกำลังมองหาที่น่าจะเป็นของ orderings ของ IID พลตัวแปรสุ่มต่อเนื่องเป็นเช่นเดียวกับการมองหาที่น่าจะเป็นของ orderings ของ IID เครื่องแบบตัวแปรสุ่ม

— Reinstate Monica
แหล่งที่มา

ทำได้ดีมาก! (+1)

— jbowman

@Ben ฉันตามคุณจนกว่าสมการสุดท้าย ... ฉันคิดว่าค่าที่คาดหวังควรเป็นแทนที่จะเป็น ... คุณช่วยอธิบายส่วนนี้เพิ่มเติมอีกไหม?

E (N) = \sum_{n = 1}^{\infty} P (N = n) * n = \sum_{n = 1}^{\infty} n^{2} / (n + 1)!

$E(N)=∑_{n=1}^∞P(N=n)*n=∑_{n=1}^∞ n^2/(n+1)!$

E (N) = \sum_{n = 1}^{\infty} P (N ⩾ n)

$E(N)=∑_{n=1}^∞P(N⩾n)$

— Amazonian

นี่คือกฎที่รู้จักกันดีสำหรับค่าที่คาดหวังของตัวแปรสุ่มที่ไม่ใช่เชิงลบ การใช้เทคนิคที่เกี่ยวข้องกับการสลับลำดับของการสรุปคุณมี: ดังนั้นคุณจะพบว่า1)!}

E (N) = \sum_{n = 1}^{\infty} n P (N = n) = \sum_{n = 1}^{\infty} \sum_{k = 1}^{n} P (N = n) = \sum_{n = 1}^{\infty} \sum_{k = n}^{\infty} P (N = k) = \sum_{n = 1}^{\infty} P (N ⩾ n) .

$\mathbb{E}(N) = \sum_{n=1}^\infty n \mathbb{P}(N=n) = \sum_{n=1}^\infty \sum_{k=1}^n \mathbb{P}(N = n) = \sum_{n=1}^\infty \sum_{k=n}^\infty \mathbb{P}(N =k) = \sum_{n=1}^\infty \mathbb{P}(N \geqslant n).$

\sum_{n} \frac{1}{n!} = \sum_{n} \frac{n^{2}}{(n + 1)!}

$\sum_n \tfrac{1}{n!} = \sum_n \tfrac{n^2}{(n+1)!}$

— Reinstate Monica

คุณช่วยอธิบายเพิ่มเติมได้ไหมว่าทำไม ?

P (N ⩾ n) = P (U_{1} < U_{2} < \dots < U_{n})

${P}(N \geqslant n) = \mathbb{P}(U_1 < U_2 < \cdots < U_n)$

— badmax

@badmax: ตัวแปรสุ่มคือจำนวนองค์ประกอบที่เพิ่มขึ้นของที่จุดเริ่มต้นของลำดับ (ดูคำจำกัดความ) ดังนั้นหากนั่นหมายความว่ามีองค์ประกอบที่เพิ่มขึ้นอย่างน้อยองค์ประกอบที่จุดเริ่มต้นของลำดับ ซึ่งหมายความว่าครั้งแรกที่องค์ประกอบจะต้องอยู่ในลำดับที่เพิ่มขึ้นซึ่งเป็น<U_n

N

$N$

U

$U$

N ⩾ n

$N \geqslant n$

n

$n$

n

$n$

U_{1} < U_{2} < \dots < U_{n}

$U_1 < U_2 < \cdots < U_n$

— Reinstate Monica

อีกวิธีการแก้ปัญหาที่ทำให้คุณได้รับการแก้ปัญหาสำหรับกรณีทั่วไปมากขึ้น

สมมติว่าเป็นระยะเวลาที่คาดว่าจะมีการเรียงลำดับต่อเนื่องเช่นว่าx_2 ค่าที่เราต้องการที่จะคำนวณเป็น(0) และเรารู้ว่า 0 เงื่อนไขในค่าถัดไป $F(x)$ $\{x_1, x_2, ...\}$ $x\leq x_1\leq x_2\leq\cdots$ $F(0)$ $F(1)=0$

F (x) = \int_{0}^{x} π (y) \cdot 0 d y + \int_{x}^{1} π (y) (1 + F (y)) d y = \int_{x}^{1} 1 + F (y) d y

$F(x) = \int_0^x \pi(y)\cdot 0 dy + \int_x^1\pi(y)(1+F(y))dy= \int_x^1 1+F(y) dy$

โดยที่คือความหนาแน่นของ U [0,1] ดังนั้น $\pi(y)=1$

F^{'} (x) = - (1 + F (x))

$F'(x)=-(1+F(x))$

แก้ด้วยเงื่อนไขขอบเขตเราได้รับ 1 ดังนั้นE-1 $F(1)=0$ $F(x) = e^{(1-x)}-1$ $F(0)=e-1$

— jf328
แหล่งที่มา

มันฉลาดมาก เพื่อที่จะสะกดมันออกมาเล็กน้อย: ข้อสังเกตของคุณคือ 1) ถ้าคือความยาวของลำดับการเพิ่มเริ่มต้นที่ยาวที่สุดลบหนึ่งมันก็เพียงพอที่จะกำหนดและเซตและ 2)เป็นศูนย์ถ้าและอย่างอื่น เนื่องจากเราได้ซึ่งในกรณีเครื่องแบบสามารถแก้ไขได้โดยตรง

L

$L$

E (L | X_{0} = x) =: F (x)

$E(L|X_0=x)=:F(x)$

x = 0

$x=0$

E (L | X_{0} = x, X_{1} = y)

$E(L|X_0=x,X_1=y)$

y < x

$y<x$

1 + E (L | X_{0} = y)

$1+E(L|X_0=y)$

E (L | X_{0} = x) = E (E (L | X_{0} = x, X_{1})) = \int_{R} f_{X} (y) E (L | X_{0} = x, X_{1} = y) d y = \int_{x}^{1} f_{X} (y) (1 + E (L | X_{0} = y)) d y = \int_{x}^{1} f_{X} (y) (1 + F (y)) d y

$E(L|X_0=x)=E(E(L|X_0=x,X_1)) = \int_\mathbb{R} f_X(y) E(L|X_0=x, X_1=y) dy = \int_x^1 f_X(y)(1+E(L|X_0=y))dy= \int_x^1 f_X(y)(1+F(y))dy$

F^{'} (x) = - f_{X} (x) (1 + F (x))

$F'(x)=-f_X(x)(1+F(x))$

— Matthew Towers

+1 ฉลาดมาก แต่เนื่องจากคำตอบสุดท้ายไม่ขึ้นอยู่กับการจัดจำหน่าย (ขณะที่กล่าวถึงในคำตอบอื่น ๆ ) การคำนวณนี้ควรอย่างใดไม่ได้ขึ้นอยู่กับ(y) มีวิธีดูไหม CC ถึง @m_t_

π (y)

$\pi(y)$

— อะมีบาพูดว่า Reinstate Monica

@ amoeba ฉันเห็นด้วยไม่ควรขึ้นอยู่กับการกระจายตัวของแต่ค่าอื่น ๆ ของควร: วิธีแก้ปัญหาทั่วไปของ DE นั้นคือ

F (0)

$F(0)$

X

$X$

F

$F$

F = C e^{- \int π} - 1

$F=Ce^{-\int \pi}-1$

— Matthew Towers

@Martijn Weterings ฉันคิดว่าไม่ใช่ 1 เช่นในกรณีเครื่องแบบเราได้รับ

C = e

$C=e$

e e^{- x} - 1

$e e^{-x} -1$

— Matthew Towers

ใช่คุณถูก. ฉันใช้กรณีเครื่องแบบเพื่ออนุมานคำสั่งของฉัน แต่ใช้เท็จแทน

c e^{1 - x} - 1

$ce^{1-x}-1$

c e^{- x} - 1

$ce^{-x}-1$

— Sextus Empiricus

อีกวิธีการแก้คือการคำนวณอินทิกรัลโดยตรง

ความน่าจะเป็นของการสร้างลำดับที่ส่วนที่เพิ่มขึ้นมีความยาวของคือโดยที่int_ $\geq n$ $f^n(0)$ $f^n(x) = \int_{x}^{1}\int_{x_1}^{1}\int_{x_2}^{1}...\int_{x_{n-2}}^{1}\int_{x_{n-1}}^{1}dx_ndx_{n-1}...dx_2dx_1$

สิ่งที่เราต้องทำคือการคำนวณ(0) $f^n(0)$

หากคุณพยายามคำนวณๆ บางทีคุณอาจพบว่า $f^n(x)$ $f^n(x) = \sum_{t=0}^n \dfrac{(-x)^t}{t!(n-t)!}$

กรณีฐาน: เมื่อ , $n=1$ $f^1(x) = \sum_{t=0}^1 \dfrac{(-x)^t}{t!(n-t)!}=1-x=\int_{x}^{1}dx_1$

สมมติฐานอุปนัย: เมื่อ , $n=k$ $f^n(x) = \sum_{t=0}^k \dfrac{(-x)^t}{t!(k-t)!}\text{ , for }k \geq 1$

Inductive Step: เมื่อ , $n = k+1$

$\ \ \ \ \ f^{n}(x) = f^{k+1}(x) = \int_{x}^{1}f^{k}(x^*)dx^*$

$=\int_{x}^{1}\sum_{t=0}^{k} \dfrac{(-x^*)^t}{t!(k-t)!}dx^*$

$=\sum_{t=0}^{k} \dfrac{-(-x^*)^{t+1}}{t!(k-t)!\times(t+1)}\Biggr|_{x}^{1}\\=\sum_{t=0}^{k} \dfrac{-(-x^*)^{t+1}}{(t+1)!(k-t)!}\Biggr|_{x}^{1}$

$=\sum_{t=1}^{k+1} \dfrac{-(-x^*)^{t}}{t!(k-t+1)!}\Biggr|_{x}^{1}$

$=\sum_{t=1}^{k+1} \dfrac{(-1)^{t+1}}{t!(k-t+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\sum_{t=1}^{k+1} \dfrac{(-1)^{t+1}C_t^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\dfrac{1}{(k+1)!}+\sum_{t=0}^{k+1} \dfrac{(-1)^{t+1}C_t^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\dfrac{1}{(k+1)!}-\dfrac{(1-1)^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\sum_{t=0}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

โดยอุปนัยทางคณิตศาสตร์ข้อสันนิษฐานถือ

ดังนั้นเราจะได้รับ $f^n(0)=\dfrac{1}{n!}$

ดังนั้น $E(length)=\sum_{n=1}^{\infty} Pr(length\geq n)=\sum_{n=1}^{\infty} \dfrac{1}{n!}=e-1$

— 劉家維
แหล่งที่มา