สถิติการสั่งซื้อโดยประมาณสำหรับตัวแปรสุ่มปกติ

38

มีสูตรที่รู้จักกันดีสำหรับสถิติการสั่งซื้อของการแจกแจงแบบสุ่มบางอย่างหรือไม่? โดยเฉพาะอย่างยิ่งสถิติลำดับแรกและสุดท้ายของตัวแปรสุ่มปกติ แต่คำตอบทั่วไปก็น่าจะได้รับการชื่นชมเช่นกัน

แก้ไข:เพื่อชี้แจงฉันกำลังมองหาสูตรการประมาณที่สามารถประเมินมากขึ้นหรือน้อยลงอย่างชัดเจนไม่ใช่นิพจน์รวมที่แน่นอน

ตัวอย่างเช่นฉันได้เห็นการประมาณสองค่าต่อไปนี้สำหรับสถิติลำดับแรก (เช่นค่าต่ำสุด) ของ rv ปกติ:

$e_{1:n} \geq \mu - \frac{n-1}{\sqrt{2n-1}}\sigma$

และ

$e_{1:n} \approx \mu + \Phi^{-1} \left( \frac{1}{n+1} \right)\sigma$

ครั้งแรกของเหล่าสำหรับ $n=200$ ให้ประมาณ $e_{1:200} \geq \mu - 10\sigma$ ซึ่งดูเหมือนว่าลำพองผูกไว้หลวม

ประการที่สองให้ $e_{1:200} \approx \mu - 2.58\sigma$ ขณะที่รวดเร็ว Monte Carlo ให้ $e_{1:200} \approx \mu - 2.75\sigma$ ดังนั้นมันจึงไม่ได้เป็นประมาณไม่ดี แต่ไม่ดีอย่างใดอย่างหนึ่งและที่สำคัญผมไม่ได้มีสัญชาติญาณใด ๆ เกี่ยวกับ มันมาจากไหน

ความช่วยเหลือใด ๆ

— Chris Taylor
แหล่งที่มา

4

หากคุณใช้ R ให้ดูฟังก์ชันppoints

— พระคาร์ดินัล

1

@probabilityislogic ให้สัญชาตญาณที่ดีสำหรับการประมาณรายการของคุณ มันจะเป็นประโยชน์หรือไม่ถ้าฉันให้มุมมองเพิ่มเติมหรือคุณพอใจความอยากรู้ของคุณในเรื่องนี้?

— พระคาร์ดินัล

31

การอ้างอิงแบบคลาสสิกคือ Royston (1982) [1] ซึ่งมีอัลกอริธึมที่เหนือกว่าสูตรที่ชัดเจน นอกจากนี้ยังมีคำพูดสูตรที่รู้จักกันดีโดยบลอม (1958): กับ0.375สูตรนี้จะช่วยให้ตัวคูณของ -2.73 สำหรับ1 $E(r:n) \approx \mu + \Phi^{-1}(\frac{r-\alpha}{n-2\alpha+1})\sigma$ $\alpha=0.375$ $n=200, r=1$

[1]: อัลกอริทึม AS 177: สถิติการสั่งซื้อปกติที่คาดหวัง (แน่นอนและโดยประมาณ) JP Royston วารสารสมาคมสถิติ ซีรี่ส์ C (สถิติประยุกต์) ฉบับที่ 31, ฉบับที่ 2 (1982), หน้า 161-165

— Aniko
แหล่งที่มา

21

$\newcommand{\Pr}{\mathrm{Pr}}\newcommand{\Beta}{\mathrm{Beta}}\newcommand{\Var}{\mathrm{Var}}$ การกระจายของสถิติลำดับที่สุ่มใด ๆ อย่างต่อเนื่อง ตัวแปรที่มี PDF ได้รับจากการกระจายแบบ "beta-F" วิธีที่ง่ายที่จะคิดเกี่ยวกับการกระจายนี้คือการพิจารณาสถิติการสั่งซื้อที่ i ในกลุ่มตัวอย่างของNทีนี้เพื่อให้ค่าของสถิติลำดับ ith ของตัวแปรสุ่มเท่ากับเราต้องการ 3 เงื่อนไข:

N

$N$

X

$X$

x

$x$

$i-1$ ด้านล่างมีความน่าจะเป็นสำหรับการสังเกตแต่ละครั้งโดยที่คือ CDF ของตัวแปรสุ่ม X $x$ $F_{X}(x)$ $F_X(x)=\Pr(X<x)$
$N-i$ ค่าสูงกว่านี่มีความน่าจะเป็น $x$ $1-F_{X}(x)$
1 ค่าภายในช่วงเวลาเล็กน้อยที่มีนี่มีความน่าจะเป็นโดยที่คือ PDF ของตัวแปรสุ่ม $x$ $f_{X}(x)dx$ $f_{X}(x)dx=dF_{X}(x)=\Pr(x<X<x+dx)$ $X$

มีวิธีในการเลือกนี้ดังนั้นเราจึงมี: ${N \choose 1}{N-1 \choose i-1}$

f_{i} (x_{i}) = \frac{N!}{(i - 1)! (N - i)!} f_{X} (x_{i}) {[1 - F_{X} (x_{i})]}^{N - i} {[F_{X} (x_{i})]}^{i - 1} d x

$f_{i}(x_{i})=\frac{N!}{(i-1)!(N-i)!}f_{X}(x_{i})\left[1-F_{X}(x_{i})\right]^{N-i}\left[F_{X}(x_{i})\right]^{i-1}dx$

แก้ไข ในโพสต์ต้นฉบับของฉันฉันพยายามอย่างมากที่จะไปไกลจากจุดนี้และความคิดเห็นด้านล่างสะท้อนถึงสิ่งนี้ ฉันได้พยายามที่จะแก้ไขด้านล่างนี้

ถ้าเราหาค่าเฉลี่ยของ pdf นี้เราจะได้:

E (X_{i}) = \int_{- \infty}^{\infty} x_{i} f_{i} (x_{i}) d x_{i}

$E(X_{i})=\int_{-\infty}^{\infty} x_{i}f_{i}(x_{i})dx_{i}$

และในอินทิกรัลนี้เราทำการเปลี่ยนแปลงตัวแปรต่อไปนี้ (ทำตามคำใบ้ของ @ henry) และอินทิกรัลกลายเป็น: $p_{i}=F_{X}(x_{i})$

E (X_{i}) = \int_{0}^{1} F_{X}^{- 1} (p_{i}) B e t a (p_{i} | i, N - i + 1) d p_{i} = E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})]

$E(X_{i})=\int_{0}^{1} F_{X}^{-1}(p_{i})\Beta(p_{i}|i,N-i+1)dp_{i}=E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]$

ดังนั้นนี่คือค่าคาดหวังของ CDF ผกผันซึ่งสามารถประมาณค่าได้อย่างดีโดยใช้เมธอด delta เพื่อให้:

E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})] \approx F_{X}^{- 1} [E_{B e t a (p_{i} | i, N - i + 1)}] = F_{X}^{- 1} [\frac{i}{N + 1}]

$E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]\approx F_{X}^{-1}\left[E_{\Beta(p_{i}|i,N-i+1)}\right]=F_{X}^{-1}\left[\frac{i}{N+1}\right]$

เพื่อให้การประมาณดีขึ้นเราสามารถขยายไปยังลำดับที่ 2 (ไพรม์ denoting differentiation) และสังเกตว่าอนุพันธ์อันดับสองของอินเวอร์สคือ:

\frac{\partial^{2}}{\partial a^{2}} F_{X}^{- 1} (a) = - \frac{F_{X}^{^{″}} (F_{X}^{- 1} (a))}{{[F_{X}^{^{'}} (F_{X}^{- 1} (a))]}^{3}} = - \frac{f_{X}^{^{'}} (F_{X}^{- 1} (a))}{{[f_{X} (F_{X}^{- 1} (a))]}^{3}}

$\frac{\partial^{2}}{\partial a^{2}}F_{X}^{-1}(a)=-\frac{F_{X}^{''}(F_{X}^{-1}(a))}{\left[F_{X}^{'}(F_{X}^{-1}(a))\right]^{3}}=-\frac{f_{X}^{'}(F_{X}^{-1}(a))}{\left[f_{X}(F_{X}^{-1}(a))\right]^{3}}$

ขอให้ขวา] จากนั้นเรามี: $\nu_{i}=F_{X}^{-1}\left[\frac{i}{N+1}\right]$

E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})] \approx F_{X}^{- 1} [ν_{i}] - \frac{{V a r}_{B e t a (p_{i} | i, N - i + 1)} [p_{i}]}{2} \frac{f_{X}^{^{'}} (ν_{i})}{{[f_{X} (ν_{i})]}^{3}}

$E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]\approx F_{X}^{-1}\left[\nu_{i}\right]-\frac{\Var_{\Beta(p_{i}|i,N-i+1)}\left[p_{i}\right]}{2}\frac{f_{X}^{'}(\nu_{i})}{\left[f_{X}(\nu_{i})\right]^{3}}$

= ν_{i} - \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2)} \frac{f_{X}^{^{'}} (ν_{i})}{{[f_{X} (ν_{i})]}^{3}}

$=\nu_{i}-\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)}\frac{f_{X}^{'}(\nu_{i})}{\left[f_{X}(\nu_{i})\right]^{3}}$

ตอนนี้เชี่ยวชาญกรณีปกติเรามี

f_{X} (x) = \frac{1}{σ} ϕ (\frac{x - μ}{σ}) \to f_{X}^{^{'}} (x) = - \frac{x - μ}{σ^{3}} ϕ (\frac{x - μ}{σ}) = - \frac{x - μ}{σ^{2}} f_{X} (x)

$f_{X}(x)=\frac{1}{\sigma}\phi(\frac{x-\mu}{\sigma})\rightarrow f_{X}^{'}(x)=-\frac{x-\mu}{\sigma^{3}}\phi(\frac{x-\mu}{\sigma})=-\frac{x-\mu}{\sigma^{2}}f_{X}(x)$

F_{X} (x) = Φ (\frac{x - μ}{σ}) ⟹ F_{X}^{- 1} (x) = μ + σ Φ^{- 1} (x)

$F_{X}(x)=\Phi(\frac{x-\mu}{\sigma})\implies F_{X}^{-1}(x)=\mu+\sigma\Phi^{-1}(x)$

โปรดทราบว่าและความคาดหวังโดยประมาณจะกลายเป็น: $f_{X}(\nu_{i})=\frac{1}{\sigma}\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]$

E [x_{i}] \approx μ + σ Φ^{- 1} (\frac{i}{N + 1}) + \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2)} \frac{σ Φ^{- 1} (\frac{i}{N + 1})}{{[ϕ [Φ^{- 1} (\frac{i}{N + 1})]]}^{2}}

$E[x_{i}]\approx \mu+\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)+\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)}\frac{\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)}{\left[\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]\right]^{2}}$

และในที่สุดก็:

E [x_{i}] \approx μ + σ Φ^{- 1} (\frac{i}{N + 1}) [1 + \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2) {[ϕ [Φ^{- 1} (\frac{i}{N + 1})]]}^{2}}]

$E[x_{i}]\approx \mu+\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)\left[1+\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)\left[\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]\right]^{2}}\right]$

แม้ว่าตามที่ @whuber ได้ระบุไว้สิ่งนี้จะไม่ถูกต้องในก้อย อันที่จริงฉันคิดว่ามันอาจจะแย่กว่านั้นเพราะความเบ้ของเบต้าที่มีพารามิเตอร์ต่างกัน

— probabilityislogic
แหล่งที่มา

1

"ตัวประมาณความน่าจะเป็นสูงสุดของตัวแปรสุ่ม " ไม่แน่ใจว่ามันคืออะไร แต่ฉันคิดว่าคุณ (เกือบ) คำนวณโหมดแล้ว

— พระคาร์ดินัล

1

มีเรื่องลึกลับเกิดขึ้นประมาณสองในสามของทางที่เกิดขึ้นทันทีทันใดและปรากฏขึ้นโดยไม่มีการเตือนหรือคำจำกัดความ

μ

$\mu$

σ

$\sigma$

— whuber

2

ฉันไม่ได้ตั้งใจจะ "กองพะเนินเทินทึก" แต่มันก็ยากสำหรับฉันที่จะเห็นว่าปริมาณในวงเล็บสามารถประมาณด้วยจำนวนลบได้อย่างไร

— พระคาร์ดินัล

1

@probabilityislogic ขณะที่ระดับแคลคูลัสคุณอาจบอกว่าในกรณีนี้เรากำลังพิจารณาฟังก์ชั่น bivariate และเพียงแค่เพิ่มตัวแปรให้มากกว่าหนึ่งตัวแปรฉันคิดว่ามันมีเหตุผลทางคณิตศาสตร์สถิติและการสอนไม่เรียกสิ่งที่คุณ เสร็จสิ้น "การประมาณค่าความน่าจะเป็นสูงสุด" พวกมันมีจำนวนเกินกว่าที่จะแจกแจงในพื้นที่นี้ได้ แต่สิ่งหนึ่งที่เรียบง่ายที่ฉันคิดว่าน่าสนใจก็คือเราใช้คำศัพท์เฉพาะที่เป็นความลับในสถิติด้วยเหตุผล การเปลี่ยนแปลงสิ่งนั้นด้วยความตั้งใจสำหรับปัญหาเดียวสามารถนำไปสู่การเข้าใจผิด ... / ...

— พระคาร์ดินัล

2

@probabilityislogic (+1) สำหรับคำตอบที่แก้ไขแล้ว คำแนะนำอย่างหนึ่งอาจดีกว่า to หมายถึง "นัย" ใช้เวลาจ้องมองสองสามวินาทีเพื่อตระหนักว่าคุณไม่ได้ทำการอ้างสิทธิ์คอนเวอร์เจนซ์

\Rightarrow

$\Rightarrow$

\to

$\to$

— พระคาร์ดินัล

13

คำตอบ Aniko ต้องอาศัยอยู่กับสูตรที่รู้จักกันดีของบลอมที่เกี่ยวข้องกับการเลือกของ3/8 ปรากฎว่าสูตรนี้เป็นเพียงการประมาณของคำตอบที่แน่นอนเนื่องจาก G. Elfving (1947), การกระจายแบบไม่เชิงเส้นของช่วงในตัวอย่างจากประชากรปกติ , Biometrika, Vol. 34, pp. 111-119 สูตร Elfving จะมุ่งเป้าไปที่ต่ำสุดและสูงสุดของกลุ่มตัวอย่างซึ่งเป็นทางเลือกที่ถูกต้องของอัลฟา 8 ผลการค้นหาสูตรบลอมเมื่อเราใกล้เคียงกับโดย3 $\alpha = 3/8$ $\pi/8$ $\pi$ $3$

ด้วยการใช้สูตร Elfving แทนที่จะเป็นการประมาณของ Blom เราจะได้ตัวคูณ -2.744165 ตัวเลขนี้ใกล้เคียงกับคำตอบที่แน่นอนของ Erik P. (-2.746) และการประมาณ Monte Carlo (-2.75) มากกว่าการประมาณของ Blom (-2.73) ในขณะที่ใช้งานง่ายกว่าสูตรที่แน่นอน

— Hal M. Switkay
แหล่งที่มา

คุณช่วยให้รายละเอียดเพิ่มเติมเล็กน้อยเกี่ยวกับวิธีที่มาถึงผ่าน Elfving (1947) ได้ไหม มันไม่ชัดเจนในบทความ

α = π / 8

$\alpha=\pi/8$

— แอนโธนี

1

แอนโทนี่ - ฉันพึ่งตำราคณิตศาสตร์สถิติโดย Samuel Wilks, pub ไวลีย์ (1962) แบบฝึกหัด 8.21 หน้า p 249 รัฐ: "ถ้า x_ (1), x_ (n) เป็นสถิติลำดับที่เล็กที่สุดและใหญ่ที่สุดของตัวอย่างขนาด n จาก cdf ต่อเนื่อง (x) ... ตัวแปรสุ่ม 2n * sqrt {[F (x_ ( 1))] [1-F (x_ (n))]} มีการแจกแจงแบบ จำกัด เป็น n -> อนันต์โดยมีค่าเฉลี่ย pi / 2 และความแปรปรวน 4- (pi ^ 2) / 4 " (ขออภัยฉันไม่ทราบรหัสมาร์กอัป!) สำหรับการแจกแจงแบบสมมาตร F (x_ (1)) = 1-F (x_ (n)) ดังนั้น F (x_ (n)) จึงเกี่ยวกับ pi / (4n) หรือ x_ (n) เป็นเรื่องเกี่ยวกับ F ^ (- 1) (pi / (4n)) สูตร Blom ใช้การประมาณ 3 / (4n)

— Hal M. Switkay

สิ่งนี้ทำให้ฉันนึกถึงการเรียกเก็บเงิน" " อันเนื่องมาจากสภานิติบัญญัติรัฐอินเดียน่า (แม้ว่าบทความวิกิพีเดียแสดงให้เห็นว่าเวอร์ชั่นยอดนิยมของเรื่องไม่ถูกต้อง)

π = 3

$\pi=3$

— steveo'america

7

ทั้งนี้ขึ้นอยู่กับสิ่งที่คุณต้องการจะทำอย่างไรคำตอบนี้หรืออาจจะไม่ได้ช่วย - ผมได้สูตรที่แน่นอนต่อไปนี้จากแพคเกจสถิติของเมเปิล

with(Statistics):
X := OrderStatistic(Normal(0, 1), 1, n):
m := Mean(X):
m;

\int_{- \infty}^{\infty} 1 / 2 \frac{_t 0 n! \sqrt{2} e^{- 1 / 2 {_t 0}^{2}} {(1 / 2 - 1 / 2 e r f (1 / 2_t 0 \sqrt{2}))}^{- 1 + n}}{(- 1 + n)! \sqrt{π}} d_t 0

$\int _{-\infty }^{\infty }\!1/2\,{\frac {{\it \_t0}\,n!\,\sqrt {2}{ {\rm e}^{-1/2\,{{\it \_t0}}^{2}}} \left( 1/2-1/2\, {{\rm erf}\left(1/2\,{\it \_t0}\,\sqrt {2}\right)} \right) ^{-1+n}}{ \left( -1+n \right) !\,\sqrt {\pi }}}{d{\it \_t0}}$

โดยตัวมันเองมันไม่ได้มีประโยชน์มาก (และมันอาจจะได้มาโดยง่ายด้วยมือเนื่องจากมันเป็นตัวแปรสุ่มขั้นต่ำ ) แต่มันทำให้การประมาณค่ารวดเร็วและแม่นยำมากสำหรับค่าที่กำหนดของ - แม่นยำมากกว่า Monte Carlo: $n$ $n$

evalf(eval(m, n = 200));
evalf[25](eval(m, n = 200));

ให้ -2.746042447 และ -2.746042447451154492412344 ตามลำดับ

(การเปิดเผยแบบเต็ม - ฉันรักษาแพ็คเกจนี้ไว้)

— Erik P.
แหล่งที่มา

1

@ProbabilityIsLogic ได้รับอินทิกรัลนี้สำหรับสถิติการสั่งซื้อทั้งหมดในช่วงครึ่งแรกของการตอบกลับของเขา

— whuber