ช่วงความเชื่อมั่นสำหรับความแปรปรวนที่กำหนดหนึ่งการสังเกต

นี่เป็นปัญหาจาก "7th Kolmogorov Student Olympiad in The Probability Theory Theory":

เมื่อทำการสังเกตจาก aโดยไม่ทราบพารามิเตอร์ทั้งสองให้ช่วงความมั่นใจสำหรับด้วยระดับความมั่นใจอย่างน้อย 99% $X$ $\operatorname{Normal}(\mu,\sigma^2)$ $\sigma^2$

สำหรับฉันแล้วมันน่าจะเป็นไปไม่ได้ ฉันมีวิธีแก้ปัญหา แต่ยังไม่ได้อ่าน ความคิดใด ๆ

ฉันจะโพสต์โซลูชันในอีกสองสามวัน

[การแก้ไขการติดตาม: การแก้ปัญหาอย่างเป็นทางการที่โพสต์ด้านล่าง วิธีแก้ปัญหาของ Cardinal นั้นยาวกว่า แต่ให้ช่วงความมั่นใจที่ดีกว่า ขอบคุณ Max และ Glen_b สำหรับอินพุตของพวกเขา]

— Jonathan Christensen
แหล่งที่มา

ดูเหมือนว่าเป็นไปไม่ได้สำหรับฉันเช่นกัน ฉันรอคำตอบ

— Peter Flom - Reinstate Monica

ลองชมไซต์นี้

— สันนิษฐานว่าเป็นปกติ

นี่คือกระดาษที่มีการจัดรูปแบบที่ดีกว่า: กระดาษ

— สันนิษฐานว่าเป็นปกติ

หึ ฉันจำได้ว่าอ่านกระดาษเกี่ยวกับสิ่งนี้ (หนึ่งช่วงเวลาสังเกต) หลายปีหลัง อาจจะได้รับนี้อย่างใดอย่างหนึ่ง

— Glen_b

@ Max ขอบคุณสำหรับลิงค์! ฉันยังไม่ได้มีเวลาดูอย่างใกล้ชิด แต่ฉันจะ ฉันโพสต์คำตอบ "อย่างเป็นทางการ" ด้านล่าง

— Jonathan Christensen

คำตอบ:

เมื่อดูผ่านเลนส์ที่มีความไม่เท่าเทียมกันน่าจะเป็นและการเชื่อมต่อกับหลายกรณีสังเกตผลลัพธ์นี้อาจดูเหมือนเป็นไปไม่ได้หรืออย่างน้อยก็น่าจะเป็นไปได้มากขึ้น

ปล่อยด้วยและไม่ทราบ เราสามารถเขียนสำหรับ(0,1) $\renewcommand{\Pr}{\mathbb P}\newcommand{\Ind}[1]{\mathbf 1_{(#1)}}X \sim \mathcal N(\mu,\sigma^2)$ $\mu$ $\sigma^2$ $X = \sigma Z + \mu$ $Z \sim \mathcal N(0,1)$

เรียกร้องหลัก :เป็นช่วงความเชื่อมั่นที่เป็นระดับพื้นดิน quantile ของการกระจายไคสแควร์กับหนึ่งระดับของ เสรีภาพ นอกจากนี้เนื่องจากช่วงนี้มีว่าความคุ้มครองเมื่อมันเป็นช่วงเวลาที่เป็นไปได้ที่แคบที่สุดของแบบฟอร์มสำหรับบางR $[0,X^2/q_\alpha)$ $(1-\alpha)$ $\sigma^2$ $q_\alpha$ $\alpha$ $(1-\alpha)$ $\mu = 0$ $[0,b X^2)$ $b \in \mathbb R$

เหตุผลในการมองในแง่ดี

จำได้ว่าในกรณีด้วยที่ทั่วไปช่วงความเชื่อมั่นเป็น ที่เป็นquantile ระดับพื้นดินของไคสแควร์กับองศาอิสระ นี้แน่นอนถือสำหรับการใด ๆ\แม้ว่านี่จะเป็นช่วงเวลาที่ได้รับความนิยมมากที่สุด (เรียกว่าช่วงเวลาเท่ากันเพื่อเหตุผลที่ชัดเจน) แต่ก็ไม่ใช่เพียงความกว้างที่เล็กที่สุด! ตามที่ควรจะเห็นได้ชัดการเลือกที่ถูกต้องอื่นคือ $n \geq 2$ $T = \sum_{i=1}^n (X_i - \bar X)^2$ $(1-\alpha)$ $\sigma^2$

(\frac{T}{q_{n - 1, (1 - α) / 2}}, \frac{T}{q_{n - 1, α / 2}}),

$\Big(\frac{T}{q_{n-1,(1-\alpha)/2}}, \frac{T}{q_{n-1,\alpha/2}} \Big) \>,$

q_{k, a}

$q_{k,a}$

a

$a$

k

$k$

μ

$\mu$

(0, \frac{T}{q_{n - 1, α}}) .

$\Big(0,\frac{T}{q_{n-1,\alpha}}\Big) \>.$

ตั้งแต่จากนั้น นอกจากนี้ยังมีความคุ้มครองอย่างน้อยalpha) $T \leq \sum_{i=1}^n X_i^2$

(0, \frac{\sum_{i = 1}^{n} X_{i}^{2}}{q_{n - 1, α}}),

$\Big(0,\frac{\sum_{i=1}^n X_i^2}{q_{n-1,\alpha}}\Big) \>,$

(1 - α)

$(1-\alpha)$

ดูในแง่นี้เรานั้นอาจจะเป็นในแง่ดีว่าช่วงเวลาในการเรียกร้องหลักที่เป็นจริงสำหรับ1 ความแตกต่างที่สำคัญคือไม่มีการแจกแจงแบบไคสแควร์แบบไม่มีศูนย์สำหรับกรณีของการสังเกตการณ์เดี่ยวดังนั้นเราต้องหวังว่าการใช้ควอไทล์แบบหนึ่งองศาอิสระจะทำงานได้ $n = 1$

ขั้นตอนครึ่งไปยังปลายทางของเรา ( Exploiting หางขวา )

ก่อนที่จะดำน้ำเพื่อพิสูจน์ข้อเรียกร้องหลักก่อนอื่นมาดูการอ้างสิทธิ์เบื้องต้นที่เกือบจะไม่แข็งแกร่งหรือน่าพอใจทางสถิติ แต่อาจให้ข้อมูลเชิงลึกเพิ่มเติมเกี่ยวกับสิ่งที่เกิดขึ้น คุณสามารถข้ามไปที่หลักฐานการอ้างสิทธิ์หลักด้านล่างโดยไม่มีการสูญเสีย (ถ้ามี) ในส่วนนี้และบทต่อไปบทพิสูจน์ - ในขณะที่บอบบางเล็กน้อย - ขึ้นอยู่กับข้อเท็จจริงเบื้องต้นเท่านั้น: ความน่าจะเป็นแบบโมโนโพนิคของสมมาตรและสมมาตรและไม่แปรเปลี่ยนของการแจกแจงแบบปกติ

เสริมการเรียกร้อง :เป็นช่วงความเชื่อมั่นตราบใดที่1/2 ที่นี่คือ level quantile ของมาตรฐานปกติ $[0,X^2/z^2_\alpha)$ $(1-\alpha)$ $\sigma^2$ $\alpha > 1/2$ $z_\alpha$ $\alpha$

พิสูจน์ และโดยความสมมาตรดังนั้นในสิ่งต่อไปนี้เราสามารถรับโดยไม่สูญเสียความสามารถ ตอนนี้สำหรับและ , และด้วยเราเห็นว่า นี้จะทำงานเฉพาะสำหรับเนื่องจากว่าเป็นสิ่งที่จำเป็นสำหรับ0 $|X| = |-X|$ $|\sigma Z + \mu| \stackrel{d}{=} |-\sigma Z+\mu|$ $\mu \geq 0$ $\theta \geq 0$ $\mu \geq 0$

P (| X | > θ) \geq P (X > θ) = P (σ Z + μ > θ) \geq P (Z > θ / σ),

$\Pr(|X| > \theta) \geq \Pr( X > \theta) = \Pr( \sigma Z + \mu > \theta) \geq \Pr( Z > \theta/\sigma) \>,$

θ = z_{α} σ

$\theta = z_{\alpha} \sigma$

P (0 \leq σ^{2} < X^{2} / z_{α}^{2}) \geq 1 - α .

$\Pr(0 \leq \sigma^2 < X^2 / z^2_\alpha) \geq 1 - \alpha \>.$

α > 1 / 2

$\alpha > 1/2$

z_{α} > 0

$z_\alpha > 0$

สิ่งนี้พิสูจน์ข้อเรียกร้องเสริม ในขณะที่เป็นตัวอย่างมันไม่ได้แยกแยะจากมุมมองเชิงสถิติเนื่องจากมันต้องการขนาดใหญ่ที่ไร้เหตุผลในการทำงาน $\alpha$

การพิสูจน์การอ้างสิทธิ์หลัก

การปรับแต่งของอาร์กิวเมนต์ข้างต้นนำไปสู่ผลลัพธ์ที่จะทำงานในระดับความเชื่อมั่นโดยพลการ ก่อนอื่นให้สังเกตว่า ตั้งและ0 จากนั้น หากเราสามารถแสดงให้เห็นว่าด้านขวามือเพิ่มขึ้นในสำหรับทุก ๆ ค่าคงที่ดังนั้นเราสามารถใช้อาร์กิวเมนต์ที่คล้ายกันเช่นเดียวกับในอาร์กิวเมนต์ก่อนหน้า อย่างน้อยน่าจะเป็นไปได้เพราะเราอยากจะเชื่อว่าถ้าค่าเฉลี่ยเพิ่มขึ้นก็จะเป็นไปได้มากขึ้นที่เราจะเห็นค่าที่มีโมดูลัสที่เกิน

P (| X | > θ) = P (| Z + μ / σ | > θ / σ) .

$\Pr(|X| > \theta) = \Pr(|Z + \mu/\sigma| > \theta / \sigma ) \>.$

a = μ / σ \geq 0

$a = \mu/\sigma \geq 0$

b = θ / σ \geq 0

$b = \theta / \sigma \geq 0$

P (| Z + a | > b) = Φ (a - b) + Φ (- a - b) .

$\Pr(|Z + a| > b) = \Phi(a-b) + \Phi(-a-b) \>.$

a

$a$

b

$b$

b

$b$ . (อย่างไรก็ตามเราต้องระวังว่ามวลจะลดลงเร็วแค่ไหนที่หางซ้าย!)

ชุด(-ab) จากนั้น โปรดทราบว่าและบวก ,จะลดลงในยูตอนนี้สำหรับมันเป็นเรื่องง่ายที่จะเห็นว่า(ข) ข้อเท็จจริงเหล่านี้นำมารวมกันได้อย่างง่ายดายบ่งบอกว่า สำหรับและคงที่ $f_b(a) = \Phi(a-b) + \Phi(-a-b)$

f_{b}^{'} (a) = φ (a - b) - φ (- a - b) = φ (a - b) - φ (a + b) .

$f'_b(a) = \varphi(a-b) - \varphi(-a-b) = \varphi(a-b) - \varphi(a+b) \>.$

f_{b}^{'} (0) = 0

$f'_b(0) = 0$

u

$u$

φ (u)

$\varphi(u)$

u

$u$

a \in (0, 2 b)

$a \in (0,2b)$

φ (a - b) \geq φ (- b) = φ (b)

$\varphi(a-b) \geq \varphi(-b) = \varphi(b)$

f_{b}^{'} (a) \geq 0

$f'_b(a) \geq 0$

a \geq 0

$a \geq 0$

b \geq 0

$b \geq 0$

ดังนั้นเราได้แสดงให้เห็นว่าสำหรับและ , $a \geq 0$ $b \geq 0$

P (| Z + a | > b) \geq P (| Z | > b) = 2 Φ (- b) .

$\Pr(|Z + a| > b) \geq \Pr(|Z| > b) = 2\Phi(-b) \>.$

แก้ทั้งหมดนี้ถ้าเรารับเราจะได้ ซึ่งสร้างการอ้างสิทธิ์หลัก $\theta = \sqrt{q_\alpha} \sigma$

P (X^{2} > q_{α} σ^{2}) \geq P (Z^{2} > q_{α}) = 1 - α,

$\Pr(X^2 > q_\alpha \sigma^2) \geq \Pr(Z^2 > q_\alpha) = 1 - \alpha \>,$

หมายเหตุการปิด : การอ่านอย่างถี่ถ้วนของอาร์กิวเมนต์ข้างต้นแสดงให้เห็นว่ามันใช้เฉพาะคุณสมบัติสมมาตรและ unimodal ของการแจกแจงแบบปกติ ดังนั้นวิธีการทำงานแบบอะนาล็อกเพื่อรับช่วงความเชื่อมั่นจากการสังเกตเพียงครั้งเดียวจากตระกูลระดับตำแหน่งแบบ unimodal ใด ๆ เช่นการแจกแจง Cauchy หรือ Laplace

— พระราชาคณะ
แหล่งที่มา

ว้าว! และนักเรียนคาดว่าจะเกิดข้อโต้แย้งประเภทนี้ขึ้นในช่วงเวลาสั้น ๆ ของการสอบโอลิมปิก?

— Dilip Sarwate

@Dilip: ฉันไม่มีความคิด! ฉันไม่คุ้นเคยกับรูปแบบของโอลิมปิกนี้หรือสิ่งที่คาดหวังในแง่ของการแก้ปัญหา จากการอ่านหนังสือฉันคิดว่าคำตอบของ Scortchi นั้นเป็นที่ยอมรับ ฉันสนใจที่จะลองคิดดูว่าคน ๆ นั้นจะได้รับวิธีการแก้ปัญหาแบบ "ไม่ไร้สาระ" ได้อีก การสำรวจของฉันเอง (ค่อนข้างน้อย) เป็นไปตามแนวทางความคิดเดียวกับที่อธิบายไว้ในคำตอบ มันค่อนข้างเป็นไปได้ที่จะมีทางออกที่ดีกว่า :-)

— พระคาร์ดินัล

นี่ยาวกว่าวิธีแก้ปัญหาอย่างเป็นทางการ แต่ให้ความแตกต่างได้ดีกว่าดังนั้นฉันจึงทำเครื่องหมายว่าเป็นคำตอบที่ "ถูกต้อง" ฉันโพสต์คำตอบ "อย่างเป็นทางการ" ด้านล่างรวมถึงผลการจำลองและการอภิปรายบางส่วน ขอบคุณ @cardinal!

— Jonathan Christensen

@ Jonathan: ขอบคุณ ใช่ฉันสามารถพิสูจน์หลักฐานได้อีกเล็กน้อย เนื่องจากภูมิหลังที่หลากหลายของผู้เข้าร่วมที่นี่ฉันมักจะหลงระเริงในรายละเอียดเพิ่มเติม (หรือบางทีอาจมากเกินไป) :-)

— สำคัญ

ถึงเวลาติดตาม! นี่คือทางออกที่ฉันได้รับ:

เราจะสร้างช่วงความมั่นใจของแบบฟอร์มโดยที่เป็นสถิติ ตามคำนิยามนี่จะเป็นช่วงความมั่นใจที่มีระดับความมั่นใจอย่างน้อย 99% ถ้า เราทราบว่ามีความหนาแน่นของการกระจายไม่เกินปี่} ดังนั้นทุก0 มันตามมาว่า เสียบใน $[0,T(X))$ $T(\cdot)$
$(\forall μ \in R) (\forall σ > 0) P_{μ, σ_{2}} (σ^{2} > T (X)) < 0.01.$ $(\forall \mu \in \mathbb R )(\forall \sigma > 0)\; \mathbb P_{\mu,\sigma_2}(\sigma^2 > T(X)) < 0.01.$ $\mathcal{N}(\mu,\sigma^2)$ $1/\sigma\sqrt{2\pi}$ $\mathbb{P}(|X| \leq a) \leq a/\sigma$ $a \geq 0$ $t \geq P (| X | / σ \leq t) = P (X^{2} \leq t^{2} σ^{2}) = P (σ^{2} \geq X^{2} / t^{2}) .$ $t \geq \mathbb P (|X|/\sigma \leq t) = \mathbb P (X^2 \leq t^2\sigma^2) = \mathbb P (\sigma^2 \geq X^2/t^2).$ $t = 0.01$ เราได้รับสถิติที่เหมาะสมคือ $T(X) = 10000X^2.$

ช่วงความเชื่อมั่น (ซึ่งกว้างมาก) นั้นค่อนข้างอนุรักษ์นิยมในการจำลองเล็กน้อยโดยไม่มีการรายงานเชิงประจักษ์ (ในการจำลอง 100,000 ครั้ง) ต่ำกว่า 99.15% เนื่องจากฉันเปลี่ยนแปลง CV ในหลาย ๆ ขนาด

สำหรับการเปรียบเทียบฉันยังจำลองช่วงความเชื่อมั่นของพระคาร์ดินัล ฉันควรทราบว่าช่วงเวลาที่สำคัญของพระคาร์ดินัลค่อนข้างแคบลง - ในกรณี 99% ของเขาจบลงด้วยความสูงถึงเมื่อเทียบกับในโซลูชันที่ให้ไว้ การคุ้มครองจากการประจักษ์นั้นอยู่ในระดับที่ถูกต้องอีกทั้งยังมีคำสั่งมากมายสำหรับ CV ดังนั้นช่วงเวลาของเขาจึงชนะแน่นอน $6300X^2$ $10000X^2$

ฉันไม่ได้มีเวลาดูอย่างระมัดระวังที่กระดาษ Max โพสต์ แต่ฉันวางแผนที่จะดูและอาจเพิ่มความคิดเห็นเกี่ยวกับมันในภายหลัง (กล่าวคือไม่ช้ากว่าหนึ่งสัปดาห์) กระดาษนั้นอ้างว่าช่วงความเชื่อมั่น 99% ของซึ่งมีความคุ้มครองเชิงประจักษ์ลดลงเล็กน้อย (ประมาณ 98.85%) กว่าความครอบคลุมเล็กน้อยสำหรับ CVs ขนาดใหญ่ในการจำลองสั้น ๆ ของฉัน $(0,4900X^2)$

— Jonathan Christensen
แหล่งที่มา

(+1) นั่นเป็นทางออกที่ดี คุณควรมีแทนที่จะเป็นในสมการการแสดงผลหรือไม่?

t \geq \dots

$t \geq \cdots$

t \leq \dots

$t \leq \cdots$

— พระคาร์ดินัล

อีกสองสามคะแนน: วิธีแก้ปัญหาของคุณนั้นใกล้เคียงกับฉันมากโดยไม่มีการเปลี่ยนแปลงในการโต้แย้ง โปรดทราบว่าคุณสามารถอ้างว่าปี่} จากนั้นช่วงเวลาที่จะกลายเป็นสำหรับการใด ๆ\การใช้อัตราผลตอบแทนเทียบกับในคำตอบของฉัน ยิ่งระดับความเชื่อมั่นที่สูงขึ้น (เช่นเล็กกว่า ) ยิ่งวิธีของคุณใกล้เคียงกับของคุณมากเท่าใด (แม้ว่าช่วงเวลาของคุณจะกว้างขึ้นเสมอ)

P (| X | \leq a) \leq 2 a / σ \sqrt{2 π}

$\mathbb P(|X| \leq a) \leq 2 a / \sigma \sqrt{2\pi}$

(0, 2 X^{2} / π α^{2})

$(0,2X^2/\pi\alpha^2)$

α

$\alpha$

α = 0.01

$\alpha = 0.01$

T (X) \approx 6366.198 X^{2}

$T(X) \approx 6366.198 X^2$

1 / q_{0.01} \approx 6365.864

$1/q_{0.01} \approx 6365.864$

α

$\alpha$

— พระคาร์ดินัล

ประการที่สองฉันไม่ได้ดูที่กระดาษนั้น แต่ฉันมีข้อสงสัยอย่างมากว่าสามารถเป็นช่วงความมั่นใจ 99% ที่ถูกต้อง แท้จริงพิจารณาทุกช่วงความเชื่อมั่นของแบบฟอร์มสำหรับบางขจากนั้นเมื่อเรามีที่เป็นว่าไคสแควร์กับหนึ่งระดับของเสรีภาพและอื่น ๆ ที่มีขนาดเล็กเราสามารถเลือกในกรณีนี้คือ . กล่าวอีกนัยหนึ่งช่วงเวลาที่ให้ไว้ในคำตอบของฉันเป็นไปได้น้อยที่สุดของแบบฟอร์มที่ระบุ

(0, 4900 X^{2})

$(0,4900 X^2)$

(0, b X^{2})

$(0, b X^2)$

b

$b$

μ = 0

$\mu = 0$

X^{2} / σ^{2}

$X^2/\sigma^2$

b

$b$

b = 1 / q_{α}

$b = 1/q_{\alpha}$

— พระคาร์ดินัล

ฉันแก้ไขคำผิด (ที่สงสัย) นอกจากนี้pchisq(1/4900,1,lower.tail=F)ในRผลตอบแทนที่0.9886ค่อนข้างใกล้เคียงกับผลการจำลองของคุณสำหรับช่วงเวลา

(0, 4900 X^{2})

$(0,4900X^2)$

— พระคาร์ดินัล

ขอบคุณสำหรับความคิดเห็นทั้งหมด @cardinal ฉันคิดว่าการเปลี่ยนแปลงของคุณถูกต้องแม้ว่าฉันจะพิมพ์อย่างที่เป็นอยู่ในโซลูชันดั้งเดิม - พิมพ์ที่นั่นฉันเดา

— Jonathan Christensen

CI'sน่าจะเป็น $(0,\infty)$

— Scortchi - Reinstate Monica
แหล่งที่มา

ฉันคิดว่ามันจะมีประโยชน์สำหรับคุณที่จะบอกว่าทำไมคุณไม่สามารถรับช่วงความมั่นใจที่ จำกัด ได้

— สันนิษฐานว่าเป็นปกติ

@ Max ฉันไม่ฉลาดพอ - แต่คำถามไม่ได้ถาม

— Scortchi - Reinstate Monica

+1 สำหรับสิ่งนี้ คำถามไม่ได้บอกว่า CI ที่มีการครอบคลุมน้อยที่สุดและในความเป็นจริงก็หมายความว่าสิ่งนี้อาจเป็นที่ยอมรับผ่านถ้อยคำที่น่าสงสัย "ช่วงความเชื่อมั่นที่มีระดับความเชื่อมั่นอย่างน้อย 99%"

— Ari B. Friedman