ทำไมทฤษฎีบท Rao-Blackwell จึงต้องการ ?

ทฤษฎีบท Rao-Blackwell

ให้เป็นตัวประมาณกับสำหรับทั้งหมด สมมติว่าเพียงพอสำหรับและให้จากนั้นสำหรับ ,ความไม่เท่าเทียมนั้นมีความเข้มงวดเว้นแต่เป็นหน้าที่ของ $\hat{\theta}$ $\theta$ $\Bbb E (\hat{\theta}^2) < \infty$ $\theta$ $T$ $\theta$ $\theta ^ * = \Bbb E (\hat{\theta}|T)$ $\theta$
$E (θ^{*} - θ)^{2} \leq E (\hat{θ} - θ)^{2}$ $\Bbb E (\theta^* - \theta )^2 \leq \Bbb E (\hat{\theta} - \theta )^2$ $\hat{\theta}$ $T$

ถ้าผมเข้าใจทฤษฎีบทนี้อย่างถูกต้องรัฐนี้ว่าถ้าผมมีสถิติที่เพียงพอสำหรับแล้วค่าคาดว่าเงื่อนไขของให้เป็นวิธีการแก้ $T$ $\theta$ $\hat{\theta}$ $T$ $\min_{\hat{\theta}} \Bbb E$ $(\hat{\theta}-\theta)^2$

Quesitons ของฉัน

ฉันจะแก้ไขได้ไหมว่า $\theta^*$ ย่อเล็กสุด $\Bbb E$ $(\hat{\theta}-\theta)^2$ ?
ทำไมทฤษฎีบท Rao-Blackwell จึงต้องการ $\Bbb E(\hat{\theta}^2) < \infty$ ?
คือความไม่เท่าเทียมกันทำไมเข้มงวดเว้นแต่ $\hat{\theta}$ เป็นหน้าที่ของ $T$ ?

rao-blackwell

— Stan Shunpike
แหล่งที่มา

ความเป็นไปได้ที่ซ้ำซ้อนของทฤษฎีการใช้งานง่ายและสูตรคูณสำหรับทฤษฎีบทของ Rao-Blackwell

— ซีอาน

สิ่งที่จำเป็นในการค้นหา ?

min_{\hat{θ}} E

$\min_{\hat{\theta}} \Bbb E$

(\hat{θ} - θ)^{2}

$(\hat{\theta}-\theta)^2$

— Stan Shunpike

คำตอบ:

ไม่เป็นตัวประมาณที่ดีกว่าแต่ไม่จำเป็นต้องดีที่สุด (นั่นก็หมายความว่า!) $\theta^*$ $\hat\theta$
หากประมาณการไม่มีความแปรปรวนแล้วความเสี่ยงของมันคือไม่มีที่สิ้นสุดและไม่มีการรับประกันว่ามีความเสี่ยง จำกัด (แม้ว่านี้อาจเกิดขึ้นจากแหลมโดยHorst Grünbuschในความคิดเห็นของเขา) $\theta^*$
ภายใต้ความแปรปรวนอัน จำกัด สำหรับความไม่เท่าเทียมนั้นเข้มงวดเพราะการแปรปรวนการสลายตัวเป็นผลรวมของความแปรปรวนตามเงื่อนไขที่คาดไว้บวกกับความแปรปรวนของความคาดหวังตามเงื่อนไข เว้นแต่ความแปรปรวนของเงื่อนไขที่คาดหวังคือศูนย์ซึ่งจะมีจำนวนฟังก์ชั่นของเท่านั้น $\hat\theta$ $var (\hat{θ}) = E_{T} [var (\hat{θ} | T)] + {var}_{T} (E [\hat{θ} | T]) = E_{T} [var (θ | T)] + {var}_{T} (θ^{*})$ $\text{var}(\hat\theta)=\mathbb{E}_T[\text{var}(\hat\theta|T)]+ \text{var}_T(\mathbb{E}[\hat\theta|T])=\mathbb{E}_T[\text{var}(\theta|T)]+\text{var}_T(\theta^*)$ $\hat\theta$ $T$

— ซีอาน
แหล่งที่มา

โฆษณา 2: ทำไมจึงเป็นไปไม่ได้ที่ ? พิจารณาเป็นตัวประมาณสำหรับโดยที่และ rau Cauchy ที่ไม่เกี่ยวข้อง

E ({\hat{θ}}^{2} | T) < E ({\hat{θ}}^{2}) = \infty

$E(\hat{\theta}^2|T)<E(\hat{\theta}^2)=\infty$

\hat{θ} = X + C

$\hat{\theta} = X + C$

μ

$\mu$

X \sim N (μ, σ^{2})

$X \sim \mathcal{N}(\mu,\sigma^2)$

C

$C$

— Horst Grünbusch

@ HorstGrünbuschทำไมชิ้น Cauchy ถึงหายไปเมื่อคุณมีเงื่อนไขกับ ? นอกจากนี้ไม่ใช่ผู้ประเมินที่เป็นกลาง

T

$T$

\hat{θ}

$\hat{\theta}$

— dsaxton

@ HorstGrünbuschดูเหมือนว่าฉันไม่มีความคาดหวังตามเงื่อนไข (เนื่องจากไม่มีความคาดหมาย) ดังนั้นจะไม่ถูกกำหนด

\hat{θ}

$\hat{\theta}$

∣ T

$\mid T$

C

$C$

θ^{*}

$\theta^\ast$

— Juho Kokkala

ตกลงทั้งหมดที่ฉันต้องการคือไม่มีความแปรปรวนไม่ใช่โดยไม่คาดคิด ;) ตอนนี้ใช้คือนักศึกษา-T-กระจายกับ 2 องศาอิสระและและเป็นอิสระจากXสถิติเพียงพออย่างชัดเจนXจากนั้นแต่

C

$C$

C \sim t_{2}

$C \sim t_2$

E (C) = 0

$E(C)=0$

C

$C$

X

$X$

X

$X$

E (X + C | X) = E (X | X) + E (C | X) = X + E (C) = X

$E(X+C|X) = E(X|X) + E(C|X) = X + E(C) = X$

\infty = V a r (C) + V a r (X) = V a r (X + C) > V a r (X + C | X) = σ^{2}

$\infty=Var(C) + Var(X) = Var(X+C)>Var(X+C|X)=\sigma^2$

— Horst Grünbusch

ดังนั้นฉันคิดว่ามันผิดที่ตัวประมาณ Rao-Blackwell มีความแปรปรวนแบบอนันต์ถ้าตัวประมาณค่าดั้งเดิมนั้นมีความแปรปรวนแบบอนันต์ (ถึงแม้ว่าความแปรปรวนทั้งสองจะจำเป็นต้องไม่มีที่สิ้นสุดจะยังคงมีอยู่)

\infty \leq \infty

$\infty \leq \infty$

— Horst Grünbusch

โปรดทราบว่าการมีสถิติที่เพียงพอนั้นไม่ซ้ำกัน ข้อมูลทั้งหมดมีเพียงพอ แต่การปรับการประมาณค่ากับสิ่งเหล่านั้นจะไม่เปลี่ยนแปลงอะไรเลย ดังนั้นสถิติที่เพียงพอเพียงอย่างเดียวจึงไม่เพียงพอสำหรับการมีข้อผิดพลาดกำลังสองเฉลี่ย ดู Lehmann-Scheffé-theorem ซึ่งใช้ Rao-Blackwell-theorem ในการพิสูจน์เพื่อความเพียงพอที่เพียงพอ (อันที่จริงเพียงพอและสมบูรณ์)
หากทั้งคู่ไม่มีที่สิ้นสุดความไม่เท่าเทียมที่อ่อนแอนั้นเป็นจริงเสมอ แต่จากนั้นเป็นตัวอย่างตัวอย่างคุณสามารถสร้างสถิติที่เพียงพอซึ่งไม่ใช่ฟังก์ชันของแต่ยังคงมีความแปรปรวนอนันต์ (เช่นที่ถือเท่านั้น) $T$ $\leq$

Take เช่น , ขยับ -distributed ตัวแปรสุ่มที่มีและและเป็นตัวแปรสุ่มอิสระอีกt_2 พารามิเตอร์ในการประมาณการ\ประมาณการเดิมC_2 สถิติเพียงพอแน่นอนC_1ตัวประมาณ Rao-Blackwellและมีความแปรปรวนไม่สิ้นสุด ดังนั้นความไม่เท่าเทียมจะมีความอ่อนแอ ในทางกลับกันไม่ใช่เพียงฟังก์ชั่นของ $C_1 \sim t_2 + \mu$ $t_2$ $E(C_1) = \mu$ $Var(C_1) = \infty$ $C_2 \sim t_2$ $\mu$ $\hat{\theta} = C_1 + C_2$ $C_1$ $E(\hat{\theta}|C_1)=C_1$ $\hat{\theta}$ $C_1+C_2$ $C_1$ : มันเกี่ยวข้องกับตัวแปรสุ่มอื่น ๆ ดังนั้นมันจะขัดแย้งกับประโยคสุดท้ายที่คุณถามคำถามที่ 3 เกี่ยวกับ อันที่จริงตำราบางเล่มยอมรับความแปรปรวนแบบไม่สิ้นสุดสำหรับตัวประมาณค่าดั้งเดิม แต่ในทางกลับกันพวกเขาไม่สามารถระบุได้เมื่อถือ $<$

ถ้าเป็นฟังก์ชันของคุณสามารถพิสูจน์ได้จากทฤษฎีการแยกตัวประกอบที่เพียงพอสำหรับแล้ว ดังนั้นอีกครั้งเราจบลงด้วยการปรับปรุงอะไร นอกเหนือจากกรณีนี้ความไม่เท่าเทียมนั้นเข้มงวดและนั่นเป็นการยืนยันที่ไม่สำคัญของทฤษฎีบท $\hat{\theta}$ $T$ $\hat{\theta}$ $\theta$

— Horst Grünbusch
แหล่งที่มา