ค้นหา UMVUE จาก

ให้เป็นตัวแปรสุ่มที่มี pdf $X_1, X_2, . . . , X_n$

$f_{X} (x ∣ θ) = θ (1 + x)^{- (1 + θ)} I_{(0, \infty)} (x)$ $f_X(x\mid\theta) =\theta(1 +x)^{−(1+\theta)}I_{(0,\infty)}(x)$

ที่ไหน $\theta >0$ . ให้ UMVUE จาก $\frac{1}{\theta}$ และคำนวณความแปรปรวน

ฉันได้เรียนรู้เกี่ยวกับสองวิธีดังกล่าวเพื่อรับ UMVUE ของ:

แครมเมอร์ - ราวล่าง (CRLB)
Lehmann-Scheffe Thereom

ฉันจะลองทำสิ่งนี้โดยใช้สองตัวแรก ฉันต้องยอมรับว่าฉันไม่เข้าใจสิ่งที่เกิดขึ้นที่นี่อย่างสมบูรณ์และฉันกำลังพยายามแก้ไขปัญหาตัวอย่าง ฉันมีสิ่งนั้น $f_X(x\mid\theta)$ เป็นตระกูลเอ็กซ์โปเนนเชียลแบบพารามิเตอร์เดียวที่มี

$h(x)=I_{(0,\infty)}$ , $c(\theta)=\theta$ , $w(\theta)=-(1+\theta)$ , $t(x)=\text{log}(1+x)$

เนื่องจากไม่ใช่ศูนย์บนผล CRLB จึงถูกนำมาใช้ เรามี $w'(\theta)=1$ $\Theta$

log f_{X} (x ∣ θ) = log (θ) - (1 + θ) \cdot log (1 + x)

$\text{log }f_X(x\mid\theta)=\text{log}(\theta)-(1+\theta)\cdot\text{log}(1+x)$

\frac{\partial}{\partial θ} log f_{X} (x ∣ θ) = \frac{1}{θ} - log (1 + x)

$\frac{\partial}{\partial \theta}\text{log }f_X(x\mid\theta)=\frac{1}{\theta}-\text{log}(1+x)$

\frac{\partial^{2}}{\partial θ^{2}} log f_{X} (x ∣ θ) = - \frac{1}{θ^{2}}

$\frac{\partial^2}{\partial \theta^2}\text{log }f_X(x\mid\theta)=-\frac{1}{\theta^2}$

ดังนั้น

I_{1} (θ) = - E (- \frac{1}{θ^{2}}) = \frac{1}{θ^{2}}

$I_1(\theta)=-\mathsf E\left(-\frac{1}{\theta^2}\right)=\frac{1}{\theta^2}$

และ CRLB สำหรับการประมาณที่ไม่เอนเอียง $\tau(\theta)$ คือ

\frac{[τ^{'} (θ)]^{2}}{n \cdot I_{1} (θ)} = \frac{θ^{2}}{n} [τ^{'} (θ)]^{2}

$\frac{[\tau'(\theta)]^2}{n\cdot I _1(\theta)} = \frac{\theta^2}{n}[\tau'(\theta)]^2$

ตั้งแต่

\sum_{i = 1}^{n} t (X_{i}) = \sum_{i = 1}^{n} log (1 + X_{i})

$\sum_{i=1}^n t(X_i)=\sum_{i=1}^n \text{log}(1+X_i)$

แล้วฟังก์ชันเชิงเส้นใด ๆ ของ $\sum_{i=1}^n \text{log}(1+X_i)$ หรือฟังก์ชันเชิงเส้นใด ๆ ของ $\frac{1}{n}\sum_{i=1}^n \text{log}(1+X_i)$ จะบรรลุ CRLB ของความคาดหวังของมันและทำให้เป็น UMVUE ของความคาดหวัง ตั้งแต่ $\mathsf E(\text{log}(1+X))=\frac{1}{\theta}$ เรามีสิ่งที่ UMVUE จาก $\frac{1}{\theta}$ คือ $\frac{1}{n}\sum_{i=1}^n \text{log}(1+X_i)$

สำหรับพารามิเตอร์ธรรมชาติเราสามารถปล่อยให้ $\eta=-(1+\theta)\Rightarrow \theta=-(\eta+1)$

แล้วก็

V a r (log (1 + X)) = \frac{d}{d η} (- \frac{1}{η + 1}) = \frac{1}{(η + 1)^{2}} = \frac{1}{θ^{2}}

$\mathsf{Var}(\text{log}(1+X))=\frac{d}{d\eta}\left(-\frac{1}{\eta+1}\right)=\frac{1}{(\eta+1)^2}=\frac{1}{\theta^2}$

นี่เป็นวิธีแก้ปัญหาที่ถูกต้องหรือไม่? มีวิธีที่ง่ายกว่านี้ไหม? วิธีนี้ใช้ได้เฉพาะเมื่อ $\mathsf E(t(x))$ เท่ากับสิ่งที่คุณพยายามประเมิน

— Remy
แหล่งที่มา

เมื่อถึงจุดที่คุณแสดงให้เห็นว่าไฟล์ pdf เป็นสมาชิกของตระกูลเลขชี้กำลังแบบหนึ่งพารามิเตอร์คุณจะเห็นได้ชัดเจนว่าสถิติที่เพียงพอสำหรับครอบครัวนั้นคือ

T (X_{1}, \dots, X_{n}) = \sum_{i = 1}^{n} \ln (1 + X_{i})

$T(X_1,\ldots,X_n)=\sum_{i=1}^n\ln(1+X_i)$ ตั้งแต่ที่คุณพูด

E (T / n) = \frac{1}{θ}

$E(T/n)=\frac{1}{\theta}$ ,

T / n

$T/n$ คือ UMVUE จาก

1 / θ

$1/\theta$ โดยทฤษฎีบท Lehmann-Scheffe

— StubbornAtom

ดังนั้นส่วนที่ฉันมี "ตั้งแต่

w^{'} (θ) = 1

$w'(\theta)=1$ ไม่ใช่ศูนย์ .....

\frac{θ^{2}}{n} [τ^{'} (θ)]^{2}

$\frac{\theta^2}{n}[\tau'(\theta)]^2$ "ไม่เกี่ยวข้องหรือไม่

— Remy

ไม่ได้จริงๆ ความแปรปรวนของ

T

$T$ ง่ายต่อการค้นหาโดยใช้ CRLB ดังนั้นเพื่อแก้ปัญหาทั้งสองข้อพร้อมกันข้อโต้แย้งของคุณก็เพียงพอแล้ว

— StubbornAtom

เพื่อหาความแปรปรวนแบบนั้นฉันจะรับ

\frac{θ^{2}}{n} [τ^{'} (θ)]^{2} = \frac{θ^{2}}{n} {(- \frac{1}{θ^{2}})}^{2} = \frac{1}{n θ^{2}}

$\frac{\theta^2}{n}[\tau'(\theta)]^2=\frac{\theta^2}{n}\left(-\frac{1}{\theta^2}\right)^2=\frac{1}{n\theta^2}$ ? ดังนั้นก่อนหน้านี้ฉันทำผิดไปเลยเหรอ?

— Remy

ใช่นั่นคือความแปรปรวนของ

T

$T$ . แม่นยำ.

— StubbornAtom

เหตุผลของคุณส่วนใหญ่ถูกต้อง

ความหนาแน่นรอยต่อของตัวอย่าง $(X_1,X_2,\ldots,X_n)$ คือ

\begin{aligned} f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \frac{θ^{n}}{{(\prod_{i = 1}^{n} (1 + x_{i}))}^{1 + θ}} 1_{x_{1}, x_{2}, \dots, x_{n} > 0}, θ > 0 \\ ⟹ \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = n \ln (θ) - (1 + θ) \sum_{i = 1}^{n} \ln (1 + x_{i}) + \ln (1_{min_{1 \leq i \leq n} x_{i} > 0}) \\ ⟹ \frac{\partial}{\partial θ} \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \frac{n}{θ} - \sum_{i = 1}^{n} \ln (1 + x_{i}) \\ = - n (\frac{\sum_{i = 1}^{n} \ln (1 + x_{i})}{n} - \frac{1}{θ}) \end{aligned}

$\begin{align} f_{\theta}(x_1,x_2,\ldots,x_n)&=\frac{\theta^n}{\left(\prod_{i=1}^n (1+x_i)\right)^{1+\theta}}\mathbf1_{x_1,x_2,\ldots,x_n>0}\qquad,\,\theta>0 \\\\\implies \ln f_{\theta}(x_1,x_2,\ldots,x_n)&=n\ln(\theta)-(1+\theta)\sum_{i=1}^n\ln(1+x_i)+\ln(\mathbf1_{\min_{1\le i\le n} x_i>0}) \\\\\implies\frac{\partial}{\partial \theta}\ln f_{\theta}(x_1,x_2,\ldots,x_n)&=\frac{n}{\theta}-\sum_{i=1}^n\ln(1+x_i) \\\\&=-n\left(\frac{\sum_{i=1}^n\ln(1+x_i)}{n}-\frac{1}{\theta}\right) \end{align}$

ดังนั้นเราจึงได้แสดงฟังก์ชั่นคะแนนในรูปแบบ

\begin{matrix} (1) & \frac{\partial}{\partial θ} \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) = k (θ) (T (x_{1}, x_{2}, \dots, x_{n}) - \frac{1}{θ}) \end{matrix}

$\frac{\partial}{\partial \theta}\ln f_{\theta}(x_1,x_2,\ldots,x_n)=k(\theta)\left(T(x_1,x_2,\ldots,x_n)-\frac{1}{\theta}\right)\tag{1}$

ซึ่งเป็นเงื่อนไขความเท่าเทียมกันในความไม่เท่าเทียมกันของCramér-Rao

ไม่ยากที่จะตรวจสอบว่า

\begin{matrix} (2) & E (T) = \frac{1}{n} \sum_{i = 1}^{n} \underset{= 1 / θ}{\underset{⏟}{E (\ln (1 + X_{i}))}} = \frac{1}{θ} \end{matrix}

$E(T)=\frac{1}{n}\sum_{i=1}^n\underbrace{E(\ln(1+X_i))}_{=1/\theta}=\frac{1}{\theta}\tag{2}$

จาก $(1)$ และ $(2)$ เราสามารถสรุปได้ว่า

สถิติ $T(X_1,X_2,\ldots,X_n)$ เป็นตัวประมาณของ $1/\theta$ .
$T$ เป็นไปตามเงื่อนไขความเสมอภาคของความไม่เท่าเทียมกันของCramér-Rao

ข้อเท็จจริงทั้งสองนี้เข้าด้วยกันหมายความว่า $T$ คือ UMVUE จาก $1/\theta$ .

กระสุนนัดที่สองบอกเราถึงความแปรปรวนของ $T$ บรรลุCramér-Rao ขอบเขตล่างสำหรับ $1/\theta$ .

ตามที่คุณแสดง

E_{θ} [\frac{\partial^{2}}{\partial θ^{2}} \ln f_{θ} (X_{1})] = - \frac{1}{θ^{2}}

$E_{\theta}\left[\frac{\partial^2}{\partial\theta^2}\ln f_{\theta}(X_1)\right]=-\frac{1}{\theta^2}$

นี่ก็หมายความว่าฟังก์ชันข้อมูลสำหรับตัวอย่างทั้งหมดคือ

I (θ) = - n E_{θ} [\frac{\partial^{2}}{\partial θ^{2}} \ln f_{θ} (X_{1})] = \frac{n}{θ^{2}}

$I(\theta)=-nE_{\theta}\left[\frac{\partial^2}{\partial\theta^2}\ln f_{\theta}(X_1)\right]=\frac{n}{\theta^2}$

ดังนั้นCramér-Rao จึงถูก จำกัด ขอบเขตไว้ $1/\theta$ และด้วยเหตุนี้ความแปรปรวนของ UMVUE จึงเป็น

Var (T) = \frac{{[\frac{d}{d θ} (\frac{1}{θ})]}^{2}}{I (θ)} = \frac{1}{n θ^{2}}

$\operatorname{Var}(T)=\frac{\left[\frac{d}{d\theta}\left(\frac{1}{\theta}\right)\right]^2}{I(\theta)}=\frac{1}{n\theta^2}$

ที่นี่เราได้ใช้ประโยชน์จากความไม่เท่าเทียมกันของCramér-Rao ซึ่งกล่าวว่าสำหรับครอบครัวของการแจกแจง $f$ parametrised โดย $\theta$ (สมมติว่ามีเงื่อนไขปกติของความไม่เสมอภาค CR ที่จะถือ) หากสถิติ $T$ ไม่มีอคติสำหรับ $g(\theta)$ สำหรับฟังก์ชั่นบางอย่าง $g$ และหากเป็นไปตามเงื่อนไขของความเสมอภาคในความไม่เท่าเทียมกันของ CR คือ

\frac{\partial}{\partial θ} \ln f_{θ} (x) = k (θ) (T (x) - g (θ))

$\frac{\partial}{\partial\theta}\ln f_{\theta}(x)=k(\theta)\left(T(x)-g(\theta)\right)$ จากนั้น

T

$T$ ต้องเป็น UMVUE จาก

g (θ)

$g(\theta)$ . ดังนั้นข้อโต้แย้งนี้ใช้ไม่ได้กับทุกปัญหา

อีกทางเลือกหนึ่งโดยใช้ทฤษฎีบท Lehmann-Scheffe คุณสามารถพูดได้ $T=\frac{1}{n}\sum_{i=1}^{n} \ln(1+X_i)$ คือ UMVUE จาก $1/\theta$ ตามที่เป็นกลาง $1/\theta$ และเป็นสถิติที่เพียงพอสำหรับครอบครัวแห่งการแจกแจง ที่ $T$ คือการแข่งขันที่เพียงพอชัดเจนจากโครงสร้างของความหนาแน่นร่วมของตัวอย่างในแง่ของครอบครัวชี้แจงพารามิเตอร์เดียว แต่ความแปรปรวนของ $T$ อาจเป็นเรื่องยุ่งยากเล็กน้อยในการค้นหาโดยตรง

— StubbornAtom
แหล่งที่มา

ท่านสามารถใช้การกระจายของ

T

$T$ เพื่อหาค่าเฉลี่ย, ความแปรปรวน

— StubbornAtom