ความแตกต่างของตัวประมาณค่านี้คืออะไร

ฉันต้องการประเมินค่าเฉลี่ยของฟังก์ชัน f เช่น โดยที่และเป็นตัวแปรสุ่มอิสระ ฉันมีตัวอย่างของ f แต่ไม่ใช่ iid: มีตัวอย่าง iid สำหรับและสำหรับแต่ละมีตัวอย่างจาก :

E_{X, Y} [f (X, Y)]

$E_{X,Y}[f(X,Y)]$

X

$X$

Y

$Y$

Y_{1}, Y_{2}, \dots Y_{n}

$Y_1,Y_2,\dots Y_n$

Y_{i}

$Y_i$

n_{i}

$n_i$

X

$X$

X_{i, 1}, X_{i, 2}, \dots, X_{i, n_{i}}

$X_{i,1},X_{i,2},\dots, X_{i,n_i}$

โดยรวมแล้วฉันมีตัวอย่าง $f(X_{1,1},Y_1) \dots f(X_{1,n_1},Y_1 ) \dots f(X_{i,j},Y_i) \dots f(X_{n,n_n},Y_n)$

ในการประมาณค่าเฉลี่ยฉันคำนวณ เห็นได้ชัดว่าดังนั้นคือตัวประมาณที่ไม่เอนเอียง ตอนนี้ฉันสงสัยว่าคือความแปรปรวนของตัวประมาณ

μ = \sum_{i = 1}^{n} 1 / n * \sum_{j = 1}^{n_{i}} \frac{f (X_{i, j}, Y_{i})}{n_{i}}

$\mu=\sum_{i=1}^n 1/n * \sum_{j=1}^{n_i}\frac{ f(X_{i,j},Y_i)}{n_i}$

E_{X, Y} [μ] = E_{X, Y} [f (X, Y)]

$E_{X,Y}[\mu]=E_{X,Y}[f(X,Y)]$

μ

$\mu$

V a r (μ)

$Var(\mu)$

แก้ไข 2: นี่คือความแปรปรวนที่ถูกต้องหรือไม่? มัน ดูเหมือนว่าจะทำงานในขีด จำกัด คือถ้า n = 1 และความแปรปรวนเพียงกลายเป็นความแปรปรวนของค่าเฉลี่ย และถ้าสูตรจะกลายเป็นสูตรมาตรฐานสำหรับความแปรปรวนของตัวประมาณ ถูกต้องหรือไม่ ฉันจะพิสูจน์ได้ว่ามันคืออะไร?

V a r (μ) = \frac{V a r_{Y} (μ_{i})}{n} + \sum_{i = 1}^{n} \frac{V a r_{X} (f (X, Y_{i})))}{n_{i} * n^{2}}

$Var(\mu)=\frac{Var_Y(\mu_i)}{n}+\sum_{i=1}^n \frac{Var_X(f(X,Y_i)))}{n_i*n^2}$

n_{i} = \infty

$n_i=\infty$

n_{i} = 1

$n_i=1$

แก้ไข (ไม่สนใจสิ่งนี้):

ดังนั้นฉันคิดว่าฉันมีความคืบหน้า: ให้เรากำหนดซึ่งเป็นตัวประมาณที่ไม่ลำเอียงY_i)] $\mu_i=\sum_{j=1}^{n_i}\frac{ f(X_{i,j},Y_i)}{n_i}$ $E_X[f(X,Y_i)]$

การใช้สูตรมาตรฐานสำหรับความแปรปรวนที่เราสามารถเขียนได้:

V a r (μ) = 1 / n^{2} \sum_{l = 1}^{n} \sum_{k = 1}^{n} C o v (μ_{l}, μ_{k})

$Var(\mu)=1/n^2 \sum_{l=1}^n \sum_{k=1}^n Cov(\mu_l,\mu_k)$ สิ่งนี้สามารถทำให้ง่ายขึ้น และ เนื่องจาก s ถูกดึงขึ้นมาเองเราสามารถทำให้มันง่ายขึ้นอีก และสำหรับความแปรปรวนร่วม:

1 / n^{2} (\sum_{i = 1}^{n} V a r (μ_{l}) + 1 / n^{2} \sum_{l = 1}^{n} \sum_{k = l + 1}^{n} 2 * C o v (μ_{l}, μ_{k}))

$1/n^2( \sum_{i=1}^n Var(\mu_l)+ 1/n^2\sum_{l=1}^n \sum_{k=l+1}^n 2*Cov(\mu_l,\mu_k))$

X_{i j}

$X_{ij}$

1 / n^{2} (\sum_{i = 1}^{n} 1 / n_{i} V a r (f (X_{i, j}, Y_{i})) + 1 / n^{2} \sum_{l = 1}^{n} \sum_{k = l + 1}^{n} 2 * C o v (μ_{l}, μ_{k}))

$1/n^2( \sum_{i=1}^n 1/n_i Var(f(X_{i,j},Y_i))+1/n^2 \sum_{l=1}^n \sum_{k=l+1}^n 2*Cov(\mu_l,\mu_k))$

\begin{aligned} C o v (μ_{l}, μ_{k}) & = C o v (\sum_{j = 1}^{n_{l}} \frac{f (X_{j, l}, Y_{l})}{n_{l}}, \sum_{j = 1}^{n_{k}} \frac{f (X_{j, k}, Y_{k})}{n_{k}}) \\ = \frac{1}{(n_{k} * n_{l})} * C o v (\sum_{j = 1}^{n_{l}} f (X_{j, l}, Y_{l}), \sum_{j = 1}^{n_{k}} f (X_{j, k}, Y_{k})) \\ = \frac{1}{(n_{k} * n_{l})} * \sum_{j = 1}^{n_{l}} \sum_{j = 1}^{n_{k}} C o v (f (X, Y_{l}), f (X, Y_{k})) \\ = \frac{n_{k} * n_{l}}{(n_{k} * n_{l})} C o v (f (X_{i, l}, Y_{l}), f (X_{i, k}, Y_{k})) \\ = C o v (f (X, Y_{l}), f (X, Y_{k})) \end{aligned}

$\begin{align} Cov(\mu_l,\mu_k)&=Cov(\sum_{j=1}^{n_l} \frac{f(X_{j,l},Y_l)}{n_{l}},\sum_{j=1}^{n_k} \frac{f(X_{j,k},Y_k)}{n_{k}})\\ &=\frac{1}{(n_k*n_l)}*Cov(\sum_{j=1}^{n_l} f(X_{j,l},Y_l),\sum_{j=1}^{n_k} f(X_{j,k},Y_k))\\ &=\frac{1}{(n_k*n_l)}*\sum_{j=1}^{n_l}\sum_{j=1}^{n_k}Cov( f(X,Y_l), f(X,Y_k))\\ &=\frac{n_k*n_l}{(n_k*n_l)}Cov( f(X_{i,l},Y_l), f(X_{i,k},Y_k))\\ &=Cov( f(X,Y_l), f(X,Y_k)) \end{align}$ ดังนั้นการเสียบกลับเข้าไปเราได้ ฉันมีคำถามหลายข้อในขณะนี้:

1 / n^{2} (\sum_{i = 1}^{n} 1 / n_{i} V a r (f (X, Y_{i})) + 1 / n^{2} \sum_{l = 1}^{n} \sum_{k = l + 1}^{n} 2 * C o v (f (X, Y_{l}), f (X, Y_{k})))

$1/n^2( \sum_{i=1}^n 1/n_i Var(f(X,Y_i))+1/n^2 \sum_{l=1}^n \sum_{k=l+1}^n 2*Cov(f(X,Y_l),f(X,Y_k)))$

การคำนวณข้างต้นถูกต้องหรือไม่
ฉันจะประมาณจากตัวอย่างที่ให้มาได้อย่างไร $Cov(f(X,Y_l),f(X,Y_k)))$
ความแปรปรวนมาบรรจบกับ 0 ไหมถ้าฉันปล่อยให้ n ไปไม่มีที่สิ้นสุด

variance unbiased-estimator estimators

— เบเนดิกต์Bünz
แหล่งที่มา

Q1: ไม่มันไม่ถูกต้องนัก คุณละเว้นตัวห้อยในบรรทัดที่ 3 ของการแปรปรวนสุดท้ายของคุณ ที่ปิดบังความจริงที่ว่าทั้งสอง RVs ระบุว่า "X" ในความเป็นจริงเป็นอิสระจากกันหนึ่งมีห้อยและอื่น ๆkในบล็อกทั้งหมดของอีควอเทอร์คำเดียวเท่านั้นที่ควรเป็นศูนย์เมื่อเนื่องจากฟังก์ชั่นของอินพุตอิสระมีความเป็นอิสระ (ฉันคิดว่าคุณโอเคที่จะพูดว่าเป็นอิสระจากแม้ว่าสิ่งนี้จะไม่เป็นไปตามที่พูดอย่างเคร่งครัดจากการเรียกร้องเอกราชของคู่เอกสิทธิ์ของและทั้งหมด) $\ell$ $k$ $k=\ell$ $X_{12}, Y_1$ $X_{22}, Y_2$ $X$ $Y$

Q2: จากด้านบนคำว่าไม่ใช่ศูนย์เฉพาะเมื่อและในกรณีนั้นจะลดลงเหลือY_k)) ผลลัพธ์ที่ได้หลังรวมเป็นY_k)) $k=\ell$ $Cov(f(X_{jk}, Y_k), f(X_{jk}, Y_k)) = Var(f(X_{jk}, Y_k))$ $Cov(\mu_k, \mu_k) = \frac{1}{n_k} Var(f(X_{jk}, Y_k))$

Q3: ใช่: หลังจากการปรับเปลี่ยนเหล่านี้คุณจะมีเพียงจำนวนเชิงเส้นของจำนวนคำในผลรวมสุดท้ายดังนั้นคำที่เป็นกำลังสองของตัวส่วนจะเป็นผู้ชนะ

— eric_kernfeld
แหล่งที่มา

คำตอบของ "ความแปรปรวนมาบรรจบกับ 0 ไหมถ้าฉันปล่อยให้ n ไปไม่มีที่สิ้นสุด" คือ "ใช่"

— eric_kernfeld