ตัวประมาณค่าบวกที่ไม่เอนเอียงสำหรับกำลังสองของค่าเฉลี่ย

สมมติว่าเราสามารถเข้าถึงตัวอย่าง iid จากการแจกแจงด้วยค่าเฉลี่ยและความแปรปรวนจริง (ไม่ทราบ) $\mu, \sigma^2$ และเราต้องการประมาณ $\mu^2$ .

เราจะสร้างตัวประมาณค่าที่เป็นกลางและเป็นบวกของปริมาณนี้ได้อย่างไร?

การยกกำลังสองของค่าเฉลี่ยตัวอย่าง $\tilde{\mu}^2$ มีอคติและจะประเมินค่าสูงไปตามปริมาณ ถ้า $\mu$ ใกล้กับ 0 และ $\sigma^2$ มีขนาดใหญ่

นี่อาจเป็นคำถามที่ไม่สำคัญ แต่ความสามารถของ Google ทำให้ฉันผิดหวังเมื่อestimator of mean-squaredกลับมาเท่านั้นmean-squarred-error estimators

ถ้ามันทำให้เรื่องง่ายขึ้นการแจกแจงแบบพื้นฐานนั้นสามารถสันนิษฐานว่าเป็นแบบเกาส์เซียน

สารละลาย:

มันเป็นไปได้ที่จะสร้างการประมาณที่เป็นกลาง $\mu^2$ ; ดูคำตอบของ knrumsey
ไม่สามารถสร้างการประมาณที่เป็นกลางและเป็นบวกได้เสมอ $\mu^2$ เนื่องจากข้อกำหนดเหล่านี้ขัดแย้งกันเมื่อค่าเฉลี่ยที่แท้จริงคือ 0; เห็นคำตอบของวิงก์

mean unbiased-estimator

— วิงค์
แหล่งที่มา

บางทีค้นหาตัวประมาณค่าเฉลี่ยกำลังสองหรือตัวประมาณกำลังสองของค่าเฉลี่ยแทน เมื่อฉันอ่านชื่อของคุณฉันก็สับสน (เช่นเดียวกับ Google) ดังนั้นฉันจึงแก้ไขมันเพื่อให้ใช้งานง่ายขึ้น

— Richard Hardy

คำตอบ:

โปรดสังเกตว่าตัวอย่างหมายถึง $\bar{X}$ มีการกระจายตามปกติด้วยค่าเฉลี่ย $\mu$ และความแปรปรวน $\sigma^2/n$ . ซึ่งหมายความว่า

E ({\bar{X}}^{2}) = E (\bar{X})^{2} + Var (\bar{X}) = μ^{2} + \frac{σ^{2}}{n}

$\operatorname E(\bar{X}^2) = \operatorname E(\bar{X})^2 + \operatorname{Var}(\bar{X}) = \mu^2 + \frac{\sigma^2}n$

หากสิ่งที่คุณสนใจคือการประมาณที่ไม่เอนเอียงคุณสามารถใช้ความจริงที่ว่าค่าความแปรปรวนตัวอย่างนั้นไม่เอนเอียง $\sigma^2$ . นี่ก็หมายความว่าตัวประมาณ

\hat{μ^{2}} = {\bar{X}}^{2} - \frac{S^{2}}{n}

$\widehat{\mu^2} = \bar{X}^2 - \frac{S^2}n$ ไม่มีอคติสำหรับ

μ^{2}

$\mu^2$ .

— knrumsey
แหล่งที่มา

ขอบคุณสำหรับข้อมูลของคุณ! นี่เป็นการสังเกตที่ดี แต่ไม่ตอบสนองความต้องการในเชิงบวกอยู่เสมอ เมื่อได้รับตัวอย่าง {-1,1} ค่าเฉลี่ยตัวอย่างคือ 0 และความแปรปรวนตัวอย่างคือ 2 ซึ่งนำไปสู่การประมาณการ

\hat{μ^{2}}

$\hat{\mu^2}$ ของ -1

— วิงค์

ระบุว่า

(\bar{X}, S^{2})

$(\bar{X},S^2)$ มีความเพียงพอและสมบูรณ์น้อยที่สุดตัวประมาณค่าที่เป็นกลางควรเป็นสิ่งที่มีความแปรปรวนน้อยที่สุด

— ซีอาน

@Winks นั่นคือเหตุผลว่าทำไมนี้เป็นตัวอย่างของการเป็นนักการไร้สาระประมาณการที่เป็นกลาง

— StubbornAtom

น่าสนใจมาก. ตัวประมาณค่าที่ไม่มีการใช้งานง่ายโดยใช้การสังเกตสองไอเดีย

X_{1}

$X_1$ และ

X_{2}

$X_2$ คือ

X_{1} X_{2}

$X_1X_2$ , เช่น

E (X_{1} X_{2}) = E (X_{1}) E (X_{2}) = μ^{2}

$E(X_1 X_2) = E(X_1)E(X_2) = \mu^2$ . เห็นได้ชัดว่านี่ไม่ใช่ตัวประมาณที่ดี แต่ชัดเจนว่าพหุนามใด ๆ

μ

$\mu$ มีเครื่องมือประมาณค่าแบบไม่เอนเอียงซึ่งฉันคิดว่าน่าสนใจ

— พอลแฮร์ริสัน

ไม่ควรสร้างตัวประมาณที่ไม่มีอคติและเป็นค่าบวกเสมอ $\mu^2$ .

หากค่าเฉลี่ยที่แท้จริงคือ 0 ตัวประมาณต้องอยู่ในความคาดหวังที่คืนค่า 0 แต่ไม่ได้รับอนุญาตให้ส่งออกจำนวนลบดังนั้นจึงไม่อนุญาตให้ส่งออกจำนวนบวกเช่นเดียวกับที่จะเอนเอียง ตัวประมาณค่าที่เป็นกลางและเป็นบวกเสมอของปริมาณนี้จะต้องส่งคืนคำตอบที่ถูกต้องเสมอเมื่อค่าเฉลี่ยคือ 0 ไม่ว่าตัวอย่างจะเป็นไปไม่ได้

คำตอบของ knrumseyแสดงวิธีการแก้ไขอคติของตัวประมาณค่าเฉลี่ยกำลังสองเพื่อให้ได้ค่าประมาณที่ไม่เอนเอียง $\mu^2$ .

— วิงค์
แหล่งที่มา

มีกระดาษค่อนข้างเก่าโดย Jim Berger ที่สร้างข้อเท็จจริงนี้ แต่ฉันไม่สามารถติดตามได้ ปัญหายังปรากฏใน Monte Carlo ด้วยการประมาณค่าการลดทอนเช่นรูเล็ตรัสเซีย

— ซีอาน