ทฤษฎีของความแปรปรวนขั้นต่ำการประมาณค่าที่ไม่เอนเอียงในโรงเรียนระดับบัณฑิตศึกษามากเกินไปหรือไม่?


18

เมื่อเร็ว ๆ นี้ฉันรู้สึกเขินอายมากเมื่อฉันให้คำตอบแบบชกมวยเกี่ยวกับการประมาณค่าความแปรปรวนขั้นต่ำที่ไม่เอนเอียงสำหรับพารามิเตอร์ของการแจกแจงแบบสม่ำเสมอที่ผิดอย่างสมบูรณ์ โชคดีที่ฉันได้รับการแก้ไขได้ทันทีโดยพระคาร์ดินัลและเฮนรี่กับเฮนรี่ให้คำตอบที่ถูกต้องสำหรับสหกรณ์

เรื่องนี้ทำให้ฉันคิดว่า ฉันเรียนรู้ทฤษฎีการประมาณค่าที่ไม่เอนเอียงที่ดีที่สุดในวิชาคณิตศาสตร์ระดับบัณฑิตศึกษาของฉันที่ Stanford เมื่อ 37 ปีก่อน ฉันมีความทรงจำเกี่ยวกับทฤษฎีบท Rao-Blackwell, Cramer - Rao ซึ่งเป็นขอบเขตล่างและทฤษฎีบท Lehmann-Scheffe แต่ในฐานะนักสถิติประยุกต์ฉันไม่ได้คิดถึง UMVUE มากนักในชีวิตประจำวันของฉันในขณะที่การประเมินความเป็นไปได้สูงสุดจะเกิดขึ้นมากมาย

ทำไมถึงเป็นอย่างนั้น? เราเน้นทฤษฎี UMVUE มากเกินไปในบัณฑิตวิทยาลัยหรือไม่? ฉันคิดอย่างนั้น ประการแรกความเป็นกลางไม่ได้เป็นคุณสมบัติที่สำคัญ MLE ที่ดีอย่างสมบูรณ์แบบหลายลำเอียง ตัวประมาณการหดตัวของสไตน์นั้นมีอคติ แต่มีอิทธิพลเหนือ MLE ที่เป็นกลางในแง่ของการสูญเสียความคลาดเคลื่อนกำลังสองเฉลี่ย มันเป็นทฤษฎีที่สวยงามมาก (การประมาณค่า UMVUE) แต่ไม่สมบูรณ์มากและฉันคิดว่าไม่มีประโยชน์มาก คนอื่นคิดอย่างไร


5
(+1) ฉันเห็นด้วยว่านี่จะทำให้เป็นคำถามที่ดีสำหรับเว็บไซต์หลักและจะถอนมันออกไป มันค่อนข้างเป็นอัตวิสัยดังนั้นจึงอาจดีที่สุดสำหรับคำถาม CW (และไม่มีเหตุผลที่จะต้องอาย)
พระคาร์ดินัล

2
ฉันไม่คิดว่าโดยทั่วไปการประมาณแบบนี้เน้นมากเกินไป ฉันจำได้ว่าอาจารย์ของฉันเคยมุ่งเน้นไปที่ตัวอย่างที่ UMVUE "ไร้สาระ" มากขึ้น ผู้คนมักจะใช้ตัวประมาณค่าที่เป็นของทฤษฎียอดนิยมเพื่อความปลอดภัย แต่มีทฤษฎีที่สมบูรณ์เกี่ยวกับการประมาณสมการ อาจารย์บางคนมุ่งเน้นไปที่ UMVUE เพราะพวกเขาเป็นแหล่งที่มาของปัญหาที่ยากสำหรับการทำการบ้าน ฉันคิดว่าการลดอคตินั้นเป็นทฤษฎีที่ได้รับความนิยมและมีประโยชน์มากกว่าในการค้นหา UMVUE (ซึ่งไม่ได้มีอยู่เสมอ)

2
เราเห็นคำถามมากมายที่นี่ใน UMVUE ฉันเดาว่าเพราะพวกเขามีปัญหาการบ้านที่ดี บางทีนี่อาจเป็นปัญหาของโปรแกรมสถิติระดับปริญญาตรีและปริญญาโทมากกว่าหลักสูตรปริญญาเอก
Michael R. Chernick

3
ทีนี้การประมาณค่า UMVU เป็นความคิดที่คลาสสิกดังนั้นควรสอนด้วยเหตุผลนั้น? และเป็นจุดเริ่มต้นที่ดีสำหรับการพูดคุย / เกณฑ์การวิพากษ์วิจารณ์เช่นความเป็นกลาง! เพียงเพราะพวกเขาไม่ได้ใช้ในการฝึกฝนมากนักในตัวมันเองก็ไม่มีเหตุผลที่จะไม่สอนพวกเขา
kjetil b halvorsen

3
ความสำคัญมีแนวโน้มที่จะแตกต่างกันไปตามเวลาและแผนก แผนกของฉันนำเสนอเนื้อหาในหลักสูตรคณิตศาสตร์ปีแรก แต่หลังจากนั้นมันหายไปดังนั้นฉันจึงไม่สามารถพูดได้ว่ามันเกินความจริง (แม้ในหลักสูตรการอนุมานปริญญาเอกปกติแล้วมันไม่ได้รับการสอน เวลากับการประมาณแบบเบย์และมินิแม็กซ์การประมาณค่าแบบยอมรับได้และการประมาณหลายตัวแปร) แม้ว่าฉันต้องการให้มีการเน้นว่าทำไมการตั้งค่าแบบอคติจึงเป็นสิ่งที่มีประโยชน์และด้วยเหตุนี้การประมาณแบบเป็นกลางโดยไม่จำเป็น
คนที่แต่งตัวประหลาด

คำตอบ:


3

เรารู้ว่า

ถ้าจะเป็นตัวอย่างที่สุ่มจากP o ฉันs s o n ( λ )แล้วสำหรับการใด ๆα ( 0 , 1 ) , T α = α ˉ X + ( 1 - α ) S 2คือ UE ของλX1,X2,XnPoisson(λ)α(0,1), Tα=αX¯+(1α)S2λ

ดังนั้นมีอยู่มากมายหลายเจ้าหน้าของλ λตอนนี้คำถามที่เกิดขึ้นที่เราควรเลือกสิ่งเหล่านี้? ดังนั้นเราจึงเรียก UMVUE ความเป็นกลางไม่ได้เป็นคุณสมบัติที่ดี แต่ UMVUE เป็นคุณสมบัติที่ดี แต่มันก็ไม่ดีมาก

X1,X2,XnN(μ,σ2)Tα=αS2(n1)S2=i=1n(XiX¯)2σ2n1n+1S2=1n+1i=1n(XiX¯)2 แต่มันมีอคติที่ไม่ใช่ UMVUE แม้ว่าจะดีที่สุดในแง่ของ MSE ขั้นต่ำ

สังเกตได้ว่า ทฤษฎีบท Rao-Blackwellกล่าวว่าการค้นหา UMVUE เราสามารถมุ่งเน้นไปที่ UE ซึ่งเป็นฟังก์ชันของสถิติที่เพียงพอนั่นคือ UMVUE เป็นตัวประมาณซึ่งมีความแปรปรวนน้อยที่สุดในบรรดา UE ทั้งหมดซึ่งเป็นฟังก์ชันของสถิติที่เพียงพอ ดังนั้น UMVUE จึงจำเป็นต้องมีฟังก์ชั่นของสถิติที่เพียงพอ

MLE และ UMVUE ทั้งคู่เป็นสิ่งที่ดีจากมุมมอง แต่เราไม่สามารถพูดได้ว่าหนึ่งในนั้นดีกว่าอย่างอื่น ในสถิติเราจัดการกับข้อมูลที่ไม่แน่นอนและสุ่ม ดังนั้นจึงมีขอบเขตสำหรับการปรับปรุงอยู่เสมอ เราอาจได้รับการประมาณที่ดีกว่า MLE และ UMVUE

ฉันคิดว่าเราไม่ได้เน้นทฤษฎี UMVUE มากเกินไปในบัณฑิตวิทยาลัยมันเป็นมุมมองส่วนตัวของฉันอย่างแท้จริง ฉันคิดว่าเวทีการสำเร็จการศึกษาเป็นเวทีการเรียนรู้ ดังนั้นนักศึกษาที่สำเร็จการศึกษาจะต้องมีพื้นฐานที่ดีเกี่ยวกับ UMVUE และผู้ประเมินอื่น ๆ


1
ฉันคิดว่าทฤษฎีการอนุมานที่ถูกต้องดีพอที่จะรู้ ในขณะที่ความเป็นกลางสามารถเป็นทรัพย์สินที่ดีได้ แต่ความลำเอียงก็ไม่เลว เมื่อมีการเน้น UMVUE อาจมีแนวโน้มที่จะแอตทริบิวต์ แต่อาจไม่มีตัวประมาณที่ดีมากในชั้นเรียนของตัวประมาณแบบเอนเอียง ความแม่นยำเป็นสิ่งสำคัญและเกี่ยวข้องกับความเอนเอียงและความแปรปรวน สิ่งที่ดีกว่าเกี่ยวกับ MLE คือมีเงื่อนไขที่สามารถแสดงให้เห็นว่ามีประสิทธิภาพแบบไม่แสดงอาการ
Michael R. Chernick

โปรดทราบว่าทฤษฎีบท Rao-Blackwell ยังสามารถนำมาใช้ในการปรับปรุงตัวประมาณลำเอียงใด ๆ เพื่อสร้างตัวประมาณที่ปรับปรุงด้วยอคติเดียวกัน
kjetil b halvorsen

2

บางทีกระดาษโดยแบรดอีฟรอน“ ความเป็นไปได้สูงสุดและทฤษฎีการตัดสินใจ” อาจช่วยอธิบายเรื่องนี้ได้ แบรดกล่าวว่าปัญหาหลักอย่างหนึ่งของ UMVUE คือมันยากที่จะคำนวณโดยทั่วไปและในหลาย ๆ กรณีไม่มีอยู่จริง

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.