ฉันจะทราบวิธีการประมาณค่าพารามิเตอร์ที่จะเลือกได้อย่างไร

มีวิธีการค่อนข้างน้อยสำหรับการประมาณค่าพารามิเตอร์ที่นั่น MLE, UMVUE, MoM, การตัดสินใจเชิงทฤษฎีและอื่น ๆ ทั้งหมดดูเหมือนว่าพวกเขามีเหตุผลเชิงเหตุผลว่าทำไมพวกเขาถึงมีประโยชน์สำหรับการประมาณค่าพารามิเตอร์ มีวิธีใดวิธีหนึ่งที่ดีกว่าวิธีอื่นหรือเป็นเพียงแค่วิธีที่เรากำหนดว่าตัวประเมินที่ "เหมาะสมที่สุด" (คล้ายกับวิธีการลดข้อผิดพลาด orthogonal ให้เกิดการประมาณที่แตกต่างจากวิธีกำลังสองน้อยที่สุด)?

มีความสับสนเล็กน้อยในสองสิ่งที่นี่: วิธีการหาตัวประมาณและเกณฑ์สำหรับการประเมินตัวประมาณ โอกาสสูงสุด (ML) และวิธีหาช่วงเวลา (MoM) เป็นวิธีการประมาณค่า ความแปรปรวนขั้นต่ำที่ไม่เหมือนกันอย่างสม่ำเสมอ (UMVU) และทฤษฎีการตัดสินใจเป็นเกณฑ์สำหรับการประเมินตัวประมาณที่แตกต่างกันเมื่อคุณมี แต่พวกเขาจะไม่บอกคุณว่าจะได้มาอย่างไร

ในวิธีการรับตัวประมาณค่า ML มักจะสร้างตัวประมาณค่าที่มีประสิทธิภาพมากกว่า (เช่นความแปรปรวนต่ำกว่า) จาก MoM หากคุณรู้รูปแบบที่ข้อมูลของคุณได้รับมา ('กระบวนการสร้างข้อมูล' (DGP) ในศัพท์แสง) แต่ MoM ทำให้สมมติฐานน้อยลงเกี่ยวกับโมเดล ตามชื่อของมันมันใช้เวลาอย่างน้อยหนึ่งช่วงเวลาโดยปกติจะเป็นแค่ค่าเฉลี่ยหรือเพียงแค่ค่าเฉลี่ยและความแปรปรวนดังนั้นบางครั้งก็มีประสิทธิภาพมากกว่าหากคุณไม่แน่ใจเกี่ยวกับ DGP อาจมีตัวประมาณค่า MoM มากกว่าหนึ่งตัวสำหรับปัญหาเดียวกันในขณะที่ถ้าคุณรู้จัก DGP จะมีตัวประมาณ ML เพียงตัวเดียว

ของวิธีการประเมินตัวประเมินนั้นทฤษฎีการตัดสินใจขึ้นอยู่กับการมีฟังก์ชั่นการสูญเสียเพื่อใช้ในการตัดสินตัวประมาณของคุณถึงแม้ว่าผลลัพธ์นั้นจะค่อนข้างแข็งแกร่งในช่วงของฟังก์ชั่นการสูญเสียที่ 'สมเหตุสมผล' ตัวประมาณ UMVU มักไม่มีอยู่จริง ในหลายกรณีมีคือไม่มีประมาณการที่เป็นกลางที่มักจะมีความแปรปรวนต่ำสุด และเกณฑ์ของความเอนเอียงก็มีประโยชน์เช่นกันเพราะมันไม่แปรเปลี่ยนไป ตัวอย่างเช่นคุณต้องการตัวประมาณอัตราต่อรองที่เป็นกลางหรือของอัตราต่อรองล็อกหรือไม่ ทั้งสองจะแตกต่างกัน

ฉันขอแนะนำว่าประเภทของตัวประมาณขึ้นอยู่กับบางสิ่ง:

1. อะไรคือผลที่ตามมาของการประเมินผิด? (เช่นจะแย่น้อยกว่าหรือถ้าตัวประมาณค่าของคุณสูงเกินไปเมื่อเทียบกับระดับที่ต่ำเกินไปหรือคุณไม่สนใจทิศทางของข้อผิดพลาดหรือไม่ถ้าข้อผิดพลาดใหญ่เป็นสองเท่าค่านี้จะแย่เป็นสองเท่าหรือไม่ นั่นเป็นสิ่งสำคัญหรือไม่การประเมินเฉพาะขั้นตอนกลางที่จำเป็นสำหรับการทำนายหรือไม่พฤติกรรมตัวอย่างขนาดใหญ่มีความสำคัญมากกว่าหรือน้อยกว่าพฤติกรรมตัวอย่างขนาดเล็ก?)
2. ข้อมูลก่อนหน้าของคุณเกี่ยวกับปริมาณที่คุณประเมินคืออะไร (เช่นข้อมูลเกี่ยวข้องกับปริมาณของคุณเป็นอย่างไรคุณรู้หรือไม่ว่าปริมาณนั้นเป็นบวกหรือไม่? คุณประเมินปริมาณนี้มาก่อนหรือไม่คุณมีข้อมูลมากน้อยเพียงใดมีโครงสร้าง "ค่าคงที่กลุ่ม" ในข้อมูลของคุณหรือไม่)
3. คุณมีซอฟต์แวร์อะไร (เช่นไม่มีการแนะนำ MCMC ที่ดีหากคุณไม่มีซอฟต์แวร์ที่จะทำหรือใช้ GLMM หากคุณไม่รู้วิธีการใช้)

จุดสองจุดแรกเป็นบริบทเฉพาะและโดยการพิจารณาเกี่ยวกับแอปพลิเคชันเฉพาะของคุณคุณจะสามารถกำหนดคุณสมบัติบางอย่างที่คุณต้องการให้ตัวประมาณของคุณมี จากนั้นคุณเลือกตัวประมาณที่คุณสามารถคำนวณได้จริงซึ่งมีคุณสมบัติมากมายที่คุณต้องการให้มี

ฉันคิดว่าการขาดบริบทที่หลักสูตรการสอนมีการประมาณค่าซึ่งหมายความว่าบ่อยครั้งที่ใช้เกณฑ์ "เริ่มต้น" ซึ่งคล้ายกับข้อมูลก่อนหน้านี้ ต้องบอกว่าวิธีการเริ่มต้นบางอย่างดีโดยเฉพาะอย่างยิ่งถ้าคุณไม่ทราบเกี่ยวกับบริบทเพียงพอ แต่ถ้าคุณทำรู้บริบทและคุณมีเครื่องมือที่จะรวมบริบทที่แล้วคุณควรสำหรับมิฉะนั้นคุณอาจได้รับผลเคาน์เตอร์ (เพราะสิ่งที่คุณไม่สนใจ)

ฉันไม่ใช่แฟนตัวยงของ MVUE เป็นกฎทั่วไปเพราะคุณมักจะต้องเสียสละความแปรปรวนมากเกินไปที่จะได้รับความเป็นกลาง ตัวอย่างเช่นลองจินตนาการว่าคุณกำลังปาเป้าปาลูกดอกที่กระดานปาเป้าและคุณต้องการตีลูกบูลส์ - ตา สมมติว่าค่าเบี่ยงเบนสูงสุดจากบูลส์ - อายคือ 6 ซม. สำหรับกลยุทธ์การขว้างปาโดยเฉพาะ แต่จุดศูนย์กลางของจุดโผคือ 1 ซม. เหนือเป้า นี่ไม่ใช่ MVUE เพราะจุดศูนย์กลางควรอยู่บนเป้า แต่สมมติว่าหากต้องการลดการกระจายลง 1 ซม. (โดยเฉลี่ย) คุณต้องเพิ่มรัศมีเป็นอย่างน้อย 10 ซม. (ดังนั้นข้อผิดพลาดสูงสุดคือ 10 ซม. ไม่ใช่ 6 ซม.) นี่คือสิ่งที่สามารถเกิดขึ้นได้กับ MVUE เว้นแต่ความแปรปรวนจะน้อยมาก. สมมติว่าฉันมีความแม่นยำมากกว่าเดิมและสามารถทำให้ความคลาดเคลื่อนของฉันลดลงเหลือ 0.1 ซม. ตอนนี้ความลำเอียงสำคัญจริงๆเพราะฉันจะไม่ชนเป้า!

ในระยะสั้นสำหรับฉันอคตินั้นสำคัญเมื่อมันเล็กเมื่อเทียบกับความแปรปรวน และโดยปกติคุณจะได้รับผลต่างเล็กน้อยเมื่อคุณมีตัวอย่างจำนวนมาก