คุณคำนวณข้อผิดพลาดมาตรฐานสำหรับการแปลง MLE ได้อย่างไร?

ฉันจำเป็นต้องอนุมานเกี่ยวกับพารามิเตอร์ที่เป็นบวก $p$ . เพื่อชดเชยความเป็นบวกที่ฉันได้ชดใช้ให้ $p=\exp(q)$ . การใช้รูทีน MLE ฉันคำนวณการประมาณค่าจุดแล้วค้นหา $q$ . คุณสมบัติความแปรปรวนของ MLE ให้ค่าประมาณโดยตรงสำหรับฉัน $p$ แต่ฉันไม่แน่ใจว่าจะคำนวณได้อย่างไร $p$ . ขอบคุณล่วงหน้าสำหรับคำแนะนำหรือการอ้างอิง

maximum-likelihood standard-error delta-method

— การดัดผม
แหล่งที่มา

คุณไม่สามารถใช้รูทีน MLE เดียวกันเพื่อคำนวณการประมาณค่าจุดและค้นหา

p

$p$ โดยตรง?

— whuber

คำตอบ:

วิธีเดลต้าถูกนำมาใช้เพื่อการนี้ ภายใต้สมมติฐานมาตรฐานสม่ำเสมอเรารู้ MLE $\hat{\theta}$ สำหรับ $\theta$ มีการกระจายประมาณ (เช่น asymptotically) เป็น

\hat{θ} \sim N (θ, I^{- 1} (θ))

$\hat{\theta} \sim N(\theta, \mathcal{I}^{-1}(\theta))$

ที่ไหน $\mathcal{I}^{-1}(\theta)$ เป็นค่าผกผันของข้อมูลฟิชเชอร์สำหรับตัวอย่างทั้งหมดซึ่งประเมินที่ $\theta$ และ $N(\mu,\sigma^{2})$ หมายถึงการแจกแจงปกติด้วยค่าเฉลี่ย $\mu$ และความแปรปรวน $\sigma^{2}$ . แปรเปลี่ยนการทำงานของเอมิลี่บอกว่า MLE ของ $g(\theta)$ ที่ไหน $g$ ฟังก์ชั่นบางอย่างที่รู้จักกันคือ $g(\hat{\theta})$ (ตามที่คุณชี้ให้เห็น) และมีการกระจายโดยประมาณ

ก. (\hat{θ}) ~ ยังไม่มีข้อความ (ก. (θ), {ผม}^{- 1} (θ) [{ก.}^{'} (θ)]^{2})

$g(\hat{\theta}) \sim N( g(\theta), \mathcal{I}^{-1}(\theta) [g'(\theta)]^{2} )$

โดยที่คุณสามารถเสียบตัวประมาณค่าที่สอดคล้องกันสำหรับปริมาณที่ไม่รู้จัก (เช่นปลั๊กอิน $\hat{\theta}$ ที่ไหน $\theta$ ปรากฏในความแปรปรวน) ฉันจะถือว่าข้อผิดพลาดมาตรฐานที่คุณมีตามข้อมูล Fisher (เนื่องจากคุณมี MLE) แสดงว่าข้อผิดพลาดมาตรฐานโดย $s$ . จากนั้นข้อผิดพลาดมาตรฐานของ $e^{\hat{\theta} }$ ในตัวอย่างของคุณคือ

\sqrt{s^{2} {อี}^{2 \hat{θ}}}

$\sqrt{s^{2}e^{2 \hat{\theta}}}$

ฉันอาจตีความคุณย้อนหลังและในความเป็นจริงคุณมีความแปรปรวนของ MLE ของ $\theta$ และต้องการความแปรปรวนของ MLE ของ $\log(\theta)$ ในกรณีที่มาตรฐานจะเป็น

\sqrt{s^{2} / {\hat{θ}}^{2}}

$\sqrt{ s^{2}/\hat{\theta}^{2} }$

— มาโคร
แหล่งที่มา

เพียงหมายเหตุด้านข้าง: ยังมีส่วนขยายหลายตัวแปรที่เหมาะสมโดยอนุพันธ์จะถูกแทนที่ด้วยการไล่ระดับสีและการคูณจะต้องเป็นการคูณเมทริกซ์ดังนั้นจึงมีอาการปวดหัวอีกเล็กน้อยในการหาตำแหน่งที่การเคลื่อนย้ายไป

— StasK

ขอบคุณสำหรับการชี้ให้เห็นว่า StasK ฉันเชื่อในกรณีหลายตัวแปรความแปรปรวนเชิงซีโมติกของ

g (\hat{θ})

$g(\hat{\theta})$ คือ

\nabla g (θ)^{'} I (θ)^{- 1} \nabla g (θ)

$\nabla g(\theta)' \mathcal{I}(\theta)^{-1} \nabla g(\theta)$

— มาโคร

(+1) ฉันเพิ่มลิงก์ไปยังสมมติฐานปกติ (และสิ่งอื่น ๆ ) เนื่องจากไม่ชัดเจนว่าสิ่งเหล่านี้พอใจในปัญหาของ OP หรือไม่ ฉันอาจจะบอกว่า

\hat{θ}

$\hat{\theta}$ เป็นอาการปกติและไม่ปกติประมาณเนื่องจากอัตราการลู่เข้าอาจช้าในบางครั้ง

— MånsT

ขอบคุณ @ MånsTฉันยังไม่ชี้แจงว่าฉันหมายถึง asymptotically เมื่อฉันกล่าวว่าประมาณ :)

— มาโคร

มาโครให้คำตอบที่ถูกต้องเกี่ยวกับวิธีการแปลงข้อผิดพลาดมาตรฐานผ่านวิธีเดลต้า แม้ว่า OP จะขอข้อผิดพลาดมาตรฐานโดยเฉพาะ แต่ฉันสงสัยว่าวัตถุประสงค์คือเพื่อสร้างช่วงความมั่นใจสำหรับ $p$ . นอกเหนือจากการคำนวณข้อผิดพลาดมาตรฐานของ $\hat{p}$ คุณสามารถเปลี่ยนช่วงความมั่นใจได้โดยตรง $[q_1, q_2]$ , ใน $q$ -parametrization เป็นช่วงความมั่นใจ $[\exp(q_1), \exp(q_2)]$ ใน $p$ -parametrization นี่เป็นสิ่งที่ถูกต้องสมบูรณ์และอาจเป็นความคิดที่ดีกว่าทั้งนี้ขึ้นอยู่กับว่าการประมาณปกติที่ใช้ในการปรับช่วงความเชื่อมั่นเป็นอย่างไรนั้นขึ้นอยู่กับข้อผิดพลาดมาตรฐานที่ทำงานใน $q$ - parametrization เทียบกับ $p$ -parametrization นอกจากนี้ช่วงความเชื่อมั่นที่เปลี่ยนรูปโดยตรงจะทำให้เกิดข้อ จำกัด ด้านบวก

— NRH
แหล่งที่มา