สัญชาตญาณตัวประเมินแซนวิช

วิกิพีเดียและ R แพคเกจแซนวิชบทความให้ข้อมูลที่ดีเกี่ยวกับสมมติฐานที่สนับสนุน OLS ค่าสัมประสิทธิ์ข้อผิดพลาดมาตรฐานและพื้นหลังทางคณิตศาสตร์ของประมาณแซนวิช ฉันยังไม่ชัดเจนว่าปัญหาของ heteroscedasticity ได้รับการแก้ไขอย่างไร แต่อาจเป็นเพราะฉันไม่เข้าใจการประมาณค่าสัมประสิทธิ์ความแปรปรวนของ OLS มาตรฐานในตอนแรก

สัญชาตญาณเบื้องหลังตัวประมาณแซนวิชคืออะไร

— Robert Kubrick
แหล่งที่มา

คุณต้องเรียนรู้เพิ่มเติมเกี่ยวกับการประมาณค่า (หรือการประมาณค่าสุดขีดเพราะบางครั้งเรียกว่าเป็นเศรษฐมิติ) ตัวประมาณแซนวิชสำหรับการถดถอยเป็นเพียงกรณีพิเศษของสูตรวิธีเดลต้าทั่วไปและถ้าคุณเข้าใจหลังคุณจะไม่มีปัญหาใด ๆ กับอดีต ไม่มีสัญชาตญาณในการที่ตัวประมาณแซนวิชไม่ได้พยายามทำตัวเป็นแบบเฮเทอโรเซดิคทิตี้หรือทำอะไรที่เฉพาะเจาะจงเกี่ยวกับมัน มันเป็นเพียงตัวประมาณค่าความแปรปรวนที่แตกต่างกันซึ่งทำงานภายใต้ชุดสมมติฐานทั่วไปมากกว่าตัวประมาณ OLS มาตรฐาน

M

$M$

— StasK

@ ขอขอบคุณ! คุณเคยรู้จักแหล่งข้อมูลที่ดีเกี่ยวกับสูตรการคำนวณ M และการคำนวณเดลต้าหรือไม่?

— Robert Kubrick

@ Rober Huber มีเอกสาร "Robust Statistics" ที่มีค่า

— Momo

สำหรับ OLS คุณสามารถจินตนาการว่าคุณกำลังใช้ความแปรปรวนโดยประมาณของคลาดเคลื่อน (ภายใต้สมมติฐานของความเป็นอิสระและ homoscedasticity) ตามที่ประมาณการความแปรปรวนของเงื่อนไขที่ s ในตัวประมาณที่อิงกับแซนวิชคุณกำลังใช้ส่วนที่เหลือกำลังสองที่สังเกตได้เป็นค่าประมาณของความแปรปรวนเดียวกันซึ่งสามารถเปลี่ยนแปลงได้ระหว่างการสังเกต $Y_i$

var (\hat{β}) = {(X^{T} X)}^{- 1} (X^{T} วินิจฉัย (var (Y | X)) X) {(X^{T} X)}^{- 1}

$\begin{equation} \mbox{var}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(X^T\mbox{diag}\left(\mbox{var}\left(Y|X\right)\right)X\right)\left(X^TX\right)^{-1} \end{equation}$

ในการประมาณค่าความคลาดเคลื่อนมาตรฐานกำลังสองน้อยสุดสามัญสำหรับการประมาณค่าสัมประสิทธิ์การถดถอยความแปรปรวนแบบมีเงื่อนไขของผลลัพธ์จะถือว่าเป็นค่าคงที่และเป็นอิสระเพื่อให้สามารถประมาณได้อย่างสม่ำเสมอ

{\hat{var}}_{O L S} (\hat{β}) = {(X^{T} X)}^{- 1} (R^{2} X^{T} X) {(X^{T} X)}^{- 1}

$\begin{equation} \widehat{\mbox{var}}_{OLS}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(r^2X^TX\right)\left(X^TX\right)^{-1} \end{equation}$

สำหรับแซนวิชเราจะหลีกเลี่ยงการประมาณค่าความแปรปรวนแบบมีเงื่อนไขและใช้การประมาณค่าความแปรปรวนของแต่ละองค์ประกอบแทนโดยใช้ปลั๊กอินที่เหลือ

{\hat{var}}_{R S E} (\hat{β}) = {(X^{T} X)}^{- 1} (X^{T} วินิจฉัย (R_{ผม}^{2}) X) {(X^{T} X)}^{- 1}

$\begin{equation} \widehat{\mbox{var}}_{RSE}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(X^T\mbox{diag}\left(r_i^2\right)X\right)\left(X^TX\right)^{-1} \end{equation}$

ด้วยการใช้การประมาณความแปรปรวนของปลั๊กอินเราจะได้รับการประมาณค่าความแปรปรวนของสอดคล้องกันโดยทฤษฎีบท Lyapunov Central Limit $\hat{\beta}$

สังหรณ์ใจสิ่งที่เหลือกำลังสองที่สังเกตได้เหล่านี้จะซับข้อผิดพลาดที่ไม่สามารถอธิบายได้ใด ๆ เนื่องจากความแตกต่างแบบ heteroscedasticity

— Adamo
แหล่งที่มา

เป็นย่อหน้าสุดท้ายของคุณที่ฉันมีเวลายากที่จะเข้าใจ คุณอธิบายได้ไหม

— Robert Kubrick

มันไม่ใช่ SE ในสูตรของคุณ AdamO มันคือ SE ^ 2 ... ไม่ว่าเมทริกซ์จะเป็นแบบไหนก็ตาม

— StasK

@StasK จุดที่ดี บางทีหมวกแปรปรวนดีกว่า ฉันสับสนคำศัพท์หลายตัวแปรและ univariate

— AdamO

var (Y | X)

$\mbox{var}(Y|X)$

i

$i$

แก้ไข: ฉันบอกว่าประมาณการ OLS var เกี่ยวข้องกับ "การประมาณค่าคงที่ที่สอดคล้องกัน" เมื่อฉันหมายถึง "การประมาณการที่สอดคล้องกันของความแปรปรวนของค่าคงที่"

— AdamO