โมเดลการถดถอยเชิงเส้นที่เหมาะสมที่สุดสำหรับข้อมูลที่มีข้อผิดพลาด

ฉันกำลังมองหาอัลกอริทึมการถดถอยเชิงเส้นที่เหมาะสมที่สุดสำหรับข้อมูลที่ตัวแปรอิสระ (x) มีข้อผิดพลาดการวัดค่าคงที่และตัวแปรตาม (y) มีข้อผิดพลาดขึ้นอยู่กับสัญญาณ

ป้อนคำอธิบายรูปภาพที่นี่

ภาพด้านบนแสดงคำถามของฉัน

— user46178
แหล่งที่มา

หากตัวแปรค่าคงที่ x มีข้อผิดพลาดในการวัดค่าคงที่และข้อผิดพลาดจะใช้เพื่อให้น้ำหนักกับตัวแปรในลักษณะที่สัมพันธ์กันเท่านั้นสถานการณ์นี้ไม่เทียบเท่ากับไม่มีข้อผิดพลาดใน x ใช่หรือไม่

— pedrofigueira

@pedro นั่นไม่ใช่กรณีเนื่องจากข้อผิดพลาดในไม่เพียง แต่น้ำหนักในสูตร ด้วยการถดถอยข้อผิดพลาดในตัวแปรพอดีจะแตกต่างกันและการประมาณค่าความแปรปรวนร่วมของพารามิเตอร์จะแตกต่างจากการถดถอยปกติ

x

$x$

— whuber

ขอบคุณสำหรับการชี้แจง คุณช่วยขยายให้หน่อยได้ไหมว่าทำไมถึงเป็นเช่นนั้น

— pedrofigueira

ข้อผิดพลาดการวัดในตัวแปรตาม

ได้รับแบบจำลองเชิงเส้นทั่วไป กับ homosckedastic ไม่ใช่ autocorrelated และไม่เกี่ยวข้องกับตัวแปรอิสระปล่อยให้แสดงถึงตัวแปร "จริง" และมาตรการที่สังเกตได้ ข้อผิดพลาดการวัดถูกกำหนดเป็นความแตกต่างของพวกเขา ดังนั้นแบบจำลองที่ประเมินได้คือ: เนื่องจากคือ สังเกตได้เราสามารถประมาณแบบจำลองโดย OLS หากข้อผิดพลาดการวัดในเป็นอิสระจากแต่ละตัวแปรอธิบายแล้ว

\begin{matrix} (1) & y = β_{0} + β_{1} x_{1} + \dots + β_{k} x_{k} + ε \end{matrix}

$y=\beta_0+\beta_1 x_1+\cdots+\beta_kx_k+\varepsilon\tag{1}$

ε

$\varepsilon$

y^{*}

$y^*$

y

$y$

e = y - y^{*}

$e=y-y^*$

\begin{matrix} (2) & y = β_{0} + β_{1} x_{1} + \dots + β_{k} x_{k} + e + ε \end{matrix}

$y=\beta_0+\beta_1 x_1+\cdots+\beta_kx_k+e+\varepsilon\tag{2}$

y, x_{1}, \dots, x_{k}

$y,x_1,\dots,x_k$

y

$y$

(e + ε)

$(e+\varepsilon)$ แบ่งปันคุณสมบัติเดียวกันกับและขั้นตอนการอนุมาน OLS ตามปกติ ( สถิติฯลฯ ) ถูกต้อง อย่างไรก็ตามในกรณีของคุณผมจะคาดหวังที่เพิ่มขึ้นของความแปรปรวนอีคุณสามารถใช้:

ε

$\varepsilon$

t

$t$

e

$e$

เครื่องประมาณกำลังสองน้อยที่สุดถ่วงน้ำหนัก (เช่นKutner et al. , §11.1; Verbeek , §4.3.1-3)
ตัวประมาณ OLS ซึ่งยังคงเป็นกลางและสอดคล้องกันและข้อผิดพลาดมาตรฐานที่สอดคล้องกันแบบ heteroskedasticity หรือเพียงแค่ข้อผิดพลาดมาตรฐาน Wite ( Verbeek , §4.3.4)

ข้อผิดพลาดการวัดในตัวแปรอิสระ

เมื่อพิจารณาจากโมเดลเชิงเส้นเดียวกันกับข้างบนให้แทนค่า "จริง" และการวัดที่สังเกตได้ ข้อผิดพลาดการวัดอยู่ในขณะนี้: มีสองสถานการณ์หลัก ( Wooldridge , §4.4.2) $x_k^*$ $x_k$

e_{k} = x_{k} - x_{k}^{*}

$e_k=x_k-x_k^*$

$\text{Cov}(x_k,e_k)=0$ : ข้อผิดพลาดการวัดไม่เกี่ยวข้องกับการวัดที่สังเกตและจะต้องมีความสัมพันธ์กับตัวแปรที่ไม่ได้สังเกต ; เขียนและเสียบนี้ลงใน (1): ตั้งแต่และทั้งสอง uncorrelated กับแต่ละรวมทั้งวัดเพียง เพิ่มความแปรปรวนของข้อผิดพลาดและไม่ละเมิดสมมติฐาน OLS ใด ๆ $x^*_k$ $x_k^*=x_k-e_k$
$y = β_{0} + β_{1} x_{1} + \dots + β_{k} x_{k} + (ε - β_{k} e_{k})$ $y=\beta_0+\beta_1x_1+\cdots+\beta_kx_k+(\varepsilon-\beta_ke_k)$ $\varepsilon$ $e$ $x_j$ $x_k$
$\text{Cov}(x^*_k,\eta_k)=0$ : ข้อผิดพลาดในการวัดไม่เกี่ยวข้องกับตัวแปรที่ไม่ได้ตรวจสอบดังนั้นจึงต้องสัมพันธ์กับการวัดที่สังเกตเห็น ; ความสัมพันธ์เช่นนี้ทำให้เกิด prolems และการถดถอยของ OLS ของใน dotโดยทั่วไปให้ตัวประมาณค่าแบบเอนเอียงและไม่เอนเอียง $x_k$ $y$ $x_1,\dots,x_k$

เท่าที่ฉันสามารถเดาได้โดยดูที่พล็อตของคุณ (ข้อผิดพลาดที่มีศูนย์กลางอยู่ที่ค่า "จริง" ของตัวแปรอิสระ) สถานการณ์แรกอาจนำไปใช้

— เซร์คิโอ
แหล่งที่มา