วิธีการปรับโมเดลข้อผิดพลาดในการวัด“ แบบง่าย”

ฉันกำลังมองหาวิธีการที่สามารถใช้ในการประมาณรูปแบบข้อผิดพลาดในการวัด "OLS"

y_{i} = Y_{i} + e_{y, i}

$y_{i}=Y_{i}+e_{y,i}$

x_{i} = X_{i} + e_{x, i}

$x_{i}=X_{i}+e_{x,i}$

Y_{i} = α + β X_{i}

$Y_{i}=\alpha + \beta X_{i}$

ในกรณีที่ข้อผิดพลาดที่มีความเป็นอิสระปกติที่ไม่รู้จักแปรปรวนและ{2} OLS "มาตรฐาน" จะไม่ทำงานในกรณีนี้ $\sigma_{y}^{2}$ $\sigma_{x}^{2}$

วิกิพีเดียมีวิธีแก้ปัญหาที่ไม่น่าสนใจ - ทั้งสองบังคับให้คุณคิดว่า "อัตราส่วนแปรปรวน"หรือ " อัตราส่วนความน่าเชื่อถือ "เป็นที่รู้จักที่คือความแปรปรวนของ regressor จริงx_iฉันไม่พอใจกับสิ่งนี้เพราะคนที่ไม่รู้ความแปรปรวนจะรู้อัตราส่วนได้อย่างไร $\delta=\frac{\sigma_{y}^{2}}{\sigma_{x}^{2}}$ $\lambda=\frac{\sigma_{X}^{2}}{\sigma_{x}^{2}+\sigma_{X}^{2}}$ $\sigma_{X}^2$ $X_i$

ยังมีโซลูชันอื่นนอกเหนือจากสองสิ่งนี้ซึ่งไม่ต้องการให้ฉัน "รู้" เกี่ยวกับพารามิเตอร์หรือไม่

วิธีแก้ปัญหาสำหรับการสกัดกั้นและความลาดชันนั้นใช้ได้

regression estimation errors-in-variables

— probabilityislogic
แหล่งที่มา

บทความ Wikipedia นั้นให้คำตอบสำหรับคำถามนี้กับคุณ หากคุณยอมรับความเป็นปกติของผู้ลงทะเบียน "ของจริง" คุณต้องมีเงื่อนไขเพิ่มเติมเกี่ยวกับการแจกแจงข้อผิดพลาด หาก regressor ที่แท้จริงไม่ใช่ Gaussian แสดงว่าคุณมีความหวัง ดูReiersol (1950)

— พระคาร์ดินัล

นอกจากนี้สิ่งที่คุณหมายถึงโดย "โซลูชั่นสำหรับเพียงแค่การสกัดกั้นและความลาดชันได้ดี" นี่เป็นเพียงพารามิเตอร์สองตัวของคุณ! หรือคุณหวังที่จะลองถอยหลังตัวจริง "จริง" เช่นกัน?

— พระคาร์ดินัล

@cardinal - ฉันหมายความว่าฉันไม่ได้โดยเฉพาะอย่างยิ่งเกี่ยวกับการดูแลสองพารามิเตอร์ขนาดและที่คุณพูดว่า "true" regressor{i}

X_{i}

$X_{i}$

— ความน่าจะเป็นทาง

ฉันเห็น. นั่นทำให้รู้สึก

— พระคาร์ดินัล

มีช่วงของความเป็นไปได้ที่อธิบายโดย JW Gillard ในภาพรวมเชิงประวัติศาสตร์ของการถดถอยเชิงเส้นพร้อมข้อผิดพลาดในตัวแปรทั้งสอง

หากคุณไม่สนใจรายละเอียดหรือเหตุผลในการเลือกวิธีอื่นมากกว่าเพียงแค่วิธีที่ง่ายที่สุดซึ่งก็คือการลากเส้นผ่านเซนทรอยด์ด้วยความชันคืออัตราส่วนของการเบี่ยงเบนมาตรฐานที่สังเกต (ทำให้เครื่องหมายของความชันเท่ากับสัญลักษณ์ของความแปรปรวนร่วมของและ ) ในขณะที่คุณสามารถออกกำลังกายได้สิ่งนี้จะเป็นการสกัดกั้น -axis ของ $(\bar{x},\bar{y})$ $\hat{\beta}=s_y/s_x$ $x$ $y$ $y$ $\hat{\alpha}=\bar{y}-\hat{\beta}\bar{x}.$

ข้อดีของวิธีนี้คือ

มันจะช่วยให้สายเดียวกันเปรียบเทียบกับเป็นกับ , $x$ $y$ $y$ $x$
มันเป็นค่าคงที่ดังนั้นคุณไม่ต้องกังวลกับยูนิต
มันอยู่ระหว่างเส้นถดถอยเชิงเส้นธรรมดาสองเส้น
มันข้ามพวกเขาโดยที่พวกเขาข้ามกันที่เซนทรอยด์ของการสำรวจและ
มันง่ายในการคำนวณ

ความชันเป็นค่าเฉลี่ยทางเรขาคณิตของความชันของทั้งสองเส้นถดถอยเชิงเส้นสามัญ นอกจากนี้ยังเป็นสิ่งที่คุณจะได้รับหากคุณกำหนดมาตรฐานการสังเกตและให้ลากเส้นที่ 45 ° (หรือ 135 °หากมีความสัมพันธ์เชิงลบ) แล้วยกเลิกการกำหนดมาตรฐาน มันอาจถูกมองว่าเทียบเท่ากับการตั้งสมมติฐานโดยนัยที่ความแปรปรวนของข้อผิดพลาดสองชุดนั้นแปรผันตามความแปรปรวนของการสังเกตสองชุด เท่าที่ฉันสามารถบอกได้คุณอ้างว่าไม่รู้ว่าวิธีนี้ผิด $x$ $y$

นี่คือตัวอย่างรหัส R เพื่อแสดง: เส้นสีแดงในแผนภูมิคือ OLS regression ของบน , เส้นสีฟ้าคือ OLS regression ของบนและเส้นสีเขียวเป็นวิธีง่าย ๆ โปรดทราบว่าความลาดชันควรประมาณ 5 $Y$ $X$ $X$ $Y$

X0 <- 1600:3600
Y0 <- 5*X0 + 700
X1 <- X0 + 400*rnorm(2001)
Y1 <- Y0 + 2000*rnorm(2001)
slopeOLSXY  <- lm(Y1 ~ X1)$coefficients[2]     #OLS slope of Y on X
slopeOLSYX  <- 1/lm(X1 ~ Y1)$coefficients[2]   #Inverse of OLS slope of X on Y
slopesimple <- sd(Y1)/sd(X1) *sign(cov(X1,Y1)) #Simple slope
c(slopeOLSXY, slopeOLSYX, slopesimple)         #Show the three slopes
plot(Y1~X1)
abline(mean(Y1) - slopeOLSXY  * mean(X1), slopeOLSXY,  col="red")
abline(mean(Y1) - slopeOLSYX  * mean(X1), slopeOLSYX,  col="blue")
abline(mean(Y1) - slopesimple * mean(X1), slopesimple, col="green")

— เฮนรี่
แหล่งที่มา

@Henry ความหมายของคุณที่มีต่อนั้นไม่สมเหตุสมผลเลยสำหรับฉัน "หมวก" หายไปไหม?

\hat{β}

$\hat{\beta}$

— พระคาร์ดินัล

มันเป็นค่าเฉลี่ยจะเป็นที่สังเกตส่วนเบี่ยงเบนมาตรฐานของหารด้วยส่วนเบี่ยงเบนมาตรฐานสังเกตของ\} ฉันจะเปลี่ยนเป็น

{y_{i}}

$\{y_i\}$

{x_{i}}

$\{x_i\}$

σ

$\sigma$

s

$s$

— Henry

@ เฮนรี่คุณช่วยอธิบายความคิดเห็นของคุณได้ไหม? มีบางอย่างที่ทำให้ฉันรู้สึกไม่ดีโดยอิงจากคำอธิบายปัจจุบันของคุณ ปล่อยเป็นความชันโดยที่คือการตอบสนองและคือตัวทำนาย ให้เป็นความชันโดยสมมติว่าเป็นการตอบสนองและเป็นตัวทำนาย จากนั้นและโดยที่เป็นตัวอย่างความสัมพันธ์ระหว่างและy ที่ดังนั้นค่าเฉลี่ยเรขาคณิตของทั้งสองประมาณการความลาดชันเป็นเพียงโร}

{\hat{β}}_{x y}

$\hat{\beta}_{xy}$

y

$y$

x

$x$

{\hat{β}}_{y x}

$\hat{\beta}_{yx}$

x

$x$

y

$y$

{\hat{β}}_{x y} = \hat{ρ} s_{y} / s_{x}

$\hat{\beta}_{xy} = \hat{\rho}s_y / s_x$

{\hat{β}}_{y x} = \hat{ρ} s_{x} / s_{y}

$\hat{\beta}_{yx} = \hat{\rho} s_x / s_y$

\hat{ρ}

$\hat{\rho}$

x

$x$

y

$y$

\hat{ρ}

$\hat{\rho}$

— พระคาร์ดินัล

@cardinal: ไม่มี - เมื่อฉันเห็นที่ผมหมายถึงความลาดชันเป็นเนื่องจากสามารถเขียนใหม่เป็น b เมื่อคุณพยายามวาดเส้น OLS สองเส้นบนกราฟเดียวกันพร้อมกับจุดที่สังเกต (เช่นบนแกนตั้งและบนแกนนอน) คุณต้องสลับหนึ่งในลาด ดังนั้นผมจึงหมายความว่าคุณจะใช้ค่าเฉลี่ยเรขาคณิตของและซึ่งเป็นเพียงs_yหรือถ้าคุณไม่ธรรมดาพอที่จะพล็อตและอีกด้านหนึ่งสำหรับทั้งเส้นและจุดที่สังเกตได้คุณจะได้ค่าอินเวอร์สของความชันนั้น

x = b y + c

$x = by+c$

1 / b

$1/b$

y = x / b - c / b

$y=x/b-c/b$

y

$y$

x

$x$

\hat{ρ} s_{y} / s_{x}

$\hat{\rho}s_y/s_x$

s_{y} / \hat{ρ} s_{x}

$s_y/\hat{\rho}s_x$

s_{y} / s_{x}

$s_y/s_x$

y

$y$

x

$x$

— เฮนรี่

@ Henry - นั่นเป็นคำตอบที่น่าสนใจทีเดียว ฉันไม่จำเป็นต้องสงสัยความถูกต้องของมัน แต่สิ่งหนึ่งที่ทำให้ฉันประหลาดใจก็คือความสัมพันธ์ / ความแปรปรวนร่วมระหว่างและไม่ได้อยู่ในคำตอบ แน่นอนว่าสิ่งนี้ควรเกี่ยวข้องกับคำตอบ?

Y

$Y$

X

$X$

— ความน่าจะเป็นเชิง