การแจกแจงของข้อผิดพลาดมีผลต่อการกระจายของการตอบสนองอย่างไร

ดังนั้นเมื่อฉันคิดว่าปกติแล้วข้อผิดพลาดจะถูกกระจายในการถดถอยเชิงเส้นมันหมายความว่าอะไรสำหรับตัวแปรตอบสนอง ?$y$

บางทีฉันอาจจะปิด แต่ฉันคิดว่าเราควรจะสงสัยเกี่ยวกับซึ่งเป็นวิธีที่ฉันอ่าน OP ในกรณีที่ง่ายที่สุดของการถดถอยเชิงเส้นหากแบบจำลองของคุณคือดังนั้นองค์ประกอบสุ่มเพียงอย่างเดียวในแบบจำลองของคุณคือคำผิดพลาด เป็นเช่นนั้นกำหนดกระจายตัวอย่างของปีหากแล้ว2I) สิ่งที่ @Aniko พูดจริง ๆ แล้วก็คือ (เล็กน้อยเกินX, \ beta ) อย่างไรก็ตาม ดังนั้นเนื่องจากคำถามนี้คลุมเครือเล็กน้อยy = X β + ϵ y ϵ ∼ N ( 0 , σ 2 I ) y | X , β ∼ N ( X β , σ 2 I ) f ( y ) X , $f(y|\beta, X)$$y=X\beta + \epsilon$$y$$\epsilon\sim N(0, \sigma^2I)$$y|X, \beta\sim N(X\beta, \sigma^2I)$$f(y)$$X, \beta$

คำตอบสั้น ๆ คือคุณไม่สามารถสรุปอะไรก็ได้เกี่ยวกับการกระจายตัวของเพราะมันขึ้นอยู่กับการกระจายตัวของและความแข็งแรงและรูปร่างของความสัมพันธ์ อย่างเป็นทางการแล้วจะมีการแจกแจง "ส่วนผสมของบรรทัดฐาน" ซึ่งในทางปฏิบัติอาจเป็นอะไรก็ได้x $y$$x$$y$

ต่อไปนี้เป็นสองตัวอย่างสุดขีดที่จะอธิบายสิ่งนี้:

1. สมมติว่ามีเพียงสองเป็นไปได้ค่า, 0 ที่ 1 และ(0,1) จากนั้นจะมีการแจกแจงแบบ bimodal อย่างมากโดยมีการกระแทกที่ 0 และ 10y = 10 x + N ( 0 , 1 ) $x$$y = 10x + N(0,1)$$y$
2. ทีนี้สมมติว่ามีความสัมพันธ์แบบเดียวกัน แต่ให้กระจายอย่างสม่ำเสมอในช่วง 0-1 ด้วยค่าจำนวนมาก จากนั้นจะกระจายอย่างสม่ำเสมอเกือบตลอดช่วงเวลา 0-10 (โดยมีก้อยครึ่งปกติที่ขอบ)$x$$y$

ในความเป็นจริงตั้งแต่การจัดจำหน่ายทุกคนสามารถทำได้ใกล้เคียงโดยพลการได้ดีกับส่วนผสมของภาวะปกติจริงๆคุณสามารถได้รับการกระจายใด ๆ สำหรับปี$y$

เราคิดค้นคำผิดพลาดโดยกำหนดรูปแบบที่สมมติขึ้นบนข้อมูลจริง การกระจายของข้อผิดพลาดไม่มีผลต่อการกระจายของการตอบสนอง

เรามักจะสันนิษฐานว่าข้อผิดพลาดนั้นได้รับการกระจายตามปกติและดังนั้นจึงพยายามที่จะสร้างแบบจำลองดังกล่าวซึ่งโดยทั่วไปแล้วเราจะแจกแจงค่าส่วนที่เหลือ นี้อาจเป็นเรื่องยากสำหรับการกระจายของบางปีในกรณีเหล่านี้ฉันคิดว่าคุณสามารถพูดได้ว่าการกระจายคำตอบมีผลต่อคำผิดพลาด$y$

ถ้าคุณเขียนออกมาตอบสนองเป็น ที่ไหนเมตรเป็น "รูปแบบ" (การคาดการณ์สำหรับปี ) และEคือ "ข้อผิดพลาด" แล้วนี้สามารถจัดอีกครั้งเพื่อระบุปี - ม. =อี ดังนั้นการกำหนดการแจกแจงสำหรับข้อผิดพลาดจึงเป็นสิ่งเดียวกับการระบุวิธีที่โมเดลของคุณไม่สมบูรณ์ อีกวิธีคือการบ่งบอกถึงขอบเขตที่คุณไม่รู้ว่าทำไมการตอบสนองที่สังเกตได้คือคุณค่าที่มันเป็นจริงไม่ใช่แบบจำลองที่ทำนายไว้ หากคุณรู้ว่าแบบจำลองของคุณสมบูรณ์แบบคุณจะต้องแจกแจงความน่าจะเป็นกับข้อผิดพลาดทั้งหมด การกำหนดN

$$\bf{y}=m+e$$ $\bf{m}$$\bf{y}$$\bf{e}$$\bf{y}-m=e$โดยทั่วไปกล่าวว่าข้อผิดพลาดที่มีขนาดเล็กในหน่วยของσ ความคิดคือการคาดการณ์รูปแบบมีแนวโน้มที่จะ "ผิด" โดยจำนวนเงินที่คล้ายกันสำหรับข้อสังเกตที่แตกต่างกันและเป็น "เกี่ยวกับสิทธิ" ในระดับของσ ในทางตรงกันข้ามการมอบหมายทางเลือกคือ C a u c h y ( 0 , γ )ซึ่งบอกว่าข้อผิดพลาดส่วนใหญ่มีขนาดเล็ก แต่ข้อผิดพลาดบางอย่างค่อนข้างใหญ่ - โมเดลมีรูปแบบ "blunder" หรือ "shocker" เป็นครั้งคราว การทำนายการตอบสนอง$N(0,\sigma^{2})$$\sigma$$\sigma$$Cauchy(0,\gamma)$

ในแง่หนึ่งการกระจายข้อผิดพลาดนั้นเชื่อมโยงกับตัวแบบมากกว่าการตอบสนอง สิ่งนี้สามารถเห็นได้จากการไม่สามารถระบุตัวตนของสมการข้างต้นได้หากไม่ทราบทั้งและeจากนั้นเพิ่มเวกเตอร์ใดก็ได้ลงในmและลบออกจากeนำไปสู่ค่าเดียวกันของy , y = m + e = ( m + b ) + ( e - b ) = m ′ + e $\bf{m}$$\bf{e}$$\bf{m}$$\bf{e}$$\bf{y}$$\bf{y}=m+e=(m+b)+(e-b)=m'+e'$. การมอบหมายการแจกแจงความผิดพลาดและสมการของโมเดลนั้นโดยทั่วไปบอกว่าเวกเตอร์ใดที่มีความน่าเชื่อถือมากกว่าคนอื่น