วิธีการแนวความคิดข้อผิดพลาดในรูปแบบการถดถอยหรือไม่?

ฉันกำลังเข้าร่วมชั้นเรียนวิเคราะห์ข้อมูลและแนวคิดที่หยั่งรากลึกของฉันบางอย่างกำลังสั่นไหว ความคิดที่ว่าข้อผิดพลาด (เอปไซลอน) รวมถึงความแปรปรวนประเภทอื่น ๆ นั้นมีผลเฉพาะกับ (ฉันคิดว่า) กับกลุ่ม (ตัวอย่างหรือประชากรทั้งหมด) ตอนนี้เรากำลังได้รับการสอนว่าหนึ่งในสมมติฐานการถดถอยคือความแปรปรวนคือ "เหมือนกันสำหรับทุกคน" นี่เป็นเรื่องที่ทำให้ฉันตกใจ ฉันคิดเสมอว่ามันเป็นความแปรปรวนใน Y ที่สอดคล้องกับค่าทั้งหมดของ X ที่คิดว่าคงที่

ฉันได้คุยกับศาสตราจารย์ผู้ซึ่งบอกฉันว่าเมื่อเราถดถอยเราคิดว่าแบบจำลองของเราเป็นจริง และฉันคิดว่านั่นเป็นส่วนที่ยุ่งยาก สำหรับฉันคำว่าข้อผิดพลาด (epsilon) หมายถึงบางสิ่งบางอย่างเช่น "องค์ประกอบใดก็ตามที่เราไม่ทราบและอาจส่งผลต่อตัวแปรผลลัพธ์ของเรารวมถึงข้อผิดพลาดในการวัด" ในวิธีการสอนในชั้นเรียนไม่มีสิ่งเช่น "สิ่งอื่น ๆ "; แบบจำลองของเราถือว่าเป็นจริงและสมบูรณ์ ซึ่งหมายความว่าการเปลี่ยนแปลงส่วนที่เหลือทั้งหมดจะต้องถูกคิดว่าเป็นผลมาจากความผิดพลาดในการวัด

ฉันรู้สึกว่ามีบางอย่างผิดปกติฉันอยากจะมีความเห็นจากผู้เชี่ยวชาญเกี่ยวกับเรื่องนี้ ... มีห้องสำหรับการตีความหรือไม่ว่าคำผิดพลาดคืออะไร

หากมีแง่มุมของบุคคลที่มีผลต่อค่า y ที่เกิดขึ้นก็จะมีวิธีที่จะได้รับที่ด้านเหล่านั้น (ในกรณีที่พวกเขาควรจะเป็นส่วนหนึ่งของการทำนาย x) หรือมีวิธีที่เคยได้รับที่ ข้อมูล.

หากไม่มีวิธีในการรับข้อมูลนี้และไม่มีวิธีการวัดค่า y ซ้ำ ๆ สำหรับแต่ละบุคคลมันก็ไม่สำคัญ หากคุณสามารถวัดค่า y ซ้ำ ๆ ได้และหากชุดข้อมูลของคุณมีการวัดซ้ำหลายครั้งสำหรับบางคนคุณอาจมีปัญหาที่อาจเกิดขึ้นในมือของคุณเนื่องจากทฤษฎีสถิติถือว่าความเป็นอิสระของข้อผิดพลาดในการวัด / ส่วนที่เหลือ

ตัวอย่างเช่นสมมติว่าคุณกำลังพยายามให้พอดีกับแบบจำลองของแบบฟอร์ม

$y=\beta_0+\beta_1 x$ ,

และสำหรับแต่ละบุคคล

$yind=100+10x+z$ ,

โดยที่ z ขึ้นอยู่กับแต่ละบุคคลและกระจายตามปกติด้วยค่าเฉลี่ย 0 และส่วนเบี่ยงเบนมาตรฐาน 10 สำหรับการวัดซ้ำของแต่ละบุคคล

$ymeas=100+10x+z+e$ ,

$e$

คุณสามารถลองทำแบบนี้เป็น

$y=\beta_0+\beta_1 x+\epsilon$

$\epsilon$

$\sigma=\sqrt{10^2+0.1^2}=\sqrt{100.01}$

ตราบใดที่คุณมีการวัดเพียงอย่างเดียวสำหรับแต่ละคน อย่างไรก็ตามหากคุณมีการวัดหลายรายการสำหรับบุคคลเดียวกันค่าคงค้างของคุณจะไม่เป็นอิสระอีกต่อไป!

$\beta_0=100$$\beta_1=10$$\chi^2$

ฉันคิดว่า "ข้อผิดพลาด" อธิบายได้ดีที่สุดว่า "ส่วนของการสังเกตที่ไม่สามารถคาดเดาได้เนื่องจากข้อมูลปัจจุบันของเรา" การพยายามคิดในแง่ของประชากรกับกลุ่มตัวอย่างนำไปสู่ปัญหาเชิงแนวคิด (มันทำเพื่อฉันแล้ว) เช่นเดียวกับที่คิดถึงข้อผิดพลาดในรูปแบบ "สุ่มล้วนๆ" ที่ดึงมาจากการแจกแจงบางอย่าง การคิดในแง่ของการทำนายและ "การคาดการณ์ได้" ทำให้ฉันมีเหตุผลมากขึ้น

$p(e_{1},\dots,e_{n})$$E(\frac{1}{n}\sum_{i=1}^{n}e_{i}^2)=\sigma^2$$\sigma^2$$\sigma$

$n$

นี่คือลิงค์ที่มีประโยชน์มากเพื่ออธิบายการถดถอยเชิงเส้นอย่างง่าย: http://www.dangoldstein.com/dsn/archives/2006/03/every_wonder_ho.htmlบางทีมันอาจช่วยเข้าใจแนวคิด "ข้อผิดพลาด"

FD

ฉันไม่เห็นด้วยกับสูตรของศาสตราจารย์ในเรื่องนี้ ดังที่คุณพูดความคิดที่ว่าความแปรปรวนนั้นเหมือนกันสำหรับแต่ละคนหมายความว่าคำผิดพลาดแสดงถึงข้อผิดพลาดในการวัดเท่านั้น นี่ไม่ใช่วิธีสร้างตัวแบบการถดถอยพหุคูณพื้นฐาน เช่นเดียวกับที่คุณพูดความแปรปรวนถูกกำหนดสำหรับกลุ่ม (ไม่ว่าจะเป็นกลุ่มของบุคคลหรือกลุ่มของการวัด) มันใช้ไม่ได้ในแต่ละระดับยกเว้นว่าคุณมีมาตรการซ้ำ ๆ

แบบจำลองจะต้องสมบูรณ์ในระยะที่ข้อผิดพลาดไม่ควรมีอิทธิพลจากตัวแปรใด ๆ ที่มีความสัมพันธ์กับการทำนาย สมมติฐานคือข้อผิดพลาดที่เป็นอิสระจากการทำนาย หากละเว้นตัวแปรที่เกี่ยวข้องบางตัวคุณจะได้ค่าสัมประสิทธิ์แบบเอนเอียง (ซึ่งเรียกว่าการละเว้นตัวแปรอคติ )