เหตุใดการถดถอยเชิงเส้นจึงมีข้อสันนิษฐานเกี่ยวกับส่วนที่เหลือ แต่แบบจำลองเชิงเส้นทั่วไปมีสมมติฐานในการตอบสนอง

ทำไมการถดถอยเชิงเส้นและโมเดลทั่วไปจึงมีสมมติฐานที่ไม่สอดคล้องกัน?

• ในการถดถอยเชิงเส้นเราถือว่าส่วนที่เหลือมาจาก Gaussian
• ในการถดถอยอื่น ๆ (การถดถอยโลจิสติกส์การถดถอยพิษ) เราคิดว่าการตอบสนองนั้นมาจากการแจกแจงบางส่วน (ทวินามการเป็นพิษ ฯลฯ )

เหตุใดบางครั้งจึงถือว่าเวลาที่เหลืออยู่และเวลาอื่น ๆ เป็นเพราะเราต้องการได้มาซึ่งคุณสมบัติที่แตกต่างกันหรือไม่?

แก้ไข: ฉันคิดว่าเครื่องหมาย 999 แสดงสองรูปแบบที่เท่ากัน อย่างไรก็ตามฉันมีข้อสงสัยเพิ่มเติมอีกหนึ่งข้อเกี่ยวกับ iid:

คำถามอื่น ๆ ของฉัน มีข้อสมมติฐานในเรื่องการถดถอยโลจิสติกหรือไม่? แสดงโมเดลเชิงเส้นทั่วไปไม่มีสมมติฐาน iid (อิสระ แต่ไม่เหมือนกัน)

นั่นคือความจริงที่ว่าสำหรับการถดถอยเชิงเส้นหากเราตั้งสมมติฐานว่ามีส่วนที่เหลือเราจะมี iid แต่ถ้าเราตั้งสมมติฐานในการตอบสนองเราจะมีตัวอย่างที่เป็นอิสระ แต่ไม่เหมือนกัน (Gaussian แตกต่างกัน )$\mu$

การถดถอยเชิงเส้นอย่างง่ายที่มีข้อผิดพลาดแบบเกาส์เป็นคุณลักษณะที่ดีมากซึ่งไม่ได้ทำให้แบบจำลองเชิงเส้นทั่วไป

ในรุ่นทั่วไปเชิงเส้นการตอบสนองดังต่อไปนี้บางส่วนกระจายให้ได้รับค่าเฉลี่ย การถดถอยเชิงเส้นเป็นไปตามรูปแบบนี้ ถ้าเรามี

$y_i = \beta_0 + \beta_1 x_i + \epsilon_i$

ด้วย$\epsilon_i \sim N(0, \sigma)$

แล้วเรายังมี

$y_i \sim N(\beta_0 + \beta_1 x_i, \sigma)$

โอเคดังนั้นการตอบสนองจะตามการแจกแจงที่ได้รับสำหรับตัวแบบเชิงเส้นทั่วไป แต่สำหรับการถดถอยเชิงเส้นเราก็มีว่าส่วนที่เหลือเป็นไปตามการกระจายแบบเกาส์เซียน เหตุใดจึงเน้นว่าส่วนที่เหลือเป็นเรื่องปกติเมื่อไม่ใช่กฎทั่วไป เพราะมันเป็นกฎที่มีประโยชน์มากกว่า สิ่งที่ดีเกี่ยวกับการคิดเกี่ยวกับภาวะปกติของสิ่งตกค้างคือสิ่งนี้ง่ายต่อการตรวจสอบมาก หากเราลบค่าเฉลี่ยที่ประมาณออกค่าคงที่ทั้งหมดควรมีค่าความแปรปรวนเท่ากันและค่าเฉลี่ยเดียวกัน (0) และจะกระจายประมาณคร่าวๆ (หมายเหตุ: ฉันพูดว่า "ประมาณ" เพราะถ้าเราไม่มีค่าประมาณที่สมบูรณ์แบบของ พารามิเตอร์การถดถอยซึ่งแน่นอนว่าเราทำไม่ได้ความแปรปรวนของการประมาณของ$\epsilon_i$จะมีความแปรปรวนที่แตกต่างกันตามช่วงของxแต่หวังว่าจะมีความแม่นยำเพียงพอในการประมาณการว่านี่เป็นสิ่งที่ละเลยไม่ได้!)$x$

บนมืออื่น ๆ ที่กำลังมองหาที่เท็มเพลต 's เราไม่สามารถจริงๆบอกได้ว่าพวกเขาเป็นเรื่องปกติถ้าพวกเขาทุกคนมีวิธีการที่แตกต่างกัน ตัวอย่างเช่นพิจารณาโมเดลต่อไปนี้:$y_i$

$y_i = 0 + 2 \times x_i + \epsilon_i$

ด้วยและx i ∼ Bernoulli ( p = 0.5 $\epsilon_i \sim N(0, 0.2)$$x_i \sim \text{Bernoulli}(p = 0.5)$

จากนั้นจะ bimodal สูง แต่ไม่ได้ละเมิดข้อสมมติฐานของการถดถอยเชิงเส้น! ในทางตรงกันข้ามส่วนที่เหลือจะเป็นไปตามการกระจายปกติประมาณ$y_i$

นี่คือRรหัสที่จะอธิบาย

x <- rbinom(1000, size = 1, prob = 0.5)
y <- 2 * x + rnorm(1000, sd = 0.2)
fit <- lm(y ~ x)
resids <- residuals(fit)
par(mfrow = c(1,2))
hist(y, main = 'Distribution of Responses')
hist(resids, main = 'Distribution of Residuals')

$i = 1, \ldots, n$

$X_{i1}, \ldots, X_{ik}$$\beta_0 + \beta_1 X_{i1} + \ldots + \beta_k X_{ik}$

โมเดลการถดถอยเชิงเส้นหลายแบบปกติที่มีข้อผิดพลาดปกติคือโมเดลเชิงเส้นแบบทั่วไปพร้อมการตอบสนองปกติและลิงก์ประจำตัว