เหตุใดการถดถอยเชิงเส้นจึงไม่สามารถคาดการณ์ผลลัพธ์ของลำดับที่กำหนดอย่างง่ายได้

เพื่อนร่วมงานของฉันส่งปัญหานี้ให้ฉันอย่างเห็นได้ชัดว่าทำให้รอบบนอินเทอร์เน็ต:

If $3 = 18, 4 = 32, 5 = 50, 6 = 72, 7 = 98$, Then, $10 =$ ?

คำตอบน่าจะเป็น 200

3*6  
4*8  
5*10  
6*12  
7*14  
8*16  
9*18  
10*20=200  

เมื่อฉันทำการถดถอยเชิงเส้นใน R:

data     <- data.frame(a=c(3,4,5,6,7), b=c(18,32,50,72,98))  
lm1      <- lm(b~a, data=data)  
new.data <- data.frame(a=c(10,20,30))  
predict  <- predict(lm1, newdata=new.data, interval='prediction')  

ฉันเข้าใจ:

  fit      lwr      upr  
1 154 127.5518 180.4482  
2 354 287.0626 420.9374  
3 554 444.2602 663.7398  

ดังนั้นรูปแบบเชิงเส้นของฉันคือการทำนาย154$10 = 154$

เมื่อฉันพล็อตข้อมูลมันดูเหมือนเป็นเส้นตรง ... แต่เห็นได้ชัดว่าฉันสันนิษฐานว่ามีบางอย่างที่ไม่ถูกต้อง

ฉันพยายามเรียนรู้วิธีการใช้ตัวแบบเชิงเส้นในอาร์วิธีที่เหมาะสมในการวิเคราะห์ชุดนี้คืออะไร? ฉันไปผิดที่ไหน

รูปแบบการถดถอยเช่นหนึ่งพอดีโดยlm()ปริยายสันนิษฐานว่ากระบวนการผลิตข้อมูลอ้างอิงคือความน่าจะเป็น คุณกำลังสมมติว่ากฎที่คุณพยายามทำตัวแบบเป็นสิ่งที่กำหนดขึ้นมา ดังนั้นจึงมีความไม่ตรงกันระหว่างสิ่งที่คุณพยายามทำกับวิธีที่คุณพยายามจะทำ

มีซอฟต์แวร์อื่น ๆ (เช่นไม่ใช่ R) ที่ออกแบบมาอย่างชัดเจนเพื่อค้นหา / ปรับฟังก์ชั่นที่ง่ายที่สุดในการกำหนดข้อมูล (ตัวอย่างเช่นEureqa ) อาจมีแพ็คเกจ R สำหรับสิ่งนั้น (ที่ฉันไม่รู้) แต่ R มีไว้สำหรับการสร้างแบบจำลองทางสถิติของข้อมูลความน่าจะเป็น

สำหรับคำตอบที่lm()ให้คุณดูสมเหตุสมผลและอาจถูกต้อง อย่างไรก็ตามฉันรวบรวมบริบทที่นำเสนอปัญหานี้อย่างมากโดยนัยว่ามันควรจะเข้าใจว่าเป็นการกำหนดขึ้น หากยังไม่เป็นเช่นนั้นและคุณสงสัยว่าเหมาะสมหรือไม่สิ่งหนึ่งที่คุณอาจสังเกตเห็นก็คือจุดข้อมูลที่รุนแรงสองจุดนั้นอยู่เหนือเส้นการถดถอยขณะที่ข้อมูลกลางอยู่ด้านล่าง สิ่งนี้ชี้ให้เห็นรูปแบบการทำงานที่ผิดพลาด สิ่งนี้สามารถเห็นได้ในส่วนที่เหลือเทียบกับพล็อตที่ติดตั้ง ( plot(lm1, which=1):

สำหรับโมเดลที่เหมาะสมโดย @AlexWilliams มันดูดีกว่ามาก:

แนวโน้มเป็นกำลังสองไม่เชิงเส้น ลอง:

lm1 <- lm(b~I(a^2), data=data)

ปรับปรุง:นี่คือรหัส

data <- data.frame(a=c(3,4,5,6,7),b=c(18,32,50,72,98))
lm1 <- lm(b~I(a^2), data=data)
new.data <- data.frame(a=c(10,20,30))
predict(lm1, newdata = new.data, interval='prediction')

และเอาท์พุท:

   fit  lwr  upr
1  200  200  200
2  800  800  800
3 1800 1800 1800

ฉันลังเลที่จะเพิ่มคำตอบที่ยอดเยี่ยมของ Alex Williams และ gung แต่มีจุดต่อไปที่ฉันควรคิด คำถามใช้วลี 'การถดถอยเชิงเส้น' และ 'ตัวแบบเชิงเส้น' ซึ่งอาจบอกว่าพวกเขามีความหมายเหมือนกัน อย่างไรก็ตามความหมายปกติของ 'การถดถอยเชิงเส้น' หมายถึงตัวแบบการถดถอยเชิงเส้นแบบคลาสสิก (CLRM) ซึ่ง 'เชิงเส้น' หมายถึง 'เชิงเส้นในพารามิเตอร์' นี่คือเงื่อนไขของพารามิเตอร์ไม่ใช่ตัวแปรอิสระ ดังนั้นแบบจำลองกำลังสองเช่น:

ยังคงเป็นเส้นตรงในความหมายของ CLRM เพราะมันเป็นเส้นตรงในพารามิเตอร์ $\beta_1$ และ $\beta_2$. ในทางตรงกันข้ามรูปแบบ:

เป็นเส้นตรงในพารามิเตอร์และเป็นเส้นตรง $X_i$. แทนที่จะเรียกมันว่าเป็นโมเดลเชิงเส้นข้อความที่แม่นยำยิ่งกว่าก็คือมันเป็นเส้นตรงในพารามิเตอร์และมีรูปแบบการทำงานเชิงเส้น ดังนั้นจึงอาจกล่าวได้ว่าชุดข้อมูลสามารถวิเคราะห์ได้โดยแบบจำลองที่เป็นเส้นตรงในพารามิเตอร์หากมีรูปแบบสมการกำลังสอง (ดังแสดงโดย Alex Williams) แต่ไม่ใช่โดยแบบจำลองที่มีรูปแบบการทำงานเชิงเส้น