การตัดสินใจระหว่างตัวแบบการถดถอยเชิงเส้นหรือตัวแบบการถดถอยเชิงเส้น

เราควรเลือกระหว่างการใช้โมเดลการถดถอยเชิงเส้นหรือแบบจำลองการถดถอยเชิงเส้นอย่างไร

เป้าหมายของฉันคือการทำนาย Y

ในกรณีของชุดข้อมูลและy ที่เรียบง่ายฉันสามารถตัดสินใจได้อย่างง่ายดายว่ารูปแบบการถดถอยควรใช้โดยการพล็อตพล็อตกระจาย$x$$y$

ในกรณีที่มีหลายตัวแปรเช่นและY ฉันจะตัดสินใจได้อย่างไรว่าจะใช้รูปแบบการถดถอยแบบใด นั่นคือฉันจะตัดสินใจเกี่ยวกับการใช้โมเดลเชิงเส้นอย่างง่ายหรือแบบจำลองเชิงเส้นแบบไม่ได้เช่น quadric, cubic เป็นต้น$x_1,x_2,...x_n$$y$

มีเทคนิคหรือวิธีการทางสถิติหรือแปลงกราฟิกเพื่ออนุมานและตัดสินใจว่าจะใช้รูปแบบการถดถอยหรือไม่?

นี่คือขอบเขตของสถิติที่เรียกว่าการเลือกแบบจำลอง มีการวิจัยมากมายในพื้นที่นี้และไม่มีคำตอบที่ชัดเจนและง่าย

$X_1, X_2$$X_3$$X_3^2$$X_1, X_2$$X_3$$X_1, X_2, X_3$$X_3^2$(โมเดลที่ซับซ้อน) ในการสร้างแบบจำลองคุณมี (อย่างน้อย) หนึ่งในเป้าหมายหลักสองข้อต่อไปนี้:

1. $X_1$$Y$$X_2,...X_p$
2. $Y$$Y$

หากเป้าหมายของคุณคือหมายเลข 1 ดังนั้นฉันขอแนะนำให้ทดสอบอัตราส่วนความน่าจะเป็น (LRT) LRT จะใช้เมื่อคุณมีแบบจำลองหลายระดับและคุณต้องการที่จะรู้ว่า "ข้อมูลเหล่านี้มีแนวโน้มที่จะมาจากแบบจำลองที่ซับซ้อนมากกว่าแบบจำลองแบบคู่ขนานหรือไม่?" วิธีนี้จะช่วยให้คุณเข้าใจว่าแบบจำลองใดอธิบายความสัมพันธ์ระหว่างข้อมูลของคุณได้ดีขึ้น

$k$

เมื่อฉัน google สำหรับ "แบบจำลองเชิงเส้นหรือแบบเชิงเส้นสำหรับการถดถอย" ฉันได้รับลิงก์บางอย่างซึ่งนำไปสู่หนังสือเล่มนี้: http://www.graphpad.com/manuals/prism4/RegressionBook.pdf หนังสือเล่มนี้ไม่น่าสนใจและฉันไม่ ไม่น่าเชื่อถือ 100% (ด้วยเหตุผลบางอย่าง)

ฉันพบบทความนี้ด้วย: http://hunch.net/?p=524หัวข้อ: เกือบทุกปัญหาธรรมชาติต้องใช้แบบไม่เชิงเส้น

ฉันยังพบคำถามที่คล้ายกันพร้อมคำอธิบายที่ดีงาม: /programming/1148513/difference-between-a-linear-problem-and-a-non-linear-problem-essence-of-dot-pro

จากประสบการณ์ของฉันเมื่อคุณไม่รู้ว่ารุ่นใดใช้ให้ใช้ทั้งสองและลองใช้คุณสมบัติอื่น

เมื่อคุณระบุตัวแบบเชิงเส้นโดยทั่วไปจะง่ายกว่าตัวแบบที่ไม่ใช่เชิงเส้นซึ่งหมายความว่ามันทำงานได้เร็วขึ้น (การสร้างและการทำนาย) ง่ายต่อการตีความและอธิบายและมักจะตรงไปข้างหน้าในการวัดความผิดพลาด ดังนั้นเป้าหมายคือการค้นหาว่าข้อสันนิษฐานของการถดถอยแบบเส้นตรงถือกับข้อมูลของคุณหรือไม่ (ถ้าคุณไม่สนับสนุนเส้นตรงจากนั้นลองใช้แบบไม่เชิงเส้น) โดยปกติแล้วคุณจะทำซ้ำพล็อตตัวแปรเดียวของคุณพร้อมกับตัวแปรทั้งหมดทีละตัวโดยคงค่าตัวแปรอื่น ๆ ทั้งหมดให้คงที่

อย่างไรก็ตามที่สำคัญกว่านั้นคือคุณต้องการทราบว่าคุณสามารถใช้การแปลงแบบโต้ตอบหรือตัวแปรดัมมี่เพื่อย้ายข้อมูลของคุณไปยังพื้นที่เชิงเส้นได้ไหม หากคุณสามารถตรวจสอบสมมติฐานหรือถ้าคุณรู้ว่าข้อมูลของคุณดีพอที่จะนำการเปลี่ยนแปลงหรือดัดแปลงที่ได้แรงบันดาลใจมาหรือแจ้งให้ทราบอย่างชาญฉลาดคุณต้องการดำเนินการแปลงนั้นและใช้การถดถอยเชิงเส้น เมื่อคุณมีส่วนที่เหลือคุณสามารถพล็อตค่ากับค่าที่คาดการณ์ไว้หรือตัวแปรอิสระเพื่อตัดสินใจเพิ่มเติมว่าคุณต้องการไปยังวิธีที่ไม่ใช่เชิงเส้นหรือไม่

มีรายละเอียดที่ดีเยี่ยมของสมมติฐานของการถดถอยเชิงเส้นเป็นที่นี่ที่ดยุค สมมติฐานหลักสี่ข้อถูกระบุไว้และแต่ละอันถูกแบ่งย่อยลงในเอฟเฟ็กต์ของโมเดลวิธีการวินิจฉัยในข้อมูลและวิธีที่เป็นไปได้ในการ "แก้ไข" (เช่นแปลงหรือเพิ่ม) ข้อมูลเพื่อให้มีการสันนิษฐาน นี่คือข้อความที่ตัดตอนมาเล็กน้อยจากด้านบนสรุปข้อสมมติฐานสี่ข้อที่กล่าวถึง แต่คุณควรไปที่นั่นและอ่านรายละเอียด

มีสมมติฐานหลักสี่ข้อที่ปรับการใช้โมเดลการถดถอยเชิงเส้นเพื่อวัตถุประสงค์ในการอนุมานหรือการทำนาย:

(i) ลิเนียริตี้และความไวของความสัมพันธ์ระหว่างตัวแปรตามและตัวแปรอิสระ:

(a) ค่าที่คาดหวังของตัวแปรตามเป็นฟังก์ชันเส้นตรงของตัวแปรอิสระแต่ละตัวซึ่งถือค่าคงที่อื่น ๆ

(b) ความชันของบรรทัดนั้นไม่ได้ขึ้นอยู่กับค่าของตัวแปรอื่น ๆ

(c) ผลกระทบของตัวแปรอิสระต่าง ๆ ที่มีต่อค่าที่คาดหวังของตัวแปรที่ต้องพึ่งพานั้นคือสารเติมแต่ง

(ii) ความเป็นอิสระทางสถิติของข้อผิดพลาด (โดยเฉพาะไม่มีความสัมพันธ์ระหว่าง> ข้อผิดพลาดติดต่อกันในกรณีของข้อมูลอนุกรมเวลา)

(iii) homoscedasticity (ความแปรปรวนคงที่) ของข้อผิดพลาด

(a) กับเวลา (ในกรณีของข้อมูลอนุกรมเวลา)

(b) กับการคาดการณ์

(c) กับตัวแปรอิสระใด ๆ

(iv) ความปกติของการกระจายข้อผิดพลาด