เมื่อใดที่จะเปลี่ยนตัวแปรตัวทำนายเมื่อทำการถดถอยหลายครั้ง?

ขณะนี้ฉันกำลังเรียนการถดถอยเชิงเส้นเป็นครั้งแรกในระดับบัณฑิตศึกษาและกำลังดิ้นรนกับการเปลี่ยนแปลงตัวแปรตัวทำนายในการถดถอยเชิงเส้นหลายครั้ง ข้อความที่ฉันใช้ Kutner et al "โมเดลเชิงสถิติเชิงเส้นประยุกต์" ดูเหมือนจะไม่ครอบคลุมคำถามที่ฉันมี (นอกเหนือจากการแนะนำว่ามีวิธี Box-Cox สำหรับเปลี่ยนการทำนายหลายตัว)

เมื่อต้องเผชิญกับตัวแปรตอบสนองและตัวแปรทำนายหลายตัวเงื่อนไขใดบ้างที่มุ่งมั่นที่จะพบกับตัวแปรตัวทำนายแต่ละตัว ฉันเข้าใจว่าท้ายที่สุดเรากำลังมองหาความแปรปรวนของความคลาดเคลื่อนและการแจกแจงข้อผิดพลาดตามปกติ (อย่างน้อยที่สุดในเทคนิคที่ฉันได้รับการสอนมา) ฉันเคยมีแบบฝึกหัดมากมายกลับมาซึ่งวิธีแก้ปัญหาเป็นตัวอย่างy ~ x1 + (1/x2) + log(x3)ที่ ตัวทำนายหนึ่งตัวหรือมากกว่าถูกเปลี่ยน

ฉันเข้าใจเหตุผลภายใต้การถดถอยเชิงเส้นอย่างง่ายเนื่องจากมันง่ายที่จะดู y ~ x1 และการวินิจฉัยที่เกี่ยวข้อง (พล็อตของคิวคิวของส่วนที่เหลือ, ส่วนที่เหลือเทียบกับ y, ส่วนที่เหลือเทียบกับ x, ฯลฯ ) และทดสอบเพื่อดูว่า y ~ log ( x1) เหมาะสมกับสมมติฐานของเราดีกว่า

มีสถานที่ที่ดีที่จะเริ่มทำความเข้าใจเมื่อมีการเปลี่ยนแปลงตัวทำนายในที่ที่มีผู้ทำนายหลายคนหรือไม่?

ขอบคุณล่วงหน้า. ด้าน

ฉันจะเอาคำถามของคุณจะเป็น: ทำอย่างไรให้คุณตรวจสอบเมื่อเงื่อนไขที่ทำให้การเปลี่ยนแปลงที่มีอยู่เหมาะสมมากกว่าสิ่งที่เงื่อนไขตรรกะเป็น มันเป็นการดีที่จะสำรองข้อมูลการวิเคราะห์ข้อมูลด้วยการสำรวจโดยเฉพาะการสำรวจข้อมูลกราฟิก (สามารถทำการทดสอบต่าง ๆ ได้ แต่ฉันจะมุ่งเน้นไปที่ EDA แบบกราฟิกที่นี่)

พล็อตความหนาแน่นเคอร์เนลดีกว่าฮิสโตแกรมสำหรับภาพรวมเริ่มต้นของการแจกแจงตัวแปรแบบไม่แปรของแต่ละตัวแปร ด้วยตัวแปรหลายตัวเมทริกซ์การกระจายสามารถเป็นประโยชน์ได้ Lowess ยังแนะนำให้เลือกในตอนเริ่มต้นเสมอ นี่จะทำให้คุณดูรวดเร็วและสกปรกว่าความสัมพันธ์นั้นเป็นเส้นตรงหรือไม่ แพ็คเกจรถของ John Fox มีประโยชน์รวม:

library(car)
scatterplot.matrix(data)

ต้องแน่ใจว่ามีตัวแปรของคุณเป็นคอลัมน์ หากคุณมีตัวแปรมากมายการแปลงแต่ละแบบอาจมีขนาดเล็ก ขยายหน้าต่างการพล็อตให้ใหญ่สุดและแผนการกระจายควรมีขนาดใหญ่พอที่จะเลือกแปลงที่คุณต้องการตรวจสอบเป็นรายบุคคลจากนั้นทำการแปลงเดี่ยว เช่น,

windows()
plot(density(X[,3]))
rug(x[,3])
windows()
plot(x[,3], y)
lines(lowess(y~X[,3]))

หลังจากติดตั้งโมเดลการถดถอยหลายแบบคุณควรจะวางแผนและตรวจสอบข้อมูลเช่นเดียวกับการถดถอยเชิงเส้นอย่างง่าย แปลง QQ สำหรับส่วนที่เหลือเป็นเพียงเท่าที่จำเป็นและคุณสามารถทำเมทริกซ์ scatterplot ของส่วนที่เหลือของคุณกับตัวทำนายของคุณโดยทำตามขั้นตอนที่คล้ายกันก่อนหน้านี้

windows()
qq.plot(model$residuals)
windows()
scatterplot.matrix(cbind(model$residuals,X))

หากมีสิ่งที่น่าสงสัยให้พล็อตมันทีละรายการและเพิ่มabline(h=0)เป็นคำแนะนำแบบเห็นภาพ หากคุณมีปฏิสัมพันธ์คุณสามารถสร้างตัวแปร X [, 1] * X [, 2] และตรวจสอบส่วนที่เหลือกับสิ่งนั้น ในทำนองเดียวกันคุณสามารถสร้างส่วนแบ่งของเศษซากเทียบกับ X [, 3] ^ 2 ฯลฯ แปลงชนิดอื่น ๆ กว่าส่วนที่เหลือเทียบกับ x ที่คุณชอบสามารถทำได้ในทำนองเดียวกัน โปรดจำไว้ว่าสิ่งเหล่านี้ล้วน แต่ละเลยมิติ x อื่น ๆ ที่ไม่ได้ถูกพล็อต หากข้อมูลของคุณถูกจัดกลุ่ม (เช่นจากการทดสอบ) คุณสามารถแปลงบางส่วนแทน / นอกเหนือจากแปลงส่วนเพิ่ม

หวังว่าจะช่วย