การแปลงตัวแปรสำหรับการถดถอยหลายครั้งใน R

ฉันพยายามทำการถดถอยหลายRครั้ง อย่างไรก็ตามตัวแปรตามของฉันมีพล็อตต่อไปนี้:

นี่คือเมทริกซ์ scatterplot พร้อมตัวแปรทั้งหมดของฉัน ( WARเป็นตัวแปรตาม):

ฉันรู้ว่าฉันต้องทำการเปลี่ยนแปลงในตัวแปรนี้ (และอาจเป็นตัวแปรอิสระหรือไม่?) แต่ฉันไม่แน่ใจว่าจำเป็นต้องมีการแปลงที่แน่นอนหรือไม่ ใครบางคนชี้ให้ฉันในทิศทางที่ถูกต้อง? ฉันยินดีที่จะให้ข้อมูลเพิ่มเติมเกี่ยวกับความสัมพันธ์ระหว่างตัวแปรอิสระและตัวแปรตาม

กราฟิกการวินิจฉัยจากการถดถอยของฉันมีลักษณะดังนี้:

แก้ไข

หลังจากเปลี่ยนตัวแปรตามและอิสระโดยใช้การแปลง Yeo-Johnson แผนการวินิจฉัยมีลักษณะดังนี้:

ถ้าฉันใช้ GLM กับลิงค์ล็อกกราฟิกวินิจฉัยคือ:

จอห์นฟ็อกซ์หนังสืออาสหายกับการถดถอยประยุกต์เป็น Ressource Rที่ดีในการสร้างแบบจำลองการถดถอยการประยุกต์ใช้กับ แพคเกจcarที่ฉันใช้ตลอดในคำตอบนี้คือแพ็คเกจที่แนบมาด้วย หนังสือเล่มนี้ยังมีเว็บไซต์ที่มีบทเพิ่มเติม

การแปลงการตอบสนอง (หรือที่รู้จักว่าตัวแปรขึ้นอยู่กับผลลัพธ์)

RlmboxCoxcar$\lambda$family="yjPower"

boxCox(my.regression.model, family="yjPower", plotit = TRUE)

สิ่งนี้สร้างพล็อตเหมือนกับที่ต่อไปนี้:

$\lambda$$\lambda$

ในการแปลงตัวแปรตามของคุณทันทีให้ใช้ฟังก์ชันyjPowerจากcarแพ็คเกจ:

depvar.transformed <- yjPower(my.dependent.variable, lambda)

lambda$\lambda$boxCox

สำคัญ:แทนที่จะเปลี่ยนตัวแปรที่ต้องอาศัยการบันทึกคุณควรพิจารณาให้พอดีกับ GLM กับลิงค์ล็อก นี่คือการอ้างอิงบางอย่างที่ให้ข้อมูลเพิ่มเติมคือ: ครั้งแรก , สอง , สาม ในการทำสิ่งนี้Rให้ใช้glm:

glm.mod <- glm(y~x1+x2, family=gaussian(link="log"))

ที่yเป็นตัวแปรขึ้นอยู่กับคุณและx1, x2ฯลฯ เป็นตัวแปรอิสระของคุณ

การแปลงตัวทำนาย

การเปลี่ยนแปลงของตัวทำนายเชิงบวกที่เข้มงวดสามารถประเมินได้โดยความเป็นไปได้สูงสุดหลังจากการเปลี่ยนแปลงของตัวแปรตาม ในการทำเช่นนั้นให้ใช้ฟังก์ชั่นboxTidwellจากcarแพ็คเกจ (สำหรับกระดาษต้นฉบับดูที่นี่ ) ใช้มันเหมือนที่: boxTidwell(y~x1+x2, other.x=~x3+x4). สิ่งสำคัญที่นี่คือตัวเลือกที่other.xระบุเงื่อนไขของการถดถอยที่จะไม่ถูกแปลง นี่จะเป็นตัวแปรเด็ดขาดทั้งหมดของคุณ ฟังก์ชันสร้างผลลัพธ์ของฟอร์มต่อไปนี้:

boxTidwell(prestige ~ income + education, other.x=~ type + poly(women, 2), data=Prestige)

          Score Statistic   p-value MLE of lambda
income          -4.482406 0.0000074    -0.3476283
education        0.216991 0.8282154     1.2538274

income$\lambda$income$\text{income}_{new}=1/\sqrt{\text{income}_{old}}$

อีกประการหนึ่งที่น่าสนใจมากโพสต์ในเว็บไซต์เกี่ยวกับการเปลี่ยนแปลงของตัวแปรอิสระที่เป็นคนนี้

ข้อเสียของการเปลี่ยนแปลง

$1/\sqrt{y}$$\lambda$$\lambda$

การสร้างแบบจำลองความสัมพันธ์ที่ไม่เชิงเส้น

ทั้งสองวิธีมีความยืดหยุ่นมากทีเดียวที่จะความสัมพันธ์ที่ไม่เป็นเชิงเส้นพอดีมีหลายชื่อเศษส่วนและเส้นโค้ง เหล่านี้สามเอกสารมีการแนะนำที่ดีมากที่จะทั้งสองวิธี: ครั้งแรก , ครั้งที่สองและสาม นอกจากนี้ยังมีทั้งหนังสือRเกี่ยวกับพหุนามและเศษส่วน R แพคเกจmfpการดำเนินการหลายตัวแปรพหุนามเศษส่วน งานนำเสนอนี้อาจมีข้อมูลเกี่ยวกับพหุนามเศษส่วน เพื่อให้พอดีกับเส้นโค้งคุณสามารถใช้ฟังก์ชั่นgam(รุ่นเสริมทั่วไปดูที่นี่สำหรับการแนะนำที่ยอดเยี่ยมด้วยR) จากแพ็คเกจmgcvหรือฟังก์ชั่นns(เส้นโค้งธรรมชาติลูกบาศก์) และbs(ลูกบาศก์ B- เส้นโค้ง) จากแพ็คเกจsplines(ดูที่นี่สำหรับตัวอย่างของการใช้ฟังก์ชันเหล่านี้) การใช้gamคุณสามารถระบุตัวทำนายที่คุณต้องการให้พอดีกับการใช้เส้นโค้งโดยใช้s()ฟังก์ชั่น:

my.gam <- gam(y~s(x1) + x2, family=gaussian())

ที่นี่x1จะได้รับการติดตั้งโดยใช้เส้นโค้งและx2เป็นเส้นตรงในการถดถอยเชิงเส้นปกติ ภายในgamคุณสามารถระบุตระกูลการแจกจ่ายและฟังก์ชันลิงก์glmได้ ดังนั้นเพื่อให้พอดีกับรุ่นที่มีฟังก์ชั่นการเข้าสู่ระบบการเชื่อมโยงคุณสามารถระบุตัวเลือกfamily=gaussian(link="log")ในเช่นเดียวกับในgamglm

ดูที่โพสต์นี้จากเว็บไซต์

คุณควรบอกเราเพิ่มเติมเกี่ยวกับลักษณะของการตอบสนองของคุณ (ผลลัพธ์ขึ้นอยู่กับ) ตัวแปร จากพล็อตแรกของคุณมันเบ้บวกอย่างมากกับค่าหลายค่าใกล้ศูนย์และลบบางอย่าง จากที่เป็นไปได้ แต่ไม่หลีกเลี่ยงไม่ได้การเปลี่ยนแปลงนั้นจะช่วยคุณได้ แต่คำถามที่สำคัญที่สุดคือการเปลี่ยนแปลงจะทำให้ข้อมูลของคุณเข้าใกล้ความสัมพันธ์เชิงเส้นมากขึ้นหรือไม่

โปรดทราบว่าค่าลบสำหรับกฎการตอบสนองจะมีการแปลงลอการิทึมแบบตรง แต่ไม่ใช่ล็อก (การตอบกลับ + ค่าคงที่) และไม่ใช่โมเดลเชิงเส้นทั่วไปที่มีลิงก์ลอการิทึม

มีคำตอบมากมายในเว็บไซต์นี้ที่พูดถึงบันทึก (การตอบสนอง + ค่าคงที่) ซึ่งแบ่งคนทางสถิติออกมา: บางคนไม่ชอบมันว่าเป็นเฉพาะกิจและทำงานได้ยากในขณะที่คนอื่นมองว่ามันเป็นอุปกรณ์ที่ถูกกฎหมาย

GLM พร้อมลิงค์บันทึกยังคงเป็นไปได้

หรืออาจเป็นไปได้ว่าแบบจำลองของคุณสะท้อนให้เห็นถึงกระบวนการผสมบางประเภทซึ่งในกรณีนี้รูปแบบที่กำหนดเองซึ่งสะท้อนกระบวนการสร้างข้อมูลอย่างใกล้ชิดจะเป็นแนวคิดที่ดี

(ต่อ)

OP มี WAR ที่ผันแปรได้ซึ่งมีค่าตั้งแต่ประมาณ 100 ถึง -2 เพื่อแก้ไขปัญหาเกี่ยวกับการหาค่าลอการิทึมของค่าศูนย์หรือค่าลบ OP เสนอค่าความผิดพลาดของค่าศูนย์และค่าลบเป็น 0.000001 ขณะนี้อยู่ในระดับลอการิทึม (ฐาน 10) ค่าเหล่านั้นมีตั้งแต่ประมาณ 2 (100 หรือดังนั้น) จนถึง -6 (0.000001) ส่วนน้อยของคะแนน fudged ในระดับลอการิทึมตอนนี้เป็นส่วนน้อยของค่าผิดปกติขนาดใหญ่ ลงจุด log_10 (fudged WAR) กับสิ่งอื่นเพื่อดูสิ่งนี้