glm หรือ glmnet ใดที่มีความแม่นยำมากกว่า


10

R glm และ glmnet ใช้อัลกอริธึมที่แตกต่างกัน

ฉันสังเกตเห็นความแตกต่างเล็ก ๆ น้อย ๆ ระหว่างค่าสัมประสิทธิ์โดยประมาณเมื่อฉันใช้ทั้งคู่

ฉันสนใจเมื่อคนหนึ่งมีความแม่นยำมากกว่าคนอื่นและเวลาที่จะแก้ไข / แลกเปลี่ยนความแม่นยำ

โดยเฉพาะฉันหมายถึงกรณีที่หนึ่งชุดแลมบ์ดา = 0 ใน glmnet st มันประมาณเช่นเดียวกับ glm


1
คุณกำลังถามเกี่ยวกับประสิทธิภาพและความแตกต่างของความแม่นยำเมื่อแลมบ์ดา = 0 ซึ่งทั้งสองทฤษฎีควรเหมือนกัน ฉันคิดว่าคุณควรจะเพิ่มเข้าไปในคำถามของคุณ
smci

คำตอบ:


14

Glmnet มีไว้สำหรับการถดถอยสุทธิแบบยืดหยุ่น นี่เป็นการลงโทษขนาดของค่าสัมประสิทธิ์โดยประมาณ (ผ่านการผสมของการลงโทษ L1 และ L2) มันพยายามอธิบายความแปรปรวนของข้อมูลผ่านโมเดลให้มากที่สุดเท่าที่จะเป็นไปได้ในขณะที่ค่าสัมประสิทธิ์ของโมเดลมีขนาดเล็ก ฉันพบว่าสไลด์เหล่านี้มีประโยชน์ที่จะเข้าใจ

Glm ไม่ได้ใช้โทษ

ผลที่ตามมาฉันเข้าใจแล้วว่าด้วยความยืดหยุ่นสุทธิคุณอาจยอมรับอคติบางอย่างเพื่อเป็นการลดความแปรปรวนของตัวประมาณ ดังนั้นสิ่งที่ดีที่สุดจะต้องขึ้นอยู่กับวิธีที่คุณกำหนด 'ดีที่สุด' ในแง่ของอคติและความแปรปรวน (เช่นฉันรู้ว่า glmnet มีข้อดีเมื่อคุณมีคุณสมบัติมากมายเมื่อเทียบกับการสังเกต)


ดูเหมือนว่าลิงก์จะเสียหาย
ndoogan

ลิงก์ใช้งานได้ในตอนนี้
smci

คุณเพียงแค่อธิบายว่า glmnet ทำอะไร - แต่ OP อ้างถึงสถานการณ์เมื่อคุณตั้งค่า lambda = 0 ใน glmnet ซึ่งในกรณีนี้ผลลัพธ์ในหลักการควรกลับมาเหมือนกันเป็น (ไม่เปิด) glm (บันทึกสำหรับตัวเลขเล็ก ๆ น้อย ๆ ความแตกต่างที่เชื่อมโยงกับวิธีการปรับโคตรแบบวงกลมที่ใช้ใน glmnet)
Tom Wenseleers
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.