ทำไม“ บ่วงบาศแบบผ่อนคลาย” จึงแตกต่างจากบ่วงมาตรฐาน?

หากเราเริ่มต้นด้วยชุดข้อมูลให้ใช้ Lasso กับมันและหาทางออกเราสามารถใช้ Lasso อีกครั้งกับชุดข้อมูลโดยที่คือชุดที่ไม่ใช่ ดัชนีเป็นศูนย์ของเพื่อรับโซลูชันซึ่งเรียกว่าโซลูชัน 'relax LASSO' (แก้ไขให้ฉันถ้าฉันผิด!) วิธีการแก้ปัญหาต้องเป็นไปตามเงื่อนไขKarush – Kuhn – Tucker (KKT)สำหรับแต่เนื่องจากรูปแบบของเงื่อนไข KKT สำหรับก็ไม่เป็นไปตามนี้หรือไม่ ถ้าเป็นเช่นนั้นการทำ LASSO ครั้งที่สองคืออะไร?$(X,Y)$$\beta^L$$(X_S, Y)$$S$$\beta^L$$\beta^{RL}$$\beta^L$$(X,Y)$$(X_S, Y)$

คำถามนี้เป็นคำถามที่ตามมา: ข้อดีของการทำ "double lasso" หรือการแสดง lasso สองครั้ง?

จากคำจำกัดความที่ 1 ของMeinshausen (2007)มีสองพารามิเตอร์ที่ควบคุมการแก้ปัญหาของ Lasso ที่ผ่อนคลาย

คนแรกควบคุมการเลือกตัวแปรส่วนที่สองควบคุมระดับการหดตัว เมื่อทั้ง Lasso และ relax-Lasso เหมือนกัน (ตามที่คุณพูด!) แต่สำหรับคุณได้วิธีแก้ปัญหาที่มีค่าสัมประสิทธิ์ที่ใกล้เคียงกับสิ่งที่จะให้มุมฉากของตัวแปรที่เลือก (แบบนุ่ม -biasing)$\lambda$$\phi$$\phi= 1$$\phi<1$

สูตรนี้จริง ๆ แล้วสอดคล้องกับการแก้ไขปัญหาที่สอง:

1. ก่อนอื่น Lasso แบบเต็มพร้อมพารามิเตอร์การปรับ$\lambda$
2. สองเชือกบนซึ่งเป็นลดลงถึงตัวแปรที่เลือกโดยที่ 1 ที่มีการปรับไหมพารามิเตอร์\$X_S$$X$$\lambda\phi$