อะไรคือช่วงปกติของค่าที่เป็นไปได้สำหรับพารามิเตอร์การหดตัวในการถดถอยเชิงลงโทษ


16

ในเชือกหรือสันเขาถดถอยหนึ่งมีการระบุพารามิเตอร์การหดตัวโดยมักจะเรียกว่าหรือ\ค่านี้มักถูกเลือกผ่านการตรวจสอบความถูกต้องของข้อมูลโดยการตรวจสอบค่าต่าง ๆ เกี่ยวกับข้อมูลการฝึกอบรมและดูว่าค่าใดให้ผลดีที่สุดเช่นจากข้อมูลการทดสอบ ช่วงหนึ่งของค่าควรตรวจสอบคืออะไร? มันเป็น ?λαR2(0,1)


คำตอบ:


5

คุณไม่จำเป็นต้องกังวล ในแพ็คเกจส่วนใหญ่ (เช่น glmnet) หากคุณไม่ได้ระบุแพ็คเกจซอฟต์แวร์จะสร้างลำดับของตัวเอง (ซึ่งมักจะแนะนำ) เหตุผลที่ฉันเน้นคำตอบนี้ก็คือในระหว่างการทำงานของ LASSO ตัวแก้จะสร้างลำดับของดังนั้นในขณะที่มันอาจตอบโต้ได้โดยให้ค่าเดียวอาจทำให้ตัวแก้ช้าลงอย่างมาก (เมื่อคุณระบุพารามิเตอร์ที่แน่นอน รีสอร์ตเพื่อแก้โปรแกรมกึ่งแน่นอนซึ่งอาจช้าสำหรับกรณีที่ 'เรียบง่าย' อย่างสมเหตุสมผล)λλλ

สำหรับค่าที่แน่นอนของคุณอาจจะเลือกสิ่งที่คุณต้องการจาก [ โปรดทราบว่าหากค่าของคุณมีขนาดใหญ่เกินไปการลงโทษจะใหญ่เกินไปและไม่มีสัมประสิทธิ์ใดที่ไม่ใช่ศูนย์ หากการลงโทษมีขนาดเล็กเกินไปคุณจะปรับโมเดลให้เหมาะสมและนี่จะไม่ใช่วิธีการตรวจสอบความถูกต้องที่ดีที่สุด λ[0,[λ


4
สวัสดีซิดโอพีดูเหมือนจะรับรู้ถึงความจริงที่คุณพูดถึงในโพสต์ของคุณ นอกจากนี้ยังไม่ปรากฏขึ้นเพื่อตอบคำถาม :-)
พระคาร์ดินัล
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.