การตีความเชิงเรขาคณิตของการถดถอยเชิงเส้นเชิงลงโทษ

ฉันรู้ว่าการถดถอยเชิงเส้นสามารถคิดได้ว่า"เส้นที่ใกล้เคียงที่สุดในทุกจุด" :

แต่มีวิธีอื่นในการดูโดยการแสดงพื้นที่คอลัมน์ในขณะที่"การฉายภาพลงบนพื้นที่ที่ทอดโดยคอลัมน์ของเมทริกซ์สัมประสิทธิ์" :

คำถามของฉันคือในทั้งสองการตีความสิ่งที่เกิดขึ้นเมื่อเราใช้การถดถอยเชิงเส้นลงโทษเช่นการถดถอยสันเขาและ เชือก ? เกิดอะไรขึ้นกับบรรทัดในการตีความครั้งแรก และจะเกิดอะไรขึ้นกับการประมาณการในการตีความครั้งที่สอง?

UPDATE: @JohnSmith แสดงความคิดเห็นว่ามีการลงโทษเกิดขึ้นในพื้นที่ของสัมประสิทธิ์ มีการตีความในพื้นที่นี้ด้วยหรือไม่

ขออภัยสำหรับทักษะการวาดภาพของฉันฉันจะพยายามให้ปรีชาดังต่อไปนี้

$f(\beta)$$\beta$$\beta_1$$\beta_2$

มีฟังก์ชั่นนี้น้อยที่สุดในช่วงกลางวงกลมสีแดง และขั้นต่ำนี้ให้วิธีการที่ไม่ถูกลงโทษ

$g(\beta)$$g(\beta) = \lambda (|\beta_1| + |\beta_2|)$$g(\beta) = \lambda (\beta_1^2 + \beta_2^2)$$\lambda$$\lambda$$g(x)$

$f(\beta) + g(\beta)$

การลงโทษที่มากขึ้นรูปทรงสีฟ้า "แคบลง" ที่เราได้รับจากนั้นแผนการพบกันในจุดที่ใกล้กว่าศูนย์ ในทางกลับกัน: การลงโทษที่มีขนาดเล็กกว่า, รูปทรงขยายและจุดตัดของแผนการสีน้ำเงินและสีแดงจะเข้ามาใกล้จุดศูนย์กลางของวงกลมสีแดงมากขึ้น

$\beta_1 = 0$$\beta_2 = 0$

$0$

หวังว่าจะอธิบายสัญชาตญาณเกี่ยวกับวิธีการถดถอยการลงโทษในพื้นที่ของพารามิเตอร์

สัญชาตญาณที่ฉันมีต่อไปนี้: ในกรณีที่กำลังสองน้อยที่สุดเมทริกซ์ของหมวกคือการฉายฉากมุมฉากดังนั้น idempotent ในกรณีที่ถูกลงโทษเมทริกซ์ของหมวกจะไม่เป็น idempotent อีกต่อไป จริงๆแล้วการใช้หลาย ๆ ครั้งจะลดค่าสัมประสิทธิ์กับจุดกำเนิด ในทางตรงกันข้ามค่าสัมประสิทธิ์ยังคงต้องอยู่ในช่วงของการทำนายดังนั้นมันจึงยังคงเป็นภาพแม้จะไม่ใช่มุมฉาก ขนาดของปัจจัยการลงโทษและประเภทของบรรทัดฐานจะควบคุมระยะทางและทิศทางของการหดตัวต่อแหล่งกำเนิด