ฉันได้ยินมาว่าการถดถอยของสันเขานั้นสามารถได้มาจากค่าเฉลี่ยของการแจกแจงหลังถ้าหากได้รับการคัดเลือกอย่างเพียงพอ สัญชาตญาณว่าข้อ จำกัด ตามที่กำหนดไว้ในสัมประสิทธิ์การถดถอยโดยก่อนหน้านี้ (เช่นการแจกแจงแบบปกติมาตรฐานประมาณ 0) เหมือนกัน / แทนที่การลงโทษที่กำหนดไว้ในขนาดกำลังสองของสัมประสิทธิ์หรือไม่? ก่อนหน้านี้จะต้องเป็นแบบเกาส์สำหรับการเทียบเท่านี้จะถือ?
คำตอบ:
ไม่ในแง่ที่ว่านักบวชคนอื่น ๆ มีเหตุผลเกี่ยวข้องกับบทลงโทษอื่น ๆ โดยทั่วไปคุณไม่ต้องการมวลอื่น ๆ ที่อยู่ใกล้กับศูนย์ผล ( ) เพื่อลด overfitting / มากกว่าการตีความ ริดจ์เป็นโทษกำลังสอง (L2, เสียน), บ่วงบาศเป็น| β | (L1, Laplace หรือการแจกแจงเลขชี้กำลังสองเท่า) มีบทลงโทษอื่น ๆ อีกมากมาย (นักบวช) วิธีการแบบเบย์มีข้อได้เปรียบของการตีความที่เป็นของแข็ง (และช่วงเวลาที่น่าเชื่อถือ) ในขณะที่การประเมินความเป็นไปได้สูงสุดที่ถูกลงโทษ (สันเขา, บ่วง, ฯลฯ ) ให้ค่า P- value และช่วงความเชื่อมั่นที่ยากต่อการตีความ โดยการประมาณลำเอียง (หดลงเป็นศูนย์)
สองคะแนน:
การแจกแจงหลังในกรณีเบย์คือการแจกแจง การประเมินการถดถอยของสันเขาเป็นเพียงเวกเตอร์และไม่ใช่การกระจาย ดังนั้นมันจึงไม่เทียบเท่ากันทั้งหมด
มันเป็นความจริงที่ในกรณีของภาวะหลายตัวแปรก่อนหน้าและความเป็นไปได้ปกติหลายตัวแปรหลังเป็นหลายตัวแปรปกติด้วยค่าเฉลี่ยนั่นคือการประเมินการถดถอยสันสันสำหรับพารามิเตอร์สันที่เลือกอย่างเหมาะสม
การพิสูจน์เรื่องนี้ขึ้นอยู่กับรูปแบบเฉพาะของความน่าจะเป็นก่อนหน้านี้และไม่ได้ทำงานให้กับนักบวชหรือโอกาสที่เป็นไปได้มากขึ้น