บานพับขาดทุนและข้อดีและข้อเสีย / ข้อ จำกัด

การสูญเสียบานพับสามารถกำหนดใช้และการสูญเสียล็อกสามารถกำหนดเป็นล็อก( 1 + ประสบการณ์( - Y ฉันW T xฉัน ) $\text{max}(0, 1-y_i\mathbf{w}^T\mathbf{x}_i)$$\text{log}(1 + \exp(-y_i\mathbf{w}^T\mathbf{x}_i))$

ฉันมีคำถามต่อไปนี้:

1. มีข้อเสียของการสูญเสียบานพับ (เช่นไวต่อค่าผิดปกติตามที่ระบุไว้ในhttp://www.unc.edu/~yfliu/papers/rsvm.pdf ) หรือไม่?

2. อะไรคือความแตกต่างข้อดีข้อเสียของหนึ่งเมื่อเทียบกับที่อื่น

การลดการสูญเสียลอการิทึมทำให้เกิดผลลัพธ์ที่น่าจะเป็นไปได้

การสูญเสียบานพับนำไปสู่การกระจัดกระจายบางส่วน (ไม่รับประกัน) ในคู่ แต่ไม่ช่วยในการประมาณความน่าจะเป็น (นั่นคือเหตุผลที่มีประโยชน์มากในการกำหนดระยะขอบ): การลดลงของการสูญเสียบานพับจะมาพร้อมกับการลดลงของการจัดหมวดหมู่ผิดพลาดของขอบ

ดังนั้นสรุป:

• การสูญเสียลอการิทึมนำไปสู่การประมาณความน่าจะเป็นที่ดีขึ้นด้วยต้นทุนของความแม่นยำ

• การสูญเสียบานพับนำไปสู่ความแม่นยำที่ดีขึ้นและความกระจัดกระจายที่ค่าใช้จ่ายของความไวน้อยกว่ามากเกี่ยวกับความน่าจะเป็น

@Firebug มีคำตอบที่ดี (+1) อันที่จริงฉันมีคำถามคล้ายกันที่นี่

อะไรคือผลกระทบของการเลือกฟังก์ชั่นการสูญเสียที่แตกต่างกันในการจัดประเภทเป็นประมาณ 0-1 การสูญเสีย

ฉันแค่ต้องการเพิ่มข้อได้เปรียบที่ยิ่งใหญ่อีกประการหนึ่งของการสูญเสียโลจิสติก: การตีความความน่าจะเป็น ตัวอย่างสามารถพบได้ที่นี่

โดยเฉพาะการถดถอยโลจิสติกเป็นรูปแบบคลาสสิกในวรรณคดีสถิติ (ดูที่ชื่อ "การถดถอยโลจิสติก" หมายถึงอะไร?สำหรับการตั้งชื่อ) มีแนวคิดที่สำคัญมากมายที่เกี่ยวข้องกับการสูญเสียโลจิสติกเช่นการประมาณค่าความน่าจะเป็นของบันทึกการทำงานสูงสุดการทดสอบอัตราส่วนความน่าจะเป็น นี่คือการสนทนาที่เกี่ยวข้อง

การทดสอบอัตราส่วนความน่าจะเป็นใน R

เหตุใดการถดถอยแบบลอจิสติกจึงไม่เรียกว่าการจำแนกแบบลอจิสติก

มีข้อสมมติฐานเกี่ยวกับการถดถอยโลจิสติกหรือไม่

ความแตกต่างระหว่างรุ่น logit และ probit

เนื่องจาก @ hxd1011 เพิ่มข้อได้เปรียบของการข้ามเอนโทรปีฉันจะเพิ่มข้อเสียหนึ่งข้อ

ข้อผิดพลาดข้ามเอนโทรปีเป็นหนึ่งในหลาย ๆ มาตรการระยะห่างระหว่างการแจกแจงความน่าจะเป็น แต่ข้อเสียเปรียบประการหนึ่งคือการแจกแจงด้วยหางยาวสามารถจำลองแบบได้ไม่ดีโดยมีน้ำหนักมากเกินไปสำหรับเหตุการณ์ที่ไม่น่าเกิดขึ้น