ความแตกต่างระหว่าง ep-SVR และ nu-SVR (และอย่างน้อยกำลังสอง SVR)


11

ฉันพยายามค้นหา SVR ที่เหมาะสมกับข้อมูลประเภทนั้น

ฉันรู้ SVR 4 ประเภท:

  • พยัญชนะตัวที่ 5 ของกรีก
  • nu
  • กำลังสองน้อยที่สุดและ
  • เชิงเส้น

ฉันเข้าใจว่า SVR แบบเส้นตรงมากขึ้นหรือน้อยลงเช่น Lasso กับ L1 Reg แต่ความแตกต่างระหว่าง 3 เทคนิคที่เหลือคืออะไร?

คำตอบ:


11

ใน -SVR พารามิเตอร์จะใช้เพื่อกำหนดสัดส่วนของจำนวนเวกเตอร์สนับสนุนที่คุณต้องการเก็บไว้ในโซลูชันของคุณตามจำนวนตัวอย่างทั้งหมดในชุดข้อมูล ใน -SVR พารามิเตอร์ถูกนำมาใช้ในการกำหนดปัญหาการปรับให้เหมาะสมและจะถูกประเมินโดยอัตโนมัติ (อย่างเหมาะสมที่สุด) สำหรับคุณνννε

อย่างไรก็ตามใน -SVR คุณไม่สามารถควบคุมได้ว่าเวกเตอร์ข้อมูลจำนวนเท่าใดจากชุดข้อมูลจะสนับสนุนเวกเตอร์มันอาจมีค่าเพียงเล็กน้อย อย่างไรก็ตามคุณจะสามารถควบคุมจำนวนข้อผิดพลาดทั้งหมดที่คุณจะอนุญาตให้โมเดลของคุณมีและสิ่งใดก็ตามที่เกินระบุจะถูกลงโทษตามสัดส่วนซึ่งเป็นพารามิเตอร์การทำให้เป็นมาตรฐานεε

ฉันเลือกระหว่างสองสิ่งนี้ตามที่ฉันต้องการ ถ้าฉันอยากแก้ปัญหาเล็กน้อย (เวกเตอร์สนับสนุนน้อยกว่า) ฉันเลือก -SVR และหวังว่าจะได้แบบจำลองที่เหมาะสม แต่ถ้าฉันต้องการควบคุมจำนวนข้อผิดพลาดในแบบจำลองของฉันและไปเพื่อประสิทธิภาพที่ดีที่สุดฉันเลือก -SVR และหวังว่าแบบจำลองนั้นไม่ซับซ้อนเกินไป (เวกเตอร์สนับสนุนจำนวนมาก)νε


5

ความแตกต่างระหว่าง -SVR และ -SVR คือปัญหาการฝึกอบรมที่ถูกกำหนดไว้ล่วงหน้า ทั้งสองชนิดใช้การสูญเสียบานพับในฟังก์ชันต้นทุน พารามิเตอร์ใน -SVM สามารถใช้ในการควบคุมปริมาณของเวกเตอร์การสนับสนุนในรูปแบบที่เกิดขึ้น รับพารามิเตอร์ที่เหมาะสมปัญหาเดียวกันที่แน่นอนจะแก้ไข 1εννν

กำลังสองน้อยที่สุด SVR แตกต่างจากอีกสองโดยใช้ส่วนที่เหลือกำลังสองในฟังก์ชันต้นทุนแทนการสูญเสียบานพับ

1 : C.-C ช้างและ C.-J หลิน การฝึกอบรมสนับสนุนเวกเตอร์ถดถอย: νทฤษฎีและขั้นตอนวิธี การคำนวณทางประสาท, 14 (8): 1959-1977, 2002


ขอบคุณสำหรับคำตอบของคุณมาร์ค ดังนั้นเราสามารถแยกความแตกต่างของวิธีการที่เหมาะสมตามชุดข้อมูลที่เรามี? ถ้าเป็นเช่นนั้นคุณช่วยชี้ให้ฉันได้ไหม ฉันมีตัวอย่าง 40000 ตัวอย่างที่มีเอาต์พุต 200 รายการ ดังนั้นจึงสามารถนึกได้ว่ามี 200 ตัวอย่าง 200 ตัวอย่างที่ไม่เหมือนใคร อินพุตสำหรับทั้ง 40000 นั้นแตกต่างกันออกไป แต่ผลลัพธ์จะไม่ซ้ำกันสำหรับ 200 ตัวอย่าง
Sharath Chandra

0

ฉันชอบคำตอบของทั้ง Pablo และ Marc อีกหนึ่งจุด:

ในบทความที่อ้างถึงโดย Marc มีการเขียน (ส่วนที่ 4)

νεεεY

[ ... ]

εYε[-1,+1]ε[0,1]νε

εε-ν-

คุณคิดอย่างไร?

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.