จะเกิดอะไรขึ้นเมื่อเราฝึกอบรมเครื่องเวกเตอร์สนับสนุนขั้นพื้นฐาน (เคอร์เนลเชิงเส้นและไม่มีขอบนุ่ม) กับข้อมูลที่แยกไม่ได้เชิงเส้น ปัญหาการปรับให้เหมาะสมไม่สามารถทำได้ดังนั้นอัลกอริธึมการย่อขนาดจะส่งกลับอย่างไร
จะเกิดอะไรขึ้นเมื่อเราฝึกอบรมเครื่องเวกเตอร์สนับสนุนขั้นพื้นฐาน (เคอร์เนลเชิงเส้นและไม่มีขอบนุ่ม) กับข้อมูลที่แยกไม่ได้เชิงเส้น ปัญหาการปรับให้เหมาะสมไม่สามารถทำได้ดังนั้นอัลกอริธึมการย่อขนาดจะส่งกลับอย่างไร
คำตอบ:
ฉันคิดว่าเครื่องเวกเตอร์สนับสนุนขั้นพื้นฐานหมายถึง SVM ที่มีกำไรขั้นต้น ดังนั้นให้ตรวจสอบ:
กล่าวโดยย่อคือเราต้องการค้นหาไฮเปอร์เพลนที่มีระยะห่างมากที่สุดซึ่งสามารถแยกการสังเกตทั้งหมดได้อย่างถูกต้องในพื้นที่ตัวอย่างการฝึกอบรมของเรา
จากคำนิยามข้างต้นปัญหาการเพิ่มประสิทธิภาพที่เราต้องแก้ไขคืออะไร
max(margin)
margin
และตอบสนองข้อ จำกัด : ไม่มีข้อผิดพลาดในตัวอย่างกลับไปที่คำถามของคุณตั้งแต่ที่คุณกล่าวถึงชุดข้อมูลการฝึกอบรมไม่ได้แยกเป็นเส้นตรงโดยใช้ SVM ยากที่มีอัตรากำไรโดยไม่ต้องแปลงคุณลักษณะมันเป็นไปไม่ได้ที่จะหาไฮเปอร์เพลใด ๆ ที่น่าพอใจ "ไม่มีข้อผิดพลาดในตัวอย่าง"
โดยปกติเราแก้ปัญหาการเพิ่มประสิทธิภาพ SVM โดยการเขียนโปรแกรม Quadratic เพราะมันสามารถทำงานเพิ่มประสิทธิภาพด้วยข้อ จำกัด หากคุณใช้ Gradient Descent หรืออัลกอริธึมการเพิ่มประสิทธิภาพอื่น ๆ ซึ่งไม่เป็นไปตามข้อ จำกัด ของ SVM แบบ hard-margin คุณก็ควรได้รับผลลัพธ์ แต่นั่นไม่ใช่ไฮเปอร์รมิเตอร์ SVM แบบขอบแข็ง
โดยวิธีการที่เรามีข้อมูลที่ไม่สามารถแยกได้เชิงเส้นเรามักจะเลือก