จะเกิดอะไรขึ้นเมื่อเราฝึกอบรม SVM เชิงเส้นในข้อมูลที่แยกได้แบบไม่เชิงเส้น


11

จะเกิดอะไรขึ้นเมื่อเราฝึกอบรมเครื่องเวกเตอร์สนับสนุนขั้นพื้นฐาน (เคอร์เนลเชิงเส้นและไม่มีขอบนุ่ม) กับข้อมูลที่แยกไม่ได้เชิงเส้น ปัญหาการปรับให้เหมาะสมไม่สามารถทำได้ดังนั้นอัลกอริธึมการย่อขนาดจะส่งกลับอย่างไร

คำตอบ:


11

ฉันคิดว่าเครื่องเวกเตอร์สนับสนุนขั้นพื้นฐานหมายถึง SVM ที่มีกำไรขั้นต้น ดังนั้นให้ตรวจสอบ:

SVM แบบ Hard-Marginคืออะไร

กล่าวโดยย่อคือเราต้องการค้นหาไฮเปอร์เพลนที่มีระยะห่างมากที่สุดซึ่งสามารถแยกการสังเกตทั้งหมดได้อย่างถูกต้องในพื้นที่ตัวอย่างการฝึกอบรมของเรา

ปัญหาการปรับให้เหมาะสมใน SVM แบบมาร์จิ้นยาก

จากคำนิยามข้างต้นปัญหาการเพิ่มประสิทธิภาพที่เราต้องแก้ไขคืออะไร

  1. ไฮเปอร์เพลนขอบที่ใหญ่ที่สุด: เราต้องการ max(margin)
  2. สามารถแยกข้อสังเกตทั้งหมดได้อย่างถูกต้อง: เราจำเป็นต้องปรับให้เหมาะสมmarginและตอบสนองข้อ จำกัด : ไม่มีข้อผิดพลาดในตัวอย่าง

จะเกิดอะไรขึ้นเมื่อเราฝึกอบรม SVM เชิงเส้นในข้อมูลที่แยกได้แบบไม่เชิงเส้น

กลับไปที่คำถามของคุณตั้งแต่ที่คุณกล่าวถึงชุดข้อมูลการฝึกอบรมไม่ได้แยกเป็นเส้นตรงโดยใช้ SVM ยากที่มีอัตรากำไรโดยไม่ต้องแปลงคุณลักษณะมันเป็นไปไม่ได้ที่จะหาไฮเปอร์เพลใด ๆ ที่น่าพอใจ "ไม่มีข้อผิดพลาดในตัวอย่าง"

โดยปกติเราแก้ปัญหาการเพิ่มประสิทธิภาพ SVM โดยการเขียนโปรแกรม Quadratic เพราะมันสามารถทำงานเพิ่มประสิทธิภาพด้วยข้อ จำกัด หากคุณใช้ Gradient Descent หรืออัลกอริธึมการเพิ่มประสิทธิภาพอื่น ๆ ซึ่งไม่เป็นไปตามข้อ จำกัด ของ SVM แบบ hard-margin คุณก็ควรได้รับผลลัพธ์ แต่นั่นไม่ใช่ไฮเปอร์รมิเตอร์ SVM แบบขอบแข็ง

โดยวิธีการที่เรามีข้อมูลที่ไม่สามารถแยกได้เชิงเส้นเรามักจะเลือก

  • การแปลงคุณสมบัติ SVM + ฮาร์ดขอบ
  • ใช้ SVM แบบ soft-margin โดยตรง (ในทางปฏิบัติ SVM แบบ soft-margin มักจะได้ผลลัพธ์ที่ดี)

ขอบคุณสำหรับคำตอบ. ดังนั้นแพคเกจ SVM ในเช่น R หรือ Python ไม่ใช้วิธีการเขียนโปรแกรมสมการกำลังสองเมื่อข้อมูลไม่สามารถแยกเชิงเส้นได้?
SVM

ไม่แน่ใจเกี่ยวกับไลบรารี svm ที่คุณใช้ ฉันใช้ libsvm และเครื่องมือ svm ที่แตกต่างกันอาจใช้ตัวแก้ไข svm ที่แตกต่างกัน เพื่อหานักแก้ปัญหา svm ที่ดีกว่าเป็นหัวข้อการวิจัยอื่น QP เป็นวิธีพื้นฐานในการแก้ปัญหา svm
fansia
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.