ความสัมพันธ์ระหว่างมิติ VC และองศาอิสระ

ฉันกำลังเรียนรู้การเรียนรู้ของเครื่องจักรและฉันรู้สึกว่ามีความสัมพันธ์ที่แน่นแฟ้นระหว่างแนวคิดของมิติ VC และแนวคิดคลาสสิค (สถิติ) ขององศาอิสระ

ทุกคนสามารถอธิบายการเชื่อมต่อดังกล่าวได้หรือไม่

ตามที่ระบุไว้โดย Prof Yaser Abu-Mostafa-

ดีกรีอิสระเป็นนามธรรมของจำนวนพารามิเตอร์ที่มีประสิทธิภาพ จำนวนที่มีประสิทธิภาพจะขึ้นอยู่กับวิธีการหลายทุกอย่างหนึ่งจะได้รับมากกว่าวิธีการหลายพารามิเตอร์มูลค่าจริงที่มีการใช้ ในกรณีของ perceptron แบบ 2 มิติเราสามารถคิดถึงความชันและการสกัดกั้น (บวกกับระดับความเป็นอิสระของไบนารีที่ขอบเขตไปที่ +1) หรือหนึ่งสามารถคิดพารามิเตอร์ 3 ค่า w_0, w_1, w_2 (แม้ว่าน้ำหนักจะเป็น ปรับขนาดขึ้นหรือลงพร้อมกันโดยไม่กระทบต่อสมมติฐานที่เกิดขึ้น) อย่างไรก็ตามองศาอิสระเป็น 3 เพราะเรามีความยืดหยุ่นในการแตก 3 คะแนนไม่ใช่เพราะการนับจำนวนพารามิเตอร์อย่างเดียวหรืออย่างอื่น

มิติ VC ได้รับการอธิบายอย่างดีในบทความนี้ในหัวข้อ 2.1 และต่อไปโดยมีบทแทรกและบทพิสูจน์พื้นฐาน คุณสามารถผ่านสิ่งนี้ไปได้