Perceptron สามารถลืมได้หรือไม่?


16

ฉันต้องการสร้างระบบการเรียนรู้ด้วยเครื่องบนเว็บออนไลน์ที่ผู้ใช้สามารถเพิ่มตัวอย่างที่เป็นความลับได้อย่างต่อเนื่องและมีรูปแบบการอัพเดทออนไลน์ ฉันต้องการใช้ perceptron หรืออัลกอริทึมการเรียนรู้ออนไลน์ที่คล้ายกัน

แต่ผู้ใช้อาจทำผิดพลาดและแทรกตัวอย่างที่ไม่เกี่ยวข้อง ในกรณีนี้ฉันต้องการให้ตัวเลือกในการลบตัวอย่างที่เฉพาะเจาะจงโดยไม่ต้องฝึก perceptron อีกครั้งในตัวอย่างทั้งหมด (ซึ่งอาจมีขนาดใหญ่มาก)

เป็นไปได้ไหม


ความคิดที่น่าสนใจมาก คุณได้พยายามทำสิ่งนี้อย่างเป็นทางการแล้วหรือยัง?
Strin

ด้วยรูปแบบเฉพาะของ perceptron และลักษณนามของคุณจะเกิดอะไรขึ้นเมื่อคุณแทรกตัวอย่างอีกครั้งด้วยการจำแนกประเภทที่ถูกต้อง สิ่งนี้ไม่ได้ช่วยลดน้ำหนักของเซลล์ประสาทภายในชั้นที่ไม่ถูกต้องและเพิ่มน้ำหนักให้กับเซลล์ประสาทภายในชั้นที่ใช่หรือไม่
หลงทางตรรกะ

1
การแทรกตัวอย่างอีกครั้งอาจช่วยได้อย่างชัดเจนอย่างไรก็ตามฉันไม่แน่ใจว่าการพิสูจน์และการบรรจบกันของ perceptron จะถูกเก็บไว้ในกรณีนี้ (เช่นฉันไม่แน่ใจว่าผลลัพธ์จะเหมือนกันกับสถานการณ์ที่กลุ่มตัวอย่างที่ผิดพลาดมี ไม่ถูกแทรกในตอนแรก)
Erel Segal-Halevi

ในฐานะที่เป็นโซลูชั่นไร้เดียงสาคุณสามารถเก็บบันทึกน้ำหนักของ perceptron ก่อนที่จะเพิ่มตัวอย่างใหม่แต่ละตัวอย่าง จากนั้นเมื่อคุณต้องการกำจัดตัวอย่าง (ใหม่) ตั้งน้ำหนักของ perceptron เป็นค่าของพวกเขาก่อนที่จะเพิ่มตัวอย่าง "bad" และฝึกอบรม perceptron อีกครั้งด้วยตัวอย่างที่ใช้ได้ทั้งหมดที่เพิ่มเข้ามาหลังจากที่ "bad" สิ่งนี้จะเกี่ยวข้องกับการฝึกอบรมใหม่ แต่ไม่ใช่ในตัวอย่างทั้งหมด แน่นอนคุณต้องเก็บรักษาตัวอย่างและน้ำหนักที่เกี่ยวข้อง
rphv

คำตอบ:


6

เมื่อฉันเข้าใจกระบวนการการแก้ไข perceptron โดยไม่ต้องฝึกอบรมเป็นไปไม่ได้ การปรับน้ำหนักไม่เพียง แต่สัมพันธ์กับตัวอย่างที่เฉพาะเจาะจงเท่านั้น แต่ยังสัมพันธ์กับตัวอย่างการฝึกอบรมอื่น ๆ ที่ผ่านมาด้วย การระบุอินสแตนซ์ที่จัดอย่างไม่ถูกต้องและนำออกจากชุดทดสอบก่อนที่จะทำการฝึกซ้ำโมเดลจะเป็นวิธีที่มีประสิทธิภาพที่สุดในการแก้ไขน้ำหนัก

ฉันคิดว่ามันคุ้มค่าที่ชี้ให้เห็นว่าในการเปรียบเทียบกับขั้นตอนวิธีการเรียนรู้เครื่องอื่น ๆเพอร์เซปตรอนจะค่อนข้างทนต่อเสียงและกรณีจัดไม่ถูกต้องในชุดฝึกอบรม หากคุณพบอินสแตนซ์ที่ไม่ได้จัดประเภทจำนวนมากมันจะดูสุขุมกว่าที่คุณจะได้รับการตรวจสอบข้อมูลที่ดีกว่าก่อนที่จะเข้ารับการฝึกอบรมมากกว่าการหาวิธีแก้ไขอินสแตนซ์ที่ผิดประเภทหลังจากที่ หากไม่สามารถทำได้และคุณสามารถระบุอินสแตนซ์ที่จัดอย่างไม่ถูกต้องได้ดังนั้นการลบออกและการฝึกอบรมจะเป็นวิธีเดียวที่จะกำจัดผลกระทบของอินสแตนซ์ที่ไม่ถูกจำแนกได้อย่างมีประสิทธิภาพ

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.