การจำแนกประเภทที่มีข้อมูล“ ไม่ทราบ” บางส่วน

สมมติว่าฉันต้องการเรียนรู้ลักษณนามที่ใช้เวกเตอร์ของตัวเลขเป็นอินพุตและให้เลเบลของคลาสเป็นเอาต์พุต ข้อมูลการฝึกอบรมของฉันประกอบด้วยคู่ของอินพุตและเอาท์พุตจำนวนมาก

อย่างไรก็ตามเมื่อฉันมาทดสอบข้อมูลใหม่บางอย่างข้อมูลนี้จะสมบูรณ์เพียงบางส่วนเท่านั้น ตัวอย่างเช่นถ้าเวกเตอร์การป้อนข้อมูลมีความยาว 100 อาจมีเพียง 30 องค์ประกอบเท่านั้นที่จะได้รับค่า

เป็นตัวอย่างของสิ่งนี้พิจารณาการรู้จำภาพเมื่อเป็นที่ทราบกันว่าส่วนหนึ่งของภาพนั้นถูกบดบัง หรือพิจารณาการจัดประเภทในแง่ทั่วไปที่ทราบว่าส่วนหนึ่งของข้อมูลเสียหาย ในทุกกรณีฉันรู้ว่าองค์ประกอบใดในเวกเตอร์ข้อมูลคือส่วนที่ไม่รู้จัก

ฉันสงสัยว่าฉันจะเรียนรู้ลักษณนามที่จะทำงานกับข้อมูลประเภทนี้ได้อย่างไร ฉันสามารถตั้งค่าองค์ประกอบที่ "ไม่รู้จัก" เป็นตัวเลขสุ่ม แต่เนื่องจากมีองค์ประกอบที่ไม่รู้จักมากกว่าที่รู้จักบ่อยครั้งสิ่งนี้ไม่ได้ดูเหมือนโซลูชันที่ดี หรือฉันสามารถเปลี่ยนองค์ประกอบในข้อมูลการฝึกอบรมเป็น "ไม่ทราบ" และฝึกอบรมกับสิ่งเหล่านี้แทนที่จะเป็นข้อมูลที่สมบูรณ์ แต่อาจต้องมีการสุ่มตัวอย่างแบบละเอียดขององค์ประกอบที่รู้จักและไม่รู้จักทั้งหมด

โดยเฉพาะอย่างยิ่งฉันกำลังคิดเกี่ยวกับโครงข่ายประสาท

ความคิดใด ๆ ขอบคุณ!

ฉันคิดว่ามันมีวิธีที่สมเหตุสมผลในการทำให้มันทำงานกับ Neural Networks

$p$

ฉันไม่เคยเห็นมันทำมาก่อน แต่จะคล้ายกับการทำDropout (วิธีการทำให้เป็นมาตรฐานที่รู้จักกันดีในเครือข่ายประสาทเทียม) ในเซลล์ประสาทอินพุตของคุณแทนที่จะเป็นเซลล์ประสาทที่ซ่อนอยู่ ฉันไม่คิดว่ามันเป็นความคิดที่ดีที่จะทำโดยทั่วไป แต่ถ้าคุณถูกบังคับ (อย่างเช่นกรณีของคุณ) อย่างน้อยก็ใกล้เคียงกับเหตุผลทางทฤษฎีกับบางสิ่งที่เคยทำงาน

ฉันคิดว่ามีตัวเลือกบางอย่างที่ทำงานร่วมกับตัวจําแนกใด ๆ :

• กำหนดค่าที่หายไปด้วยค่าเดียวเช่นค่าเฉลี่ยหรือค่ามัธยฐานจากชุดฝึกอบรมหรือค่าบางค่าที่คาดการณ์จากส่วนที่สังเกตของอินพุตหรือเพียงแค่ใช้ตัวเลขสุ่มหรือค่าคงที่
• ใช้ค่าที่แตกต่างกันหลายค่าสำหรับค่าที่ไม่รู้จักและรวมผลลัพธ์เช่นหาค่าเฉลี่ย

นอกเหนือจากนั้นคุณสามารถใช้ตัวแยกประเภทแบบอิงทรี (เช่นฟอเรสต์แบบสุ่ม) และถ้าต้นไม้ต้องการประเมินการแยกคุณลักษณะที่ขาดหายไปเพียงแค่ส่งข้อมูลลงไปยังโหนดลูกทั้งสอง

$p(x,y)$$x$$y$$x$$x$และค่าเฉลี่ยผลลัพธ์ที่ถ่วงน้ำหนักโดยความน่าจะเป็นของการใส่ความ สิ่งนี้สามารถทำได้ทั้งในเชิงวิเคราะห์ในรูปแบบปิดสำหรับตัวจําแนกบางตัวเช่นโมเดลการวิเคราะห์เชิงเส้นเชิงเส้นหรือประมาณโดยการสุ่มตัวอย่างนิรนามเช่นสําหรับเครื่อง Boltzmann ที่ถูกจํากัดหรือตัวแปรที่ลึกของมัน