คำถามติดแท็ก incremental-learning

ลองนึกภาพคุณแสดงภาพสิงโตที่มีโครงข่ายประสาทเป็น 100 เท่าและติดป้ายว่า "อันตราย" ดังนั้นมันจึงเรียนรู้ว่าสิงโตนั้นมีอันตราย ทีนี้ลองนึกภาพว่าก่อนหน้านี้คุณได้แสดงภาพสิงโตจำนวนหลายล้านภาพและระบุว่ามันเป็น "อันตราย" และ "ไม่อันตราย" ดังนั้นความน่าจะเป็นที่สิงโตจะเป็นอันตราย 50% แต่ในช่วง 100 ครั้งที่ผ่านมาได้ผลักเครือข่ายประสาทเทียมให้เป็นบวกมากเกี่ยวกับสิงโตว่า "อันตราย" จึงเพิกเฉยต่อบทเรียนล้านครั้งสุดท้าย ดังนั้นจึงดูเหมือนว่ามีข้อบกพร่องในเครือข่ายประสาทในการที่พวกเขาสามารถเปลี่ยนความคิดของพวกเขาเร็วเกินไปจากหลักฐานล่าสุด โดยเฉพาะอย่างยิ่งหากหลักฐานก่อนหน้านั้นอยู่ตรงกลาง มีโมเดลโครงข่ายประสาทเทียมที่ติดตามหลักฐานว่ามีการเห็นมากแค่ไหน? (หรือนี่จะเท่ากับการปล่อยให้อัตราการเรียนรู้ลดลง1/T1/T1/Tโดยที่TTTคือจำนวนการทดลอง)

37 neural-networks  machine-learning  theory  incremental-learning  catastrophic-forgetting 

ฉันต้องการฝึกโครงข่ายประสาทเทียมที่คลาสเอาต์พุตไม่ได้ถูกกำหนดไว้ตั้งแต่ต้น คลาสที่มากขึ้นจะถูกนำมาใช้ในภายหลังตามข้อมูลที่เข้ามา ซึ่งหมายความว่าทุกครั้งที่ฉันแนะนำคลาสใหม่ฉันจะต้องฝึกฝน NN ใหม่ ฉันจะฝึกอบรม NN แบบเพิ่มหน่วยได้นั่นคือโดยไม่ลืมข้อมูลที่ได้มาก่อนหน้านี้ในระหว่างขั้นตอนการฝึกอบรมครั้งก่อน

23 neural-networks  machine-learning  incremental-learning  transfer-learning