คำว่า "เรียนรู้แบบจำลอง" มาจากที่ใด

บ่อยครั้งที่ฉันเคยได้ยินว่าผู้ขุดข้อมูลใช้คำนี้ ในฐานะนักสถิติที่ทำงานเกี่ยวกับการจำแนกปัญหาฉันคุ้นเคยกับคำว่า "ฝึกฝนลักษณนาม" และฉันถือว่า "เรียนรู้ตัวแบบ" หมายถึงสิ่งเดียวกัน ฉันไม่สนใจคำว่า "ฝึกฝนลักษณนาม" ที่ดูเหมือนจะแสดงให้เห็นถึงแนวคิดของการปรับโมเดลให้เหมาะสมเนื่องจากข้อมูลการฝึกอบรมใช้เพื่อให้ได้ค่าประมาณที่ดีขึ้นหรือ "ดีขึ้น" ของพารามิเตอร์โมเดล แต่การเรียนรู้จะหมายถึงการได้รับความรู้ ในภาษาอังกฤษธรรมดา "เรียนรู้แบบจำลอง" จะหมายถึงการรู้ว่ามันคืออะไร แต่ในความเป็นจริงเราไม่เคย "รู้" โมเดล แบบจำลองความเป็นจริงโดยประมาณ แต่ไม่มีแบบจำลองที่ถูกต้อง มันเหมือนที่ Box บอกว่า "ไม่มีรุ่นที่ถูกต้อง แต่บางรุ่นก็มีประโยชน์"

ฉันสนใจที่จะฟังการตอบสนองของผู้ปฏิบัติข้อมูล คำนี้มาอย่างไร ถ้าคุณใช้มันคุณชอบมันทำไม

ฉันสงสัยว่าต้นกำเนิดของมันอยู่ในชุมชนวิจัยเครือข่ายประสาทเทียมซึ่งเครือข่ายประสาทสามารถคิดได้ว่าเป็นการเรียนรู้แบบจำลองของข้อมูลผ่านการปรับเปลี่ยนน้ำหนัก synaptic ในลักษณะที่คล้ายคลึงกับสิ่งที่เกิดขึ้นในสมองของมนุษย์เมื่อเราเรียนรู้จาก ประสบการณ์. งานวิจัยของฉันเริ่มต้นจากเครือข่ายประสาทเทียมดังนั้นบางครั้งฉันก็ใช้วลีนี้

บางทีมันสมเหตุสมผลกว่าถ้าคุณคิดว่าแบบจำลองนั้นถูกเข้ารหัสในพารามิเตอร์ของแบบจำลองแทนที่จะเป็นสมการในแบบเดียวกับที่แบบจำลองทางจิตไม่ใช่องค์ประกอบทางกายภาพของสมองมากเท่ากับชุดของพารามิเตอร์ การตั้งค่าสำหรับบางส่วนของเซลล์ประสาทของเรา

โปรดทราบว่าไม่มีนัยยะว่าแบบจำลองทางจิตจำเป็นต้องถูกต้องเช่นกัน!

คำนี้ค่อนข้างเก่าในด้านปัญญาประดิษฐ์ ทัวริงอุทิศส่วนยาวเกี่ยวกับ "เครื่องจักรการเรียนรู้" ในปี 1950 เครื่องจักรคอมพิวเตอร์และกระดาษข่าวกรองในใจของเขา กระดาษต้นฉบับของ Rosenblatt: The Perceptron: แบบจำลองความน่าจะเป็นสำหรับการจัดเก็บข้อมูลและการจัดระเบียบในกระดาษสมองจาก 1,958 พูดถึงอย่างกว้างขวางเกี่ยวกับ "แบบจำลองทางคณิตศาสตร์ของการเรียนรู้" ที่นี่ perceptron เป็น "รูปแบบของการเรียนรู้"; แบบจำลองไม่ได้ "เรียนรู้"

กระดาษ The Pitts and McCullough 1943 - กระดาษ "โครงข่ายประสาทเทียม" แบบดั้งเดิม - ไม่ได้เกี่ยวข้องกับการเรียนรู้มากนักว่าจะสร้างแคลคูลัสเชิงตรรกะได้อย่างไร (เช่นระบบ Hilbert หรือ Gentzen แต่ฉันคิดว่าพวกเขาอ้างถึง Russell / Whitehead) สามารถทำการอนุมาน ฉันคิดว่ามันเป็นกระดาษ "Perceptrons" ซึ่งแนะนำตัวเลขซึ่งตรงข้ามกับแนวคิดเชิงสัญลักษณ์ของการเรียนรู้ในประเพณีนี้

เป็นไปได้ไหมที่เครื่องจักรจะเรียนรู้วิธีเล่นหมากรุกจากตัวอย่าง? ใช่. มันมีแบบจำลองสำหรับการเล่นหมากรุกหรือไม่? ใช่. เป็นรุ่นที่เหมาะสมที่สุด (สมมติว่ามี) แทบจะไม่แน่นอน ในภาษาอังกฤษธรรมดาฉันได้ "เรียนรู้หมากรุก" ถ้าฉันสามารถเล่นหมากรุกได้ - หรืออาจจะค่อนข้างดี ไม่ได้หมายความว่าฉันเป็นนักเล่นหมากรุกที่ดีที่สุด นี่คือความรู้สึกที่ทัวริงอธิบาย "การเรียนรู้" เมื่อเขาพูดถึงการเรียนรู้หมากรุกในกระดาษของเขา

ฉันไม่สอดคล้องกับคำที่ฉันใช้ ดังนั้น (เช่น) สำหรับการเรียนรู้ในขีด จำกัด ฉันจะพูดว่า "ระบุ" สำหรับการเรียนรู้ SVM ฉันจะพูดว่า "รถไฟ" แต่สำหรับ MCMC- "การเรียนรู้" ฉันจะพูดว่า "ปรับให้เหมาะสม" และเช่นฉันเพิ่งเรียกการถดถอย "การถดถอย"

ในฐานะนักวิจัยในการเรียนรู้เครื่อง Bioplausible Machine ฉันเห็นด้วยอย่างยิ่งว่า "ไม่มีรูปแบบที่ถูกต้อง แต่มีประโยชน์บางอย่าง" และในความเป็นจริงรูปแบบและพิธีการมีความล้มเหลวอย่างมากตามที่ผู้เขียนใช้พูดถึงการเพิ่มประสิทธิภาพของปัญหา คือการปรับโมเดลให้เหมาะสมเช่นการสำรวจพื้นที่พารามิเตอร์และการหาค่าที่เหมาะสมที่สุดในท้องถิ่นหรือทั่วโลก นี่คือไม่ได้อยู่ในที่เหมาะสมทั่วไปสำหรับจริงปัญหา ในขณะที่ผู้สร้างโมเดลมักใช้คำศัพท์ที่ถูกต้องและเปิดเผยสมมติฐานทั้งหมด แต่ผู้ใช้ส่วนใหญ่จะพูดถึงข้อสันนิษฐานซึ่งบ่อยครั้งเป็นที่รู้กันว่าไม่ถือและยังใช้ภาษาที่แม่นยำน้อยกว่าเกี่ยวกับ "การเรียนรู้" และ "การเพิ่มประสิทธิภาพ" และ " parameterization"

ฉันคิดว่าการกำหนดพารามิเตอร์ที่เหมาะสมที่สุดของแบบจำลองคือสิ่งที่ผู้คนจะมีความหมายในการเรียนรู้ของเครื่องจักรโดยเฉพาะอย่างยิ่งในการเรียนรู้ด้วยเครื่องที่มีการเรียนรู้แม้ว่าฉันไม่สามารถพูดได้ว่า "เรียนรู้แบบจำลอง" มาก - แต่ก็เกิดขึ้น ฝึกโมเดล, คอมพิวเตอร์เรียนรู้พารามิเตอร์ของโมเดล แม้แต่ในการเรียนรู้แบบไม่โต้ตอบการเรียนรู้ก็มักจะเป็นเพียงแค่การกำหนดพารามิเตอร์ของแบบจำลองและหวังว่า "การเรียนรู้แบบจำลอง" จึงเป็นการปรับพารามิเตอร์ที่เหมาะสมที่สุดของแบบจำลอง (แม้ว่าวิธีการค้นหาพื้นที่พารามิเตอร์ที่แตกต่างกัน เพื่อเพิ่มประสิทธิภาพของสิ่งเดียวกัน) ฉันอยากจะใช้ "การฝึกอบรมแบบจำลอง" แทน

ในความเป็นจริงการวิจัยส่วนใหญ่ของฉันเกี่ยวกับการเรียนรู้รูปแบบในแง่ของการค้นพบแบบจำลองที่ดีกว่า