เกิดอะไรขึ้นก่อนการเรียนรู้ PAC


9

ฉันกำลังตรวจสอบการเรียนรู้ PAC (ทฤษฎีการเรียนรู้คอมพิวเตอร์) ในฐานะผู้เริ่มต้นที่ไม่มีความรู้ก่อนหน้านี้เกี่ยวกับการเรียนรู้ของเครื่อง / AI ฉันกำลังตรวจสอบโมเดลส่วนใหญ่จากมุมมองทางประวัติศาสตร์

สำหรับสิ่งนี้สิ่งที่สำคัญที่สุดคือผลลัพธ์ที่ได้จากแบบจำลอง มีเอกสารเพียงพอที่จะบันทึกผลลัพธ์เหล่านี้ แต่ฉันยังต้องการที่จะเขียนอะไรบางอย่างเกี่ยวกับสิ่งที่เกิดขึ้นก่อนการเรียนรู้ PAC เพื่อวาดบริบททางประวัติศาสตร์จนถึงจุดที่องอาจมาพร้อมกับแนวคิดของแบบจำลอง PAC

ไม่มีเอกสาร / แบบสำรวจฉันพบเอกสารนี้และในขณะที่คนที่ไม่มีความรู้จริงเกี่ยวกับการเรียนรู้ของเครื่องจึงยากที่จะหาสิ่งนี้ ฉันจึงถามคำถามอ่อนนี้ที่นี่เพราะฉันเชื่อว่ามีผู้เชี่ยวชาญเพียงพอที่สามารถช่วยฉันได้ การอ้างอิงได้รับการชื่นชมอย่างมาก

เมื่อฉันสามารถค้นคว้าและศึกษาสิ่งที่เกิดขึ้นก่อน PAC ฉันอาจได้รับการชื่นชมที่ดีขึ้นว่าทำไมโลกการศึกษาจึงกระตือรือร้นเกี่ยวกับแบบจำลอง PAC ซึ่งเป็นสิ่งที่น่าสนใจในการจัดทำเอกสารในงานประวัติศาสตร์ของฉัน!


4
โลกวิชาการไม่ได้มีความกระตือรือร้นเกี่ยวกับแบบจำลอง PAC บางคนในการเรียนรู้ของเครื่องไม่ชอบมันจริง ๆ
Yuval Filmus

คำตอบ:


8

การอ้างอิงได้รับการชื่นชมอย่างมาก

ผู้เขียนคาดว่าจะตอบคำถามเกี่ยวกับบริบทและความเกี่ยวข้องของผลลัพธ์ของเขาตั้งแต่เริ่มต้นสิ่งพิมพ์ ฉันเพิ่งอ่านบทแนะนำของ "L. Valiant ทฤษฎีที่เรียนรู้ได้การสื่อสารของ ACM, 27, 1984" อีกครั้งและพบว่า Valiant ครอบคลุมคำถามของคุณได้ดี

กระดาษต้นฉบับโดย Valiant มีให้ใช้งานได้อย่างอิสระและอ่านได้ไม่ยาก (ยกเว้นส่วนที่ 7 ซึ่งพิสูจน์ได้ว่าผู้แต่งยังสามารถแก้ไขปัญหาทางคณิตศาสตร์ที่ท้าทายได้ แต่ไม่ได้มีส่วนช่วยในเนื้อหาที่แท้จริงของบทความ) การอ่านอย่างน้อยการแนะนำตัวนั้นจะคุ้มค่ามากกว่าการอ่านคำตอบที่ยาวเกินไปของฉัน คำถามดังนั้นฉันแนะนำให้ลองจริงๆ


ส่วนที่เหลือของคำตอบนี้พยายามอ้างอิงบางตอนจากบทนำซึ่งควรระบุว่าการอ่านบทนำนี้อาจตอบคำถามเกี่ยวกับบริบททางประวัติศาสตร์ อย่างไรก็ตามโปรดทราบว่าผู้เขียนมีอภิสิทธิ์ตามธรรมชาติที่จะลำเอียงด้วยความเคารพต่อคำถามดังกล่าว

... อย่างน้อยระบบก็น่าจะเป็นการเริ่มต้นที่ดีมาก ครั้งแรกเมื่อมีการตรวจสอบตัวอย่างที่มีชื่อเสียงที่สุดของระบบที่รวบรวมความรู้ preprogrammed กล่าวคือระบบผู้เชี่ยวชาญเช่นDENDRALและMYCINไม่มีสัญกรณ์เชิงตรรกะเกินกว่าแคลคูลัสเชิงประพจน์ใช้

นี่เป็นข้อมูลที่น่าสนใจสำหรับบริบทเนื่องจากแคลคูลัสเชิงประพจน์มีความสำคัญน้อยกว่าแคลคูลัสเชิงกริยาหรือระบบทฤษฎีต่างๆชนิดที่บางครั้งใช้ในปัจจุบัน (แปลกพอ แต่ Prolog (1972) และ ML (1973) อยู่ในกลุ่มอื่นที่ตั้งใจจะใช้เป็นระบบเมตาดาต้าสำหรับ "ผู้เชี่ยวชาญ" เช่นนี้ 1969) สำหรับการจัดการฐานข้อมูลอ้างว่าใช้ตรรกะภาคแสดง)

บางทีการค้นพบทางเทคนิคหลักที่มีอยู่ในบทความก็คือความคิดที่น่าจะเป็นของการเรียนรู้การเรียนรู้แบบบรรจบกันเป็นไปได้สำหรับชั้นเรียนทั้งหมดของฟังก์ชันบูลีน สิ่งนี้ดูเหมือนจะแยกความแตกต่างของวิธีการนี้กับวิธีดั้งเดิมมากกว่าที่การเรียนรู้ถูกมองว่าเป็นกระบวนการ "ชักนำ" กฎทั่วไปบางประการจากข้อมูลที่ไม่เพียงพอสำหรับการหักที่เชื่อถือได้

ฉันเห็นด้วยอย่างยิ่งที่นี่ เป็นสิ่งสำคัญที่จะต้องสามารถอธิบายว่าโซลูชันของคุณสามารถแก้ไขปัญหาที่กำหนดได้อย่างไรและในแง่นี้มันเป็นวิธีแก้ปัญหา มิฉะนั้นคุณก็จบลงด้วยทฤษฎี "ไม่มีอาหารกลางวันฟรี" ซึ่งไม่อนุญาตให้คุณแยกแยะการใช้ฮิวริสติกที่น่าสงสัยจากการใช้ฮิวริสติกที่ถูกต้อง

โดยสรุปบทความนี้พยายามที่จะสำรวจขอบเขตของสิ่งที่เรียนรู้ได้ตามที่อนุญาตโดยความซับซ้อนของอัลกอริทึม ผลที่ได้จะแตกต่างจากร่างกายที่หลากหลายของงานก่อนหน้าเกี่ยวกับการเรียนรู้เพราะพวกเขาพยายามที่จะกระทบยอดคุณสมบัติทั้งสาม (1) - (3)) ที่กล่าวถึงก่อนหน้านี้ สิ่งที่ใกล้เคียงกับแนวทางของเรามากที่สุดคือวรรณกรรมการอนุมานเชิงอุปนัย [... ] มีงานขนาดใหญ่ในการจดจำรูปแบบและการจำแนกประเภทโดยใช้เครื่องมือทางสถิติและอื่น ๆ [... ] การเรียนรู้ในความรู้สึกที่เป็นทางการน้อยกว่าได้รับการศึกษาอย่างกว้างขวางว่าเป็นสาขาของปัญญาประดิษฐ์

คุณสมบัติ ((1) - (3)) คือ (1) "เครื่องจักรสามารถเรียนรู้แนวความคิดที่เป็นลักษณะเฉพาะทั้งหมด" ซึ่งก็คือ (2) "เหมาะสมและไม่เป็นประโยชน์สำหรับความรู้ทั่วไป" และ (3) "การคำนวณ กระบวนการต้องการเพียงจำนวนขั้นตอนที่เป็นไปได้ (เช่นพหุนาม) ที่เป็นไปได้ "


4

การระบุภาษาในขีด จำกัดเป็นความพยายามครั้งแรกที่รู้จักในการจับภาพความคิดของการเรียนรู้ ได้รับการแนะนำโดย Gold ในปี 1967 และเป็นแบบจำลองการอนุมานแบบอุปนัยที่เกี่ยวข้องกับการเรียนรู้ภาษา

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.