เครือข่ายที่ลึกสามารถผ่านการฝึกอบรมเพื่อพิสูจน์ทฤษฎีบทได้หรือไม่?


21

สมมติว่าเรามีหลักฐานจำนวนมากในแคลคูลัสภาคแสดงคำสั่งแรก สมมติว่าเรามีสัจพจน์คอลลารีและทฤษฎีบทในสาขาคณิตศาสตร์ในรูปแบบนั้นด้วย

พิจารณาข้อเสนอแต่ละข้อที่ได้รับการพิสูจน์แล้วและร่างของทฤษฎีที่มีอยู่โดยรอบข้อเสนอนั้นเป็นตัวอย่างในชุดฝึกอบรมและหลักฐานที่ดีที่รู้จักกันดีสำหรับข้อเสนอดังกล่าวเป็นฉลากที่เกี่ยวข้อง ในตอนนี้ให้พิจารณาเครือข่ายประดิษฐ์ที่ออกแบบมาเพื่อฝึกฝนในชุดตัวอย่างนี้โดยเฉพาะและตั้งค่าพารามิเตอร์ไฮเปอร์ไว้อย่างถูกต้อง

เป็นไปได้ไหมที่จะฝึกอบรมเครือข่ายประดิษฐ์ที่ลึกลงไปในลักษณะที่การนำเสนอของข้อเสนอใหม่และทฤษฎีที่มีอยู่รอบ ๆ มันนำเสนอในภาคแสดงคำสั่งแรกที่แคลคูลัสที่อินพุตจะสร้างหลักฐานที่เอาท์พุท?

(แน่นอนว่าหลักฐานดังกล่าวควรได้รับการตรวจสอบด้วยตนเอง)

หากสัดส่วนของการพิสูจน์ที่ดีส่งผลให้มีสูงเพียงพออาจเป็นไปได้ไหมที่จะสร้างอัลกอริทึมทางพันธุกรรมที่เสนอข้อเสนอไปยังเครือข่ายลึกที่ผ่านการฝึกอบรม

เป็นไปได้ไหม

เป็นไปได้ไหมที่จะใช้การออกแบบเครือข่ายแบบลึกนี้เพื่อแก้ปัญหาการคาดการณ์ของโคลลาตซ์หรือการคาดการณ์ของรีมันน์


5
เท่าที่ฉันสามารถคิดว่า "ดังก้องไม่มี", NN เป็นเพียงที่ดีสำหรับการประมาณฟังก์ชั่น (ดีมาก) ... การพูดว่า NN สามารถทำสิ่งที่คุณพูดว่ามันสามารถทำได้ทำให้สมมติฐานที่พื้นฐานว่าหลักฐานทั้งหมดเป็นหน้าที่ของ probelms, varibales หรือสิ่งอื่น ๆ ... และฉันไม่ทราบว่ามีใครบางคนกล่าวว่าดังนั้น
DuttaA

2
@DouglasDaseeco หลักฐานเกือบทั้งหมดมาจากนักคณิตศาสตร์ที่จินตนาการถึงสิ่งที่เป็นนามธรรม 'โดยสัญชาตญาณ' แล้วมอบมันให้กับชีวิต .... ในขณะที่ NN ไม่สามารถทำได้อย่างแน่นอน .. พวกเขาจะสามารถพิสูจน์ทฤษฎีบทเล็ก ๆ น้อย ๆ หรือคล้ายกันเช่นการหาข้อยกเว้น และพิสูจน์หักล้างหรืออะไรทำนองนั้น
DuttaA

1
@ DuttaA ปรีชาเป็นเรื่องง่ายกว่าที่จะสอนสุทธิประสาทกว่าตรรกะ อวนเทียมสามารถเรียงลำดับเมลที่กำกวมได้โดยไม่มีเอ็นจินกฎ การแยกคุณลักษณะและการจัดหมวดหมู่ที่ไม่ได้รับการจัดการนั้นใกล้เคียงกับสัญชาตญาณเช่นกัน การดำเนินการเชิงตรรกะเช่นการคูณทวีคูณนั้นผ่านไม่ได้ ในด้านจิตวิทยาพัฒนาการการได้รับความสนใจจากผู้ใหญ่เกิดขึ้นอย่างชาญฉลาดเกิดขึ้นหลายปีก่อนตรรกะและและหรือแนวความคิด เด็ก ๆ ไม่คิดอย่างมีเหตุผล "ถ้าฉันหอนแม่ก็จะพังและให้น้ำตาลฉัน" พวกเขาใช้ฟังก์ชั่นไม่ใช่แผน ในคำตอบของฉันที่นี่สองรายการแรกนั้นยากที่สุด
FauChristian

2
ฉันขอแนะนำให้ใช้ NN เพื่อเป็นแนวทางในการพิสูจน์ทฤษฎีบทแบบดั้งเดิม ตัวพิสูจน์ทฤษฎีบททั่วไปแสดงความเป็นไปได้ของเครือข่ายและ NN ต้องเลือกอย่างใดอย่างหนึ่ง ด้วยวิธีนี้มันไม่จำเป็นต้องเรียนรู้ว่าอะไรคืออะไรและไม่ใช่ตรรกะที่ถูกต้องเฉพาะสิ่งที่น่าสนใจ
PyRulez

คำตอบ:


6

ระบบการผลิตที่มีอยู่ซึ่งได้รับการพัฒนาในช่วงสองสามทศวรรษที่ผ่านมามีกฎของการอนุมานที่เข้ารหัสไว้ พวกเขามีพื้นฐานมาจากวิสัยทัศน์ของ Leibniz ที่ตรรกะคลาสสิกทั้งหมดสามารถเข้ารหัสเป็นภาษาสัญลักษณ์และประมวลผลโดยกลไก ลอจิกคำสั่งแรกได้รับการพัฒนาและมีการเรียกชื่ออย่างเป็นทางการ

แม้ว่าวิสัยทัศน์ของการพิสูจน์ทฤษฎีบทอัตโนมัติถูกท้าทายอย่างมากจากทฤษฎีบทที่ไม่สมบูรณ์สองประการของGödelการทำงานที่สมบูรณ์ของทัวริงและการพัฒนาสถาปัตยกรรม

ห้องปฏิบัติการ AI ของ MIT ในช่วงเวลาของ Minsky ยังมีชีวิตอยู่ด้วยความพยายามดังกล่าว แต่สิ่งที่พวกเขาเรียกว่าการระเบิดแบบคอมบิเนทีฟแสดงให้เห็นว่ามีทรัพยากรคอมพิวเตอร์ไม่เพียงพอที่จะค้นหาพื้นที่ที่ต้องการพิสูจน์ทฤษฎีบทโดยพล คอมพิวเตอร์คู่ขนานขนาดใหญ่ที่เรียกว่าเครื่องเชื่อมต่อและโครงร่างต่าง ๆ โดยใช้เมตากฎและวิธีการแก้ปัญหาถูกนำมาใช้เพื่อเอาชนะปัญหาการระเบิด

เครือข่ายประดิษฐ์ได้รับการแนะนำและความคิดที่ว่าพวกเขาสามารถเทียบเคียงได้กับเครื่องจักรในการผลิตนั้นถูกคัดค้านโดยชุมชน LISP เมื่อเสนอครั้งแรก อย่างไรก็ตามในบริบทของความสำเร็จที่สำคัญในการเพิ่มทรัพยากรคอมพิวเตอร์และความสำเร็จล่าสุดในการเรียนรู้ของเครื่องหลายคนเริ่มถามคำถามที่ถูกระงับในศตวรรษที่ยี่สิบ

เรารู้อยู่แล้วว่าเครือข่ายประดิษฐ์สามารถเรียนรู้ฟังก์ชั่นตรรกะและพีชคณิตโดยพลการซึ่งส่วนใหญ่เป็น PAC Learnable 1 เนื่องจากสภาพแวดล้อมการเรียนรู้ที่เหมาะสมการเรียนรู้แบบอนุมานเชิงตรรกะนั้นเป็นสิ่งที่สมองสมองสามารถทำได้ที่จุดปัจจุบันของวิวัฒนาการ ไม่ว่าเครือข่ายประสาทจะถึงระดับความรู้ความเข้าใจว่าเป็นคำถามเปิดถามหลายคน

กระแสหลัก AI และการเรียนรู้การเรียนรู้ของเครื่องไม่ได้มุ่งเน้นไปที่การได้มาซึ่งเครือข่ายของกฎการอนุมานแบบลอจิคัลส่วนใหญ่เป็นเพราะการเขียนโปรแกรมให้เป็นระบบเช่น DRools และระบบการผลิตอื่น ๆ ที่ใช้กันทั่วไป คำถามคือว่ามีผลตอบแทนจากการลงทุนเพียงพอที่จะทำสิ่งที่อาจจะน่าสนใจ แต่มีราคาแพงแน่นอนเมื่อมีวิธีแก้ไขปัญหาอื่น ๆ

คำถามนี้คล้ายกับคำถาม Artificial Intelligence Stack Exchange อื่นเกี่ยวกับ AI ที่ดีในทางคณิตศาสตร์ หนึ่งในคำตอบที่ให้ไว้มีอยู่ที่นี่

เป็นสิ่งสำคัญที่จะไม่ยกเลิกวิธีการใด ๆ ในช่วงเวลานี้เนื่องจากความสนใจล่าสุดใน AI ไม่เพียง แต่ครอบงำการใช้จ่ายของรัฐบาล แต่ยังรวมถึงการใช้จ่ายเชิงพาณิชย์ การใช้จ่ายนี้จะเพิ่มบุคลากรกำลังการใช้คอมพิวเตอร์และแรงจูงใจในการเอาชนะอุปสรรคที่อาจคาดไม่ถึงก่อนหน้านี้


เชิงอรรถ

[1] PAC การเรียนรู้เป็นกรอบในการกำหนดความสามารถในการคำนวณเชิงปฏิบัติของอัลกอริทึมการเรียนรู้ที่กำหนดคุณสมบัติของคลาสของสมมติฐานที่สามารถเรียนรู้ได้โดยใช้รูปแบบที่กำหนดและความแม่นยำและความมั่นใจที่คาดหวังของกระบวนการเรียนรู้


1

ความคิดของคุณอาจเป็นไปได้โดยทั่วไป แต่เครือข่ายประสาทอาจเป็นเครื่องมือระดับสูงผิดที่ใช้ในการสำรวจปัญหานี้

จุดแข็งของโครงข่ายประสาทเทียมคือการค้นหาการนำเสนอภายในที่ให้โซลูชันที่ไม่เป็นเชิงเส้นสูงเมื่อทำการแมปอินพุตกับเอาต์พุต เมื่อเราฝึกโครงข่ายประสาทเทียมการแมปเหล่านั้นจะได้เรียนรู้ทางสถิติผ่านการทำซ้ำตัวอย่าง สิ่งนี้มีแนวโน้มที่จะสร้างแบบจำลองที่สอดแทรกได้ดีเมื่อได้รับข้อมูลคล้ายกับชุดฝึกอบรม แต่คาดการณ์ได้ไม่ดี

แบบจำลองโครงข่ายใยประสาทเทียมยังขาดบริบทเช่นถ้าคุณใช้แบบจำลองแบบกำเนิด (เช่น RNN ที่ได้รับการฝึกฝนในลำดับที่สร้างหลักฐานที่ถูกต้องหรือน่าสนใจ) ก็สามารถสร้างขยะที่น่าพอใจทางสถิติได้อย่างง่ายดาย แต่ไร้ความหมาย

สิ่งที่คุณจะต้องมีคือหลักการจัดระเบียบที่อนุญาตให้คุณสำรวจและยืนยันหลักฐานในรูปแบบ combinatorial อันที่จริงความคิดของคุณได้ทำไปแล้วมากกว่าหนึ่งครั้งแล้ว แต่ฉันไม่สามารถหาข้อมูลอ้างอิงได้ในขณะนี้

สิ่งนี้ไม่หยุดคุณโดยใช้เครือข่ายประสาทเทียมภายใน AI ที่ค้นหาหลักฐาน อาจมีสถานที่ในคณิตศาสตร์ AI ที่คุณต้องการฮิวริสติกที่ดีเพื่อเป็นแนวทางในการค้นหาตัวอย่างเช่นในบริบท X เป็นหลักฐานย่อย Y ที่น่าสนใจหรือเกี่ยวข้อง การประเมินคะแนนความน่าจะเป็นเป็นสิ่งที่เครือข่ายประสาทสามารถทำได้โดยเป็นส่วนหนึ่งของโครงการ AI ในวงกว้าง นั่นคล้ายกับวิธีการรวมเครือข่ายประสาทกับการเรียนรู้การเสริมแรง

มันอาจเป็นไปได้ที่จะสร้างความคิดของคุณออกมาจากโครงข่ายประสาทเทียมโดยสมบูรณ์ ท้ายที่สุดมีเหตุผลที่ดีที่จะสงสัยว่าการใช้เหตุผลทางมนุษย์นั้นคล้ายกันโดยใช้เซลล์ประสาทชีวภาพ อย่างไรก็ตามสถาปัตยกรรมของระบบดังกล่าวนั้นอยู่นอกเหนือการออกแบบ NN หรือการตั้งค่าการฝึกอบรมที่ทันสมัย แน่นอนว่ามันจะไม่เป็นเรื่องของการเพิ่มเลเยอร์ให้เพียงพอจากนั้นป้อนข้อมูล


Max ไม่ได้มองหาเครื่องมือ เขาเริ่มต้นด้วยการ "ลองนึกภาพฉันมีรายการของปัญหาและข้อพิสูจน์ทั้งหมด" ในคำถามก่อนการแก้ไข "การแก้ไขมากเกินไปซ่อนคำแรกนั้นเขาคิดเกี่ยวกับความเป็นไปได้ซึ่งเป็นกิจกรรมการวิจัยที่ถูกต้องตามกฎหมาย จินตนาการและความเป็นไปได้แม็กซ์ไม่ได้เป็นเพียงคนเดียวที่ตระหนักถึงความสำคัญของคำถามของเขาเช่นกันมีหลายร้อยคนที่รู้ว่าอาจมีวิธีในการฝึกอบรมเครือข่ายเพื่อพิสูจน์โดยใช้กฎการอนุมาน Hofstadter พูดคุยเกี่ยวกับเรื่องนี้มาก
FauChristian

@FauChristian ฉันอ่านว่า "เป็นไปได้หรือไม่" เพราะมันสามารถทำได้โดยใช้เทคนิคที่เป็นที่รู้จักกันในปัจจุบันและวิธีการที่จะเริ่มต้นการวิจัยดังกล่าวอีกครั้งโดยใช้วิธีที่มีอยู่ ฉันยอมรับว่าเป็นไปได้ที่จะตอบโดยใช้มุมมองเชิงทฤษฎีมากขึ้น อาจเป็นคำถาม Meta ที่น่าสนใจว่า OP สามารถตั้งค่าความแตกต่างได้อย่างไรและเราจะยืนยันเจตนาได้อย่างไร
Neil Slater

1

สิ่งที่เรารู้

ตามหน้าธนาคารโลก "วันนี้มีนักเรียนระดับอุดมศึกษาประมาณ 200 ล้านคนในโลกเพิ่มขึ้นจาก 89 ล้านคนในปี 2541" อย่างน้อย 1 ใน 100 มีข้อกำหนดคณิตศาสตร์ต้องพัฒนาหลักฐานสำหรับทฤษฎีบทและใช้ชีวิตอย่างน้อย 40 ปีหลังจากนั้น

แม้ว่าจะมีตาข่ายประสาทอย่างน้อย 20 ล้านเส้นที่สามารถพิสูจน์ทฤษฎีบทได้ แต่ก็มีตัวอย่างที่ไม่สามารถตอบคำถามนี้ได้ในการยืนยัน เครือข่ายประสาทเหล่านี้เป็นสิ่งมีชีวิตทางชีวภาพไม่ใช่สิ่งประดิษฐ์และพวกเขาได้พิสูจน์ทฤษฎีบทที่ได้รับการพิสูจน์มาแล้วก่อนหน้านี้ไม่ใช่การคาดคะเน Collatz หรือการคาดการณ์ของ Riemann

บางคนเชื่อ

ผู้ที่เชื่อว่าอุปกรณ์การเรียนรู้ Q- ลึกและความสนใจจะเข้าร่วมโดยการออกแบบระบบการเรียนรู้อื่น ๆ จนกว่าคณะของสมองมนุษย์จะถูกจำลองและอาจเหนือกว่าอาจรวมถึงทฤษฎีบทที่พิสูจน์ว่าเป็นหนึ่งในความสามารถของมนุษย์ สิ่งเหล่านี้น่าจะประกาศเหตุผลของการอนุมานและการอนุมานว่าเป็นอีกหนึ่งฟังก์ชันการรับรู้ที่ซับซ้อนซึ่งจะเกิดขึ้นในระบบประดิษฐ์

ผู้ที่เชื่อว่าความสามารถบางอย่างนั้นถูกฝังอยู่ในมนุษย์และเป็นความสามารถที่สงวนไว้อาจประกาศเหตุผลและข้ออนุมานที่สงวนไว้สำหรับมนุษย์โดยลำพัง

สถานะปัจจุบันของความคืบหน้า

ไม่มีบทความทางวิชาการที่บ่งบอกถึงความสามารถในการพิสูจน์แม้แต่บทพิสูจน์ที่ง่ายที่สุดโดยใช้เหตุผลและการอนุมาน เป็นไปได้ว่ารัฐบาลหรือองค์กรเอกชนได้บรรลุระดับความสำเร็จในการทำเช่นนั้น แต่ยังไม่ได้รับการเปิดเผย

ความคิดที่ว่าเครือข่ายประดิษฐ์หากพัฒนาขึ้นอย่างน่าทึ่งอาจเหนือกว่าระบบการผลิตระบบ AI ที่ยึดตามการผลิตหรือกฎระเบียบในพื้นที่ที่มีประสิทธิผลมากที่สุดนั้นได้เสนอเสนอในช่วงต้นของการพัฒนา AI มันถูกโต้แย้งแล้วและโต้แย้งในขณะนี้อย่างไรก็ตามข้อโต้แย้งไม่ใช่ทางคณิตศาสตร์ดังนั้นจึงไม่มีข้อบ่งชี้ที่ชัดเจนว่าเป็นไปไม่ได้

แง่มุมอื่น ๆ ทางความคิดของความคิดของมนุษย์เป็นวัตถุประสงค์สำคัญของการวิจัย AI โต้ตอบการศึกษาอัตโนมัติการวางแผนการวิเคราะห์เชิงกลยุทธ์และการนำยานพาหนะเป็นความคิดที่สูงกว่าที่ต้องการมากกว่า DQN และวิธีการตามความสนใจของเครือข่ายที่สามารถส่งมอบได้ในขณะนี้ แต่ความพยายามในการวิจัยในพื้นที่เหล่านี้

วิธีการที่มีศักยภาพ

การวิจัยเกี่ยวกับความสามารถทางปัญญาเชิงตรรกะควรเริ่มพิสูจน์แล้วรู้ได้ง่ายกว่าการคาดเดาที่กล่าวถึงในคำถาม ตัวอย่างเช่นได้รับการพิสูจน์แล้วว่าผลรวมของจำนวนเต็มสองจำนวนที่ไม่ใช่ลบต้องเป็นจำนวนเต็มอื่นที่ไม่ใช่ลบ ในแคลคูลัสเพรดิเคตที่สามารถแสดงเป็นสตริงอักขระ

aC,C:s=a+sC

มันบอกว่า a และ b เป็นสมาชิกของชุดการนับตัวเลขซึ่ง s ที่นิยามไว้เป็นผลรวมของทั้งสองนั้นจะต้องเป็นสมาชิกของชุดการนับตัวเลขด้วย การพิสูจน์สามารถแสดงเป็นลำดับของสตริงอักขระของแคลคูลัสภาคแสดงคำสั่งแรก

ไม่มีโครงการวิจัยขนาดเล็ก

ตัวอย่างเช่นนี้อาจดูง่ายสำหรับคนที่เรียนวิชาคณิตศาสตร์มาหลายปีและสร้างหลักฐานมาแล้ว มันไม่ใช่เรื่องง่ายสำหรับเด็กและเป็นการยากมากที่จะทำให้เครือข่ายเทียมมาบรรจบกับฟังก์ชั่นที่ใช้กฎการอนุมานแบบลอจิคัลทั้งหมดและรวมเมตา - กฎสำหรับการพิสูจน์หลักฐานสำหรับระบบที่เป็นทางการเช่นเลขคณิตเลขจำนวนเต็ม

การทำให้เครือข่ายที่สมบูรณ์เช่น RNNs นั้นมีข้อได้เปรียบมากกว่า MLPs (multilayer perceptrons) เครือข่ายตามความสนใจอาจเป็นตัวเลือกการวิจัยที่สมเหตุสมผล มีคนอื่นระบุไว้ในข้อมูลอ้างอิงด้านล่าง

ต้องใช้แพลตฟอร์มการคำนวณแบบขนานสำหรับการวิจัยเนื่องจากเวกเตอร์อินพุตอาจมีหลายร้อย Kbytes ขนาดของตัวอย่างและจำนวนที่ต้องการก็ยากที่จะประมาณโดยไม่ต้องใช้เวลาหนึ่งหรือสองปีในกระบวนการวิจัย

คำจำกัดความของการนับตัวเลขเครื่องหมายบวกและเครื่องหมายเท่ากับต้องถูกกำหนดก่อนและคำจำกัดความเหล่านั้นและจำนวนสัจพจน์สัมพัทธภาพบทแทรกและบทพิสูจน์ต้องเป็นส่วนหนึ่งของตัวอย่างอินพุตในรูปแบบที่เป็นทางการเช่นข้อเสนอที่จะ พิสูจน์แล้วข้างต้นพร้อมกับข้อเสนอนั้น

และนั่นคืองานที่ต้องเตรียมเพียงตัวอย่างเดียว คุณต้องมีคนนับพันเพื่อฝึกฝนความรู้อย่างชาญฉลาดเกี่ยวกับกฎการอนุมานในเครือข่ายที่ลึกซึ้ง (ฉันเลือกคำว่า INTUITIVE เป็นอย่างมากโดยเจตนาด้วยเหตุผลทางทฤษฎีซึ่งอาจใช้เวลาอย่างน้อยหนึ่งร้อยหน้าในการอธิบายได้ดี)

นี่ไม่ใช่โครงการขนาดเล็กเนื่องจากชุดข้อมูลตัวอย่างต้องมีอย่างน้อยสองสามพันกรณีและแต่ละกรณีแม้ว่ามันอาจจะใช้ทฤษฎีบางอย่างร่วมกันก็ต้องจัดทำขึ้นเพื่อให้ข้อเสนอเกิดขึ้นอย่างสมบูรณ์และนำเสนอเนื้อหาทางทฤษฎีที่จำเป็น ในรูปแบบที่สมบูรณ์แบบสำหรับการป้อนข้อมูลสำหรับการฝึกซ้ำแต่ละครั้ง

ฉันเดาว่ามันจะต้องใช้ทีมนักวิจัยที่มีความสว่างพร้อมความเข้าใจที่เหมาะสมเกี่ยวกับเครือข่ายที่ลึกการบรรจบกันและแคลคูลัสภาคแสดงประมาณสิบปีในการฝึกอบรมเครือข่ายเพื่อให้พิสูจน์ได้จริงในข้อเสนอทางคณิตศาสตร์อย่างง่าย

แต่มันจะไม่ประสบความสำเร็จขนาดเล็ก

นั่นอาจเป็นความพยายามที่ไร้สาระสำหรับบางคน แต่มันเป็นครั้งแรกที่มีคนสอนคอมพิวเตอร์ถึงวิธีการใช้เหตุผล ธรรมชาติใช้เวลาไม่ถึงอายุของโลกในการสอนการอนุมานแบบมีเหตุผลกับสิ่งมีชีวิตโสเครติส

ผู้คนคิดว่าเพราะคอมพิวเตอร์ประกอบด้วยวงจรดิจิตอลที่ใช้ตรรกะโดยการออกแบบว่าคอมพิวเตอร์เป็นตรรกะ ทุกคนที่ได้รับการพัฒนาซอฟต์แวร์มานานหลายทศวรรษด้วยความชอบที่จะคิดให้ลึกซึ้งยิ่งกว่าการแฮ็คเพื่อความสนุกหรือเงินรู้ต่างกัน แม้หลังจากการเขียนโปรแกรมอย่างระมัดระวังคอมพิวเตอร์จะไม่จำลองการอนุมานแบบลอจิคัลและไม่สามารถแก้ไขพฤติกรรมที่โปรแกรมของตนเองสำหรับข้อผิดพลาดใด ๆ ในความเป็นจริงการพัฒนาซอฟต์แวร์ส่วนใหญ่ในปัจจุบันคือการแก้ไขข้อผิดพลาด

การจำลองความคิดเชิงตรรกะจะเป็นก้าวสำคัญในการจำลองการรับรู้และความสามารถของมนุษย์ในวงกว้าง


อ้างอิง

เรียนรู้ที่จะเขียนโครงข่ายประสาทเทียมเพื่อตอบคำถามจาค็อบแอนดรีอัสมาร์คัสรูห์บาคเทรเวอร์ดาร์เรลและแดนไคลน์ UC เบิร์กลีย์ 2016 https://arxiv.org/pdf/1601.01705.pdf

เรียนรู้การเป็นตัวแทนหลายชั้น Geoffrey E. Hinton ภาควิชาวิทยาการคอมพิวเตอร์, มหาวิทยาลัยโตรอนโต 2007 http://www.csri.utoronto.ca/~hinton/absps/ticsdraft.pdf

Neural Turing Machine (สไลด์โชว์) ผู้แต่ง: Alex Graves, Greg Wayne, Ivo Danihelka นำเสนอโดย: Tinghui Wang (Steve) https://eecs.wsu.edu/~cook/aiseminar/papers/steve.pdf

เครื่องทัวริงประสาท (กระดาษ) Alex Graves, Greg Wayne, Ivo Danihelka https://pdfs.semanticscholar.org/c112/6fbffd6b8547a44c58b192b36b08b18299de.pdf 2014

เสริมสร้างการเรียนรู้ประสาททัวริงเครื่องวอย Zaremba อิลยา Sutskever ICLR กระดาษประชุม https://arxiv.org/pdf/1505.00521.pdf?utm_content=buffer2aaa3&utm_medium=social&utm_source=twitter.com&utm_campaign=buffer 2016

เครื่องทัวริงประสาทแบบไดนามิกที่มีรูปแบบการกำหนดแอดเดรสแบบต่อเนื่องและไม่ต่อเนื่อง Caglar Gulcehre1, Sarath Chandar1, Kyunghyun Cho2, Yoshua Bengio1 https://arxiv.org/pdf/1607.00036.pdf 2017

On-Line การสร้างฝอยประสาทด้วยตนเองเครือข่ายการอนุมานและแอปพลิเคชัน Chia-Feng Juang และ Chin-Teng Lin ธุรกรรม IEEE บนระบบ Fuzzy, v6, n1 1998 https://ir.nctu.edu.tw/bitstream/11536/ 32809/1 / 000072774800002.pdf

กราฟลำดับของโครงข่ายโครงข่ายประสาทเทียม Yujia Li และ Richard Zemel เอกสารการประชุม ICLR 2016 https://arxiv.org/pdf/1511.05493.pdf

เครื่องสร้างที่เรียนรู้และคิดเหมือนคน Brenden M. Lake, Tomer D. Ullman, Joshua B. Tenenbaum, และ Samuel J. Gershman พฤติกรรมศาสตร์และวิทยาศาสตร์สมอง 2016 https://arxiv.org/pdf/1604.00289.pdf

บริบทขึ้นอยู่กับการฝึกอบรมล่วงหน้าสำหรับเครือข่ายประสาทลึกสำหรับการรู้จำคำศัพท์ขนาดใหญ่ George E. Dahl, Dong Yu, Li Deng, และ Alex Acero ธุรกรรม IEEE เกี่ยวกับเสียงพูดและการประมวลผลภาษา 2012 https://s3.amazonaws.com/ academia.edu.documents / 34691735 / dbn4lvcsr-transaslp.pdf? AWSAccessKeyId = AKIAIWOWYYGZ2Y53UL3A และหมดอายุ = 1534211789 & ลายเซ็น = 33QcFP0JGFeA% 2FTsqjQZpXYrIGm8% 3D และการตอบสนองเนื้อหาจำหน่าย = อินไลน์% 3B% 20filename% 3DContext-Dependent_Pre-Trained_Deep_Neura.pdf

การฝังเอนทิตีและความสัมพันธ์เพื่อการเรียนรู้และการอนุมานในฐานความรู้ Bishan Yang1, เหวินเต่าเอกภาพ 2, Xiaodong He2, Jianfeng Gao2, และ Li Deng2 รายงานการประชุม ICLR 2015 https://arxiv.org/pdf/1412.6575.pdf

อัลกอริทึมการเรียนรู้ที่รวดเร็วสำหรับความเชื่อที่ลึกอวน Geoffrey E. Hinton, Simon Osindero, Yee-Whye Teh (สื่อสารโดย Yann Le Cun) การคำนวณทางประสาท 18 2006 http://axon.cs.byu.edu/Dan/778/papers/Deep % 20 เครือข่าย / hinton1 * .pdf

FINN: กรอบสำหรับการอนุมานเครือข่ายประสาทแบบ Binarized ที่ปรับขนาดได้อย่างรวดเร็ว Yaman Umuroglu และอื่น ๆ 2016 https://arxiv.org/pdf/1612.07119.pdf

จากการเรียนรู้ของเครื่องจนถึงการใช้เหตุผลเครื่องLéon Bottou 2/8/2554 https://arxiv.org/pdf/1102.1808.pdf

การเรียนรู้อย่างลึกซึ้ง Yann LeCun1,2, Yoshua Bengio3 และ Geoffrey Hinton4,5 ธรรมชาติเล่มที่ 521 2015 https://www.evl.uic.edu/creativecoding/courses/cs523/slides/week3/DeepLearning_LeCun.pdf


-1

เป็นไปได้ แต่อาจไม่ใช่ความคิดที่ดี

การพิสูจน์ทางลอจิกเป็นหนึ่งในพื้นที่ที่เก่าแก่ที่สุดของ AI และมีเทคนิคที่สร้างขึ้นมาเพื่อวัตถุประสงค์ที่ไม่จำเป็นต้องได้รับการฝึกอบรมและมีความน่าเชื่อถือมากกว่าการใช้โครงข่ายประสาทเทียมเนื่องจากพวกเขาไม่ได้ใช้เหตุผลเชิงสถิติ และใช้เพื่อนของนักคณิตศาสตร์แทน: การใช้เหตุผลแบบนิรนัย

ฟิลด์หลักเรียกว่า " ทฤษฎีบทการพิสูจน์แบบอัตโนมัติ " และมันเก่าพอที่จะทำให้เป็นบิตกลายเป็นพื้นที่การวิจัย มีนวัตกรรมไม่มากนัก แต่บางคนก็ยังทำงานอยู่

แนวคิดพื้นฐานคือการพิสูจน์ทฤษฎีบทเป็นเพียงการค้นหาแบบชี้นำหรือแบบศึกษาสำนึก: คุณเริ่มจากรัฐที่ประกอบด้วยสถานที่ที่เป็นที่ยอมรับ จากนั้นคุณใช้กฎการอนุมานเชิงตรรกะที่ถูกต้องเพื่อสร้างสถานที่ใหม่ที่ต้องเป็นจริงโดยขยายชุดความรู้ที่คุณมี ในที่สุดคุณสามารถพิสูจน์หลักฐานที่ต้องการได้ไม่ว่าจะเป็นการค้นหาแบบนับจำนวนเช่นการค้นหาแบบกว้างหรือการวนซ้ำลึกหรือผ่านสิ่งที่คล้ายA *พร้อมการแก้ปัญหาเฉพาะโดเมน นักแก้ปัญหาจำนวนมากยังใช้เพียงหนึ่งกฎตรรกะ ( การรวม ) เพราะมันสมบูรณ์และลดปัจจัยการแตกสาขาของการค้นหา


การที่คนยังทำงานต่อไปอาจเป็นสาเหตุของการขาดนวัตกรรม เราไม่ควรห้าม Max อย่างรวดเร็วโดยเฉพาะอย่างยิ่งเนื่องจากทฤษฎีบทอัตโนมัติที่พิสูจน์การทำงานในยุคแรก ๆ ของ LISP ไม่ได้ใช้เทคนิคที่มีอยู่ในปัจจุบันมากมาย ทำไม? นี่คือสิ่งที่ฉันพูดถึงในความคิดเห็นอื่น คนที่ใช้ระบบการผลิตไม่ได้มีปฏิสัมพันธ์กับคนรับรู้มากนัก มีการสบประมาท แต่มหาวิทยาลัยที่เกี่ยวข้องได้ลบพวกเขาออกจากมุมมองสาธารณะ
FauChristian
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.