สิ่งที่เรารู้
ตามหน้าธนาคารโลก "วันนี้มีนักเรียนระดับอุดมศึกษาประมาณ 200 ล้านคนในโลกเพิ่มขึ้นจาก 89 ล้านคนในปี 2541" อย่างน้อย 1 ใน 100 มีข้อกำหนดคณิตศาสตร์ต้องพัฒนาหลักฐานสำหรับทฤษฎีบทและใช้ชีวิตอย่างน้อย 40 ปีหลังจากนั้น
แม้ว่าจะมีตาข่ายประสาทอย่างน้อย 20 ล้านเส้นที่สามารถพิสูจน์ทฤษฎีบทได้ แต่ก็มีตัวอย่างที่ไม่สามารถตอบคำถามนี้ได้ในการยืนยัน เครือข่ายประสาทเหล่านี้เป็นสิ่งมีชีวิตทางชีวภาพไม่ใช่สิ่งประดิษฐ์และพวกเขาได้พิสูจน์ทฤษฎีบทที่ได้รับการพิสูจน์มาแล้วก่อนหน้านี้ไม่ใช่การคาดคะเน Collatz หรือการคาดการณ์ของ Riemann
บางคนเชื่อ
ผู้ที่เชื่อว่าอุปกรณ์การเรียนรู้ Q- ลึกและความสนใจจะเข้าร่วมโดยการออกแบบระบบการเรียนรู้อื่น ๆ จนกว่าคณะของสมองมนุษย์จะถูกจำลองและอาจเหนือกว่าอาจรวมถึงทฤษฎีบทที่พิสูจน์ว่าเป็นหนึ่งในความสามารถของมนุษย์ สิ่งเหล่านี้น่าจะประกาศเหตุผลของการอนุมานและการอนุมานว่าเป็นอีกหนึ่งฟังก์ชันการรับรู้ที่ซับซ้อนซึ่งจะเกิดขึ้นในระบบประดิษฐ์
ผู้ที่เชื่อว่าความสามารถบางอย่างนั้นถูกฝังอยู่ในมนุษย์และเป็นความสามารถที่สงวนไว้อาจประกาศเหตุผลและข้ออนุมานที่สงวนไว้สำหรับมนุษย์โดยลำพัง
สถานะปัจจุบันของความคืบหน้า
ไม่มีบทความทางวิชาการที่บ่งบอกถึงความสามารถในการพิสูจน์แม้แต่บทพิสูจน์ที่ง่ายที่สุดโดยใช้เหตุผลและการอนุมาน เป็นไปได้ว่ารัฐบาลหรือองค์กรเอกชนได้บรรลุระดับความสำเร็จในการทำเช่นนั้น แต่ยังไม่ได้รับการเปิดเผย
ความคิดที่ว่าเครือข่ายประดิษฐ์หากพัฒนาขึ้นอย่างน่าทึ่งอาจเหนือกว่าระบบการผลิตระบบ AI ที่ยึดตามการผลิตหรือกฎระเบียบในพื้นที่ที่มีประสิทธิผลมากที่สุดนั้นได้เสนอเสนอในช่วงต้นของการพัฒนา AI มันถูกโต้แย้งแล้วและโต้แย้งในขณะนี้อย่างไรก็ตามข้อโต้แย้งไม่ใช่ทางคณิตศาสตร์ดังนั้นจึงไม่มีข้อบ่งชี้ที่ชัดเจนว่าเป็นไปไม่ได้
แง่มุมอื่น ๆ ทางความคิดของความคิดของมนุษย์เป็นวัตถุประสงค์สำคัญของการวิจัย AI โต้ตอบการศึกษาอัตโนมัติการวางแผนการวิเคราะห์เชิงกลยุทธ์และการนำยานพาหนะเป็นความคิดที่สูงกว่าที่ต้องการมากกว่า DQN และวิธีการตามความสนใจของเครือข่ายที่สามารถส่งมอบได้ในขณะนี้ แต่ความพยายามในการวิจัยในพื้นที่เหล่านี้
วิธีการที่มีศักยภาพ
การวิจัยเกี่ยวกับความสามารถทางปัญญาเชิงตรรกะควรเริ่มพิสูจน์แล้วรู้ได้ง่ายกว่าการคาดเดาที่กล่าวถึงในคำถาม ตัวอย่างเช่นได้รับการพิสูจน์แล้วว่าผลรวมของจำนวนเต็มสองจำนวนที่ไม่ใช่ลบต้องเป็นจำนวนเต็มอื่นที่ไม่ใช่ลบ ในแคลคูลัสเพรดิเคตที่สามารถแสดงเป็นสตริงอักขระ
∀ a ∈ C, b ∈ C: s = a + b⟹s ∈ C
มันบอกว่า a และ b เป็นสมาชิกของชุดการนับตัวเลขซึ่ง s ที่นิยามไว้เป็นผลรวมของทั้งสองนั้นจะต้องเป็นสมาชิกของชุดการนับตัวเลขด้วย การพิสูจน์สามารถแสดงเป็นลำดับของสตริงอักขระของแคลคูลัสภาคแสดงคำสั่งแรก
ไม่มีโครงการวิจัยขนาดเล็ก
ตัวอย่างเช่นนี้อาจดูง่ายสำหรับคนที่เรียนวิชาคณิตศาสตร์มาหลายปีและสร้างหลักฐานมาแล้ว มันไม่ใช่เรื่องง่ายสำหรับเด็กและเป็นการยากมากที่จะทำให้เครือข่ายเทียมมาบรรจบกับฟังก์ชั่นที่ใช้กฎการอนุมานแบบลอจิคัลทั้งหมดและรวมเมตา - กฎสำหรับการพิสูจน์หลักฐานสำหรับระบบที่เป็นทางการเช่นเลขคณิตเลขจำนวนเต็ม
การทำให้เครือข่ายที่สมบูรณ์เช่น RNNs นั้นมีข้อได้เปรียบมากกว่า MLPs (multilayer perceptrons) เครือข่ายตามความสนใจอาจเป็นตัวเลือกการวิจัยที่สมเหตุสมผล มีคนอื่นระบุไว้ในข้อมูลอ้างอิงด้านล่าง
ต้องใช้แพลตฟอร์มการคำนวณแบบขนานสำหรับการวิจัยเนื่องจากเวกเตอร์อินพุตอาจมีหลายร้อย Kbytes ขนาดของตัวอย่างและจำนวนที่ต้องการก็ยากที่จะประมาณโดยไม่ต้องใช้เวลาหนึ่งหรือสองปีในกระบวนการวิจัย
คำจำกัดความของการนับตัวเลขเครื่องหมายบวกและเครื่องหมายเท่ากับต้องถูกกำหนดก่อนและคำจำกัดความเหล่านั้นและจำนวนสัจพจน์สัมพัทธภาพบทแทรกและบทพิสูจน์ต้องเป็นส่วนหนึ่งของตัวอย่างอินพุตในรูปแบบที่เป็นทางการเช่นข้อเสนอที่จะ พิสูจน์แล้วข้างต้นพร้อมกับข้อเสนอนั้น
และนั่นคืองานที่ต้องเตรียมเพียงตัวอย่างเดียว คุณต้องมีคนนับพันเพื่อฝึกฝนความรู้อย่างชาญฉลาดเกี่ยวกับกฎการอนุมานในเครือข่ายที่ลึกซึ้ง (ฉันเลือกคำว่า INTUITIVE เป็นอย่างมากโดยเจตนาด้วยเหตุผลทางทฤษฎีซึ่งอาจใช้เวลาอย่างน้อยหนึ่งร้อยหน้าในการอธิบายได้ดี)
นี่ไม่ใช่โครงการขนาดเล็กเนื่องจากชุดข้อมูลตัวอย่างต้องมีอย่างน้อยสองสามพันกรณีและแต่ละกรณีแม้ว่ามันอาจจะใช้ทฤษฎีบางอย่างร่วมกันก็ต้องจัดทำขึ้นเพื่อให้ข้อเสนอเกิดขึ้นอย่างสมบูรณ์และนำเสนอเนื้อหาทางทฤษฎีที่จำเป็น ในรูปแบบที่สมบูรณ์แบบสำหรับการป้อนข้อมูลสำหรับการฝึกซ้ำแต่ละครั้ง
ฉันเดาว่ามันจะต้องใช้ทีมนักวิจัยที่มีความสว่างพร้อมความเข้าใจที่เหมาะสมเกี่ยวกับเครือข่ายที่ลึกการบรรจบกันและแคลคูลัสภาคแสดงประมาณสิบปีในการฝึกอบรมเครือข่ายเพื่อให้พิสูจน์ได้จริงในข้อเสนอทางคณิตศาสตร์อย่างง่าย
แต่มันจะไม่ประสบความสำเร็จขนาดเล็ก
นั่นอาจเป็นความพยายามที่ไร้สาระสำหรับบางคน แต่มันเป็นครั้งแรกที่มีคนสอนคอมพิวเตอร์ถึงวิธีการใช้เหตุผล ธรรมชาติใช้เวลาไม่ถึงอายุของโลกในการสอนการอนุมานแบบมีเหตุผลกับสิ่งมีชีวิตโสเครติส
ผู้คนคิดว่าเพราะคอมพิวเตอร์ประกอบด้วยวงจรดิจิตอลที่ใช้ตรรกะโดยการออกแบบว่าคอมพิวเตอร์เป็นตรรกะ ทุกคนที่ได้รับการพัฒนาซอฟต์แวร์มานานหลายทศวรรษด้วยความชอบที่จะคิดให้ลึกซึ้งยิ่งกว่าการแฮ็คเพื่อความสนุกหรือเงินรู้ต่างกัน แม้หลังจากการเขียนโปรแกรมอย่างระมัดระวังคอมพิวเตอร์จะไม่จำลองการอนุมานแบบลอจิคัลและไม่สามารถแก้ไขพฤติกรรมที่โปรแกรมของตนเองสำหรับข้อผิดพลาดใด ๆ ในความเป็นจริงการพัฒนาซอฟต์แวร์ส่วนใหญ่ในปัจจุบันคือการแก้ไขข้อผิดพลาด
การจำลองความคิดเชิงตรรกะจะเป็นก้าวสำคัญในการจำลองการรับรู้และความสามารถของมนุษย์ในวงกว้าง
อ้างอิง
เรียนรู้ที่จะเขียนโครงข่ายประสาทเทียมเพื่อตอบคำถามจาค็อบแอนดรีอัสมาร์คัสรูห์บาคเทรเวอร์ดาร์เรลและแดนไคลน์ UC เบิร์กลีย์ 2016
https://arxiv.org/pdf/1601.01705.pdf
เรียนรู้การเป็นตัวแทนหลายชั้น Geoffrey E. Hinton ภาควิชาวิทยาการคอมพิวเตอร์, มหาวิทยาลัยโตรอนโต 2007
http://www.csri.utoronto.ca/~hinton/absps/ticsdraft.pdf
Neural Turing Machine (สไลด์โชว์) ผู้แต่ง: Alex Graves, Greg Wayne, Ivo Danihelka นำเสนอโดย: Tinghui Wang (Steve)
https://eecs.wsu.edu/~cook/aiseminar/papers/steve.pdf
เครื่องทัวริงประสาท (กระดาษ) Alex Graves, Greg Wayne, Ivo Danihelka
https://pdfs.semanticscholar.org/c112/6fbffd6b8547a44c58b192b36b08b18299de.pdf
2014
เสริมสร้างการเรียนรู้ประสาททัวริงเครื่องวอย Zaremba อิลยา Sutskever ICLR กระดาษประชุม
https://arxiv.org/pdf/1505.00521.pdf?utm_content=buffer2aaa3&utm_medium=social&utm_source=twitter.com&utm_campaign=buffer
2016
เครื่องทัวริงประสาทแบบไดนามิกที่มีรูปแบบการกำหนดแอดเดรสแบบต่อเนื่องและไม่ต่อเนื่อง Caglar Gulcehre1, Sarath Chandar1, Kyunghyun Cho2, Yoshua Bengio1
https://arxiv.org/pdf/1607.00036.pdf
2017
On-Line การสร้างฝอยประสาทด้วยตนเองเครือข่ายการอนุมานและแอปพลิเคชัน Chia-Feng Juang และ Chin-Teng Lin ธุรกรรม IEEE บนระบบ Fuzzy, v6, n1 1998
https://ir.nctu.edu.tw/bitstream/11536/ 32809/1 / 000072774800002.pdf
กราฟลำดับของโครงข่ายโครงข่ายประสาทเทียม Yujia Li และ Richard Zemel เอกสารการประชุม ICLR 2016
https://arxiv.org/pdf/1511.05493.pdf
เครื่องสร้างที่เรียนรู้และคิดเหมือนคน Brenden M. Lake, Tomer D. Ullman, Joshua B. Tenenbaum, และ Samuel J. Gershman พฤติกรรมศาสตร์และวิทยาศาสตร์สมอง 2016
https://arxiv.org/pdf/1604.00289.pdf
บริบทขึ้นอยู่กับการฝึกอบรมล่วงหน้าสำหรับเครือข่ายประสาทลึกสำหรับการรู้จำคำศัพท์ขนาดใหญ่ George E. Dahl, Dong Yu, Li Deng, และ Alex Acero ธุรกรรม IEEE เกี่ยวกับเสียงพูดและการประมวลผลภาษา 2012
https://s3.amazonaws.com/ academia.edu.documents / 34691735 / dbn4lvcsr-transaslp.pdf? AWSAccessKeyId = AKIAIWOWYYGZ2Y53UL3A และหมดอายุ = 1534211789 & ลายเซ็น = 33QcFP0JGFeA% 2FTsqjQZpXYrIGm8% 3D และการตอบสนองเนื้อหาจำหน่าย = อินไลน์% 3B% 20filename% 3DContext-Dependent_Pre-Trained_Deep_Neura.pdf
การฝังเอนทิตีและความสัมพันธ์เพื่อการเรียนรู้และการอนุมานในฐานความรู้ Bishan Yang1, เหวินเต่าเอกภาพ 2, Xiaodong He2, Jianfeng Gao2, และ Li Deng2 รายงานการประชุม ICLR 2015
https://arxiv.org/pdf/1412.6575.pdf
อัลกอริทึมการเรียนรู้ที่รวดเร็วสำหรับความเชื่อที่ลึกอวน Geoffrey E. Hinton, Simon Osindero, Yee-Whye Teh (สื่อสารโดย Yann Le Cun) การคำนวณทางประสาท 18 2006
http://axon.cs.byu.edu/Dan/778/papers/Deep % 20 เครือข่าย / hinton1 * .pdf
FINN: กรอบสำหรับการอนุมานเครือข่ายประสาทแบบ Binarized ที่ปรับขนาดได้อย่างรวดเร็ว Yaman Umuroglu และอื่น ๆ 2016
https://arxiv.org/pdf/1612.07119.pdf
จากการเรียนรู้ของเครื่องจนถึงการใช้เหตุผลเครื่องLéon Bottou 2/8/2554
https://arxiv.org/pdf/1102.1808.pdf
การเรียนรู้อย่างลึกซึ้ง Yann LeCun1,2, Yoshua Bengio3 และ Geoffrey Hinton4,5 ธรรมชาติเล่มที่ 521 2015
https://www.evl.uic.edu/creativecoding/courses/cs523/slides/week3/DeepLearning_LeCun.pdf