มีข้อโต้แย้งทางวิทยาศาสตร์ / คณิตศาสตร์ที่ป้องกันไม่ให้การเรียนรู้อย่างลึกซึ้งจากการผลิต AI ที่แข็งแกร่งหรือไม่?


12

ฉันอ่านThe Book of Why ของจูเดียเพิร์ลซึ่งเขากล่าวว่าการเรียนรู้อย่างลึกซึ้งเป็นเพียงแค่เทคโนโลยีการปรับโค้งที่ได้รับการยกย่องและจะไม่สามารถสร้างสติปัญญาของมนุษย์ได้

จากหนังสือของเขามีแผนภาพนี้ที่แสดงความสามารถทางปัญญาสามระดับ:

ความสามารถทางปัญญาสามระดับ

แนวคิดก็คือ "ปัญญา" ที่ผลิตโดยเทคโนโลยีการเรียนรู้ลึกในปัจจุบันนั้นอยู่ในระดับของการเชื่อมโยงเท่านั้น ดังนั้น AI จึงไม่มีที่ไหนใกล้กับระดับของคำถามที่ถามเช่น "ฉันจะทำให้ Y เกิดขึ้นได้อย่างไร" (การแทรกแซง) และ "จะเกิดอะไรขึ้นถ้าฉันทำสิ่งที่แตกต่างไป (counterfactuals) และเป็นไปได้ยากที่เทคนิคการปรับโค้งจะทำให้เราเข้าใกล้ความสามารถทางปัญญาในระดับที่สูงขึ้น

ฉันพบว่าเหตุผลของเขาโน้มน้าวใจในระดับสัญชาตญาณ แต่ฉันไม่สามารถหากฎหมายทางกายภาพหรือคณิตศาสตร์ที่สามารถหนุนหรือสงสัยในการโต้แย้งนี้

ดังนั้นมีข้อโต้แย้งทางวิทยาศาสตร์ / กายภาพ / เคมี / ชีวภาพ / คณิตศาสตร์ที่ป้องกันไม่ให้การเรียนรู้อย่างลึกซึ้งจากที่เคยผลิต AI ที่แข็งแกร่ง (ปัญญาเหมือนมนุษย์)?


ไม่กี่ชั่วโมงก่อนเรามี Quetion บางอย่างที่พูดเกี่ยวกับประสาทวิทยาศาสตร์และปัญญาประดิษฐ์ดังนั้นฉันคิดว่าคำถามนี้เหมาะสมกับการใช้งานข้อมูลที่นอกเหนือจากการเรียนรู้ของเครื่อง
quintumnia

1
ปัญหาอย่างหนึ่งที่ต้องเผชิญในการตอบคำถามนี้ก็คือ "การเรียนรู้ลึก" เป็นชื่อแบรนด์ชนิดหนึ่งซึ่งสิ่งต่าง ๆ ที่ทำกับเครือข่ายประสาทที่เกินกว่าเส้นโค้งทางสถิติ - เช่น RNN สำหรับลำดับการเรียนรู้และ "การเสริมกำลังการเรียนรู้ลึก" - อาจ ก็ถือว่าเป็นส่วนหนึ่งของมันโดยสมัครพรรคพวก หากคุณยอมให้คำศัพท์พัฒนาขึ้นเช่นนี้มันเป็นเรื่องยากมากที่จะตอกย้ำข้อโต้แย้งใด ๆ เกี่ยวกับความสามารถของมัน
Neil Slater

ทฤษฎีความไม่สมบูรณ์ของ godel
riemann77

2
@thecomplexitytheorist: ความไม่สมบูรณ์ของ Godel, entscheidungsproblem และ similars ทั้งหมดที่พวกเขาสามารถทำได้เช่นเดียวกันกับจิตใจมนุษย์ โดยสรุปหากพวกเขามีเหตุผลที่จะไม่เข้าถึง AI แล้วมนุษย์ก็ไม่ฉลาด Modens tollens, Godels ไม่เป็นปัญหาในเส้นทางสู่ AGI
pasaba por aqui

ใครจะพูดว่า 'การทำ' และ 'การจินตนาการ' ไม่ใช่แค่ 'Curve-Fitting' ที่เกิดขึ้นในสมอง
Dunk

คำตอบ:


3

ความคิดเห็นของจูเดียเพิร์ลในปี 2018 เกี่ยวกับ ACM.org ในการสร้างเครื่องจักรที่ชาญฉลาดอย่างแท้จริงการสอนสาเหตุและผลกระทบของพวกเขาคือการเจาะความจริง

ความสำเร็จทั้งหมดที่น่าประทับใจของจำนวนการเรียนรู้ลึกเพียงแค่ปรับเส้นโค้ง

Rn

  1. เครือข่ายประดิษฐ์ไม่สามารถใช้ตรรกะได้
  2. เครือข่ายประดิษฐ์เป็นวิธีการที่ดีที่สุดสำหรับ AI

เหตุผลสามารถแยกออกจากรายการคุณลักษณะของมนุษย์ที่สำคัญของสติปัญญาซึ่งเป็นสิ่งที่ยืนยันทั้งสองร่วมกันจะหมายถึงอะไร

สมองของมนุษย์เป็นเครือข่ายของตัวสร้างเส้นโค้งที่ซับซ้อนหรือไม่? คำพูดที่โด่งดังของมาร์วินมินสกี "สมองได้กลายเป็นเครื่องทำเนื้อสัตว์" ได้รับการเสนอโดยไม่มีการพิสูจน์และไม่ได้พิสูจน์ว่าเขามีสมองเป็นมนุษย์เล็กน้อยหรือพิสูจน์ได้ว่าสมองอยู่เหนือการคำนวณของทัวริง .

เมื่อคุณอ่านคำเหล่านี้เครือข่ายประสาทของคุณทำลำดับของเส้นโค้งต่อไปนี้พอดีหรือไม่

  • ขอบจากแท่งและจอประสาทตา
  • เส้นจากขอบ
  • รูปร่างจากเส้น
  • ตัวอักษรจากรูปร่าง
  • องค์ประกอบทางภาษาศาสตร์จากกลุ่มตัวอักษร
  • โครงสร้างภาษาศาสตร์จากองค์ประกอบ
  • ความเข้าใจจากโครงสร้างภาษาศาสตร์

กรณีนี้มีความแข็งแกร่งสำหรับการยืนยันว่าห้าข้อแรกเป็นกลไกการรวมกันของแบบจำลองและโครงสร้างการเรียนรู้ของเครื่องทั้งหมดเป็นเพียงวิธีการที่เหมาะสมกับข้อมูลกับแบบจำลอง

ไอเท็มหัวข้อย่อยสองรายการสุดท้ายนั้นเป็นที่ที่กระบวนทัศน์แตกหักและที่นักวิจัยและผู้เขียน AI หลายคนระบุไว้อย่างถูกต้องว่าการเรียนรู้ของเครื่องนั้นมีข้อ จำกัด ที่สำคัญเมื่อยึดตาม perceptrons แบบหลายชั้น นอกจากนี้รายการสัญลักษณ์แสดงหัวข้อย่อยครั้งสุดท้ายมีการปรับให้เกินความคาดหมายอย่างมากในสถานะปัจจุบันอาจเป็นไปตามคำสั่งขนาด แม้ว่ามินสกีนั้นถูกต้องที่คอมพิวเตอร์สามารถทำสิ่งที่สมองทำได้กระบวนการในการอ่านและทำความเข้าใจในย่อหน้านี้อาจมีองค์ประกอบกระบวนการที่ไม่ซ้ำกันหลายพันชนิดในรูปแบบของเวิร์กโฟลว์ภายในพร้อมกับการขนานขนาดใหญ่ เทคโนโลยีการถ่ายภาพบ่งชี้ความน่าจะเป็นนี้ เรามีคอมพิวเตอร์ที่สร้างโมเดลเฉพาะอุปกรณ์ต่อพ่วงที่ง่ายที่สุด

มีข้อโต้แย้งทางวิทยาศาสตร์ / คณิตศาสตร์ที่ป้องกันไม่ให้การเรียนรู้อย่างลึกซึ้งจากการผลิต AI ที่แข็งแกร่งหรือไม่? - ไม่ แต่ไม่มีการโต้แย้งใด ๆ ที่รับรองได้เช่นกัน

คำถามอื่น ๆ ที่นี่ตรวจสอบว่าตัวดัดแปลงเส้นโค้งที่ซับซ้อนเหล่านี้สามารถแสดงองค์ประกอบของการรับรู้หรือการใช้เหตุผล

โทเท็มทั้งสามในภาพของคำถามการเห็นการทำและการจินตนาการไม่สมบูรณ์ครบถ้วนแม่นยำหรือลึกซึ้ง

  • อย่างน้อยห้ากระบวนทัศน์ทางประสาทสัมผัสในมนุษย์ไม่ใช่อย่างใดอย่างหนึ่ง
  • การทำความรู้สึกของมนุษย์ก่อนหน้านี้โดยพันล้านปี - แบคทีเรียทำ
  • การจินตนาการไม่ใช่กระบวนการที่สูงกว่าการจำลองสถานการณ์จากแบบจำลองของประสบการณ์ที่ผ่านมาอย่างมีนัยสำคัญด้วยวิธีการบางอย่างเพื่อใช้ฟังก์ชั่นการตั้งค่าเพื่อรวมพวกเขาและฉีดการกลายพันธุ์แบบสุ่ม
  • ความคิดสร้างสรรค์อาจจะจินตนาการในไอเท็มหัวข้อย่อยก่อนหน้าตามด้วยการกำจัดผลลัพธ์ด้านจินตนาการที่ไร้ประโยชน์ด้วยเกณฑ์คุณภาพเชิงตลาดบางอย่างทิ้งผลิตภัณฑ์สร้างสรรค์ที่น่าประทับใจที่ขาย

รูปแบบที่สูงขึ้นคือการชื่นชมความรู้สึกของความเป็นจริงเกินขอบเขตของการวัดทางวิทยาศาสตร์ข้อสงสัยที่ถูกต้องตามกฎหมาย, ความรัก, การเสียสละเพื่อประโยชน์ของผู้อื่นหรือมนุษยชาติ

หลายคนยอมรับว่าสถานะปัจจุบันของเทคโนโลยี AI ไม่มีที่ไหนใกล้กับการจัดหาระบบที่สามารถตอบได้อย่างน่าเชื่อถือ "ฉันจะทำให้ Y เกิดขึ้นได้อย่างไร" หรือ "ถ้าฉันทำแตกต่างกัน X จะยังคงเกิดขึ้นหรือไม่"

ไม่มีข้อพิสูจน์ทางคณิตศาสตร์ว่าการรวมกันขององค์ประกอบการโค้งขนาดเล็กบางอย่างสามารถหรือไม่สามารถบรรลุความสามารถในการตอบคำถามเหล่านั้นเช่นเดียวกับมนุษย์ทั่วไปสามารถส่วนใหญ่เพราะมีความเข้าใจไม่เพียงพอของสติปัญญาคืออะไรหรือวิธีการกำหนดในแง่คณิตศาสตร์

อาจเป็นไปได้ว่าสติปัญญาของมนุษย์ไม่มีอยู่เลยการอ้างอิงนั้นขึ้นอยู่กับความเชื่อทางศาสนาว่าเราสูงกว่าสายพันธุ์อื่น การที่เราสามารถเติมบริโภคและกำจัดได้จริง ๆ แล้วไม่ใช่ความคิดที่ชาญฉลาดของปัญญา

การอ้างว่าสติปัญญาของมนุษย์เป็นการปรับตัวที่ทำให้เราแตกต่างจากสัตว์เลี้ยงลูกด้วยนมอื่น ๆ ที่ขัดแย้งกับว่าเราปรับตัวได้ดีหรือไม่ เรายังไม่ได้ทดสอบ มาเป็นนักฆ่าอุกกาบาตระดับโลกคนต่อไปด้วยคลื่นกระแทกขนาดของดาวตกอุกกาบาต Chicxulub ตามด้วยฤดูหนาวสุริยะสองสามพันปีและเราจะเห็นว่ามันเป็นปี 160,000 ปีหรือการดำรงอยู่ของแบคทีเรีย 4,000,000,000 ปีที่ พิสูจน์ได้อย่างยั่งยืนมากขึ้น ในช่วงเวลาของชีวิตสติปัญญาของมนุษย์ยังไม่ได้พิสูจน์ตัวเองอย่างมีนัยสำคัญว่าเป็นลักษณะการปรับตัว

สิ่งที่ชัดเจนเกี่ยวกับการพัฒนา AI ก็คือระบบประเภทอื่น ๆ มีบทบาทพร้อมกับผู้เรียนอย่างลึกซึ้งโดยใช้แนวคิดหลายชั้น perceptron และเมล็ดที่มีลักษณะเฉพาะซึ่งเป็นเมล็ดพันธุ์ที่ยึดติดผิวอย่างเคร่งครัด

ส่วนประกอบ Q-learning, ส่วนประกอบที่ให้ความสนใจและส่วนประกอบหน่วยความจำระยะสั้นล้วนมีพื้นผิวที่มีความแข็งแรงมากเช่นกัน แต่เพียงแค่ยืดความหมายของการปรับพื้นผิวให้เหมาะสม พวกเขามีคุณสมบัติและสถานะการปรับตัวตามเวลาจริงเพื่อให้พวกเขาสามารถทัวริงได้อย่างสมบูรณ์

ภาชนะตรรกะฟัซซีระบบที่อิงกฎระเบียบอัลกอริธึมที่มีคุณสมบัติของมาร์คอฟและส่วนประกอบอื่น ๆ อีกมากมายก็มีบทบาทและไม่เหมาะกับพื้นผิวเลย

โดยสรุปมีจุดที่มีพื้นฐานมากกว่าความน่าเชื่อถือหรือคุณภาพที่น่าพึงพอใจอย่างไรก็ตามผู้เขียนหลายคนเหล่านี้ไม่ได้ให้กรอบทางคณิตศาสตร์ที่มีคำจำกัดความแอปพลิเคชันบทแทรกทฤษฎีบทบทพิสูจน์หรือแม้แต่การทดลองทางความคิด พิจารณาอย่างเป็นทางการ


1

มันเป็นสิ่งที่ขัดแย้งกัน แต่เครื่องเรียนรู้อย่างลึกซึ้ง (นิยามว่าเป็นตัวแปร NeuralNet) ไม่สามารถเรียนรู้อะไรได้ มันเป็นสถาปัตยกรรมฮาร์ดแวร์ / ซอฟต์แวร์ที่ยืดหยุ่นและสามารถกำหนดค่าได้ซึ่งสามารถนำมาใช้แก้ไขปัญหาได้มากมาย แต่พารามิเตอร์ที่ดีที่สุดในการแก้ไขปัญหานั้นได้มาจากระบบภายนอกเช่นอัลกอริทึมการกระจายกลับ

ระบบย่อย Back-propagation ใช้กระบวนทัศน์การเขียนโปรแกรมทั่วไปไม่ใช่ Neural Net ความจริงข้อนี้ขัดแย้งกับจิตใจมนุษย์อย่างสมบูรณ์ซึ่งการเรียนรู้และการใช้ความรู้นั้นกระทำโดยระบบเดียวกัน (ใจ)

หากสิ่งที่น่าสนใจจริง ๆ ทำนอก NN มันก็ยากที่จะอ้างว่า NN (ในตัวแปรใด ๆ ) สามารถพัฒนาใน AGI

นอกจากนี้ยังเป็นไปได้ที่จะพบความแตกต่างเพิ่มเติม โครงข่ายประสาทเป็นตัวเลขที่แข็งแกร่งในส่วนต่อประสานและภายใน จากมุมมองนี้พวกเขาเป็นวิวัฒนาการของเครื่องเวกเตอร์สนับสนุน

ความแตกต่างและข้อ จำกัด มากเกินไปที่จะคาดหวัง AGI

หมายเหตุ: ฉันไม่เห็นด้วยอย่างยิ่งกับการดึงที่รวมอยู่ในคำถามเดิม "การเห็น", "กำลังทำ", "การถ่ายภาพ" เป็นระดับที่ผิดอย่างแน่นอน มันจะละเว้นจากแนวคิดซอฟต์แวร์พื้นฐานและทั่วไปเป็น "นามธรรม" หรือ "สถานะโปรแกรม" (จากใจในคำทัวริง); ใช้ AI ในฐานะ "ผู้คาดการณ์ล่วงหน้า"; และ AGI นั้นเป็น "เจตจำนงเสรี", "วัตถุประสงค์และความรู้สึก", ...


4
ฉันคิดว่าการลบการเผยแพร่กลับ (หรือส่วนใดส่วนหนึ่งของกรอบการฝึกอบรม) จากการพิจารณาและอ้างว่าส่วนที่เหลือคือส่วน"การเรียนรู้ลึก" นั้นเป็นสิ่งประดิษฐ์และการหลบคำถาม ฉันคิดว่ามันสมเหตุสมผลที่จะสันนิษฐานว่า OP หมายถึงการเรียนรู้ลึกในขณะที่มันถูกฝึกรวมถึงกระบวนการฝึกอบรมที่มีอยู่
Neil Slater

1
@ NeilSlater: ถ้าเราบอกว่า DL เป็น NeuralNet (เพื่อสังเกตความคล้ายคลึงกันกับจิตใจมนุษย์และด้วยเหตุนี้พลังที่เป็นไปได้ที่จะไปถึง AGI) เราไม่รวมส่วนการเรียนรู้นั่นไม่ใช่ NN . ถ้าเรารวมระบบย่อยการเรียนรู้ในคำจำกัดความของ DL มันก็ไม่ใช่ NN มันเป็นเพียงโปรแกรมทั่วไปที่มีพลังของโปรแกรมทั่วไปใด ๆ และมีความเป็นไปได้เดียวกันในการเข้าถึง AGI กว่าระบบโปรแกรมหรือกระบวนทัศน์อื่น ๆ
pasaba por aqui

สมองของมนุษย์เรียนรู้โดยการรับและประมวลผลอินพุตจาก 'ระบบ' ภายนอกโดยเฉพาะ พารามิเตอร์ที่ดีที่สุดในการแก้ปัญหานั้นเกิดจากการลองผิดลองถูกใช้กฎและการประมวลผลอินพุตจากระบบภายนอก การฝึกเริ่มต้นในขณะที่ทารกยังอยู่ในมดลูก สถานะปัจจุบันของ AI นั้นแทบจะไม่เทียบเท่ากับการเลียนแบบสมองมนุษย์ แต่อ้างว่า AI ไม่สามารถเรียนรู้ (หรือยังไม่ได้เรียนรู้ในวิธีที่คล้ายกับสมองมนุษย์) สมมติความรู้ว่าสมองของมนุษย์ 'เรียนรู้' และฟังก์ชั่นที่วิทยาศาสตร์ยังไม่ทราบ
Dunk
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.