เครือข่ายประสาทการเรียนรู้ที่ลึกจะทำงานบนคอมพิวเตอร์ควอนตัมหรือไม่


15

Deep Learning (เครือข่ายประสาทเทียมหลายชั้นที่ใช้ในงานการเรียนรู้ด้วยเครื่องภายใต้การดูแลและไม่ได้รับการดูแล) เป็นเครื่องมือที่ทรงพลังอย่างเหลือเชื่อสำหรับงานการเรียนรู้ของเครื่องที่ยากที่สุด: การจดจำรูปภาพ, การจดจำวิดีโอ, การรู้จำเสียง ฯลฯ ของอัลกอริทึมการเรียนรู้ของเครื่องจักรที่ทรงพลังที่สุดและ Quantum Computing โดยทั่วไปถือว่าเป็นตัวเปลี่ยนเกมสำหรับงานการคำนวณที่ยากมากบางอย่างฉันสงสัยว่ามีการเคลื่อนไหวใด ๆ ในการรวมสองสิ่งเข้าด้วยกัน

  • อัลกอริทึมการเรียนรู้อย่างลึกซึ้งสามารถทำงานบนคอมพิวเตอร์ควอนตัมได้หรือไม่?
  • มันสมเหตุสมผลหรือไม่ที่จะลอง?
  • มีขั้นตอนวิธีควอนตัมอื่น ๆ ที่จะทำให้การเรียนรู้ที่ไม่เกี่ยวข้องลึกลงไป?

1
ฉันไม่ใช่ผู้เชี่ยวชาญ แต่ฉันคิดว่าอัลกอริทึม HHL จะมีประโยชน์ในบริบทนี้
DaftWullie

คำตอบ:


8
  1. ใช่อัลกอริทึมแบบดั้งเดิมทั้งหมดสามารถทำงานได้บนคอมพิวเตอร์ควอนตัมนอกจากนี้อัลกอริทึมแบบดั้งเดิมใด ๆ ที่เกี่ยวข้องกับการค้นหาสามารถรับโดยการใช้อัลกอริทึมโกรเวอร์ ตัวอย่างที่นึกได้คือการปรับแต่งค่าพารามิเตอร์เครือข่ายประสาทอย่างละเอียดว่าเป็นปัญหา "ค้นหาค่าสัมประสิทธิ์"original time

  2. สำหรับความจริงแล้วมีการคำนวณที่ชัดเจนในบางกระบวนการ: ใช่

  3. ไม่ใช่ที่ฉันรู้ แต่คนที่มีความเชี่ยวชาญมากกว่าสามารถพูดสอดในที่นี่หากพวกเขาต้องการ สิ่งหนึ่งที่อยู่ในใจ: บ่อยครั้งที่เราอาจใช้การเรียนรู้เชิงลึกและปัญญาประดิษฐ์รูปแบบอื่น ๆ เพื่อศึกษาปัญหาทางเคมีและฟิสิกส์เพราะการจำลองมีราคาแพงหรือไม่สามารถปฏิบัติได้ ในโดเมนนี้คอมพิวเตอร์ควอนตัมมีแนวโน้มที่จะสังหารบรรพบุรุษดั้งเดิมของพวกเขาเนื่องจากความสามารถในการจำลองระบบควอนตัม (เช่นในเคมีนิวเคลียร์) แบบเรียลไทม์หรือเร็วกว่า

สุดท้ายที่ฉันพูดกับเขา Mario Szegedy สนใจในสิ่งนี้อย่างแน่นอนอาจมีนักวิจัยคนอื่นมากมายที่ทำงานกับมันในตอนนี้


6
ฉันไม่เชื่อว่าอัลกอริทึมของ Grover เกี่ยวข้องที่นี่ อัลกอริทึมของ Grover ค้นหาอินพุตที่ไม่ซ้ำใครหนึ่งตัวที่สร้างเอาต์พุตที่กำหนด OTOH เครือข่ายประสาทเทียมนั้นมีลักษณะที่ไม่เป็นธรรมชาติมากและพวกมันก็ไม่ถูกต้องเช่นกัน
leftaroundabout

มันสามารถถือได้ว่าเป็นปัญหาการค้นหาฐานข้อมูลโดยดูที่ตำแหน่งสูงสุดของทุกสภาวะน้ำหนักที่สามารถเข้ามาให้ฟังก์ชั่นการค้นหากลับมา 1 ถ้าบรรทัดฐานของอนุพันธ์ของตาข่ายประสาทบนอินพุตมาตรฐาน WRT น้ำหนักคือ น้อยกว่าความอดทนที่ต้องการ
frogeyedpeas

1
นั่นจะไร้ประโยชน์อย่างสมบูรณ์ สำหรับปัญหาที่ไม่เกี่ยวกับสิ่งของใด ๆ จะมีชุดค่าผสมหลายแบบซึ่งการไล่ระดับสีเป็นศูนย์ แม้ว่าอัลกอริทึมของโกรเวอร์จะให้สิ่งใดสิ่งหนึ่งกับคุณสิ่งนี้โดยทั่วไปจะไม่เป็นขั้นต่ำ
leftaroundabout

ฉันไม่เห็นด้วยเมื่อพิจารณาโปรโตคอลต่อไปนี้: วานิลลาการไล่ระดับสีลงมาถึงขีด จำกัด จากนั้นใช้การค้นหาของโกรเวอร์ท่ามกลางน้ำหนักที่ จำกัด มากเพื่อรับค่าต่ำสุดที่ยากภายในข้อผิดพลาดที่ถูกผูกไว้ส่วนปลายนั้น ช้าไปสู่ระดับที่เหมาะสมในท้องถิ่นและฉันก็อยากรู้อยากเห็นมากขึ้นถ้านั่นเป็นสิ่งที่การหันไปหาโกรเวอร์อาจเป็นเรื่องที่น่าสนใจ
frogeyedpeas

1
หืมที่อาจทำงานได้; อย่างไรก็ตามในตอนท้ายฉันมั่นใจว่าคุณสามารถทำได้ดีกว่าการไล่ระดับสีด้วยวิธีดั้งเดิม Biconjugate-gradient เป็นผู้สมัครที่ชัดเจน
leftaroundabout

13

นี่เป็นคำถามเปิดกว้างมาก แต่ใช่มีงานจำนวนมากที่ทำในหน้านี้

คำอธิบายบางอย่าง

ประการแรกคือให้สังเกตว่ามีสองวิธีที่สำคัญในการผสานการเรียนรู้ของเครื่อง (และการเรียนรู้เชิงลึกโดยเฉพาะ) เข้ากับกลศาสตร์ควอนตัม / ควอนตัมคอมพิวเตอร์:

ใช้เทคนิคการเรียนรู้เครื่องคลาสสิกที่จะจัดการกับปัญหาที่เกิดขึ้นในบริบทของกลศาสตร์ควอนตัม / ข้อมูลควอนตัม / ควอนตัมการคำนวณ พื้นที่นี้เติบโตเร็วเกินไปสำหรับฉันที่จะลองรายการอ้างอิงที่เหมาะสมดังนั้นฉันจะเชื่อมโยงงานสองสามชิ้นล่าสุดในทิศทางนี้: ใน 1803.04114ผู้เขียนใช้วิธีการเรียนรู้ของเครื่องเพื่อค้นหาวงจรเพื่อคำนวณการทับซ้อนกัน ระหว่างสองรัฐ (มีงานอีกหลายอย่างในทิศทางเดียวกันนี้) และในปี 1803.05193ผู้เขียนศึกษาว่าเครือข่ายประสาทลึกสามารถใช้เพื่อค้นหาแผนการแก้ไขการควบคุมควอนตัม

การศึกษาอัลกอริทึมควอนตัมเพื่อวิเคราะห์ข้อมูลขนาดใหญ่ซึ่งมักจะต้องมองหา "ภาพรวมทั่วไปของควอนตัม " ของอัลกอริทึมการเรียนรู้ของเครื่องคลาสสิก คุณสามารถดูคำตอบอื่น ๆ ของฉันเพื่อรับการอ้างอิงพื้นฐานเกี่ยวกับหัวข้อนี้ โดยเฉพาะอย่างยิ่งในกรณีของการเรียนรู้ลึกใน 1412.3489 (ชื่อเหมาะเจาะควอนตัมการเรียนรู้ลึก ) ผู้เขียนได้นำเสนอวิธีการ (อย่างมีประสิทธิภาพขั้นตอนวิธีการควอนตัม) โดยทั่วไปความเร็วสูงขึ้นของการฝึกอบรมลึกเครื่อง Boltzmann จำกัด การอ้างอิงที่เกี่ยวข้องอื่น ๆ ที่นี่คือ 1712.05304ซึ่งผู้เขียนพัฒนาอัลกอริทึมควอนตัมความลึกต่ำในการฝึกอบรมเครื่องควอนตัม Boltzmann ดู 1708.09757รวมถึงการอ้างอิงในคำตอบที่เชื่อมโยงเพื่อหางานอื่น ๆ อีกมากมายเกี่ยวกับเรื่องนี้ โปรดทราบว่าการเพิ่มความเร็วที่อ้างในงานเหล่านี้อาจแตกต่างกันอย่างมากจากการเพิ่มความเร็วแบบเอกซ์โปเนนเชียลเป็นแบบพหุนาม

บางครั้งความเร็วขึ้นมาจากการใช้อัลกอริธึมเชิงควอนตัมในการแก้ปัญหาพีชคณิตเชิงเส้นโดยเฉพาะ (ดูตัวอย่างเช่นตารางที่ 1 ใน ( 1707.08561 ) บางครั้งมันมาจากสิ่งที่โดยทั่วไปใช้ในการค้นหา (รูปแบบต่างๆ) ของ Grover และอื่น ๆ สิ่งต่าง ๆ (แต่ส่วนใหญ่ทั้งสองนี้) อ้างจาก Dunjko และ Briegel ที่นี่ :

แนวคิดสำหรับการปรับปรุงควอนตัมสำหรับ ML สามารถแบ่งได้เป็นสองกลุ่ม: a) วิธีการซึ่งขึ้นอยู่กับการค้นหาและการขยายแอมพลิจูดของ Grover เพื่อให้ได้ความเร็วอัพกำลังสองและ b) วิธีการเข้ารหัสข้อมูลที่เกี่ยวข้อง และมีศักยภาพในการปรับปรุงเลขชี้กำลังแม้กระทั่ง กลุ่มวิธีที่สองอาจเป็นสายการวิจัยที่พัฒนามากที่สุดในควอนตัม ML และรวบรวมเครื่องมือควอนตัมมากมาย - พีชคณิตเชิงเส้นควอนตัมที่สะดุดตาที่สุดที่ใช้ในข้อเสนอ ML ควอนตัม

คำตอบที่ตรงมากขึ้นสำหรับคำถามที่สาม

ต้องบอกว่าข้างต้นให้ฉันตอบมากกว่าสามจุดที่คุณยกขึ้นโดยตรง:

  1. อัลกอริทึมการเรียนรู้อย่างลึกซึ้งสามารถทำงานบนคอมพิวเตอร์ควอนตัมได้หรือไม่? ใช่แน่นอน: ถ้าคุณสามารถเรียกใช้บางอย่างในคอมพิวเตอร์แบบคลาสสิคคุณสามารถทำได้บนคอมพิวเตอร์ควอนตัม อย่างไรก็ตามคำถามที่เราควรถามก็คืออัลกอริทึมการเรียนรู้ของเครื่องควอนตัม (เชิงลึก) สามารถมีประสิทธิภาพมากกว่าการเรียนแบบดั้งเดิมได้หรือไม่? คำตอบสำหรับคำถามนี้คือเล่ห์เหลี่ยม อาจเป็นไปได้ว่ามีข้อเสนอมากมายในทิศทางนี้ แต่มันเร็วเกินไปที่จะบอกว่าจะทำอะไรหรือไม่ได้ผล

  2. มันสมเหตุสมผลหรือไม่ที่จะลอง? ใช่

  3. มีขั้นตอนวิธีควอนตัมอื่น ๆ ที่จะทำให้การเรียนรู้ที่ไม่เกี่ยวข้องลึกลงไป? สิ่งนี้ขึ้นอยู่กับสิ่งที่คุณหมายถึงโดย " ไม่เกี่ยวข้อง " อย่างมาก ฉันหมายถึงสำหรับสิ่งที่เป็นที่รู้จักในขณะนี้อาจมีอัลกอริธึมแบบคลาสสิกที่จะทำให้การเรียนรู้อย่างลึกซึ้ง "ไม่เกี่ยวข้อง"

3
ในบริบทของคำตอบนี้ผมอยากจะพูดถึงเมื่อเร็ว ๆ นี้กระดาษซึ่งแสดงให้เห็นว่าขั้นตอนวิธีการเพิ่มประสิทธิภาพของควอนตัมโดยประมาณสามารถนำมาใช้ในการฝึกอบรมเครือข่ายประสาท ( จำกัด เครื่อง Boltzmann) โดยการสุ่มตัวอย่างกิ๊บส์โดยประมาณในคอมพิวเตอร์ควอนตัมสากล
Mark Fingerhuth

1
@ MarkFingerhuth ฉันเพิ่มไปยังคำตอบขอบคุณสำหรับตัวชี้ (และยินดีต้อนรับสู่เว็บไซต์!)
glS

2

นี่คือการพัฒนาล่าสุดจากซานาดูวงจรควอนตัมโทนิคซึ่งเลียนแบบโครงข่ายประสาทเทียม นี่คือตัวอย่างของเครือข่ายประสาทที่ทำงานบนคอมพิวเตอร์ควอนตัม

วงจรโทนิคนี้ประกอบด้วย interferometers และ squeezing gates ซึ่งเลียนแบบฟังก์ชั่นการชั่งน้ำหนักของ NN ซึ่งเป็นเกทการกระจัดที่ทำหน้าที่เป็นอคติและการแปลงแบบไม่เป็นเชิงเส้นคล้ายกับฟังก์ชัน ReLU ของ NN

พวกเขายังใช้วงจรนี้เพื่อฝึกอบรมเครือข่ายเพื่อสร้างสถานะควอนตัมและใช้ประตูควอนตัม

ที่นี่มีของพวกเขาสิ่งพิมพ์และรหัสที่ใช้ในการฝึกอบรมวงจร นี่คือบทความกลางที่อธิบายวงจรของพวกเขา


2

คำตอบทั้งหมดที่นี่ดูเหมือนจะไม่สนใจข้อ จำกัด ในทางปฏิบัติขั้นพื้นฐาน:

Deep Learning ทำงานได้ดีที่สุดโดยเฉพาะกับข้อมูลขนาดใหญ่ MNIST คือภาพ 60000 ภาพ, ImageNet คือ 14 ล้านภาพ

ในขณะเดียวกันคอมพิวเตอร์ควอนตัมที่ใหญ่ที่สุดในขณะนี้มี 50 ~ 72 Qbits

แม้ในสถานการณ์ที่มองโลกในแง่ดีที่สุดคอมพิวเตอร์ควอนตัมที่สามารถจัดการปริมาณข้อมูลที่ต้องใช้อัลกอริทึมการเรียนรู้ลึกแทนวิธีการสร้างแบบจำลองแบบดั้งเดิมมากขึ้นจะไม่รอบเมื่อเร็ว ๆ นี้

ดังนั้นการใช้ QC ในการเรียนรู้อย่างลึกซึ้งอาจเป็นความอยากรู้อยากเห็นทางทฤษฎีที่ดี แต่ไม่ใช่สิ่งที่เร็ว ๆ นี้จะเป็นประโยชน์

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.