เอนโทรปีและความซับซ้อนในการคำนวณ


12

มีนักวิจัยแสดงให้เห็นว่าการลบบิตต้องใช้พลังงานตอนนี้มีงานวิจัยใดที่ทำเกี่ยวกับการใช้พลังงานเฉลี่ยของอัลกอริทึมที่มีความซับซ้อนในการคำนวณหรือไม่? ฉันเดาว่าความซับซ้อนในการคำนวณมีความสัมพันธ์กับการใช้พลังงานโดยเฉลี่ยหวังว่าฉันจะได้รับคำตอบที่นี่F(n)F(n)


การลิงก์ไปยังบทความที่เป็นปัญหาจะช่วยปรับปรุงคำถามนี้ได้
Stella Biderman

@StellaBiderman ขอบคุณ แต่ฉันไม่พบลิงก์ในความคิดเห็นของคุณ
XL _At_Here_There

ฉันไม่รู้ว่าคุณกำลังพูดถึงเรื่องอะไร / นักวิจัย ฉันแนะนำให้คุณให้ฉัน
Stella Biderman

1
@StellaBiderman ฉันเข้าใจผิดความคิดเห็นของคุณจริง ๆ แล้วฉันเพิ่งอ่านข้อความที่ตระหนักถึง "การลบบิตต้องใช้พลังงาน" ในความซับซ้อนของ Kolmogorov และการประยุกต์ใช้โดย Viatanyi และ Li ฉันคิดว่าฉันยังไม่ได้อ่านบทความและหนังสืออื่น ๆ ที่เกี่ยวข้อง
XL _At_Here_There

คำตอบ:


16

ใช่ แต่งานส่วนใหญ่จนถึงตอนนี้ (ยกเว้นเมื่อเร็ว ๆ นี้ดูด้านล่าง) ได้มุ่งเน้นที่การเปลี่ยนการคำนวณแบบย้อนกลับเป็นแบบย้อนกลับได้ดังนั้นหวังว่าจะหลีกเลี่ยงการสร้างเอนโทรปี (หมายเหตุ: มีความแตกต่างที่สำคัญระหว่างพลังงานที่ต้องใช้เพื่อทำการคำนวณและเอนโทรปีที่เกิดจากการคำนวณและนำออกสู่สิ่งแวดล้อมโดยทั่วไปอยู่ในรูปของความร้อน)

จากการวิเคราะห์ดั้งเดิมของ Landauer และ Bennett ที่ลบบิต "ต้อง" สร้างเอนโทรปี (ดูด้านล่างว่าทำไมมีราคาที่ทำให้ตกใจ) นักวิจัยหลายคนได้ติดตามคำถามต่าง ๆ ตามสายเหล่านี้ งานวิจัยชิ้นหนึ่งคือการจำลองเครื่องทัวริงกลับไม่ได้โดยใช้เครื่องมือพลิกกลับซึ่งแนะนำว่าจะไม่สร้างเอนโทรปี มีงานหลายชิ้นที่แสดงการแลกเปลี่ยนเวลาว่างสำหรับวิธีจำลอง TM ที่ไม่สามารถย้อนกลับได้ด้วยวิธีย้อนกลับเช่น:kTln(2)

เมื่อเร็ว ๆ นี้,

Demaine, Lynch, Mirano และ Tyagi อัลกอริทึมประหยัดพลังงาน 2016

ศึกษาอัลกอริธึมที่สามารถย้อนกลับได้บางส่วน - นั่นคือถ้าคุณยินดีจ่ายเอนโทรปีสำหรับงานอัลกอริธึมมาตรฐานหนึ่งสามารถปรับปรุงได้จากการจำลองทั่วไปที่ไม่สามารถย้อนกลับถึงกลับได้ การคำนวณแบบพลิกกลับได้มีชุมชนของนักวิจัยที่อุทิศตน การประชุมคอมพิวเตอร์แบบพลิกกลับได้ในขณะนี้ในปีที่ 10

มันเป็นที่รู้จักกันมานานแล้วโดยตลอดทางกลับไปที่ Landauer และ Bennett ว่าความสัมพันธ์ระหว่างการกลับไม่ได้ของการคำนวณและการสร้างเอนโทรปีนั้นลึกซึ้งกว่าที่สโลแกนแนะนำ "ลบบิตสร้างเอนโทรปี " อย่างไรก็ตามในช่วง 20 ปีที่ผ่านมากลศาสตร์สถิติไม่มีผู้ใดได้พัฒนาไปจนถึงจุดที่ความสัมพันธ์ที่ลึกซึ้งยิ่งขึ้นนี้สามารถถูกจับได้ด้วยสมการเชิงตัวเลขที่แม่นยำซึ่งไม่เพียงแค่ความแตกต่างของเอนโทรปี แต่ยังแตกต่างของ KL divergencesln(2)

Kolchinsky & Wolpert, พึ่งพาอาศัยกันของกระจายการกระจายเริ่มต้นมากกว่ารัฐ J. สถิติ Mech 2017 ( ลิงก์ arXiv )

(และการอ้างอิงในนั้น)

เราเป็นเจ้าภาพการประชุมเชิงปฏิบัติการเรื่องนี้ที่สถาบันซานตาเฟในเดือนสิงหาคม 2560 (ที่คุณสามารถเห็นชื่อของนักวิจัยและชื่อเรื่องที่เกี่ยวข้อง) และมันทำให้เกิดคำถามชุดใหม่ทั้งในเชิงฟิสิกส์และความซับซ้อนของการคำนวณเชิงอุณหพลศาสตร์


เครื่องจักรทัวริงหรือโบสถ์ทัวริงวิทยานิพนธ์อาจถูกปกครองหรือถูก จำกัด โดยกฎหมายทางกายภาพดังนั้นความเป็นไปได้ว่าการคำนวณควอนตัมหรือการสื่อสารควอนตัมสามารถนำมาใช้อาจอนุมานได้จากกฎหมายฟิสิกส์เช่นกฎข้อที่สองของกลศาสตร์สถิติ ดังนั้นฉันเดาว่าจะมีผลลัพธ์ใด ๆ เกี่ยวกับการเชื่อมโยงของวิทยานิพนธ์และกฎหมายฟิสิกส์
XL _At_Here_There

และดูเหมือนว่าไซต์ฟิสิกส์ไม่ได้สนใจหัวข้อประเภทนี้
XL _At_Here_There ที่

@XL_at_China: มี "วิทยานิพนธ์ทัวริสตจักรทางกายภาพ - ทัวริง" แต่มีน้อยที่จะทำตามกฎข้อที่สองเนื่องจากทั้งวิทยานิพนธ์คริสตจักรทัวริงและรุ่นทางกายภาพของมันเป็นเพียงเกี่ยวกับสิ่งที่คำนวณได้ไม่เกี่ยวกับการประเมินเชิงปริมาณ แต่กฎข้อที่สองเป็นข้อความเชิงปริมาณ นอกจากนี้ในขณะที่อาจยังไม่มีสิ่งพิมพ์จำนวนมากอยู่ในห้องประชุมของเรา
Joshua Grochow

ฉันพยายามค้นหาการเชื่อมโยงหลายปีที่ผ่านมา แต่ไม่สามารถรับผลลัพธ์ใด ๆ ได้ โดยสังเขปความสามารถในการคำนวณดูเหมือนว่าจะต้องเชื่อมโยงกับกฎหมายอุณหพลศาสตร์ที่สอง และการพิจารณาทัวริงแมชชีนในแง่ของความสัมพันธ์ทั่วไปปัญหาน่าสนใจ แต่ฉันไม่ทราบว่านักฟิสิกส์คนใดสนใจปัญหาดังกล่าว
XL _At_Here_There

และเราสามารถโพสต์คำถามที่เกี่ยวข้องกับฟิสิกส์ของไซต์และพูดคุยกับนักฟิสิกส์ได้หรือไม่?
XL _At_Here_There ที่
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.