การประยุกต์เชิงทฤษฎีสำหรับอัลกอริทึมการประมาณ


21

เมื่อไม่นานมานี้ฉันเริ่มมองหาอัลกอริทึมการประมาณสำหรับปัญหา NP-hard และฉันสงสัยเกี่ยวกับเหตุผลทางทฤษฎีสำหรับการศึกษาพวกเขา (คำถามไม่ได้หมายถึงการอักเสบ - ฉันแค่อยากรู้อยากเห็น)

ทฤษฎีที่สวยงามอย่างแท้จริงออกมาจากการศึกษาอัลกอริธึมการประมาณ - การเชื่อมต่อระหว่างทฤษฎี PCP และความแข็งของการประมาณ, การคาดเดา UGC, อัลกอริทึมการประมาณ Goeman-Williamson เป็นต้น

ฉันสงสัยว่าเกี่ยวกับจุดของการศึกษาอัลกอริทึมการประมาณปัญหาเช่นพนักงานขายการเดินทาง, พนักงานขายการท่องเที่ยวแบบไม่สมมาตรและตัวแปรอื่น ๆ , ปัญหาต่าง ๆ ในการออกแบบกลไก (เช่นในการประมูลแบบ combinatorial) เป็นต้น ในอดีตหรือพวกเขาศึกษาอย่างแท้จริงเพื่อประโยชน์ของตนเอง?

หมายเหตุ: ฉันไม่ได้ถามเกี่ยวกับแอปพลิเคชันที่ใช้งานได้จริงเท่าที่ฉันรู้ในโลกแห่งความเป็นจริงนั้นส่วนใหญ่แล้วฮิวริสติกที่ใช้แทนอัลกอริทึมโดยประมาณและฮิวริสติกไม่ค่อยได้รับการ ปัญหา.


4
ฉันไม่แน่ใจว่าฉันเข้าใจคำถาม อะไรคือ "เหตุผลเชิงทฤษฎี" สำหรับการศึกษาวิชาใด ๆ ทางทฤษฎี?
Jeff

1
ฉันคิดว่าเขาหมายถึง "เติมใน ฯลฯ " ในวรรค 2
Huck Bennett

2
มันผิดหรือเปล่าถ้านั่นคือสิ่งที่ฉันกำลังทำอยู่และฉันไม่เคยถามตัวเองด้วยเหรอ? ฉันแค่อัลกอริทึมการประมาณดูดี!
Gopi

1
ฉันคิดว่าแรงจูงใจนั้นเหมือนกับแรงจูงใจในการศึกษาความแข็งของการประมาณค่า: เพื่อทำความเข้าใจความซับซ้อนที่แท้จริงของปัญหาต่าง ๆ อัลกอริทึมของ Goemans-Williamson เป็นเกมที่จับมือกับความแข็งที่เป็นเอกลักษณ์ของเกมที่ทำได้ดีกว่าปัจจัยการประมาณ GW
Aaron Roth

1
ฉันไม่แน่ใจว่าย่อหน้าสุดท้ายของคุณยุติธรรมหรือไม่ อัลกอริธึมการประมาณนั้นน่าสนใจเพราะมันเป็นวิธีการที่แนะนำในการจัดการกับปัญหาที่ยากต่อการถูกรบกวนเช่น TSP อาจเป็นกรณีที่หลายคนไม่ได้ใช้โดยตรงในรูปแบบดั้งเดิม แต่มีประโยชน์ในการรู้ว่าควรลองทำอะไร คุณสามารถพูดในสิ่งเดียวกันเกี่ยวกับอัลกอริธึมที่แน่นอนหลายคนไม่เคยใช้โดยตรงในทางปฏิบัติมีปัญหาทางวิศวกรรมมากมายที่ต้องพิจารณาเมื่อใช้อัลกอริทึมใด ๆ ในทางปฏิบัติ ปัญหามากมายในทางปฏิบัติไม่ต้องการอัลกอริธึมที่แน่นอนและผู้ใช้จะมีความสุขอย่างสมบูรณ์
Kaveh

คำตอบ:


21

ฉันไม่เห็นด้วยอย่างยิ่งกับย่อหน้าสุดท้าย งบแบบเดียวกับที่ไม่มีประโยชน์ หากคุณดูเอกสารในหลาย ๆ ระบบเช่นระบบเครือข่ายฐานข้อมูล AI และอื่น ๆ คุณจะเห็นว่ามีการใช้อัลกอริทึมการประมาณจำนวนมากในทางปฏิบัติ มีปัญหาบางอย่างที่ผู้หนึ่งต้องการคำตอบที่แม่นยำมาก ตัวอย่างเช่นสายการบินที่น่าสนใจในการเพิ่มประสิทธิภาพการจัดตารางเวลากองเรือ ในกรณีเช่นนี้ผู้คนใช้ฮิวริสติกแบบต่างๆที่ใช้เวลาในการคำนวณอย่างมาก แต่ได้ผลลัพธ์ที่ดีกว่าอัลกอริธึมการประมาณแบบทั่วไปที่สามารถให้ได้

ตอนนี้ด้วยเหตุผลทางทฤษฎีบางอย่างสำหรับการศึกษาอัลกอริทึมการประมาณ ข้อแรกอะไรคือสิ่งที่อธิบายความจริงที่ว่าเครื่องเป้นั้นง่ายในการฝึกฝนในขณะที่การระบายสีกราฟนั้นค่อนข้างยาก? ทั้งคู่เป็นแบบ NP-Hard และแบบโพลีเวลาซึ่งกันและกันได้ ประการที่สองโดยการศึกษาอัลกอริธึมการประมาณสำหรับกรณีพิเศษของปัญหาหนึ่งสามารถระบุจุดว่าคลาสของอินสแตนซ์นั้นน่าจะง่ายหรือยาก ตัวอย่างเช่นเรารู้ว่ามีปัญหามากมายที่ยอมรับ PTAS ในกราฟระนาบและกราฟย่อยฟรีในขณะที่มันยากกว่ามากในกราฟทั่วไปตามอำเภอใจ แนวคิดของการประเมินนั้นครอบคลุมถึงการออกแบบอัลกอริทึมที่ทันสมัย ตัวอย่างเช่นคนใช้อัลกอริทึมการสตรีมข้อมูลและไม่มีเลนส์ประมาณนั้นยากที่จะเข้าใจ / อัลกอริธึมการออกแบบเพราะแม้แต่ปัญหาง่ายๆก็ไม่สามารถแก้ไขได้อย่างแน่นอน



9

ฉันไม่เห็นด้วยกับ "บันทึก" อย่างน้อยที่สุดก็ระบุไว้ในรุ่นนี้ เกี่ยวข้องกับเรื่องนี้ไม่มีใครรู้ว่าการพูดคุยรางวัล Kanellakis ของเดวิดจอห์นสันมีอยู่ที่ไหนบ้าง?

นอกจากนี้เมื่อเราตระหนักว่าปัญหา NP-hard ทั้งหมดนั้นเทียบเท่ากับความซับซ้อนของกรณีที่เลวร้ายที่สุดของการแก้ปัญหาที่แน่นอนมันเป็นเรื่องธรรมดามากที่จะสอบถามเกี่ยวกับความซับซ้อนในการค้นหาวิธีแก้ปัญหาโดยประมาณ และจันทราได้สร้างจุดยอดเยี่ยมเกี่ยวกับการเปลี่ยนมุมมองที่อัลกอริทึมการประมาณนำมาสู่การออกแบบอัลกอริทึม

O(เข้าสู่ระบบn)


8

ฮิวริสติกที่ดีที่สุดคืออัลกอริธึมการประมาณจริง ๆ อัลกอริทึมการประมาณที่สวยที่สุดเป็นเพียงแค่ฮิวริสติกแบบ "โง่" ที่ใช้ได้ผล ตัวอย่างเช่นการค้นหาโลคัลสำหรับการทำคลัสเตอร์โลภโลเกชัน (กอนซาเลซ) ราคาหนึ่งสำหรับสองอัลกอริทึมโลภต่าง ​​ๆ ฯลฯ ฯลฯ เป็นต้น

ดังนั้นการศึกษาอัลกอริทึมการประมาณนั้นเกี่ยวกับการทำความเข้าใจว่าฮิวริสติกแบบใดที่รับประกันอัลกอริทึมการประมาณ ความหวังก็คือการวิจัยเกี่ยวกับอัลกอริทึมการประมาณสร้างสองชนิดของการผสมข้ามพันธุ์:

  • ย้ายแนวคิดที่ทำงานจากการวิเคราะห์พฤติกรรมเป็นเครื่องมือออกแบบอัลกอริธึม ในทำนองเดียวกันย้ายความคิดจากการออกแบบอัลกอริทึมไปเป็นฮิวริสติก / อัลกอริทึมที่ทำงานได้ดีในทางปฏิบัติ
  • ข้ามการปฏิสนธิระหว่างคนที่เพิ่งจบการศึกษาและตำแหน่ง

ในระยะสั้นโลกไม่แน่นอนอินพุตไม่ถูกต้องฟังก์ชั่นเป้าหมายที่ปรับให้เหมาะสมโดยปัญหาอัลกอริทึมต่าง ๆ ไม่ถูกต้องและที่ดีที่สุดแสดงถึงการประมาณคลุมเครือกับสิ่งที่เราต้องการและการคำนวณไม่แม่นยำ ทำไมทุกคนจะเรียนรู้อัลกอริทึมที่แน่นอน? (คำตอบ: เนื่องจากอัลกอริทึมที่แน่นอนเป็นเพียงขั้นตอนวิธีการประมาณที่ดีจริงๆ)

ในโลกแห่งความเป็นจริงมีอัลกอริธึมที่แน่นอนน้อยมาก - คุณต้องใช้การประมาณเพื่อเชื่อมโยงจากระยะไกล ...


4

การจัดการกับปัญหากับตัวแปรต่อเนื่องนั้นน่ารำคาญมากกับอัลกอริธึมที่แน่นอน ตัวอย่างเช่นการระบุค่า edge-weights ของอินสแตนซ์ของ TSP มีค่าจริงเป็นเท่าใด

เมื่อเราอนุญาตอัลกอริธึม FPTAS สำหรับปัญหาเหล่านี้เราสามารถหาจำนวนพารามิเตอร์เหล่านี้เป็นจำนวนเต็ม สิ่งนี้ทำให้ปัญหาประพฤติดีขึ้นมาก (สามารถใช้เครื่องทัวริงมาตรฐาน) แต่เกิดข้อผิดพลาดเล็กน้อย

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.