ความพยายามคำนวณของอัลกอริทึม

พิจารณาปัญหาการปรับให้เหมาะสมแบบไม่มีข้อ จำกัด อย่างเข้มงวด $\mathcal{O} := \min_{x \in \mathbb{R}^n} f(x).$ให้แทนค่า minima ที่ไม่ซ้ำกันและเป็นการประมาณค่าเริ่มต้นที่กำหนดให้กับเราจะเรียกเวกเตอร์วิธีการแก้ปัญหาอย่างใกล้ชิดของถ้า $x_\text{opt}$$x_0$$x_\text{opt}.$$x$$\epsilon-$$\mathcal{O}$

สมมติว่ามีสองอัลกอริธึมวนซ้ำ$\mathcal{A}_1$และ$\mathcal{A}_2$เพื่อค้นหา$\epsilon-$ close solution ของ$\mathcal{O}$ด้วยคุณสมบัติต่อไปนี้:

1. สำหรับการใด ๆ$\epsilon > 0,$คำนวณความพยายามทั้งหมดคือความพยายามที่จำเป็นต่อการทำซ้ำ$\times$จำนวนรวมของการทำซ้ำที่จะหา$\epsilon-$ทางออกที่ใกล้จะเหมือนกันสำหรับทั้งขั้นตอนวิธี
2. ความพยายามซ้ำสำหรับ$\mathcal{A}_1$คือ$O(n),$พูดในขณะที่$\mathcal{A}_2$คือ$O(n^2).$

มีสถานการณ์ที่หนึ่งจะชอบหนึ่งอัลกอริทึมมากกว่าอีก? ทำไม?

โดยทั่วไปแล้วจะยากมากหากไม่สามารถใช้อัลกอริธึมการทำซ้ำแบบขนานซึ่งเป็นอัมพาตข้ามการทำซ้ำได้ ความสมบูรณ์ของการวนซ้ำหนึ่งครั้งเป็นจุดลำดับที่เป็นธรรมชาติ หากอัลกอริทึมหนึ่งต้องการการวนซ้ำน้อยลง แต่ทำงานได้มากขึ้นต่อการทำซ้ำก็มีแนวโน้มว่าอัลกอริทึมนี้จะสามารถนำไปใช้อย่างมีประสิทธิภาพควบคู่กัน

ตัวอย่างนี้คือการเขียนโปรแกรมเชิงเส้นโดยทั่วไปวิธีการแบบสองจุด (จุดภายใน) มักใช้การทำซ้ำเพียงไม่กี่โหลแม้สำหรับปัญหาที่มีขนาดใหญ่มาก แต่งานต่อการทำซ้ำค่อนข้างกว้างขวาง ในการเปรียบเทียบเวอร์ชันของเมธอด simplex โดยทั่วไปต้องการการวนซ้ำมากกว่าเดิม แต่งานต่อการวนซ้ำน้อยกว่า ในทางปฏิบัติการใช้งานแบบขนานของวิธีการจุดภายในได้แสดงประสิทธิภาพแบบขนานที่ดีกว่าการใช้งานแบบขนานของวิธีการแบบซิมเพล็กซ์

ฉันนึกถึงความเป็นไปได้บางอย่าง:

หากอัลกอริทึมทั้งสองลดความผิดพลาดแบบซ้ำซากจำเจในการวนซ้ำแต่ละครั้งมันอาจจะดีกว่าที่บางคนจะมีการทำซ้ำที่มากกว่าและราคาถูกกว่าเพราะมันจะช่วยให้คุณมีทางเลือกมากขึ้น

หากคืองานและเวลา แต่หน่วยความจำคุณอาจต้องการถ้ามีขนาดใหญ่ อาจมีขนาดใหญ่พอที่จะให้คุณเลือกเนื่องจากการใช้หน่วยความจำมีแนวโน้มที่จะ จำกัด คุณที่นี่$\mathcal{A}_1$$O(n)$$O(n^k)$$\mathcal{A}_2$$k$$k=2$$\mathcal{A}_2$

สิ่งนี้อาจนำไปใช้ไม่ว่าเราจะพูดถึงการเพิ่มประสิทธิภาพหรือปัญหาซ้ำ ๆ อื่น ๆ