ความซับซ้อนของเวลาลอการิทึมเทียบกับลอการิทึม

ในการใช้งานจริงจะมีประโยชน์อย่างชัดเจนเมื่อใช้งาน $\mathcal{O}(\log(\log(n))$ แทน $\mathcal{O}(\log(n))$ อัลกอริทึม?

นี่เป็นกรณีที่เมื่อมีการใช้งานหนึ่งต้นสำหรับต้นไม้ Van Emde Boas แทนที่จะเป็นการใช้งานแบบต้นไม้ค้นหาแบบทวิภาค แต่ตัวอย่างเช่นถ้าเราใช้$n < 10^6$ ในกรณีที่ดีที่สุดอัลกอริธึมลอการิทึมสองครั้งจะมีประสิทธิภาพเหนือกว่าลอการิทึมหนึ่งโดย (โดยประมาณ) ปัจจัยของ $5$. และโดยทั่วไปแล้วการใช้งานนั้นยุ่งยากและซับซ้อนมากขึ้น

เนื่องจากฉันชอบ BST ส่วนตัวมากกว่าต้นไม้ VEB คุณคิดอย่างไร?

หนึ่งสามารถแสดงให้เห็นว่า:

$\qquad \displaystyle \forall n < 10^6.\ \frac{\log n}{\log(\log(n))} < 5.26146$

อย่าลืมเรื่องนั้น $\log n$ ยังคงเพิ่มขึ้นแบบทวีคูณ (ใน $\log(n)$) เร็วกว่า $\log(\log n)$!

แน่นอนถ้าคุณดูความฉลาดของ $\log(n)$ และ $\log(\log(n))$ไม่มีอะไรน่าประทับใจที่จะเห็น:

^{[ แหล่งที่มา ]}

แต่ถึงกระนั้นคุณจะได้รับปัจจัยห้าถึงหกสำหรับขนาดที่มากถึง $100000$. โปรดทราบว่าในทางปฏิบัติขนาดที่ใหญ่กว่าไม่ใช่เรื่องแปลกและการเร่งความเร็วโดยปัจจัยนั้นยอดเยี่ยมมาก ! มันอาจสร้างความแตกต่างระหว่างการให้ผลลัพธ์หลังอาหารกลางวันหรือพรุ่งนี้เท่านั้น ระวังว่าส่วนของการเร่งความเร็วอาจถูกกินโดยค่าคงที่ที่สูงขึ้นของการใช้ต้นไม้ คุณจะต้องพล็อต (หรือวิเคราะห์)$c\cdot \log(n)$ และ $d\cdot \log(\log(n))$ กับ $c,d$ ค่าคงที่รันไทม์จริงเพื่อให้ได้ภาพที่แท้จริง

นอกจากนี้สิ่งที่เดฟกล่าวถึงมีความสำคัญ: หากการดำเนินการเร่งความเร็วถูกดำเนินการเช่นพูดบ่อย ๆ เป็นเส้นตรงการเพิ่มความเร็วคงที่จะกลายเป็นการเร่งความเร็วเชิงเส้นนั่นคือคุณอาจลดค่าคงที่นำหน้าของอัลกอริทึมทั้งหมด! อย่างที่ฉันได้กล่าวไว้ข้างต้นมันยอดเยี่ยมมาก เพียงแค่ดูว่าเกิดอะไรขึ้นถ้าคุณเรียกใช้การดำเนินการ$n$ เวลา:

^{[ แหล่งที่มา ]}

ทีนี้ถ้านั่นไม่คุ้มกับปัญหาที่ฉันไม่รู้

ใคร ๆ ก็นึกได้ว่าความแตกต่างของความซับซ้อนนั้นไม่สำคัญมากนักและเวลาทำงานจริงนั้นสำคัญกว่า แต่ถ้าอัลกอริทึมเป็นแกนหลักของอัลกอริทึมอื่นความแตกต่างนี้อาจมีความสำคัญ

จากวัตถุประสงค์ทางทฤษฎีล้วนๆความแตกต่างของหลักสูตรก็สำคัญโดยเฉพาะอย่างยิ่งหากอัลกอริทึมเป็นส่วนหนึ่งของอีกสิ่งหนึ่ง มันอาจทำให้อัลกอริทึมที่ใหญ่กว่าในระดับความซับซ้อนที่แตกต่าง

จริง ๆ แล้วฉันเคยเปรียบเทียบกับต้นแวนเอมัส - โบอาสด้วยตัวเองครั้งเดียว ฉันเปรียบเทียบกับ AA Tree, hashmap และ bit array

การทดสอบsizeจะทำการแทรกด้วยตัวเลขสุ่มในช่วงเวลา[0, bound]จากนั้นsizeทำการค้นหาจากนั้นทำการsizeลบแล้วsizeทำการค้นหาอีกครั้ง การลบจะทำกับตัวเลขสุ่มเช่นกันดังนั้นคุณต้องคิดก่อนว่ามันอยู่ในโครงสร้างหรือไม่

นี่คือผลลัพธ์ ( size= 2000000, bound= 10,000000) ในไม่กี่วินาที:

AATreeLookup - O(n log n)
Inserting... 3.3652452
Searching... 5.2280724
Deleting...  7.3457427
Searching... 9.1462039
HashLookup - O(n) expected
Inserting... 0.3369505
Searching... 0.6223035
Deleting...  0.9062163
Searching... 1.1718223
VanEmdeBoasTree - O(n log log n)
Inserting... 0.7007531
Searching... 1.1775800
Deleting...  1.7257065
Searching... 2.2147703
ArrayLookup - O(n)
Inserting... 0.0681897
Searching... 0.1720300
Deleting...  0.2387776
Searching... 0.3413800

อย่างที่คุณเห็นต้นไม้ Van Emde-Boas นั้นช้ากว่าแผนที่แฮชสองเท่าช้ากว่าอาเรย์บิตสิบเท่าและเร็วกว่าต้นไม้ค้นหาแบบทวิภาค 5 เท่า

แน่นอนว่าข้างต้นจำเป็นต้องมีข้อจำกัดความรับผิดชอบ: การทดสอบนั้นเป็นของปลอมคุณสามารถปรับปรุงรหัสหรือใช้ภาษาอื่นกับคอมไพเลอร์ที่มีเอาต์พุตเร็วกว่าและอื่น ๆ เป็นต้น

ข้อจำกัดความรับผิดชอบนี้เป็นหัวใจสำคัญของเหตุผลที่เราใช้การวิเคราะห์แบบอะซิมโทติคในการออกแบบอัลกอริทึม: เนื่องจากคุณไม่มีความคิดว่าค่าคงที่คืออะไรและค่าคงที่สามารถเปลี่ยนแปลงได้ขึ้นอยู่กับปัจจัยด้านสิ่งแวดล้อม

ตอนนี้ในกรณีของ $\log n$ กับ $\log \log n$: ในตัวอย่างด้านบนต้น van Emde-Boas ของฉันสามารถเก็บได้ $2^{32}$ องค์ประกอบ $\log 2^{32} = 32$และ $\log 32 = 5$ซึ่งเป็นการปรับปรุงตัวประกอบ 6 ซึ่งค่อนข้างในทางปฏิบัติ นอกจากนี้ต้นฟาน Emde-Boas ยังมีปัจจัยคงที่ที่ดี (มันเป็นเรื่องของปัจจัยคงที่ในทางปฏิบัติสำหรับความแตกต่างเล็ก ๆ นี้) เนื่องจากพวกเขาไม่จำเป็นต้องสร้างความสมดุลให้ตัวเอง