วิธีการที่จะหลอกการตรวจสอบพล็อตการเรียนรู้?

กว่าที่นี่เดฟคล๊าร์คเสนอว่าในการสั่งซื้อเพื่อเปรียบเทียบการเจริญเติบโต asymptotic พล็อตที่คุณควรฟังก์ชั่นที่อยู่ในมือ ในฐานะที่เป็นนักวิทยาศาสตร์คอมพิวเตอร์ที่มีความโน้มเอียงทางทฤษฎีฉันเรียก (v) vodoo นี้ว่าพล็อตไม่สามารถพิสูจน์ได้ ในความคิดที่สองฉันต้องยอมรับว่านี่เป็นวิธีที่มีประโยชน์มากซึ่งบางครั้งก็ใช้น้อยเกินไป พล็อตเป็นวิธีที่มีประสิทธิภาพในการรับแนวคิดแรกและบางครั้งก็เป็นสิ่งที่คุณต้องการ

เมื่อสอน TCS มักจะมีนักเรียนที่ถามว่า: "ฉันต้องมีหลักฐานอะไรบ้างถ้าฉันสามารถทำ X ซึ่งใช้งานได้ตลอด?" มันขึ้นอยู่กับครูของเขาเพื่อชี้ให้เห็นและแสดงให้เห็นถึงการเข้าใจผิด มีตัวอย่างที่ยอดเยี่ยมของรูปแบบที่ปรากฏชัดเจนซึ่งในที่สุดก็ล้มเหลวที่ math.SE แต่สิ่งเหล่านี้เป็นสถานการณ์ทางคณิตศาสตร์ที่ค่อนข้างยุติธรรม

ดังนั้นคุณจะหลอกการวิเคราะห์การตรวจสอบพล็อตได้อย่างไร มีบางกรณีที่ความแตกต่างยากที่จะบอก appart เช่น

^{[ แหล่งที่มา ]}

คาดเดาจากนั้นตรวจสอบแหล่งที่มาสำหรับฟังก์ชั่นจริง แต่สิ่งเหล่านี้ไม่น่าตื่นเต้นอย่างที่ฉันคาดหวังโดยเฉพาะอย่างยิ่งเพราะความสัมพันธ์ที่แท้จริงนั้นง่ายต่อการสังเกตจากฟังก์ชั่นเพียงอย่างเดียวแม้แต่สำหรับมือใหม่

มีตัวอย่างของการเติบโตแบบเชิงสัมพัทธ์ (สัมพัทธ์) ที่ความจริงไม่ชัดเจนจากฟังก์ชั่นการกำหนดและการตรวจสอบพล็อตสำหรับขนาดใหญ่พอสมควร$n$ให้ความคิดที่ผิดอย่างสมบูรณ์หรือไม่? ฟังก์ชั่นทางคณิตศาสตร์และชุดข้อมูลจริง (เช่นรันไทม์ของอัลกอริทึมเฉพาะ) ยินดีต้อนรับทั้งคู่; โปรดหลีกเลี่ยงการใช้ฟังก์ชั่นที่กำหนดเป็นชิ้น ๆ

พูดจากประสบการณ์เมื่อพยายามที่จะคิดออกอัตราการเจริญเติบโตสำหรับฟังก์ชั่นที่สังเกตบาง (พูด, ห่วงโซ่มาร์คอฟผสมเวลาหรืออัลกอริทึมเวลาทำงาน) มันเป็นเรื่องยากมากที่จะบอกปัจจัยจากnข ตัวอย่างเช่นO ( $(\log n)^a$$n^b$มีลักษณะเหมือนO(n 0.6 ):$O(\sqrt{n} \log n)$$O(n^{0.6})$

^{[ แหล่งที่มา ]}

ยกตัวอย่างเช่นใน"บางคนที่ไม่คาดคิดผลพฤติกรรมที่คาดหวังสำหรับถังบรรจุ"เบนท์ลีย์ et al., อัตราการเติบโตของพื้นที่ว่างสำหรับที่ดีที่สุด Fit และ First Fit bin ขั้นตอนวิธีการบรรจุเมื่อบรรจุรายการเครื่องแบบเป็นที่คาดกันสังเกตุว่าเป็นn 0.6และn 0.7ตามลำดับ การแสดงออกที่ถูกต้องn 1 / 2บันทึก$[0,1]$$n^{0.6}$$n^{0.7}$$n^{1/2}\log^{3/4}n$$n^{2/3}$

นี่เป็นอีกตัวอย่าง (ค่อนข้างเป็นที่ยอมรับแล้ว) แต่ก็ยังมีอีกอย่างที่ฉันคิดว่าน่าทึ่ง มันมีจุดมุ่งหมายเพื่อแสดงให้เห็นว่าแปลงสามารถทำให้เข้าใจผิดมากสำหรับการตัดสินการเจริญเติบโตของอาการ

แปลงต่อไปนี้แสดงสองฟังก์ชัน $f$$g$

คุณสามารถเดาได้ไหมว่าฟังก์ชั่นใดที่เพิ่มขึ้น (asymptotically) เร็วขึ้น?

$f\sim g$

$g$$x^2$$f$$2$$0$$4$

สำหรับตัวอย่างนี้เราสามารถ demask การแกว่งโดยพิจารณาจาก log-log-plot:

แน่นอนว่าสิ่งนี้ไม่ได้ช่วยอะไรโดยทั่วไป ตัวอย่างเช่นเราอาจมีคาบกำลังทวีคูณเป็นสองเท่า ...

$N = (Q, S \subseteq Q, F \subseteq Q, R \subseteq Q \times \Sigma \times Q)$เราสามารถคำนวณหุ่นยนต์ จำกัด ขั้นต่ำที่กำหนดได้จาก:

เห็นได้ชัดว่านี่เป็นอัลกอริธึมเวลาเอ็กซ์โพเนนเชียลกรณีเลวร้ายที่สุดเนื่องจากสามารถใช้ออโตเมติก nondeterministic และให้ค่าที่กำหนดได้ (หรือชัดเจนยิ่งกว่า

$O(n^2)$$O(n \log(n))$

นี่เป็นการแตะส่วน "พล็อต" ของ "การตรวจสอบการวิเคราะห์พล็อต" --- เราต้องเลือกจุดที่จะสุ่มตัวอย่างเมื่อวาดพล็อตและคุณสามารถหลอกพล็อตที่ไร้เดียงสาได้หากคุณไม่เลือกคะแนนอย่างระมัดระวัง นี่ก็เป็นจริงสำหรับตัวอย่างอื่น ๆ เช่น Quicksort และอัลกอริทึม Simplex แต่สำหรับการสอนฉันชอบอัลกอริทึมนี้กับทั้งสอง

ความแตกต่างของ Quicksort คือ "เท่านั้น" กำลังสองกับ log-linear ซึ่งน้อยกว่าความแตกต่างของพหุนาม / เอ็กซ์โปเนนเชียล อัลกอริทึมแบบซิมเพล็กซ์มีความแตกต่างที่น่าประทับใจในทำนองเดียวกัน แต่การวิเคราะห์นั้นซับซ้อนกว่าอัลกอริทึมของ Brzozowski มาก

(นอกจากนี้ฉันรู้สึกว่าอัลกอริทึมการย่อขนาด DFA ของ Brzozowski นั้นเป็นที่รู้จักน้อยกว่าที่ควรจะเป็น แต่แน่นอนว่าเป็นเรื่องของรสนิยม)

เทคนิคทางคณิตศาสตร์ของการปรับเส้นโค้งสามารถใช้เพื่อให้คำตอบสำหรับคำถามของคุณได้ไม่ จำกัด เมื่อกำหนดเส้นโค้งและช่วงหนึ่งเราจะสามารถค้นหาพหุนามที่เหมาะสมกับเส้นโค้งตามระดับความแม่นยำใด ๆ ตัวอย่างจากวิกิพีเดียแสดงให้เห็นว่าคลื่นบาปสามารถปรับให้พอดีกับพหุนามลำดับที่ 4 (เส้นโค้งสีน้ำเงิน) ได้อย่างไร

ฉันสามารถใช้พหุนามคำสั่งที่สูงขึ้นและหลอกการตรวจสอบการลงจุดได้ดีกว่ากราฟนี้