การสุ่มจะเร่งความเร็วอัลกอริธึมเมื่อใดและจะ“ ไม่ควร”

ข้อพิสูจน์ของ Adleman ว่ามีอยู่ในP / p o l yแสดงให้เห็นว่าหากมีอัลกอริทึมแบบสุ่มสำหรับปัญหาที่ทำงานในเวลาt ( n )ในอินพุตของขนาดnจากนั้นยังมีอัลกอริทึมที่กำหนดขึ้นสำหรับปัญหา ที่รันในเวลาΘ ( t ( n ) ⋅ n )บนอินพุตของขนาดn [อัลกอริทึมรันอัลกอริทึมแบบสุ่มบนΘ ( n $BPP$$P/poly$$t(n)$$n$$\Theta(t(n)\cdot n)$$n$$\Theta(n)$สตริงการสุ่มแบบอิสระ จะต้องมีการสุ่มสำหรับอัลกอริทึมซ้ำที่ดีสำหรับอินพุตเป็นไปได้ทั้งหมด] อัลกอริธึมที่กำหนดขึ้นนั้นไม่เหมือนกัน - มันอาจทำงานแตกต่างกันไปตามขนาดอินพุตที่แตกต่างกัน ดังนั้นการโต้แย้งของ Adleman แสดงให้เห็นว่า - หากไม่มีใครสนใจเรื่องความเหมือนกัน - การสุ่มสามารถเร่งความเร็วอัลกอริธึมด้วยปัจจัยที่เป็นเชิงเส้นในขนาดอินพุต$2^n$

มีตัวอย่างที่เป็นรูปธรรมใดบ้างที่การสุ่มแบบเร่งความเร็วในการคำนวณ (เพื่อความรู้ที่ดีที่สุดของเรา)

ตัวอย่างหนึ่งคือการทดสอบเอกลักษณ์พหุนาม ที่นี่อินพุตคือวงจรคำนวณขนาด n คำนวณพหุนาม m-variate บนสนามและภารกิจคือค้นหาว่าพหุนามเป็นศูนย์เหมือนกันหรือไม่ อัลกอริทึมแบบสุ่มสามารถประเมินพหุนามในจุดสุ่มในขณะที่อัลกอริทึมที่ดีที่สุดที่เรารู้จัก (และอาจดีที่สุดที่มีอยู่) ประเมินพหุนามในหลาย ๆ จุด

ตัวอย่างหนึ่งคือขั้นต่ำต้นไม้ที่อัลกอริทึมแบบสุ่มที่ดีที่สุดโดย Karger-Klein-Tarjan เป็นเส้นเวลาทอด (และน่าจะเป็นข้อผิดพลาดที่มีขนาดเล็กชี้แจง!) ในขณะที่ขั้นตอนวิธีการกำหนดที่ดีที่สุดโดย Chazelle ทำงานในเวลา ( αเป็นฟังก์ชัน Ackermann ผกผันดังนั้นการเร่งความเร็วการสุ่มจึงมีขนาดเล็กมาก) สิ่งที่น่าสนใจคือมันถูกพิสูจน์โดย Pettie และ Ramachandran ว่าหากมีอัลกอริธึมเชิงเส้นเชิงเวลาที่ไม่สม่ำเสมอสำหรับต้นไม้ที่ทอดยาวขั้นต่ำ$O(m\alpha(m,n))$$\alpha$

ตัวอย่างอื่น ๆ คืออะไร? ตัวอย่างใดที่คุณรู้ว่าการเร่งความเร็วการสุ่มนั้นมีขนาดใหญ่ แต่นี่อาจเป็นเพียงเพราะเรายังไม่พบอัลกอริธึมที่กำหนดอย่างมีประสิทธิภาพเพียงพอ

ฉันไม่รู้ว่าการสุ่ม "ควร" หรือ "ไม่ควร" ช่วยได้อย่างไรการทดสอบแบบจำนวนเต็มสามารถทำได้ในเวลาโดยใช้การสุ่ม Miller-Rabin ในขณะที่เท่าที่ฉันรู้ดีที่สุด อัลกอริธึมที่กำหนดขึ้นคือ˜ O ( n 4 )สมมติว่า GRH (กำหนดมิลเลอร์ - ราบิน) หรือ˜ O ( n 6 )โดยไม่มีเงื่อนไข (ตัวแปรของ AKS)$\tilde O(n^2)$$\tilde O(n^4)$$\tilde O(n^6)$

$1+\epsilon$

ตัวอย่างแรกของกลยุทธ์แบบสุ่มคือ Dyer, Frieze และ Kannan และผลลัพธ์ความแข็งสำหรับอัลกอริธึมที่กำหนดขึ้นโดยBárányและFüredi อลิสแตซินแคลมีเอกสารประกอบการบรรยายที่ดีเกี่ยวกับเรื่องนี้

ฉันไม่แน่ใจว่าฉันเข้าใจส่วน "และไม่ควร" ส่วนหนึ่งของคำถามดังนั้นฉันไม่แน่ใจว่าสิ่งนี้เหมาะกับการเรียกเก็บเงิน

ฉันไม่รู้ว่าสิ่งนี้จะตอบคำถามของคุณ (หรืออย่างน้อยก็ส่วนหนึ่ง) แต่สำหรับตัวอย่างจริงของโลกที่สุ่มสามารถให้ความเร็วสูงขึ้นอยู่ในปัญหาการเพิ่มประสิทธิภาพและความสัมพันธ์กับอาหารกลางวันไม่มีฟรี ( NFL ) ทฤษฎีบท

มีกระดาษ"อาจไม่ใช่อาหารกลางวันฟรี แต่อย่างน้อยอาหารเรียกน้ำย่อยฟรี"ซึ่งแสดงให้เห็นว่าการสุ่มใช้อัลกอริทึม (การเพิ่มประสิทธิภาพ) สามารถมีประสิทธิภาพที่ดีขึ้น

บทคัดย่อ:

$f : X \rightarrow Y$$X$$Y$เป็นเซต จำกัด ผลลัพธ์นี้ถูกเรียกว่า [ไม่มี] ทฤษฎีบทอาหารกลางวันฟรี มีการนำเสนอสถานการณ์การเพิ่มประสิทธิภาพที่แตกต่างกันที่นี่ มันเป็นที่ถกเถียงกันอยู่ว่าทำไมภาพจำลองที่ไม่มีทฤษฎีอาหารกลางวันแบบอิสระไม่ได้จำลองแบบการเพิ่มประสิทธิภาพชีวิตจริง สำหรับสถานการณ์ที่สมจริงยิ่งขึ้นมันเป็นเหตุผลว่าทำไมเทคนิคการปรับให้เหมาะสมนั้นแตกต่างกันในประสิทธิภาพของพวกเขา ตัวอย่างเล็ก ๆ การอ้างสิทธิ์นี้พิสูจน์แล้ว

อ้างอิง:

1. ไม่มีทฤษฎีอาหารกลางวันฟรีสำหรับการปรับให้เหมาะสม ( ทฤษฎีบทของNFLดั้งเดิมสำหรับการปรับให้เหมาะสม)
2. อาจไม่ใช่อาหารกลางวันฟรี แต่อย่างน้อยอาหารเรียกน้ำย่อยฟรี
3. $F$$F$
4. ในชั้นเรียนของฟังก์ชั่นที่ไม่มีผลลัพธ์อาหารกลางวันฟรีถือ (มันพิสูจน์แล้วว่าเศษของส่วนย่อยที่เป็นถ้วยมีขนาดเล็กเลินเล่อ)
5. ฟังก์ชั่นกว้างสองคลาสที่ไม่มีผลลัพธ์อาหารกลางวันฟรีไม่ถือ (แสดงว่าผลNFLไม่ได้ใช้กับชุดของฟังก์ชั่นเมื่อความยาวคำอธิบายของฟังก์ชันมีขอบเขตเพียงพอ)
6. อาหารกลางวันต่อเนื่องฟรีและการออกแบบขั้นตอนวิธีการปรับให้เหมาะสมที่เหมาะสมที่สุด (แสดงให้เห็นว่าสำหรับโดเมนต่อเนื่อง [รุ่นอย่างเป็นทางการของ] NFLไม่ได้ถือทฤษฎีบทอาหารกลางวันฟรีนี้มีพื้นฐานมาจากแนวคิดของฟังก์ชันการออกกำลังกายแบบสุ่ม )
7. นอกเหนือไม่มีอาหารกลางวันฟรี: อัลกอริทึมที่สมจริงเรียนตามอำเภอใจปัญหา (แสดงให้เห็นว่า ".. [เป็น] LL ละเมิดไม่มีอาหารกลางวันฟรีทฤษฎีบทสามารถแสดงเป็นกระจายไม่ใช่บล็อกสม่ำเสมอทั่วย่อยปัญหาที่มีถ้วย ")
8. อัลกอริธึมเกี่ยวกับการวิเคราะห์แบบจับกลุ่มและทฤษฎีแบบไม่มีอาหารกลางวัน ("[..t]) ดังนั้นผลลัพธ์สำหรับการทำซ้ำตามเวลาที่ไม่ต้องมีการทบทวนอาจไม่เป็นจริงสำหรับกรณีของการทบทวนคดีถ้วยที่จำเป็นสำหรับการพิสูจน์ทฤษฎีบทของ NFL (มาร์แชลล์และฮินตัน, 2010) ")
9. ไม่มีอาหารกลางวันและอัลกอริทึมแบบสุ่มฟรี
10. ไม่มีอาหารกลางวันและเกณฑ์มาตรฐานฟรี (ชุดทฤษฎี - มันเป็นหลักเกณฑ์ทั่วไปที่ไม่เฉพาะเจาะจงกับถ้วย - แต่ยังตั้งข้อสังเกตว่า (ไม่ใช่เรื่องไม่สำคัญ) - อัลกอริธึมแบบสุ่มสามารถทำได้ดีกว่าอัลกอริธึมกำหนดโดยเฉลี่ย "[.. ] ความน่าจะเป็นไม่เพียงพอที่จะยืนยันผลข้อ จำกัด ของเอ็นเอฟแอลในกรณีทั่วไป [.. ] บทความนี้ทิ้งความน่าจะเป็นไปได้เลือกกรอบการตั้งค่าเชิงทฤษฎีที่ จำกัด ข้อ จำกัด ทางทฤษฎีของการวัด

สรุปเกี่ยวกับอาหารกลางวันฟรี (และอาหารกลางวันฟรี) โดย David H. Wolpert อาหารค่ำราคาเท่าไหร่? ( โปรดทราบว่าทฤษฎีบทประเภท NFLไม่เคยระบุ " ราคา " จริงเนื่องจากการพิสูจน์ชนิด)

specificaly สำหรับการปรับให้เหมาะสมทั่วไป (GO):

1. $X$$Z$$X$$Z$

2. $f: X \to Z$

3. $m$$f$

   $$d_m = \{d_m(1), d_m(2), ..., d_m(m)\}$$ $\forall t$ $$d_m(t) =\{d^X_m(t),d^Z_m(t)\}$$ $d^Z_m(t)$$f[d^X_m(t)]$

4. $a = \{d_t \to d^X_m(t) : t=0..m\}$

5. $C(f, d_m)$

6. $C(., .)$

$C$$f$$C$$f$$C$$(f, d_m)$$f = f^*$

ในที่สุดคำพูดที่เรียบง่าย (และไม่ใช่เรื่องง่าย) ทำไมการสุ่ม (ในรูปแบบใดรูปแบบหนึ่ง) อาจให้ประสิทธิภาพที่เหนือกว่าผ่านอัลกอริธึมที่กำหนดอย่างเคร่งครัด

1. ในบริบทของการปรับให้เหมาะสม (แม้ว่าจะไม่ถูก จำกัด ในเรื่องนี้) ขั้นตอนการค้นหาแบบสุ่มสามารถหลบหลีก extrema โดยเฉลี่ยได้ ดีกว่าการค้นหาที่กำหนดขึ้นและเข้าถึง global-extrema
2. $2^A$$A$$A$$A$$A$

ตัวอย่างที่ดีที่สุดอยู่ในการพิจารณาผู้สมัครที่ดีที่สุดในปัจจุบันสำหรับ OWF ซึ่งดูเหมือนว่าทุก OWF ยอดนิยมที่ปรุงขึ้นอย่างน่าประหลาดใจมีอัลกอริธึมย่อยแบบเอ็กซ์โพเนนเชียลแบบสุ่มในขณะที่ไม่มีอัลกอริธึมย่อย ในความเป็นจริงในหลายกรณีอาจมีอัลกอริธึมที่มีประสิทธิภาพเนื่องจากมีสตริงคำแนะนำ (cryptoanalysis)

หากคุณมีอัลกอริทึมที่ใช้การสุ่มคุณสามารถแทนที่ด้วยอัลกอริทึมที่กำหนดโดยใช้ตัวเลขหลอกแบบสุ่ม: ใช้คำอธิบายของปัญหาคำนวณรหัสแฮชใช้รหัสแฮชนั้นเป็นเมล็ดสำหรับเครื่องกำเนิดเลขสุ่มที่ดี . ในทางปฏิบัติจริง ๆ แล้วเป็นสิ่งที่น่าจะเกิดขึ้นเมื่อมีคนใช้อัลกอริทึมโดยใช้การสุ่ม

หากเราไม่ใส่รหัสแฮชความแตกต่างระหว่างอัลกอริทึมนี้และอัลกอริธึมที่ใช้การสุ่มอย่างแท้จริงคือฉันสามารถทำนายลำดับของการสุ่มตัวเลขที่สร้างขึ้นและฉันสามารถสร้างปัญหาได้เช่นกัน ทำให้การตัดสินใจที่เลวร้ายที่สุดที่เป็นไปได้ ตัวอย่างเช่นสำหรับ Quicksort ที่มี pivot แบบสุ่มหลอกฉันสามารถสร้างอาร์เรย์อินพุตที่ pivot แบบสุ่มหลอกจะค้นหาค่าที่เป็นไปได้ที่ใหญ่ที่สุดในอาร์เรย์ ด้วยการสุ่มอย่างแท้จริงที่เป็นไปไม่ได้

ด้วยรหัสแฮชมันจะยากมากสำหรับฉันที่จะสร้างปัญหาที่ตัวเลขหลอกหลอกให้ผลลัพธ์ที่เลวร้ายที่สุด ฉันยังคงสามารถทำนายตัวเลขสุ่มได้ แต่ถ้าฉันเปลี่ยนปัญหาลำดับของตัวเลขสุ่มหลอกจะเปลี่ยนไปโดยสิ้นเชิง ถึงกระนั้นมันก็ใกล้จะเป็นไปไม่ได้สำหรับคุณที่จะพิสูจน์ว่าฉันไม่สามารถสร้างปัญหาดังกล่าวได้