การทดสอบแสดงว่าไม่มีข้อบกพร่องหรือไม่?

18

$(n + 1)$ คะแนนจะต้องระบุพหุนามขององศาเฉพาะ ตัวอย่างเช่นสองจุดในระนาบกำหนดว่าหนึ่งบรรทัด $n$

จำเป็นต้องมีจุดกี่จุดในการพิจารณาฟังก์ชันที่คำนวณได้แบบไม่ซ้ำกันโดยกำหนดความยาวของโปรแกรมที่คำนวณในภาษาที่กำหนดตายตัว? (เช่นถูกผูกไว้กับความซับซ้อนของ Kolmogorov ของ ) $f : N \rightarrow N$ $f$ $f$

แนวคิดก็คืออย่างน้อยในทางทฤษฎีเราสามารถพิสูจน์ความถูกต้องของโปรแกรมโดยทำการทดสอบให้เพียงพอ

หากมีโปรแกรมของความยาวที่คำนวณมีความผูกพันอยู่กับจำนวนของฟังก์ชั่นที่สามารถคำนวณที่มีความยาวแหล่งที่มาของที่มากที่สุดL $P$ $L$ $f$ $L$

ดังนั้นหนึ่งจะต้อง "เท่านั้น" เพื่อพิสูจน์ว่า:

$f$ สามารถคำนวณได้ด้วยความยาวของแหล่งข้อมูล $\leq L$
$P$ ไม่คำนวณฟังก์ชันอื่นใดที่คำนวณเป็น $L$ ไบต์หรือน้อยกว่า (โดยการทดสอบ)

ความคิดนี้อาจไม่มีผลกระทบที่เกิดขึ้นจริง (ขอบเขตนั้นแน่นอนที่จะต้องอธิบาย)

cc.complexity-theory computability

— pbaren
แหล่งที่มา

4

สมมติว่าคำอธิบายของคุณของฟังก์ชั่นจะได้รับในไบนารีแล้วมีที่มากที่สุด

2^{L + 1} - 1

$2^{L+1}-1$ ของความยาวคำอธิบายที่มากที่สุดL

L

$L$ แต่ตอนนี้ปัญหาคือว่าไม่เหมือนพหุนามฟังก์ชันที่คำนวณได้สองฟังก์ชันสามารถนำค่าเดียวกันมาใช้กับจำนวนอินพุตที่ไม่ จำกัด ได้อย่างง่ายดาย ดังนั้นปัญหาของคุณดูเหมือนเป็นไปไม่ได้สำหรับฉัน

— บรูโน่

ฉันเข้าใจความคิดของคุณ แต่ฟังก์ชั่นการคำนวณที่แตกต่างกันสองตัวของความยาวคำอธิบาย <= L ควรแตกต่างกันในบางจุด (สำหรับบาง n0) ใครจะหาค่าของ n0 ที่ได้รับ L?

— pbaren

4

คุณสามารถหาจุดดังกล่าวได้หากมีอยู่เพียงคำนวณฟังก์ชั่นในทุกค่าโดยใช้การประกบกัน แต่ถ้าไม่มีแล้วคุณจะไม่มีทางรู้ว่ามันไม่สามารถตัดสินใจได้การมีความยาวส่วนบนของขนาดโปรแกรมไม่เปลี่ยนแปลงอะไรเลย

— Kaveh

7

ที่จริงแล้ว @Kaveh ตามการโต้เถียงของคุณเองขอบเขตบน

จะบอกคุณบางอย่างเกี่ยวกับที่ที่พวกเขาแตกต่างกันไม่ใช่แค่การคำนวณ ถ้า

และ

ดังนั้น

โดยที่

คือความยาวของอัลกอริทึมที่คุณ (@Kaveh) อธิบายไว้และ

เป็นสตริงแรกที่

และ

แตกต่างกัน โดยเฉพาะอย่างยิ่ง

K (f)

$K(f)$

K (f) \leq L

$K(f) \leq L$

f \neq g

$f \neq g$

K (x) \leq 2 L + c

$K(x) \leq 2L + c$

c

$c$

x

$x$

f

$f$

g

$g$

x

$x$ ล้อมรอบด้วยฟังก์ชั่นบางอย่างเช่นไม่ว่าง-ช่องคลอด-

C

อย่างไรก็ตามการค้นหา

ทั้งหมดที่

หรือการคำนวณ BB ยังคงไม่สามารถคำนวณได้ ดังนั้น @pbaren: มันมีข้อ จำกัด แต่มันมากกว่าแค่การอธิบายก็ไม่สามารถคำนวณได้

2 L + c

$2L+c$

x

$x$

K (x) \leq 2 L + c

$K(x) \leq 2L + c$

— Joshua Grochow

6

@Kaveh: นั่นคือสิ่งที่ฉันหมายถึงโดย "Busy-ช่องคลอดเหมือน" ฟังก์ชั่นให้

มีความยาวของสตริงที่ยาวที่สุดที่มีความซับซ้อน Kolmogorov (แก้ไขเครื่องสากล) เป็นอย่างมากn

มีเพียงจำนวน จำกัด เท่านั้นเช่นนี้ดังนั้นจึงมีการกำหนดไว้อย่างดีถึงทางเลือกของเครื่องจักรสากล ถ้าอย่างนั้น

เป็นขอบเขตบน: ถ้าฟังก์ชันทั้งสอง (คำนวณได้ทั้งหมด) ของความซับซ้อนของ Kolmogorov ที่

ส่วนใหญ่เห็นด้วยกับทุกจุดที่ยาว

B B^{'} (n)

$BB'(n)$

n

$n$

B B^{'} (2 L + c)

$BB'(2L+c)$

L

$L$

B B^{'} (2 L + c)

$BB'(2L+c)$ แล้วพวกเขาจะเท่ากัน

— Joshua Grochow

9

(นี่เป็นความคิดเห็น แต่ยาวไป) คำถามที่น่าสนใจมาก หากคุณยินดีคิดเกี่ยวกับมาตรการความซับซ้อนอื่น ๆ นอกเหนือจาก Kolmogorov แล้วมีคำตอบบางอย่างในทฤษฎีการเรียนรู้ที่อาจทำให้คุณพึงพอใจ ฉันปล่อยให้ผู้เชี่ยวชาญในพื้นที่

ตัวอย่างเช่นถ้าฉันไม่เข้าใจผิดใน "ทฤษฎีที่เรียนรู้ได้" Valiant พิสูจน์ว่าฟังก์ชันบูลีนสามารถสร้างขึ้นใหม่ได้ด้วยจำนวนพหุนามของ "คะแนนบวก" กับขนาดของสูตร k-CNF (สำหรับ k ที่ตายตัวใด ๆ และผมหมายถึงกับ "จุดบวก" เหล่านั้นในรูปแบบ ) $(x_1,\ldots,x_n,1)$

ใน TAOCP ของ Knuth 7.2.1.6 มันแสดงให้เห็นอย่างน่าอัศจรรย์ (ใช้รูปแบบต้นคริสต์มาส) ที่จะสร้างฟังก์ชั่นบูลีนแบบ monote ใหม่ (เช่นไม่ลดลงในแต่ละตัวแปร) คุณต้องการอย่างแน่นอนคะแนน ${n+1 \choose \lfloor n/2\rfloor+1}$

— Diego de Estrada
แหล่งที่มา

7

ในการดำเนินการตามคำตอบของ Deigo ขอบเขตความซับซ้อนตัวอย่างมาตรฐานจากทฤษฎีการเรียนรู้จะบอกคุณว่าหากคุณพอใจกับการค้นหาโปรแกรมที่ "ถูกต้อง" คุณไม่จำเป็นต้องลองหลาย ๆ จุดเลย ให้บอกว่าเราเข้ารหัสโปรแกรมในรูปแบบไบนารี่เพื่อให้มีเพียงโปรแกรมที่มีความยาว d ให้คิดว่ายังว่ามีการกระจายตัวอย่างบางกว่าอินพุตDบางทีเป้าหมายของคุณคือการหาโปรแกรมที่คุณมั่นใจว่าเกือบจะถูกต้อง ("อาจจะประมาณถูกต้อง" เช่นในรูปแบบการเรียนรู้ของ Valiants PAC) นั่นคือคุณต้องการเรียกใช้อัลกอริทึมที่จะใช้ตัวอย่างจำนวนน้อยพร้อมกับ $2^d$ $D$ $x \sim D$ $f(x)$ และจะมีความน่าจะเป็นอย่างน้อยการส่งออกบางโปรแกรมซึ่งเห็นด้วยกับบนอย่างน้อยส่วนของปัจจัยการผลิตมาจากD $(1-\delta)$ $P$ $f$ $(1-\epsilon)$ $D$

เราก็จะวาดตัวอย่างและเอาท์พุทโปรแกรมใด ๆของความยาวที่เห็นด้วยกับในทุกตัวอย่าง (มีการรับประกันว่ามีอยู่เนื่องจากเราถือว่ามีความซับซ้อนของ Kolmogorov มากที่สุด ) ... $m$ $x \sim D$ $P$ $\leq d$ $f$ $f$ $d$

ความน่าจะเป็นที่โปรแกรมใดโปรแกรมหนึ่งที่ไม่เห็นด้วยกับในตัวอย่างมากกว่าส่วนมีความสอดคล้องกับตัวอย่างที่เราเลือก? มันเป็นที่มากที่สุดม.เราต้องการที่จะใช้ความน่าจะเป็นนี้ให้มากที่สุดเพื่อให้เราสามารถรวมยูเนี่ยนข้ามโปรแกรมทั้งหมดและบอกว่าด้วยความน่าจะเป็นอย่างน้อยโปรแกรม "เลว" ไม่สอดคล้องกับตัวอย่างที่เราวาด . การแก้ปัญหาเราเห็นว่าเพียงพอที่จะรับค่าเท่านั้น $P$ $f$ $\epsilon$ $m$ $(1-\epsilon)^m$ $\delta/2^d$ $2^d$ $1-\delta$ ตัวอย่าง (กล่าวคือมีเพียงเส้นตรงจำนวนมากในความซับซ้อนของ Kolmogorov ของ... )

m \geq \frac{1}{ϵ} (d + \log 1 / δ)

$m \geq \frac{1}{\epsilon}\left(d+\log 1/\delta\right)$

f

$f$

BTW ข้อโต้แย้งเช่นนี้สามารถใช้เพื่อพิสูจน์ "Occam's Razor": เนื่องจากมีจำนวนการสังเกตที่คงที่ในบรรดาทฤษฎีทั้งหมดที่อธิบายพวกเขาคุณควรเลือกอันที่มีความซับซ้อน Kolmogorov ต่ำที่สุดเพราะมีโอกาสน้อยมาก

แน่นอนถ้าคุณต้องการตรวจสอบโปรแกรมคงที่เดียวด้วยวิธีนี้คุณจะต้องมีตัวอย่าง ... $O(\log(1/\delta)/\epsilon)$

— แอรอนโรท
แหล่งที่มา

3

นี่คือคำตอบเล็กน้อย: สมมติว่าแล้วคุณจำเป็นต้องรู้ค่าของที่ทั้งหมดจุดที่จะต้องไม่ซ้ำกันตรวจสอบฉดังนั้นวิธีการที่คุณร่างไม่ได้ช่วยให้คุณตลอดจนกว่าคุณจะรู้ว่าอย่างใดความยาวของโปรแกรมเป็นอย่างมากในระยะสั้น: สั้นกว่าเกร็ด $L \ge \lg |N|$ $f$ $|N|$ $f$ $L$ $\lg |N|$

พิจารณาครอบครัวของฟังก์ชั่นที่ถูกกำหนดให้เป็นฟังก์ชั่นถ้าและถ้า xขอให้สังเกตว่าความซับซ้อนของการคำนวณ Kolmogorov เป็นเรื่องเกี่ยวกับบิตเนื่องจากคุณสามารถ hardcode ค่าของ $F=\{f_i:i\in N\}$ $f_i$ $f_i(x) = 1$ $i=x$ $f_i(x)=0$ $i\ne x$ $f_i$ $\lg |N|$ $i$ ในซอร์สโค้ดและสิ่งที่คุณต้องมีก็คือประโยคเงื่อนไขแบบง่าย ( พิเศษ) $O(1)$

แต่คุณไม่สามารถแยกแยะความแตกต่างจากทุกศูนย์ทำงานจนกว่าคุณจะทดสอบในการป้อนข้อมูลที่ฉันคุณไม่สามารถแยกแยะความแตกต่างจากจนกว่าคุณจะทดสอบในการป้อนข้อมูลที่หรือเจดังนั้นคุณจะต้องประเมินตลอดปัจจัยการผลิตที่จะไม่ซ้ำกันตรวจสอบว่าเราจะจัดการกับ (ตกลงในทางเทคนิคคุณต้องประเมินที่อินพุต แต่ไม่ว่าอะไรก็ตาม) $f_i$ $i$ $f_i$ $f_j$ $i$ $j$ $f$ $|N|$ $f_i$ $|N|-1$

— ใบสำคัญแสดงสิทธิอนุพันธ์
แหล่งที่มา

0

คุณสามารถทำให้โปรแกรมยาวโดยพลการ เมื่อได้รับโปรแกรมใด ๆ คุณสามารถตัดสินใจได้ว่าภาษานั้นเทียบเท่ากับโปรแกรมนี้หรือไม่ คุณทำอย่างนั้นไม่ได้ด้วยทฤษฎีบทของไรซ์

— Zirui Wang
แหล่งที่มา

1

คุณมีจุดที่ถูกต้องที่ความคิดในการตรวจสอบโปรแกรมโดยการเรียกใช้มันในหลาย ๆ กรณีจะไม่ทำงานโดยทั่วไป

— Tsuyoshi Ito