ค่าที่คาดหวังของความซับซ้อนของ Kolmogorov ในกลุ่มตัวอย่างแบบสุ่ม

ความซับซ้อนของสตริง Kolmogorov ไม่สามารถคำนวณได้ อย่างไรก็ตามในชุดย่อยที่มีขนาดของสตริงไบนารี่ที่มีความยาวจำนวนเท่าไหร่ที่คาดว่าจะมีความซับซ้อนน้อยกว่าจำนวนเต็มน้อยกว่า (เป็นฟังก์ชันของ ,และ )? $M$ $n$ $n_{0}$ $n$ $M$ $n$ $n_{0}$

cc.complexity-theory kolmogorov-complexity

— VS
แหล่งที่มา

คุณใช้ความซับซ้อน "มาตรฐาน" Kolmogorov ที่นี่หรือความซับซ้อนของคำนำหน้าหรือไม่

— Aubrey da Cunha

ที่จริงฉันคิดแค่ความซับซ้อนของ Kolmogorov ฉันเดา

2^{n_{o}}

$2^{n_{o}}$ ผูกพัน domotorp ที่กล่าวถึงเมื่อเราพิจารณาจักรวาลของสายทั้งหมด ฉันไม่ชัดเจนว่าผลลัพธ์ 'สอดคล้อง' ใด ๆ สำหรับชุดย่อยขนาดสุ่มโดยพลการ

M

$M$ สามารถผลิตได้ อย่างไรก็ตามความซับซ้อนของคำนำหน้าจะนำเราไปสู่มุมมองที่ต่างออกไปไหม

— vs

แน่นอนว่ามันจะไม่เปลี่ยนลำดับความสำคัญอันที่จริงฉันคิดว่าตอนนี้คำตอบของฉันถูกผูกไว้กับทั้งสองรุ่น

— domotorp

สำหรับทุกคน

n

$n$ และทุก ๆ

c

$c$ ความน่าจะเป็นที่สุ่ม

n

$n$ สตริงบิต

x

$x$ มีความซับซ้อน Kolmogorov

K (x) \geq n - c

$K(x) \geq n-c$ มากกว่า

1 - \frac{1}{2^{c}}

$1 - \frac{1}{2^c}$ (กับ

c = n - n_{0}

$c = n-n_0$ ) ดังนั้นในการกระจายแบบสุ่มของ

M

$M$ สตริงที่คุณควรคาดหวัง

\frac{M}{2^{(} n - n_{0})}

$\frac{M}{2^(n-n_0)}$ สตริงด้วย

K (x) < n_{0}

$K(x) \lt n_0$ ... โดยสังเขปมีความเป็นไปได้สูงมากที่จะเลือกสายที่มีความซับซ้อนของ Kolmogorov สูง

— Marzio De Biasi

คำตอบ:

ความซับซ้อนของ Kolmogorov นั้นขึ้นอยู่กับค่าคงที่เสริมเท่านั้นดังนั้นจึงไม่สามารถให้คำตอบที่แน่นอนได้ ขอบเขตที่ฉันอธิบายไว้ที่นี่นั้นอ่อนแอกว่า

แน่นอนจำนวนที่คาดหวังสามารถคำนวณได้ง่ายเมื่อเรารู้จำนวน $2^n$ สตริงมีความซับซ้อนน้อยกว่า $n_0$ ดังนั้นฉันจะตอบคำถามนี้ มันมักจะเป็นคำสั่งแรกเกี่ยวกับความซับซ้อนของ Kolmogorov ที่จำนวนนี้เป็นอย่างมาก $2^{n_0}-1$ - เนื่องจากมีเพียงสตริงจำนวนมากที่มีความยาวน้อยกว่านี้ ในทางตรงกันข้ามถ้าโปรแกรมของคุณพูดว่า "ความยาว $n$ รับ $x$ หมายเลข th "จากนั้นคุณจะได้รับ $2^{n_0-K(n)-C}$ สตริงของความซับซ้อนน้อยกว่า $n_0$ ที่ไหน $K(n)$ เป็นรุ่นนำหน้าฟรีของความซับซ้อนของ Kolmogorov $n$ (อย่างมากที่สุด $\log n+\log^* n + O(1)$ ) ในรายละเอียดเพิ่มเติมสตริงแรกมีคำอธิบายของเครื่องทัวริงที่นำเข้า $px$ โดยที่ p คือคำอธิบายของโปรแกรมที่ไม่มีคำนำหน้า $n$ เอาท์พุท $x$ จำนวนความยาว $n$ , ซึ่งเป็น $O(1)$ บิตและจากนั้นตามด้วย $px$ .

อาจเป็นไปได้ที่จะปรับปรุงขอบเขตเหล่านี้ แต่ฉันสงสัยว่าคุณจะได้รับคำตอบที่แน่นอน

— domotorp
แหล่งที่มา

คุณช่วยอธิบายเล็กน้อยเกี่ยวกับวลี 'หากโปรแกรมของคุณพูดว่า "ความยาว n ใช้หมายเลข xth" "หรือไม่

— vs

คุณพูดถูกมันควรจะปราศจากคำนำหน้าฉันแก้ไขมัน

— domotorp

คำตอบที่แม่นยำจะได้รับ จำนวนสตริงที่มีความยาว $n$ มีความซับซ้อนมากที่สุด $n_0$ คือ $2^{n_0 - K(n_0|n)}$ ถึงปัจจัยคงที่ ดังนั้นกระบวนการใด ๆ ที่สุ่มเลือกเซตย่อยจะมีความน่าจะเป็นที่สมเหตุสมผล $2^{-K(n_0|n) + O(1)}$ เศษส่วนของสตริงของความซับซ้อนน้อยกว่า $n_0$ . ในการแสดงของเราเรียกร้องของเราก็พอเพียงที่จะแสดงให้เห็นว่าจำนวนของสตริงที่มีความซับซ้อนเท่ากับไป $k$ มอบให้โดย $2^{k - K(k|n)}$ . เราสามารถแสดงผลลัพธ์ที่จำเป็นโดยพิจารณาจากผลรวมของค่านี้มากกว่า $k$ ตั้งแต่ 1 ถึง $n_0$ . ในการแสดงสิ่งนี้เราใช้ผลการเพิ่มความซับซ้อนแบบธรรมดา (เนื่องจาก B. Bauwens และ A. Shen ทฤษฎีบทการเพิ่มความซับซ้อนแบบ Kolmogorov ธรรมดาทฤษฎีของระบบคอมพิวเตอร์ 52 (2): 297-302, กุมภาพันธ์ 2013)

C (a, b) = K (a | C (a, b)) + C (b | a, C (a, b)) + O (1) .

$C(a,b) = K(a|C(a,b)) + C(b|a,C(a,b)) + O(1).$ ที่นี่

K (\cdot)

$K(\cdot)$ หมายถึงความซับซ้อนของ Kolmogorov คำนำหน้าฟรี เลือก

a = n

$a = n$ เราสังเกตว่าสำหรับแต่ละ

n

$n$ สตริงบิต

b

$b$ ของความซับซ้อน

k

$k$ เรามี

k = C (b) = C (n, b) + O (1) = K (n | k) + C (b | n, k) + O (1) .

$k = C(b) = C(n,b) + O(1) = K(n|k) + C(b|n,k) + O(1).$ ดังนั้นสำหรับแต่ละเช่น

b

$b$ เรามี

C (b | n, k) = k - K (n | k) + O (1)

$C(b|n,k) = k - K(n|k)+O(1)$ . ปล่อย

k^{'} = k - K (n | k)

$k' = k - K(n|k)$ . ตอนนี้เราสามารถสังเกตได้ว่ามีอยู่มากที่สุด

O (2^{k^{'}})

$O(2^{k'})$ สตริงดังกล่าว

b

$b$ และแต่ละ lexicographically ก่อน

2^{k^{'}}

$2^{k'}$ สายยาว

n

$n$ พอใจ

C (b | n, k) \leq k^{'} + O (1)

$C(b|n,k) \le k' + O(1)$ . ดังนั้น

Ω (2^{k^{'}})

$\Omega(2^{k'})$ ของพวกเขาพึงพอใจ

C (b | n, k) = k^{'} + O (1)

$C(b|n,k) = k' + O(1)$ .

— Bruno Bauwens
แหล่งที่มา