คำถามติดแท็ก kolmogorov-complexity

ขอให้เราแก้ไขเข้ารหัสคำนำหน้าฟรีของทัวริงเครื่องและสากลทัวริงเครื่องว่าการป้อนข้อมูล (เข้ารหัสเป็นรหัสคำนำหน้าฟรีของตามด้วย ) ผลสิ่งผลกับการป้อนข้อมูล (อาจจะเป็น ทั้งสองทำงานตลอดไป) กำหนดความซับซ้อน Kolmogorov ของ ,เป็นความยาวของโปรแกรมสั้นดังกล่าวว่า xUUU(T,x)(T,x)(T,x)TTTxxxTTTxxxxxxK(x)K(x)K(x)pppU(p)=xU(p)=xU(p)=x มีทัวริงเครื่องเช่นนั้นสำหรับทุกอินพุตมันจะส่งออกจำนวนเต็มนั่นแตกต่างจากความซับซ้อนของ Kolmogorov ของคือแต่ ?TTTxxxT(x)≤|x|T(x)≤|x|T(x)\le |x|xxxT(x)≠K(x)T(x)≠K(x)T(x)\ne K(x)lim inf|x|→∞T(x)=∞lim inf|x|→∞T(x)=∞\liminf_{|x|\rightarrow \infty} T(x)=\infty เงื่อนไขเป็นสิ่งที่จำเป็นเพราะ (a) ถ้าT(x)≰|x|T(x)≰|x|T(x)\not \le |x|แล้วมันจะง่ายต่อการส่งออกตัวเลขที่เป็นนิด ๆ แตกต่างจากK(x)K(x)K(x)เพราะมันมีขนาดใหญ่กว่า|x|+cU|x|+cU|x|+c_U , (b) ถ้าอนุญาตให้lim inf|x|→∞T(x)&lt;Clim inf|x|→∞T(x)&lt;C\liminf_{|x|\rightarrow \infty} T(x)<Cอนุญาตเราสามารถเอาท์พุท000 (หรือค่าคงที่อื่น ๆ ) สำหรับตัวเลขเกือบทั้งหมดโดย "โชคดี" ที่เดาได้มากที่สุด (ตัวเลขจำนวน จำกัด ) ที่ประเมินเป็น000 (ไปยังค่าคงที่อื่น ๆ ) และเอาท์พุทมีอย่างอื่น เรายังสามารถรับประกันlim …

28 cc.complexity-theory  kolmogorov-complexity  universal-computation  universal-turing-machines 

ความซับซ้อนของคำนำหน้า Kolmogorov (เช่นคือขนาดของโปรแกรมการลดขนาดตัวเองขั้นต่ำที่เอาต์พุตx ) มีคุณสมบัติที่ดีหลายประการ:K(x)K(x)K(x)xxx มันสอดคล้องกับสัญชาตญาณของการให้สายกับ patters หรือโครงสร้างความซับซ้อนต่ำกว่าสตริงโดยไม่ต้อง มันช่วยให้เราสามารถกำหนดเงื่อนไขซับซ้อนหรือดียิ่งขึ้นK ( x | O )สำหรับบาง oracle OK( x | y)K(x|Y)K(x|y)K( x | O )K(x|O)K(x|O)OOO มันเป็นย่อยสารเติมแต่ง )K( x , y) ≤ K( x ) + K( y)K(x,Y)≤K(x)+K(Y)K(x,y) \leq K(x) + K(y) อย่างไรก็ตามมันมีข้อเสียที่น่ากลัว: การส่งกลับให้xไม่สามารถตัดสินใจได้K( x )K(x)K(x)xxx ฉันได้สงสัยว่ามีความแตกต่างจาก Kolmogorov ซับซ้อนโดยใช้แบบจำลองที่ จำกัด ของการคำนวณ (โดยใช้ภาษาที่อ่อนแอกว่าหน่วยความจำหรือการใช้ทรัพยากร TM …

28 it.information-theory  kolmogorov-complexity  formal-modeling 

พิจารณาเหตุผลต่อไปนี้: ให้แสดงถึงความซับซ้อน Kolmogorovของสตริงx ทฤษฎีความไม่สมบูรณ์ของ Chaitinกล่าวว่าxK(x)K(x)K(x)xxx สำหรับการใด ๆ ที่สอดคล้องกันและแข็งแรงพออย่างเป็นทางการระบบมีอยู่อย่างต่อเนื่อง (ขึ้นอยู่เฉพาะในระบบอย่างเป็นทางการและภาษา) เช่นว่าสายใด ๆ , ไม่สามารถพิสูจน์ได้ว่าTT x S K ( x ) ≥ TSSSTTTxxxSSSK(x)≥TK(x)≥TK(x) \geq T ให้จะเป็นฟังก์ชั่นบูลีนในตัวแปรเซนต์ซับซ้อน Kolmogorov ของสเปกตรัมของมันคือที่มากที่สุดk Let S ( ฉn )เป็นความซับซ้อนของวงจรฉnคือขนาดของวงจรน้อยที่สุดการคำนวณฉ n nfnfnf_nnnnkkkS(fn)S(fn)S(f_n)fnfnf_nfnfnf_n A (คร่าวๆ) ขอบเขตบนสำหรับคือ S ( f n ) ≤ c ⋅ B B ( k ) ⋅ …

21 cc.complexity-theory  reference-request  lo.logic  circuit-complexity  kolmogorov-complexity 

SSSI(n)={w∈S:|w|=n}I(n)={w∈S:|w|=n}I(n) = \{w \in S : |w| = n\}nnnT(w)T(w)T(w)AAAwwwAAAfn=maxw∈I(n)T(w).fn=maxw∈I(n)T(w). f_n = \max_{w \in I(n)} T(w). ให้เรากำหนดเซต IK(n)={w∈S:K(w)=n}IK(n)={w∈S:K(w)=n} I^K(n) = \{w \in S : K(w) = n \} ของอินพุตทั้งหมดด้วย Kolmogorov complex nnnและให้เรากำหนดลำดับ fKn=1|IK(n)|∑w∈IK(n)T(w).fnK=1|IK(n)|∑w∈IK(n)T(w). f^K_n = \frac{1}{\left|I^K(n)\right|} \sum_{w \in I^K(n)} T(w). ที่นี่fKfKf^Kเป็นลำดับเวลาเฉลี่ยสำหรับAAAยกเว้นที่ "ขนาด" ของอินพุตเป็นความซับซ้อนของ Kolmogorov ไม่ใช่ความยาว มีอัลกอริทึมที่fnfnf_nแตกต่างอย่างมีนัยสำคัญจากfKnfnKf^K_nหรือไม่? ถ้าใช่มีปัญหาที่ความซับซ้อนของเวลาเปลี่ยนแปลงไปเมื่อใช้วิธีวิเคราะห์อัลกอริธึมที่แตกต่างกันนี้หรือไม่?

21 cc.complexity-theory  kolmogorov-complexity  parameterized-complexity  succinct  analysis-of-algorithms 

ทฤษฎีบทจำนวนมากและ "ความขัดแย้ง" ของต้นเสียง diagonalization, undecidability ของความเกลียดชัง, ความไม่แน่นอนของความซับซ้อนของ Kolmogorov, ความไม่สมบูรณ์ของGödel, ความไม่สมบูรณ์ของ Chaitin, ความขัดแย้งของ Chaitin, ฯลฯ - ทั้งหมดมีหลักฐานเดียวกันโดย diagonalization ทั้งหมดจะได้รับการพิสูจน์โดย diagonalization ค่อนข้างมันรู้สึกว่าทั้งหมดของทฤษฎีบทเหล่านี้จริงๆใช้เดียวกัน diagonalization สำหรับรายละเอียดเพิ่มเติมดูเช่นYanofskyหรือขึ้นสั้นมากและน้อยกรงเล็บบัญชี คำตอบของฉันไปที่คำถามนี้ ) ในความคิดเห็นในคำถามดังกล่าวข้างต้น, Sasho Nikolov ชี้ให้เห็นว่าส่วนใหญ่ของผู้เป็นกรณีพิเศษของLawvere คงจุดทฤษฎีบท หากพวกเขาเป็นกรณีพิเศษทั้งหมดนี่จะเป็นวิธีที่ดีในการรวบรวมความคิดข้างต้น: จะมีผลหนึ่งเดียวที่มีหลักฐานหนึ่งข้อ (Lawvere's) ซึ่งทั้งหมดข้างต้นเป็นไปตามข้อพิสูจน์โดยตรง ตอนนี้สำหรับGödelขาดและ undecidability ของลังเลปัญหาและเพื่อน ๆ ของพวกเขาก็เป็นที่รู้จักกันดีว่าพวกเขาปฏิบัติตามจาก Lawvere คงจุดทฤษฎีบท (ดูเช่นที่นี่ , ที่นี่หรือYanofsky ) แต่ฉันไม่เห็นว่าจะทำเช่นนั้นได้อย่างไรเพื่อความซับซ้อนของ Kolmogorov แม้ความจริงที่ว่าหลักฐานที่พิสูจน์แล้วจะเป็นแบบเดียวกันก็ตาม ดังนั้น: undecidability ของความซับซ้อนของ …

17 lo.logic  computability  ct.category-theory  kolmogorov-complexity 

ให้แสดงถึงความซับซ้อนของ Kolmogorov สตริงxทำมีอยู่สตริงดังกล่าวว่า(x) (ที่นี่เป็นการต่อเชื่อมกับตัวเอง) คำถามที่คล้ายกัน แต่แตกต่างกันถูกถามที่นี่แต่ตัวอย่างที่ให้ไว้ในคำตอบสำหรับคำถามนั้นไม่ได้ผลสำหรับคำถามนี้x K ( x x ) &lt; K ( x ) x x xK( x )K(x)K(x)xxxK( x x ) &lt; K( x )K(xx)&lt;K(x)K(xx)<K(x)x xxxxxxxx

16 cc.complexity-theory  kolmogorov-complexity 

ทฤษฎีความไม่สมบูรณ์ของ Chaitinกล่าวว่าไม่มีทฤษฎีทางคณิตศาสตร์ที่แข็งแกร่งเพียงพอที่จะพิสูจน์ว่าK(s)&gt;LK(s)&gt;LK(s) > Lโดยที่K(s)K(s)K(s)เป็นความซับซ้อนของ Kolmogorov ของสตริงsssและLLLเป็นค่าคงที่ที่มีขนาดใหญ่พอสมควร LLLคือขนาดใหญ่พอถ้ามันมีขนาดใหญ่กว่าขนาดในบิตของเครื่องตรวจสอบหลักฐาน (PCM) PCM สำหรับทฤษฎีTTTใช้เวลาสตริงเข้ารหัสเป็นจำนวนเต็มเป็น input และผล 1 ถ้าสตริงเป็นหลักฐานที่ถูกต้องในภาษาของTTTT สมมติว่าL(T)&gt;|PCMT|L(T)&gt;|PCMT|L(T) > |PCM_T|สำหรับทฤษฎีTTTเป็นผูกไว้บนสำหรับความซับซ้อนของTTTTพิจารณาลำดับชั้นของทฤษฎีต่อไปนี้: ปล่อยให้ทฤษฎีพื้นฐานเป็นเลขคณิตของโรบินสัน ( QQQ ) เติมQQQด้วยสัจพจน์ที่แข็งแกร่งมากขึ้นของการเหนี่ยวนำขอบเขตพหุนาม ให้Q∗Q∗Q^*เป็นทฤษฎีของทฤษฎีบทที่พิสูจน์ได้ด้วยQQQและสัจพจน์เชิงอุปนัยใด ๆ สมมติว่าเราสามารถกำหนดL(Q)L(Q)L(Q)และโดยการกำหนด PCM สำหรับแต่ละทฤษฎีL(Q∗)L(Q∗)L({Q^*}) ฉันต้องการที่จะต้องพิจารณาเครื่องตรวจสอบหลักฐานที่เพิ่มขึ้น (EPCM) สำหรับ * EPCM นี้จะใช้เวลาสตริงเป็น input เช่นเดียวกับ ECM และมีการป้อนข้อมูลที่สองซึ่งได้กำหนดตำแหน่งและระดับของการย่อยทฤษฎีของQ * หากสายป้อนข้อมูลเป็นหลักฐานที่ถูกต้องในQ ∗ EPCM จะผ่านขั้นตอนของการพิสูจน์เพื่อกำหนดระดับสูงสุดและระดับของการเหนี่ยวนำที่ใช้ EPCM นี้แล้วเขียนประโยค 1 ถ้าใส่เป็นหลักฐานที่ถูกต้องในการระบุย่อยทฤษฎีของQ *Q∗Q∗Q^*Q∗Q∗Q^*Q∗Q∗Q^*Q∗Q∗Q^* ตัวตรวจสอบการพิสูจน์ขั้นสูงที่ฉันอธิบายนั้นเป็นไปได้หรือไม่ ถ้าเป็นเช่นนั้นขนาดของ EPCM …

14 lo.logic  kolmogorov-complexity 

โดยทั่วไปแชนนอนเอนโทรปีจะใช้เพื่อพิสูจน์ผลการเข้ารหัสช่องสัญญาณ แม้จะใช้ผลลัพธ์การแยกแชนเนลแชนนอนเอนโทรปี มีการศึกษาที่จะใช้ประโยชน์จากความซับซ้อนของ Kolmogorov สำหรับผลลัพธ์เหล่านี้ (หรืออย่างน้อยที่สุดเพื่อแทนที่ส่วนการเข้ารหัสซอร์สในผลลัพธ์การแยกช่องสัญญาณต้นทาง)

12 it.information-theory  kolmogorov-complexity  shannon-entropy 

เราสามารถคิดของความซับซ้อนของ Kolmogorov สตริงความยาวของระยะเวลาที่สั้นโปรแกรมPและใส่Yเช่นว่าx = P ( Y ) โดยปกติโปรแกรมเหล่านี้จะถูกดึงมาจากชุดทัวริงบางชุด (เช่นPอาจเป็นคำอธิบายของเครื่องทัวริงหรืออาจเป็นโปรแกรมใน LISP หรือ C) แม้ว่าเราจะดูที่ความซับซ้อนของ Kolmogorov ที่มีทรัพยากร จำกัด เรายังคงมองไปที่เครื่องทัวริง แต่มีขอบเขตในการใช้งานหรือการใช้พื้นที่ หนึ่งในผลที่ตามมาของเรื่องนี้คือความซับซ้อนของสตริงนั้นไม่สามารถตัดสินใจได้ ดูเหมือนว่าจะเป็นคุณสมบัติที่น่าอึดอัดใจxxxPPPyyyx=P(y)x=P(y)x = P(y)PPP จะเกิดอะไรขึ้นถ้าเราใช้โมเดลการคำนวณที่ไม่ใช่ทัวริงสมบูรณ์เพื่อกำหนดความซับซ้อนของ Kolmogorov หากเราเลือกโมเดลที่มีข้อ จำกัด มากพอ (กล่าวว่าแบบจำลองของเราสามารถใช้เอกลักษณ์ได้เท่านั้น) ความซับซ้อนของสตริงกลายเป็นสิ่งที่ถอดรหัสได้แม้ว่าเราจะสูญเสียทฤษฎีความแปรปรวน เป็นไปได้หรือไม่ที่จะมีโมเดลที่แข็งแกร่งพอที่จะมีความซับซ้อนที่เท่าเทียมกัน (ไม่เกินค่าคงที่ชดเชยหรือแม้แต่ตัวคูณคูณ) สำหรับโมเดลทัวริงที่สมบูรณ์ แต่อ่อนแอพอที่จะยังคงความซับซ้อนของสตริง มีชื่อมาตรฐานสำหรับความซับซ้อนของ Kolmogorov กับแบบจำลองการคำนวณที่ไม่ใช่ทัวริงสมบูรณ์หรือไม่? ฉันจะอ่านเพิ่มเติมเกี่ยวกับเรื่องนี้ได้ที่ไหน

12 reference-request  computability  kolmogorov-complexity 

แรงจูงใจสำหรับคำถามนี้คือความจริงที่ว่าสตริง n-bit ส่วนใหญ่ไม่สามารถบีบอัดได้ โดยสังเขปเราสามารถเสนอโดยการเปรียบเทียบว่าการพิสูจน์ส่วนใหญ่สำหรับ Tautologies นั้นไม่สามารถบีบอัดได้จนถึงขนาดพหุนาม โดยพื้นฐานแล้วปรีชาญาณของฉันคือการพิสูจน์บางอย่างสุ่มโดยเนื้อแท้และไม่สามารถบีบอัดได้ มีการอ้างอิงที่ดีเกี่ยวกับความพยายามในการวิจัยที่เกี่ยวข้องกับการใช้ผลลัพธ์ที่ซับซ้อนของ Kolmogorov เพื่อสร้างขอบเขตที่ต่ำกว่าพหุนามในขนาดพิสูจน์ของ Tautologies หรือไม่? ในปริญญาเอกนี้ วิทยานิพนธ์ เกี่ยวกับความซับซ้อนของระบบการพิสูจน์ข้อเสนอ วิธีการไม่บีบอัดข้อมูลจาก Kolmogorov Complexity ใช้เพื่อให้ได้ขอบเขตของ Urquhart สำหรับขอบเขตของคลาส Tautologies ฉันสงสัยว่ามีผลลัพธ์ที่ดีกว่าโดยใช้วิธีการบีบอัดข้อมูลหรือผลลัพธ์อื่นจากความซับซ้อนของ Kolmogorov หรือไม่Ω(n/logn)Ω(n/log⁡n)\Omega(n/\log n)

11 lower-bounds  proof-complexity  kolmogorov-complexity 

เพื่อตอบ "ปัญหาที่สามารถแก้ไขได้ด้วยการคำนวณ" เราได้พัฒนาทฤษฎีการคำนวณ สำหรับปัญหาที่คำนวณได้มีทฤษฎีที่จะตอบคำถามที่ว่า "เป็นโปรแกรมที่ฉันได้ง่ายที่สุด" หรือไม่? ฉันไม่คิดว่าความซับซ้อนในการคำนวณตอบคำถาม ฉันคิดว่ามันจะพิจารณาระยะเวลาที่เราต้องการ (แม้ว่าวัดเป็นนามธรรม) ฉันไม่แน่ใจว่าทฤษฎีข้อมูลอัลกอริทึมตอบคำถามหรือไม่ ดูเหมือนว่าทฤษฏีพูดถึงเรื่องขนาดซึ่งการเทียบขนาดเล็กและเรียบง่ายที่สุดนั้นไม่ชัดเจนสำหรับฉัน (อย่างน้อยพวกเขาก็รู้สึกแตกต่างจากฉัน) ฉันคิดว่าอย่างน้อยทฤษฎีควรนิยามความสัมพันธ์ "ง่าย" หรือ "ง่ายกว่า" ตอนนี้ฉันเชื่อแล้วว่าฉันควรจะดู Kolmogorov Complexity อย่างไรก็ตามฉันต้องการอธิบายสิ่งที่อยู่ในใจของฉันเมื่อฉันถามคำถาม เมื่อฉันปรับปรุงโปรแกรมฉันพยายามลดการเชื่อมต่อที่ไม่จำเป็นระหว่างส่วนต่าง ๆ ของโปรแกรม (อาจแบ่งส่วนใหม่เพื่อให้มีการเชื่อมต่อน้อยลงหรืออ่อนแอลง) เนื่องจากการเชื่อมต่อลดลงโปรแกรมจึงรู้สึกว่า "เรียบง่าย" ดังนั้นการเลือกคำว่า "เรียบง่าย" เมื่อฉันใช้คำถาม มีโอกาสมากที่ขนาดของโปรแกรมจะลดลง แต่นั่นเป็นผลข้างเคียงที่ดีไม่ใช่เป้าหมายหลัก เห็นได้ชัดว่ากระบวนการปรับปรุงไม่สามารถดำเนินต่อไปได้ตลอดไป มีประเด็นที่ฉันควรหยุด ถ้าเพียงแค่พิจารณา "โครงสร้าง" (ขออภัยสำหรับแนวคิดที่ไม่ได้กำหนดไว้อื่น) หรือ "ความสัมพันธ์" ฉันสามารถโน้มน้าวตัวเองได้ว่าไม่มีอะไรที่จะทำได้อีกต่อไป? ที่นี่มีคำอธิบายที่ดีกว่าของความคิดความซับซ้อนของฉัน Olaf Sporns (2007) Complexity . Scholarpedia , 2 (10): 1623

10 big-picture  kolmogorov-complexity 

เครื่องกำเนิดไฟฟ้าคงกระพันมีการกำหนดดังนี้: ให้เป็นความสัมพันธ์ NP และMเป็นเครื่องที่ยอมรับL ( R ) อย่างไม่เป็นทางการโปรแกรมเป็นตัวสร้างที่คงกระพันถ้าหากอินพุต1 nมันจะสร้างคู่พยานตัวอย่าง( x , w ) ∈ Rด้วย| x | = nตามการกระจายตามที่ฝ่ายตรงข้ามใด ๆ พหุนามเวลาที่จะได้รับxล้มเหลวในการหาพยานที่x ∈ Sด้วยโอกาสที่จะเห็นได้ชัดสำหรับความยาวหลายอย่างมากมายnRRRMMML ( R )L(R)L(R)1n1n1^n( x , w ) ∈ R(x,w)∈R(x, w) \in R| x | =n|x|=n|x| = nxxxx ∈ Sx∈Sx \in Snnn กำเนิดคงกระพันกำหนดครั้งแรกโดยAbadi et al พบแอปพลิเคชั่นมากมายในการเข้ารหัส การดำรงอยู่ของเครื่องกำเนิดไฟฟ้าคงกระพันอยู่บนพื้นฐานของการสันนิษฐานว่าแต่นี่อาจจะไม่เพียงพอ (ดูหัวข้อที่เกี่ยวข้องด้วย …

10 cc.complexity-theory  cr.crypto-security  oracles  relativization  kolmogorov-complexity 

ฉันกำลังมองหาหลักฐานว่าความซับซ้อนของ Kolmogorov นั้นไม่สามารถคำนวณได้โดยใช้การลดลงของปัญหาที่ไม่สามารถคำนวณได้อีก หลักฐานทั่วไปคือการทำให้เป็นรูปธรรมของความขัดแย้งของ Berry มากกว่าการลดลง แต่ควรมีข้อพิสูจน์โดยการลดจากบางอย่างเช่นปัญหาการหยุดชะงักหรือปัญหาความสอดคล้องของโพสต์

9 computability  reductions  kolmogorov-complexity 

ขอให้เราแก้ไขการเข้ารหัสของเครื่องจักรทัวริงและเครื่องจักรทัวริงสากล U ที่อินพุต (T, x) เอาท์พุทอะไรก็ตามที่เอาต์พุต T บนอินพุต x (อาจทำงานได้ตลอดไป) กำหนดความซับซ้อนของ Kolmogorov ของ x, K (x), ตามความยาวของโปรแกรมที่สั้นที่สุด, p, เช่นนั้น U (p) = x มี N แบบนั้นหรือไม่สำหรับทุก n&gt; N มี x กับ K (x) = n หรือไม่? สังเกต. หากเรากำหนดเครื่องจักรทัวริงสากลด้วยวิธีอื่นคำตอบอาจเป็นลบ ตัวอย่างเช่นลองพิจารณา U ที่อินพุต (T, x) จำลอง T บน x หากความยาวของ (T, x) …

9 cc.complexity-theory  universal-computation  kolmogorov-complexity  universal-turing-machines 

ความซับซ้อนของสตริง Kolmogorov ไม่สามารถคำนวณได้ อย่างไรก็ตามในชุดย่อยที่มีขนาดของสตริงไบนารี่ที่มีความยาวจำนวนเท่าไหร่ที่คาดว่าจะมีความซับซ้อนน้อยกว่าจำนวนเต็มน้อยกว่า (เป็นฟังก์ชันของ ,และ )?MMMnnnn0n0n_{0}nnnMMMnnnn0n0n_{0}

9 cc.complexity-theory  kolmogorov-complexity