เหตุใดจึงต้องใช้ภาษาในทฤษฎีความซับซ้อน

ฉันเพิ่งเริ่มเข้าสู่ทฤษฎีการคำนวณซึ่งศึกษาสิ่งที่สามารถคำนวณได้ว่าเร็วแค่ไหนโดยใช้หน่วยความจำและรูปแบบการคำนวณแบบไหน

ฉันมีคำถามพื้นฐานที่สวยงาม แต่ฉันหวังว่าพวกคุณบางคนสามารถช่วยฉันเข้าใจแนวคิดที่อยู่เบื้องหลัง:

ทำไมทุกอย่างมีศูนย์กลางอยู่ที่ความคิดและความหมายของภาษา (เช่นภาษาปกติและภาษาที่ไม่มีบริบท) และสิ่งเหล่านี้เกี่ยวข้องและอธิบายความซับซ้อนของอัลกอริทึมและตัวแบบการคำนวณที่เป็นไปได้สำหรับการแก้ปัญหาอย่างไร

ฉันอ่านคำถามที่เกี่ยวข้องเหล่านี้:

• /cstheory/14811/what-is-the-enlightenment-im-supposed-to-attain-after-studying-finite-automata
• /cstheory/8539/how-practical-is-automata-theory

แต่ก็ยังไม่มีคำตอบสำหรับข้อสงสัยของฉันเนื่องจากพวกเขาให้เหตุผลที่สมเหตุสมผลว่าทำไมพวกเขาถึงมีความสำคัญ (ซึ่งฉันเข้าใจ) แต่ไม่ช่วยให้ฉันเข้าใจว่าทำไมทฤษฎีความซับซ้อนจึงยึดถือพวกเขา

เป็นเพราะภาษาที่ดีที่สุด (เท่านั้น) วิธีที่เรามีในการทำให้แนวคิดของ "ปัญหา" เป็นระเบียบเรียบร้อย

อัลกอริธึม (Turing Machine) มีประสิทธิภาพซึ่งเราแสดงผ่านความซับซ้อนของบิ๊กโอ ปัญหา (ภาษา) เป็นของระดับความซับซ้อน สิ่งเหล่านี้มักจะถูกกำหนดโดยการมีอยู่: หากมีเครื่องที่ยอมรับภาษาซึ่งทำงานในประสิทธิภาพที่กำหนด (พื้นที่หรือเวลา) ภาษานั้นจะเป็นของคลาสความซับซ้อนที่สอดคล้องกัน$L$

มีเหตุผลบางประการสำหรับเรื่องนี้ แรกคือภาษาที่เป็นอิสระจากแพลตฟอร์ม คุณไม่ต้องกังวลเกี่ยวกับว่าจำนวนเต็มเป็น 32 หรือ 64 บิตหรือว่าการดำเนินการจุดลอยตัวทำงานควบคู่กับการดำเนินการอื่น ๆ สิ่งเหล่านี้ให้ประสิทธิภาพการทำงานที่รวดเร็วในระดับไมโคร แต่การวิเคราะห์ความซับซ้อนมีความสนใจในระดับมหภาค เมื่อคุณปรับขนาดจาก 100 ถึงถึง10 9ถึง10 12อินพุตประสิทธิภาพของอัลกอริทึมจะเปลี่ยนไปอย่างไร มันเปลี่ยนจากการใช้เทปเซลล์ 1 ล้านเซลล์เป็น 1 พันล้านเซลล์หรือจาก 1 ล้านเซลล์เป็นมากกว่าเซลล์ในจักรวาล?$10^6$$10^9$$10^{12}$

ประการที่สองคือภาษาเป็นเพียงนามธรรมที่ดีสำหรับข้อมูล คุณต้องการสิ่งที่คุณสามารถพิสูจน์ได้สิ่งที่คุณสามารถทำแบบจำลองได้อย่างเป็นทางการ การเข้ารหัสอินพุตและเอาต์พุตของคุณเป็นสตริงหมายความว่าตอนนี้คุณไม่ได้ใช้บิตในหน่วยความจำ แต่มีวัตถุทางคณิตศาสตร์ที่มีคุณสมบัติเฉพาะ คุณสามารถให้เหตุผลเกี่ยวกับพวกเขาและพิสูจน์หลักฐานเกี่ยวกับพวกเขาในแง่ที่เป็นทางการและเรียบง่ายมาก

$k$

ฉันเดาว่านี่คือความท้าทายสำหรับคุณ: หาวิธีอธิบายปัญหาทางคณิตศาสตร์ที่ไม่ใช่ภาษา ฉันไม่รู้ว่าภาษานั้นพิเศษหรือไม่ แต่ฉันคิดว่ามันเป็นเครื่องมือที่ง่ายที่สุดที่เรามี

มีสองคำตอบพื้นฐานสำหรับคำถามของคุณ:

1. มีทฤษฎีความซับซ้อนมากกว่าภาษาเช่นคลาสฟังก์ชั่นความซับซ้อนทางคณิตศาสตร์และ subareas ของอัลกอริทึมการประมาณและความไม่สามารถประมาณได้

2. เหตุผลทางประวัติศาสตร์: หนึ่งในเอกสารขั้นพื้นฐานในทฤษฎีการคำนวณได้กล่าวถึง Entscheidungsproblem ของ Hilbert (รูปแบบของปัญหาการหยุดชะงัก)

น่าเสียดายที่ฉันไม่ค่อยรู้เรื่องหลังนี้มากนัก แต่ขอให้ฉันขยายไปในอดีต

ความซับซ้อนเกินกว่าภาษา

$L$$M$$f_M$$x \in M$$f_M(x) \in L$.

ความซับซ้อนของวงจรเลขคณิต (หรือทฤษฎีความซับซ้อนเชิงพีชคณิต ) เกี่ยวข้องกับความซับซ้อนของการคำนวณพหุนามหลายชนิด คลาสความซับซ้อนที่สำคัญที่นี่คือ VP และ VNP และทฤษฎีความซับซ้อนทางเรขาคณิตเป็นโครงการสำคัญที่พยายามแยก VP และ VNP (และภายหลัง P และ NP) โดยใช้เรขาคณิตเชิงพีชคณิตและทฤษฎีการเป็นตัวแทน

อีกตัวอย่างที่สำคัญของความซับซ้อนเชิงพีชคณิตคือการคูณเมทริกซ์ที่รวดเร็ว ที่นี่คำถามพื้นฐานคือเราสามารถคูณเมทริกซ์สองตัวได้เร็วแค่ไหน ? คำถามที่คล้ายกันถามว่าเราสามารถคูณจำนวนเต็มได้เร็วแค่ไหนเราสามารถทดสอบจำนวนเต็มอย่างรวดเร็วสำหรับแบบดั้งเดิม (นี่คือปัญหาการตัดสินใจ!) และเราจะแยกตัวประกอบจำนวนเต็มได้เร็วแค่ไหน

การเพิ่มประสิทธิภาพนูนออกมาเกี่ยวข้องกับปัญหาการเพิ่มประสิทธิภาพที่สามารถแก้ไขได้ (หรือเกือบแก้ไข) ได้อย่างมีประสิทธิภาพ ตัวอย่างคือการเขียนโปรแกรมเชิงเส้นและการเขียนโปรแกรม semidefinite ซึ่งทั้งสองมีอัลกอริทึมที่มีประสิทธิภาพ ที่นี่เรามีความสนใจทั้งในแง่ดีที่สุดและในทางออกที่ดีที่สุด เนื่องจากมักจะมีทางออกที่ดีที่สุดมากกว่าหนึ่งวิธีการคำนวณโซลูชันที่ดีที่สุดจึงไม่ได้เป็นตัวแทนของปัญหาในการตัดสินใจ

$\ln n$

ลองดูคำถามนี้จากมุมมองของทฤษฎีหมวดหมู่ ปัญหาการตัดสินใจ (หรือภาษา) จะสอดคล้องกับวัตถุของหมวดหมู่และการอนุญาตที่ลดลงระหว่างสองปัญหาจะสอดคล้องกับ morphisms (ลูกศร) ของหมวดหมู่

การพูดคุยเกี่ยวกับภาษามีความได้เปรียบที่ความเท่าเทียมกันของภาษานั้นถูกกำหนดไว้อย่างดี ปัญหาที่ไม่เกี่ยวข้องสองปัญหาอาจนำไปสู่ภาษาเดียวกันและจากนั้นเราได้รับอนุญาตให้พิจารณาปัญหาเหล่านั้นเทียบเท่า หากเราต้องการพูดคุยเกี่ยวกับปัญหา isomorphic แทนเราจะต้องกำหนด morphisms ที่อนุญาตระหว่างสองปัญหา แต่สัณฐานที่ได้รับอนุญาตขึ้นอยู่กับระดับความซับซ้อนที่เกิดขึ้นจริงภายใต้การพิจารณาซึ่งทำให้วิธีนี้ไม่เหมาะสมสำหรับการเปรียบเทียบชั้นความซับซ้อนที่แตกต่างกัน

ความคิดของปัญหา isomorphic โดยทั่วไปจะหยาบกว่าความคิดของภาษาที่เทียบเท่ากันนั่นคือปัญหาที่สองคือ isomorphic แม้ว่าภาษาที่เกี่ยวข้องจะไม่เท่ากัน สิ่งที่แย่กว่านั้นคือมักจะมีเหตุผลที่แตกต่างกันสำหรับมอร์ฟิซึ่มส์ที่ได้รับอนุญาตซึ่งเห็นด้วยกับความเคารพต่อมอร์ฟที่ได้รับอนุญาตเท่านั้น การมุ่งเน้นไปที่ภาษาช่วยให้เลื่อนการแก้ไขปัญหาดังกล่าวไปได้จนกว่าเราจะรู้สึกอยากพูดเกี่ยวกับแนวคิดการลดที่เหมาะสม (เช่นการลด Karp และการลดคุก)