ทำไมการขนานและการเกิดพร้อมกันโดยนัยไม่แพร่หลายมากขึ้น? [ปิด]

ความเท่าเทียมโดยนัยโดยนัย ^สามารถนำภาระใหญ่ออกไปจากโปรแกรมเมอร์จำนวนมากวางไว้บนคอมพิวเตอร์ ดังนั้น ... ทำไมมันถึงไม่แพร่หลายในปัจจุบัน?

เนื่องจากมีข้อยกเว้นเล็กน้อย (Haskell) จึงไม่มีวิธีที่คอมไพเลอร์สามารถแกะลูปได้ ปัญหาคือว่าการวนซ้ำแต่ละครั้งผ่านการวนซ้ำสามารถแก้ไขสถานะโกลบอล ดังนั้นการทำตามลำดับที่แตกต่างกันอาจทำให้สิ่งต่าง ๆ แตกหัก ใน Haskell คุณสามารถพึ่งพาฟังก์ชั่นที่บริสุทธิ์ซึ่งก็คือว่ามันไม่ได้อ่านหรือเปลี่ยนสถานะโลกดังนั้นพวกเขาสามารถดำเนินการในลำดับใด ๆ

ปัญหาที่แท้จริงคือมีข้อยกเว้นเล็กน้อยว่าจะทำอย่างไรดีพร้อมกันยังคงเป็นปัญหาเปิด ชุมชน Erlang และ Haskell ดูเหมือนจะทำได้ค่อนข้างดี แต่มันก็ยังคงเป็นทางยาวไปก่อนที่เราจะเข้าใจวิธีการเขียนโปรแกรมระบบ N-core สำหรับ N ขนาดใหญ่

ภาษาการเขียนโปรแกรมส่วนใหญ่ที่เราใช้อยู่ในขณะนี้ในเวลาที่การเขียนโปรแกรมแบบเธรดเดี่ยวและการโต้ตอบกับผู้ใช้คนเดียวที่ใช้กันมากที่สุดสำหรับหลาย ๆ แอปพลิเคชัน (เช่นแอปพลิเคชันเดสก์ทอปแบบสแตนด์อโลน) ด้วยการยกระดับการใช้งานเว็บแอพพลิเคชั่นคลาวด์คอมพิวติ้งและแอพพลิเคชั่นผู้ใช้หลายคนตอนนี้เราต้องการแอพพลิเคชั่นแบบมัลติเธรดที่มากขึ้น

ภาษาการเขียนโปรแกรมดั้งเดิมพยายามที่จะสนับสนุนฟีเจอร์มัลติเธรดจากภาษาเองอย่างช้าๆ (เช่น java ที่เพิ่ม java.util.concurrent)

ภาษาใหม่ที่จะเกิดขึ้นในอนาคตจะมีการสนับสนุนเธรดและการทำงานพร้อมกันที่ดีขึ้น

นอกเหนือจากประเด็นที่กล่าวถึงในคำตอบอื่น ๆ (ยากที่จะพิสูจน์ว่าการดำเนินงานมีความเป็นอิสระและโปรแกรมเมอร์คิดว่าลำดับ) มีปัจจัยที่สามที่ต้องพิจารณา: ค่าใช้จ่ายของการขนาน

ความจริงก็คือการขนานของเธรดนั้นมีค่าใช้จ่ายที่สำคัญมาก

• การสร้างเธรดมีราคาแพงมาก : สำหรับเคอร์เนลการเริ่มเธรดจะเหมือนกับการเริ่มต้นกระบวนการ ฉันไม่แน่ใจเกี่ยวกับค่าใช้จ่ายที่แม่นยำ แต่ฉันเชื่อว่ามันอยู่ในคำสั่งของสิบไมโครวินาที

• การสื่อสารด้วยเธรดผ่าน mutexes นั้นมีราคาแพง: โดยปกติสิ่งนี้ต้องมีการเรียกใช้ระบบในแต่ละด้านซึ่งอาจทำให้เธรดเข้าสู่โหมดสลีปและปลุกอีกครั้งซึ่งทำให้เกิดความหน่วงแฝงเช่นเดียวกับแคชเย็นและ TLB ที่ล้าง โดยเฉลี่ยการรับและปล่อยค่า mutex ประมาณหนึ่ง microsecond

จนถึงตอนนี้ดีมาก เหตุใดจึงเป็นปัญหาสำหรับการขนานโดยนัย? เพราะการขนานโดยปริยายนั้นง่ายที่สุดที่จะพิสูจน์ในสเกลเล็ก ๆ มันเป็นสิ่งหนึ่งที่จะพิสูจน์ได้ว่าการวนซ้ำสองครั้งของลูปแบบง่าย ๆ นั้นเป็นอิสระจากกันมันเป็นสิ่งที่แตกต่างกันอย่างสิ้นเชิงในการพิสูจน์ว่าการพิมพ์บางสิ่งไปยังstdoutและการส่งเคียวรีไปยังฐานข้อมูลนั้นเป็นอิสระต่อกัน กระบวนการฐานข้อมูลอาจอยู่อีกด้านหนึ่งของไปป์!)

นั่นคือการขนานโดยนัยที่โปรแกรมคอมพิวเตอร์สามารถพิสูจน์ได้ว่าไม่สามารถใช้ประโยชน์ได้เนื่องจากค่าใช้จ่ายในการขนานนั้นมากกว่าข้อดีของการประมวลผลแบบขนาน ในทางตรงกันข้ามการขนานขนาดใหญ่ที่สามารถเร่งความเร็วแอปพลิเคชันไม่สามารถพิสูจน์ได้สำหรับคอมไพเลอร์ แค่คิดว่าซีพียูทำงานได้มากแค่ไหนในหนึ่งวินาที ทีนี้ถ้าขนานกันควรจะเร็วกว่าโปรแกรมอนุกรมโปรแกรมขนานจะต้องสามารถทำให้ซีพียูทั้งหมดไม่ว่างเป็นเวลาหลายไมโครวินาทีระหว่างการเรียก mutex สองครั้ง ที่ต้องใช้การขนานที่มีเนื้อหยาบอย่างแท้จริงซึ่งแทบเป็นไปไม่ได้ที่จะพิสูจน์โดยอัตโนมัติ

ในที่สุดก็ไม่มีกฎโดยไม่มีข้อยกเว้น: การเอารัดเอาเปรียบของความเท่าเทียมโดยปริยายทำงานที่ไม่เกี่ยวข้องกับกระทู้ซึ่งเป็นกรณีที่มี vectorization ของรหัส (ใช้ชุดคำสั่ง SIMD เช่น AVX, Altivec ฯลฯ ) ที่ได้ผลดีที่สุดสำหรับการขนานขนาดเล็กที่ค่อนข้างง่ายต่อการพิสูจน์

โปรแกรมเมอร์คิดว่าเป็นลำดับและภาษาปัจจุบันถูกสร้างขึ้นเพื่อสนับสนุนโมเดลนั้น ด้วยข้อยกเว้นของภาษาเช่น Haskell Erlang ฯลฯ ภาษา (ฉันละเว้นจากการใช้คำคุณศัพท์ "ทันสมัย") เป็นส่วนประกอบระดับสูงเป็นหลักที่เรายังคงบอกคอมพิวเตอร์ว่าจะทำอย่างไรเมื่อต้องทำและวิธีการทำ จนกว่าเราจะมีระบบเสียงก้องที่เราบอกคอมพิวเตอร์ว่าผลลัพธ์ที่เราต้องการนั้นเป็นสิ่งที่มีให้เราไม่ได้มีความสามารถทางจิตในฐานะโปรแกรมเมอร์เพื่อใช้ประโยชน์สูงสุดจากการทำงานแบบมัลติเธรด

เช่นมันไม่เป็นธรรมชาติ ......

การทำธุรกรรมจะต้องเป็นกรดดังนั้นโปรแกรมเมอร์ส่วนใหญ่มีแนวโน้มที่จะคิดเกี่ยวกับหนึ่งหัวข้อ

ภาษาและแพลตฟอร์มต้องปกป้องโปรแกรมเมอร์จากการเกิดพร้อมกันให้มากที่สุดเท่าที่จะทำได้

และการเกิดขึ้นพร้อมกันนั้นไม่ใช่เรื่องง่ายที่จะทดสอบเหมือนกับความเป็นตัวเองดังนั้นโปรแกรมเมอร์จึงมักจะออกไปจากประเด็นเหล่านี้