แถวที่สำคัญเทียบกับรูปแบบที่สำคัญของการฝึกอบรมคอลัมน์

ในการเขียนโปรแกรมการคำนวณเมทริกซ์หนาแน่นมีเหตุผลใดที่จะเลือกเลย์เอาต์แถวหลักของผังเหนือคอลัมน์หลัก?

ฉันรู้ว่าขึ้นอยู่กับเลย์เอาต์ของเมทริกซ์ที่เลือกเราจำเป็นต้องเขียนโค้ดที่เหมาะสมเพื่อใช้หน่วยความจำแคชอย่างมีประสิทธิภาพเพื่อวัตถุประสงค์ด้านความเร็ว

เลย์เอาต์แถวหลักดูเหมือนเป็นธรรมชาติและเรียบง่ายกว่า (อย่างน้อยสำหรับฉัน) แต่ไลบรารี่หลักเช่น LAPACK ซึ่งเขียนใน Fortran ใช้เลย์เอาต์หลักของคอลัมน์ดังนั้นจะต้องมีเหตุผลบางอย่างในการเลือกนี้

เลย์เอาต์หลักของคอลัมน์คือรูปแบบที่ Fortran ใช้และนั่นคือสาเหตุที่มันถูกใช้ใน LAPACK และไลบรารีอื่น ๆ

โดยทั่วไปแล้วจะมีประสิทธิภาพมากขึ้นในแง่ของการใช้แบนด์วิดท์หน่วยความจำและประสิทธิภาพแคชเพื่อเข้าถึงองค์ประกอบของอาร์เรย์ตามลำดับที่วางไว้ในหน่วยความจำ ขึ้นอยู่กับวิธีจัดเก็บเมทริกซ์ของคุณคุณจะต้องเลือกอัลกอริทึมที่ใช้ประโยชน์จากสิ่งนี้

หน่วยเก็บข้อมูลภายในของรูปแบบหลักของคอลัมน์

ในสูญญากาศโดยไม่พิจารณาซอฟต์แวร์ที่มีอยู่ใด ๆ ไม่มีเหตุผลที่จะชอบคอลัมน์หลักมากกว่าแถวหลักจากมุมมองโค้ด อย่างไรก็ตามวรรณกรรมทางคณิตศาสตร์ส่วนใหญ่เขียนในลักษณะที่จัดกลุ่มเวกเตอร์เป็นเมทริกซ์โดยจัดเก็บเป็นคอลัมน์แทนที่จะเป็นแถว ตัวอย่างเช่นเมื่อคุณเขียนสมการ eigenvalue แบบเต็ม , $AX=X\Lambda$$X$matrix มี eigenvector ทั้งหมดที่เขียนในคอลัมน์ คุณไม่เคยเห็นมันเขียนด้วยวิธีอื่น (แต่ฉันได้ยินว่าคนในสถิติเช่นเวกเตอร์แถว) ดังนั้นจึงเป็นเรื่องธรรมดาที่ซอฟต์แวร์แรกสุดจะสันนิษฐานรูปแบบหลักของคอลัมน์ดังนั้นหากคุณมีเมทริกซ์ซึ่งเป็นชุดของเวกเตอร์การจัดเก็บของเวกเตอร์เดียวใด ๆ จะต่อเนื่องกัน ดังนั้นฉันจินตนาการว่าประเพณีเพิ่งถูกสืบทอดมาจนถึงปัจจุบันและถ้าคุณต้องการมีปฏิสัมพันธ์กับเจ้า Olde Fortran คุณต้องการใช้คอลัมน์หลัก ดังนั้นพีชคณิตเชิงเส้นเชิงตัวเลขที่มีประสิทธิภาพสูงจะทำในคอลัมน์หลัก

เหตุผล C คือแถวหลักมีความสำคัญของไวยากรณ์อาร์เรย์ คุณประกาศอาร์เรย์แบบ 3 แถวต่อ 2 คอลัมน์เป็นdouble a[3][2]และดัชนีในภายหลังนั้นจะแตกต่างกันเร็วกว่าดัชนีก่อนหน้านี้ซึ่งสำหรับอาร์เรย์แบบสองมิติทำให้แถวนั้นสำคัญ รวมสิ่งนี้เข้ากับลำดับการอ่านตามธรรมชาติของตะวันตกจากซ้ายไปขวาทำให้แถวหลักดูเป็นธรรมชาติมากขึ้น

คำสั่งซื้อคอลัมน์ที่สำคัญดูเหมือนจะเป็นธรรมชาติมากขึ้น ตัวอย่างเช่นสมมติว่าคุณต้องการบันทึกภาพยนตร์เป็นไฟล์ภาพต่อรูปภาพคุณกำลังใช้ลำดับคอลัมน์และนั่นเป็นสิ่งที่เข้าใจง่ายมากและไม่มีใครบันทึกมันในลำดับแถวหลัก

ถ้าคุณเป็นโปรแกรมเมอร์ใน C / C ++ คุณควรใช้ไลบรารี่ระดับสูงกว่าสำหรับเมทริกซ์ (Eigen, Armadillo, ... ) พร้อมลำดับหลัก ๆ ของคอลัมน์ มีเพียงคนบ้าเท่านั้นที่จะใช้พอยน์เตอร์ C แบบดิบพร้อมลำดับแถวหลักได้แม้ว่า C / C ++ จะเสนอสิ่งที่เตือนการสร้างดัชนีเมทริกซ์

เพื่อความง่ายทุกอย่างที่มีคำสั่งแถวสำคัญควรได้รับการพิจารณาว่าเกิดขึ้นอย่างน้อยก็แปลก Slice by slice เป็นระเบียบตามธรรมชาติและมันหมายถึงลำดับคอลัมน์หลัก (เช่น Fortran) พ่อแม่ของเรามีเหตุผลที่ดีมากว่าทำไมพวกเขาถึงเลือก

น่าเสียดายก่อนที่จะเห็นได้ชัดว่าห้องสมุดที่น่าสนใจหลายแห่งถูกสร้างขึ้นตามลำดับแถวหลักอาจเกิดจากการขาดประสบการณ์

ในการชี้แจงให้ชัดเจนถึงคำจำกัดความของคำสั่งแถวหลักที่ดัชนีถูกต้องเปลี่ยนแปลงได้เร็วขึ้นในขั้นตอนเดียวผ่านหน่วยความจำเช่น A (x, y, z) เป็นดัชนี z หมายความว่าพิกเซลหน่วยความจำจากส่วนต่าง ๆ ติดกันสิ่งที่เราต้องการ ไม่ต้องการ สำหรับภาพยนตร์ A (x, y, t) ดัชนีสุดท้ายคือเวลา t ไม่ยากที่จะจินตนาการว่าเป็นไปไม่ได้ที่จะบันทึกภาพยนตร์ในโหมดแถวหลัก

$m\times n$

• $m_{i,j}$$i \times m + j$
• $m_{i,j}$$j \times n + i$

ตอนนี้ลองนึกภาพอัลกอริทึมต่อไปนี้:

for i from 1 to m
   for j from 1 to n
      do something with m(i,j)

$i \times m + j$

สรุป:

1. ใช่มันมีความสำคัญ แต่ตัวเลือกขึ้นอยู่กับวิธีการที่ข้อมูลได้รับการยอมรับ สำหรับตัวอย่างก่อนหน้านี้หากมีการใช้ลำดับคอลัมน์สิ่งที่คุณสามารถทำได้คือการสลับสองลูป

2. กฎแห่งหัวแม่มือ: ดัชนีที่เปลี่ยนแปลงอย่างรวดเร็วควรถูกแมปไปยังตำแหน่งต่อเนื่องในหน่วยความจำ

3. ที่สำคัญกว่านั้นการวัด / การเปรียบเทียบผลกระทบของตัวเลือกนั้นเป็นพื้นฐานเนื่องจากมันขึ้นอยู่กับพารามิเตอร์หลายตัว (ขนาดของข้อมูลขนาดของแคชวิธีที่ภาษาที่ใช้แมปดัชนีหลาย ๆ ดัชนีเชิงเส้นวิธีการดำเนินงาน ระบบจัดการหน่วยความจำเสมือนวิธีที่ลูปซ้อนกันในไลบรารีพีชคณิตเชิงเส้นที่คุณใช้ ... )