ความขัดแย้งของธนาคารคืออะไร? (การเขียนโปรแกรม Cuda / OpenCL)

ฉันอ่านคู่มือการเขียนโปรแกรมสำหรับ CUDA และ OpenCL แล้วและฉันไม่สามารถเข้าใจได้ว่าความขัดแย้งของธนาคารคืออะไร พวกเขาเพียงแค่ดำน้ำลงไปในวิธีการแก้ปัญหาโดยไม่ต้องลงรายละเอียดในเรื่องนั้น ๆ ใครสามารถช่วยฉันเข้าใจได้ไหม ฉันไม่ต้องการหากความช่วยเหลืออยู่ในบริบทของ CUDA / OpenCL หรือเพียงแค่ความขัดแย้งของธนาคารโดยทั่วไปในวิทยาการคอมพิวเตอร์

สำหรับ nvidia (และ amd สำหรับเรื่องนั้น) gpus หน่วยความจำในเครื่องจะแบ่งออกเป็น memorybanks แต่ละธนาคารสามารถจัดการกับชุดข้อมูลได้ครั้งละหนึ่งชุดเท่านั้นดังนั้นหาก halfwarp พยายามโหลด / จัดเก็บข้อมูลจาก / ไปยังธนาคารเดียวกันการเข้าถึงจะต้องทำให้เป็นอนุกรม (นี่คือความขัดแย้งของธนาคาร) สำหรับ gt200 gpus มี 16 ธนาคาร (32banks สำหรับ fermi) 16 หรือ 32 ธนาคารสำหรับ AMD gpus (57xx หรือสูงกว่า: 32 ทุกอย่างด้านล่าง: 16)) ซึ่งมีการแทรกสลับด้วยความละเอียด 32 บิต (ดังนั้นไบต์ 0-3 จึงอยู่ใน ธนาคาร 1, 4-7 ในธนาคาร 2, ... , 64-69 ในธนาคาร 1 และอื่น ๆ ) เพื่อให้เห็นภาพได้ดีขึ้นโดยทั่วไปจะมีลักษณะดังนี้:

Bank    |      1      |      2      |      3      |...
Address |  0  1  2  3 |  4  5  6  7 |  8  9 10 11 |...
Address | 64 65 66 67 | 68 69 70 71 | 72 73 74 75 |...
...

ดังนั้นหากแต่ละเธรดใน halfwarp เข้าถึงค่า 32 บิตต่อเนื่องกันจะไม่มีข้อขัดแย้งของธนาคาร ข้อยกเว้นจากกฎนี้ (ทุกเธรดต้องเข้าถึงธนาคารของตัวเอง) คือการออกอากาศ: หากเธรดทั้งหมดเข้าถึงที่อยู่เดียวกันค่าจะถูกอ่านเพียงครั้งเดียวและออกอากาศไปยังเธรดทั้งหมด (สำหรับ GT200 จะต้องเป็นเธรดทั้งหมดใน halfwarp ที่เข้าถึง ที่อยู่เดียวกัน iirc fermi และ AMD gpus สามารถทำได้สำหรับเธรดจำนวนเท่าใดก็ได้ที่เข้าถึงค่าเดียวกัน)

หน่วยความจำแบบแบ่งใช้ที่สามารถเข้าถึงแบบขนานแบ่งออกเป็นโมดูล (เรียกอีกอย่างว่าธนาคาร) หากตำแหน่งหน่วยความจำสองแห่ง (ที่อยู่) เกิดขึ้นในธนาคารเดียวกันคุณจะได้รับความขัดแย้งของธนาคารในระหว่างที่การเข้าถึงดำเนินการแบบเป็นชุดทำให้สูญเสียข้อดีของการเข้าถึงแบบขนาน

กล่าวง่ายๆคือความขัดแย้งของธนาคารเป็นกรณีที่รูปแบบการเข้าถึงหน่วยความจำใด ๆ ล้มเหลวในการแจกจ่าย IO ข้ามธนาคารที่มีอยู่ในระบบหน่วยความจำ ตัวอย่างต่อไปนี้อธิบายแนวคิดอย่างละเอียด: -

สมมติว่าเรามีอาร์เรย์ 512x512 สองมิติและ DRAM หรือระบบหน่วยความจำของเรามี 512 ธนาคารอยู่ในนั้น ตามค่าเริ่มต้นข้อมูลอาร์เรย์จะถูกจัดวางในลักษณะที่ arr [0] [0] ไปที่ธนาคาร 0, arr [0] [1] ไปที่ธนาคาร 1, arr [0] [2] ไปยังธนาคาร 2 .... arr [0] [511] ไปที่ธนาคาร 511 หากต้องการสรุป arr [x] [y] ให้ใช้หมายเลขธนาคาร y ตอนนี้โค้ดบางส่วน (ดังแสดงด้านล่าง) เริ่มเข้าถึงข้อมูลในคอลัมน์หลักเช่น การเปลี่ยน x ในขณะที่ทำให้ค่าคงที่ของ y ผลสุดท้ายก็คือการเข้าถึงหน่วยความจำที่ต่อเนื่องกันทั้งหมดจะเข้าสู่ธนาคารเดียวกันดังนั้นความขัดแย้งของธนาคาร

int arr[512][512];
  for ( j = 0; j < 512; j++ ) // outer loop
    for ( i = 0; i < 512; i++ ) // inner loop
       arr[i][j] = 2 * arr[i][j]; // column major processing

โดยทั่วไปแล้วปัญหาดังกล่าวจะหลีกเลี่ยงได้โดยคอมไพเลอร์โดยการบัฟเฟอร์อาร์เรย์หรือใช้จำนวนเฉพาะขององค์ประกอบในอาร์เรย์

(CUDA Bank Conflict) หวังว่านี่จะช่วยได้ .. นี่เป็นคำอธิบายที่ดีมาก ...

http://www.youtube.com/watch?v=CZgM3DEBplE

http://en.wikipedia.org/wiki/Memory_bank
และ http://mprc.pku.cn/mentors/training/ISCAreading/1989/p380-weiss/p380-weiss.pdf

จากหน้านี้คุณจะพบรายละเอียดเกี่ยวกับธนาคารหน่วยความจำ แต่มันแตกต่างจากที่ @Grizzly พูดเล็กน้อย ในหน้านี้ธนาคารจะเป็นแบบนี้

ธนาคาร 1 2 3

ที่อยู่ | 0, 3, 6 ... | | 1, 4, 7 ... | | 2, 5,8 ... |

หวังว่านี่จะช่วยได้