ค่าใช้จ่ายของการดำเนินการของอะตอมคืออะไร (เปรียบเทียบและแลกเปลี่ยนหรือเพิ่ม / ลดอะตอม)? กินรอบเท่าไหร่? มันจะหยุดโปรเซสเซอร์อื่นบน SMP หรือ NUMA หรือจะบล็อกการเข้าถึงหน่วยความจำหรือไม่ จะล้างบัฟเฟอร์เรียงลำดับใหม่ใน CPU ที่ไม่ได้รับคำสั่งหรือไม่?
จะมีผลอะไรกับแคชบ้าง?
ฉันสนใจซีพียูรุ่นใหม่ยอดนิยม: x86, x86_64, PowerPC, SPARC, Itanium
คำตอบ:
ฉันได้ค้นหาข้อมูลจริงในช่วงหลายวันที่ผ่านมาและไม่พบอะไรเลย อย่างไรก็ตามฉันได้ทำการวิจัยบางอย่างซึ่งเปรียบเทียบต้นทุนของอะตอมมิกกับต้นทุนของแคชที่พลาดไป
ค่าใช้จ่ายของคำนำหน้า x86 LOCK (รวมถึงlock cmpxchgอะตอม CAS) ก่อน PentiumPro (ตามที่อธิบายไว้ในเอกสาร) คือการเข้าถึงหน่วยความจำ (เช่นการพลาดแคช) + การหยุดการทำงานของหน่วยความจำโดยโปรเซสเซอร์อื่น + การโต้แย้งใด ๆ กับโปรเซสเซอร์อื่น พยายามล็อครถบัส อย่างไรก็ตามเนื่องจาก PentiumPro สำหรับหน่วยความจำที่สามารถแคชการเขียนกลับได้ตามปกติ (หน่วยความจำทั้งหมดที่แอปเกี่ยวข้องเว้นแต่คุณจะพูดคุยโดยตรงกับฮาร์ดแวร์) แทนที่จะบล็อกการทำงานของหน่วยความจำทั้งหมดจะมีการบล็อกเฉพาะบรรทัดแคชที่เกี่ยวข้อง (ตามลิงก์ในคำตอบของ @ osgx ) .
กล่าวคือความล่าช้าหลักในการตอบรับการแชร์ MESI และคำขอ RFO สำหรับสายจนกว่าจะถึงส่วนเก็บของการlockดำเนินการ ed จริง สิ่งนี้เรียกว่า "การล็อกแคช" และมีผลกับแคชบรรทัดเดียวเท่านั้น คอร์อื่น ๆ สามารถโหลด / จัดเก็บหรือแม้แต่ CASing บรรทัดอื่น ๆ ได้ในเวลาเดียวกัน
จริงๆแล้วกรณี CAS อาจซับซ้อนกว่านี้ตามที่อธิบายไว้ในหน้านี้โดยไม่มีการกำหนดเวลา แต่มีคำอธิบายเชิงลึกโดยวิศวกรที่น่าเชื่อถือ (อย่างน้อยสำหรับกรณีการใช้งานปกติที่คุณทำการโหลดบริสุทธิ์ก่อน CAS จริง)
ก่อนที่จะลงรายละเอียดมากเกินไปฉันจะบอกว่าการดำเนินการที่ LOCKed มีค่าใช้จ่ายแคชหนึ่งครั้ง + การขัดแย้งที่เป็นไปได้กับโปรเซสเซอร์อื่นบนแคชไลน์เดียวกันในขณะที่ CAS + โหลดก่อนหน้า (ซึ่งเกือบจะจำเป็นตลอดเวลายกเว้นใน mutexes ซึ่งคุณมักจะ CAS 0 และ 1) อาจเสียค่าแคชสองครั้ง
เขาอธิบายว่า load + CAS ในตำแหน่งเดียวอาจทำให้เสียแคชสองครั้งได้เช่น Load-Linked / Store-Conditional (ดูที่นั่นในภายหลัง) คำอธิบายของเขาอาศัยอยู่กับความรู้ของโปรโตคอลการเชื่อมโยงกันแคช MESI ใช้ 4 สถานะสำหรับ cacheline: M (odified), E (xclusive), S (hared), I (nvalid) (ดังนั้นจึงเรียกว่า MESI) ตามที่อธิบายไว้ด้านล่างหากจำเป็น สถานการณ์อธิบายมีดังต่อไปนี้:
ในทุกกรณีการร้องขอแคชไลน์สามารถหยุดการทำงานได้โดยโปรเซสเซอร์อื่นที่แก้ไขข้อมูลแล้ว
ฉันทำโปรไฟล์ด้วยการตั้งค่าต่อไปนี้: เครื่องทดสอบ (AMD Athlon64 x2 3800+) ถูกบูตเปลี่ยนเป็นโหมดยาว (ปิดใช้งานการขัดจังหวะ) และคำสั่งที่น่าสนใจจะดำเนินการแบบวนซ้ำ 100 ครั้งยกเลิกการควบคุมและ 1,000 รอบลูป เนื้อหาของลูปถูกจัดแนวเป็น 16 ไบต์ เวลาถูกวัดด้วยคำสั่ง rdtsc ก่อนและหลังลูป นอกจากนี้ยังมีการดำเนินการลูปจำลองโดยไม่มีคำสั่งใด ๆ (ซึ่งวัดได้ 2 รอบต่อการวนซ้ำและ 14 รอบสำหรับส่วนที่เหลือ) และผลลัพธ์จะถูกลบออกจากผลลัพธ์ของเวลาการทำโปรไฟล์คำสั่ง
คำแนะนำต่อไปนี้วัดได้:
lock cmpxchg [rsp - 8], rdx" (ทั้งที่มีการจับคู่เปรียบเทียบและไม่ตรงกัน)lock xadd [rsp - 8], rdx",lock bts qword ptr [rsp - 8], 1"ในทุกกรณีเวลาที่วัดได้ประมาณ 310 รอบข้อผิดพลาดอยู่ที่ประมาณ +/- 8 รอบ
นี่คือค่าสำหรับการดำเนินการซ้ำบนหน่วยความจำ (แคช) เดียวกัน ด้วยการพลาดแคชเพิ่มเติมเวลาจะสูงขึ้นมาก นอกจากนี้ยังทำได้โดยมีเพียงหนึ่งใน 2 คอร์ที่ใช้งานอยู่ดังนั้นแคชจึงเป็นของเจ้าของโดยเฉพาะและไม่จำเป็นต้องซิงค์แคช
ในการประเมินค่าใช้จ่ายของคำสั่งที่ถูกล็อกในแคชพลาดฉันได้เพิ่มwbinvldคำสั่งก่อนคำสั่งที่ถูกล็อกและใส่เครื่องหมายwbinvldบวกadd [rsp - 8], raxลงในลูปการเปรียบเทียบ ในทั้งสองกรณีค่าใช้จ่ายประมาณ 80,000 รอบต่อคู่คำสั่ง! ในกรณีที่ล็อค bts เวลาต่างกันประมาณ 180 รอบต่อคำสั่ง
โปรดทราบว่านี่คือทรูพุตซึ่งกันและกัน แต่เนื่องจากการดำเนินการที่ล็อกเป็นการดำเนินการแบบอนุกรมจึงอาจไม่มีความแตกต่างกับเวลาในการตอบสนอง
สรุป: การทำงานที่ล็อคนั้นหนัก แต่การพลาดแคชอาจหนักกว่ามาก นอกจากนี้: การดำเนินการที่ถูกล็อกจะไม่ทำให้แคชพลาด สามารถทำให้เกิดการซิงโครไนซ์แคชได้เฉพาะเมื่อแคชไลน์ไม่ได้เป็นเจ้าของโดยเฉพาะ
ในการบูตเครื่องฉันใช้ FreeLdr เวอร์ชัน x64 จากโครงการ ReactOS นี่คือซอร์สโค้ด asm:
#define LOOP_COUNT 1000
#define UNROLLED_COUNT 100
PUBLIC ProfileDummy
ProfileDummy:
cli
// Get current TSC value into r8
rdtsc
mov r8, rdx
shl r8, 32
or r8, rax
mov rcx, LOOP_COUNT
jmp looper1
.align 16
looper1:
REPEAT UNROLLED_COUNT
// nothing, or add something to compare against
ENDR
dec rcx
jnz looper1
// Put new TSC minus old TSC into rax
rdtsc
shl rdx, 32
or rax, rdx
sub rax, r8
ret
PUBLIC ProfileFunction
ProfileFunction:
cli
rdtsc
mov r8, rdx
shl r8, 32
or r8, rax
mov rcx, LOOP_COUNT
jmp looper2
.align 16
looper2:
REPEAT UNROLLED_COUNT
// Put here the code you want to profile
// make sure it doesn't mess up non-volatiles or r8
lock bts qword ptr [rsp - 8], 1
ENDR
dec rcx
jnz looper2
rdtsc
shl rdx, 32
or rax, rdx
sub rax, r8
ret
บนรถบัสที่ใช้ SMP คำนำหน้าอะตอมLOCKไม่ยืนยัน (เปิด) LOCK#สัญญาณลวดรถบัส จะห้ามไม่ให้ cpus / อุปกรณ์อื่น ๆ บนรถบัสใช้งาน
หนังสือPpro & P2 http://books.google.com/books?id=3gDmyIYvFH4C&pg=PA245&dq=lock+instruction+pentium&lr=&ei=_E61S5ehLI78zQSzrqwI&cd=1#v=onepage&q=lock%20instruction%20pentium&f=falseหน้า 244-246
คำสั่งที่ถูกล็อกคือการทำให้เป็นอนุกรมการดำเนินการซิงโครไนซ์ .... / เกี่ยวกับ RMW ที่ไม่อยู่ในคำสั่ง / ล็อก / อ่าน - แก้ไข - เขียน = อะตอมเอง / คำสั่งช่วยให้มั่นใจได้ว่าโปรเซสเซอร์จะดำเนินการคำสั่งทั้งหมดก่อนคำสั่งล็อกก่อนที่จะดำเนินการ / เกี่ยวกับยังไม่ได้ล้างการเขียน / มันบังคับให้การเขียนที่โพสต์ทั้งหมดภายในโปรเซสเซอร์ถูกล้างไปยังหน่วยความจำภายนอกก่อนที่จะดำเนินการตามคำสั่งถัดไป
/ about SMP / semaphore อยู่ในแคชในสถานะ S ... การออกทรานแซคชันการอ่านและทำให้ไม่ถูกต้องสำหรับวันที่ 0 ไบต์ (นี่คือการฆ่า / สำเนาที่ใช้ร่วมกันของบรรทัดแคชในซีพียูที่อยู่ติดกัน /)