นี่คือโค้ด C ++ ที่แสดงพฤติกรรมที่แปลกประหลาดบางอย่าง ด้วยเหตุผลแปลก ๆ บางอย่างการเรียงลำดับข้อมูลทำให้โค้ดเร็วขึ้นเกือบหกเท่า:
#include <algorithm>
#include <ctime>
#include <iostream>
int main()
{
// Generate data
const unsigned arraySize = 32768;
int data[arraySize];
for (unsigned c = 0; c < arraySize; ++c)
data[c] = std::rand() % 256;
// !!! With this, the next loop runs faster.
std::sort(data, data + arraySize);
// Test
clock_t start = clock();
long long sum = 0;
for (unsigned i = 0; i < 100000; ++i)
{
// Primary loop
for (unsigned c = 0; c < arraySize; ++c)
{
if (data[c] >= 128)
sum += data[c];
}
}
double elapsedTime = static_cast<double>(clock() - start) / CLOCKS_PER_SEC;
std::cout << elapsedTime << std::endl;
std::cout << "sum = " << sum << std::endl;
}- หากไม่มี
std::sort(data, data + arraySize);รหัสจะทำงานใน 11.54 วินาที - ด้วยข้อมูลที่เรียงลำดับรหัสจะทำงานใน 1.93 วินาที
ตอนแรกฉันคิดว่านี่อาจเป็นเพียงภาษาหรือคอมไพเลอร์ผิดปกติดังนั้นฉันจึงลอง Java:
import java.util.Arrays;
import java.util.Random;
public class Main
{
public static void main(String[] args)
{
// Generate data
int arraySize = 32768;
int data[] = new int[arraySize];
Random rnd = new Random(0);
for (int c = 0; c < arraySize; ++c)
data[c] = rnd.nextInt() % 256;
// !!! With this, the next loop runs faster
Arrays.sort(data);
// Test
long start = System.nanoTime();
long sum = 0;
for (int i = 0; i < 100000; ++i)
{
// Primary loop
for (int c = 0; c < arraySize; ++c)
{
if (data[c] >= 128)
sum += data[c];
}
}
System.out.println((System.nanoTime() - start) / 1000000000.0);
System.out.println("sum = " + sum);
}
}ด้วยผลลัพธ์ที่คล้ายกัน แต่รุนแรงน้อยกว่า
ความคิดแรกของฉันคือการเรียงลำดับนำข้อมูลเข้าสู่แคช แต่จากนั้นฉันคิดว่ามันโง่แค่ไหนเพราะอาเรย์นั้นเพิ่งสร้างขึ้น
- เกิดอะไรขึ้น?
- เหตุใดการประมวลผลอาร์เรย์ที่เรียงลำดับจึงเร็วกว่าการประมวลผลอาร์เรย์ที่ไม่เรียงลำดับ
รหัสกำลังรวมคำศัพท์อิสระบางคำดังนั้นคำสั่งนั้นไม่สำคัญ
170
ว้าว ... อีกครั้ง: Meltdown and Specter
—
KyleMit
@SachinVerma ปิดส่วนบนของหัวของฉัน: 1) JVM ในที่สุดอาจฉลาดพอที่จะใช้การเคลื่อนไหวตามเงื่อนไข 2) รหัสถูกผูกไว้กับหน่วยความจำ 200M นั้นใหญ่เกินไปที่จะใส่ในแคชของ CPU ดังนั้นประสิทธิภาพจะถูกคอขวดโดยแบนด์วิดธ์หน่วยความจำแทนการแตกแขนง
—
Mysticial
@ Mysticial ประมาณ 2) ฉันคิดว่าตารางการทำนายติดตามรูปแบบ (โดยไม่คำนึงถึงตัวแปรจริงที่ตรวจสอบสำหรับรูปแบบนั้น) และเปลี่ยนผลลัพธ์การทำนายตามประวัติ คุณช่วยบอกเหตุผลฉันหน่อยได้ไหมว่าทำไมอาร์เรย์ขนาดใหญ่สุดถึงไม่ได้รับประโยชน์จากการทำนายสาขา
—
Sachin Verma
@SachinVerma ทำเช่นนั้น แต่เมื่ออาเรย์นั้นมีขนาดใหญ่ปัจจัยที่ยิ่งใหญ่กว่าก็น่าจะเกิดขึ้นคือแบนด์วิธหน่วยความจำ หน่วยความจำไม่แบน การเข้าถึงหน่วยความจำช้ามากและมีแบนด์วิดท์ในจำนวนที่ จำกัด เพื่อลดความซับซ้อนของสิ่งต่าง ๆ มีเพียงไบต์จำนวนมากที่สามารถถ่ายโอนระหว่าง CPU และหน่วยความจำในระยะเวลาที่แน่นอน รหัสง่าย ๆ อย่างที่พบในคำถามนี้อาจจะถึงขีด จำกัด นั้นแม้ว่ามันจะชะลอตัวลงจากการคาดการณ์ที่ผิด สิ่งนี้ไม่ได้เกิดขึ้นกับอาเรย์ของ 32768 (128KB) เพราะมันพอดีกับแคช L2 ของซีพียู
—
ลึกลับ
มีข้อบกพร่องด้านความปลอดภัยใหม่ที่ชื่อว่า BranchScope: cs.ucr.edu/~nael/pubs/asplos18.pdf
—
Veve
