ปรับพฤติกรรมแคชดิสก์ Linux เพื่อปริมาณงานสูงสุด

ฉันพบปัญหาปริมาณงานมากที่สุดที่นี่และต้องการคำแนะนำเกี่ยวกับวิธีปรับแต่งลูกบิดของฉัน เรากำลังเรียกใช้ 10Gbit fileserver สำหรับการสำรองข้อมูล มันเป็นการติดตั้งดิสก์ S-ATA2 สองตัวใน LSI MegaRAID Controller เซิร์ฟเวอร์ยังมีหน่วยความจำ 24gig

เรามีความจำเป็นในการจำลองการสำรองข้อมูลที่อัปโหลดล่าสุดของเราด้วยปริมาณงานสูงสุด

RAID0 สำหรับการสำรองข้อมูล "ฮอต" ของเราทำให้เรามีการเขียน 260 MB / วินาทีและการอ่าน 275 MB / วินาที tmpfs ที่ทดสอบแล้วที่มีขนาด 20GB ให้เราประมาณ 1GB / วินาที ปริมาณงานประเภทนี้เป็นสิ่งที่เราต้องการ

ตอนนี้ฉันจะปรับระบบย่อยหน่วยความจำเสมือนของ Linux ให้แคชไฟล์ที่อัปโหลดล่าสุดได้นานเท่าที่จะทำได้ในหน่วยความจำโดยไม่ต้องเขียนลงในดิสก์ (หรือดีกว่า: เขียนลงดิสก์และเก็บไว้ในหน่วยความจำ)

ฉันตั้งค่าระบบต่อไปนี้ แต่พวกเขาไม่ให้ปริมาณงานที่เราคาดหวัง:

# VM pressure fixes
vm.swappiness = 20
vm.dirty_ratio = 70
vm.dirty_background_ratio = 30
vm.dirty_writeback_centisecs = 60000

นี้ควรในทฤษฎีให้เรา 16GB สำหรับแคช I / O และรอบางนาทีจนกว่าการเขียนไปยังดิสก์ เมื่อฉันเปรียบเทียบเซิร์ฟเวอร์ที่ฉันเห็นว่าไม่มีผลต่อการเขียนปริมาณงานไม่เพิ่มขึ้น

ต้องการความช่วยเหลือหรือคำแนะนำ

โดยดูที่ตัวแปรที่คุณตั้งไว้ดูเหมือนว่าคุณจะเกี่ยวข้องกับประสิทธิภาพการเขียนเป็นส่วนใหญ่และไม่สนใจว่าข้อมูลจะสูญหายเนื่องจากไฟดับ

คุณจะได้รับตัวเลือกสำหรับการเขียนขี้เกียจและการใช้แคชการเขียนย้อนกลับพร้อมการดำเนินการเขียนแบบอะซิงโครนัสเท่านั้น การดำเนินการเขียนแบบซิงโครนัสจำเป็นต้องส่งข้อมูลไปยังดิสก์และจะไม่เขียนแบบขี้เกียจเลยทีเดียว ระบบไฟล์ของคุณอาจทำให้หน้าฟลัชและการเขียนแบบซิงโครนัสบ่อยครั้ง (โดยทั่วไปเกิดจากการทำเจอร์นัลโดยเฉพาะกับ ext3 ใน data = โหมดเจอร์นัล) นอกจากนี้การล้างหน้า "แบ็คกราวน์" จะรบกวนการอ่านที่ไม่ได้อ่านและการเขียนแบบซิงโครนัสดังนั้นจึงทำให้ช้าลง

โดยทั่วไปคุณควรใช้ตัวชี้วัดบางอย่างเพื่อดูว่าเกิดอะไรขึ้น - คุณเห็นกระบวนการคัดลอกของคุณอยู่ในสถานะ "D" ที่รอให้งาน I / O ทำงานโดย pdflush หรือไม่ คุณเห็นกิจกรรมการเขียนแบบซิงโครนัสอย่างหนักบนดิสก์ของคุณหรือไม่

หากสิ่งอื่นล้มเหลวคุณอาจเลือกที่จะตั้งค่าระบบไฟล์ tmpfs อย่างชัดเจนซึ่งคุณคัดลอกข้อมูลสำรองของคุณและเพียงแค่ซิงโครไนซ์ข้อมูลกับดิสก์ของคุณหลังจากข้อเท็จจริง - แม้ใช้ inotify โดยอัตโนมัติ

สำหรับการอ่านสิ่งแคชนั้นง่ายกว่ามาก - มีfadviseยูทิลิตี fcoretools ซึ่งมี--willneedพารามิเตอร์เพื่อแนะนำเคอร์เนลให้โหลดเนื้อหาของไฟล์ลงในแคชแคช

แก้ไข:

vm.dirty_ratio = 70

ในทางทฤษฎีควรให้ 16GB ของเราสำหรับแคช I / O และรอสักครู่จนกว่ามันจะเขียนลงดิสก์

สิ่งนี้จะไม่ได้มีอิทธิพลอย่างมากต่อสถานการณ์การทดสอบของคุณ แต่มีความเข้าใจผิดในความเข้าใจของคุณ พารามิเตอร์ dirty_ratio ไม่ใช่เปอร์เซ็นต์ของหน่วยความจำทั้งหมดของระบบ แต่เป็นหน่วยความจำว่างของระบบ

มีบทความเกี่ยวกับการปรับแต่งสำหรับโหลดการเขียนที่มีข้อมูลเชิงลึกมากขึ้น

หรือเพียงแค่ได้รับดิสก์มากขึ้น ... การกำหนดค่าอาร์เรย์ของไดรฟ์ที่คุณไม่รองรับในทุกครั้ง นี่เป็นกรณีที่โซลูชันควรได้รับการปรับโครงสร้างใหม่เพื่อตอบสนองความต้องการที่แท้จริงของคุณ ฉันเข้าใจว่านี่เป็นเพียงการสำรองข้อมูล แต่ก็สมเหตุสมผลที่จะหลีกเลี่ยงการแก้ไข kludgy

การใช้แคชหน่วยความจำอาจบ่งบอกถึงการสูญหายของข้อมูลราวกับว่ามีบางอย่างผิดปกติข้อมูลที่อยู่ในหน่วยความจำและไม่ได้บันทึกลงในดิสก์จะหายไป

ที่กล่าวว่ามีการปรับแต่งที่ต้องทำในระดับระบบแฟ้ม

ตัวอย่างเช่นหากคุณใช้ ext4 คุณสามารถลองใช้ตัวเลือกเมานต์:

อุปสรรค = 0

นั่น: "ปิดการใช้งานการเขียนอุปสรรคในรหัส jbd อุปสรรคการเขียนบังคับใช้การสั่งซื้อบนดิสก์ที่เหมาะสมของการทำบันทึกประจำวันทำให้การเขียนดิสก์ระเหยแคชปลอดภัยที่จะใช้ในการลงโทษประสิทธิภาพบางอย่างถ้าดิสก์ของคุณแบตเตอรี่สำรองในวิธีเดียว หรืออย่างอื่นการปิดใช้งานสิ่งกีดขวางอาจช่วยปรับปรุงประสิทธิภาพได้อย่างปลอดภัยตัวเลือกการติดตั้ง "สิ่งกีดขวาง" และ "ผู้ดี" สามารถใช้เพื่อเปิดหรือปิดการใช้งานสิ่งกีดขวางได้

เพิ่มเติมได้ที่: http://www.mjmwired.net/kernel/Documentation/filesystems/ext4.txt