ZFS กับ XFS

เรากำลังพิจารณาที่จะสร้างเซิร์ฟเวอร์จัดเก็บข้อมูลขนาด ~ 16TB ในขณะนี้เรากำลังพิจารณาทั้ง ZFS และ XFS เป็นระบบไฟล์ ข้อดีข้อเสียคืออะไร? เราต้องมองหาอะไร มีตัวเลือกที่สามที่ดีกว่าหรือไม่?

ฉันพบว่า XFS เหมาะสมกับระบบไฟล์ที่มีขนาดใหญ่มากและอาจมีไฟล์ขนาดใหญ่มาก ฉันเคยใช้ระบบไฟล์ 3.6TB XFS มานานกว่า 2 ปีแล้วโดยไม่มีปัญหา สามารถใช้งานได้ดีกว่า ext3 ฯลฯ ที่ขนาดนั้น (โดยเฉพาะอย่างยิ่งเมื่อต้องรับมือกับไฟล์ขนาดใหญ่และ I / O จำนวนมาก)

สิ่งที่คุณจะได้รับจาก ZFS คือการรวมอุปกรณ์การสไทรพ์และคุณลักษณะขั้นสูงอื่น ๆ ที่มีอยู่ในระบบไฟล์ ฉันไม่สามารถพูดคุยกับคนพิเศษ (ฉันจะให้คนอื่นแสดงความคิดเห็น) แต่จากสิ่งที่ฉันสามารถบอกได้คุณต้องการใช้ Solaris เพื่อรับประโยชน์สูงสุดที่นี่ มันยังไม่ชัดเจนสำหรับฉันเท่าไหร่ ZFS ช่วยถ้าคุณใช้ฮาร์ดแวร์ RAID (เช่นฉัน) แล้ว

ZFS จะให้ประโยชน์มากกว่าซอฟต์แวร์ RAID โครงสร้างคำสั่งถูกวางอย่างรอบคอบและใช้งานง่าย นอกจากนี้ยังมีการบีบอัดภาพรวมการโคลนการส่ง / รับระบบไฟล์และอุปกรณ์แคช (ไดรฟ์ SSD ใหม่ที่แปลกใหม่) เพื่อเพิ่มความเร็วในการจัดทำดัชนี meta-data

การบีบอัด:

#zfs set compression=on filesystem/home

รองรับการสร้างสแน็ปช็อตการคัดลอกเมื่อเขียนซึ่งสามารถติดตั้งแบบสดได้:

# zfs snapshot filesystem/home/user@tuesday
# cd filesystem/home/user/.zfs/snapshot/tuesday

การโคลนระบบไฟล์:

# zfs clone filesystem/home/user@tuesday filesystem/home/user2

ระบบไฟล์ส่ง / รับ:

# zfs send filesystem/home/user@tuesday | ssh otherserver "zfs receive -v filesystem/home/user"

การส่ง / รับที่เพิ่มขึ้น:

# zfs send -i filesystem/home/user@tuesday | ssh otherserver "zfs receive -v filesystem/home/user"

อุปกรณ์แคช:

# zpool add filesystem cache ssddev

นี่เป็นเพียงส่วนเล็ก ๆ ของภูเขาน้ำแข็งฉันขอแนะนำให้คุณติดตั้ง Open Solaris และลองทำสิ่งนี้

http://www.opensolaris.org/os/TryOpenSolaris/

แก้ไข : นี่คือเก่ามากเปิดโซลาริสได้ถูกยกเลิกวิธีที่ดีที่สุดที่จะใช้ ZFS น่าจะเป็นบนลินุกซ์หรือFreeBSD

การเปิดเผยอย่างเต็มรูปแบบ: ฉันเคยเป็นสถาปนิกที่เก็บข้อมูลของซัน แต่ฉันไม่ได้ทำงานให้พวกเขาภายในเวลาหนึ่งปีฉันแค่ตื่นเต้นกับผลิตภัณฑ์นี้

การใช้ lvm snapshots และ xfs บนระบบไฟล์สดเป็นสูตรสำหรับภัยพิบัติโดยเฉพาะอย่างยิ่งเมื่อใช้ระบบไฟล์ขนาดใหญ่มาก

ฉันใช้งานเฉพาะบน LVM2 และ xfs ในช่วง 6 ปีที่ผ่านมาบนเซิร์ฟเวอร์ของฉัน (ที่บ้านถึงแม้ว่า zfs-fuse นั้นช้าเกินไปธรรมดา) ...

อย่างไรก็ตามฉันไม่สามารถนับโหมดความล้มเหลวที่แตกต่างกันที่ฉันพบเมื่อใช้สแน็ปช็อตอีกต่อไป ฉันหยุดใช้มันทั้งหมด - มันอันตรายเกินไป

ข้อยกเว้นอย่างเดียวที่ฉันจะทำตอนนี้คือการสำรองข้อมูลเมลเซิร์ฟเวอร์ / เว็บเซิร์ฟเวอร์ส่วนตัวของฉันเองซึ่งฉันจะทำการสำรองข้อมูลข้ามคืนโดยใช้สแนปช็อตชั่วคราวซึ่งเท่ากับขนาดของแหล่งที่มา fs เสมอและถูกลบทิ้งในภายหลัง

สิ่งสำคัญที่สุดที่ควรทราบ:

1. หากคุณมีระบบไฟล์ขนาดใหญ่ที่มีสแนปชอตประสิทธิภาพการเขียนจะลดลงอย่างน่ากลัว
2. หากคุณมีระบบไฟล์ขนาดใหญ่ (ish) ที่มีสแนปชอตเวลาบูตจะล่าช้าด้วยตัวอักษรสิบนาทีในขณะที่ดิสก์จะปั่นและปั่นป่วนในระหว่างการนำเข้ากลุ่มวอลุ่ม จะไม่มีข้อความปรากฏขึ้น เอฟเฟกต์นี้น่ากลัวมากหากรูทอยู่ใน lvm2 (เพราะการรออุปกรณ์รูทจะหมดเวลาและระบบไม่บู๊ต)
3. ถ้าคุณมีสแนปชอตมันง่ายที่จะใช้พื้นที่หมด เมื่อคุณไม่มีที่ว่างสแน็ปช็อตจะเสียหายและไม่สามารถซ่อมแซมได้
4. ภาพรวมไม่สามารถย้อนกลับ / ผสานได้ในขณะนี้ (ดูhttp://kerneltrap.org/Linux/LVM_Snapshot_Merging ) ซึ่งหมายความว่าวิธีเดียวที่จะกู้คืนข้อมูลจากสแน็ปช็อตคือการคัดลอก (rsync?) จริง ๆ DANGER DANGER: คุณไม่ต้องการทำเช่นนี้หากความจุสแนปชอตไม่น้อยกว่าขนาดของซอร์ส fs; หากคุณไม่ทำคุณจะชนกำแพงอิฐและจบลงด้วยทั้งแหล่ง fs และสแนปช็อตที่เสียหาย (ฉันเคยไปที่นั่น!)

คู่เพิ่มเติมสิ่งที่คิดเกี่ยวกับ

• หากไดรฟ์เสียชีวิตในอาร์เรย์ RAID ของฮาร์ดแวร์โดยไม่คำนึงถึงระบบไฟล์ที่อยู่ด้านบนสุดของบล็อกทั้งหมดบนอุปกรณ์จะต้องถูกสร้างใหม่ แม้แต่คนที่ไม่ได้เก็บข้อมูลใด ๆ ZFS ในอีกทางหนึ่งคือตัวจัดการโวลุ่มระบบไฟล์และจัดการความซ้ำซ้อนของข้อมูลและการสตริป ดังนั้นจึงสามารถสร้างบล็อกที่มีข้อมูลได้อย่างชาญฉลาด ซึ่งจะส่งผลให้มีการสร้างใหม่เร็วกว่าเวลาอื่นเมื่อปริมาตรเต็ม 100%

• ZFS มีการขัดพื้นหลังซึ่งทำให้แน่ใจว่าข้อมูลของคุณยังคงอยู่บนดิสก์และซ่อมแซมปัญหาใด ๆ ที่พบก่อนที่จะส่งผลให้ข้อมูลสูญหาย

• ระบบไฟล์ ZFS อยู่ในสถานะที่สอดคล้องกันเสมอดังนั้นจึงไม่จำเป็นต้อง fsck

• ZFS ยังมีความยืดหยุ่นและฟีเจอร์เพิ่มเติมด้วยสแนปชอตและโคลนของมันเมื่อเปรียบเทียบกับสแน็ปช็อตที่นำเสนอโดย LVM

การมีพูลหน่วยเก็บข้อมูลขนาดใหญ่สำหรับการผลิตวิดีโอขนาดใหญ่บน Linux, LVM, XFS stack ประสบการณ์ของฉันเป็นเรื่องง่ายที่จะตกอยู่ในการบริหารจัดการพื้นที่เก็บข้อมูลขนาดเล็กของคุณ ซึ่งอาจส่งผลให้มีการจัดสรรพื้นที่และเวลา / ปัญหาที่ไม่ได้ใช้เป็นจำนวนมากด้วยการจัดการปริมาณลอจิคัลของคุณ นี่อาจไม่ใช่เรื่องใหญ่หากคุณมีผู้ดูแลระบบจัดเก็บข้อมูลเต็มเวลาที่มีหน้าที่จัดเก็บข้อมูลขนาดเล็ก แต่ฉันพบว่าวิธีการเก็บข้อมูลพูลของ ZFS ลบปัญหาการจัดการเหล่านี้ออก

ZFS นั้นยอดเยี่ยมมาก ฉันใช้มันเป็นไฟล์เซิร์ฟเวอร์ในบ้านของฉันสำหรับไฟล์เซิร์ฟเวอร์ HD 5 x 1 TB และฉันใช้มันในการผลิตด้วยพื้นที่ฮาร์ดดิสก์เกือบ 32 TB มันรวดเร็วใช้งานง่ายและมีการป้องกันที่ดีที่สุดจากข้อมูลเสียหาย

เราใช้ OpenSolaris บนเซิร์ฟเวอร์นี้เป็นพิเศษเพราะเราต้องการเข้าถึงฟีเจอร์ที่ใหม่กว่าและเนื่องจากเป็นระบบการจัดการแพ็คเกจใหม่และวิธีการอัปเกรด

คุณวางแผนที่จะใช้ระบบปฏิบัติการใดอยู่ หรือว่าเป็นส่วนหนึ่งของการพิจารณา? หากคุณกำลังใช้งาน Solaris, XFS ไม่ได้เป็นตัวเลือกเท่าที่ฉันรู้ หากคุณไม่ได้ใช้งานโซลาริสคุณวางแผนจะใช้ ZFS อย่างไร การสนับสนุนมีข้อ จำกัด ในแพลตฟอร์มอื่น ๆ

หากคุณกำลังพูดถึงเซิร์ฟเวอร์ Linux ฉันจะใช้ Ext3 เป็นการส่วนตัวถ้าเพียงเพราะได้รับการทดสอบมากที่สุด ฟิวส์ ZFS ยังเด็กอยู่มาก นอกจากนี้ฉันมีปัญหากับ XFS หนึ่งครั้งเมื่อเกิดข้อผิดพลาดของข้อมูลเสียหายหลังจากการปรับปรุงเคอร์เนล ข้อดีของ XFS บน Ext3 แน่นอนไม่ได้เกินค่าใช้จ่ายที่เกี่ยวข้องในการคืนค่าเครื่องซึ่งตั้งอยู่ในดาต้าเซ็นเตอร์ระยะไกล

ฉันไม่คิดว่าคุณควรมุ่งเน้นไปที่การแสดง ข้อมูลของคุณปลอดภัยกับ XFS, ext4 และอื่น ๆ หรือไม่ ไม่อ่านวิทยานิพนธ์ปริญญาเอกและบทความวิจัยเหล่านี้:

XFS ไม่ปลอดภัยจากความเสียหายของข้อมูล: pages.cs.wisc.edu/~vshree/xfs.pdf

และไม่เป็น ext3, JFS, ReiserFS และอื่น ๆ : zdnet.com/blog/storage/how-microsoft-puts-your-data-at-risk/169?p=169&tag=mantle_skin%3bcontent ของ Vijayan Prabhakaran, IRON File Systems ซึ่งวิเคราะห์วิธีการทำเจอร์นัลระบบไฟล์สินค้าโภคภัณฑ์ห้ารายการ - NTFS, ext3, ReiserFS, JFS และ XFS - จัดการปัญหาการจัดเก็บ

สรุปเขาพบว่าระบบไฟล์ทั้งหมดมี

. . . failure policies that are often inconsistent, sometimes buggy, and generally inadequate in their ability to recover from partial disk failures. "

แต่ ZFS ปกป้องข้อมูลของคุณได้สำเร็จ นี่คือรายงานการวิจัยเกี่ยวกับเรื่องนี้: zdnet.com/blog/storage/zfs-data-integrity-tested/811

ไม่ใช่คำตอบที่เน้น FS แต่โปรดทราบว่าตัวควบคุมดิสก์จำนวนหนึ่งจะไม่จัดการกับ> 2TB LUNS / logical-disk - สิ่งนี้สามารถ จำกัด วิธีการจัดระเบียบที่เก็บข้อมูลของคุณได้เล็กน้อย ฉันแค่อยากให้คุณรู้ตัวเพื่อให้คุณสามารถตรวจสอบระบบของคุณแบบครบวงจรเพื่อให้แน่ใจว่ามันจะจัดการกับ 16TB ตลอด

มันขึ้นอยู่กับคุณสมบัติที่คุณต้องการ ... สองตัวเลือกที่เหมาะสมคือ xfs และ zfs ตามที่คุณพูดรหัส xfs ผ่านการทดสอบค่อนข้างดีฉันใช้ครั้งแรกเมื่อ 8 ปีที่แล้วภายใต้ IRIX

เป็นไปได้ที่จะรับสแน็ปช็อตจาก xfs (โดยใช้ lvm และ xfs_freeze)

เป็นไปได้ที่จะมีอุปกรณ์บันทึกแยกต่างหากเช่น SSD

mkfs.xfs -l logdev=/dev/sdb1,size=10000b /dev/sda1

XFS ขนาดใหญ่มักต้องการหน่วยความจำในการตรวจสอบจำนวนมาก

ปัญหาเกี่ยวกับการเปิดศูนย์เป็นคุณลักษณะ "ความปลอดภัย" ซึ่งฉันคิดว่าหายไปครู่หนึ่ง

นอกเหนือจากที่กล่าวไว้แล้วจากประสิทธิภาพของมุมมอง xfs ในการโจมตีฐาน MD นั้นทำได้ดีกว่า zfs บนสื่อสตรีมมิ่ง ฉันใช้ฮาร์ดแวร์เดียวกันนี้มาเป็นเวลาครึ่งทศวรรษกับ xfs และใช้เวลาเท่ากันกับ zfs บนเซิร์ฟเวอร์สื่อของฉัน ใน Intel Atom 330 ที่มี xfs ฉันไม่เคยสัมผัส stuter บน zfs ในฉากที่ซับซ้อนฮาร์ดแวร์เดียวกันไม่สามารถติดตามและเริ่มวางเฟรมได้

แทนที่จะสร้างด้วยตัวคุณเองทางเลือกคือ Sun 7410 aka Toro มีซอฟต์แวร์ที่มีประโยชน์มากที่มาพร้อมกับโซลูชัน

เอ่ออย่าลืมเกี่ยวกับการเพิ่มล่าสุดของ zfs: การขจัดข้อมูลซ้ำซ้อน และให้พูดเกี่ยวกับการบินทันที iscsi, NFS หรือการแบ่งปัน smb อย่างที่คนอื่นพูดไปแล้วการส่งออกของระบบไฟล์ zfs, snapshots, raidz (= raid5) บล็อกเช็คซัม, ความกว้างของแถบไดนามิก, การจัดการแคชและอื่น ๆ อีกมากมาย ฉันลงคะแนนให้ zfs