awk และตัดไฟล์ที่มีขนาดใหญ่มาก


0

ฉันต้องแยกคอลัมน์ข้อมูลจากไฟล์ที่มีขนาดใหญ่มาก & gt; 100GB

ฉันรู้วิธีใช้ awk และ cut คำสั่งทำ แต่ต้องการทราบว่ามีประสิทธิภาพมากกว่า (จากมุมมองความเร็ว) สำหรับภารกิจดังกล่าวหรือไม่


Grep ควรเป็นวิธีที่เร็วที่สุดในการค้นหาสตริงในไฟล์: grep -o "\w*pattern\w*" /path/to/file. คุณอาจต้องการอ่านด้วย parallel สำหรับการใช้หลาย ๆ grep อยู่ในกลุ่มของไฟล์นั้น
Alex

ถ้า cut สามารถใช้มันควรจะเร็วกว่าเนื่องจากมันง่ายกว่าและมีความสามารถน้อยกว่า
Michael Vehrs
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.