ความสัมพันธ์ระหว่าง BLAS, LAPACK และ ATLAS คืออะไร

ฉันไม่เข้าใจว่า BLAS, LAPACK และ ATLAS เกี่ยวข้องกันอย่างไรและฉันควรใช้มันอย่างไรด้วยกัน! ฉันดูคู่มือทั้งหมดของพวกเขาและฉันมีความคิดทั่วไปเกี่ยวกับ BLAS และ LAPACK และวิธีการใช้กับตัวอย่างที่ฉันพบ แต่ฉันไม่สามารถหาตัวอย่างที่แท้จริงได้โดยใช้ ATLAS เพื่อดูว่ามันเกี่ยวข้องกับอะไร สองคนนี้

ฉันพยายามทำงานเมทริกซ์ระดับต่ำและภาษาหลักของฉันคือ C ขั้นแรกฉันต้องการใช้ GSL แต่มันบอกว่าถ้าคุณต้องการประสิทธิภาพที่ดีที่สุดคุณควรใช้ BLAS และ ATLAS มีหน้าเว็บที่ดีให้ตัวอย่างที่ดีของวิธีการใช้ (ใน C) เหล่านี้ทั้งหมดด้วยกันไหม? ในคำอื่น ๆ ฉันกำลังมองหาการสอนเกี่ยวกับการใช้ทั้งสาม (หรือส่วนย่อยของพวกเขา!) ในระยะสั้นฉันสับสน!

BLAS เป็นการรวบรวมเมทริกซ์ระดับต่ำและการดำเนินการทางคณิตศาสตร์ของเวกเตอร์ (“ คูณเวกเตอร์ด้วยสเกลาร์”,“ คูณเมทริกซ์สองตัวและเพิ่มเมทริกซ์ที่สาม” และอื่น ๆ )

LAPACK คือชุดของการดำเนินการพีชคณิตเชิงเส้นระดับสูง สิ่งต่าง ๆ เช่นเมทริกซ์ factorizations (LU, LLt, QR, SVD, Schur ฯลฯ ) ที่ใช้ทำสิ่งต่าง ๆ เช่น "ค้นหาค่าลักษณะเฉพาะของเมทริกซ์" หรือ "ค้นหาค่าเอกพจน์ของเมทริกซ์" หรือ "แก้ระบบเชิงเส้น ” LAPACK ถูกสร้างขึ้นบน BLAS; ผู้ใช้ LAPACK จำนวนมากใช้อินเตอร์เฟส LAPACK เท่านั้นและไม่จำเป็นต้องทราบ BLAS เลย โดยทั่วไป LAPACK จะถูกรวบรวมแยกต่างหากจาก BLAS และสามารถใช้การปรับใช้ BLAS ที่มีประสิทธิภาพสูงสุดที่คุณมี

ATLAS เป็นการใช้งานแบบพกพาที่ดีพอสมควรของส่วนต่อประสาน BLAS ซึ่งใช้การดำเนินการ LAPACK ที่ใช้บ่อยที่สุดสองสามอย่าง

สิ่งที่“ คุณควรใช้” ขึ้นอยู่กับรายละเอียดของสิ่งที่คุณพยายามทำและแพลตฟอร์มที่คุณใช้ คุณจะไม่ผิดไปมากนักกับ“ ใช้ ATLAS + LAPACK”

ในขณะที่เมื่อก่อนฉันเริ่มทำพีชคณิตเชิงเส้นในCฉันรู้สึกประหลาดใจเมื่อเห็นว่ามีบทเรียนไม่กี่BLASอย่างLAPACKและพื้นฐานอื่น ๆAPIถึงแม้ว่าพวกเขาจะเป็นเสาหลักของห้องสมุดอื่น ๆ สำหรับเหตุผลที่ผมเริ่มเก็บรวบรวมทั้งหมดตัวอย่าง tutorials / ฉันสามารถหาทั้งหมดผ่านทางอินเทอร์เน็ตสำหรับBLAS, CBLAS, LAPACK, CLAPACK, LAPACKE, ATLAS,OpenBLAS ... ในการนี้ repo

ฉันควรเตือนคุณว่าในฐานะวิศวกรเครื่องกลฉันมีประสบการณ์เพียงเล็กน้อยในการจัดการที่เก็บ git หรือ GitHub ก่อนอื่นมันจะดูเป็นระเบียบอย่างสมบูรณ์สำหรับพวกคุณ อย่างไรก็ตามหากคุณสามารถจัดการกับโครงสร้างที่ยุ่งเหยิงได้คุณจะพบตัวอย่างและคำแนะนำทุกประเภทที่อาจช่วยได้ ฉันได้ลองพวกเขาส่วนใหญ่เพื่อให้แน่ใจว่าพวกเขารวบรวม และสิ่งที่ไม่ได้รวบรวมฉันได้กล่าวถึง ฉันได้แก้ไขมากของพวกเขาจะเป็น compilable กับGNU compilers( gcc, g++และgfortran) ฉันได้ทำMakeFileสิ่งที่คุณสามารถอ่านเพื่อเรียนรู้วิธีเรียกแต่ละรูทีนFortran/FORTRANในโปรแกรมCหรือC++โปรแกรม ฉันยังได้ใส่คำแนะนำในการติดตั้งสำหรับ mac และ linux (ขออภัย windows guys!) ฉันยังทำบางอย่างbash .sh ไฟล์สำหรับการรวบรวมอัตโนมัติของบางส่วนของห้องสมุดเหล่านี้

แต่จะไปคำถามอื่น ๆ ของคุณ: BLASและLAPACKค่อนข้างAPIไม่เฉพาะเจาะจงSDKs นี่เป็นเพียงรายการข้อกำหนดหรือส่วนขยายภาษามากกว่าการนำไปใช้งานหรือไลบรารี กับที่กล่าวว่ามีการใช้งานต้นฉบับโดยnetlibในFORTRAN 77ซึ่งคนส่วนใหญ่หมายถึง (พลุกพล่าน!) เมื่อพูดถึงและBLAS LAPACKดังนั้นหากคุณเห็นสิ่งแปลก ๆ มากมายเมื่อใช้สิ่งเหล่านี้APIเป็นเพราะคุณกำลังเรียกFORTRANกิจวัตรประจำวันCมากกว่าCห้องสมุดและฟังก์ชั่น ATLASและOpenBLASเป็นการนำไปปฏิบัติที่ดีที่สุดBLASและLACPACKเท่าที่ฉันรู้ พวกเขาสอดคล้องกับต้นฉบับAPIแม้ว่าจะนำความรู้ของฉันไปปฏิบัติC/C++ตั้งแต่เริ่มต้น (ไม่แน่ใจ!) มีการใช้งาน GPGPU ของการAPIใช้OpenCL: CLBlast , clBLAS , clMAGMA , ArrayFireและViennaCLเพื่อพูดถึงบางอย่าง นอกจากนี้ยังมีการใช้งานเฉพาะของผู้ขายที่ปรับให้เหมาะกับฮาร์ดแวร์หรือแพลตฟอร์มเฉพาะซึ่งฉันขอแนะนำให้ทุกคนใช้อย่างเด็ดขาด

คำแนะนำของฉันกับทุกคนที่ต้องการเรียนรู้การใช้BLASและLAPACKในCคือการเรียนรู้FORTRAN-Cการเขียนโปรแกรมแบบผสมก่อน บทแรกของธุรกรรมซื้อคืนที่กล่าวถึงได้ทุ่มเทให้กับเรื่องนี้และฉันได้รวบรวมตัวอย่างที่แตกต่างกันมากมาย

ป.ล.ฉันได้ทำงานกับสาขา dev ของพื้นที่เก็บข้อมูลเป็นครั้งคราว ดูเหมือนว่ายุ่งน้อยลงเล็กน้อย!

ATLAS ค่อนข้างล้าสมัยไปแล้ว มันถูกพัฒนาขึ้นในช่วงเวลาที่คิดว่าการเพิ่มประสิทธิภาพ BLAS สำหรับแพลตฟอร์มต่าง ๆ นั้นเกินความสามารถของมนุษย์และผลของการสร้างระบบอัตโนมัติและการหาค่าอัตโนมัติก็เป็นวิธีที่จะไป

ในช่วงต้นยุค 2000 Kazushige Goto พร้อมที่แสดงให้เห็นว่าการใช้งานที่มีประสิทธิภาพสูงสามารถเขียนด้วยมือได้อย่างไร คุณอาจเพลิดเพลินกับบทความที่น่าสนใจใน New York Times: https://www.nytimes.com/2005/11/28/technology/writing-the-fastest-code-by-hand-for-fun-a-human- คอมพิวเตอร์

ของ Kazushige บนมือข้างหนึ่งมีความเข้าใจในทฤษฎีที่ดีขึ้นหลังการใช้งานที่มีประสิทธิภาพสูงของการคูณเมทริกซ์เมทริกซ์และในทางกลับกันการออกแบบเหล่านี้ดีกว่า วิธีการของเขาซึ่งบน CPUs ปัจจุบันมักจะมีประสิทธิภาพสูงสุดไม่ได้อยู่ในพื้นที่ค้นหาที่ ATLAS เล่นเพลงอัตโนมัติ ดังนั้น ATLAS จึงด้อยกว่าโดยเนื้อแท้ การดำเนินการ BLAS ของ Kazushige ได้กลายเป็นที่รู้จักในนาม GotoBLAS มันถูกแยกเป็น OpenBLAS เมื่อเขาเข้าร่วมอุตสาหกรรม

แนวคิดที่อยู่เบื้องหลัง GotoBLAS ได้รับการปรับเปลี่ยนใหม่ให้เป็นการนำไปใช้งานใหม่กรอบการทำงานของซอฟท์แวร์ไลบรารีที่มีลักษณะเหมือน BLAS (BLIS) ( https://github.com/flame/blis ) ซึ่งใช้อัลกอริธึมเดียวกัน แต่สร้างโครงสร้างเพื่อให้น้อย จะต้องมีการปรับแต่งตามความต้องการสำหรับสถาปัตยกรรมใหม่ BLIS เขียนเป็น C

สิ่งที่การสนทนานี้แสดงให้เห็นคือมีการนำ BLAS มาใช้อย่างมากมาย BLAS เป็นมาตรฐานสำหรับอินเทอร์เฟซ ATLAS ครั้งหนึ่งเคยเป็นรัฐของศิลปะ มันไม่มีอีกต่อไป

เท่าที่ฉันทราบและหลังจากทำงานผ่านที่เก็บ ATLAS ดูเหมือนว่าจะมีการใช้งาน BLAS ใน C อีกครั้งมันมีมากกว่านั้น แต่ฉันหวังว่ามันจะตอบคำถาม