ค่า Null-space ของเมทริกซ์หนาแน่นแบบสี่เหลี่ยมผืนผ้า

ได้รับเมทริกซ์หนาแน่นสิ่งที่เป็นวิธีที่ดีที่สุดที่จะหาพื้นฐาน null พื้นที่ภายในบางอดทน ?

A \in R^{m \times n}, m >> n; m a x (m) \approx 100000

$A \in R^{m \times n}, m >> n; max(m) \approx 100000$

ϵ

$\epsilon$

จากพื้นฐานนั้นฉันสามารถพูดได้หรือไม่ว่า cols บางอันนั้นขึ้นอยู่กับเส้นตรงภายใน $\epsilon$ ? กล่าวอีกนัยหนึ่งว่ามีการคำนวณพื้นฐานของช่องว่าง null คอลัมน์ใดของ $A$ ต้องถูกลบออกเพื่อให้ได้เมทริกซ์ที่ไม่อยู่ในตำแหน่ง?

การอ้างอิงได้รับการชื่นชม

linear-algebra

— อเล็กซานเด
แหล่งที่มา

คำตอบ:

วิธีมาตรฐานสำหรับการกำหนดพื้นที่ว่างของเมทริกซ์คือการใช้การสลายตัว QR หรือ SVD หากความแม่นยำเป็นสิ่งสำคัญยิ่ง SVD นั้นเป็นที่ต้องการ การสลายตัว QR เร็วขึ้น

$A = U\Sigma V^{H}$ $V$ $\Sigma$ $\max(m,n) \cdot \varepsilon$ $\varepsilon$

การใช้ QR สลายถ้าและยศเป็นแล้วสุดท้ายคอลัมน์ของทำขึ้น nullspace ของสมมติว่า QR สลายเป็นอันดับที่เปิดเผย ในการกำหนดให้คำนวณจำนวนของรายการในแนวทแยงมุมหลักของที่ขนาดเกินกว่าเกณฑ์ความคลาดเคลื่อน (คล้ายกับที่ใช้ในแนวทาง SVD) $A^{T} = QR$ $A$ $r$ $n-r$ $Q$ $A$ $r$ $R$

อย่าใช้การสลายตัวของ LU ในทางคณิตศาสตร์ที่แน่นอนมันเป็นวิธีที่ทำงานได้ แต่ด้วยเลขคณิตจุดลอยตัวการสะสมของข้อผิดพลาดเชิงตัวเลขทำให้มันไม่ถูกต้อง

วิกิพีเดียครอบคลุมหัวข้อเหล่านี้ที่นี่

— Geoff Oxberry
แหล่งที่มา

Geoff พูดถึงในแง่ของ QR สมมติว่าฉันมีการสลายตัวฉันจะเชื่อมโยงพื้นฐานของพื้นที่ว่างและคอลัมน์ในเมทริกซ์ดั้งเดิมได้อย่างไร กล่าวอีกนัยหนึ่งฉันควรลบคอลัมน์ใดออกจาก

เพื่อกำจัดพื้นที่ว่าง? จุดนี่คือการทำงานร่วมกับตัวเองและไม่ได้มีการสลายตัว

A

$A$

A

$A$

— Alexander

รูทีนที่คำนวณการแยกย่อย QR ปกติจะมีตัวเลือกในการคืนค่าการเปลี่ยนแปลงเวกเตอร์ที่ระบุว่าคอลัมน์นั้นได้รับอนุญาตให้รับการแยกตัว QR ได้อย่างไร รายการ

สุดท้ายของเวกเตอร์การเปลี่ยนแปลงนั้นจะสอดคล้องกับแถวของ

(คอลัมน์ของ

) ที่อยู่ใน nullspace รายการ

แรกของเวกเตอร์นั้นสอดคล้องกับคอลัมน์ของ

ที่เป็นอิสระเชิงเส้น ฉันไม่แน่ใจว่าคุณหมายถึงอะไรโดย "กำจัดพื้นที่ว่าง" คุณหมายถึงคุณต้องการลบคอลัมน์ของ

เพื่อรับเมทริกซ์ที่ไม่อยู่ในรูป

n - r

$n-r$

A

$A$

A^{T}

$A^{T}$

r

$r$

A^{T}

$A^{T}$

A

$A$

— Geoff Oxberry

ใช่ฉันหมายถึงอย่างนั้น ฉันจะดูการเรียงสับเปลี่ยนขอบคุณ

— Alexander

นั่นเป็นคำถามที่แตกต่าง สิ่งที่คุณก็จะทำแทนคือคำนวณ QR สลาย (หรือ SVD) ของ หากคุณคำนวณการสลายตัว QR ของ

คุณสามารถคำนวณอันดับของ

ตามคำตอบข้างต้น (ไม่จำเป็นต้องเปลี่ยนเมทริกซ์) จากนั้นรายการ

แรก(โดยที่

คืออันดับของ

) ของเวกเตอร์การเปลี่ยนแปลงที่สอดคล้องกัน กับคอลัมน์ที่เป็นอิสระจาก อัลกอริทึมแบบเดียวกันนี้ใช้กับ SVD ถ้าคุณสามารถคืนค่าเวกเตอร์การเปลี่ยนแปลงพร้อมกับการสลายตัวนั่นควรให้ข้อมูลที่จำเป็น

A

$A$

A

$A$

A

$A$

r

$r$

r

$r$

A

$A$

A

$A$

— Geoff Oxberry

ถ้าเป็นคำถามของคุณบ่งชี้ว่าคุณสามารถบันทึกการทำงานบางอย่างเป็นครั้งแรกโดยการเลือกดัชนีตั้งของ (พูด) แถวสุ่มและใช้ฉากตัวประกอบ R(QR-factorization คือหนึ่งที่คือ sqare และเป็นรูปสี่เหลี่ยมของอันดับและคอลัมน์ที่เหลืออยู่ของเป็นศูนย์การใช้ตัวประกอบ QR แบบเปลี่ยนแปลงจะช่วยเพิ่มความมั่นคงแล้วการเปลี่ยนแปลงจะต้องถูกพิจารณาใน สูตรละเอียดเพิ่มเติม) $m\gg n$ $I$ $p\approx 5n$ $A_{I:}^T=QR$ $Q$ $R$ $r$ $n-r$ $R$

โดยปกติแล้วจะทำให้คุณมีสเปซมากต่ำมิติทอดคอลัมน์ของสุดท้ายคอลัมน์ของQสเปซนี้มีพื้นที่ว่างของ ตอนนี้รับอีกชุดดัชนีเคลื่อนสุ่มและคำนวณตัวประกอบ QR ของ Tคูณพื้นที่ว่างที่เป็นผลลัพธ์ทางด้านซ้ายด้วยเพื่อรับปรับปรุงแล้วอาจมีขนาดที่ต่ำกว่า ทำซ้ำจนกว่าขนาดของไม่ลดลงอีกต่อไป จากนั้นคุณอาจมีพื้นที่ว่างที่ถูกต้องและสามารถตรวจสอบได้โดยการคำนวณ $N$ $n-r$ $Q$ $A$ $(A_{I:}N)^T$ $N$ $N$ $N$ $AN$ . หากสิ่งนี้ยังไม่สามารถทำได้ให้ทำซ้ำอีกครั้งด้วยแถวที่สำคัญที่สุด

แก้ไข: เมื่อคุณมีคุณสามารถหาชุดสูงสุดของคอลัมน์อิสระเชิงเส้นของโดยการแยกตัวประกอบแบบมุมฉากของด้วยการหมุน อันที่จริงดัชนีไม่ได้ถูกเลือกให้เป็น pivots จะมีคุณสมบัตินี้ $N$ $J$ $A$ $N^T=QR$ $J$

— อาร์โนลด์ Neumaier
แหล่งที่มา

+1 สำหรับวิธีที่มีประสิทธิภาพในการกำหนด nullspace ของเมทริกซ์ขนาดใหญ่ ฉันจะต้องจำไว้เพื่อปรึกษาคำตอบนี้ในภายหลังเมื่อฉันต้องการมัน

— Geoff Oxberry

แน่นอนว่าฟังดูสมเหตุสมผล แต่การฝึกอบรมของฉันพอดีกับ RAM ขนาด 16 GB ดังนั้นฉันจะอยู่กับมาตรฐาน matlab qr

— Alexander

ศ. Neumaier ฉันตัดสินใจทดสอบอัลกอริทึมนั้น แต่ฉันไม่เข้าใจว่า

คืออะไรและ "คำนวณตัวประกอบการ QR ของ

" หมายความว่าอย่างไร คุณช่วยอธิบายเพิ่มเติมอีกหน่อยได้ไหม

N

$N$

(A_{I :} N)^{T}

$(A_{I:}N)^T$

— Alexander

ฉันแก้ไขคำตอบของฉันเล็กน้อย

คำนวณโดยสูตรของ Geoff Oxberry

N

$N$

— อาร์โนลด์ Neumaier

ขอขอบคุณ. ฉันใช้มัน แต่เท่าที่ผมเห็นขั้นตอนวิธีการนี้ไม่อนุญาตให้มีการกำหนดฉันชุดคอลัมน์ linearly อิสระของ(เนื่องจากเราย่อยสลาย

มากกว่า

) แต่เพียงจะช่วยให้การประเมินพื้นฐาน nullspace ตัวเอง?

A

$A$

A_{I :}^{T}

$A_{I:}^T$

A_{I :}

$A_{I:}$

— Alexander