การแก้

ฉันมีการฝึกอบรมและGกระจัดกระจายและมีมาก (สามารถเรียงตามลำดับได้หลายล้าน) คือเมทริกซ์สูงมีค่อนข้างเล็ก ( ) และแต่ละคอลัมน์สามารถมีเพียงหนึ่งเดียวรายการที่มีส่วนที่เหลือเป็น 's เช่นว่าฉันมีขนาดใหญ่มากมันจึงยากที่จะกลับด้านและฉันสามารถแก้ปัญหาระบบเชิงเส้นเช่น $A$ $G$ $A$ $n\times n$ $n$ $G$ $n\times m$ $m$ $1 \lt m \lt 1000$ $1$ $0$ $G^TG = I$ $A$ $Ax = b$ ซ้ำ ๆ กันโดยใช้วิธีการ subspace ของ Krylov เช่น $\mathrm{BiCGStab}(l)$ แต่ฉันไม่มี $A^{-1}$ อย่างชัดเจน

ฉันต้องการแก้ระบบของรูปแบบ: $(G^TA^{-1}G)x = b$ โดยที่ $x$ และ $b$ เป็นเวกเตอร์ความยาว $m$ วิธีหนึ่งในการทำคือใช้อัลกอริธึมการวนซ้ำภายในอัลกอริทึมการวนซ้ำเพื่อแก้ปัญหา $A^{-1}$ สำหรับการวนซ้ำของอัลกอริทึมการวนซ้ำรอบนอกแต่ละครั้ง อย่างไรก็ตามการคำนวณนี้มีราคาแพงมาก ฉันสงสัยว่ามีวิธีที่ง่ายกว่าในการแก้ปัญหานี้หรือไม่

— Costis
แหล่งที่มา

ฉันเพิ่งเพิ่มคำตอบของฉันข้อสังเกตในการใช้ประโยชน์จากโครงสร้าง 0-1

— Arnold Neumaier

คำตอบ:

แนะนำเวกเตอร์และแก้ปัญหาระบบคู่ขนาดใหญ่ , สำหรับพร้อมกันโดยใช้วิธีการวนซ้ำ ถ้านั้นสมมาตร (ดูเหมือนว่าคุณจะไม่ได้ระบุไว้อย่างชัดเจน) ระบบนั้นก็สมมาตร (แต่ไม่ จำกัด แม้ว่า quasidefinite ถ้า $y:=-A^{-1}Gx$ $Ay+Gx=0$ $G^Ty=-b$ $(y,x)$ $A$ $A$ เป็นบวกแน่นอน) ซึ่งอาจช่วยให้คุณเลือกวิธีการที่เหมาะสม (คำหลักที่เกี่ยวข้อง: KKT matrix, quasidefinite matrix)

แก้ไข: เนื่องจากเป็นสมมาตรที่ซับซ้อนดังนั้นเมทริกซ์ที่เพิ่มขึ้นก็คือ แต่ไม่มีความสมบูรณ์แบบทางทะเล อย่างไรก็ตามคุณสามารถใช้รูทีนเพื่อคำนวณ ; ดังนั้นคุณสามารถปรับวิธีการเช่น QMR ftp://ftp.math.ucla.edu/pub/camreport/cam92-19.pdf (ออกแบบมาสำหรับระบบจริง แต่คุณสามารถเขียนใหม่สำหรับระบบที่ซับซ้อนได้อย่างง่ายดายโดยใช้ adjoint ใน ที่ของทรานส) เพื่อแก้ปัญหาของคุณ $A$ $Ax$ $A^*x=\overline{A\overline x}$

แก้ไข 2: ที่จริงแล้วโครงสร้าง (0,1) ของหมายความว่าคุณสามารถกำจัด amd องค์ประกอบของสัญลักษณ์ได้ดังนั้นจึงสิ้นสุดด้วยระบบที่มีขนาดเล็กลงเพื่อแก้ปัญหา ซึ่งหมายความว่ายุ่งกับโครงสร้างของและจ่ายเฉพาะเมื่อได้รับในรูปแบบกระจัดกระจายแทนที่จะเป็นตัวดำเนินการเชิงเส้น $G$ $x$ $G^Ty$ $A$ $A$

— อาร์โนลด์ Neumaier
แหล่งที่มา

ขอขอบคุณ! A คือสมมาตรที่ซับซ้อน มีเหตุผลที่จะคาดหวังว่าสภาพของเมทริกซ์ที่เติมจะเลวร้ายยิ่งกว่าเมทริกซ์

เดิมหรือไม่? หาก m มีขนาดเล็กเมทริกซ์ที่เติมจะมีขนาดใหญ่กว่า A เพียงเล็กน้อยดังนั้นฉันจึงสงสัยว่าการแก้ปัญหาระบบเติมนี้ไม่ควรจะยากกว่าการแก้ระบบด้วย A?

A

$A$

— Costis

หมายเลขเงื่อนไขของระบบทั้งสองนั้นโดยทั่วไปไม่เกี่ยวข้องกัน มันขึ้นอยู่กับว่า

คืออะไร - ฉันเพิ่มข้อมูลคำตอบของฉันเกี่ยวกับวิธีการใช้ประโยชน์จากสมมาตรที่ซับซ้อน

G

$G$

— Arnold Neumaier

หวัดดี! ขอบคุณสำหรับคำตอบทั้งหมด สถานที่นี้ดีมาก! ส่วนขยายของคำถามเดิมสมมติว่าตอนนี้ฉันมี

โดยที่ G และ A มีความหมายเช่นเดียวกับในคำถามเดิม แต่ B เป็นเมทริกซ์ nxn ที่ขาดอันดับ ( ขนาดเดียวกับ A) และ

นั้นอยู่ในอันดับเต็ม คุณจะไปเกี่ยวกับการแก้ปัญหาระบบใหม่อย่างไรเนื่องจากตอนนี้การผกผันของ B ไม่มีอยู่ดังนั้นคุณจึงไม่มี

(G^{T} A^{- H} B A^{- 1} G) x = b

$(G^TA^{-H}BA^{-1}G)x=b$

G^{T} A^{- H} B A^{- 1} G

$G^TA^{-H}BA^{-1}G$

A B^{- 1} A^{H}

$AB^{-1}A^H$ . ฉันไม่คิดว่ามันจะใช้งานได้กับ pseudoinverse ของ B เช่นกัน

— Costis

แนะนำ

และ

และดำเนินการเปรียบเทียบกับกรณีที่เกิดขึ้น (เป็นไปได้ว่าคุณจำเป็นต้องคำนึงถึงปัจจัย

เป็นเมทริกซ์อันดับเต็มและแนะนำเวกเตอร์ระดับกลางเพิ่มเติม)

y := A^{- 1} G x

$y:=A^{-1}Gx$

z := A^{- H} B y

$z:=A^{-H}By$

B

$B$

— Arnold Neumaier

สวัสดีอาร์โนลด์ ขอบคุณสิ่งนี้ใช้ได้จริง! ฉันทดสอบด้วยตัวอย่างการทดสอบขนาดเล็กมากและใช้งานได้ดี อย่างไรก็ตามผู้แก้ปัญหาที่วนซ้ำของฉันกำลังประสบปัญหามากมายในการแปลงเมทริกซ์ที่เติม ในขณะที่ใช้เวลาประมาณ 80 ซ้ำ (ไม่กี่วินาที) เพื่อแก้ปัญหาระบบของรูปแบบ

กับเมทริกซ์ A ดั้งเดิมระบบที่มีเมทริกซ์เพิ่มเติม (ซึ่งคือ 2n + mx 2n + m หรือ 2n-mx 2n- m โดยใช้วิธีการของ @ wolfgang-bangerth ใช้เวลามากกว่าหมื่นครั้งในการแก้ปัญหาหนึ่ง RHS มีกลยุทธ์ใดในการเร่งความเร็วของคอนเวอร์เจนซ์หรือไม่? อาจเป็นสิ่งที่จำเป็น?

A x = b

$Ax=b$

— Costis

ตามการตอบกลับของ Arnold มีบางสิ่งที่คุณสามารถทำได้เพื่อทำให้ปัญหาง่ายขึ้น โดยเฉพาะการเขียนระบบเป็นขจากนั้นให้สังเกตว่าจากข้อความที่สูงและแคบและแต่ละแถวมีเพียง 1 และศูนย์เท่านั้นมิฉะนั้นคำสั่งหมายความว่าเซตย่อยขององค์ประกอบของมีค่าคงที่กล่าวคือองค์ประกอบของ $Ay+Gx=0, G^Ty=-b$ $G$ $G^Ty=-b$ $y$ $-b$ .

ให้เราบอกว่าสำหรับความเรียบง่ายที่มีคอลัมน์และแถวและที่ว่าครั้งแรกที่แถวมีคนในพวกเขาและที่จะมีการเรียงลำดับองค์ประกอบของฉันสามารถทำให้มันเพื่อให้มีตัวตนของเมทริกซ์ที่ด้านบน และเมทริกซ์ศูนย์ที่ด้านล่าง แล้วฉันจะแบ่งพาร์ติชันเข้า "จำกัด" และองค์ประกอบ "ฟรี" เพื่อให้ $G$ $m$ $n$ $m$ $x$ $G$ $m \times m$ $n-m \times m$ $y=(y_c,y_f)$ $m$ $n-m$ ขฉันสามารถแบ่งพาร์ติชันเพื่อให้ $y_c=-b$ $A$ $A=\begin{pmatrix} A_{cc} & A_{cf} \\ A_{fc} & A_{ff} \end{pmatrix}$ )จากสมการฉันได้สิ่งต่อไปนี้: $Ay+Gx=0$

A_{c c} y_{c} + A_{c f} y_{f} + x = 0, A_{f c} y_{c} + A_{f f} y_{f} = 0

$A_{cc} y_c + A_{cf} y_f + x = 0, \\ A_{fc} y_c + A_{ff} y_f = 0$

y_{c}

$y_c$

A_{f f} y_{f} = A_{f c} b

$A_{ff} y_f = A_{fc} b$

x = A_{c c} b - A_{c f} A_{f f}^{- 1} A_{f c} b .

$x = A_{cc} b - A_{cf} A_{ff}^{-1} A_{fc} b.$

A

$A$

G

$G$

G

$G$

z = A_{f c} b

$z=A_{fc} b$

A_{f f} h = z

$A_{ff} h = z$

x = A_{c c} b - A_{c f} h

$x = A_{cc} b - A_{cf} h$

$G$ $A$ .

— Wolfgang Bangerth
แหล่งที่มา

But we know $G$ , $G^T$ and $A$ , so

$G^T A^{-1} G x = b$

$G G^T A^{-1} G x = G b$

Since $G^T G = I$ , then $G^T = G^{-1}$ , so $G G^T=I$ :

$A^{-1} G x = G b$

$A A^{-1} G x = A G b$

$G x = A G b$

$G^T G x = G^T A G b$

$x = G^T A G b$

Unless I've missed something, you don't need any iteration, or any solver to calculate x given $G$ , $A$ and $b$ .

— Phil H
แหล่งที่มา

G^{T}

$G^T$ being a left inverse of

G

$G$ does not imply that it is also a right inverse. Consider

G = e_{1}

$G=e_1$ , where

G^{T} = e_{1}^{T}

$G^T=e_1^T$ is a left inverse, but

G G^{T} = e_{1} e_{1}^{T} \neq I

$GG^T=e_1e_1^T\neq I$ .

— Jack Poulson

G \in C^{n} \otimes C^{m}

$G\in \mathbb{C}^n\otimes \mathbb{C}^m$ , hence

G^{T} G = I_{m \times m}

$G^TG=I_{m\times m}$ , but

G G^{T} \neq I_{n \times n}

$GG^T\ne I_{n\times n}$ . Rather it's a projector on a subspace.

— Deathbreath