การคำนวณดีเทอร์มิแนนต์ขณะที่แก้โดยใช้ CG

11

ฉันกำลังแก้สำหรับขนาดใหญ่เบาบางบวกแน่นอนเมทริกซ์ใช้การไล่ระดับสีผัน (CG) วิธีการ มันเป็นไปได้ที่จะคำนวณหาดีเทอร์มีแนนต์ของโดยใช้ข้อมูลที่สร้างขึ้นในระหว่างการแก้ปัญหา? $Ax=b$ $A$ $A$

— มานูเอลชมิดท์
แหล่งที่มา

ทำไมคุณต้องการคำนวณปัจจัย ผลลัพธ์ดังกล่าวจะเป็นทั้งอันเดอร์โฟล์หรือโอเวอร์โฟลว์สำหรับเมทริกซ์ขนาดใหญ่ต่อไป ฉันจะเป็นกุศลมากขึ้นถ้าคุณขอให้คำนวณหมายเลขเงื่อนไข แต่ไม่ต้องเสียเวลากับปัจจัย!

คุณอาจรู้อยู่แล้วว่า แต่ค่า Ritz ในระหว่างกระบวนการไล่ระดับสีแบบคอนจูเกตรวมเข้ากับค่าลักษณะเฉพาะของเมทริกซ์และคุณสามารถหาค่าประมาณอย่างง่ายสำหรับดีเทอร์มีแนนต์ได้

— shuhalo

10

การคำนวณดีเทอร์มิแนนต์ของเมทริกซ์กระจัดกระจายนั้นมีราคาแพงพอ ๆ กับการแก้ปัญหาโดยตรงและฉันก็สงสัยว่า CG จะช่วยได้มากในการคำนวณ มันจะเป็นไปได้ที่จะเรียกใช้ CG สำหรับซ้ำ (ที่เป็น ) เพื่อที่จะสร้างข้อมูลสำหรับคลื่นความถี่ทั้งหมดของและแล้วคำนวณปัจจัยเป็นผลิตภัณฑ์ของค่าลักษณะเฉพาะ แต่นี้จะเป็นทั้งช้า และไม่เสถียรเชิงตัวเลข $n$ $A$ $n \times n$ $A$

เป็นความคิดที่ดีกว่าที่จะคำนวณการแยกตัวประกอบ Cholesky ของเมทริกซ์ของคุณอย่างกระจัดกระจายซึ่งเป็นรูปสามเหลี่ยมด้านล่าง จากนั้น ที่เป็นผลคูณของรายการในแนวทแยงของเมทริกซ์สามเหลี่ยมล่างเนื่องจากค่าลักษณะเฉพาะของเมทริกซ์สามเหลี่ยมอยู่ในแนวทแยง $A = L L^H$ $L$

det (A) = det (L) det (L^{H}) = | det (L) |^{2},

$\text{det}(A) = \text{det}(L) \text{det}(L^H) = |\text{det}(L)|^2,$

det (L)

$\text{det}(L)$

L

$L$

ในกรณีของเมทริกซ์ที่ไม่ใช่เอกพจน์ทั่วไปควรใช้การสลายตัวของ LU ที่มีแกนหมุนกล่าวว่าโดยที่คือเมทริกซ์การเปลี่ยนรูปดังนั้น ตั้งแต่เป็นเมทริกซ์การเปลี่ยนแปลง,และโดยการก่อสร้าง,โดยทั่วไปแล้วจะมีเส้นทแยงมุมของทุกคนซึ่งหมายความว่า 1 คุณสามารถคำนวณเป็น $PA=LU$ $P$

det (A) = det (P^{- 1}) \cdot det (L) \cdot det (U) .

$\text{det}(A) = \text{det}(P^{-1}) \cdot \text{det}(L) \cdot \text{det}(U).$

P

$P$

det (P) = \pm 1

$\text{det}(P)=\pm 1$

L

$L$

det (L) = 1

$\text{det}(L)=1$

det (A)

$\text{det}(A)$

\pm det (U)

$\pm \text{det}(U)$ และรับรู้อีกครั้งว่าดีเทอร์มีแนนต์ของเมทริกซ์สามเหลี่ยมนั้นเป็นเพียงผลคูณของรายการในแนวทแยง ดังนั้นต้นทุนของการคำนวณดีเทอร์มิแนนต์จึงเป็นเพียงแค่การแยกตัวประกอบ

— แจ็คโพลสัน
แหล่งที่มา

นี่จะเป็นหนึ่งในความเป็นไปได้ (แม้ว่าฉันจะใช้ตัวประกอบแบบ cholesky) ถ้าเมทริกซ์มีขนาดเล็ก แต่มีขนาด ~และดังนั้นจึงไม่สามารถย่อยสลายได้

A

$A$

10^{6} x 10^{6}

$10^6 x 10^6$

— Manuel Schmidt

@ ManuelSchmidt เมทริกซ์กระจัดกระจายของขนาดนั้นเป็นผลมาจาก discretizations ประเภทไฟไนต์อิลิเมนต์สามารถแยกประเภทได้อย่างง่ายดายด้วยเมธอด multifrontal (ตัวอย่าง) ฉันยอมรับว่าควรใช้ตัวประกอบแบบ Cholesky หากเมทริกซ์ของคุณคือ HPD (และการวางนัยทั่วไปของอาร์กิวเมนต์ข้างต้นของฉันนั้นชัดเจน)

— Jack Poulson

ขอบคุณสำหรับคำตอบและการตอบกลับที่รวดเร็ว น่าเสียดายที่เมทริกซ์ไม่มีโครงสร้างพิเศษ (ซึ่งจะทำให้มีการแยกตัวประกอบง่าย)

— Manuel Schmidt

2

ฉันอยากรู้ว่าทำไมคุณต้องคำนวณดีเทอร์มีแนนต์ของเมทริกซ์ ค่าลักษณะเฉพาะสูงสุดและต่ำสุดไม่เพียงพอหรือไม่

— Jack Poulson

มันเป็นส่วนหนึ่งของฟังก์ชันการแจกแจงความน่าจะเป็นแบบซับซ้อนและไม่เพียง แต่ค่าคงที่การทำให้เป็นมาตรฐาน ฉันรู้ว่าการแจกแจงนั้นสามารถเป็นจริงได้ (และนั่นคือสิ่งที่เรากำลังทำอยู่ในขณะนี้) แต่เรามีข้อมูลมากมายที่จะทำแบบจำลองและปัจจัยแต่ละอย่างก็ยิ่งใหญ่

— Manuel Schmidt

6

คนอื่น ๆ ได้ตั้งข้อสังเกตไว้แล้ว แต่ฉันคิดว่ามันก็คุ้มค่าที่จะชี้ให้เห็นว่าดีเทอร์มิแนนท์นั้นไม่ได้มีประโยชน์ในเกือบทุกครั้งเมื่อเมทริกซ์ของคุณมีขนาดใหญ่ ปัญหาคือว่าเมทริกซ์ขนาดใหญ่ส่วนใหญ่มักจะประมาณสิ่งต่าง ๆ ที่มีขนาดใหญ่กว่า (ตัวอย่างสถิติของประชากรขนาดใหญ่การประมาณมิติที่แน่นอนเพื่อสิ่งมิติที่ไม่มีที่สิ้นสุดเช่นสมการเชิงอนุพันธ์ย่อยเป็นต้น) ให้เราบอกเมทริกซ์ของคุณและว่าในทางใดทางหนึ่งใกล้เคียงกับกระบวนการบางที่และอาจ\ $A$ $B$ $\textrm{dim}A \ll \textrm{dim} B$ $\textrm{dim}B=\infty$

ตอนนี้ตัวดำเนินการก็จะมีสเปกตรัมและโดยทั่วไปสเปกตรัมของจะเกี่ยวข้องกับคลื่นความถี่ของ - เช่นค่าลักษณะเฉพาะของโดยประมาณ (ส่วนย่อยของ) ของนั้น แต่นี่ไม่ได้หมายความว่าใกล้เคียง{B} ในความเป็นจริงถ้าเช่นค่าลักษณะเฉพาะของประมาณค่าลักษณะเฉพาะบางส่วนของดังนั้น $B$ $A$ $B$ $A$ $B$ $\textrm{det}A$ $\textrm{det}B$ $A$ $B$

det A = \prod_{j = 1 \dots dim A} λ_{i} (A) \approx \prod_{j = 1 \dots dim A} λ_{i} (B) \prod_{j = dim A + 1 \dots dim B} λ_{i} (B)

$\textrm{det}A = \prod_{j=1\ldots \textrm{dim}A} \lambda_i(A) \approx \prod_{j=1\ldots \textrm{dim}A} \lambda_i(B) \prod_{j=\textrm{dim}A+1\ldots \textrm{dim}B} \lambda_i(B)$ แต่ปัจจัยที่สองในผลิตภัณฑ์นี้โดยทั่วไปจะมีทั้งสินค้าของเล็ก ๆหรือของที่มีขนาดใหญ่ลักษณะเฉพาะของที่ไม่ได้รับการแก้ไขโดย กล่าวอีกนัยหนึ่งปัจจัยนี้มักจะมีขนาดเล็กมาก (อาจเป็นศูนย์ถ้า ) หรือใหญ่มาก (อาจไม่มีที่สิ้นสุด) กล่าวอีกนัยหนึ่งในกรณีเหล่านี้เรามักจะมีไม่ใกล้เคียงกับและโดยทั่วไปจะไม่เป็นประโยชน์ในการคำนวณ

B

$B$

A

$A$

dim B = \infty

$\textrm{dim}B=\infty$

det A

$\textrm{det}A$

det B

$\textrm{det}B$

— Wolfgang Bangerth
แหล่งที่มา

ปรากฎว่ามีอัลกอริทึมที่สวยงามและใช้งานได้จริงของเราที่เกี่ยวข้องกับการคำนวณของปัจจัยที่มีขนาดใหญ่ ตรวจสอบwww-m3.ma.tum.de/foswiki/pub/M3/Allgemeines/ …

— Matt Knepley

2

โดยไม่ได้รับ (อีกครั้ง) ว่าทำไมและวิธีการที่ปัจจัยที่เป็นความชั่วร้ายสมมติว่าผู้ประกอบการของคุณเป็นอย่างใดอย่างหนึ่งไม่ได้ factorizable ได้อย่างง่ายดายหรือเพียงแค่ไม่สามารถใช้เป็นเมทริกซ์ได้เลยและที่คุณจริงๆต้องประเมินปัจจัยของมัน

วิธีหนึ่งที่จะได้รับการประมาณค่าของดีเทอร์มิแนนต์คือใช้การนำ CG ไปใช้ซึ่งขึ้นอยู่กับกระบวนการของ Lanczos โดยตรง ดูตัวอย่างอัลกอริทึม 6.17 (D-Lanczos) ในหนังสือของซาด " วิธีการวนซ้ำสำหรับระบบเชิงเส้นแบบกระจัดกระจาย " (SIAM) หน้า 189 ที่นั่นผู้ประกอบการเป็นปัจจัยกึ่งชัดเจนและคุณสามารถใช้ปัจจัยปัจจัยเป็นการประมาณ ของปัจจัยของ ฉันขอย้ำว่าฉันไม่เคยพยายามที่จะประเมินดีเทอร์มิแนนต์และฉันไม่รู้ว่าสิ่งที่ฉันแนะนำนั้นเป็นความคิดที่ดีหรือไม่ - อาจไม่ได้รับค่าลักษณะเฉพาะที่เป็นปัญหาของผีให้เรา อย่างไรก็ตามนั่นคือสิ่งที่อยู่ในใจเมื่ออ่านคำถามของคุณ $A$ $A$

คุณอาจจะวิศวกรรมย้อนกลับว่าการประมาณค่าของดีเทอร์มิแนนต์นั้นเกี่ยวข้องกับการนำมาตรฐาน CG ไปใช้อย่างไรโดยทำตามส่วนที่ 6.7.3 ของหนังสืออย่างใกล้ชิด

— โดมินิก
แหล่งที่มา

2

ปัจจัยของเมทริกซ์ A สามารถคำนวณได้เป็น ที่ - เป็นขั้นตอนที่คำนวณ ระหว่างการทำซ้ำ CG แต่นี้จะทำงานเฉพาะถ้าn หลักฐานดังต่อไปนี้ ให้เป็นเมทริกซ์ประกอบด้วยเวกเตอร์และให้เป็นเมทริกซ์ประกอบด้วยp_k ดังนั้นโดยทรัพย์สินของปัจจัย(R) ตอนนี้สังเกตว่าพาหะเป็นมุมฉากและพาหะตาม

d e t (A) = \prod_{i = 1}^{n} α_{k}^{- 1},

$det(A) = \prod_{i = 1}^n \alpha_k^{-1},$

α_{k} = \frac{r_{k}^{T} r_{k}}{p_{k}^{T} A p_{k}}

$\alpha_k = \cfrac{r_k^Tr_k}{p_k^TAp_k}$

r_{k} \neq 0 \forall k = 1, \dots, n

$r_k \ne 0 \;\,\forall k=1, \ldots, n$

R

$R$

r_{k}

$r_k$

P

$P$

p_{k}

$p_k$

p_{k} = - r_{k} + \sum_{i = 1}^{k - 1} γ_{i} r_{i} .

$p_k = -r_k + \sum_{i=1}^{k-1}\gamma_i r_i.$

d e t (P) = (- 1)^{n} d e t (R)

$det(P) = (-1)^n det(R)$

r_{k}

$r_k$

p_{k}

$p_k$

A

$A$ . ดังนั้น

\prod_{k = 1}^{n} α_{k} = \prod_{k = 1}^{n} \frac{r_{k}^{T} r_{k}}{p_{k}^{T} A p_{k}} = \frac{d e t (R^{T} R)}{d e t (P^{T} A P)} = \frac{d e t (R^{T} R)}{d e t (A) d e t (P^{T} P)} = (d e t (A))^{- 1} .

$\prod_{k = 1}^n \alpha_k = \prod_{k = 1}^n \frac{r_k^T r_k}{p_k^TAp_k} = \frac{det(R^TR)}{det(P^TAP)} = \frac{det(R^TR)}{det(A)det(P^TP)}= (det(A))^{-1}.$

— Yermek
แหล่งที่มา