มีวิธีฮิวริสติกเพื่อปรับวิธีการผ่อนคลายแบบต่อเนื่อง (SOR) อย่างต่อเนื่องหรือไม่?

ตามที่ผมเข้าใจมันต่อเนื่องมากกว่าการผ่อนคลายการทำงานโดยการเลือกพารามิเตอร์ $0\leq\omega\leq2$ และการใช้การรวมกันของเส้นตรง (กึ่ง) ย้ำ Gauss-Seidel และความคุ้มค่าที่ timestep ก่อนหน้านี้ ... นั่นคือ

${u}^{k+1} = (\omega){u_{gs}}^{k+1} + (1-\omega)u^{k}$

ฉันรัฐกึ่งเพราะ ${u_{gs}}^{k+1}$ มีข้อมูลล่าสุดปรับปรุงตามกฎนี้อย่าง timestep ใด ๆ (โปรดทราบว่าที่ $\omega=1$ นี่คือ gauss-seidel)

ไม่ว่าในกรณีใดฉันได้อ่านว่าตัวเลือกที่เหมาะสมที่สุดสำหรับ $\omega$ (เช่นการวนซ้ำมาบรรจบกันเร็วกว่าวิธีอื่น) 2 สำหรับปัญหาปัวซองเนื่องจากความละเอียดเชิงพื้นที่เข้าใกล้ศูนย์ มีแนวโน้มที่คล้ายกันสำหรับปัญหาอื่น ๆ ที่มีความสมมาตรและโดดเด่นในแนวทแยงมุมหรือไม่? นั่นคือมีวิธีเลือกโอเมก้าอย่างเหมาะสมที่สุดโดยไม่ต้องฝังลงในแผนการปรับให้เหมาะสมแบบปรับได้หรือไม่? มีการวิเคราะห์พฤติกรรมแบบอื่นสำหรับปัญหาประเภทอื่น ๆ หรือไม่ ปัญหาอะไรบ้างที่จะทำให้เกิดการผ่อนคลาย ( $\omega<1$ ) ดีที่สุด?

linear-algebra optimization iterative-method

— พอล
แหล่งที่มา

ไม่ใช่คำถามของคุณ แต่ให้ดูที่ Salakhutdinov และ Roweis วิธีการปรับให้เหมาะสมกับขอบเขตการปรับตัว overrelaxed 2003, 8p ( Adaptive speedups มีปังสูงต่อเจ้าชู้ แต่ AFAIK เป็นไปไม่ได้ในการวิเคราะห์เพื่อปิดหัวข้อที่นี่.)

— เดนิส

จาโคบีเปียกชื้น

สมมติว่าเมทริกซ์มีเส้นทแยงมุมDถ้าสเปกตรัมของอยู่ในช่วงของแกนบวกจริงจากนั้นเมทริกซ์การวนซ้ำของ Jacobi ที่มีปัจจัยการทำให้หมาด ๆ มีสเปกตรัมอยู่ในช่วงดังนั้นลดรัศมีของสเปกตรัมด้วย $A$ $D$ $D^{-1}A$ $[a,b]$ $\omega$

B_{Jacobi} = I - ω D^{- 1} A

$B_\text{Jacobi} = I - \omega D^{-1} A$

[1 - ω b, 1 - ω a]

$[1 - \omega b,1 - \omega a]$

ให้ปัจจัยการลู่เข้าของ

ω_{เลือก} = \frac{2}{a + ข}

$\omega_{\text{opt}} = \frac 2 {a + b}$

หาก

แล้วปัจจัยที่บรรจบกันนี้เป็นที่น่าสงสารมากตามที่คาดไว้ หมายเหตุว่ามันเป็นเรื่องง่ายที่จะประเมิน

โดยใช้วิธีการ Krylov แต่มีราคาแพงมากทีเดียวที่จะประเมิน

ρ_{เลือก} = 1 - \frac{2 a}{a + ข} = \frac{ข - a}{a + ข} .

$\rho_\text{opt} = 1 - \frac{2a}{a+b} = \frac{b-a}{a+b}.$

a ≪ b

$a \ll b$

b

$b$

a

$a$

ต่อเนื่องมากกว่าการพักผ่อน (SOR)

$D^{-1}A$ $\mu_\max$ $I - D^{-1} A$ $\mu_\max < 1$ ซึ่งจะส่งผลให้อัตราการบรรจบกันของ โปรดทราบว่าวิธีที่ 2 เมื่อ1

ω_{เลือก} = 1 + {(\frac{μ_{สูงสุด}}{1 + \sqrt{1 - μ_{สูงสุด}^{2}}})}^{2}

$\omega_\text{opt} = 1 + \left( \frac{\mu_\max}{1 + \sqrt{1 - \mu_\max^2}} \right)^2$

ρ_{เลือก} = ω_{เลือก} - 1

$\rho_\text{opt} = \omega_\text{opt} - 1.$

ω_{opt}

$\omega_\text{opt}$

μ_{max} \to 1

$\mu_\max \to 1$

ความคิดเห็น

$\omega = 1$ $\omega <1$

$D^{-1}A$

B_{SOR} = 1 - {(\frac{1}{ω} D + L)}^{- 1} A

$B_\text{SOR} = 1 - \left(\frac 1 \omega D + L\right)^{-1} A$

(\frac{1}{ω} D + L)^{- 1} A

$(\frac 1 \omega D + L)^{-1} A$

— เจดบราวน์
แหล่งที่มา

ฉันยอมรับว่าไม่ใช่ 1950 อีกต่อไป: o) แต่ฉันไม่เห็นด้วยที่ไม่ควรใช้ตัวแก้ซ้ำ ๆ สเตชันเนอรีอีกต่อไป เราสามารถบรรลุประสิทธิภาพของตำราเรียนแบบ multigrid โดยใช้ตัวแก้ซ้ำแบบไม่ขยับเขยื้อนสำหรับตัวแก้ปัญหาการประยุกต์ใช้งานทางวิศวกรรมโดยใช้ตัวแก้ปัญหาพื้นผิวที่ไม่เป็นเชิงเส้นระดับสูง (ทั้งสมการไหลและสมการออยเลอร์) ประสิทธิภาพเป็นเพียงดีเท่า preconditioned GMRES Krylov สเปซวิธีการที่อยู่ในความถูกต้องสำเร็จ (ผับที่ผ่านมาของเราจะพบได้ที่นี่onlinelibrary.wiley.com/doi/10.1002/fld.2675/abstractทำหน้าที่เป็นหลักฐานของแนวคิด)

— Allan P. Engsig-Karup

คุณกำลังใช้ Gauss-Seidel เพื่อความนุ่มนวลในการ multigrid (ซึ่งเป็นที่ที่มีวิธีการเช่น SOR) หาก multigrid ทำงานได้ดีวิธี Krylov ด้านนอกก็ไม่จำเป็นเช่นกัน (แม้ว่าบทความของคุณจะไม่แสดงการเปรียบเทียบเหล่านั้น) ทันทีที่ Multigrid เริ่มสูญเสียประสิทธิภาพ (เช่นการวนซ้ำมากกว่า 5 ครั้งเพื่อให้เกิดข้อผิดพลาด discretization) ก็มักจะคุ้มค่าที่จะห่อวิธี Krylov รอบวัฏจักร multigrid

— Jed Brown

วิธีการทั้งหมดเป็น p-multigrid ที่มีการปรับให้เรียบแบบ GS อย่างไรก็ตามวิธีการทั้งหมดสามารถเขียนเป็นวิธีการวนซ้ำแบบคงที่เนื่องจากตัวดำเนินการทั้งหมดมีค่าคงที่ คุณสามารถดูว่าเป็นวิธี Richardson แบบมีเงื่อนไขก่อนหน้านี้ด้วย M ตัวสร้างเงื่อนไขล่วงหน้าที่สร้างจากวิธี multigrid วิเคราะห์เสร็จแล้ว แต่ยังไม่เผยแพร่ ที่จริงแล้วงานนี้ไปในทิศทางอื่นที่คุณเสนอ วิธี krylov ในงานนี้ (a GMRES) ถูกละทิ้งแล้วกลายเป็นวิธี multigrid ลำดับสูงตามที่เราพบว่านี่เป็นเพียงประสิทธิภาพ (และด้วยความต้องการหน่วยความจำลดลง)

— อัลลันพี Engsig-Karup

p

$p$

h p

$hp$

โปรดทราบว่าใน Multigrid smoothers บางครั้งก็เป็นที่นิยม (อนุญาตให้ใช้สถาปัตยกรรม) เพื่อสร้างการเชื่อมต่อแบบหลายคู่ลำดับสูง / ต่ำ สิ่งนี้ยังขยายการกำหนด "ริชาร์ดสันเงื่อนไข" (ฉันมีการสนทนาในการประชุมเมื่อสัปดาห์ที่แล้วกับผู้ชายคนหนึ่งที่ต้องการดูวิธีการทั้งหมดที่เป็นเงื่อนไขริชาร์ดสันด้วยการทำซ้ำแบบซ้อนซึ่งฉันไม่คิดว่าจะได้รับประโยชน์โดยเฉพาะอย่างยิ่งกับองค์ประกอบการแก้ปัญหาอื่น ๆ เกี่ยวข้องกับคุณ แต่คะแนนของคุณทำให้ฉันนึกถึงการอภิปราย)

— Jed Brown