11

เมื่อต้องการคำนวณอนุพันธ์เชิงตัวเลขวิธีที่นำเสนอโดย Bengt Fornberg ที่นี่ (และรายงานที่นี่ ) สะดวกมาก (ทั้งแม่นยำและง่ายต่อการใช้งาน) ในฐานะที่เป็นกระดาษดั้งเดิมวันที่จากปี 1988 ฉันต้องการที่จะรู้ว่ามีทางเลือกที่ดีกว่าในวันนี้ (เป็น (หรือเกือบ) ง่ายและแม่นยำยิ่งขึ้น?

finite-difference precision

— วินเซนต์
แหล่งที่มา

1

ยากที่จะพูดโดยไม่ทราบว่าคุณต้องการแยกความแตกต่าง คุณเคยคิดว่าความแตกต่างอัตโนมัติหรือไม่

— Biswajit Banerjee

@BiswajitBanerjee: สำหรับสัมประสิทธิ์ความแตกต่าง จำกัด การใช้ความแตกต่างอัตโนมัติไม่ได้ใช้

— Geoff Oxberry

@ GeoffOxberry: ฉันหมายถึงปัญหาทางกายภาพที่เกิดขึ้นจริงเช่นส่วนวิทยาศาสตร์ของ "วิทยาศาสตร์การคำนวณ"

— Biswajit Banerjee

@Vincent: คุณพยายามแยกฟังก์ชั่นหรือตารางหรือไม่? หากข้อมูลตารางเป็นข้อมูลตารางที่มีเสียงดัง? คุณพยายามแยก PDE ออกหรือไม่

— user14717

9

ภาพรวม

คำถามที่ดี. มีบทความเรื่อง "การปรับปรุงความถูกต้องของวิธีการสร้างความแตกต่างของเมทริกซ์สำหรับคะแนนการจัดตำแหน่งตามอำเภอใจ" โดย R. Baltensperger มันไม่ใช่เรื่องใหญ่ในความคิดของฉัน แต่มันมีจุด (ซึ่งเป็นที่รู้จักกันก่อนหน้านี้ในปี 2000): มันเน้นถึงความสำคัญของการเป็นตัวแทนที่ถูกต้องของความจริงที่ว่าอนุพันธ์ของฟังก์ชันคงที่ $f(x)=1$ ควร เป็นศูนย์ (สิ่งนี้ถือได้ว่ามีความหมายทางคณิตศาสตร์ แต่ไม่จำเป็นต้องเป็นตัวแทนตัวเลข)

มันง่ายที่จะเห็นว่าสิ่งนี้ต้องการผลบวกของแถวของเมทริกซ์ n-th อนุพันธ์ $D^{(n)}$ เป็นศูนย์ มันเป็นเรื่องธรรมดาที่จะบังคับใช้ข้อ จำกัด นี้โดยการปรับรายการเส้นทแยงมุมคือการตั้งค่า

\begin{matrix} (1) & D_{J J}^{(n)} = - Σ_{\begin{matrix} ผม = 1 \\ ผม \neq J \end{matrix}}^{ยังไม่มีข้อความ} D_{ผม J} . \end{matrix}

$\tag 1 D^{(n)}_{jj} := -\sum_{\substack{i=1\\i \neq j }}^N D_{ij}\,.$ เป็นที่ชัดเจนว่าคุณลักษณะนี้ไม่ได้ทำงานอย่างแน่นอนเมื่อทำงานกับคอมพิวเตอร์เนื่องจากข้อผิดพลาดในการปัดเศษในการคำนวณจุดลอยตัว สิ่งที่น่าแปลกใจยิ่งกว่าคือข้อผิดพลาดเหล่านี้จะรุนแรงยิ่งขึ้นเมื่อใช้สูตรการวิเคราะห์สำหรับเมทริกซ์อนุพันธ์ (ซึ่งมีให้สำหรับจุดการจัดวางแบบคลาสสิกจำนวนมากเช่น Gauss-Lobatto)

ตอนนี้กระดาษ (และการอ้างอิงในนั้น) ระบุว่าข้อผิดพลาดของอนุพันธ์อยู่ในลำดับการเบี่ยงเบนของผลรวมของแถวจากศูนย์ เป้าหมายคือการทำให้ตัวเลขเหล่านี้มีขนาดเล็กที่สุดเท่าที่จะทำได้

การทดสอบเชิงตัวเลข

ข้อดีคือกระบวนการของ Fornberg นั้นค่อนข้างดีในเรื่องนี้ ในภาพด้านล่างฉันได้เปรียบเทียบพฤติกรรมของสิ่งที่ถูกต้องนั่นคือการวิเคราะห์เมทริกซ์อนุพันธ์อันดับหนึ่งและอันที่ได้มาจากอัลกอริทึม Fornberg สำหรับจำนวนจุดการจัดตำแหน่ง Chebyshev-Lobatto ที่แตกต่างกัน

อีกครั้งที่เชื่อคำแถลงในเอกสารที่อ้างถึงนี่ก็หมายความว่าอัลกอริทึม Fornberg จะให้ผลลัพธ์ที่แม่นยำยิ่งขึ้นสำหรับอนุพันธ์

เพื่อพิสูจน์ว่าฉันจะใช้ฟังก์ชั่นเดียวกับในกระดาษ

\begin{matrix} (2) & ฉ (x) = \frac{1}{1 + x^{2}} . \end{matrix}

$\tag 2 f(x) = \frac{1}{1+x^2}\,.$

\begin{matrix} (3) & E_{n} = \underset{ผม \in {0, ..., n}}{สูงสุด} | ฉ^{'} (x_{ผม}) - Σ_{J = 1}^{n} D_{ผม J} ฉ (x_{J}) | . \end{matrix}

$\tag 3 E_n = \max_{i\in \{0,\ldots,n\}} \bigg| f^\prime(x_i) - \sum_{j=1}^n D_{ij} f(x_j) \bigg|\,.$

\begin{matrix} (4) & {\tilde{D}}_{J J} = D_{J J} - (Σ_{ผม = 1}^{n} D_{J ผม}), เพื่อทุกสิ่ง J . \end{matrix}

$\tag 4 \tilde D_{jj} = D_{jj} - \left(\sum_{i=1}^n D_{ji} \right), \qquad \text{for all}\ j\,.$

ข้อสรุป

โดยสรุปแล้ววิธีการของ Fornberg นั้นค่อนข้างแม่นยำในกรณีที่แม้จะมีขนาดความแม่นยำประมาณ 3 คำสั่งมากกว่าผลลัพธ์จากสูตรการวิเคราะห์ นี่ควรจะแม่นยำเพียงพอสำหรับการใช้งานส่วนใหญ่ ยิ่งไปกว่านั้นสิ่งนี้น่าทึ่งเพราะ Fornberg ดูเหมือนจะไม่ได้รวมข้อเท็จจริงนี้ไว้ในวิธีการของเขาอย่างชัดเจน (อย่างน้อยก็ไม่มีการพูดถึงในเอกสารของ Fornberg สองฉบับ) $N=512$

ลำดับความสำคัญอื่นสามารถรับได้จากตัวอย่างนี้ผ่านการรวม Eq. (4) เนื่องจากนี่เป็นวิธีการที่ง่ายมากและใช้เพียงครั้งเดียวสำหรับอนุพันธ์แต่ละอันฉันไม่เห็นเหตุผลที่จะไม่ใช้มัน

วิธีการจากกระดาษ Baltensperger - ซึ่งใช้วิธีการที่ซับซ้อนมากขึ้นสำหรับการประเมินผลรวมใน Eq (1) เพื่อลดข้อผิดพลาดในการปัดเศษ - ให้ผลประมาณขนาดเดียวกันสำหรับข้อผิดพลาด อย่างน้อยที่สุดสำหรับตัวอย่างนี้มันประมาณคร่าวๆกับวิธี "Adjusted Fornberg" ด้านบน

— davidhigh
แหล่งที่มา

4

สมมติว่าคุณกำลังพยายามแยกความแตกต่างของการใช้ฟังก์ชั่นตัวเลขอย่างต่อเนื่องมีวิธีการมากมาย:

1) ความแตกต่างอัตโนมัติ วิธีที่ถูกต้องและทั่วไปที่สุด รหัสเจ็บปวดต้องใช้ตัวดำเนินการมากเกินไปและการค้นหาขึ้นอยู่กับการโต้แย้ง วางภาระให้ผู้ใช้เข้าใจแนวคิดเหล่านี้ นอกจากนี้ยังต้องต่อสู้กับเอกที่ถอดออกได้เช่นความแตกต่าง sinc ที่ 0 $x= 0$

2) การแปลง Chebyshev ฉายภาพการทำงานของคุณบนพหุนามแบบ Chebyshev และแยกความแตกต่างระหว่างการเกิดซ้ำอีกสามคำ เร็วสุดแม่นยำมาก แต่ต้องการให้คุณมีโดเมนที่น่าสนใจรองรับอย่างแน่นหนา นอกโดเมนที่เลือกการทำซ้ำคำสามคำนั้นไม่เสถียร $[a,b]$

3) ผลต่าง จำกัด underrated ใน 1D; เห็นนิคฮิกคั่มของเคล็ดลับและเทคนิคในเชิงตัวเลขคอมพิวเตอร์ แนวคิดก็คือถ้าคุณสร้างความสมดุลข้อผิดพลาดการตัดและข้อผิดพลาด roundoff แล้วคุณไม่จำเป็นต้องเลือกขั้นตอน; สามารถเลือกได้โดยอัตโนมัติ ใน Boost แนวคิดนี้ใช้เพื่อกู้คืน (ตามค่าเริ่มต้น) 6/7 ของตัวเลขที่ถูกต้องสำหรับประเภท (Higham แสดงให้เห็นถึงความคิดสำหรับกรณีที่ง่ายกว่าของ 1/2 ตัวเลขที่ถูกต้อง แต่ความคิดจะขยายได้อย่างง่ายดาย) ค่าสัมประสิทธิ์มาจากตาราง Equispaced ของ Fornberg แต่ขั้นตอนถูกเลือกภายใต้สมมติฐานว่าฟังก์ชันสามารถประเมินได้ถึง 1ULP ความถูกต้อง ข้อเสียคือต้องใช้การประเมิน 2 ฟังก์ชันเพื่อกู้คืนครึ่งหลักของประเภท 4 เพื่อกู้คืนตัวเลข 3 / 4th เป็นต้น ใน 1D ไม่ใช่เรื่องเลวร้าย ในมิติที่สูงขึ้นมันเป็นหายนะ

4) อนุพันธ์ขั้นตอนที่ซับซ้อน ใช้IH)) ใช้เวลาเพื่อเป็นหน่วย roundoff และสิ่งนี้จะกู้คืนได้เกือบทุกบิตที่ถูกต้อง อย่างไรก็ตามมันเป็นการโกงเพราะโดยทั่วไปแล้วมันยากที่จะใช้ฟังก์ชั่นในระนาบเชิงซ้อนมากกว่าการเขียนโค้ดอนุพันธ์ที่แท้จริง ยังเป็นแนวคิดที่ยอดเยี่ยมและมีประโยชน์ในบางสถานการณ์ $f'(x) \approx \Im(f(x+ih))$ $h$

— user14717
แหล่งที่มา

1

ฉันไม่รู้ว่าใครมีการปรับปรุงอัลกอริทึมของ Fornberg (ดูเอกสารล่าสุดของเขาอีกเล็กน้อย) สำหรับฉันแล้วดูเหมือนว่าการมองหาอัลกอริทึมของเขาเป็นวิธีการคำนวณอนุพันธ์เชิงตัวเลขไม่ถูกต้อง สิ่งที่เขาทำทั้งหมดมาจากอัลกอริธึมที่มีประสิทธิภาพในการคำนวณน้ำหนักสำหรับวิธีการผลต่าง จำกัด ข้อได้เปรียบของวิธีการของเขาคือให้น้ำหนักสำหรับอนุพันธ์ทั้งหมดจนถึงอนุพันธ์ที่ต้องการในคราวเดียว

— Brian Zatapatique
แหล่งที่มา

ฉันจะไม่เห็นด้วยกับคำสั่ง "ดูที่อัลกอริทึมของเขาเป็นวิธีการคำนวณอนุพันธ์เชิงตัวเลขไม่ถูกต้อง" เมื่อคุณมีน้ำหนักประเมินจุดคุณโดยตรงสามารถคำนวณอนุพันธ์เชิงตัวเลขของฟังก์ชั่นใด ๆผ่าน(x_i)

w_{i}

$w_i$

z

$z$

f (x)

$f(x)$

f^{'} (z) = \sum_{i} w_{i} f (x_{i})

$f^\prime(z) = \sum_i w_i f(x_i)$

— davidhigh

@davidhigh: ถ้าคุณอ่านเอกสารของ Fornberg พวกเขาจะพูดถึงการคำนวณน้ำหนักสำหรับการประมาณค่าผลต่าง จำกัด ซึ่งไม่เกี่ยวกับการคำนวณด้วยตนเอง แน่นอนว่าคุณสามารถใช้อัลกอริธึมในการคำนวณอนุพันธ์ได้เช่นกัน แต่มันก็สมเหตุสมผลกว่าที่จะคำนวณน้ำหนักจัดเก็บพวกมันแล้วใช้มันซ้ำ ๆ เพื่อคำนวณอนุพันธ์โดยประมาณ มิฉะนั้นคุณกำลังคำนวณน้ำหนักซ้ำ ๆ เมื่อไม่ต้องการ

— Brian Zatapatique

1

รูปแบบที่เรียบง่าย

นอกจากคำตอบอื่น ๆของฉันซึ่งเป็นส่วนเพิ่มเติมเกี่ยวกับวิธีการของ Fornberg ฉันจะตอบคำถามทางเลือกที่ง่ายขึ้นที่นี่

สำหรับเรื่องนี้ฉันร่างโครงการทางเลือกที่ก่อให้เกิดสัมประสิทธิ์อนุพันธ์ของการประมาณค่าลากรองจ์โดยตรง การใช้งานต้องใช้โค้ดเพียงไม่กี่บรรทัดใช้งานได้กับกริดตามอำเภอใจและจากการทดสอบครั้งแรกของฉันนั้นแม่นยำเหมือนของ Fornberg

พื้นฐานของการดำเนินการเป็นขั้นตอนจินตนาการอนุพันธ์ ที่เป็นตัวแปรตามลำดับความแม่นยำของเครื่องจักร อนุพันธ์ขั้นตอนจินตนาการเป็นที่รู้จักกันเสถียรผลิตค่าอนุพันธ์และไม่ประสบความไม่แน่นอนเชิงตัวเลขของการดำเนินงานที่แตกต่างกับไฟไนต์0

f^{'} (x) = \frac{1}{h} Im (f (x + i h)),

$f'(x) \ = \ \frac{1}{h}\,\text{Im}\big(f(x+ih)\big)\,,$

h

$h$

h \to 0

$h\rightarrow 0$

$L_i(x)$ $\{x_1,\ldots, x_N\}$

L_{i} (z) = {\begin{cases} 1 & if z = x_{i} \\ \frac{\frac{μ_{i}}{z - x_{k}}}{\sum_{k} \frac{μ_{k}}{z - x_{k}}} & otherwise . \end{cases}

$L_i(z) \ = \ \begin{cases}1 & \text{if }z = x_i\\\ \frac{\frac {\mu_i}{z-x_k}}{ \sum_k\frac {\mu_k}{z-x_k} } & \text{otherwise}\,. \end{cases}$

μ_{i} = \frac{1}{\prod_{k \neq i} (x_{i} - x_{k})}

$\mu_i = \frac{1}{\prod_{k\neq i} (x_i - x_k)}$

z

$z$

f_{i} = f (x_{i})

$f_i = f(x_i)$

(x_{1}, f_{i})

$(x_1,f_i)$

P (x; ฉ) = Σ_{ผม = 1}^{ยังไม่มีข้อความ} ฉ_{ผม} L_{ผม} (x) .

$P(x;f) = \sum_{i=1}^N f_i L_i(x)\,.$

ขั้นตอนวิธี

อัลกอริทึมถูกร่างในต่อไปนี้ มันมีพารามิเตอร์อินพุตและเอาต์พุตเดียวกับ Fornberg แต่ไม่มีอะไรมาก

การป้อนข้อมูล:

$x$ : กริดที่มีจุดกริด N ที่แตกต่างกัน
$ord$ : ลำดับอนุพันธ์
z: จุดที่จะทำการประเมินอนุพันธ์
อาจเป็นไปได้: ฟังก์ชั่นหรือค่า funciton ของที่จุดกริด (จำเป็นสำหรับตัวแปรเอาท์พุท 2 เท่านั้น) $f(x)$ $f_i$

การเริ่มต้น

เริ่มต้นชื่อพหุนาม Lagrange ผ่านการแก้ไขแบบบาริเซนทริก $L$
เริ่มต้นอาร์เรย์ของเมทริกซ์ , สำหรับ $N\times N$ $D^{(o)}$ $o=0, \ldots, ord$
ตั้งนั่นคือเมทริกซ์หน่วยของมิติ $D^{(0)} := I_N$ $N\times N$
ตั้ง $o := 0$

ขั้นตอนวิธี

$o < ord$

$D^{(o+1)}_{ik} = CSD \bigg( P\big(x_k; D^{(o)}_{i}\big) \bigg)$ $CSD$ $i$ $k$
$D^{(o)}_{i}$ $i$ $D^{(o)}$
ตั้ง o = o + 1;

ตัดสินใจว่าจะเอาท์พุท :

$d^{(ord)}$ $z$ $d_i = P(z;D^{(ord)}_i)$
$p^{(ord)}(x) = \sum_{i=1}^N f(x_i) P(x;D^{(ord)}_i)$ $f^{(ord)}(x)$ $ord$ $f_i$ $x_i$
$\text{diff}(\text{int } ord, \text{function } g)$ $g$

โดยส่วนตัวแล้วฉันชอบตัวแปร 3 มากที่สุด

การวิเคราะห์อัลกอริทึม

$\mathcal O(ord \cdot N^2)$

— davidhigh
แหล่งที่มา

0

ในการเพิ่มความแม่นยำของความแตกต่างของตัวเลขให้ทำดังนี้

1) เลือกความแม่นยำสูงวิธี "มาตรฐาน" ที่คุณชื่นชอบขึ้นอยู่กับขนาดบางขั้นตอนต่อชั่วโมง

2) การคำนวณมูลค่าของตราสารอนุพันธ์ด้วยวิธีการที่เลือกไว้ใน 1) หลายครั้งที่มีขั้นตอนที่แตกต่างกัน แต่ที่เหมาะสมขนาดชั่วโมง แต่ละครั้งที่คุณเลือกhเป็นตัวเลขสุ่มจากช่วงเวลา (0.5 * H / 10, 1.5 * H / 10) โดยที่ H คือขนาดขั้นตอนที่เหมาะสมสำหรับวิธีการที่คุณใช้

3) ค่าเฉลี่ยผลลัพธ์

ผลลัพธ์ของคุณอาจได้รับคำสั่ง 2-3 ขนาดเมื่อเกิดข้อผิดพลาดสัมบูรณ์ ผลลัพธ์ที่ไม่ได้ค่าเฉลี่ย

https://arxiv.org/abs/1706.10219

— F. Jatpil
แหล่งที่มา

3

ยินดีต้อนรับสู่ SciComp.SE! คำตอบนี้จะดียิ่งขึ้นถ้าคุณจะสรุปวิธีสั้น ๆ

— Christian Clason

2

นอกจากนี้ชื่อผู้ใช้ของคุณแนะนำว่าคุณเขียนบทความนั้น โปรดอ่านหลักเกณฑ์ของเราเกี่ยวกับการโปรโมตตนเองและแก้ไขโพสต์ของคุณตามนั้น

— Wrzlprmft

ฉันคิดว่าการลงคะแนนลบไม่ยุติธรรมถ้าคำตอบของฉันชี้ไปที่คำตอบที่ถูกต้อง

— F. Jatpil

1

ฉันด้วย ... ลอง +1 ของฉัน ... :-)