ข้อได้เปรียบของ Box-Muller ผ่านวิธี CDF สำหรับการจำลองการแจกแจงแบบปกติ?

เพื่อจำลองการแจกแจงแบบปกติจากชุดของตัวแปรเครื่องแบบมีหลายเทคนิค:

อัลกอริธึม Box-Mullerซึ่งหนึ่งตัวอย่างสองชุดอิสระที่เป็นอิสระแตกต่างกันใน $(0,1)$ และแปลงพวกเขาเป็นสองแจกแจงปกติมาตรฐานอิสระผ่าน:
$Z_{0} = \sqrt{- 2 ln U_{1}} cos (2 π U_{0}) Z_{1} = \sqrt{- 2 ln U_{1}} sin (2 π U_{0})$ $Z_0 = \sqrt{-2\text{ln}U_1}\text{cos}(2\pi U_0)\\ Z_1 = \sqrt{-2\text{ln}U_1}\text{sin}(2\pi U_0)$
วิธีการ CDFซึ่งหนึ่งสามารถถือเอา cdfให้เท่ากับชุดรูปแบบ: และสืบทอด $(F(Z))$
$F (Z) = U$ $F(Z) = U$ $Z = F^{- 1} (U)$ $Z = F^{-1}(U)$

คำถามของฉันคือ: ซึ่งคำนวณได้มีประสิทธิภาพมากขึ้น? ฉันคิดว่ามันเป็นวิธีหลัง - แต่เอกสารส่วนใหญ่ที่ฉันอ่านใช้ Box-Muller - ทำไม

ข้อมูลเพิ่มเติม:

การผกผันของ CDF ปกติรู้และได้รับจาก:

F^{- 1} (Z) = \sqrt{2} \erf^{- 1} (2 Z - 1), Z \in (0, 1) .

$F^{-1}(Z)\; =\; \sqrt2\;\operatorname{erf}^{-1}(2Z - 1), \quad Z\in(0,1).$

ดังนั้น:

Z = F^{- 1} (U) = \sqrt{2} \erf^{- 1} (2 U - 1), U \in (0, 1) .

$Z = F^{-1}(U)\; =\; \sqrt2\;\operatorname{erf}^{-1}(2U - 1), \quad U\in(0,1).$

normal-distribution simulation uniform

— user2350366
แหล่งที่มา

อะไรคือสิ่งที่ตรงกันข้ามกับ cdf ปกติ? มันไม่สามารถคำนวณเชิงวิเคราะห์ได้เฉพาะในกรณีที่ CDF ดั้งเดิมนั้นประมาณด้วยฟังก์ชันเชิงเส้นเป็นเส้นตรง

— Artem Sobolev

ทั้งสองคนนั้นไม่เกี่ยวข้องกันอย่างนั้นเหรอ? ฉันเชื่อว่า Box Muller เป็นกรณีเฉพาะสำหรับการสร้าง 2 รูปแบบ

— ttnphns

สวัสดี Barmaley ฉันได้เพิ่มข้อมูลเพิ่มเติมด้านบน Inverse CDF มีนิพจน์ - แต่ต้องคำนวณ

คำนวณ - ดังนั้นอาจเป็นเพราะเหตุใดกล่อง Muller จึงเป็นที่ต้องการ ฉันสันนิษฐานว่า

จะถูกคำนวณในตารางการค้นหาค่าของ

และ

เป็นอย่างไร ดังนั้นไม่ว่าราคาแพงกว่าการคำนวณมากขึ้น? ฉันอาจจะผิด

{erf}^{- 1}

$\text{erf}^{-1}$

{erf}^{1}

$\text{erf}^1$

sin

$\text{sin}$

cosine

$\text{cosine}$

— 2350366

มีเวอร์ชั่นของ Box-Muller ที่ไม่มีบาปและโคไซน์

— ซีอาน

@Dilip สำหรับแอปพลิเคชันที่มีความแม่นยำต่ำมากเช่นคอมพิวเตอร์กราฟิกไซน์และโคไซน์สามารถปรับให้เหมาะสมได้โดยใช้ตารางการค้นหาที่เหมาะสม อย่างไรก็ตามสำหรับแอปพลิเคชันทางสถิติการเพิ่มประสิทธิภาพดังกล่าวไม่เคยใช้ ในท้ายที่สุดมันไม่ได้จริงๆใด ๆ ยากที่จะคำนวณ

กว่า

หรือ

แต่ในระบบคอมพิวเตอร์ที่ทันสมัยฟังก์ชั่นที่เกี่ยวข้องกับการประถม

--including ฟังก์ชั่นหนุน - การมีแนวโน้มที่จะได้รับการปรับ (

และ

เป็นพื้นฐานกลับคำแนะนำวิธีการเกี่ยวกับอินเทล ชิป 8087!) ในขณะที่ erf ไม่สามารถใช้งานได้หรือได้รับรหัสในระดับที่สูงขึ้น (= ช้าลง)

{erf}^{- 1}

$\text{erf}^{-1}$

\log

$\log$

sqrt

$\text{sqrt}$

\exp

$\exp$

\cos

$\cos$

\log

$\log$

— whuber

จากมุมมองของความน่าจะเป็นล้วน ๆ วิธีการทั้งสองนั้นถูกต้องและเทียบเท่ากัน จากมุมมองอัลกอริทึมการเปรียบเทียบจะต้องพิจารณาทั้งความแม่นยำและค่าใช้จ่ายในการคำนวณ

Box-Muller อาศัยเครื่องกำเนิดไฟฟ้าที่เหมือนกันและมีราคาเท่ากันกับเครื่องกำเนิดไฟฟ้าที่เหมือนกัน ดังที่ได้กล่าวไว้ในความคิดเห็นของฉันคุณสามารถออกไปได้โดยไม่ต้องใช้สายหรือไซน์ถ้าไม่ใช้ลอการิทึม

สร้างจนกระทั่ง $U_{1}, U_{2} \overset{iid}{\sim} U (- 1, 1)$ $U_1,U_2\stackrel{\text{iid}}{\sim}\mathcal{U}(-1,1)$ $S=U_1^2+U_2^2\le 1$
รับและกำหนด $Z=\sqrt{-2\log(S)/S}$ $X_{1} = Z U_{1}, X_{2} = Z U_{2}$ $X_1=ZU_1\,,\ X_2=Z U_2$

อัลกอรึทึมการกลับตัวแบบทั่วไปต้องการการเรียกใช้ cdf แบบอินเวอร์สเช่นqnorm(runif(N))ใน R ซึ่งอาจมีค่าใช้จ่ายสูงกว่าที่กล่าวมาข้างต้นและที่สำคัญกว่าอาจล้มเหลวในก้อยในแง่ของความแม่นยำเว้นแต่ฟังก์ชันควอนไทด์

หากต้องการติดตามความคิดเห็นที่ทำโดยwhuberการเปรียบเทียบrnorm(N)และqnorm(runif(N))อยู่ในข้อได้เปรียบของ c ผกผันทั้งในเวลาดำเนินการ:

> system.time(qnorm(runif(10^8)))
sutilisateur     système      écoulé
 10.137           0.120      10.251 
> system.time(rnorm(10^8))
utilisateur     système      écoulé
 13.417           0.060      13.472` `

และในแง่ของความพอดีในหาง: ป้อนคำอธิบายรูปภาพที่นี่

ตามความคิดเห็นของ Radford Neal ในบล็อกของฉันฉันต้องการชี้ให้เห็นว่าค่าเริ่มต้นrnormใน R ใช้วิธีการผกผันดังนั้นการเปรียบเทียบข้างต้นสะท้อนให้เห็นถึงอินเทอร์เฟซไม่ใช่วิธีการจำลองเอง! หากต้องการอ้างอิงเอกสาร R บน RNG:

‘normal.kind’ can be ‘"Kinderman-Ramage"’, ‘"Buggy
 Kinderman-Ramage"’ (not for ‘set.seed’), ‘"Ahrens-Dieter"’,
 ‘"Box-Muller"’, ‘"Inversion"’ (the default), or ‘"user-supplied"’.
 (For inversion, see the reference in ‘qnorm’.)  The
 Kinderman-Ramage generator used in versions prior to 1.7.1 (now
 called ‘"Buggy"’) had several approximation errors and should only
 be used for reproduction of old results.  The ‘"Box-Muller"’
 generator is stateful as pairs of normals are generated and
 returned sequentially.  The state is reset whenever it is selected
 (even if it is the current normal generator) and when ‘kind’ is
 changed.

— ซีอาน
แหล่งที่มา

\log

$\log$

\sqrt{}

$\sqrt{}$

Φ^{- 1}

$\Phi^{-1}$

Φ^{- 1}

$\Phi^{-1}$

X_{1}

$X_1$

X_{2}

$X_2$

U_{i}

$U_i$

- 1

$-1$

1

$1$

0

$0$

1

$1$

R 3.0.2rowSums

S

$S$ qnorm(runif(N))InverseCDF[NormalDistribution[], #] &

ฉันเห็นด้วยqnorm(runif(N))เร็วกว่า 20%rnorm(N)

— ซีอาน

Φ^{- 1}

$\Phi^{-1}$

\sin

$\sin$

\cos

$\cos$

สำหรับการเปรียบเทียบโดยใช้ i7-3740QM @ 2.7Ghz และ R 3.12 สำหรับการโทรต่อไปนี้:

RNGkind(kind = NULL, normal.kind = 'Inversion');At <- microbenchmark(A <- rnorm(1e5, 0, 1), times = 100L);RNGkind(kind = NULL, normal.kind = 'Box-Muller');Bt <- microbenchmark(B <- rnorm(1e5, 0, 1), times = 100L)

ฉันได้รับmean 11.38363 median 11.18718การกลับรายการและmean 13.00401 median 12.48802สำหรับ Box-Muller

— Avraham