คำถามติดแท็ก monte-carlo

ฉันพยายามที่จะเข้าใจการทำงานภายในของ Hamiltonian Monte Carlo (HMC) แต่ไม่สามารถเข้าใจส่วนนี้ได้อย่างสมบูรณ์เมื่อเราแทนที่การรวมเวลาที่กำหนดไว้กับข้อเสนอ Metropolis-Hasting ฉันกำลังอ่านกระดาษเกริ่นนำสุดยอด A บทนำเกี่ยวกับแนวคิดของมิลโตเนียนมอนติคาร์โลโดย Michael Betancourt ดังนั้นฉันจะทำตามสัญกรณ์เดิมที่ใช้ในนั้น พื้นหลัง เป้าหมายทั่วไปของ Markov Chain Monte Carlo (MCMC) เป็นที่ใกล้เคียงกับการกระจายของตัวแปรเป้าหมายQπ( q)π(Q)\pi(q)QQq ความคิดของ HMC คือการแนะนำผู้ช่วย "โมเมนตัม" ตัวแปรร่วมกับตัวแปรเดิมที่ถูกจำลองเป็นตำแหน่ง "" คู่ตำแหน่ง - โมเมนตัมเป็นพื้นที่เฟสขยายและสามารถอธิบายได้โดยการเปลี่ยนแปลงของมิลโตเนียน ข้อต่อการกระจายสามารถเขียนได้ในแง่ของการสลายตัวของ microcanonical:พีพีpQQqπ( q, p )π(Q,พี)\pi(q, p) π( q, p ) = π(θE| E)π( E)π(Q,พี)=π(θE|E)π(E)\pi(q, p) = \pi(\theta_E | E) …

9 mcmc  monte-carlo  hmc 

สมมติว่าเราต้องการคำนวณความคาดหวัง: EYEX|Y[f(X,Y)]EYEX|Y[ฉ(X,Y)]E_YE_{X|Y}[f(X,Y)] สมมติว่าเราต้องการประมาณค่านี้โดยใช้การจำลองมอนติคาร์โล EYEX|Y[f(X,Y)]≈1RS∑r=1R∑s=1Sf(xr,s,yr)EYEX|Y[ฉ(X,Y)]≈1RSΣR=1RΣs=1Sฉ(xR,s,YR)E_YE_{X|Y}[f(X,Y)] \approx \frac1{RS}\sum_{r=1}^R\sum_{s=1}^Sf(x^{r,s},y^r) แต่สมมติว่ามันมีค่าใช้จ่ายสูงในการดึงตัวอย่างจากการแจกแจงทั้งสองค่าเพื่อให้เราสามารถวาดหมายเลขคงที่เท่านั้น KKK เราควรจัดสรรอย่างไร ตัวอย่างรวมถึงดึงไปที่การกระจายแต่ละครั้งหรือในสุดขั้วหนึ่งเสมอในด้านนอกและเสมอในด้านในรองในทางกลับกัน ฯลฯ .....KKKK/2K/2K/2K−1K-1K-1 สัญชาตญาณของฉันบอกฉันว่ามันจะต้องทำอย่างไรกับความแปรปรวน / เอนโทรปีของการแจกแจงที่สัมพันธ์กัน สมมติว่าด้านนอกหนึ่งเป็นจุดมวลแล้วส่วนหนึ่งของที่ช่วยลดข้อผิดพลาด MC จะวาดที่ 1 ของและวาดของxy KKKYYYK−1K-1K-1X|YX|YX|Y หวังว่านี่จะชัดเจน

9 optimization  conditional-probability  simulation  expected-value  monte-carlo 

ฉันไม่เคยเรียนหลักสูตรสถิติอย่างเป็นทางการ แต่เนื่องจากงานวิจัยของฉันฉันพบบทความที่ใช้แนวคิดทางสถิติหลายอย่างต่อเนื่อง บ่อยครั้งที่ฉันจะเห็นคำอธิบายของกระบวนการมอนติคาร์โลที่นำไปใช้กับสถานการณ์ที่กำหนดและสำหรับสิ่งที่ฉันสามารถรวบรวม 9 จาก 10 ครั้งมันลงมาสู่การสุ่มของประชากรที่เรียบง่ายและการศึกษาที่ตามมา คำถามของฉัน: ในโลกทางสถิติMonte Carloเป็นคำรหัสสำหรับอัลกอริทึมใด ๆ ที่เกี่ยวข้องกับการสร้างจุด / ประชากร / ฯลฯ แบบสุ่มหรือมีอะไรมากกว่านั้นหรือไม่

9 monte-carlo  random-generation 

ฉันค่อนข้างแน่ใจว่าฉันเข้าใจการทำงานร่วมกันของ Monte Carlo แต่ฉันไม่เข้าใจการกำหนดวิธีการใช้ Pi เพื่อประเมิน ฉันกำลังทำตามขั้นตอนที่ระบุไว้ในสไลด์ที่ 5 ของงานนำเสนอนี้http://homepages.inf.ed.ac.uk/imurray2/teaching/09mlss/slides.pdf ฉันเข้าใจขั้นตอนเบื้องต้น Pi เท่ากับ 4 คูณพื้นที่ของหนึ่งในสี่ของวงกลมหน่วย และพื้นที่ของไตรมาสบนขวาของหน่วยวงกลมตรงกลางที่ (0,0) เท่ากับอินทิกรัลของส่วนโค้งที่เป็นไตรมาสบนขวาของวงกลมหน่วยในและ . 0&lt;x&lt;10&lt;x&lt;10<x<10&lt;y&lt;10&lt;y&lt;10<y<1 สิ่งที่ฉันไม่เข้าใจก็คืออินทิกรัลนี้คืออะไร ∬I((x2+y2)&lt;1)P(x,y)dxdy∬I((x2+y2)&lt;1)P(x,y)dxdy\iint I((x^2+y^2)<1)P(x,y)dxdy โดยที่P(x,y)P(x,y)P(x,y)มีการกระจายอย่างสม่ำเสมอในหน่วยสี่เหลี่ยมจัตุรัสรอบวงกลมไตรมาส (นั่นคือเท่ากับ 1 เสมอถ้า0&lt;x&lt;10&lt;x&lt;10<x<1และ0&lt;y&lt;10&lt;y&lt;10<y<1และ 0 เป็นอย่างอื่น) นี่ก็หมายความว่า I((x2+y2)&lt;1)P(x,y)I((x2+y2)&lt;1)P(x,y)I((x^2+y^2)<1)P(x,y) คือฟังก์ชั่นที่เป็นจตุภาคบนขวาของวงกลมหน่วยที่0&lt;x&lt;10&lt;x&lt;10<x<1และ0&lt;y&lt;10&lt;y&lt;10<y<1แต่ฉันไม่เข้าใจว่าสิ่งนี้เป็นจริงได้อย่างไรเนื่องจากฟังก์ชันตัวบ่งชี้สามารถเป็น 1 หรือ 0 เท่านั้นฉันเข้าใจว่ามันอาจจะเขียนด้วยวิธีนี้เพื่อให้การสุ่มตัวอย่าง Monte Carlo ง่าย (นั่นคือความคาดหวังดังนั้นเพียงแค่ตัวอย่างจากP(x,y)P(x,y)P(x,y)และรับค่าเฉลี่ยของตัวอย่างที่ใช้กับI((x2+y2)&lt;1)I((x2+y2)&lt;1)I((x^2+y^2)<1)) แต่มันไม่สมเหตุสมผลเลยสำหรับฉันว่าทำไมอินทิกรัลนั้นแทนพื้นที่ใต้เส้นโค้งนั้น ใครบางคนสามารถให้คำอธิบายที่เข้าใจง่ายเกี่ยวกับเรื่องนี้ อาจแสดงให้เห็นว่าอินทิกรัลนั้นได้มาในแบบทีละขั้นตอนหรือไม่? แก้ไข: ฉันสามารถรับความเข้าใจที่ดีขึ้นโดยเชื่อมโยงความคาดหวังกับพื้นที่ ฉันจะอธิบายที่นี่ในกรณีที่มันช่วยทุกคน เริ่มแรกด้วยการเกี่ยวข้องกับ Pi ไปยังพื้นที่ของควอดเร้นท์ด้านขวาของวงกลมหน่วย π=4×Atrπ=4×Atr\pi=4\times A_{tr} …

9 monte-carlo  indicator-function 

ฉันต้องการเข้าใจการใช้การจำลอง Monte Carlo ในchisq.test()ฟังก์ชันใน R ฉันมีตัวแปรเชิงคุณภาพซึ่งมี 128 ระดับ / คลาส ขนาดตัวอย่างของฉันคือ 26 (ฉันไม่สามารถสุ่มตัวอย่าง "บุคคล" เพิ่มเติมได้) เห็นได้ชัดว่าฉันจะมีบางระดับที่มี 0 "บุคคล" แต่ความจริงก็คือฉันมีชั้นเรียนจำนวนน้อยมากจากจำนวน 127 ที่เป็นไปได้ ตามที่ฉันได้ยินมาว่าการใช้การทดสอบแบบไคสแควร์เราควรมีอย่างน้อย 5 คนในแต่ละระดับ (ฉันไม่เข้าใจเหตุผลอย่างสมบูรณ์) ฉันคิดว่าฉันต้องใช้simulate.p.valueตัวเลือกในการใช้การจำลอง Monte Carlo เพื่อประเมินการกระจายตัว และคำนวณค่า p หากไม่มีการจำลองมอนติคาร์โล R จะให้ค่า p กับ&lt; 1e-16ฉัน ด้วยการจำลอง Monte Carlo มันทำให้ฉัน p-value 4e-5ที่ ฉันพยายามคำนวณ p-value ด้วยเวกเตอร์ 26 อันและ 101 ศูนย์และด้วยการจำลอง …

9 r  chi-squared  monte-carlo 

ฉันหวังว่านี่เป็นสถานที่ที่เหมาะสมที่จะถามถ้าไม่ลังเลที่จะย้ายไปยังฟอรัมที่เหมาะสมยิ่งขึ้น ฉันสงสัยอยู่พักหนึ่งแล้วว่าจะรักษาฟังก์ชั่นที่ไม่รวมสแควร์ด้วย Monte Carlo Integration ได้อย่างไร ฉันรู้ว่า MC ยังคงให้การประเมินที่เหมาะสม แต่ข้อผิดพลาดนั้นไม่สามารถเกิดขึ้นจริงได้ (ฟังก์ชั่นต่างกันอย่างไร) มา จำกัด เราไว้แค่มิติเดียว การบูรณาการ Monte Carlo หมายความว่าเราประมาณค่าอินทิกรัล I=∫10dxf(x)I=∫01dxf(x) I = \int_0^1 \mathrm{d}x \, f(x) ใช้ประมาณการ E=1N∑i=1Nf(xi)E=1N∑i=1Nf(xi) E = \frac{1}{N} \sum_{i=1}^N f(x_i) กับคะแนนสุ่มกระจายอย่างสม่ำเสมอ กฎหมายจำนวนมากทำให้แน่ใจว่าฉัน ความแปรปรวนตัวอย่างxi∈[0,1]xi∈[0,1]x_i \in [0,1]E≈IE≈IE \approx I S2=1N−1∑i=1N(f(xi)−E)2S2=1N−1∑i=1N(f(xi)−E)2 S^2 = \frac{1}{N-1} \sum_{i=1}^N (f (x_i) - E)^2 ใกล้เคียงกับความแปรปรวนของการกระจายที่เกิดจากFอย่างไรก็ตามถ้าไม่ได้เป็นสี่เหลี่ยมจัตุรัสเช่นอินทิกรัลของฟังก์ชันกำลังสอง diverges …

9 monte-carlo  numerical-integration 

ฉันพยายามคำนวณความเป็นไปได้เล็กน้อยสำหรับแบบจำลองทางสถิติด้วยวิธีมอนติคาร์โล: ฉ( x ) = ∫ฉ( x ∣ θ ) π( θ )dθฉ(x)=∫ฉ(x|θ)π(θ)dθf(x) = \int f(x\mid\theta) \pi(\theta)\, d\theta ความเป็นไปได้มีความประพฤติดี - ราบรื่นเว้าเข้าสู่ระบบ - แต่มิติสูง ฉันได้ลองการสุ่มตัวอย่างที่สำคัญ แต่ผลลัพธ์นั้นไม่น่าสนใจและขึ้นอยู่กับข้อเสนอที่ฉันใช้ ฉันพิจารณาทำมิลโตเนียนมอนติคาร์โลสั้น ๆ เพื่อคำนวณตัวอย่างหลังสมมติว่ามีชุดเครื่องแบบมาก่อนθθ\thetaและการใช้ค่าเฉลี่ยฮาร์โมนิจนกระทั่งผมเห็นนี้ บทเรียนที่ได้เรียนรู้ค่าเฉลี่ยฮาร์มอนิกสามารถมีความแปรปรวนไม่สิ้นสุด มีตัวประมาณ MCMC ทางเลือกที่เกือบจะง่าย แต่มีความแปรปรวนที่มีพฤติกรรมดีหรือไม่?

9 monte-carlo  likelihood  marginal 

ฉันพยายามที่จะจำลองจากความหนาแน่นของ bivariate p(x,y)p(x,y)p(x,y)การใช้อัลกอริทึม Metropolis ใน R และไม่มีโชค ความหนาแน่นสามารถแสดงเป็น p(y|x)p(x)p(y|x)p(x)p(y|x)p(x)ที่ไหน p(x)p(x)p(x) คือการกระจาย Singh-Maddala p(x)=aqxa−1ba(1+(xb)a)1+qp(x)=aqxa−1ba(1+(xb)a)1+qp(x)=\dfrac{aq x^{a-1}}{b^a (1 + (\frac{x}{b})^a)^{1+q}} ด้วยพารามิเตอร์ aaa, qqq, bbbและ p(y|x)p(y|x)p(y|x) เป็นบันทึกปกติโดยมีค่าเฉลี่ยล็อกเป็นเศษส่วนของ xxxและ log-sd ค่าคงที่ เพื่อทดสอบว่าตัวอย่างของฉันเป็นสิ่งที่ฉันต้องการหรือไม่ฉันดูที่ความหนาแน่นของxxxซึ่งควรจะเป็น p(x)p(x)p(x). ฉันลองอัลกอริทึม Metropolis ที่แตกต่างจากแพ็คเกจ R MCMCpack, mcmc และความฝัน ฉันทิ้งการเบิร์นอินใช้การทำให้ผอมบางใช้ตัวอย่างที่มีขนาดสูงถึงล้าน แต่ความหนาแน่นส่วนเกินที่ได้นั้นไม่ได้เป็นอย่างที่ฉันให้ นี่คือรหัสสุดท้ายที่ฉันใช้: logvrls &lt;- function(x,el,sdlog,a,scl,q.arg) { if(x[2]&gt;0) { dlnorm(x[1],meanlog=el*log(x[2]),sdlog=sdlog,log=TRUE)+ dsinmad(x[2],a=a,scale=scl,q.arg=q.arg,log=TRUE) } else -Inf } …

9 sampling  monte-carlo  metropolis-hastings