ทฤษฎีการ จำกัด ศูนย์กลางสำหรับโซ่มาร์คอฟ

$\newcommand{\E}{\mathbb{E}}$ $\newcommand{\P}{\mathbb{P}}$ ทฤษฎีการ จำกัด ศูนย์กลาง (CLT) ระบุว่าสำหรับ $X_1,X_2,\dots$ อิสระและกระจายแบบเดียวกัน (iid) ด้วย $\E[X_i]=0$ และ $\operatorname{ Var} (X_i)<\infty$ ผลรวมจะรวมกับการแจกแจงแบบปกติเป็น $n\to\infty$ :

\sum_{i = 1}^{n} X_{i} \to N (0, \sqrt{n}) .

$\sum_{i=1}^n X_i \to N\left(0, \sqrt{n}\right).$

สมมติว่า $X_1,X_2,\dots$ เป็นโซ่มาร์คอฟสถานะ จำกัด ที่มีการแจกแจงแบบคงที่ $\P_\infty$ ด้วยความคาดหวังที่ 0 และความแปรปรวนที่มีขอบเขต มีการขยาย CLT อย่างง่ายสำหรับกรณีนี้หรือไม่

เอกสารที่ฉันได้พบใน CLT สำหรับ Markov Chains มักจะรักษากรณีทั่วไปมากขึ้น ฉันจะขอบคุณมากสำหรับตัวชี้ไปยังผลลัพธ์ทั่วไปที่เกี่ยวข้องและคำอธิบายเกี่ยวกับวิธีการใช้

markov-process central-limit-theorem

— tom4everitt
แหล่งที่มา

กระดาษและพฤติกรรมที่สำคัญของ Lin and Tegmark จาก Deep Dynamicsเกี่ยวกับ "ข้อ จำกัด * ของกระบวนการมาร์คอฟและการวิเคราะห์ ... มีให้ที่นี่ ... ai2-s2-pdfs.s3.amazonaws.com/5ba0/

— Mike Hunter

คำตอบ:

คำตอบของ Alex R. นั้นเกือบจะเพียงพอแล้ว แต่ฉันเพิ่มรายละเอียดอีกเล็กน้อย ในทฤษฎีบทขีด จำกัด กลางของมาร์คอฟ - กาลินแอลโจนส์ถ้าคุณดูที่ทฤษฎีบทที่ 9 มันบอกว่า

ถ้าเป็นห่วงโซ่แฮร์ริสอัตลักษณ์มาร์คอฟที่มีการกระจายนิ่ง แล้ว CLT ถือสำหรับถ้าเป็นอัตลักษณ์สม่ำเสมอและ <\ $X$ $\pi$ $f$ $X$ $E[f^2] < \infty$

สำหรับพื้นที่ จำกัด ของรัฐโซ่มาร์คอฟที่ลดค่าได้และไม่ได้มาตรฐานทั้งหมดเป็นไปตามหลักสรีรศาสตร์อย่างสม่ำเสมอ การพิสูจน์เรื่องนี้เกี่ยวข้องกับพื้นหลังจำนวนมากในทฤษฎีลูกโซ่มาร์คอฟ การอ้างอิงที่ดีจะเป็นหน้า 32 ที่ด้านล่างของทฤษฎีบท 18 ที่นี่

ดังนั้นห่วงโซ่มาร์คอฟซีอาร์ทีจะถือเป็นฟังก์ชันใด ๆที่มีช่วงเวลาที่ จำกัด แบบฟอร์ม CLT ใช้อธิบายไว้ดังนี้ $f$

ให้เป็นเวลาโดยประมาณของจากนั้นเมื่อ Alex R. ชี้ให้เห็นว่า , $\bar{f}_n$ $E_{\pi}[f]$ $n \to \infty$

{\bar{f}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} f (X_{i}) \overset{a.s.}{\to} E_{π} [f] .

$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$

ห่วงโซ่มาร์คอฟ CLT คือ

\sqrt{n} ({\bar{f}}_{n} - E_{π} [f]) \overset{d}{\to} N (0, σ^{2}),

$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$

โดยที่

σ^{2} = \underset{Expected term}{\underset{⏟}{{Var}_{π} (f (X_{1}))}} + \underset{Term due to Markov chain}{\underset{⏟}{2 \sum_{k = 1}^{\infty} {Cov}_{π} (f (X_{1}), f (X_{1 + k}))}} .

$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$

ที่มาของคำว่าสามารถพบได้ในหน้า 8 และหน้า 9 ของบันทึกย่อ MCMCของCharles Geyer's ที่นี่ $\sigma^2$

— Greenparker
แหล่งที่มา

ขอบคุณนั่นชัดเจนมาก! มีข้อโต้แย้งง่าย ๆ หรือไม่ว่าทำไมสถานะที่แน่นอน จำกัด มาร์คอฟแบบไม่ลดทอนและ aperiodic aperiodic? (ไม่ใช่ว่าฉันไม่เชื่อใจคุณ ^^)

— tom4everitt

@ tom4everitt น่าเสียดายที่นิยามของ "ง่าย" เป็นอัตนัย หากคุณคุ้นเคยกับการดริฟท์และเงื่อนไขย่อยสำหรับเชนมาร์คอฟการโต้แย้งนั้นง่ายมาก ถ้าไม่เช่นนั้นจะเป็นการโต้แย้งที่ยาวนาน ฉันจะพยายามหาข้อมูลอ้างอิงแทน อาจใช้เวลาสักครู่

— Greenparker

นั่นจะน่ากลัว หากคุณไม่พบสิ่งใดประโยคสองสามคำที่บอกขั้นตอนหลักจะยังคงมีประโยชน์

— tom4everitt

@ tom4everitt เพิ่มการอ้างอิงไปยังคำตอบ หวังว่าเพียงพอ

— Greenparker

@Greenparker ฉันขอความช่วยเหลือจากคุณในการทำความเข้าใจวิธีการแปรปรวนในคำตอบของคุณ ฉันดูการอ้างอิงในคำตอบของคุณ แต่ฉันไม่พบที่มาในนั้น ฉันมีแหล่งข้อมูล MC สำหรับ MCsist แต่ฉันไม่เข้าใจวิธีการมาที่นี่ นั่นคือเทอมมาได้อย่างไร ขอบคุณ!

σ^{2}

$\sigma^2$

— LeastSquaresWonderer

ผลลัพธ์ "ปกติ" สำหรับมาร์คอฟเชนคือทฤษฎีบท Birkhoff Ergodic ซึ่งกล่าวว่า

\frac{1}{n} \sum_{i = 1}^{n} f (X_{i}) \to E_{π} [f],

$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$

โดยที่คือการกระจายแบบนิ่งและตามและคอนเวอร์เจนซ์ก็เกือบจะแน่นอน $\pi$ $f$ $E|f(X_1)|<\infty$

น่าเสียดายที่ความผันผวนของคอนเวอร์เจนซ์นี้โดยทั่วไปค่อนข้างยาก นี้เป็นส่วนใหญ่เนื่องจากการความยากลำบากมากของการหาขอบเขตการเปลี่ยนแปลงทั้งหมดเกี่ยวกับวิธีการได้อย่างรวดเร็วบรรจบกันเพื่อการกระจายนิ่ง\มีกรณีที่ทราบกันดีว่าความผันผวนนั้นคล้ายคลึงกับ CLT และคุณสามารถค้นหาเงื่อนไขบางอย่างเกี่ยวกับการดริฟท์ซึ่งทำให้เกิดการเปรียบเทียบ: ในทฤษฎีบทของเชนอฟเชน: ทฤษฎีบท จำกัด ศูนย์กลางเชน - กาลินแอลโจนส์ (ดูทฤษฎีบท 1) $X_i$ $\pi$

นอกจากนี้ยังมีสถานการณ์ที่โง่เขลาเช่นสายโซ่ที่มีสองสถานะโดยที่มีการดูดซับ (เช่นและในกรณีนี้ไม่มีความผันผวนและคุณ รับการบรรจบกับการแจกแจงปกติที่ลดลง (ค่าคงที่) $P(1\rightarrow 2)=1$ $P(2\rightarrow 1)=0$

— อเล็กซ์อาร์
แหล่งที่มา

ฉันไม่คิดว่าเขาจะถามเกี่ยวกับการบรรจบกันเกือบจะแน่นอน ฉันคิดว่าเขาต้องการเรียงลำดับของ 'การแปล' ของ CLT บางส่วนในพื้นที่ทั่วไป: อาจเป็นคำอธิบายความหมายของสมมติฐานที่จำเป็นในบริบทเฉพาะของเครือข่ายพื้นที่ จำกัด ของรัฐ

— Taylor

ขอบคุณ เชนมาร์คอฟธรรมดา, ดี, ไร้ขอบเขตจะตอบสนองสภาพการลอยได้เล็กน้อยหรือไม่? ฉันจะมีความสุขที่ได้รู้เพียงแค่สองสถานะ แต่มันก็ไกลเกินกว่าที่ฉันจะพิสูจน์ได้อย่างชัดเจน

— tom4everitt