อะไรคือความแตกต่างระหว่าง "การ จำกัด " และการกระจาย "คงที่"?

ฉันกำลังทำคำถามเกี่ยวกับลูกโซ่มาร์คอฟและสองส่วนสุดท้ายบอกว่า:

ห่วงโซ่มาร์คอฟนี้มีการกระจายที่ จำกัด หรือไม่ หากคำตอบของคุณคือ "ใช่" ให้ค้นหาการกระจายแบบ จำกัด หากคำตอบของคุณคือ "ไม่" ให้อธิบายว่าทำไม

ห่วงโซ่มาร์คอฟนี้มีการกระจายที่คงที่หรือไม่ หากคำตอบของคุณคือ "ใช่" ให้ค้นหาการกระจายแบบนิ่ง หากคำตอบของคุณคือ "ไม่" ให้อธิบายว่าทำไม

อะไรคือความแตกต่าง? ก่อนหน้านี้ฉันคิดว่าการ จำกัด การกระจายคือเมื่อคุณทำงานออกมาโดยใช้ $P = CA^n C^{-1}$ แต่นี่คือเมทริกซ์การเปลี่ยนขั้นตอนที่ $n$ พวกเขาคำนวณการ จำกัด การกระจายโดยใช้ $\Pi = \Pi P$ ซึ่งฉันคิดว่าเป็นการกระจายแบบนิ่ง

อันไหนล่ะ?

markov-process

— Kaish
แหล่งที่มา

ตำราของคุณอาจสร้างความแตกต่างที่ไม่เป็นสากลตัวอย่างเช่นบันทึกย่อของ Karl Sigman เกี่ยวกับการ จำกัด การแจกแจงจะกำหนดการแจกแจง "จำกัด " และ "คงที่" ให้ตรงกัน (นิยาม 2.3 ที่ด้านล่างของหน้า 5) ดังนั้นคุณต้องศึกษาคำจำกัดความในตำราเรียนของคุณเพื่อที่จะกำหนดความแตกต่าง

— whuber

lim_{n \to \infty} P_{i i}^{(n)}

$\lim_{n \rightarrow \infty} P_{ii}^{(n)}$

Π = (π_{0}, π_{1}, . . ., π_{n})

$\Pi = (\pi_0, \pi_1, ... ,\pi_n)$

@whuber ที่จริงแล้วฉันค่อนข้างสับสนตอนนี้เพราะในคำถามการกระจาย จำกัด ก่อนหน้านี้พวกเขาไม่พอใจ

π_{0} + π_{1} + π_{2} = 1

$\pi_0 + \pi_1 + \pi_2 = 1$ ความเท่าเทียมกันอาจจะแตกต่างกัน?

— Kaish

การกระจายแบบอยู่กับที่เป็นสิ่งที่เสถียรเมื่อเวลาผ่านไป เท่าที่ฉันทราบการ จำกัด การกระจายของห่วงโซ่มาร์คอฟคือเครื่องเขียนและถ้าห่วงโซ่มาร์คอฟมีการแจกแจงแบบคงที่มันก็เป็นการ จำกัด การกระจาย

— shadowtalker

ตอบที่นี่โดย Andreas อาจช่วยquora.com/…

— Siddharth Shakya

คำตอบ:

จากบทนำสู่การสร้างแบบจำลอง Stochasticโดย Pinsky และ Karlin (2011):

การกระจายที่ จำกัด เมื่อมีอยู่จะเป็นการกระจายแบบคงที่เสมอ แต่การสนทนาไม่เป็นความจริง อาจมีการกระจายแบบคงที่ แต่ไม่มีการ จำกัด การกระจาย ตัวอย่างเช่นไม่มีการ จำกัด การกระจายสำหรับเชนมาร์คอฟเป็นระยะซึ่งเมทริกซ์ความน่าจะเป็นช่วงการเปลี่ยนภาพคือ แต่คือการกระจายแบบคงที่เนื่องจาก (หน้า 205)
$P = ‖ \begin{matrix} 0 & 1 \\ 1 & 0 \end{matrix} ‖$ $\mathbf{P}=\left\|\begin{matrix}0 & 1\\1 & 0\end{matrix}\right\|$ $\pi=\left(\frac{1}{2},\frac{1}{2}\right)$ $(\frac{1}{2}, \frac{1}{2}) ‖ \begin{matrix} 0 & 1 \\ 1 & 0 \end{matrix} ‖ = (\frac{1}{2}, \frac{1}{2})$ $\left(\frac{1}{2},\frac{1}{2}\right)\left\|\begin{matrix}0 & 1\\1 & 0\end{matrix}\right\|=\left(\frac{1}{2},\frac{1}{2}\right)$

ในส่วนก่อนหน้าพวกเขาได้กำหนด " การกระจายความน่าจะเป็นแบบจำกัด "โดย $\pi$

$lim_{n \to \infty} P_{i j}^{(n)} = π_{j} f o r j = 0, 1, \dots, N$ $\lim_{n\rightarrow\infty}P_{ij}^{(n)}=\pi_j~\mathrm{for}~j=0,1,\dots,N$

และเท่าเทียมกัน

$lim_{n \to \infty} \Pr {X_{n} = j | X_{0} = i} = π_{j} > 0 f o r j = 0, 1, \dots, N$ $\lim_{n\rightarrow\infty}\operatorname{Pr}\{X_n=j|X_0=i\}=\pi_j>0~\mathrm{for}~j=0,1,\dots,N$ (p. 165)

ตัวอย่างข้างต้นแกว่งไปมาอย่างไม่แน่นอนและดังนั้นจึงไม่มีข้อ จำกัด ในลักษณะเดียวกับที่ลำดับล้มเหลวที่จะมีขีด จำกัด $\{1,0,1,0,1,\dots\}$

พวกเขาระบุว่าห่วงโซ่มาร์คอฟปกติ (ซึ่งความน่าจะเป็นในการผ่านการเปลี่ยนแปลง n-step ทั้งหมดเป็นบวก) มักจะมีการ จำกัด การกระจายและพิสูจน์ว่ามันจะต้องเป็นวิธีการแก้ปัญหาแบบไม่ลบที่ไม่ซ้ำกัน

$π_{j} = \sum_{k = 0}^{N} π_{k} P_{k j}, j = 0, 1, \dots, N, \sum_{k = 0}^{N} π_{k} = 1$ $\pi_j=\sum_{k=0}^N\pi_kP_{kj},~~j=0,1,\dots,N,\\ \sum_{k=0}^N\pi_k=1$ (หน้า 168 )

จากนั้นในหน้าเดียวกับตัวอย่างพวกเขาเขียน

ชุดใด ๆพอใจ (4.27) เรียกว่าการแจกแจงความน่าจะเป็นแบบคงที่ของเชนมาร์คอฟ คำว่า "เครื่องเขียน" เกิดขึ้นจากคุณสมบัติที่ห่วงโซ่มาร์คอฟเริ่มต้นตามการแจกแจงแบบคงที่จะติดตามการกระจายตัวนี้ตลอดเวลา อย่างเป็นทางการถ้าดังนั้นสำหรับทั้งหมด $(\pi_i)_{i=0}^{\infty}$ $\operatorname{Pr}\{X_0=i\}=\pi_i$ $\operatorname{Pr}\{X_n=i\}=\pi_i$ $n=1,2,\dots$

โดยที่ (4.27) คือชุดของสมการ

$π_{i} \geq 0, \sum_{i = 0}^{\infty} π_{i} = 1, a n d π_{j} = \sum_{i = 0}^{\infty} π_{i} P_{i j} .$ $\pi_i \geq 0, \sum_{i=0}^{\infty} \pi_i=1,~\mathrm{and}~\pi_j = \sum_{i=0}^{\infty} \pi_iP_{ij}.$

ซึ่งเป็นเงื่อนไขที่แน่นอนเหมือนกันกับข้างต้นยกเว้นตอนนี้มีจำนวนไม่ จำกัด ของรัฐ

ด้วยคำจำกัดความของความคงที่นี้คำสั่งในหน้า 168 สามารถปรับปรุงย้อนหลังเป็น:

การ จำกัด การกระจายของลูกโซ่มาร์คอฟปกติคือการกระจายแบบคงที่
หากการ จำกัด การกระจายของโซ่มาร์คอฟเป็นการแจกแจงแบบคงที่การกระจายแบบคงที่จะไม่ซ้ำกัน

— shadowtalker
แหล่งที่มา

คุณสามารถอธิบายสิ่งที่คุณหมายถึงโดย 'ความน่าจะเป็นในการเปลี่ยนแปลงไม่เปลี่ยนแปลงตลอดเวลา' เพื่อความคงที่? ทั้งการ จำกัด และการกระจายแบบอยู่กับที่เกี่ยวกับความน่าจะเป็นเหนือรัฐ

— Juho Kokkala

ใช่ฉันเห็นคุณเขียนคำตอบของคุณเอง แต่ฉันจัดระเบียบใหม่ให้ถูกต้องมากขึ้น

— shadowtalker

ฉันยังไม่เข้าใจ ฉันหมายถึงคุณหมายถึงอะไรเมื่อคุณพูดว่า "ยกเว้นตอนนี้ที่มีจำนวนรัฐไม่ จำกัด .... "? คุณช่วยอธิบายให้ชัดเจนยิ่งขึ้นได้ไหม

— roni

@roni ทั้งสองนิพจน์นั้นเหมือนกันถ้าคุณให้

N = \infty

$N=\infty$

— shadowtalker

ในบล็อกที่ไฮไลต์แรกคือการแจกแจงแบบคงที่สำหรับตัวอย่างอย่างไรก็ตามไม่มีการ จำกัด การกระจายเนื่องจากจะแกว่งและดังนั้นจึงไม่มีสถานะคงที่ นี่หมายความว่าจะไม่รับประกันการมีอยู่ของสถานะคงที่หากคำนวณการกระจายแบบคงที่เท่านั้น?

π = (1 / 2, 1 / 2)

$\pi=(1/2,1/2)$

P^{n}

$P^{n}$

— Guoyang Qin

กระจายนิ่งคือการกระจายเช่นว่าถ้ากระจายไปทั่วรัฐในขั้นตอนเป็นแล้วยังกระจายไปทั่วรัฐในขั้นตอนคือ\นั่นคือ การ จำกัด การแจกแจงคือการกระจายที่ไม่ว่าการแจกแจงเริ่มต้นจะเป็นอะไรก็ตามการกระจายไปทั่วรัฐมาบรรจบกับตามจำนวนของ ขั้นตอนไปที่อินฟินิตี้: เป็นอิสระจาก $\pi$ $k$ $\pi$ $k+1$ $\pi$

π = π P .

$\begin{equation} \pi = \pi P. \end{equation}$

π

$\pi$

π

$\pi$

lim_{k \to \infty} π^{(0)} P^{k} = π,

$\begin{equation} \lim_{k\rightarrow \infty} \pi^{(0)} P^k = \pi, \end{equation}$

π^{(0)}

$\pi^{(0)}$ . ยกตัวอย่างเช่นให้เราพิจารณาห่วงโซ่มาร์คอฟที่มีสองรัฐมีด้านของเหรียญที่\} แต่ละขั้นตอนประกอบด้วยการพลิกเหรียญคว่ำ (ด้วยความน่าจะเป็น 1) โปรดทราบว่าเมื่อเราคำนวณการแจกแจงสถานะพวกเขาไม่ได้มีเงื่อนไขในขั้นตอนก่อนหน้าคือคนที่คำนวณความน่าจะไม่เห็นเหรียญ ดังนั้นเมทริกซ์การเปลี่ยนแปลงคือ ถ้าเราเริ่มต้นเหรียญโดยการพลิกมันแบบสุ่ม ( ) ดังนั้นขั้นตอนเวลาที่ตามมาทั้งหมดจะเป็นไปตามการแจกแจงนี้ (ถ้าคุณพลิกเหรียญออกมาแล้วคว่ำลงความน่าจะเป็นของหัวยังคงอยู่ที่ ) ดังนั้น,

{h e a d s, t a i l s}

$\{heads, tails\}$

P = (\begin{matrix} 0 & 1 \\ 1 & 0 \end{matrix}) .

$\begin{equation} P = \begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix}. \end{equation}$

π^{(0)} = (\begin{matrix} 0.5 & 0.5 \end{matrix})

$\pi^{(0)} = \begin{pmatrix}0.5 & 0.5\end{pmatrix}$

0.5

$0.5$

(\begin{matrix} 0.5 & 0.5 \end{matrix})

$\begin{pmatrix} 0.5 & 0.5 \end{pmatrix}$ เป็นการกระจายแบบคงที่สำหรับเชนมาร์คอฟนี้

แต่ห่วงโซ่นี้ไม่ได้มีการกระจายการ จำกัด : สมมติว่าเราเริ่มต้นเหรียญเพื่อที่จะเป็นหัวกับความน่า2/3จากนั้นเป็นรัฐทั้งหมดที่ตามมาจะถูกกำหนดโดยสถานะเริ่มต้นหลังจากที่เป็นเลขคู่ของขั้นตอนของรัฐเป็นหัวกับความน่าจะเป็นและหลังเป็นเลขคี่ขั้นตอนของรัฐเป็นหัวกับความน่า1/3สิ่งนี้ถือได้ว่าไม่ว่าจะมีกี่ก้าวก็ตามดังนั้นการกระจายข้ามรัฐก็ไม่ จำกัด $2/3$ $2/3$ $1/3$

ตอนนี้ให้เราปรับเปลี่ยนกระบวนการเพื่อให้ในแต่ละขั้นตอนหนึ่งไม่จำเป็นต้องเปลี่ยนเหรียญ แต่มีใครขว้างปาตายและถ้าผลที่ได้คือเหรียญจะเหลือเท่าเดิม ห่วงโซ่มาร์คอฟนี้มีเมทริกซ์การเปลี่ยนแปลง โดยไม่ต้องผ่านคณิตศาสตร์ฉันจะชี้ให้เห็นว่ากระบวนการนี้จะ 'ลืม' สถานะเริ่มต้นเนื่องจากการละเว้นการสุ่ม หลังจากขั้นตอนจำนวนมากความน่าจะเป็นของหัวจะอยู่ใกล้กับแม้ว่าเราจะรู้วิธีการเริ่มต้นเหรียญ ดังนั้นห่วงโซ่นี้มีการกระจายการ จำกัด{pmatrix} $6$

P = (\begin{matrix} 1 / 6 & 5 / 6 \\ 5 / 6 & 1 / 6 \end{matrix}) .

$\begin{equation} P = \begin{pmatrix} 1/6 & 5/6 \\ 5/6 & 1/6 \end{pmatrix}. \end{equation}$

0.5

$0.5$

(\begin{matrix} 0.5 & 0.5 \end{matrix})

$\begin{pmatrix} 0.5 & 0.5 \end{pmatrix}$

— Juho Kokkala
แหล่งที่มา

จุดที่ดีเกี่ยวกับการลืมสถานะเริ่มต้นฉันได้คัดค้านอย่างสมบูรณ์ในคำตอบของฉัน

— shadowtalker

คำอธิบายนี้ช่วยให้ฉันเข้าใจมาก ฉันสามารถพูดได้ว่าการดำรงอยู่ของรัฐที่มั่นคงจะเทียบเท่ากับการดำรงอยู่ของการกระจาย จำกัด ? เนื่องจากมันไม่ง่ายที่จะคำนวณการแจกแจงที่มีข้อ จำกัด เราจึงมักจะคำนวณการกระจายแบบคงที่โดยการแก้สมการสมดุลแทน อย่างไรก็ตามฉันคิดว่าวิธีทางเลือกนี้ไม่รับประกันว่าการกระจายแบบคงที่จะเป็นอิสระจากสถานะเริ่มต้นดังนั้นจึงอธิบายว่าทำไมสำหรับมันมีการกระจายแบบคงที่ แต่ ไม่มีสถานะคงที่ที่เป็นอิสระจากสถานะเริ่มต้น

P = (\begin{matrix} 0 & 1 \\ 1 & 0 \end{matrix})

$P = \begin{pmatrix}0&1\\1&0\end{pmatrix}$

— Guoyang Qin

@GuoyangQin หากคุณมีคำถามใหม่คุณอาจต้องการโพสต์เป็นคำถาม (เชื่อมโยงกับคำถามนี้หากมันช่วยให้มีคำถาม) แม้ว่าฉันจะคิดว่า "สถานะคงที่" ในบริบทนี้จะหมายถึง "การกระจายแบบคงที่" ดังนั้นจึงเป็นการดีที่สุดที่จะกำหนดคำศัพท์ในคำถามอย่างชัดเจน

— Juho Kokkala

วางสัญลักษณ์ไว้ข้างคำว่า "เครื่องเขียน" หมายถึง "เมื่อคุณไปถึงที่นั่นคุณจะอยู่ที่นั่น"; ในขณะที่คำว่า "จำกัด " หมายถึง "ในที่สุดคุณจะไปถึงที่นั่นถ้าคุณไปไกลพอ" แค่คิดว่านี่อาจเป็นประโยชน์

— ท้องฟ้า
แหล่งที่มา

ยังไม่ชัดเจนว่าจะใช้กับคำถามนี้อย่างไร คุณอธิบายได้ไหม

— whuber

สวัสดี @whuber ฉันหมายถึงว่าการกระจายแบบ จำกัด นั้นจำเป็นต้องมีการแจกแจงแบบคงที่ในขณะที่การกระจายแบบคงที่นั้นไม่ได้เป็นการ จำกัด แบบกระจาย ดังนั้นจึงมีความแตกต่าง นี่เป็นหลักเหมือนกับคำตอบอื่น ๆ แต่ฉันคิดว่ามันง่ายต่อการจดจำ

— BlueSky

ขอบคุณสำหรับคำชี้แจง: มันแสดงให้เราเห็นว่าคุณพยายามทำอะไรให้สำเร็จ อย่างไรก็ตามฉันไม่สามารถหาวิธีที่เหมาะสมในการตีความคำอธิบายของคุณ "นิ่ง" ในลักษณะที่สอดคล้องกับข้อกำหนดทางคณิตศาสตร์

— whuber

@whuber คำพูดของ BlueSky ดูเหมือนจะเป็นความคิดที่เรียบง่ายตรงไปตรงมาที่สุดของ "จุดคงที่" สำหรับฉัน - ฉันไม่แน่ใจว่าสิ่งที่วัตถุของคุณอาจหมายถึง

— Richard Rast