การคำนวณโอกาสในการบันทึกสำหรับ MLE ที่กำหนด (เชนมาร์คอฟ)

ขณะนี้ฉันทำงานร่วมกับมาร์คอฟเชนและคำนวณค่าความน่าจะเป็นสูงสุดโดยใช้ความน่าจะเป็นในการเปลี่ยนแปลงตามที่แนะนำโดยหลาย ๆ แหล่ง (เช่นจำนวนช่วงการเปลี่ยนภาพจาก a ถึง b หารด้วยจำนวนการเปลี่ยนภาพโดยรวมจาก a ไปยังโหนดอื่น ๆ )

ตอนนี้ฉันต้องการคำนวณความน่าจะเป็นของ MLE

maximum-likelihood markov-process likelihood

— fsociety
แหล่งที่มา

คุณได้คำนวณค่าประมาณความน่าจะเป็นสูงสุดของความน่าจะเป็นของการเปลี่ยนแปลงแล้วและตอนนี้คุณต้องการคำนวณความน่าจะเป็นในการบันทึกของอะไร

— Nick

ปล่อย $\{ X_i \}_{i=1}^{T}$ เป็นเส้นทางของห่วงโซ่มาร์คอฟและปล่อยให้ $P_{\theta}(X_1, ..., X_T)$ เป็นโอกาสในการสังเกตเส้นทางเมื่อ $\theta$ คือค่าพารามิเตอร์ที่แท้จริง (หรือที่เรียกว่าฟังก์ชันความน่าจะเป็นสำหรับ $\theta$ ) เราใช้ความหมายของความน่าจะเป็นแบบมีเงื่อนไข

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}, . . ., X_{1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$

ตั้งแต่นี้เป็นห่วงโซ่มาร์คอฟเรารู้ว่า $P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$ ดังนั้นวิธีนี้จะทำให้ง่ายขึ้น

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$

ทีนี้ถ้าคุณทำซ้ำตรรกะเดียวกันนี้ $T$ ครั้งคุณได้รับ

P_{θ} (X_{1}, . . ., X_{T}) = Π_{ผม = 1}^{T} P_{θ} (X_{ผม} | X_{ผม - 1})

$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$

ที่ไหน $X_0$ จะถูกตีความว่าเป็นสถานะเริ่มต้นของกระบวนการ คำศัพท์ทางด้านขวาเป็นเพียงองค์ประกอบของเมทริกซ์การเปลี่ยนแปลง เนื่องจากเป็นโอกาสในการบันทึกที่คุณร้องขอคำตอบสุดท้ายคือ:

L (θ) = Σ_{ผม = 1}^{T} เข้าสู่ระบบ (P_{θ} (X_{ผม} | X_{ผม - 1}))

${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$

นี่เป็นโอกาสของเชนมาร์คอฟเดียว - หากชุดข้อมูลของคุณมีเชนมาร์คอฟ (อิสระ) หลายห่วงโอกาสที่จะเป็นผลรวมของเงื่อนไขของแบบฟอร์มนี้

— มาโคร
แหล่งที่มา

ว้าวขอบคุณมากสำหรับคำตอบ ในกรณีนี้

P_{θ}

$P_{\theta}$ ความน่าจะเป็น "การเปลี่ยนแปลง" นั้นมาจาก MLE ใช่ไหม

— fsociety

@ph_singer คุณยินดีมาก

P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_i|X_{i-1})$ ความน่าจะเป็นที่จะย้ายจากรัฐ

X_{i - 1}

$X_{i-1}$ ถึง

X_{i}

$X_i$ ได้รับค่าพารามิเตอร์

θ

$\theta$ . หากคุณไม่ได้กำหนดโครงสร้างของเมทริกซ์การเปลี่ยนแปลง (ซึ่งเป็นสิ่งที่ดูเหมือน) แล้ว

θ

$\theta$ เพียงแค่ระบุเวกเตอร์ของความน่าจะเป็นในการเปลี่ยนแปลง (และ MLEs เป็นเพียงสัดส่วนตัวอย่างตามที่คุณระบุไว้อย่างถูกต้องในคำแถลงคำถามของคุณ) ดังนั้นใช่:

P_{{\hat{θ}}_{M L E}} (X_{i} | X_{i - 1})

$P_{\hat{\theta}_{{\rm MLE}}}(X_i|X_{i-1})$ จะเป็นสัดส่วนตัวอย่างของการเคลื่อนไหวจากรัฐ

X_{i - 1}

$X_{i-1}$ ที่สิ้นสุดในสถานะ

X_{i}

$X_{i}$ .

— แมโคร

ขอบคุณอีกครั้ง! อีกหนึ่งคำถาม: ถ้าฉันใช้คำสั่งอื่น (เช่น k = 2) กระบวนการนี้จะทำงานอย่างไร

— fsociety

คุณช่วยอธิบายสิ่งที่คุณหมายถึงโดย "สั่งซื้อ" ได้ไหม?

— มาโคร

(+1) OP น่าจะหมายถึง

k = 2

$k=2$ เพื่อแสดงว่าMC อันดับที่สองคือขึ้นอยู่กับสองสถานะก่อนหน้า

X_{i - 1}, X_{i - 2}

$X_{i-1},X_{i-2}$ มากกว่าเพียงแค่ล่าสุด

X_{i - 1}

$X_{i-1}$ .

— พระคาร์ดินัล