อะไรคือความแตกต่างระหว่างเครือข่าย Bayes (ไดนามิก) และ HMM

ฉันได้อ่านแล้วว่า HMMs ตัวกรองอนุภาคและตัวกรองคาลมานเป็นกรณีพิเศษของเครือข่ายเบย์แบบไดนามิก อย่างไรก็ตามฉันรู้เพียง HMM และฉันไม่เห็นความแตกต่างของเครือข่าย Bayes แบบไดนามิก

ใครช่วยอธิบายหน่อยได้ไหม

มันจะดีถ้าคำตอบของคุณอาจคล้ายกับต่อไปนี้ แต่สำหรับเครือข่ายเบย์:

โมเดลมาร์คอฟที่ซ่อนอยู่

โมเดลมาร์คอฟที่ซ่อนอยู่ (HMM) คือ 5-tuple : $\lambda = (S, O, A, B, \Pi)$

: ชุดของรัฐ (เช่น "จุดเริ่มต้นของฟอนิม", "กึ่งกลางของฟอนิม", "จุดสิ้นสุดของฟอนิม") $S \neq \emptyset$
: ชุดการสังเกตที่เป็นไปได้ (สัญญาณเสียง) $O \neq \emptyset$
: เมทริกซ์สุ่มซึ่งจะช่วยให้Probabilitésที่จะได้รับจากรัฐไปยังรัฐเจ $A \in \mathbb{R}^{|S| \times |S|}$ $(a_{ij})$ $i$ $j$
: เมทริกซ์สุ่มซึ่งจะช่วยให้Probabilitésที่จะได้รับในรัฐสังเกตลิตร $B \in \mathbb{R}^{|S| \times |O|}$ $(b_{kl})$ $k$ $l$
: การกระจายเริ่มต้นเพื่อเริ่มต้นในสถานะใดสถานะหนึ่ง $\Pi \in \mathbb{R}^{|S|}$

มันมักจะแสดงเป็นกราฟกำกับที่แต่ละโหนดสอดคล้องกับหนึ่งรัฐและความน่าจะเป็นการเปลี่ยนแปลงจะแสดงบนขอบ $s \in S$

โมเดลมาร์คอฟที่ซ่อนอยู่เรียกว่า "ซ่อน" เนื่องจากสถานะปัจจุบันถูกซ่อนอยู่ อัลกอริทึมจะต้องเดาจากการสังเกตและรูปแบบของตัวเอง พวกเขาถูกเรียกว่า "มาร์คอฟ" เพราะสำหรับสถานะถัดไปเพียงสถานะปัจจุบันเท่านั้น

สำหรับ HMM คุณให้โทโพโลยีคงที่ (จำนวนสถานะขอบที่เป็นไปได้) จากนั้นมี 3 งานที่เป็นไปได้

$\lambda$ $o_1, \dots, o_t$
$\lambda$ $o_1, \dots, o_t$ $s_1, \dots, s_t$
$A, B, \Pi$

เครือข่าย Bayes

$G = (\mathcal{X}, \mathcal{E})$ $X \in \mathcal{X}$ $X$ $X$

P (X | parents (X))

$P(X|\text{parents}(X))$

ดูเหมือนจะมี (โปรดอธิบาย) สองภารกิจ:

การอนุมาน : ให้ตัวแปรบางตัวรับค่าที่เป็นไปได้มากที่สุดของตัวแปรอื่น ๆ การอนุมานที่แน่นอนคือ NP-hard โดยประมาณคุณสามารถใช้ MCMC
การเรียนรู้ : วิธีที่คุณเรียนรู้การแจกแจงเหล่านั้นขึ้นอยู่กับปัญหาที่แน่นอน ( แหล่งที่มา ):
- โครงสร้างที่รู้จักสังเกตได้อย่างเต็มที่: การประเมินความน่าจะเป็นสูงสุด (MLE)
- โครงสร้างที่รู้จักสังเกตได้บางส่วน: ความคาดหวังสูงสุด (EM) หรือมาร์คอฟเชนมอนติคาร์โล (MCMC)
- โครงสร้างที่ไม่รู้จักสังเกตได้อย่างเต็มที่: ค้นหาผ่านพื้นที่จำลอง
- โครงสร้างที่ไม่รู้จักซึ่งสามารถสังเกตได้บางส่วน: EM + ค้นหาผ่านพื้นที่จำลอง

เครือข่าย Dynamic Bayes

$t$ $t+1$

bayesian-networks pgm

— มาร์ตินโทมา
แหล่งที่มา

1. คุณสามารถเรียนรู้โทโพโลยีของ HMM ได้ 2. เมื่อทำการอนุมานด้วย BNs นอกเหนือจากการขอประมาณการความเป็นไปได้สูงสุดคุณยังสามารถสุ่มตัวอย่างจากการแจกแจงประมาณความน่าจะเป็นหรือทำตามทฤษฎีความน่าจะเป็นอย่างอื่นที่ช่วยให้คุณ 3. DBN เป็นเพียง BN ที่คัดลอกเมื่อเวลาผ่านไปโดยมีโหนด (ไม่จำเป็นต้องทั้งหมด) บางโหนดที่ถูกโยงโซ่จากอดีตไปสู่อนาคต ในแง่นี้ HMM เป็น DBN ง่าย ๆ ที่มีเพียงสองโหนดในแต่ละช่วงเวลาและหนึ่งในหลาย ๆ โหนดถูกล่ามโซ่เมื่อเวลาผ่านไป

— KT

ฉันถามใครบางคนเกี่ยวกับเรื่องนี้และพวกเขากล่าวว่า: "HMM เป็นเพียงกรณีพิเศษของมุ้ง Bayes แบบไดนามิกแต่ละชิ้นที่มีตัวแปรแฝงหนึ่งค่าขึ้นอยู่กับรุ่นก่อนหน้านี้เพื่อให้โซ่มาร์คอฟและหนึ่งการสังเกตขึ้นอยู่กับตัวแปรแฝงแต่ละตัว DBNs สามารถมีโครงสร้างใด ๆ ที่วิวัฒนาการได้ตลอดเวลา "

— แอชลีย์

จากที่คล้ายกันคำถามที่รอการตรวจสอบต่อไปนี้@jeradคำตอบ:

HMM นั้นไม่เทียบเท่ากับ DBN แต่เป็นกรณีพิเศษของ DBN ที่สถานะทั้งหมดของโลกแสดงด้วยตัวแปรสถานะเดียวที่ซ่อนอยู่ แบบจำลองอื่น ๆ ภายในกรอบงาน DBN จะทำให้ HMM พื้นฐานทั่วไปยอมให้มีตัวแปรสถานะที่ซ่อนอยู่เพิ่มเติม (ดูกระดาษแผ่นที่สองด้านบนสำหรับหลากหลายพันธุ์)

ในที่สุดไม่ได้ DBN นั้นจะไม่ต่อเนื่องกันเสมอไป ตัวอย่างเช่นตัวแบบรัฐเกาส์เชิงเส้น (ตัวกรองคาลมาน) สามารถเข้าใจได้ว่าเป็น HMM ที่มีมูลค่าอย่างต่อเนื่องซึ่งมักใช้เพื่อติดตามวัตถุในอวกาศ

ฉันขอแนะนำให้ดูผ่านเอกสารตรวจสอบที่ยอดเยี่ยมทั้งสองนี้:

บทนำสู่โมเดลมาร์คอฟที่ซ่อนอยู่และเครือข่ายแบบเบย์โดย Zoubin Gharamani

เครือข่าย Bayesian แบบไดนามิกโดย Kevin Murphy

— Xboard
แหล่งที่มา