ความแตกต่างระหว่าง MLE และ Baum Welch บนอุปกรณ์ HMM

ในคำถามยอดนิยมนี้คำตอบที่ขึ้นราคาสูงทำให้ MLE และ Baum Welch แยกออกจากกันในการปรับ HMM

สำหรับปัญหาการฝึกอบรมเราสามารถใช้อัลกอริทึม 3 ข้อต่อไปนี้: MLE (การประเมินความเป็นไปได้สูงสุด) การฝึกอบรม Viterbi (อย่าสับสนกับการถอดรหัส Viterbi) Baum Welch = อัลกอริทึมไปข้างหน้าย้อนหลัง

แต่ในWikipediaมันบอกว่า

อัลกอริทึม Baum – Welch ใช้อัลกอริทึม EM ที่รู้จักกันดีในการค้นหาการประมาณค่าความน่าจะเป็นสูงสุดของพารามิเตอร์

ดังนั้นความสัมพันธ์ระหว่างอัลกอรึทึม MLE กับ Baum – Welch คืออะไร?

ความพยายามของฉัน: วัตถุประสงค์สำหรับอัลกอรึทึม Baum – Welch คือความเป็นไปได้สูงสุด แต่ใช้อัลกอริธึมพิเศษ (EM) เพื่อแก้ไขการปรับให้เหมาะสม เรายังสามารถเพิ่มความเป็นไปได้สูงสุดโดยใช้วิธีการอื่น ๆ เช่นการไล่ระดับสีที่เหมาะสม นี่คือเหตุผลที่คำตอบแยกสองอัลกอริทึมออก

ฉันถูกและทุกคนสามารถช่วยฉันในการชี้แจง?

อ้างถึงหนึ่งในคำตอบ (โดย Masterfool) จากลิงค์คำถามที่คุณให้ไว้

คำตอบของ Morat เป็นเท็จในจุดหนึ่ง: Baum-Welch เป็นอัลกอริทึมการคาดหวัง - สูงสุดที่ใช้ในการฝึกอบรมพารามิเตอร์ของ HMM มันใช้อัลกอริทึมไปข้างหน้าถอยหลังในแต่ละรอบซ้ำ อัลกอริธึมไปข้างหน้าย้อนหลังเป็นเพียงการรวมกันของอัลกอริธึมไปข้างหน้าและย้อนกลับ: หนึ่งพาสไปข้างหน้า, หนึ่งย้อนหลัง

และฉันเห็นด้วยกับคำตอบของ PierreE ที่นี่อัลกอริทึม Baum – Welch ถูกใช้เพื่อแก้โอกาสสูงสุดใน HHM หากทราบสถานะ (กำกับดูแลติดป้ายกำกับ) ดังนั้นวิธีอื่น ๆ ที่ใช้ MLE ให้เกิดประโยชน์สูงสุด (อาจจะเป็นเพียงแค่นับความถี่ของการปล่อยแต่ละครั้งและการเปลี่ยนผ่านที่สังเกตได้จากข้อมูลการฝึกอบรมดูสไลด์ที่ Franck Dernoncourt)

ในการตั้งค่า MLE สำหรับ HMM ฉันไม่คิดว่าคุณสามารถใช้การไล่ระดับสีเนื่องจากความน่าจะเป็น (หรือความน่าจะเป็นในการบันทึก) ไม่มีโซลูชันแบบปิดและต้องได้รับการแก้ไขซ้ำ ๆ เช่นเดียวกับกรณีใน รูปแบบผสมดังนั้นเราจึงหันไปใช้ EM (ดูรายละเอียดเพิ่มเติมในอธิการหนังสือจดจำรูปแบบตอนที่ 13.2.1 หน้า 614)

ดังนั้นความสัมพันธ์ระหว่างอัลกอรึทึม MLE กับ Baum – Welch คืออะไร?

อัลกอริธึมการเพิ่มความคาดหวัง (EM) นั้นกว้างกว่าและอัลกอริทึม Baum-Welch เป็นเพียงการสร้างอินสแตนซ์และ EM เป็นอัลกอริทึมการวนซ้ำสำหรับโอกาสสูงสุด (ML) จากนั้นอัลกอริทึม Baum-Welch ก็เป็นอัลกอริทึมซ้ำสำหรับโอกาสสูงสุด

โดยปกติจะมีอัลกอริธึมการปรับให้เหมาะสมสามแบบสำหรับการประมาณความเป็นไปได้สูงสุด (วิธีการแบบบ่อย): 1) การไล่ระดับสี 2) มาร์คอฟเชนมอนติคาร์โล; 3) การเพิ่มความคาดหวังสูงสุด

คำถามนี้อยู่ที่นี่มาสองสามเดือนแล้ว แต่คำตอบนี้อาจช่วยผู้อ่านรายใหม่ซึ่งเป็นส่วนเสริมความคิดเห็นของ David Batista

อัลกอริทึม Baulm-Welch (BM) เป็นอัลกอริธึมการเพิ่มความคาดหวังสูงสุดเพื่อแก้ปัญหาการประมาณค่าความน่าจะเป็นสูงสุด (MLE) เพื่อฝึก HMM ของคุณเมื่อสถานะไม่เป็นที่รู้จัก / ซ่อน (การฝึกอบรมที่ไม่มีผู้ดูแล)

แต่ถ้าคุณรู้สถานะคุณสามารถใช้วิธี MLE (ซึ่งไม่ใช่ BM) เพื่อให้พอดีกับแบบจำลองของคุณกับข้อมูลคู่ / รัฐในรูปแบบที่อยู่ภายใต้การดูแล