ช่วยในการเพิ่มความคาดหวังจากกระดาษ: วิธีการรวมการกระจายก่อนหน้า?


9

คำถามนี้มีพื้นฐานอยู่บนกระดาษหัวข้อ: การสร้างภาพใหม่ในการถ่ายภาพด้วยแสงแบบกระจายโดยใช้แบบจำลองการกระจายการแผ่รังสีแบบคู่ - การกระจาย

ลิ้งค์ดาวน์โหลด

ผู้เขียนใช้อัลกอริทึม EM ด้วย l1sparsity normalization ของ vectorไม่รู้จักเพื่อประมาณค่าพิกเซลของรูปภาพ รูปแบบที่ได้รับจากμ

(1)y=Aμ+e
การประมาณการจะได้รับใน Eq (8) เป็น

(2)μ^=argmaxlnp(y|μ)+γlnp(μ)

ในกรณีของฉันฉันได้ถือว่าเป็นตัวกรองความยาวและคือคูณเวกเตอร์ที่แสดงตัวกรอง ดังนั้น,μLμL×1

โมเดลสามารถเขียนใหม่เป็น

(3)y(n)=μTa(n)+v(n)

คำถาม: การกำหนดปัญหา: (n by 1) คืออินพุตที่ไม่ได้สังเกตเห็นและเป็นค่าเฉลี่ยศูนย์ที่มีความแปรปรวนที่ไม่รู้จักเสียงรบกวนเพิ่มเติม โซลูชัน MLE จะขึ้นอยู่กับความคาดหวังสูงสุด (EM)μ(n){e(n)}σe2

ในกระดาษ Eq (19) เป็นฟังก์ชั่น - บันทึกความเป็นไปได้ที่สมบูรณ์ แต่สำหรับกรณีของฉันฉันไม่เข้าใจว่าฉันจะรวมการกระจายของในนิพจน์โอกาสในการบันทึกที่สมบูรณ์ได้อย่างไร AA,μ

ความน่าจะเป็นในการบันทึกที่สมบูรณ์โดยใช้ EM ของรวมถึงการแจกแจงก่อนหน้าคืออะไรy


คุณต้องการความเป็นไปได้ในการใช้งานจริงหรือไม่หรือคุณต้องการความต้องการของผู้บันทึกด้านหลัง? เฉพาะหลังจะรวม Laplacian ก่อน อดีตสามารถหาได้โดยการบันทึกความเป็นไปได้ซึ่งดูเหมือนว่าคุณได้เขียนออกไปแล้ว

มีสองนิพจน์ที่ฉันต้องการ - (1) อันที่จะใช้ในการค้นหาฟิชเชอร์ Information Matrix และ (2) อื่น ๆ จะเป็น pdf ของชุดข้อมูลที่สมบูรณ์ที่มีตัวแปรที่ซ่อนอยู่ Z และการสังเกตซึ่งเป็นความหนาแน่นของความน่าจะเป็นร่วมของข้อมูลที่สังเกตได้เป็นฟังก์ชั่นของพารามิเตอร์ θ. รูปแบบไฟล์ PDF ที่ฉันเขียนนั้นสามารถใช้กับแบบจำลอง MA สำหรับการประมาณค่าแบบปิดได้θ. แต่มันจะแตกต่างกันอย่างไรสำหรับข้อ จำกัด sparsity = Laplacian ก่อนเพื่อให้ฟิชเชอร์ Information Information จากอนุพันธ์บางส่วนของ log-likelihood สามารถพบได้
SKM

@ ซีอาน: ฉันไม่เข้าใจวิธีการเสียบ 3 pdf ซึ่งรวมถึงก่อนหน้านี้ในการกำหนดโอกาสในการบันทึก ฉันสามารถหาค่าสูงสุดที่จะหาอนุพันธ์ย่อยได้และเท่ากับศูนย์ คุณช่วยตอบคำตอบด้วยการเขียนความน่าจะเป็นได้อย่างชัดเจน นี่จะช่วยได้จริงๆ
SKM

คำตอบ:


3

หากเราพิจารณาเป้าหมายเป็น

argmaxθL(θ|x)π(θ)=argmaxθlogL(θ|x)+logπ(θ)
การเป็นตัวแทนของ EM คือ โดยพลการเนื่องจากการสลายตัว หรือ ซึ่งใช้งานได้ตามตัวอักษรของ (เนื่องจากไม่มีอยู่ใน lhs ) และดังนั้นจึงใช้งานได้กับความคาดหวังใน : สำหรับการแจกแจงแบบมีเงื่อนไขใด ๆ ของให้เป็นต้น
logL(θ|x)=E[logL(θ|x,Z)|x,θ]E[logq(Z|x,θ)|x,θ]
θ
q(z|x,θ)=f(x,z|θ)/g(x|θ)
g(x|θ)=f(x,z|θ)/q(z|x,θ)
zZ
logg(x|θ)=logf(x,z|θ)logq(z|x,θ)=E[logf(x,Z|θ)logq(Z|x,θ)|x]
ZX=xq(z|x,θ)theta⁰) ดังนั้นถ้าเราเพิ่มสูงสุดใน ด้วยโซลูชันเรามี ในขณะที่ โดยอาร์กิวเมนต์มาตรฐานของ EM ดังนั้น และใช้เป็นขั้นตอน E เป้าหมาย θ
E[logL(θ|x,Z)|x,θ]+logπ(θ)
θ1
E[logL(θ1|x,Z)|x,θ]+logπ(θ1)E[logL(θ|x,Z)|x,θ]+logπ(θ)
E[logq(Z|x,θ)|x,θ]E[logq(Z|x,θ1)|x,θ]
E[logL(θ1|x,Z)|x,θ]+logπ(θ1)E[logL(θ|x,Z)|x,θ]+logπ(θ)
E[logL(θ|x,Z)|x,θ]+logπ(θ)
นำไปสู่การเพิ่มขึ้นของด้านหลังในแต่ละขั้นตอน M ซึ่งหมายความว่าอัลกอริทึม EM ที่ถูกปรับเปลี่ยนมาบรรจบกับ MAP ท้องถิ่น

ขอบคุณสำหรับการตอบกลับของคุณ. ไม่แทนรูปแบบไฟล์ PDF ของ ? คุณพอจะถามได้ไหมว่าทำไมความคาดหวัง 2 อย่างกับถูกลบออกในสมการที่กล่าวถึงในบรรทัดที่สอง q()ZE[logq(.)]
SKM

ฉันได้เพิ่มคำอธิบายบางอย่าง แต่คุณควรตรวจสอบในหนังสือเรียนถึงการได้มาของอัลกอริทึม EM เนื่องจากนี่เป็นวัสดุมาตรฐาน
ซีอาน

1

ฉันไม่คิดว่าจะแสดงการเพิ่มขึ้นแบบ Log-posterior (หรือความน่าจะเป็นในการบันทึกสำหรับ MLE) ที่เพียงพอสำหรับการแสดงคอนเวอร์เจนซ์ไปยังจุดที่คงที่ของประมาณการ MAP (หรือ MLE) ตัวอย่างเช่นการเพิ่มขึ้นอาจมีขนาดเล็กโดยพลการ ในบทความที่มีชื่อเสียงโดยWu 1983เงื่อนไขที่เพียงพอสำหรับการบรรจบกันที่จุดนิ่งของ EM คือความแตกต่างกันในทั้งข้อโต้แย้งของฟังก์ชันขอบเขตล่าง

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.