มีคอนจูเกตก่อนหน้าการกระจาย Laplace หรือไม่?


13

มีคอนจูเกตก่อนหน้าการกระจาย Laplaceหรือไม่? ถ้าไม่เป็นเช่นนั้นมีการแสดงออกของรูปแบบปิดที่รู้จักกันซึ่งใกล้เคียงกับหลังสำหรับพารามิเตอร์ของการกระจาย Laplace หรือไม่?

ฉันไปรอบ ๆ ค่อนข้างมากโดยไม่ประสบความสำเร็จดังนั้นการเดาปัจจุบันของฉันคือ "ไม่" สำหรับคำถามด้านบน ...


1
Google "polson และ scott ความแปรปรวนเฉลี่ยปกติผสม" - สิ่งนี้จะทำให้คุณมีช่องประมาณโดยใช้ MAP ผ่านอัลกอริทึม em
ความน่าจะเป็นทาง

คำตอบ:


12

ลองดูพวกเขาทีละคนก่อน

จากลิงก์ (ด้วยการแก้ไขการติดตามการใช้สัญลักษณ์กรีกสำหรับพารามิเตอร์):

f(x|μ,τ)=12τexp(|xμ|τ)

- พารามิเตอร์สเกล :

L(τ)τk1eSτ

สำหรับค่าบางอย่างของและSนั่นคือความน่าจะเป็นของรูปแบบผกผัน - แกมม่าkS

ดังนั้นพารามิเตอร์ scale มีคอนจูเกตก่อน - โดยการตรวจสอบคอนจูเกตก่อนหน้าคือแกมมาผกผัน

- พารามิเตอร์สถานที่ตั้ง

นี่เป็นเรื่องยุ่งยากมากขึ้นเพราะไม่ลดความซับซ้อนของสิ่งที่สะดวกใน ; ฉันไม่คิดว่าจะมีวิธีใดในการ 'รวบรวมคำศัพท์' (ในแบบที่มี แต่เราไม่จำเป็นต้องทำต่อไป)i|xiμ|μ

เครื่องแบบก่อนหน้านี้จะตัดทอนด้านหลังซึ่งไม่เลวเลยที่จะทำงานด้วยถ้ามันดูน่าเชื่อถือเหมือนก่อน

ความเป็นไปได้ที่น่าสนใจอย่างหนึ่งที่อาจเป็นประโยชน์ในบางครั้งก็ค่อนข้างง่ายที่จะรวม Laplace ก่อนหน้า (หนึ่งที่มีระดับเดียวกับข้อมูล) โดยใช้การสังเกตแบบหลอก หนึ่งอาจประมาณอื่น ๆ (แน่น) ก่อนผ่านการสังเกตหลอกหลาย)

ในความเป็นจริงการพูดคุยจากนั้นถ้าฉันทำงานกับ Laplace ฉันจะถูกล่อลวงให้พูดคุยง่ายๆจากเครื่องชั่งคงที่ - เครื่องชั่งน้ำหนักไปจนถึงการทำงานกับ Laplace รุ่นถ่วงน้ำหนัก (ซึ่งเทียบเท่ากับเครื่องชั่งที่แตกต่างกันสำหรับ จุดข้อมูลทุกจุด) - บันทึกความน่าจะเป็นยังคงเป็นฟังก์ชั่นเชิงเส้นแบบต่อเนื่อง แต่ความชันสามารถเปลี่ยนแปลงได้โดยจำนวนที่ไม่ใช่จำนวนเต็มที่จุดเชื่อมต่อ จากนั้นก็มี "คอนจูเกต" ที่สะดวกก่อนหน้านี้อยู่ - อีก Laplace 'ถ่วงน้ำหนัก' หรืออะไรก็ตามในรูปแบบหรือexp ( - j w j | μ - θ j | )exp(j|μθj|/ϕj)exp(jwj|μθj|)(แม้ว่ามันจะต้องมีการปรับขนาดอย่างเหมาะสมเพื่อสร้างความหนาแน่นที่แท้จริง) - ตระกูลการกระจายที่ยืดหยุ่นมากและเห็นได้ชัดว่าเป็นผลจากหลัง "รูปแบบเดียวกัน" เมื่อความน่าจะเป็นในการสังเกตน้ำหนักและสิ่งที่ง่ายต่อการทำงานกับและ วาด; แน่นอนแม้กระทั่งสิ่งที่หลอกการสังเกตยังคงใช้งานได้

นอกจากนี้ยังมีความยืดหยุ่นเพียงพอที่จะใช้ในการประมาณค่าปุโรหิตอื่น ๆ

(โดยทั่วไปยังคงมีใครสามารถทำงานในระดับ - บันทึกและใช้อย่างต่อเนื่องชิ้น - ฉลาด - เส้น - บันทึก - เว้าก่อนและหลังก็จะเป็นรูปแบบ; ซึ่งจะรวมถึงสมมาตร Laplace เป็นกรณีพิเศษ)

ตัวอย่าง

เพียงเพื่อแสดงให้เห็นว่ามันค่อนข้างง่ายที่จะจัดการกับ - ด้านล่างคือก่อนหน้า (สีเทาประ), ความน่าจะเป็น (เส้นประ, สีดำ) และด้านหลัง (ทึบ, สีแดง) สำหรับพารามิเตอร์ตำแหน่งสำหรับ Laplace ถ่วงน้ำหนัก (... )

ป้อนคำอธิบายรูปภาพที่นี่

ฉันคิดว่าวิธีการ Laplace แบบถ่วงน้ำหนักจะทำงานได้ดีใน MCMC

-

ฉันสงสัยว่าโหมดหลังที่ได้รับนั้นเป็นค่ามัธยฐานถ่วงน้ำหนักหรือไม่?

- จริง (เพื่อตอบคำถามของฉันเอง) ดูเหมือนว่าคำตอบคือ 'ใช่' นั่นทำให้ค่อนข้างดีในการทำงานกับ

-

ข้อต่อมาก่อน

วิธีที่ชัดเจนคือการเขียน : มันจะค่อนข้างง่ายที่จะมีในรูปแบบเดียวกับข้างบน - ที่ไหนอาจเป็นปัจจัยที่ปรับขนาดก่อนหน้านี้ดังนั้นก่อนหน้านี้จะถูกระบุสัมพันธ์กับ - และจากนั้นเป็นแกมมาผกผันก่อนหน้าโดยไม่มีเงื่อนไขμ | τ τ τ τf(μ,τ)=f(μ|τ)f(τ)μ|ττττ

ไม่ต้องสงสัยเลยว่ามีข้อตกลงร่วมกันก่อนหน้านี้ค่อนข้างเป็นไปได้ แต่ฉันไม่คิดว่าฉันจะดำเนินคดีร่วมกันมากไปกว่านี้

-

ฉันไม่เคยเห็นหรือได้ยินเกี่ยวกับวิธีการถ่วงน้ำหนักก่อนหน้านี้มาก่อน แต่มันค่อนข้างง่ายที่จะเกิดขึ้นด้วยดังนั้นจึงอาจทำไปแล้ว (ยินดีต้อนรับการอ้างอิงถ้าใครรู้ใด ๆ )

หากไม่มีใครรู้ถึงการอ้างอิงใด ๆ เลยบางทีฉันควรจะเขียนอะไรสักอย่าง แต่นั่นน่าประหลาดใจ


ว้าวคำตอบที่ดี ฉันแน่ใจว่าไม่ทราบการอ้างอิงใด ๆ ที่คล้ายกัน หากคุณพบบางสิ่งหรือเขียนอะไรลงไปโปรดแจ้งให้เราทราบ!
Rasmus Bååth

1
วิธีที่เป็นไปได้วิธีหนึ่งที่จะได้รับพารามิเตอร์ตำแหน่งคือการใช้การผสมความแปรปรวนแบบปกติแทน Laplace นี่คือคอนจูเกตแบบมีเงื่อนไขก่อนหน้านี้ ...
ความน่าจะเป็นทาง

@probabilityislogic ที่น่าสนใจ ในการแก้ไขก่อนหน้านี้ฉันใส่บรรทัดที่ชี้ให้เห็นว่า Laplace เป็นส่วนผสมของเลขชี้กำลังเชิงบรรทัดฐานเพราะฉันสงสัยว่าอาจมีบางสิ่งที่สามารถทำได้ แต่เมื่อฉันแก้ไขคำตอบเพิ่มเติมมันไม่เหมาะกับทุกที่และฉันเอาไป มันออกมาอีกครั้ง จากความคิดเห็นที่เป็นประโยชน์ของคุณดูเหมือนว่าจะสามารถใช้ในทางนั้น นั่นน่าจะเป็นประโยชน์
Glen_b -Reinstate Monica
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.