MLE สำหรับการกระจายสามเหลี่ยม?


12

เป็นไปได้หรือไม่ที่จะใช้ขั้นตอน MLE ปกติกับการแจกแจงสามเหลี่ยม? - ฉันกำลังพยายาม แต่ฉันดูเหมือนจะถูกบล็อกในขั้นตอนเดียวหรืออย่างอื่นในวิชาคณิตศาสตร์ตามวิธีการแจกแจงที่กำหนดไว้ ฉันพยายามใช้ความจริงที่ว่าฉันรู้จำนวนตัวอย่างด้านบนและด้านล่าง c (โดยไม่รู้ตัว c): ตัวเลขทั้งสองนี้คือ cn และ (1-c) n หาก n คือจำนวนตัวอย่างทั้งหมด อย่างไรก็ตามดูเหมือนว่าจะไม่ได้ช่วยในการสืบมา ช่วงเวลาของช่วงเวลาให้ตัวประมาณค่าสำหรับ c โดยไม่มีปัญหามาก อะไรคือลักษณะที่แน่นอนของการอุดตันของ MLE ที่นี่ (ถ้ามี)

รายละเอียดเพิ่มเติม:

ลองพิจารณาในและการแจกแจงที่นิยามไว้ในโดย: [ 0 , 1 ] [ 0 , 1 ][0,1][0,1]

(x;)=2xถ้า x <cถ้า c <= x
(x;)=2(1-x)(1-)

ลองตัวอย่าง iidจากการแจกแจงแบบฟอร์มบันทึกความน่าจะเป็นของ c ที่ให้ตัวอย่างนี้:{ x i }n{xผม}

ล.^(|{xผม})=Σผม=1nล.n((xผม|))

แล้วฉันกำลังพยายามที่จะใช้ความจริงที่ว่าได้รับแบบฟอร์มของเรารู้ว่าตัวอย่างจะตกอยู่ด้านล่าง (ไม่ทราบ)และจะตกอยู่ข้างต้นคIMHO สิ่งนี้ทำให้ย่อยสลายผลรวมในการแสดงออกของความน่าจะเป็นบันทึก:c n c ( 1 - c ) n cn(1-)n

ล.^(|{xผม})=Σผม=1nล.n2xผม+Σผม=1(1-)nล.n2(1-xผม)1-

ที่นี่ฉันไม่แน่ใจว่าจะดำเนินการต่อไปได้อย่างไร MLE จะเกี่ยวข้องกับการใช้อนุพันธ์ wrtของความน่าจะเป็นบันทึก แต่ฉันมีเป็นขอบเขตสูงสุดของการรวมซึ่งดูเหมือนว่าจะบล็อกที่ ฉันสามารถลองใช้รูปแบบอื่นของความน่าจะเป็นโดยใช้ฟังก์ชั่นตัวบ่งชี้:

ล.^(|{xผม})=Σผม=1n{xผม<}ล.n2xผม+Σผม=1n{<=xผม}ล.n2(1-xผม)1-

แต่การได้มาของตัวบ่งชี้นั้นดูไม่ง่ายนักเช่นกันถึงแม้ว่า Dirac deltas อาจยอมให้ดำเนินการต่อได้ (ในขณะที่ยังคงมีตัวบ่งชี้อยู่

ดังนั้นที่นี่ฉันถูกบล็อกใน MLE ความคิดใด ๆ


หากนี่เป็นเรื่องบางเรื่องโปรดเพิ่มแท็กศึกษาด้วยตนเอง หากไม่ใช่โปรดอธิบายว่าปัญหาเกิดขึ้นได้อย่างไร
Glen_b -Reinstate Monica

ขอบคุณสำหรับการอัพเดท; มันทำให้ง่ายต่อการพูดสิ่งที่มีเหตุผลในการตอบเนื่องจากมันช่วยลดขอบเขตของคดีที่จะรับมือ คุณช่วยโปรดพิจารณาความคิดเห็นก่อนหน้าของฉันได้ไหม สิ่งนี้อาจอยู่ภายใต้แท็กศึกษาด้วยตนเองหรือไม่ก็ได้ไม่ว่าในกรณีใดฉันได้ถามว่าคุณจะทำอะไร
Glen_b -Reinstate Monica

นี่ไม่ใช่การบ้านหรือชั้นเรียน มันเกิดขึ้นกับงานของฉัน เรามีตัวประมาณอีกวิธีหนึ่งจากช่วงเวลาหนึ่ง แต่ฉันพยายามที่จะทำความเข้าใจกับสิ่งที่เกิดขึ้นกับ MLE ที่นี่
แฟรงค์

ตกลง; ที่ให้ระยะทางมากขึ้น ดูคำตอบที่อัปเดตของฉัน ฉันอาจจะเพิ่มเพิ่มเติมเร็ว ๆ นี้
Glen_b

เพิ่มการอ้างอิง / ลิงก์
Glen_b -Reinstate Monica

คำตอบ:


10

เป็นไปได้หรือไม่ที่จะใช้ขั้นตอน MLE ปกติกับการแจกแจงสามเหลี่ยม?

แน่นอน! แม้ว่าจะมีเรื่องแปลก ๆ ที่ต้องจัดการ แต่ก็เป็นไปได้ที่จะคำนวณ MLEs ในกรณีนี้

อย่างไรก็ตามหากด้วย 'ขั้นตอนปกติ' คุณหมายถึง 'ใช้อนุพันธ์ของความน่าจะเป็นบันทึกและตั้งค่าให้เท่ากับศูนย์' ดังนั้นอาจไม่ใช่

อะไรคือลักษณะที่แน่นอนของการอุดตันของ MLE ที่นี่ (ถ้ามี)

คุณได้ลองวาดความเป็นไปได้หรือไม่?

-

ติดตามผลหลังจากการชี้แจงคำถาม:

คำถามเกี่ยวกับการวาดความน่าจะเป็นไม่ใช่ความเห็นที่ไม่ได้ใช้งาน แต่เป็นศูนย์กลางของปัญหา

MLE จะเกี่ยวข้องกับการทำอนุพันธ์

ไม่ MLE เกี่ยวข้องกับการหา argmax ของฟังก์ชัน นั่นเกี่ยวข้องกับการหาค่าศูนย์ของอนุพันธ์ภายใต้เงื่อนไขบางประการเท่านั้น ... ซึ่งไม่ได้เก็บไว้ที่นี่ ที่ดีที่สุดหากคุณจัดการเพื่อทำสิ่งที่คุณจะระบุท้องถิ่นไม่กี่น้อย

ตามคำถามก่อนหน้านี้ของฉันแนะนำให้ดูที่โอกาส

Y

0.5067705 0.2345473 0.4121822 0.3780912 0.3085981 0.3867052 0.4177924
0.5009028 0.8420312 0.2588613

โอกาสสำหรับจุดสูงสุดของรูปสามเหลี่ยม

โอกาสในการบันทึกสำหรับจุดสูงสุดของรูปสามเหลี่ยม

เส้นสีเทาทำเครื่องหมายค่าข้อมูล (ฉันน่าจะสร้างตัวอย่างใหม่เพื่อให้แยกค่าได้ดีขึ้น) จุดสีดำทำเครื่องหมายโอกาส / บันทึกความน่าจะเป็นของค่าเหล่านั้น

นี่คือการซูมเข้าใกล้ระดับสูงสุดของโอกาสในการดูรายละเอียดเพิ่มเติม:

รายละเอียดของความน่าจะเป็น

ดังที่คุณเห็นได้จากความน่าจะเป็นที่สถิติการสั่งซื้อจำนวนมากฟังก์ชันความน่าจะเป็นมี 'มุม' ที่คมชัด - จุดที่ไม่มีอนุพันธ์ (ซึ่งไม่น่าแปลกใจ - ไฟล์ PDF ต้นฉบับมีมุมและเรากำลังทำ ผลิตภัณฑ์ของ pdf) นี่ (ที่มี cusps ที่สถิติการสั่งซื้อ) เป็นกรณีที่มีการกระจายรูปสามเหลี่ยมและสูงสุดเกิดขึ้นเสมอที่หนึ่งในสถิติการสั่งซื้อ (cusps นั้นเกิดขึ้นที่สถิติการสั่งซื้อนั้นไม่ซ้ำกับการแจกแจงแบบสามเหลี่ยมเช่นความหนาแน่นของ Laplace มีมุมหนึ่งและผลที่ตามมาคือโอกาสที่จุดศูนย์กลางจะมีหนึ่งจุดในแต่ละสถิติการสั่งซื้อ)

ตามที่เกิดขึ้นในตัวอย่างของฉันค่าสูงสุดเกิดขึ้นตามสถิติลำดับที่สี่คือ 0.3780912

การอ้างอิงที่มีประโยชน์คือบทที่ 1 ของ " Beyond Beta " โดย Johan van Dorp และ Samuel Kotz มันเกิดขึ้นบทที่ 1 เป็นฟรี 'ตัวอย่าง' บทสำหรับหนังสือ - คุณสามารถดาวน์โหลดได้ที่นี่

มีบทความเล็ก ๆ น่ารักจาก Eddie Oliver เกี่ยวกับเรื่องนี้กับการแจกแจงสามเหลี่ยมฉันคิดว่าใน American Statisticsian (ซึ่งทำให้เป็นประเด็นเดียวกันโดยทั่วไปฉันคิดว่ามันเป็นมุมของครู) ถ้าฉันสามารถหามันได้ฉันจะให้มันเป็นข้อมูลอ้างอิง

แก้ไข: นี่คือ:

EH Oliver (1972), ความน่าจะเป็นสูงสุด,
นักสถิติชาวอเมริกัน , ฉบับที่ 26, ฉบับที่ 3, มิถุนายน, p43-44

( ลิงก์ผู้เผยแพร่)

หากคุณสามารถจับมันได้อย่างง่ายดายมันก็คุ้มค่าที่จะดู แต่บท Dorp และ Kotz ครอบคลุมประเด็นที่เกี่ยวข้องส่วนใหญ่ดังนั้นจึงไม่ใช่เรื่องสำคัญ


โดยการติดตามคำถามในความคิดเห็นแม้ว่าคุณจะสามารถหามุม 'ปรับให้เรียบ' ได้คุณยังต้องจัดการกับความจริงที่ว่าคุณจะได้รับ Maxima ท้องถิ่นหลายรายการ:

สองท้องถิ่นสูงสุด

อย่างไรก็ตามอาจเป็นไปได้ที่จะหาตัวประมาณที่มีคุณสมบัติที่ดีมาก (ดีกว่าช่วงเวลา) ซึ่งคุณสามารถเขียนได้อย่างง่ายดาย แต่ ML ที่สามเหลี่ยมบน (0,1) เป็นโค้ดสองสามบรรทัด

หากเป็นเรื่องของข้อมูลจำนวนมากก็สามารถจัดการได้เช่นกัน แต่จะเป็นอีกคำถามหนึ่งฉันคิดว่า ตัวอย่างเช่นไม่ใช่ทุกจุดข้อมูลที่สามารถสูงสุดซึ่งจะช่วยลดการทำงานและมีการประหยัดอื่น ๆ ที่สามารถทำได้


ขอบคุณ - ฉันจะพยายามโพสต์ความพยายามที่ล้มเหลวของฉันโดยแสดงการกระจายที่ฉันกำลังพูดถึงและที่ฉันคิดว่าฉันถูกบล็อก
แฟรงค์

ขอบคุณสำหรับคำอธิบายรายละเอียด! ฉันมีความคิดอื่น: สมมติว่าฉันสามารถหาครอบครัวของฟังก์ชันที่มาบรรจบกับการกระจายสามเหลี่ยม แต่จะไม่เป็นชิ้น ๆ - ฉันสามารถใช้มันเพื่อให้ได้ MLE จากการวิเคราะห์จากนั้นจึง จำกัด และถือว่าฉันมี MLE ของ การกระจายสามเหลี่ยมเอง
แฟรงค์

อาจเป็นไปได้ - ฉันคิดว่าอาจขึ้นอยู่กับกระบวนการ จำกัด เฉพาะที่คุณใช้ ... และคุณจะยังคงจบลงด้วย maxima ท้องถิ่นหลายแห่งดังนั้นจึงอาจช่วยให้คุณประเมินโอกาสในการใกล้เคียงกับสถิติการจัดลำดับขั้นสุดยอดเท่านั้น - แต่ถึงแม้ว่า ทำไมคุณถึงลองทำอะไรที่ซับซ้อนกว่านี้ เกิดอะไรขึ้นกับ ML ในการกระจายสามเหลี่ยม? มันค่อนข้างง่ายที่จะทำในทางปฏิบัติ
Glen_b -Reinstate Monica

2
ฉันต้องบอกว่า MLE สำหรับ c ตามสถิติการสั่งซื้อนี้ค่อนข้างดีแม้ว่าการสืบทอดในบทด้านบนใช้งานบางอย่าง (ไม่ยากเกินไป) - ภาพประกอบที่ดีที่สาระสำคัญของ MLE อยู่ใน argmax (แน่นอน!) มากกว่าอนุพันธ์ (ตามที่คุณชี้ให้เห็นและฉันเห็นด้วยอย่างเต็มที่มันเกิดขึ้นกับฉันที่จะทำงานขั้นต้นของขั้นตอนอนุพันธ์ "ปกติ" (เช่นเพียงแค่กังวลเกี่ยวกับการเพิ่มประสิทธิภาพไม่ว่าด้วยวิธีใดก็ตาม) แต่ฉันไม่ได้ติดตาม)
แฟรงค์

1
xผม
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.