ใช้ MLE กับ OLS

เมื่อใดควรเลือกใช้การประมาณความน่าจะเป็นสูงสุดแทนการใช้กำลังสองน้อยที่สุดแบบธรรมดา? จุดแข็งและข้อ จำกัด ของแต่ละจุดคืออะไร ฉันกำลังพยายามรวบรวมความรู้ที่เป็นประโยชน์เกี่ยวกับสถานที่ที่จะใช้ในสถานการณ์ทั่วไป

regression maximum-likelihood least-squares

— user38133
แหล่งที่มา

ดังที่อธิบายไว้ที่นี่ OLS เป็นเพียงตัวอย่างหนึ่งของ MLE นี่คือคำถามที่เกี่ยวข้องอย่างใกล้ชิดโดยมี OLS มาในแง่ของ MLE

การแจกแจงแบบมีเงื่อนไขตรงกับรุ่นเสียงของคุณ (สำหรับ OLS: Gaussian และการกระจายแบบเดียวกันสำหรับอินพุตทั้งหมด) มีตัวเลือกอื่น ๆ (t-Student เพื่อจัดการกับค่าผิดปกติหรืออนุญาตการกระจายเสียงขึ้นอยู่กับอินพุต )

— jpmuc
แหล่งที่มา

(-1) มันไม่ได้เป็นความจริงที่ว่านักเรียนสามารถขึ้นอยู่กับเมื่อจัดการกับค่าผิดปกติ ดูตัวอย่างที่นี่หรือบทที่ 2 ของตำราเรียนนี้สำหรับคำอธิบายเพิ่มเติม

t

$t$

— user603

OLS เป็นวิธีการประมาณ / ลดระยะทางโดยใช้ ML เป็นวิธีการเพิ่มความน่าจะเป็น "โอกาส" OLS ไม่จำเป็นต้องมีข้อสมมุติแบบสุ่มเพื่อให้วิธีแก้ปัญหาลดระยะทางของเขาในขณะที่ ML เริ่มต้นด้วยการสมมติว่าความหนาแน่นของความน่าจะเป็นร่วม / ฟังก์ชันมวล ความจริงที่ว่าในบางสถานการณ์ทั้งสองมีวิธีการแก้ปัญหาแบบเดียวกันไม่ได้ทำให้มันเป็นตัวอย่างหนึ่งของอื่น ๆ

— Alecos Papadopoulos