การประมาณค่าพารามิเตอร์ของการแจกแจงแบบปกติ: ค่ามัธยฐานแทนค่าเฉลี่ย?

วิธีการทั่วไปในการประมาณค่าพารามิเตอร์ของการแจกแจงแบบปกติคือการใช้ค่าเฉลี่ยและค่าเบี่ยงเบนมาตรฐาน / ความแปรปรวนตัวอย่าง

อย่างไรก็ตามหากมีค่าผิดปกติค่ามัธยฐานและค่าเบี่ยงเบนเฉลี่ยจากค่ามัธยฐานควรจะแข็งแกร่งกว่านี้ใช่ไหม

ในชุดข้อมูลบางชุดที่ฉันพยายามการแจกแจงแบบปกติประมาณโดยดูเหมือนจะทำให้เกิดอะไรมากมาย ดีกว่าแบบคลาสสิกโดยใช้ค่าเฉลี่ยและส่วนเบี่ยงเบน RMS $\mathcal{N}(\text{median}(x), \text{median}|x - \text{median}(x)|)$ $\mathcal{N}(\hat\mu, \hat\sigma)$

มีเหตุผลใดที่จะไม่ใช้ค่ามัธยฐานถ้าคุณคิดว่ามีค่าผิดปกติบางอย่างในชุดข้อมูลหรือไม่? คุณรู้การอ้างอิงบางส่วนสำหรับวิธีการนี้หรือไม่? การค้นหาอย่างรวดเร็วบน Google ไม่พบผลลัพธ์ที่มีประโยชน์ที่พูดถึงประโยชน์ของการใช้สื่อตรงกลางที่นี่ (แต่เห็นได้ชัดว่า "มัธยฐานการประมาณค่าพารามิเตอร์การกระจายทั่วไป" ไม่ใช่คำค้นหาที่เจาะจงมาก)

ค่าเบี่ยงเบนเฉลี่ย, มันมีอคติหรือไม่? ฉันควรคูณมันด้วยเพื่อลดอคติหรือไม่ $\frac{n-1}{n}$

คุณรู้วิธีการประมาณค่าพารามิเตอร์ที่มีประสิทธิภาพที่ใกล้เคียงกันสำหรับการแจกแจงอื่น ๆ เช่นการแจกแจงแกมม่าหรือการแจกแจงแบบเกาส์แบบเอ็กซ์โปเนนเชียล (ซึ่งต้องการความเบ้ในการประมาณค่าพารามิเตอร์และค่าผิดปกติทำให้ยุ่งเหยิง)

— Erich Schubert
แหล่งที่มา

หากคุณมีค่าผิดปกติอาจเป็นไปได้ว่าการกระจายของคุณไม่ปกติเสียน นี้ไม่ได้ตอบคำถามของคุณแน่นอน แต่ IMO นี้เป็นไปได้ที่หนึ่งควรให้ความบันเทิงเสมอ

— sds

ฉันไม่มีการกระจายทางคณิตศาสตร์ที่เรียบง่ายสะอาด ฉันมีข้อมูลจริงซึ่งยุ่งกับธรรมชาติ ไม่มีการแจกแจงใด ๆ ก็ตามจะเหมาะอย่างยิ่งเพราะคุณไม่สามารถรับมือกับสถานการณ์ที่วิเคราะห์ได้อีกต่อไป และคนนอกเป็นสิ่งที่ฉันสนใจ :-)

— Erich Schubert

คำตอบ:

จากการสังเกตว่าในตัวอย่างที่เกี่ยวข้องกับข้อมูลที่ดึงมาจากการแจกแจงแบบเกาส์ที่ปนเปื้อนคุณจะได้รับการประมาณค่าพารามิเตอร์ที่อธิบายถึงกลุ่มข้อมูลได้ดีขึ้นโดยใช้แทนโดยที่คือ: $\text{mad}$ $\text{med}|x-\text{med}(x)|$ $\text{mad}(x)$

mad = 1.4826 \times med | x - med (x) |

$\text{mad}=1.4826\times\text{med}|x-\text{med}(x)|$

--where,เป็นปัจจัยความมั่นคงที่ออกแบบมาเพื่อให้แน่ใจว่า เมื่อไม่มีการปนเปื้อน - ถูกสร้างขึ้นโดย Gauss (Walker, H. (1931)) $(\Phi^{-1}(0.75))^{-1}=1.4826$

E (mad (x)^{2}) = Var (x)

$\text{E}(\text{mad}(x)^2)=\text{Var}(x)$

x

$x$

ฉันไม่สามารถคิดเหตุผลใด ๆ ที่จะไม่ใช้แทนค่าเฉลี่ยตัวอย่างในกรณีนี้ ประสิทธิภาพที่ต่ำกว่า (ที่ Gaussian!) ของอาจเป็นเหตุผลที่จะไม่ใช้ในตัวอย่างของคุณ แต่มีอยู่อย่างเท่าเทียมกันทางเลือกที่มีประสิทธิภาพและมีประสิทธิภาพสูงไป{} หนึ่งในนั้นคือ $\text{med}$ $\text{mad}$ $\text{mad}$ $\text{mad}$ $Q_n$ . ตัวประมาณนี้มีข้อดีอื่น ๆ อีกมากมายนอกเหนือจากนี้ นอกจากนี้ยังมีความรู้สึกไวต่อค่าผิดปกติ (ในความเป็นจริงเกือบจะไม่สำคัญเท่ากับคนบ้า) ตรงกันข้ามกับความบ้าคลั่งมันไม่ได้ถูกสร้างขึ้นโดยประมาณของที่ตั้งและไม่ได้สันนิษฐานว่าการกระจายของส่วนที่ไม่มีการปนเปื้อนของข้อมูลนั้นเป็นสัดส่วน อย่างบ้าคลั่งมันขึ้นอยู่กับสถิติการสั่งซื้อดังนั้นมันจึงถูกกำหนดไว้อย่างดีเสมอแม้ว่าการแจกแจงต้นแบบของตัวอย่างของคุณจะไม่มีเวลา มันมีรูปแบบที่ชัดเจนง่าย ๆ ยิ่งกว่าความบ้าคลั่งฉันไม่เห็นเหตุผลที่จะใช้ค่าเบี่ยงเบนมาตรฐานตัวอย่างแทนในตัวอย่างที่คุณอธิบาย (ดู Rousseeuw และ Croux 1993 สำหรับข้อมูลเพิ่มเติมเกี่ยวกับ ) $Q_n$ $Q_n$

สำหรับคำถามสุดท้ายของคุณเกี่ยวกับกรณีที่เฉพาะเจาะจงที่แล้ว $x\sim\Gamma(\nu,\lambda)$

med (x) \approx λ (ν - 1 / 3)

$\text{med}(x)\approx\lambda(\nu-1/3)$

และ

mad (x) \approx λ \sqrt{ν}

$\text{mad}(x)\approx\lambda\sqrt{\nu}$

(ในทั้งสองกรณีการประมาณจะดีเมื่อ ) ดังนั้น $\nu>1.5$

\hat{ν} = {(\frac{med (x)}{mad (x)})}^{2}

$\hat{\nu}=\left(\frac{\text{med}(x)}{\text{mad}(x)}\right)^2$

และ

\hat{λ} = \frac{mad (x)^{2}}{med (x)}

$\hat{\lambda}=\frac{\text{mad}(x)^2}{\text{med}(x)}$

ดูเฉินและรูบิน (1986) สำหรับการสืบทอดที่สมบูรณ์

J. Chen และ H. Rubin, 1986. ขอบเขตของความแตกต่างระหว่างค่ามัธยฐานกับค่าเฉลี่ยของการแจกแจงแบบแกมม่าและปัวซอง, นักสถิติ Probab Lett., 4, 281–283
PJ Rousseeuw และ C. Croux, 1993. ทางเลือกในการบันทึกค่าเบี่ยงเบนสัมบูรณ์แบบสัมบูรณ์ของสมาคมสถิติอเมริกัน, ฉบับที่. 88, หมายเลข 424, pp. 1273-1283
Walker, H. (1931) การศึกษาในประวัติศาสตร์ของวิธีการทางสถิติ บัลติมอร์แมริแลนด์: วิลเลียมส์ & วิลกินส์โคได้ 24-25

— user603
แหล่งที่มา

Φ^{- 1} (0.75)^{- 1} \approx 1.4826

$\Phi^{-1}(0.75)^{-1} \approx 1.4826$ - นี่คือค่าที่จะใช้หรือเป็นหนึ่งในสอง inversions พิเศษหรือไม่

— Erich Schubert

@ErichSchubert: ถูกต้อง: ฉันลืมอินเวอร์สที่สอง .. แก้ไขแล้ว

— user603

+1 แต่ฉันคิดว่าคุณอธิบายลักษณะ "ปัจจัยด้านประสิทธิภาพ" ผิด: มันไม่ได้มีความคล้ายคลึงกับปัจจัยสำหรับความแปรปรวนเพราะหลังนั้นเป็นสากลในขณะที่ปัจจัยของคุณเฉพาะกับการแจกแจงแบบปกติเท่านั้น ใจคุณจะต้องเปลี่ยนปัจจัยของคุณ ความแตกต่างนี้เป็นหนึ่งในเหตุผลสำคัญที่ทำให้ความแตกต่างและ SD ได้เห็นแอปพลิเคชันมากมายกว่า MAD

n / (n - 1)

$n/(n-1)$

— whuber

@whuber: ขอบคุณสำหรับตอนนี้ฉันตระหนักถึงประโยคของฉัน 'นี้คล้ายกับจิตวิญญาณ ' สามารถเข้าใจผิดได้อย่างง่ายดาย ฉันลบมัน

— user603

ฉันทำให้ส่วน ExNormal เป็นคำถามแยกต่างหาก: stats.stackexchange.com/questions/48907/แต่ฉันมีอีกหนึ่งข้อสำหรับคุณ: การกระจาย LogNormal - จัดการโดยใช้บันทึกแล้วดำเนินการกระจายตามปกติหรือไม่

— Erich Schubert

หากคุณยืนยันข้อมูลนั้นเป็นเรื่องปกตินอกเหนือจากสัดส่วนเล็กน้อยของค่าผิดปกติค่าเบี่ยงเบนสัมบูรณ์แบบมัธยฐานและค่ามัธยฐานจะมีความทนทานต่อข้อผิดพลาดขั้นต้น แต่จะไม่ทำให้การใช้ข้อมูลในข้อมูลนอกไม่ใช่ข้อมูลที่มีประสิทธิภาพมาก

หากคุณรู้ว่ามีขอบเขตสำคัญเกี่ยวกับสัดส่วนของค่าผิดปกติคุณสามารถตัดสัดส่วนดังกล่าวเพื่อหาค่าเฉลี่ยและลบล้างค่าเบี่ยงเบนมาตรฐาน อีกทางเลือกหนึ่งที่ไม่ต้องการความรู้เช่นนั้นคือการใช้ตัวประมาณค่า Mสำหรับตำแหน่งและปริมาณที่เกี่ยวข้องสำหรับความแปรปรวน การได้รับประสิทธิภาพหากสมมติฐานของคุณถูกต้อง (เช่นข้อมูลปกติจริง ๆ นอกเหนือจากค่าผิดพลาดเล็กน้อย) ในบางสถานการณ์อาจมีความสำคัญ

ส่วนเบี่ยงเบนเฉลี่ยจะลำเอียงเป็นประมาณการของค่าเบี่ยงเบนมาตรฐาน - แต่ไม่เหมือนปรับ; ค่าเฉลี่ยตัวอย่างที่ไม่ได้ทำการปรับกำลังสองจะเป็นความแปรปรวนแบบเชิงเส้น แต่ตัวอย่างส่วนเบี่ยงเบนสัมบูรณ์สัมบูรณ์ไม่ได้เป็นแบบส่วนเบี่ยงเบนมาตรฐานของประชากร คุณจำเป็นต้องคูณด้วยคงที่เพียงเพื่อให้ได้ความสอดคล้อง หลังจากที่คุณทำเช่นนั้นแล้วมันยังคงมีอคติตัวอย่างน้อยในลักษณะเดียวกับกำลังสองเฉลี่ย $\frac{n}{n-1}$

— Glen_b -Reinstate Monica
แหล่งที่มา