สาเหตุของการกระจายข้อมูลตามปกติ

อะไรคือทฤษฎีบทบางอย่างที่อาจอธิบายได้ (เช่นโดยทั่วไป) ว่าทำไมข้อมูลในโลกแห่งความจริงจึงอาจได้รับการกระจายตามปกติ?

มีอยู่สองอย่างที่ฉันรู้:

1. ทฤษฎีบทขีด จำกัด กลาง (แน่นอน) ซึ่งบอกเราว่าผลรวมของตัวแปรสุ่มอิสระหลายตัวที่มีค่าเฉลี่ยและความแปรปรวน (แม้ว่าพวกเขาจะไม่กระจายตัวเหมือนกัน) มีแนวโน้มที่จะกระจายตามปกติ

2. Let X และ Y เป็น RV อย่างต่อเนื่องเป็นอิสระที่มีความหนาแน่นอนุพันธ์ดังกล่าวที่มีความหนาแน่นร่วมกันของพวกเขาเท่านั้นขึ้นอยู่กับ + 2 จากนั้น X และ Y เป็นปกติ$x^2$$y^2$

(cross-post จากmathexchange )

แก้ไข: เพื่อความกระจ่างแจ้งฉันไม่ได้ทำการอ้างสิทธิ์ใด ๆ เกี่ยวกับจำนวนข้อมูลในโลกแห่งความเป็นจริงที่กระจายตามปกติ ฉันแค่ถามเกี่ยวกับทฤษฎีที่สามารถให้ข้อมูลเชิงลึกเกี่ยวกับกระบวนการที่อาจนำไปสู่การกระจายข้อมูลตามปกติ

การ จำกัด การแจกแจงจำนวนมากของ RVs ไม่ต่อเนื่อง (ปัวซอง, ทวินาม, ฯลฯ ) เป็นเรื่องปกติ ลองคิดดูสิ ในเกือบทุกกรณีเมื่อมีเกณฑ์ปกติโดยประมาณปกติจะเริ่มขึ้นสำหรับตัวอย่างขนาดใหญ่เท่านั้น

ข้อมูลในโลกแห่งความเป็นจริงส่วนใหญ่จะไม่กระจายตามปกติ กระดาษโดย Micceri (1989) เรียกว่า " ยูนิคอร์นโค้งปกติและสิ่งมีชีวิตอื่น ๆ ที่ไม่น่าจะเป็นไปได้ " สำรวจความสำเร็จขนาดใหญ่ 440 รายการและมาตรการทางจิตวิทยา เขาพบว่ามีความแปรปรวนจำนวนมากในการแจกแจง wrt ช่วงเวลาของพวกเขาและไม่มีหลักฐานมากนักสำหรับความธรรมดา (โดยประมาณ)

ในปี 1977 กระดาษของ Steven Stigler เรียกว่า " Do Robust Estimators ทำงานกับข้อมูลจริง " เขาใช้ชุดข้อมูล 24 ชุดที่รวบรวมจากความพยายามศตวรรษที่ 18 ที่มีชื่อเสียงในการวัดระยะทางจากโลกสู่ดวงอาทิตย์และศตวรรษที่ 19 พยายามวัดความเร็วแสง เขารายงานตัวอย่างความเบ้และความโด่งในตารางที่ 3 ข้อมูลดังกล่าวเป็นแบบหางยาว

ในสถิติเราถือว่าปกติเป็นครั้งคราวเพราะมันทำให้มีโอกาสมากที่สุด (หรือวิธีอื่น ๆ ) สะดวก อย่างไรก็ตามสิ่งที่ทั้งสองเอกสารอ้างถึงข้างต้นแสดงให้เห็นว่าเป็นข้อสันนิษฐานที่มักจะผอมบาง นี่คือเหตุผลที่การศึกษาความแข็งแกร่งมีประโยชน์

นอกจากนี้ยังมีเหตุผลทางทฤษฎีข้อมูลสำหรับการใช้การแจกแจงแบบปกติ เมื่อพิจารณาค่าเฉลี่ยและความแปรปรวนการแจกแจงแบบปกติจะมีค่าเอนโทรปีสูงสุดในการแจกแจงความน่าจะเป็นมูลค่าจริงทั้งหมด มีแหล่งข้อมูลมากมายพูดคุยเกี่ยวกับคุณสมบัตินี้ สั้น ๆ หนึ่งสามารถพบได้ที่นี่ การอภิปรายทั่วไปมากขึ้นของแรงจูงใจสำหรับการใช้ที่เกี่ยวข้องกับการเสียนกระจายมากที่สุดของการขัดแย้งดังกล่าวเพื่อให้ห่างไกลสามารถพบได้ในนี้บทความจากนิตยสารการประมวลผลสัญญาณ

ในวิชาฟิสิกส์มันคือ CLT ซึ่งมักถูกอ้างถึงว่าเป็นสาเหตุของการกระจายข้อผิดพลาดตามปกติในการวัดจำนวนมาก

การแจกแจงข้อผิดพลาดที่พบบ่อยที่สุดสองตัวในฟิสิกส์ทดลองเป็นเรื่องปกติและปัวซอง มักจะพบหลังในการวัดจำนวนเช่นการสลายตัวของกัมมันตภาพรังสี

คุณสมบัติที่น่าสนใจอีกอย่างของการแจกแจงสองตัวนี้คือผลรวมของตัวแปรสุ่มจาก Gaussian และ Poisson เป็นของ Gaussian และ Poisson

มีหนังสือหลายเล่มเกี่ยวกับสถิติในวิทยาศาสตร์การทดลองเช่นนี้ : Gerhard Bohm, Günter Zech, บทนำสถิติและการวิเคราะห์ข้อมูลสำหรับนักฟิสิกส์, ไอ 978-3-935702-41-6

CLT มีประโยชน์อย่างยิ่งเมื่อทำการอนุมานเกี่ยวกับสิ่งต่าง ๆ เช่นค่าเฉลี่ยประชากรเพราะเราไปถึงที่นั่นด้วยการคำนวณการรวมกันเชิงเส้นของการวัดแต่ละอย่าง อย่างไรก็ตามเมื่อเราพยายามที่จะทำการอนุมานเกี่ยวกับการสังเกตการณ์เป็นรายบุคคลโดยเฉพาะอย่างยิ่งการสำรวจในอนาคต ( เช่นช่วงการทำนาย) การเบี่ยงเบนจากภาวะปกตินั้นสำคัญกว่ามากหากเราสนใจหางของการแจกแจง ตัวอย่างเช่นหากเรามีการสังเกต 50 ครั้งเรากำลังทำการคาดการณ์ครั้งใหญ่ (และการก้าวกระโดดของความศรัทธา) เมื่อเราพูดบางอย่างเกี่ยวกับความน่าจะเป็นของการสังเกตในอนาคตโดยมีค่าเบี่ยงเบนมาตรฐานอย่างน้อย 3 ค่าจากค่าเฉลี่ย