มีคำอธิบายว่าทำไมมีปรากฏการณ์ทางธรรมชาติมากมายที่ตามหลังการแจกแจงปกติ?

ฉันคิดว่านี่เป็นหัวข้อที่น่าสนใจและฉันไม่เข้าใจอย่างถ่องแท้ กฎแห่งฟิสิกส์ใดที่ทำให้เกิดปรากฏการณ์ทางธรรมชาติมากมายที่มีการแจกแจงแบบปกติ ดูเหมือนง่ายกว่าที่พวกเขาจะมีการแจกแจงแบบเดียวกัน

มันยากสำหรับฉันที่จะเข้าใจสิ่งนี้และฉันรู้สึกว่าฉันขาดข้อมูลบางอย่าง ใครสามารถช่วยฉันด้วยคำอธิบายที่ดีหรือเชื่อมโยงฉันกับหนังสือ / วิดีโอ / บทความ?

ผมขอเริ่มด้วยการปฏิเสธหลักฐาน Robert Geary อาจไม่พูดเกินจริงกรณีที่เขาพูด (ในปี 1947) " ... ปกติเป็นตำนาน; ไม่เคยมีและจะไม่มีการกระจายปกติ " -
การกระจายปกติเป็นแบบจำลอง *, และ การประมาณค่าซึ่งบางครั้งมีประโยชน์มากกว่าหรือน้อยกว่า

$\:$* (โปรดดูที่George Boxถึงแม้ว่าฉันจะชอบเวอร์ชั่นที่อยู่ในโปรไฟล์ของฉัน)

ปรากฏการณ์บางอย่างนั้น เรื่องปกติโดยประมาณอาจไม่แปลกใจนักเนื่องจากผลรวมของความเป็นอิสระ [หรือแม้กระทั่งผลกระทบที่ไม่สัมพันธ์กันอย่างรุนแรง] หากมีจำนวนมากและไม่มีความแปรปรวนที่มีนัยสำคัญเมื่อเทียบกับความแปรปรวนของ ผลรวมของส่วนที่เหลือที่เราอาจเห็นการกระจายมีแนวโน้มที่จะดูปกติมากขึ้น

ทฤษฎีบทขีด จำกัด กลาง (ซึ่งเกี่ยวกับการลู่เข้าสู่การแจกแจงแบบปกติของค่าเฉลี่ยตัวอย่างหมายถึง$n$อนันต์ภายใต้เงื่อนไขที่ไม่รุนแรงบางอย่าง) อย่างน้อยแนะนำว่าเราอาจเห็นแนวโน้มไปสู่ภาวะปกติที่มีขนาดตัวอย่างเพียงพอขนาดใหญ่

แน่นอนว่าถ้ามาตรฐานมีค่าประมาณปกติผลรวมมาตรฐานจะเป็น นี่คือเหตุผลสำหรับการ "ผลรวมของหลายผล" เหตุผล ดังนั้นหากมีการสนับสนุนน้อยมากกับการเปลี่ยนแปลงและพวกมันไม่สัมพันธ์กันมากคุณอาจมีแนวโน้มที่จะเห็นมัน

ทฤษฎีบท Berry-Esseen ทำให้เรามีคำสั่งเกี่ยวกับเรื่องนี้ (ลู่ไปสู่การแจกแจงปกติ) จริง ๆ แล้วเกิดขึ้นกับตัวอย่างที่เป็นมาตรฐานหมายถึงข้อมูล iid (ภายใต้เงื่อนไขที่เข้มงวดกว่าเล็กน้อยสำหรับ CLT เนื่องจากต้องการให้ช่วงเวลาที่สามแน่นอนเป็น จำกัด ) และบอกเราเกี่ยวกับว่ามันเกิดขึ้นเร็วแค่ไหน รุ่นต่อมาของทฤษฎีบทจัดการกับส่วนประกอบที่ไม่กระจายตัวเหมือนกันในผลรวมแม้ว่าขอบเขตบนของการเบี่ยงเบนจากภาวะปกติจะน้อยแน่น

อย่างเป็นทางการน้อยกว่าพฤติกรรมของการโน้มน้าวใจที่มีการแจกแจงที่ดีพอสมควรทำให้เรามีเหตุผลเพิ่มเติม (แม้ว่าจะมีความสัมพันธ์กันอย่างใกล้ชิด) ที่จะสงสัยว่ามันอาจจะเป็นการประมาณที่ยุติธรรมในตัวอย่างที่ จำกัด ในหลายกรณี Convolution ทำหน้าที่เหมือนโอเปอเรเตอร์ "smear" ซึ่งผู้ที่ใช้การประมาณความหนาแน่นของเคอร์เนลในเมล็ดที่หลากหลายจะคุ้นเคย เมื่อคุณสร้างมาตรฐานผลลัพธ์ (ดังนั้นความแปรปรวนยังคงที่ในแต่ละครั้งที่คุณทำเช่นนั้น) มีความก้าวหน้าไปสู่รูปร่างเนินเขาที่สมมาตรมากขึ้นเรื่อย ๆ ในขณะที่คุณค่อยๆเรียบซ้ำ ๆ (และมันก็ไม่สำคัญอะไร

Terry Tao ให้การอภิปรายที่ดีเกี่ยวกับทฤษฎีบทขีด จำกัด กลางและทฤษฎีบท Berry-Esseen ที่นี่และตลอดทางกล่าวถึงวิธีการ Berry-Esseen รุ่นที่ไม่ขึ้นอยู่กับตัวเอง

มีสถานการณ์อย่างน้อยหนึ่งคลาสที่เราอาจคาดหวังให้เห็นและเหตุผลอย่างเป็นทางการที่จะคิดว่ามันจะเกิดขึ้นจริงในสถานการณ์เหล่านั้น อย่างไรก็ตามที่ดีที่สุดความรู้สึกใด ๆ ว่าผลของ "ผลรวมของผลกระทบหลายอย่าง" จะเป็นเรื่องปกติคือการประมาณ ในหลายกรณีเป็นการประมาณที่สมเหตุสมผล (และในกรณีเพิ่มเติมแม้ว่าการประมาณของการแจกแจงจะไม่ใกล้เคียงกัน แต่บางขั้นตอนที่ถือว่าเป็นปกตินั้นไม่ได้มีความละเอียดอ่อนต่อการกระจายของค่าแต่ละค่าอย่างน้อยในตัวอย่างขนาดใหญ่)

มีอีกหลายสถานการณ์ที่เอฟเฟกต์ไม่ "เพิ่ม" และเราอาจคาดหวังสิ่งอื่น ๆ ให้เกิดขึ้นได้ ตัวอย่างเช่นในข้อมูลทางการเงินจำนวนมากมีแนวโน้มที่จะทวีคูณ (ผลกระทบจะย้ายจำนวนเงินในแง่เปอร์เซ็นต์เช่นดอกเบี้ยและอัตราเงินเฟ้อและอัตราแลกเปลี่ยนเป็นต้น) ที่นั่นเราไม่ได้คาดหวังความปกติ แต่บางครั้งเราอาจสังเกตอย่างคร่าวๆถึงความปกติในระดับบันทึก ในสถานการณ์อื่น ๆ ไม่สามารถเหมาะสมได้แม้ในความหมายคร่าวๆ ตัวอย่างเช่นเวลาระหว่างเหตุการณ์โดยทั่วไปจะไม่ได้รับการประมาณค่าอย่างดีจากภาวะปกติหรือภาวะปกติของบันทึก ไม่มี "ผลรวม" หรือ "ผลิตภัณฑ์" ของผลกระทบที่จะโต้แย้งสำหรับที่นี่ มีปรากฏการณ์อื่น ๆ อีกมากมายที่เราสามารถโต้แย้งบางอย่างสำหรับ "กฎหมาย" ชนิดใดชนิดหนึ่งในสถานการณ์พิเศษ

มีคำพูดที่โด่งดังโดยGabriel Lippmann (นักฟิสิกส์รางวัลโนเบล) ตามที่Poincaréบอก:

[การแจกแจงแบบปกติ] ไม่สามารถทำได้โดยการหักอย่างเข้มงวด หลักฐานสมมุติหลายข้อของมันแย่มาก [... ] อย่างไรก็ตาม ทุกคนเชื่อว่าอย่างที่ M. Lippmann บอกกับฉันวันหนึ่งเพราะผู้ทดสอบจินตนาการว่ามันเป็นทฤษฎีบททางคณิตศาสตร์ในขณะที่นักคณิตศาสตร์จินตนาการว่ามันเป็นความจริงเชิงทดลอง

- อองรีPoincaré, Le calcul des Probabilités 1896

[Cette loi] ne s'obtient pas par des déductions rigoureuses; plus d'une démonstration qu'on a voulu en donner est grossière [... ]. สิ่งนี้ทำให้ฉันเป็นคนดี, ฉันไม่ได้เป็นคนที่ชอบเอ็ม. ลิปมันน์, นักบวชที่มีประสบการณ์และเป็นผู้ที่มีความสามารถพิเศษและเป็นนักคณิตศาสตร์ที่เก่งกาจมาก

ดูเหมือนว่าเราไม่มีคำพูดนี้ในหัวข้อ List of Statistics Quotes นั่นเป็นสาเหตุที่ฉันคิดว่ามันเป็นการดีที่จะโพสต์ไว้ที่นี่

กฎแห่งฟิสิกส์ใดที่ทำให้เกิดปรากฏการณ์ทางธรรมชาติมากมายที่มีการแจกแจงแบบปกติ ดูเหมือนง่ายกว่าที่พวกเขาจะมีการแจกแจงแบบเดียวกัน

การกระจายตัวแบบปกติเป็นเรื่องธรรมดาในวิทยาศาสตร์ธรรมชาติ คำอธิบายตามปกติคือสาเหตุที่เกิดข้อผิดพลาดในการวัดโดยใช้เหตุผลจำนวนมากหรือทฤษฎีการ จำกัด ศูนย์กลาง (CLT) ซึ่งมักจะเป็นเช่นนี้: "เนื่องจากผลการทดลองได้รับผลกระทบจากการรบกวนจำนวนมากอย่างไม่สิ้นสุดที่มาจากแหล่งที่ไม่เกี่ยวข้อง CLT แสดงให้เห็นว่าข้อผิดพลาดปกติจะกระจาย " ตัวอย่างเช่นนี่คือข้อความที่ตัดตอนมาจากวิธีการทางสถิติในการวิเคราะห์ข้อมูลโดย WJ Metzger:

ส่วนใหญ่ของสิ่งที่เราวัดนั้นอันที่จริงแล้วคือผลรวมของ rv จำนวนมาก ตัวอย่างเช่นคุณวัดความยาวของตารางด้วยไม้บรรทัด ความยาวที่คุณวัดนั้นขึ้นอยู่กับเอฟเฟ็กต์ขนาดเล็กจำนวนมาก: ออรัลแลกซ์แบบออพติคัลการปรับเทียบไม้บรรทัดอุณหภูมิมือที่จับของคุณ ฯลฯ มิเตอร์ดิจิตัลมีสัญญาณรบกวนอิเล็กทรอนิกส์ในสถานที่ต่างๆในวงจร ดังนั้นสิ่งที่คุณวัดไม่ได้เป็นเพียงสิ่งที่คุณต้องการวัด แต่เพิ่มเข้าไปในการมีส่วนร่วมเล็ก ๆ (หวังว่า) จำนวนมาก หากจำนวนเล็กน้อยที่มีขนาดใหญ่ CLT บอกเราว่ายอดรวมของพวกเขาคือการแจกแจงแบบเกาส์ นี่เป็นกรณีที่เกิดขึ้นบ่อยและเป็นเหตุผลที่ฟังก์ชั่นการแก้ปัญหามักเป็นแบบเกาส์เซียน

อย่างไรก็ตามอย่างที่คุณต้องรู้สิ่งนี้ไม่ได้หมายความว่าการกระจายทุกอย่างจะเป็นเรื่องปกติแน่นอน ยกตัวอย่างเช่นการแจกแจงปัวซองนั้นเป็นเรื่องธรรมดาในวิชาฟิสิกส์เมื่อต้องรับมือกับกระบวนการนับ ในการแจกแจงสเปกโทรสโก Cauchy (aka Breit Wigner) ใช้เพื่ออธิบายรูปร่างของสเปกตรัมรังสีและอื่น ๆ

ฉันรู้สิ่งนี้หลังจากเขียน: การแจกแจงทั้งสามที่กล่าวถึงจนถึงตอนนี้ (Gaussian, Poisson, Cauchy) นั้นมีการแจกแจงที่เสถียรโดย Poisson นั้นไม่เสถียรมีเสถียรภาพต่อเนื่องตอนนี้ที่ฉันคิดเกี่ยวกับเรื่องนี้ดูเหมือนว่าคุณภาพที่สำคัญของการแจกแจงที่จะทำให้มันรอดชีวิตจากการรวมตัวกัน: ถ้าคุณเพิ่มตัวเลขจำนวนหนึ่งจากปัวซองผลรวมคือปัวซอง นี่อาจ "อธิบาย" (ในบางแง่) ว่าทำไมมันแพร่หลายมาก

ในวิทยาศาสตร์ที่ผิดธรรมชาติคุณจะต้องระมัดระวังในการใช้การแจกแจงแบบปกติ (หรืออื่น ๆ ) ด้วยเหตุผลหลายประการ โดยเฉพาะอย่างยิ่งความสัมพันธ์และการขึ้นต่อกันเป็นปัญหาเพราะมันอาจทำลายสมมติฐานของ CLT ตัวอย่างเช่นในด้านการเงินเป็นที่รู้จักกันดีว่าหลาย ๆ ซีรี่ส์มีลักษณะเหมือนปกติ แต่มีหางที่หนักกว่าซึ่งเป็นปัญหาใหญ่ในการบริหารความเสี่ยง

ในที่สุดมีเหตุผลที่แข็งกว่าในด้านวิทยาศาสตร์ธรรมชาติที่มีการแจกแจงแบบปกติมากกว่าเหตุผล "โบกมือ" ที่ฉันอ้างถึงก่อนหน้านี้ ลองพิจารณาท่าทางของ Brownian หากแรงกระแทกนั้นมีความเป็นอิสระและไม่แน่นอนอย่างแท้จริงการกระจายของเส้นทางที่สังเกตได้จะมีการแจกแจงแบบปกติเนื่องจาก CLT ดูตัวอย่างเช่น Eq (10) ในงานที่โด่งดังของไอน์สไตน์ "การสืบสวนเรื่องทฤษฎีการเคลื่อนไหว BROWNIAN " เขาไม่ได้รำคาญที่จะเรียกมันด้วยชื่อวันนี้ว่า "เกาส์เซียน" หรือ "ปกติ"

$\Delta x$$\Delta p$$\Delta x \Delta p$

ดังนั้นอย่าแปลกใจที่ได้รับปฏิกิริยาตอบสนองที่แตกต่างกันอย่างมากต่อการใช้การแจกแจงแบบเกาส์จากนักวิจัยในสาขาต่าง ๆ ในบางสาขาเช่นฟิสิกส์คาดว่าจะมีปรากฏการณ์บางอย่างที่เชื่อมโยงกับการแจกแจงแบบเกาส์ตามทฤษฎีที่แข็งแกร่งมากซึ่งได้รับการสนับสนุนจากการสังเกตการณ์จำนวนมหาศาล ในสาขาอื่น ๆ การแจกแจงแบบปกติจะใช้เพื่อความสะดวกด้านเทคนิคคุณสมบัติทางคณิตศาสตร์ที่มีประโยชน์หรือเหตุผลที่น่าสงสัยอื่น ๆ

มีคำอธิบายที่ซับซ้อนมากเกินไปอันยิ่งใหญ่ที่นี่ ...

วิธีที่ดีที่เกี่ยวข้องกับฉันมีดังต่อไปนี้:

1. ม้วนตัวเดียวและคุณมีโอกาสเท่ากันในการหมุนแต่ละหมายเลข (1-6) และด้วยเหตุนี้ PDF คงที่

2. หมุนลูกเต๋าสองลูกแล้วรวมผลลัพธ์เข้าด้วยกันและ PDF จะไม่คงที่อีกต่อไป นี่เป็นเพราะมีชุดค่าผสม 36 ชุดและช่วงปลายทางคือ 2 ถึง 12 ความน่าจะเป็นของชุดที่ 2 คือชุดค่าเอกพจน์เฉพาะตัวที่เป็นเอกลักษณ์ของ 1 + 1 ความน่าจะเป็นของ 12 ยังมีลักษณะเฉพาะที่มันสามารถเกิดขึ้นได้ในการรวมกันของ 6 + 6 ตอนนี้เมื่อดูที่ 7 มีการรวมกันหลายอย่างเช่น 3 + 4, 5 + 2 และ 6 + 1 ( และการเปลี่ยนลำดับกลับของพวกเขา) ในขณะที่คุณทำงานห่างจากค่ากลาง (เช่น 7) จะมีชุดค่าผสมที่น้อยกว่าสำหรับ 6 และ 8 เป็นต้นไปจนกว่าคุณจะมาถึงชุดค่าผสมเอกพจน์ของ 2 และ 12 ตัวอย่างนี้ไม่ส่งผลให้มีการแจกแจงแบบปกติที่ชัดเจน คุณเพิ่มและยิ่งมีตัวอย่างมากเท่าไหร่ผลลัพธ์ก็จะมีแนวโน้มกระจายตัวแบบปกติ

3. ดังนั้นเมื่อคุณรวมช่วงของตัวแปรอิสระที่อยู่ภายใต้การเปลี่ยนแปลงแบบสุ่ม (ซึ่งแต่ละไฟล์สามารถมี PDF ของตัวเอง) ยิ่งผลลัพธ์ที่ได้จะมีแนวโน้มมากขึ้น สิ่งนี้ในเงื่อนไข Six Sigma ให้สิ่งที่เราเรียกว่า 'เสียงของกระบวนการ' นี่คือสิ่งที่เราเรียกว่าผลลัพธ์ของ 'ความแปรปรวนร่วมสาเหตุ' ของระบบและถ้าหากผลลัพธ์นั้นมีแนวโน้มเป็นปกติเราจะเรียกระบบนี้ว่า 'ในการควบคุมกระบวนการเชิงสถิติ' ในกรณีที่เอาต์พุตไม่ปกติ (เอียงหรือเลื่อน) จากนั้นเราบอกว่าระบบอยู่ภายใต้ 'การเปลี่ยนแปลงสาเหตุพิเศษ' ซึ่งมี 'สัญญาณ' บางอย่างที่มีอคติผลลัพธ์ในทางใดทางหนึ่ง

หวังว่าจะช่วย

กฎแห่งฟิสิกส์ใดที่ทำให้เกิดปรากฏการณ์ทางธรรมชาติมากมายที่มีการแจกแจงแบบปกติ

ไม่มีความเห็น. ในทางกลับกันฉันก็ไม่รู้เหมือนกันว่ามันจริงหรือจริง ๆ แล้วมีความหมายอะไรมากมาย

อย่างไรก็ตามการจัดเรียงปัญหาเล็กน้อยมีเหตุผลที่ดีที่จะคิด (นั่นคือเพื่อทำตัวอย่าง ) ปริมาณที่ต่อเนื่องซึ่งคุณเชื่อว่ามีค่าเฉลี่ยและความแปรปรวนคงที่กับการแจกแจงแบบปกติ นั่นเป็นเพราะการแจกแจงแบบปกตินั้นเป็นผลมาจากการเพิ่มเอนโทรปีให้มากที่สุดภายใต้ข้อ จำกัด ช่วงเวลาเหล่านั้น เนื่องจากการพูดอย่างหยาบ ๆ เอนโทรปีเป็นตัวชี้วัดความไม่แน่นอนซึ่งทำให้ตัวเลือก Normal เป็นรูปแบบการแจกแจงแบบไม่มีส่วนเกี่ยวข้องหรือไม่แน่นอนที่สุด

ตอนนี้ความคิดที่ว่าเราควรเลือกการกระจายโดยการเพิ่มเอนโทรปีในเรื่องข้อ จำกัด ที่รู้จักกันจริง ๆ แล้วมีการสนับสนุนทางฟิสิกส์บางอย่างในแง่ของจำนวนวิธีที่เป็นไปได้ในการเติมเต็มพวกมัน เจย์นสเกี่ยวกับกลศาสตร์สถิติเป็นการอ้างอิงมาตรฐานที่นี่

โปรดทราบว่าในขณะที่เอนโทรปีสูงสุดเป็นตัวกระตุ้นการแจกแจงแบบปกติในกรณีนี้ข้อ จำกัด ที่แตกต่างกันสามารถแสดงให้เห็นได้เพื่อนำไปสู่ตระกูลการกระจายที่แตกต่างกันเช่นเอกซ์โปเนนเชียลปัวซองทวินามเป็นต้น

Sivia and Skilling 2005 ch.5 มีการพูดคุยที่เข้าใจง่าย