นักสถิติตกลงกันว่าจะใช้ (n-1) เป็นตัวประมาณค่าที่เป็นกลางสำหรับความแปรปรวนของประชากรโดยไม่มีการจำลองอย่างไร

67

สูตรสำหรับการคำนวณความแปรปรวนมีในตัวส่วน: $(n-1)$

$s^2 = \frac{\sum_{i=1}^N (x_i - \bar{x})^2}{n-1}$

ฉันสงสัยอยู่เสมอว่าทำไม อย่างไรก็ตามการอ่านและดูวิดีโอดีๆสองสามเรื่องเกี่ยวกับ "ทำไม" ดูเหมือนว่าเป็นตัวประมาณค่าความแปรปรวนของประชากรที่ไม่เอนเอียง ในขณะที่ประเมินต่ำเกินไปและประเมินค่าความแปรปรวนของประชากรมากเกินไป $(n-1)$ $n$ $(n-2)$

สิ่งที่ฉันอยากรู้ก็คือว่าในยุคที่ไม่มีคอมพิวเตอร์ตัวเลือกนี้เกิดขึ้นได้อย่างไร มีหลักฐานทางคณิตศาสตร์จริง ๆ ที่พิสูจน์สิ่งนี้หรือว่าเป็นเชิงประจักษ์และนักสถิติได้ทำการคำนวณจำนวนมากด้วยมือเพื่อมากับ "คำอธิบายที่ดีที่สุด" ในเวลานั้น?

นักสถิติใช้สูตรนี้อย่างไรในต้นศตวรรษที่ 19 ด้วยความช่วยเหลือของคอมพิวเตอร์ ด้วยตนเองหรือมีมากเกินกว่าที่เห็นได้หรือไม่

— ปริญญาเอก
แหล่งที่มา

13

ฉันถือว่าคุณตั้งใจจะพูดว่า " โดยไม่ต้องใช้คอมพิวเตอร์" คำตอบคือ - อาจแปลกใจ - โดยใช้พีชคณิต การสืบทอดมานั้นค่อนข้างตรงไปตรงมาและในหลาย ๆ ที่มันเป็นเรื่องธรรมดาสำหรับนักเรียนสถิติที่จะได้รับมันในแบบฝึกหัด / เรียนรู้ว่ามันเป็นระดับปริญญาตรี

— Glen_b

ฉันคิดว่านี่เป็นคำอธิบายที่ดีทีเดียว: en.wikipedia.org/wiki/Variance#Sample_variance

— Verena Haunschmid

5

มีความเกี่ยวข้องอย่างใกล้ชิด: เหตุใดค่าเบี่ยงเบนมาตรฐานของตัวอย่างจึงเป็นตัวประมาณค่าแบบ

σ

$\sigma$ และคำอธิบายที่เข้าใจง่ายสำหรับการหารด้วยเมื่อคำนวณ sd?

n - 1

$n-1$ .

— whuber

ฉันได้แก้ไขสูตรของคุณเพื่อใช้และเนื่องจากในส่วนนั้นมีไว้สำหรับความแปรปรวนตัวอย่าง (สัญลักษณ์ละติน) ไม่ใช่ความแปรปรวนประชากร (สัญลักษณ์กรีก)

s^{2}

$s^{2}$

\bar{x}

$\bar{x}$

n - 1

$n-1$

— Alexis

40

การแก้ไขเรียกว่าการแก้ไขของ Besselและมีหลักฐานทางคณิตศาสตร์ โดยส่วนตัวแล้วฉันได้รับการสอนวิธีที่ง่าย: การใช้คือวิธีที่คุณแก้ไขอคติของ (ดูที่นี่ ) $n-1$ $E[\frac{1}{n}\sum_1^n(x_i - \bar x)^2]$

นอกจากนี้คุณยังสามารถอธิบายการแก้ไขตามแนวคิดขององศาอิสระไม่จำเป็นต้องทำการจำลองสถานการณ์

— Mugen
แหล่งที่มา

15

หลักฐานทางเลือก # 3 มีคำอธิบายที่ใช้งานง่ายสวยงามที่แม้แต่คนธรรมดาก็สามารถเข้าใจได้ แนวคิดพื้นฐานคือค่าเฉลี่ยตัวอย่างไม่เหมือนกับค่าเฉลี่ยประชากร การสังเกตของคุณจะใกล้เคียงกับค่าเฉลี่ยตัวอย่างมากกว่าค่าเฉลี่ยของประชากรและท้ายที่สุดการประเมินค่าเหล่านั้นต่ำกว่าคำที่มีคำศัพท์ นี่อาจเป็นที่ชัดเจนสำหรับคนส่วนใหญ่ แต่ฉันไม่เคยคิดเกี่ยวกับ "ปรีชา" ว่าทำไมความแปรปรวนตัวอย่างแบบเอนเอียงจึงมีอคติจนถึงปัจจุบัน ฉันเรียนรู้การพิสูจน์อย่างเป็นทางการเท่านั้น

(x_{i} - μ)^{2}

$(x_i - \mu)^2$

(x_{i} - \bar{x})^{2}

$(x_i - \bar{x})^2$

— WetlabStudent

2

นอกจากนี้ยังมีวิธีการเชิงเรขาคณิตที่จะต้องแก้ไขด้วย n-1 (อธิบายอย่างดีใน Saville และ Wood: วิธีการทางสถิติ: The Geometric Approach) กล่าวโดยเร็ว: ตัวอย่างของ n ถือได้ว่าเป็นพื้นที่ข้อมูล n-Dim จุดตัวอย่างเวกเตอร์เพิ่มลงในเวกเตอร์ที่สังเกตซึ่งสามารถแยกย่อยเป็นโมเดลเวกเตอร์ที่มี p-dimension ที่สอดคล้องกับพารามิเตอร์ p และเวกเตอร์ข้อผิดพลาดที่มีมิติ np การพังทลายของพีทาโกรัสที่สอดคล้องกันของเวกเตอร์ข้อผิดพลาดมีกำลังสอง np ซึ่งค่าเฉลี่ยเป็นการวัดความแปรปรวน

— Giordano

ฉันจะให้ลิงก์ที่สวยงามซึ่งมีคำอธิบายสั้น ๆ : en.wikipedia.org/wiki/Bias_of_an_estimator

— Christina

คุณสามารถอธิบายว่าทำไมในหลักฐาน (เลือก 3) เราคิดว่าทั้งความแปรปรวนที่แท้จริงและความลำเอียงคำนวณโดยใช้ 's? ปัญหาความแปรปรวนที่แตกต่างกันเกิดขึ้นเมื่อเรามีประชากร (ที่มีความแปรปรวนจริง) และตัวอย่าง (ที่มีความแปรปรวนแบบเอนเอียง) แต่ถ้าเราคำนวณความแปรปรวนของข้อมูลเดียวกันนั่นคือทำไมพวกเขาถึงแตกต่างกัน มีเราคิดว่าเป็นความแปรปรวนจริงคำนวณโดยใช้เดียวกันว่า 's เป็นลำเอียงหนึ่ง 2 ฉันไม่เห็นด้วยกับหลักฐานนี้ โปรดช่วยฉันทำอะไรหายไป?

n

$n$

x

$x$

x_{1}, x_{2}, . . ., x_{n}

$x_1, x_2, ... , x_n$

σ^{2}

$\sigma^2$

x

$x$

s_{biased}^{2}

$s_\text{biased}^2$

— Turkhan Badalov

56

หลักฐานส่วนใหญ่ที่ฉันได้เห็นนั้นเรียบง่ายพอที่เกาส์ (แต่เขาทำ) อาจจะพบว่ามันค่อนข้างง่ายที่จะพิสูจน์

ฉันกำลังมองหาที่มาใน CV ที่ฉันสามารถเชื่อมโยงคุณไปยัง (มีจำนวนลิงค์ไปยังหลักฐานนอกสถานที่รวมถึงอย่างน้อยหนึ่งคำตอบที่นี่) แต่ฉันไม่พบที่นี่ใน CV ใน การค้นหาสองสามครั้งดังนั้นเพื่อความสมบูรณ์ฉันจะให้แบบง่ายๆ ด้วยความเรียบง่ายจึงง่ายที่จะเห็นว่าผู้คนจะเริ่มใช้สิ่งที่มักเรียกว่าการแก้ไขของเบสเซลได้อย่างไร

สิ่งนี้ต้องใช้เป็นความรู้ที่สันนิษฐานและสันนิษฐานว่าเป็นที่รู้กันว่าคุณสมบัติความแปรปรวนพื้นฐานสองสามข้อแรก $E(X^2)=\text{Var}(X) + E(X)^2$

\begin{array}{rcl} E [\sum_{i = 1}^{n} (x_{i} - \bar{x})^{2}] & = & E [\sum_{i = 1}^{n} x_{i}^{2} - 2 \bar{x} \sum_{i = 1}^{n} x_{i} + n {\bar{x}}^{2}] \\ = & E [\sum_{i = 1}^{n} x_{i}^{2} - n {\bar{x}}^{2}] \\ = & n E [x_{i}^{2}] - n E [{\bar{x}}^{2}] \\ = & n (μ^{2} + σ^{2}) - n (μ^{2} + σ^{2} / n) \\ = & (n - 1) σ^{2} \end{array}

$\begin{eqnarray} E[\sum_{i=1}^{n} (x_i-\bar x)^2] &=& E[\sum_{i=1}^{n} x_i^2-2\bar x\sum_{i=1}^{n} x_i+n\bar{x}^2]\\ &=& E[\sum_{i=1}^{n} x_i^2-n\bar{x}^2] \\ &=& n E[x_i^2]- n E[\bar{x}^2]\\ &=& n (\mu^2 + \sigma^2) - n(\mu^2+\sigma^2/n)\\ &=& (n-1) \sigma^2 \end{eqnarray}$

— Glen_b
แหล่งที่มา

1

คุณสมบัติใดที่ทำให้คำหายไป?

- 2 \bar{x} \sum_{i = 1}^{n} x_{i}

$-2\bar{x}\sum_{i=1}^{n}x_i$

— Ciprian Tomoiagă

3

มันไม่ได้หายไป คุณสังเกตเห็นสัญญาณของคำสุดท้ายเปลี่ยนไปหรือไม่

— Glen_b

1

(+1) ฉันเพิ่งได้ยินหลักฐานที่ดีว่าฉันพบว่าใช้งานง่ายยิ่งขึ้น ตัวอย่างความแปรปรวนพร้อมกับปัจจัยสามารถแสดงอีกครั้งเป็นค่าเฉลี่ยของความแตกต่างยกกำลังสองทั้งหมดระหว่างจุดคู่ทั้งหมด ตอนนี้สังเกตุว่าคู่ที่จุดเดียวกันเข้ามาสองครั้งนั้นเป็นศูนย์ทั้งหมดและอคตินี้จะแสดงออก ดูเหมือนว่ามีเหตุผลที่จะแก้ไขอคติโดยการแยกคู่ทั้งหมดเหล่านี้ออกจากผลรวมคู่และเฉลี่ยเพียงส่วนที่เหลือทั้งหมด สิ่งนี้ทำให้การแก้ไขของ Bessel

1 / n

$1/n$

— อะมีบากล่าวว่า Reinstate Monica

1

ไม่ไม่เป็นไรคิดออก ดังนั้นคุณเพียงแค่ใช้ข้อมูลประจำตัวเดียวกันกับที่คุณกล่าวถึงข้างต้นกับคำทั้งสองในบรรทัด 3

V [\bar{x}] = \frac{V [x]}{n}

$V[\bar{x}] = \frac{V[x]}{n}$

— โทร

1

ตัวแปร iid ใด ๆ มีช่วงเวลาวินาทีที่เหมือนกัน เราไปจากการพูดคุยเกี่ยวกับพวกเขาทั้งหมดเพื่อพูดคุยเกี่ยวกับหนึ่งในพวกเขา คุณสามารถที่จะถ่ายได้อย่างง่ายดาย(และบางคนทำ) หรือหรือ ... แต่ฉันได้นำ th

x_{1}

$x_1$

x_{2}

$x_2$

x_{n}

$x_n$

i

$i$

— Glen_b

37

ตาม Weisstein โลกคณิตศาสตร์มันก็พิสูจน์ให้เห็นเป็นครั้งแรกโดย Gauss ใน 1823 อ้างอิงเป็นปริมาณที่ 4 ของเกาส์ Werke ซึ่งสามารถอ่านได้ที่https://archive.org/details/werkecarlf04gausrich ดูเหมือนว่าหน้าเว็บที่เกี่ยวข้องจะเป็น 47-49 ดูเหมือนว่าเกาส์จะตรวจสอบคำถามและสร้างหลักฐานขึ้นมา ฉันไม่ได้อ่านละติน แต่มีบทสรุปภาษาเยอรมันในข้อความ หน้า 103-104 อธิบายสิ่งที่เขาทำ (แก้ไข: ฉันเพิ่มคำแปลคร่าวๆ):

Allein da man nicht berechtigt ist, ตาย sichersten Werthe füterensübensübensübütütsüben, kühleren, sübülbensüben, sübensüben, süb, süb, süb, süb, süb, süb, süb, süb, süb, süb, süb, süb, süben als sie wirklich besitzen [แต่เนื่องจากไม่มีสิทธิ์ในการรักษาค่าที่เป็นไปได้มากที่สุดราวกับว่ามันเป็นค่าจริงเราสามารถโน้มน้าวตัวเองได้อย่างง่ายดายว่าจะต้องพบว่าข้อผิดพลาดที่น่าจะเป็นไปได้มากที่สุดและค่าเฉลี่ยผิดพลาดน้อยเกินไป มีความแม่นยำมากกว่าที่เป็นจริง]

ดูเหมือนว่ามันจะเป็นที่รู้กันดีว่าความแปรปรวนตัวอย่างเป็นค่าประมาณของความแปรปรวนประชากรแบบเอนเอียง บทความกล่าวต่อไปว่าความแตกต่างระหว่างคนทั้งสองมักจะถูกมองข้ามเพราะมันไม่สำคัญหากขนาดตัวอย่างใหญ่พอ จากนั้นมันก็บอกว่า:

Der Verfasser hat daher dieen Gegenstand eine besondere Untersuchung unterworfen, die zu einem sehr Merkwuerdigen hoechst einfachen ส่งผลให้หมวก gefuehrt คน braucht nemlich den nach พวกเขา angezeigten fahlerhaften Verfahren gefundenen mittleren Fehler, um ihn ในตาย richtigen zu verwandeln, nur mit

$\sqrt{\frac{π - ρ}{π}}$ $\sqrt{\frac{\pi-\rho}{\pi}}$
zu multiplicieren, woตาย Anzahl der beobachtungen (จำนวนการสังเกต) undตาย Anzahl der unbekannten groessen (จำนวนผู้ไม่ทราบ) [ผู้เขียนได้ทำการศึกษาพิเศษของวัตถุนี้ซึ่งนำไปสู่ผลลัพธ์ที่แปลกและง่ายมาก กล่าวคือเราต้องการเพียงแค่เพิ่มจำนวนความคลาดเคลื่อนเฉลี่ยที่พบโดยกระบวนการที่ผิดพลาดข้างต้นโดย (นิพจน์ที่กำหนด) เพื่อเปลี่ยนเป็นด้านขวาโดยที่คือจำนวนการสังเกตและคือจำนวนที่ไม่รู้จัก] $\pi$ $\rho$ $\pi$ $\rho$

ดังนั้นหากนี่เป็นครั้งแรกที่พบการแก้ไขแล้วดูเหมือนว่ามันถูกค้นพบโดยการคำนวณอย่างชาญฉลาดโดย Gauss แต่ผู้คนต่างตระหนักดีว่าจำเป็นต้องมีการแก้ไขบางอย่างดังนั้นอาจมีบางคนที่เคยพบมาก่อน . หรือผู้เขียนก่อนหน้านี้อาจไม่สนใจคำตอบที่แม่นยำเพราะพวกเขาทำงานกับชุดข้อมูลขนาดใหญ่พอสมควร

สรุป: ด้วยตนเอง แต่ผู้คนรู้แล้วว่าในตัวส่วนนั้นไม่ถูกต้อง $n$

— Flounderer
แหล่งที่มา

หากมีใครสามารถแปลภาษาเยอรมันได้นั่นก็คงจะดี ฉันคนหนึ่งไม่อ่านภาษาเยอรมัน

— Faheem Mitha

2

ใช่ Google Translate ทำงานได้ไม่ดีนักเนื่องจากข้อผิดพลาดในการสะกดของฉัน! ฉันจะเพิ่มความพยายามในการแปล; มันจะเป็นวิธีที่ดีในการฝึกฝนภาษาเยอรมันของฉัน

— Flounderer

14

สำหรับฉันปรีชาชิ้นเดียวก็คือ

\begin{matrix} The degree to which \\ X_{i} varies from \bar{X} \end{matrix} + \begin{matrix} The degree to which \\ \bar{X} varies from μ \end{matrix} = \begin{matrix} The degree to which \\ X_{i} varies from μ . \end{matrix}

$\begin{array}{c} \mbox{The degree to which}\\ X_{i}\mbox{ varies from }\bar{X} \end{array}+\begin{array}{c} \mbox{The degree to which}\\ \bar{X}\mbox{ varies from }\mu \end{array}=\begin{array}{c} \mbox{The degree to which }\\ X_{i}\mbox{ varies from }\mu. \end{array}$

นั่นคือ,

E [{(X_{i} - \bar{X})}^{2}] + E [{(\bar{X} - μ)}^{2}] = E [{(X_{i} - μ)}^{2}] .

$\mathbf{E}\left[\left(X_{i}-\bar{X}\right)^{2}\right]+\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]=\mathbf{E}\left[\left(X_{i}-\mu\right)^{2}\right].$

การพิสูจน์สมการข้างต้นใช้พีชคณิตเล็กน้อย (พีชคณิตนี้คล้ายกับคำตอบของ @ Glen_b ด้านบน) แต่สมมติว่าเป็นเรื่องจริงเราสามารถจัดเรียงใหม่เพื่อรับ:

E [{(X_{i} - \bar{X})}^{2}] = \underset{σ^{2}}{\underset{⏟}{E [{(X_{i} - μ)}^{2}]}} - \underset{\frac{σ^{2}}{n}}{\underset{⏟}{E [{(\bar{X} - μ)}^{2}]}} = \frac{n - 1}{n} σ^{2} .

$\mathbf{E}\left[\left(X_{i}-\bar{X}\right)^{2}\right]=\underset{\sigma^{2}}{\underbrace{\mathbf{E}\left[\left(X_{i}-\mu\right)^{2}\right]}}-\underset{\frac{\sigma^{2}}{n}}{\underbrace{\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]}}=\frac{n-1}{n}\sigma^2.$

สำหรับฉันปรีชาอีกชิ้นหนึ่งก็คือการใช้แทนแนะนำอคติ และอคตินี้เท่ากับว่าจะ{n} $\bar{X}$ $\mu$ $\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]=\frac{\sigma^2}{n}$

— Kenny LJ
แหล่งที่มา

12

คำตอบส่วนใหญ่อธิบายอย่างละเอียดแล้ว แต่นอกเหนือจากคำอธิบายนั้นมีภาพประกอบง่าย ๆ ที่สามารถช่วยได้:

สมมติว่าคุณได้รับและสามตัวเลขแรกคือ: $n=4$

$8,4,6$ , _

ตอนนี้ตัวเลขสี่สามารถเป็นอะไรก็ได้เนื่องจากไม่มีข้อ จำกัด ตอนนี้พิจารณาสถานการณ์เมื่อคุณจะได้รับที่และแล้วถ้าสามตัวแรกตัวเลข:แล้วจำนวนสี่จะต้องมี6 $n=4$ $\bar x=6$ $8,4,6$ $6$

นี่เป็นการบอกว่าถ้าคุณรู้ค่าและ , ดังนั้นค่านั้นไม่มีอิสระ ดังนั้นจึงเป็นตัวประมาณค่าที่เป็นกลาง $n-1$ $\bar x$ $nth$ $n-1$

— Satwik Bhattamishra
แหล่งที่มา