ทำไมค่าเบี่ยงเบนมาตรฐานถูกกำหนดเป็น sqrt ของความแปรปรวนและไม่เป็น sqrt ของผลรวมของกำลังสองเหนือ N

วันนี้ฉันสอนชั้นสถิติเบื้องต้นและมีนักเรียนคนหนึ่งถามคำถามซึ่งฉันได้เรียบเรียงใหม่ที่นี่: "ทำไมค่าเบี่ยงเบนมาตรฐานที่กำหนดเป็น sqrt ของความแปรปรวนและไม่ใช่ผลรวมของสี่เหลี่ยมจัตุรัสเหนือ N"

เรากำหนดความแปรปรวนประชากร: $\sigma^2=\frac{1}{N}\sum{(x_i-\mu)^2}$

และค่าเบี่ยงเบนมาตรฐาน: $\sigma=\sqrt{\sigma^2}=\frac{1}{\sqrt{N}}\sqrt{\sum{(x_i-\mu)^2}}$ 2

ในความหมายที่เราจะได้มอบให้$\sigma$คือว่ามันจะช่วยให้ค่าเบี่ยงเบนเฉลี่ยของหน่วยในประชากรจากค่าเฉลี่ยของประชากรX$X$

อย่างไรก็ตามในคำจำกัดความของ sd เราหาร sqrt ของผลรวมของกำลังสองผ่าน$\sqrt{N}$ . คำถามที่นักเรียนยกคือทำไมเราไม่หาร sqrt ของ sume of squares โดย$N$แทน ดังนั้นเรามาถึงสูตรการแข่งขัน:

$$\sigma_{new}=\frac{1}{N}\sqrt{\sum{(x_i-\mu)^2}}.$$ นักเรียนให้เหตุผลว่าสูตรนี้ดูเหมือนว่าส่วนเบี่ยงเบน "เฉลี่ย" มากกว่าค่าเฉลี่ยเมื่อหารด้วย$\sqrt{N}$ในขณะที่σ$\sigma$

ฉันคิดว่าคำถามนี้ไม่ได้โง่ ฉันต้องการที่จะให้คำตอบกับนักเรียนที่ไปไกลกว่าที่บอกว่า sd หมายถึง sqrt ของความแปรปรวนซึ่งเป็นค่าเบี่ยงเบนมาตรฐานกำลังสอง ทำไมนักเรียนถึงใช้สูตรที่ถูกต้องและไม่ทำตามความคิดของเธอ?

คำถามนี้เกี่ยวข้องกับด้ายเก่าและคำตอบที่ให้ไว้ที่นี่ คำตอบมีสามทิศทาง:

1. $\sigma$คือค่าเบี่ยงเบน root-Mean-squared (RMS) ไม่ใช่ส่วนเบี่ยงเบน "ทั่วไป" จากค่าเฉลี่ย (เช่น$\sigma_{new}$ ) ดังนั้นจึงถูกกำหนดแตกต่างกัน
2. มันมีคุณสมบัติทางคณิตศาสตร์ที่ดี
3. นอกจากนี้ sqrt จะนำ "หน่วย" กลับมาสู่ระดับเดิม แต่นี้ยังจะเป็นกรณีสำหรับ$\sigma_{new}$ซึ่งแบ่งโดย$N$แทน

ทั้งสองจุดที่ 1 และ 2 มีข้อโต้แย้งในความโปรดปรานของ SD เป็น RMS แต่ผมไม่เห็นโต้แย้งกับการใช้งานของ$\sigma_{new}$ W อะไรจะเป็นข้อโต้แย้งที่ดีในการโน้มน้าวใจนักเรียนระดับเริ่มต้นเกี่ยวกับการใช้ระยะทาง RMS เฉลี่ย$\sigma$จากค่าเฉลี่ย?

There are at least three basic problems which can readily be explained to beginners:

1. The "new" SD is not even defined for infinite populations. (One could declare it always to equal zero in such cases, but that would not make it any more useful.)

2. The new SD does not behave the way an average should do under random sampling.

3. Although the new SD can be used with all mathematical rigor to assess deviations from a mean (in samples and finite populations), its interpretation is unnecessarily complicated.

1. The applicability of the new SD is limited

สามารถนำจุด (1) กลับบ้านแม้กับผู้ที่ไม่เชี่ยวชาญในการรวมโดยชี้ให้เห็นว่าเนื่องจากความแปรปรวนอย่างชัดเจนเป็นค่าเฉลี่ยเลขคณิต (ของการเบี่ยงเบนกำลังสอง) มันมีส่วนขยายที่เป็นประโยชน์ต่อแบบจำลอง สัญชาตญาณของการดำรงอยู่ของค่าเฉลี่ยเลขคณิตยังคงถือ ดังนั้นสแควร์รูท - SD ปกติ - ถูกนิยามไว้อย่างดีในกรณีเช่นนี้เช่นกันและมีประโยชน์ในบทบาทของความแปรปรวน (แบบไม่เชิงเส้น) อย่างไรก็ตามการแบ่ง SD ใหม่ที่โดยเฉลี่ยมีขนาดใหญ่โดยพลการเรนเดอร์ปัญหาทั่วไปของมันเหนือกว่าประชากร จำกัด และตัวอย่าง จำกัด : สิ่งที่ควร1/$\sqrt{N}$ต้องดำเนินการเพื่อความเท่าเทียมกันในกรณีดังกล่าวหรือไม่$1/\sqrt{N}$

2. SD ใหม่ไม่ได้เป็นค่าเฉลี่ย

สถิติที่ควรค่าแก่ชื่อ "ปานกลาง" ควรมีคุณสมบัติที่รวมเข้ากับค่าประชากรเมื่อขนาดของกลุ่มตัวอย่างสุ่มจากการเพิ่มขึ้นของประชากร ใด ๆ ที่ได้รับการแก้ไขหลาย SD จะมีคุณสมบัตินี้เพราะตัวคูณจะใช้ทั้งการคำนวณ SD ตัวอย่างและประชาชน SD (แม้ว่าจะไม่ขัดแย้งกับการโต้แย้งโดยตรงที่เสนอโดย Alecos Papadopoulos การสังเกตนี้แสดงให้เห็นว่าการโต้แย้งเป็นเพียงการสัมผัสกับปัญหาจริง) อย่างไรก็ตาม SD "ใหม่" ซึ่งมีค่าเท่ากับคูณหนึ่งตามปกติโดยรวมเป็น0ในทุกสถานการณ์เมื่อขนาดตัวอย่างNโตขึ้นมาก ดังนั้นแม้ว่าขนาดตัวอย่างคงที่ใด ๆNSD ใหม่ (ตีความอย่างเหมาะสม) คือการวัดความแปรปรวนที่เพียงพออย่างสมบูรณ์แบบโดยเฉลี่ย แต่ก็ไม่สามารถพิจารณาได้ว่าเป็นการวัดแบบสากลที่ใช้บังคับได้ด้วยการตีความเดียวกันสำหรับขนาดตัวอย่างทั้งหมดและไม่สามารถทำได้ ถูกต้องเรียกว่า "เฉลี่ย" ในแง่ที่เป็นประโยชน์ใด ๆ$1/\sqrt{N}$$0$$N$$N$

3. SD ใหม่นั้นซับซ้อนในการตีความและใช้

พิจารณาตัวอย่าง (พูด) ขนาด 4 SD ใหม่ในกรณีเหล่านี้คือ1 / $N=4$ครั้ง SD ปกติ มันจึงสนุกกับการตีความเปรียบเช่นอนาล็อกของกฎ 68-95-99 (มีประมาณ 68% ของข้อมูลที่ควรอยู่ภายในสองSDS ใหม่ของค่าเฉลี่ย 95% ของพวกเขาภายในสี่SDS ใหม่ของค่าเฉลี่ยฯลฯ; และรุ่นของความไม่เท่าเทียมกันคลาสสิกเช่น Chebychev ของจะถือ (ไม่เกิน1/k2ของข้อมูลที่สามารถนอนมากกว่า2kSDS ใหม่ออกไปจากค่าเฉลี่ยของพวกเขา) และทฤษฎีขีด จำกัด กลางสามารถปรับย้อนหลัง analogously ในแง่ของ SD ใหม่ (หนึ่งหารด้วย$1/\sqrt{N}=1/2$$1/k^2$$2k$คูณ SD ใหม่เพื่อปรับมาตรฐานตัวแปร) ดังนั้นในความหมายที่เฉพาะเจาะจงและชัดเจนนี้ไม่มีข้อผิดพลาดกับข้อเสนอของนักเรียน อย่างไรก็ตามความยากลำบากก็คือว่าข้อความเหล่านี้มี - ค่อนข้างชัดเจน - ปัจจัยของ$\sqrt{N}$2 แม้ว่าจะไม่มีปัญหาทางคณิตศาสตร์โดยธรรมชาติกับสิ่งนี้ แต่มันก็ทำให้งบและการตีความกฎหมายพื้นฐานที่ซับซ้อนที่สุดมีความซับซ้อน$\sqrt{N}=2$

---

มันเป็นจดหมายที่เกาส์และคนอื่น ๆ แต่เดิมแปรเสียนกระจายโดยใช้อย่างมีประสิทธิภาพ$\sqrt{2}\sigma$$\sqrt{2}$ times the SD to quantify the spread of a Normal random variable. This historical use demonstrates the propriety and effectiveness of using other fixed multiples of the SD in its stead.

Assume that your sample contains only two realizations. I guess an intuitive measure of dispersion would be the average absolute deviation (AAD)

$$AAD = \frac 12 (|x_1-\bar x| + |x_2-\bar x|) = ...= \frac {|x_1-x_2|}{2}$$

So we would want other measures of dispersion at the same level of units of measurement to be "close" to the above.

The sample variance is defined as

$$\sigma^2=\frac{1}{2}[(x_1-\bar x)^2 + (x_2-\bar x)^2] = \frac 12 \left[\left(\frac {x_1-x_2}{2}\right)^2 + \left(\frac {x_2-x_1}{2}\right)^2\right]$$

$$=\frac 12 \left[\frac {(x_1-x_2)^2}{4} + \frac {(x_1-x_2)^2}{4}\right]=\frac 12 \frac {(x_1-x_2)^2}{2}$$

$$=\frac 12\cdot \frac {|x_1-x_2|^2}{2}$$

To return to the original units of measurement, if we did as the student wondered/suggested,we would obtain the measure, call it $q$

$$q \equiv \frac 12\cdot \sqrt {\frac {|x_1-x_2|^2}{2}} = \frac 12 \frac {|x_1-x_2|}{\sqrt 2} = \frac 1{\sqrt 2} AAD < AAD$$

i.e. we would have "downplayed" the "intuitive" measure of dispersion, while if we have considered the standard deviation as defined,

$$SD \equiv \sqrt {\sigma^2} = \frac {|x_1-x_2|}{2} =AAD$$

Since we want to "stay as close as possible" to the intuitive measure, we should use $SD$.

ADDENDUM
Let's consider now a sample of size $n$ We have

$$n\cdot AAD = \sum_{i=1}^n |x_i-\bar x|$$

and

$$n \cdot \text{Var}(X) = \sum_{i=1}^n (x_i-\bar x)^2 = \sum_{i=1}^n |x_i-\bar x|^2$$

we can write the right-hand side of the variance expression as

$$\sum_{i=1}^n |x_i-\bar x|^2 = \left(\sum_{i=1}^n |x_i-\bar x|\right)^2 - \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|$$

$$= \left (n\cdot AAD\right)^2 - \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|$$

Then the dispersion measure $q_n$ will be

$$q_n \equiv \frac 1n \left[n^2\cdot AAD^2 - \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|\right]^{1/2}$$

$$= \left[AAD^2 - \frac 1{n^2} \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|\right]^{1/2}$$

Now think informally: note that $\sum_{j\neq i} |x_i-\bar x||x_j-\bar x|$ contains $n^2-n$ terms, and so divided by $n^2$ will left us with "one term in the second power". But also "one term in the 2nd power" is what we have in $AAD^2$: this is a primitive way to "sense" why $q_n$ will tend to zero as $n$ grows large. On the other hand the Standard Deviation as defined would be

$$SD \equiv \frac 1{\sqrt n} \left[n^2\cdot AAD^2 - \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|\right]^{1/2}$$

$$= \left[n\cdot AAD^2 - \frac 1{n} \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|\right]^{1/2}$$

Continuing are informal thinking, the first term gives us $n$ "terms in the 2nd power", while the second term gives us $n-1$ "terms in the second power" . So we will be left eventually with one such term, as $n$ grows large, and then we will take its square root.
This does not mean that the Standard Deviation as defined will equal the Average Absolute Deviation in general (it doesn't), but it does show that it is suitably defined so as to be "on a par" with it for any $n$, as well as for the case when $n\rightarrow \infty$.