สัญชาตญาณ (เรขาคณิตหรืออื่น ๆ ) ของ

19

พิจารณาตัวตนเบื้องต้นของความแปรปรวน:

\begin{array}{rcl} V a r (X) & = & E [(X - E [X])^{2}] \\ = & . . . \\ = & E [X^{2}] - (E [X])^{2} \end{array}

$\begin{eqnarray} Var(X) &=& E[(X - E[X])^2]\\ &=& ...\\ &=& E[X^2] - (E[X])^2 \end{eqnarray}$

มันเป็นการจัดการเชิงพีชคณิตอย่างง่าย ๆ ของการนิยามของโมเมนต์ศูนย์กลางในช่วงเวลาที่ไม่เกี่ยวข้อง

ช่วยให้การจัดการในบริบทอื่น ๆ สะดวกขึ้น นอกจากนี้ยังช่วยให้การคำนวณความแปรปรวนผ่านการส่งผ่านข้อมูลครั้งเดียวมากกว่าการส่งผ่านสองครั้งแรกเพื่อคำนวณค่าเฉลี่ยแล้วทำการคำนวณความแปรปรวน $Var(X)$

แต่มันหมายความว่าอะไร? สำหรับฉันไม่มีสัญชาตญาณทางเรขาคณิตทันทีที่เกี่ยวข้องกับการแพร่กระจายเกี่ยวกับค่าเฉลี่ยในการแพร่กระจายประมาณ 0 เป็นเป็นชุดในมิติเดียวคุณจะดูการแพร่กระจายรอบค่าเฉลี่ยเป็นความแตกต่างระหว่างการแพร่กระจายรอบต้นกำเนิดและสี่เหลี่ยมจัตุรัส หมายความว่าอย่างไร $X$

มีการตีความพีชคณิตเชิงเส้นที่ดีหรือการตีความทางกายภาพหรืออื่น ๆ ที่จะให้ข้อมูลเชิงลึกเกี่ยวกับตัวตนนี้หรือไม่?

variance descriptive-statistics intuition

— มิทช์
แหล่งที่มา

7

คำแนะนำ: นี่คือทฤษฎีบทพีทาโกรัส

— whuber

1

@ แมทธิวฉันสงสัยว่า " " หมายถึงอะไร ฉันสงสัยว่ามันไม่ได้เป็นความคาดหวัง แต่แค่จดชวเลขสำหรับค่าเฉลี่ยเลขคณิต มิฉะนั้นสมการจะไม่ถูกต้อง (และเกือบไร้ความหมายเนื่องจากพวกเขาจะถือเอาตัวแปรสุ่มด้วยตัวเลข)

E

$E$

— whuber

2

@whuber เนื่องจากผลิตภัณฑ์ภายในแนะนำแนวคิดของระยะทางและมุมและผลิตภัณฑ์ภายในของปริภูมิเวกเตอร์ของตัวแปรสุ่มที่มีมูลค่าจริงถูกกำหนดเป็น (?) ฉันสงสัยว่าสัญชาตญาณทางเรขาคณิตบางอย่างอาจให้ผ่าน ความไม่เท่าเทียมกันของสามเหลี่ยม ฉันไม่รู้ว่าจะดำเนินการต่อไปอย่างไร แต่ฉันสงสัยว่ามันสมเหตุสมผลหรือไม่

E [X Y]

$\mathbb E[XY]$

— Antoni Parellada

1

@Antoni ความไม่เท่าเทียมกันของสามเหลี่ยมนั้นกว้างเกินไป ผลิตภัณฑ์ชั้นในเป็นวัตถุพิเศษมากกว่า โชคดีที่สัญชาตญาณทางเรขาคณิตที่เหมาะสมนั้นแม่นยำของเรขาคณิตแบบยุคลิด ยิ่งไปกว่านั้นในกรณีของตัวแปรสุ่มและเรขาคณิตที่จำเป็นสามารถถูก จำกัด อยู่ในพื้นที่เวกเตอร์จริงสองมิติที่สร้างโดยและ : นั่นคือระนาบแบบยุคลิด ในอินสแตนซ์ปัจจุบันไม่ปรากฏว่าเป็น RV: มันเป็นเพียงแค่ -vector ที่นี่พื้นที่ที่ถูกทอดโดยและคือระนาบแบบยุคลิดที่ซึ่งเรขาคณิตทั้งหมดเกิดขึ้น

X

$X$

Y

$Y$

X

$X$

Y

$Y$

X

$X$

n

$n$

X

$X$

(1, 1, \dots, 1)

$(1,1,\ldots, 1)$

— เสียงหวือ

3

การตั้งค่าในคำตอบที่ฉันเชื่อมโยงและหารคำทั้งหมดด้วย (หากคุณต้องการ) จะให้โซลูชันพีชคณิตแบบเต็มสำหรับคุณสำหรับความแปรปรวน: ไม่มีเหตุผลที่จะคัดลอกทั้งหมดอีกครั้ง นั่นเป็นเพราะคือค่าเฉลี่ยเลขคณิตของ , ดังนั้นเป็นเพียงความแปรปรวนตามที่คุณนิยามไว้ที่นี่,คือคูณ ค่าเฉลี่ยกำลังสองและคือคูณค่าเฉลี่ยเลขคณิตของค่ากำลังสอง

{\hat{β}}_{1} = 0

$\hat\beta_1=0$

n

$n$

{\hat{β}}_{0}

$\hat\beta_0$

y

$y$

| | y - \hat{y} | |^{2}

$||y-\hat y||^2$

n

$n$

| | \hat{y} | |^{2}

$||\hat y||^2$

n

$n$

| | y | |^{2}

$||y||^2$

n

$n$

— whuber

21

การขยายจุดของ @ whuber ในความคิดเห็นถ้าและเป็นมุมฉากคุณมีทฤษฎีบทพีทาโกรัส : $Y$ $Z$

‖ Y ‖^{2} + ‖ Z ‖^{2} = ‖ Y + Z ‖^{2}

$\|Y\|^2 + \|Z\|^2 = \|Y + Z\|^2$

สังเกตว่าเป็นผลิตภัณฑ์ภายในที่ถูกต้องและนั่นเป็นบรรทัดฐานที่เกิดจากผลิตภัณฑ์ภายในนั้น $\langle Y, Z \rangle \equiv \mathrm{E}[YZ]$ $\|Y\| = \sqrt{\mathrm{E}[Y^2]}$

ให้เป็นตัวแปรสุ่ม Letให้[X] ถ้าและเป็นมุมฉาก: $X$ $Y = \mathrm{E}[X]$ $Z = X - \mathrm{E}[X]$ $Y$ $Z$

\begin{aligned} ‖ Y ‖^{2} + ‖ Z ‖^{2} = ‖ Y + Z ‖^{2} \\ \Leftrightarrow & E [E [X]^{2}] + E [(X - E [X])^{2}] = E [X^{2}] \\ \Leftrightarrow & {E [X]}^{2} + V a r [X] = E [X^{2}] \end{aligned}

$\begin{align*} & \|Y\|^2 + \|Z\|^2 = \|Y + Z\|^2 \\ \Leftrightarrow \quad&\mathrm{E}[\mathrm{E}[X]^2] + \mathrm{E}[(X - \mathrm{E}[X])^2] = \mathrm{E}[X^2] \\ \Leftrightarrow \quad & \mathrm{E[X]}^2 + \mathrm{Var}[X]= \mathrm{E}[X^2] \end{align*}$

และมันง่ายที่จะแสดงให้เห็นว่าและเป็นมุมฉากภายใต้ผลิตภัณฑ์ด้านในนี้: $Y = \mathrm{E}[X]$ $Z = X - \mathrm{E}[X]$

⟨ Y, Z ⟩ = E [E [X] (X - E [X])] = E [X]^{2} - E [X]^{2} = 0

$\langle Y, Z \rangle = \mathrm{E}[\mathrm{E}[X]\left(X - \mathrm{E}[X] \right)] = \mathrm{E}[X]^2 - \mathrm{E}[X]^2 = 0$

ขาข้างหนึ่งของรูปสามเหลี่ยมที่มีการขาอื่น ๆ ที่เป็นและด้านตรงข้ามมุมฉากคือXและทฤษฎีบทพีทาโกรัสสามารถใช้ได้เพราะตัวแปรสุ่มที่ลดทอนลงนั้นเป็นฉากตั้งฉากกับค่าเฉลี่ยของมัน $X - \mathrm{E}[X]$ $\mathrm{E}[X]$ $X$

หมายเหตุทางเทคนิค:

$Y$ ในตัวอย่างนี้ควรเป็นเวกเตอร์นั่นคือสเกลาร์คูณเวกเตอร์คงที่ (เช่นในกรณีผลลัพธ์ที่ไม่ต่อเนื่อง, จำกัด ) คือการฉายเวกเตอร์ของบนเวกเตอร์คงที่{1} $Y = \mathrm{E}[X] \mathbf{1}$ $\mathrm{E}[X]$ $\mathbf{1}$ $\mathbf{1} = [1, 1, 1, \ldots, 1]'$ $Y$ $X$ $\mathbf{1}$

ตัวอย่างง่ายๆ

พิจารณากรณีที่เป็นตัวแปรสุ่ม Bernoulliที่0.2 เรามี: $X$ $p = .2$

X = [\begin{matrix} 1 \\ 0 \end{matrix}] P = [\begin{matrix} .2 \\ .8 \end{matrix}] E [X] = \sum_{i} P_{i} X_{i} = .2

$X = \begin{bmatrix} 1 \\ 0 \end{bmatrix} \quad P = \begin{bmatrix} .2 \\ .8 \end{bmatrix} \quad \mathrm{E}[X] = \sum_i P_iX_i = .2$

Y = E [X] 1 = [\begin{matrix} .2 \\ .2 \end{matrix}] Z = X - E [X] = [\begin{matrix} .8 \\ - .2 \end{matrix}]

$Y = \mathrm{E}[X]\mathbf{1} = \begin{bmatrix} .2 \\ .2 \end{bmatrix} \quad Z = X - \mathrm{E}[X] = \begin{bmatrix} .8 \\ -.2 \end{bmatrix}$

และภาพคือ:

ขนาดกำลังสองของเวกเตอร์แดงคือความแปรปรวนของ , กำลังสองของเวกเตอร์สีน้ำเงินคือ , และกำลังสองของเวกเตอร์สีเหลืองคือ . $X$ $\mathrm{E}[X]^2$ $\mathrm{E}[X^2]$

โปรดจำไว้ว่าที่เคาะเหล่านี้ตั้งฉาก ฯลฯ ... ไม่ได้เกี่ยวกับสินค้า dot ปกติแต่สินค้าภายในP_iY_iZ_i ขนาดของเวกเตอร์สีเหลืองไม่ใช่ 1 มันคือ. 2 $\sum_i Y_iZ_i$ $\sum_i P_iY_iZ_i$

เวกเตอร์สีแดงและเวกเตอร์สีน้ำเงินตั้งฉากใต้ผลิตภัณฑ์ภายในแต่พวกมันไม่ได้ตั้งฉากในอินโทร ความรู้สึกเรขาคณิตของโรงเรียนมัธยม จำไว้ว่าเราไม่ได้ใช้ผลิตภัณฑ์ dot ปกติเป็นผลิตภัณฑ์ชั้นใน! $Y = \mathrm{E}[X]$ $Z = X - \mathrm{E}[X]$ $\sum_i P_i Y_i Z_i$ $\sum_i Y_i Z_i$

— Matthew Gunn
แหล่งที่มา

นั่นเป็นสิ่งที่ดีจริงๆ!

— Antoni Parellada

1

คำตอบที่ดี (+1) แต่มันไม่มีรูปร่างและอาจจะสับสนเล็กน้อยสำหรับ OP เพราะ Z ของคุณคือ X ...

— อะมีบาพูดว่า Reinstate Monica

@ MatthunGunn คำตอบที่ดี คุณสามารถตรวจสอบคำตอบของฉันด้านล่างสำหรับการเป็นตัวแทนที่ฉาก orthogonality อยู่ในความหมายแบบยุคลิด

— YBE

ฉันเกลียดที่จะป้าน แต่ฉันมีปัญหาในการรักษา ,และทิศทางของตรรกะตรง ('เพราะ' มาในสถานที่ที่ไม่สมเหตุสมผลกับฉัน) มันให้ความรู้สึกเหมือนข้อเท็จจริงจำนวนมาก ผลิตภัณฑ์ด้านในมีพื้นที่อะไร ทำไม1 ?

Z

$Z$

V a r (X)

$Var(X)$

— มิทช์

@Mitch ลำดับเชิงตรรกะคือ: (1) สังเกตว่าช่องว่างน่าจะเป็นตัวกำหนดพื้นที่เวกเตอร์; เราสามารถใช้ตัวแปรสุ่มเป็นเวกเตอร์ได้ (2) กำหนดสินค้าภายในของตัวแปรสุ่มและเป็น[YZ] ในพื้นที่ภายในของผลิตภัณฑ์เวกเตอร์และถูกนิยามเป็น orthogonal หากผลิตภัณฑ์ภายในของพวกมันเป็นศูนย์ (3a) ให้เป็นตัวแปรสุ่ม (3b) ให้และ[X] (4) สังเกตว่าและนิยามไว้ด้วยวิธีนี้เป็นมุมฉาก (5) ตั้งแต่และ

Y

$Y$

Z

$Z$

E [Y Z]

$E[YZ]$

Y

$Y$

Z

$Z$

X

$X$

Y = E [X]

$Y = E[X]$

Z = X - E [X]

$Z = X - E[X]$

Y

$Y$

Z

$Z$

Y

$Y$

Z

$Z$ เป็นมุมฉาก, ทฤษฎีบทพีทาโกรัสนำมาใช้ (6) โดยพีชคณิตอย่างง่าย, ทฤษฎีบทพีทาโกรัสเทียบเท่ากับตัวตน

— Matthew Gunn

8

ฉันจะใช้วิธีทางเรขาคณิตล้วนๆสำหรับสถานการณ์ที่เฉพาะเจาะจง ขอให้เราพิจารณาไม่ต่อเนื่องมูลค่าตัวแปรสุ่มสละค่ากับความน่าจะเป็นP_2) เรายังจะคิดว่าตัวแปรสุ่มนี้สามารถแสดงในเป็นเวกเตอร์ขวา) $X$ $\{x_1,x_2\}$ $(p_1,p_2)$ $\mathbb{R}^2$ $\mathbf{X} = \left(x_1\sqrt{p_1},x_2\sqrt{p_2} \right)$

สังเกตว่าระยะเวลาในตารางของเป็นซึ่งเท่ากับ2] ดังนั้น2]} $\mathbf{X}$ $x_1^2p_1+x_2^2p_2$ $E[X^2]$ $\left\| \mathbf{X} \right\| = \sqrt{E[X^2]}$

ตั้งแต่ส่วนปลายของเวคเตอร์จะติดตามวงรีจริงๆ นี้จะกลายเป็นเรื่องง่ายที่จะดูว่า reparametrizesและเป็นและtheta) ดังนั้นเราจึงมีและtheta) $p_1+p_2=1$ $\mathbf{X}$ $p_1$ $p_2$ $\cos^2(\theta)$ $\sin^2(\theta)$ $\sqrt{p_1} =\cos(\theta)$ $\sqrt{p_2} = \sin(\theta)$

วิธีหนึ่งในการวาดรูปวงรีผ่านกลไกที่เรียกว่าอุปสรรคของ Archimedes ตามที่อธิบายไว้ในวิกิ: มันประกอบไปด้วยรถรับส่งสองอันซึ่งถูกกักตัว ("แทรมเมล") ไปยังช่องทางตั้งฉากหรือทางรถไฟ ในขณะที่รถรับส่งเคลื่อนที่ไปมาแต่ละคนจะไปตามช่องทางปลายคันจะเคลื่อนที่ในเส้นทางรูปไข่ หลักการนี้แสดงไว้ในรูปด้านล่าง

ตอนนี้ให้เราวิเคราะห์เรขาคณิตหนึ่งตัวอย่างของกีดกั้นนี้เมื่อรถรับส่งในแนวตั้งที่และรถรับส่งในแนวนอนที่ขึ้นรูปมุมของ\เนื่องจากการก่อสร้างและ , (ที่นี่จะถือว่า wlog) $A$ $B$ $\theta$ $\left|BX\right| = x_2$ $\left| AB \right| = x_1-x_2$ $\forall \theta$ $x_1\geq x_2$

ขอเราวาดเส้นจากจุดกำเนิดที่ตั้งฉากกับแกน หนึ่งสามารถแสดงว่าtheta) สำหรับตัวแปรสุ่มเฉพาะนี้ ดังนั้น ระยะทางที่ตั้งฉากจากจุดเริ่มต้นที่จะคันเป็นจริงเท่ากับส่วนเบี่ยงเบนมาตรฐาน\ $OC$ $\left| OC \right|=(x_1-x_2) \sin(\theta) \cos(\theta)$

\begin{array}{rcl} V a r (X) & = & (x_{1}^{2} p_{1} + x_{2}^{2} p_{2}) - (x_{1} p_{1} + x_{2} p_{2})^{2} \\ = & x_{1}^{2} p_{1} + x_{2}^{2} p_{2} - x_{1}^{2} p_{1}^{2} - x_{2}^{2} p_{2}^{2} - 2 x_{1} x_{2} p_{1} p_{2} \\ = & x_{1}^{2} (p_{1} - p_{1}^{2}) + x_{2}^{2} (p_{2} - p_{2}^{2}) - 2 x_{1} x_{2} p_{1} p_{2} \\ = & p_{1} p_{2} (x_{1}^{2} - 2 x_{1} x_{2} + x_{2}^{2}) \\ = & {[(x_{1} - x_{2}) \sqrt{p_{1}} \sqrt{p_{2}}]}^{2} = {| O C |}^{2} \end{array}

$\begin{eqnarray} Var(X) &=& (x_1^2p_1 +x_2^2p_2) - (x_1p_1+x_2p_2)^2 \\ &=& x_1^2p_1 +x_2^2p_2 - x_1^2p_1^2 - x_2^2p_2^2 - 2x_1x_2p_1p_2 \\ &=& x_1^2(p_1-p_1^2) + x_2^2(p_2-p_2^2) - 2x_1x_2p_1p_2 \\ &=& p_1p_2(x_1^2- 2x_1x_2 + x_2^2) \\ &=& \left[(x_1-x_2)\sqrt{p_1}\sqrt{p_2}\right]^2 = \left|OC \right|^2 \end{eqnarray}$

| O C |

$\left|OC \right|$

σ

$\sigma$

หากเราคำนวณความยาวของเซกเมนต์จากถึง : $C$ $X$

\begin{array}{rcl} | C X | & = & x_{2} + (x_{1} - x_{2}) \cos^{2} (θ) \\ = & x_{1} \cos^{2} (θ) + x_{2} \sin^{2} (θ) \\ = & x_{1} p_{1} + x_{2} p_{2} = E [X] \end{array}

$\begin{eqnarray} \left|CX\right| &=& x_2 + (x_1-x_2)\cos^2(\theta) \\ &=& x_1\cos^2(\theta) +x_2\sin^2(\theta) \\ &=& x_1p_1 + x_2p_2 = E[X] \end{eqnarray}$

การใช้ทฤษฎีบทพีทาโกรัสในสามเหลี่ยม OCX เราลงท้ายด้วย

E [X^{2}] = V a r (X) + E [X]^{2} .

$\begin{equation} E[X^2] = Var(X) + E[X]^2. \end{equation}$

เพื่อสรุปสำหรับแทรมเมลที่อธิบายตัวแปรสุ่มแบบไม่ต่อเนื่องที่เป็นไปได้ทั้งหมดที่รับค่า ,คือระยะห่างจากจุดเริ่มต้นจนถึงส่วนปลายของกลไกและส่วนเบี่ยงเบนมาตรฐานคือระยะทางที่ตั้งฉากกับแกน $\{x_1,x_2\}$ $\sqrt{E[X^2]}$ $\sigma$

หมายเหตุ : โปรดสังเกตว่าเมื่อเป็นหรือ ,จะถูกกำหนดอย่างสมบูรณ์ เมื่อคือเราจบลงด้วยความแปรปรวนสูงสุด $\theta$ $0$ $\pi/2$ $X$ $\theta$ $\pi/4$

— YBE
แหล่งที่มา

1

+1 คำตอบที่ดี และการคูณเวกเตอร์ด้วยสแควร์ของความน่าจะเป็นเคล็ดลับที่มีประโยชน์ / เย็นที่จะทำให้ความเชื่อที่น่าจะเป็นไปตามปกติของมุมฉากดูเป็นมุมฉาก!

— Matthew Gunn

กราฟิกที่ยอดเยี่ยม สัญลักษณ์ทั้งหมดทำให้รู้สึก (กีดกั้นอธิบายวงรีแล้วพีทาโกรัส Thm ใช้) แต่อย่างใดฉันไม่ได้รับสังหรณ์ใจว่ามันจะช่วยให้ความคิดของวิธี 'อย่างน่าอัศจรรย์' มันเกี่ยวข้องช่วงเวลา (การแพร่กระจายและศูนย์.

— มิทช์

พิจารณา trammel เป็นกระบวนการที่กำหนดตัวแปรสุ่มที่มีค่าเป็นไปได้ทั้งหมด เมื่อแกนอยู่ในแนวนอนหรือแนวตั้งคุณจะมี RV กำหนดไว้ ตรงกลางมีการสุ่มและปรากฎว่าในกรอบทางเรขาคณิตของฉันที่เสนอวิธีสุ่ม RV (std) ของมันถูกวัดโดยระยะทางของก้านกับต้นกำเนิด อาจมีความสัมพันธ์ที่ลึกกว่านี้เนื่องจากเส้นโค้งรูปไข่เชื่อมต่อวัตถุต่าง ๆ ในวิชาคณิตศาสตร์ แต่ฉันไม่ใช่นักคณิตศาสตร์ดังนั้นฉันจึงไม่สามารถมองเห็นการเชื่อมต่อนั้นได้

(x_{1}, x_{2})

$(x_1,x_2)$

— YBE

3

คุณสามารถจัดเรียงใหม่ดังนี้:

\begin{array}{rcl} V a r (X) & = & E [X^{2}] - (E [X])^{2} \\ E [X^{2}] & = & (E [X])^{2} + V a r (X) \end{array}

$\begin{eqnarray} Var(X) &=& E[X^2] - (E[X])^2\\ E[X^2] &=& (E[X])^2 + Var(X) \end{eqnarray}$

จากนั้นให้ตีความดังนี้: สแควร์ที่คาดหวังของตัวแปรสุ่มเท่ากับสแควร์ของค่าเฉลี่ยบวกส่วนเบี่ยงเบนสแควร์ที่คาดหวังจากค่าเฉลี่ย

— หวด
แหล่งที่มา

โอ้ ฮะ. ง่าย แต่ช่องสี่เหลี่ยมยังดูเหมือนไม่ถูกตีความ ฉันหมายความว่ามันสมเหตุสมผล (ไม่มีอะไรมากคับ) โดยไม่มีช่องสี่เหลี่ยม

— มิทช์

3

ฉันไม่ได้ขายของนี้

— Michael R. Chernick

1

หากทฤษฎีบทของพีทาโกรัสนำมาใช้สามเหลี่ยมคืออะไรกับด้านใดและสองขาตั้งฉากได้อย่างไร?

— มิทช์

1

ขออภัยที่ไม่มีทักษะในการอธิบายอย่างละเอียดและให้คำตอบที่ถูกต้อง แต่ฉันคิดว่าคำตอบนั้นอยู่ในแนวคิดของกลศาสตร์คลาสสิคทางกายภาพของช่วงเวลาโดยเฉพาะอย่างยิ่งการแปลงระหว่าง 0 ช่วงเวลา "ดิบ" และกึ่งกลางเฉลี่ย พึงระลึกไว้เสมอว่าความแปรปรวนเป็นช่วงเวลากลางที่สองของตัวแปรสุ่ม

— S. Diaxo
แหล่งที่มา

1

สัญชาตญาณทั่วไปคือคุณสามารถเชื่อมโยงช่วงเวลาเหล่านี้โดยใช้ทฤษฎีบทพีทาโกรัส (PT) ในพื้นที่เวกเตอร์ที่กำหนดไว้อย่างเหมาะสมโดยแสดงว่าช่วงเวลาสองช่วงนั้นตั้งฉากและฉากที่สามคือด้านตรงข้ามมุมฉาก พีชคณิตเท่านั้นที่จำเป็นคือการแสดงให้เห็นว่าทั้งสองขาเป็นมุมฉากแน่นอน

เพื่อวัตถุประสงค์ดังต่อไปนี้ฉันจะถือว่าคุณหมายถึงตัวอย่างและความแปรปรวนสำหรับจุดประสงค์ในการคำนวณมากกว่าช่วงเวลาสำหรับการแจกแจงแบบเต็ม นั่นคือ:

\begin{array}{rcll} E [X] & = & \frac{1}{n} \sum x_{i}, & m e a n, f i r s t c e n t r a l s a m p l e m o m e n t \\ E [X^{2}] & = & \frac{1}{n} \sum x_{i}^{2}, & s e c o n d s a m p l e m o m e n t (n o n - c e n t r a l) \\ V a r (X) & = & \frac{1}{n} \sum (x_{i} - E [X])^{2}, & v a r i a n c e, s e c o n d c e n t r a l s a m p l e m o m e n t \end{array}

$\begin{array}{rcll} E[X] &=& \frac{1}{n}\sum x_i,& \rm{mean, first\ central\ sample\ moment}\\ E[X^2] &=& \frac{1}{n}\sum x^2_i,& \rm{second\ sample\ moment\ (non-central)}\\ Var(X) &=& \frac{1}{n}\sum (x_i - E[X])^2,& \rm{variance, second\ central\ sample\ moment} \end{array}$

(ที่ผลรวมทั้งหมดมีมากกว่ารายการ) $n$

สำหรับการอ้างอิงหลักฐานเบื้องต้นของเป็นเพียงสัญลักษณ์ผลัก: $Var(X) = E[X^2] - E[X]^2$

\begin{array}{rcl} V a r (X) & = & \frac{1}{n} \sum (x_{i} - E [X])^{2} \\ = & \frac{1}{n} \sum (x_{i}^{2} - 2 E [X] x_{i} + E [X]^{2}) \\ = & \frac{1}{n} \sum x_{i}^{2} - \frac{2}{n} E [X] \sum x_{i} + \frac{1}{n} \sum E [X]^{2} \\ = & E [X^{2}] - 2 E [X]^{2} + \frac{1}{n} n E [X]^{2} \\ = & E [X^{2}] - E [X]^{2} \end{array}

$\begin{eqnarray} Var(X) &=& \frac{1}{n}\sum (x_i - E[X])^2\\ &=& \frac{1}{n}\sum (x^2_i - 2 E[X]x_i + E[X]^2)\\ &=& \frac{1}{n}\sum x^2_i - \frac{2}{n} E[X] \sum x_i + \frac{1}{n}\sum E[X]^2\\ &=& E[X^2] - 2 E[X]^2 + \frac{1}{n} n E[X]^2\\ &=& E[X^2] - E[X]^2\\ \end{eqnarray}$

มีความหมายเล็ก ๆ น้อย ๆ ที่นี่แค่จัดการพีชคณิตเบื้องต้น บางคนอาจสังเกตว่าเป็นค่าคงที่ในการรวม แต่นั่นเป็นเรื่องเกี่ยวกับมัน $E[X]$

ตอนนี้ในปริภูมิเวกเตอร์ / การตีความเชิงเรขาคณิต / ปรีชาสิ่งที่เราจะแสดงคือสมการที่จัดใหม่เล็กน้อยซึ่งสอดคล้องกับ PT นั่นคือ

\begin{array}{rcl} V a r (X) + E [X]^{2} & = & E [X^{2}] \end{array}

$\begin{eqnarray} Var(X) + E[X]^2 &=& E[X^2] \end{eqnarray}$

เพื่อพิจารณาตัวอย่างของรายการเป็นพาหะใน n และให้สร้างสองเวกเตอร์และ1} $X$ $n$ $\mathbb{R}^n$ $E[X]{\bf 1}$ $X-E[X]{\bf 1}$

เวกเตอร์มีค่าเฉลี่ยของตัวอย่างเป็นพิกัดทุกค่า $E[X]{\bf 1}$

เวกเตอร์เป็นx_n-E $X-E[X]{\bf 1}$ $\langle x_1-E[X], \dots, x_n-E[X]\rangle$

เวกเตอร์สองตัวนี้ตั้งฉากเนื่องจากผลคูณดอทของเวกเตอร์สองตัวกลายเป็น 0:

\begin{array}{rcl} E [X] 1 \cdot (X - E [X] 1) & = & \sum E [X] (x_{i} - E [X]) \\ = & \sum (E [X] x_{i} - E [X]^{2}) \\ = & E [X] \sum x_{i} - \sum E [X]^{2} \\ = & n E [X] E [X] - n E [X]^{2} \\ = & 0 \end{array}

$\begin{eqnarray} E[X]{\bf 1}\cdot(X-E[X]{\bf 1}) &=& \sum E[X](x_i-E[X])\\ &=& \sum (E[X]x_i-E[X]^2)\\ &=& E[X]\sum x_i - \sum E[X]^2\\ &=& n E[X]E[X] - n E[X]^2\\ &=& 0\\ \end{eqnarray}$

ดังนั้นเวกเตอร์สองตัวนั้นตั้งฉากซึ่งหมายความว่าพวกมันคือสองขาของสามเหลี่ยมมุมฉาก

จากนั้นโดย PT (ซึ่งถือใน ) ผลรวมของกำลังสองของความยาวของสองขาเท่ากับสี่เหลี่ยมของด้านตรงข้ามมุมฉาก $\mathbb{R}^n$

ด้วยพีชคณิตแบบเดียวกับที่ใช้ในการพิสูจน์พีชคณิตน่าเบื่อที่ด้านบนเราพบว่าเราได้รับเป็นจตุรัสของเวกเตอร์ด้านตรงข้ามมุมฉาก: $E[X^2]$

$(X-E[X])^2 + E[X]^2 = ... = E[X^2]$ โดยการยกกำลังสองเป็นผลคูณของจุด (และเป็นจริงและเป็น(X) $E[x]{\bf 1}$ $(X-E[X])^2$ $Var(X)$

ส่วนที่น่าสนใจเกี่ยวกับความหมายนี้คือการแปลงจากกลุ่มตัวอย่างที่รายการจากการกระจาย univariate ไปยังพื้นที่เวกเตอร์ของมิติ สิ่งนี้คล้ายกับตัวอย่าง bivariate ที่ถูกตีความว่าเป็นสองตัวอย่างจริง ๆ ในตัวแปร $n$ $n$ $n$ $n$

ในแง่หนึ่งนั่นก็เพียงพอสามเหลี่ยมมุมฉากจากเวกเตอร์และจะปรากฏออกมาเป็นด้านตรงข้ามมุมฉาก เราให้การตีความ (เวกเตอร์) สำหรับค่าเหล่านี้และแสดงให้เห็นว่าสอดคล้องกัน มันเจ๋งพอ แต่ไม่ได้ให้ความสว่างทั้งทางสถิติหรือเชิงเรขาคณิต มันจะไม่พูดจริงๆว่าทำไมและจะเป็นเครื่องจักรแนวความคิดพิเศษมากมายในท้ายที่สุดส่วนใหญ่ทำซ้ำหลักฐานเชิงพีชคณิตอย่างหมดจดที่เรามีอยู่แล้วในตอนเริ่มต้น $E[X^2]$

อีกส่วนหนึ่งที่น่าสนใจก็คือว่าค่าเฉลี่ยและความแปรปรวนแม้ว่าพวกเขาสังหรณ์ใจวัดศูนย์และการแพร่กระจายในอีกมิติหนึ่งเป็นฉากในมิติ นั่นหมายความว่าอะไรพวกเขาตั้งฉากกัน? ฉันไม่รู้! มีช่วงเวลาอื่นที่เป็นมุมฉากหรือไม่? มีระบบความสัมพันธ์ที่ใหญ่กว่าซึ่งรวมถึงความตั้งฉากนี้ไหม? ช่วงเวลากลางกับช่วงเวลาที่ไม่ใช่กลาง? ฉันไม่รู้! $n$

— มิทช์
แหล่งที่มา

ฉันยังสนใจในการตีความ / สัญชาตญาณที่อยู่เบื้องหลังสมการการแปรปรวนแบบอคติที่คล้ายคลึงกันอย่างผิวเผิน ไม่มีใครมีคำแนะนำที่นั่น?

— มิทช์

ให้เป็นความน่าจะเป็นที่จะเกิดสถานะถ้าดังนั้นนั่นคือ เป็นเพียงผลคูณของจุดระหว่างและหารด้วย . หากสิ่งที่ฉันนำมาใช้เป็นผลิตภัณฑ์ภายใน ( ) เป็นพื้นคูณจุดหารด้วยnการตีความพีทาโกรัสทั้งหมดนี้ยังคงต้องการให้คุณใช้ผลิตภัณฑ์ภายในโดยเฉพาะ (แม้ว่ามันจะอยู่ใกล้กับผลิตภัณฑ์ดอทคลาสสิกสำหรับการวัดความน่าจะเป็น

p_{i}

$p_i$

i

$i$

p_{i} = \frac{1}{n}

$p_i = \frac{1}{n}$

\sum_{i} p_{i} X_{i} Y_{i} = \frac{1}{n} \sum_{i} X_{i} Y_{i}

$\sum_i p_i X_i Y_i = \frac{1}{n} \sum_i X_i Y_i$

E [X Y]

$E[XY]$

X

$X$

Y

$Y$

n

$n$

\forall_{i} p_{i} = \frac{1}{n}

$\forall_i p_i = \frac{1}{n}$

E [X Y] = \sum_{i} p_{i} X_{i} Y_{i}

$E[XY] = \sum_i p_i X_i Y_i$

n

$n$

E [X Y]

$E[XY]$

P

$P$ เช่นนั้น )

\forall_{i} p_{i} = \frac{1}{n}

$\forall_i p_i = \frac{1}{n}$

— Matthew Gunn

Btw, เคล็ดลับ @YBE ทำคือการกำหนดเวกเตอร์ใหม่และเช่นนั้นและp_i} จากนั้น dot productจุดที่ผลิตภัณฑ์ของและสอดคล้องกับ (ซึ่งเป็นสิ่งที่ฉันใช้เป็นผลิตภัณฑ์ภายใน)

\hat{x}

$\hat{x}$

\hat{y}

$\hat{y}$

{\hat{x}}_{i} = x_{i} \sqrt{p_{i}}

$\hat{x}_i = x_i \sqrt{p_i}$

{\hat{y}}_{i} = x_{i} \sqrt{p_{i}}

$\hat{y}_i = x_i \sqrt{p_i}$

\hat{x} \cdot \hat{y} = \sum_{i} x_{i} \sqrt{p_{i}} y_{i} \sqrt{p_{i}} = \sum_{i} p_{i} x_{i} y_{i} = E [x y]

$\hat{x} \cdot \hat{y} = \sum_i x_i \sqrt{p_i} y_i \sqrt{p_i} = \sum_i p_i x_i y_i = E[xy]$

\hat{x}

$\hat{x}$

\hat{y}

$\hat{y}$

E [x y]

$E[xy]$

— Matthew Gunn