ความแปรปรวนร่วม“ ความจริง” หมายถึงอะไร?

ฉันเป็นคนที่ไม่มีสถิติดังนั้นพวกคุณได้โปรดช่วยฉันที่นี่ด้วย

คำถามของฉันมีดังต่อไปนี้: ความแปรปรวนร่วมหมายถึงอะไรจริง ๆ

เมื่อฉันมองหาสูตรสำหรับความแปรปรวนแบบรวมในอินเทอร์เน็ตฉันพบวรรณกรรมจำนวนมากที่ใช้สูตรต่อไปนี้ (ตัวอย่างเช่นที่นี่: http://math.tntech.edu/ISR/Mathematical_Statistics/Introduction_to_Statistical_Tests/thispage/newnode19.html ):

$$\begin{equation} \label{eq:stupidpooledvar} \displaystyle S^2_p = \frac{S_1^2 (n_1-1) + S_2^2 (n_2-1)}{n_1 + n_2 - 2} \end{equation}$$

แต่จริง ๆ แล้วมันคำนวณอะไร เพราะเมื่อฉันใช้สูตรนี้ในการคำนวณค่าความแปรปรวนรวมของฉันมันให้คำตอบที่ผิด

ตัวอย่างเช่นพิจารณา "ตัวอย่างหลัก" เหล่านี้:

$$\begin{equation} \label{eq:parentsample} 2,2,2,2,2,8,8,8,8,8 \end{equation}$$

ความแปรปรวนของกลุ่มตัวอย่างผู้ปกครองนี้เป็นและค่าเฉลี่ยของมันคือˉ x P = 5$S^2_p=10$$\bar{x}_p=5$

ตอนนี้สมมติว่าฉันแยกตัวอย่างผู้ปกครองนี้ออกเป็นสองตัวอย่างย่อย:

1. ครั้งแรกที่ย่อยตัวอย่างเป็น 2,2,2,2,2 ที่มีค่าเฉลี่ยและแปรปรวนS 2 1 = 0$\bar{x}_1=2$$S^2_1=0$
2. ที่สองย่อยตัวอย่างเป็น 8,8,8,8,8 ที่มีค่าเฉลี่ยและแปรปรวนS 2 2 = 0$\bar{x}_2=8$$S^2_2=0$

ตอนนี้อย่างชัดเจนโดยใช้สูตรข้างต้นในการคำนวณค่าความแปรปรวน pooled / ผู้ปกครองของทั้งสองย่อยตัวอย่างจะผลิตเป็นศูนย์เพราะและS 2 = 0 ดังนั้นสูตรนี้จริงคำนวณอะไร$S_1=0$$S_2=0$

ในทางกลับกันหลังจากที่ได้รับความยาวฉันพบสูตรที่สร้างความแปรปรวน pooled / parent ที่ถูกต้องคือ:

$$\begin{equation} \label{eq:smartpooledvar} \displaystyle S^2_p = \frac{S_1^2 (n_1-1) + n_1 d_1^2 + S_2^2 (n_2-1) + n_2 d_2^2} {n_1 + n_2 - 1} \end{equation}$$

ในสูตรข้างต้นและd 2 = ¯ x 2 - ˉ xพี$d_1=\bar{x_1}-\bar{x}_p$$d_2=\bar{x_2}-\bar{x}_p$

ฉันพบสูตรที่คล้ายกันกับของฉันเช่นที่นี่: http://www.emathzone.com/tutorials/basic-statistics/combined-variance.html และใน Wikipedia แม้ว่าฉันจะต้องยอมรับว่าพวกเขาจะไม่เหมือนกับของฉัน

ดังนั้นอีกครั้งความแปรปรวนแบบรวมหมายความว่าอย่างไร ไม่ควรหมายถึงความแปรปรวนของตัวอย่างหลักจากสองตัวอย่างย่อยใช่หรือไม่ หรือฉันผิดที่นี่อย่างสมบูรณ์?

ขอบคุณล่วงหน้า.

---

แก้ไข 1: มีคนบอกว่าสองตัวอย่างย่อยของฉันด้านบนเป็นพยาธิสภาพเนื่องจากมีความแปรปรวนเป็นศูนย์ ฉันจะยกตัวอย่างให้คุณฟัง พิจารณาตัวอย่างผู้ปกครองนี้:

$$\begin{equation} \label{eq:parentsample2} 1,2,3,4,5,46,47,48,49,50 \end{equation}$$

ความแปรปรวนของกลุ่มตัวอย่างผู้ปกครองนี้เป็นและค่าเฉลี่ยของมันคือˉ x P = 25.5$S^2_p=564.7$$\bar{x}_p=25.5$

ตอนนี้สมมติว่าฉันแยกตัวอย่างผู้ปกครองนี้ออกเป็นสองตัวอย่างย่อย:

1. ครั้งแรกที่ย่อยตัวอย่างเป็น 1,2,3,4,5 ที่มีค่าเฉลี่ยและแปรปรวนS 2 1 = 2.5$\bar{x}_1=3$$S^2_1=2.5$
2. ที่สองย่อยตัวอย่าง 46,47,48,49,50 มีค่าเฉลี่ยและแปรปรวนS 2 2 = 2.5$\bar{x}_2=48$$S^2_2=2.5$

ทีนี้ถ้าคุณใช้ "สูตรของวรรณกรรม" เพื่อคำนวณความแปรปรวนพูคุณจะได้ 2.5 ซึ่งผิดทั้งหมดเพราะความแปรปรวนของผู้ปกครอง / พูรวมควรเป็น 564.7 หากคุณใช้ "สูตรของฉัน" คุณจะได้รับคำตอบที่ถูกต้อง

โปรดเข้าใจฉันใช้ตัวอย่างสุดขีดที่นี่เพื่อแสดงให้ผู้คนเห็นว่าสูตรนั้นผิดจริงๆ ถ้าฉันใช้ "ข้อมูลปกติ" ซึ่งไม่มีการเปลี่ยนแปลงมากมาย (กรณีสุดโต่ง) ผลลัพธ์จากสูตรทั้งสองนั้นจะคล้ายกันมากและผู้คนสามารถยกเลิกความแตกต่างได้เนื่องจากข้อผิดพลาดในการปัดเศษไม่ใช่เพราะสูตรนั้นเป็น ไม่ถูกต้อง.

กล่าวง่ายๆคือความแปรปรวนแบบรวมเป็นค่าประมาณ (ไม่เอนเอียง) ของความแปรปรวนในแต่ละตัวอย่างภายใต้สมมติฐาน / ข้อ จำกัด ที่ความแปรปรวนเหล่านั้นเท่ากัน

สิ่งนี้ถูกอธิบายจูงใจและวิเคราะห์โดยละเอียดในรายการ Wikipedia สำหรับความแปรปรวนร่วม

ไม่ได้ประมาณค่าความแปรปรวนของ "meta-sample" ใหม่ที่เกิดขึ้นจากการเชื่อมต่อสองตัวอย่างแต่ละตัวอย่างเช่นคุณ เมื่อคุณค้นพบแล้วการประมาณว่าต้องใช้สูตรที่แตกต่างอย่างสิ้นเชิง

ความแปรปรวนแบบรวมใช้เพื่อรวมความแปรปรวนร่วมจากกลุ่มตัวอย่างที่แตกต่างกันโดยรับค่าเฉลี่ยถ่วงน้ำหนักเพื่อรับความแปรปรวน "โดยรวม" ปัญหาของตัวอย่างของคุณคือมันเป็นกรณีทางพยาธิวิทยาเนื่องจากตัวอย่างย่อยแต่ละตัวอย่างมีความแปรปรวนเท่ากับศูนย์ กรณีทางพยาธิวิทยาดังกล่าวมีความเหมือนกันกับข้อมูลที่เรามักจะพบบ่อยเนื่องจากมีความแปรปรวนอยู่เสมอและหากไม่มีความแปรปรวนเราไม่สนใจตัวแปรดังกล่าวเนื่องจากไม่มีข้อมูล คุณต้องสังเกตว่านี่เป็นวิธีการที่ง่ายมากและมีวิธีที่ซับซ้อนกว่าในการประมาณค่าความแปรปรวนในโครงสร้างข้อมูลแบบลำดับชั้นที่ไม่ได้มีแนวโน้มที่จะเกิดปัญหาดังกล่าว

$n$$k$$x_{1,1},x_{2,1},\dots,x_{n-1,k},x_{n,k}$$i$$x_{i,j}$$j$ดัชนี -th หมายถึงดัชนีกลุ่ม มีหลายสถานการณ์ที่เป็นไปได้คุณสามารถสมมติว่าจุดทั้งหมดมาจากการกระจายตัวเดียวกัน (สำหรับความเรียบง่ายสมมติการกระจายแบบปกติ)

$$x_{i,j} \sim \mathcal{N}(\mu, \sigma^2) \tag{1}$$

คุณสามารถสมมติได้ว่าแต่ละตัวอย่างย่อยมีค่าเฉลี่ยของมันเอง

$$x_{i,j} \sim \mathcal{N}(\mu_j, \sigma^2) \tag{2}$$

หรือความแปรปรวนของตัวเอง

$$x_{i,j} \sim \mathcal{N}(\mu, \sigma^2_j) \tag{3}$$

หรือแต่ละพารามิเตอร์มีพารามิเตอร์ที่แตกต่างกัน

$$x_{i,j} \sim \mathcal{N}(\mu_j, \sigma^2_j) \tag{4}$$

วิธีการบางอย่างอาจหรืออาจไม่เพียงพอสำหรับการวิเคราะห์ข้อมูลทั้งนี้ขึ้นอยู่กับสมมติฐานของคุณ

ในกรณีแรกคุณจะไม่สนใจที่จะประเมินความแปรปรวนภายในกลุ่มเนื่องจากคุณจะถือว่าพวกเขาทั้งหมดเหมือนกัน อย่างไรก็ตามหากคุณรวมความแปรปรวนร่วมระดับโลกจากความแปรปรวนกลุ่มคุณจะได้รับผลลัพธ์เดียวกันโดยใช้การแปรปรวนแบบรวมกลุ่มเนื่องจากนิยามความแปรปรวนคือ

$$\mathrm{Var}(X) = \frac{1}{n-1} \sum_i (x_i - \mu)^2$$

$n-1$$n_1 + n_2 - 1$

ในกรณีที่สองหมายถึงแตกต่างกัน แต่คุณมีความแปรปรวนร่วมกัน ตัวอย่างนี้ใกล้เคียงกับตัวอย่างของคุณมากที่สุดในการแก้ไข ในสถานการณ์สมมตินี้ความแปรปรวนร่วมจะประมาณความแปรปรวนร่วมได้อย่างถูกต้องในขณะที่ถ้าความแปรปรวนโดยประมาณในชุดข้อมูลทั้งหมดคุณจะได้รับผลลัพธ์ที่ไม่ถูกต้องเนื่องจากคุณไม่ได้บัญชีสำหรับกลุ่มที่มีวิธีการที่แตกต่างกัน

ในกรณีที่สามไม่เหมาะสมที่จะประเมินความแปรปรวน "ทั่วโลก" เนื่องจากคุณคิดว่าแต่ละกลุ่มมีความแปรปรวนของตัวเอง คุณอาจจะสนใจในการได้รับยังคงประมาณการสำหรับประชากรทั้งหมด แต่ในกรณีดังกล่าวทั้งสอง (ก) การคำนวณค่าความแปรปรวนของแต่ละบุคคลต่อกลุ่มและ (ข) การคำนวณค่าความแปรปรวนทั่วโลกจากชุดข้อมูลทั้งหมดสามารถให้ผลลัพธ์ที่ทำให้เข้าใจผิด หากคุณกำลังจัดการกับข้อมูลประเภทนี้คุณควรนึกถึงการใช้แบบจำลองที่ซับซ้อนมากขึ้นซึ่งคำนึงถึงลักษณะลำดับชั้นของข้อมูล

กรณีที่สี่เป็นคดีที่สุดและคล้ายกับคดีก่อนหน้า ในสถานการณ์นี้ถ้าคุณต้องการประเมินค่าเฉลี่ยและความแปรปรวนทั่วโลกคุณจะต้องใช้แบบจำลองที่แตกต่างกันและชุดของสมมติฐานที่แตกต่างกัน ในกรณีเช่นนี้คุณจะสมมติว่าข้อมูลของคุณมีโครงสร้างแบบลำดับชั้นและนอกเหนือจากความหมายภายในและกลุ่มภายในแล้วยังมีความแปรปรวนทั่วไปในระดับที่สูงกว่าตัวอย่างเช่นสมมติว่ามีโมเดลดังต่อไปนี้

$$\begin{align} x_{i,j} &\sim \mathcal{N}(\mu_j, \sigma^2_j) \\ \mu_j &\sim \mathcal{N}(\mu_0, \sigma^2_0) \\ \sigma^2_j &\sim \mathcal{IG}(\alpha, \beta) \end{align} \tag{5}$$

$\mu_j,\sigma^2_j$

ปัญหาคือถ้าคุณต่อตัวอย่างเข้าด้วยกันและประเมินความแปรปรวนของมันคุณสมมุติว่าพวกมันมาจากการกระจายตัวเดียวกันดังนั้นจึงมีค่าเฉลี่ยเท่ากัน แต่โดยทั่วไปเราให้ความสนใจกับกลุ่มตัวอย่างที่มีค่าเฉลี่ยต่างกัน มันสมเหตุสมผลหรือไม่

กรณีการใช้งานของความแปรปรวนร่วมเมื่อคุณมีสองตัวอย่างจากการแจกแจงที่:

• อาจมีวิธีการที่แตกต่างกัน แต่
• ซึ่งคุณคาดหวังว่าจะมีความแปรปรวนที่แท้จริงเท่ากัน

$n$$m$

ในกรณีนี้การวัดความแปรปรวนร่วมจะช่วยให้คุณประเมินความแปรปรวนของข้อผิดพลาดในการวัดได้ดีกว่าการวัดค่าความแปรปรวนของตัวอย่างเพียงอย่างเดียว

เราไม่ได้พยายามประมาณค่าความแปรปรวนของกลุ่มตัวอย่างที่ใหญ่กว่าด้วยการใช้กลุ่มตัวอย่างขนาดเล็ก ดังนั้นทั้งสองตัวอย่างที่คุณให้มาไม่ได้อ้างถึงคำถาม

ความแปรปรวนแบบรวมจำเป็นต้องมีการประมาณค่าความแปรปรวนประชากรที่ดีขึ้นจากสองตัวอย่างที่สุ่มจากประชากรนั้นและมาพร้อมกับการประมาณค่าความแปรปรวนที่แตกต่างกัน

ตัวอย่างคุณพยายามวัดความแปรปรวนในพฤติกรรมการสูบบุหรี่ของผู้ชายในลอนดอน คุณลองสองครั้ง 300 คนจากลอนดอน คุณจะได้รับผลต่างสองแบบ (อาจแตกต่างกันเล็กน้อย!) ตั้งแต่นี้ไปคุณสุ่มตัวอย่างอย่างยุติธรรม (ดีที่สุดกับความสามารถของคุณ! เนื่องจากการสุ่มตัวอย่างที่แท้จริงนั้นแทบจะเป็นไปไม่ได้) คุณมีสิทธิ์ทั้งหมดที่จะกล่าวว่าทั้งความแปรปรวนนั้นเป็นค่าประมาณจุดที่แท้จริงของความแปรปรวนของประชากร

แต่เป็นไปได้อย่างไร นั่นคือการประมาณสองจุดที่ต่างกัน !! ดังนั้นเราจึงไปข้างหน้าและค้นหาการประมาณจุดร่วมซึ่งเป็นความแปรปรวนร่วม มันไม่มีอะไรนอกจากค่าเฉลี่ยถ่วงน้ำหนักของการประมาณสองจุดโดยที่ตุ้มน้ำหนักเป็นระดับความเป็นอิสระที่เกี่ยวข้องกับแต่ละตัวอย่าง

หวังว่ามันจะชัดเจนขึ้น