คำพ้องความหมาย“ ตัวอย่างสุ่ม” และ“ ตัวแปรสุ่ม iid” หรือไม่

ฉันได้รับความยากลำบากในการทำความเข้าใจความหมายของ "ตัวอย่างแบบสุ่ม" เช่นเดียวกับ "ตัวแปรแบบสุ่มของ iid" ฉันพยายามหาความหมายจากหลาย ๆ แหล่ง แต่สับสนมากขึ้นเรื่อย ๆ ฉันโพสต์ที่นี่สิ่งที่ฉันพยายามและได้รู้:

ความน่าจะเป็นและสถิติของ Degroot บอกว่า:

ตัวอย่างสุ่ม / IID / ตัวอย่างขนาด: พิจารณากระจายความน่าจะได้รับในบรรทัดจริงที่สามารถแสดงโดยทั้ง PF หรือไฟล์ PDF ฉได้มีการกล่าวกันว่าตัวแปรสุ่มรูปแบบตัวอย่างที่สุ่มจากการกระจายนี้ถ้าตัวแปรสุ่มเหล่านี้มีความเป็นอิสระและ PF ร่อแร่หรือ PDF ของแต่ละของพวกเขาคือฉตัวแปรสุ่มดังกล่าวถูกกล่าวถึงว่ามีความเป็นอิสระและมีการกระจายเหมือนกันโดยย่อ iid เราอ้างถึงหมายเลข n ของตัวแปรสุ่มเป็นขนาดตัวอย่างn X 1 , . . , X n$f$$n$$X_1 , . . . , X_n$$f$

แต่หนึ่งในหนังสือสถิติอื่น ๆ ที่ฉันได้พูดไป:

ในการสุ่มตัวอย่างเรารับประกันว่าทุกหน่วยในประชากรจะได้รับโอกาส (ความน่าจะเป็น) ในการถูกเลือกเท่ากัน

ดังนั้นฉันรู้สึกว่า iids เป็นองค์ประกอบที่สร้างกลุ่มตัวอย่างแบบสุ่มและขั้นตอนการมีกลุ่มตัวอย่างแบบสุ่มคือการสุ่มตัวอย่าง ฉันถูกไหม?

PS: ฉันสับสนมากเกี่ยวกับหัวข้อนี้ดังนั้นฉันจะขอบคุณคำตอบที่ซับซ้อน ขอบคุณ

คุณไม่พูดในสิ่งที่หนังสือเล่มสถิติอื่น ๆ แต่ฉันเดาว่ามันเป็นหนังสือ (หรือส่วน) เกี่ยวกับประชากรสุ่มตัวอย่าง จำกัด

เมื่อคุณสุ่มตัวแปรสุ่มนั่นคือเมื่อคุณพิจารณาชุด ของตัวแปรสุ่มnคุณจะรู้ว่าถ้ามันเป็นอิสระf ( x 1 , … , x n ) = f ( x 1 ) ⋯$X_1,\dots,X_n$$n$และการกระจายตัวเหมือนกัน$f(x_1,\dots,x_n)=f(x_1)\cdots f(x_n)$โดยเฉพาะและ Var ( X i$E(X_i)=\mu$สำหรับฉันทั้งหมดจากนั้น: ¯ X = ∑ ฉันX $\text{Var}(X_i)=\sigma^2$$i$ โดยที่σ2คือช่วงเวลากลางที่สอง

$$\overline{X}=\frac{\sum_i X_i}{n},\quad E(\overline{X})=\mu,\quad \text{Var}(\overline{X})=\frac{\sigma^2}{n}$$ $\sigma^2$

การสุ่มตัวอย่างประชากร จำกัด ค่อนข้างแตกต่างกัน หากประชากรมีขนาดในการสุ่มตัวอย่างโดยไม่มีการแทนที่จะมี($N$ตัวอย่างที่เป็นไปได้siของขนาดnและพวกมันสามารถจัดเรียงได้: p(si)=$\binom{N}{n}$$s_i$$n$ ตัวอย่างเช่นถ้าN=5และn=3พื้นที่ตัวอย่างคือ{s1,…,s10} และตัวอย่างที่เป็นไปได้คือ: s 1 ={1,2,3}, s 2 ={1,2,4}, s 3 ={1,2,5}, s

$$p(s_i)=\frac{1}{\binom{N}{n}}\quad\forall i=1,\dots,\binom{N}{n}$$ $N=5$$n=3$$\{s_1,\dots,s_{10}\}$ หากคุณนับจำนวนการปรากฏของแต่ละคนคุณจะเห็นว่ามันคือหกนั่นคือแต่ละคนมีจำนวนเท่ากัน (6/10) ดังนั้นแต่ละsiเป็นตัวอย่างแบบสุ่มตามคำจำกัดความที่สอง ประมาณนั้นไม่ใช่ตัวอย่างสุ่มของ iid เพราะแต่ละคนไม่ใช่ตัวแปรสุ่ม: คุณสามารถประมาณE[X]โดยค่าเฉลี่ยตัวอย่าง แต่จะไม่ทราบค่าที่แน่นอน แต่คุณสามารถทราบค่าเฉลี่ยประชากรที่แน่นอนถ้าn=N(ให้ ฉันพูดซ้ำ: ประมาณ) $$\begin{gather}s_1=\{1,2,3\},s_2=\{1,2,4\},s_3=\{1,2,5\},s_4=\{1,3,4\},s_5=\{1,3,5\},\\ s_6=\{1,4,5\},s_7=\{2,3,4\},s_8=\{2,3,5\},s_9=\{2,4,5\},s_{10}=\{3,4,5\}\end{gather}$$ $s_i$$E[X]$$n=N$${}^1$

$\mu$$n<N$$\mu$

$$\overline{y}_s=\sum_{i=1}^n y_i,\quad E(\overline{y}_s)=\mu$$ $$\text{Var}(\overline{y}_s)=\frac{\tilde\sigma^2}{n}\left(1-\frac{n}{N}\right)$$ $\tilde\sigma^2$$\frac{\sum_{i=1}^N(y_i-\overline{y})^2}{N-1}$$(1-n/N)$เรียกอีกอย่างว่า " ปัจจัยการแก้ไขประชากรอัน จำกัด "

นี่คือตัวอย่างด่วนของวิธีสุ่ม (สุ่มตัวแปร) iid สุ่มตัวอย่างและสุ่มประชากร (จำกัด แน่นอน) อาจแตกต่างกัน การอนุมานทางสถิติส่วนใหญ่เกี่ยวกับการสุ่มตัวอย่างตัวแปรสุ่มทฤษฎีการสุ่มตัวอย่างเป็นเรื่องเกี่ยวกับการสุ่มตัวอย่างประชากร จำกัด

---

${}^1$สมมติว่าคุณกำลังผลิตหลอดไฟและต้องการทราบอายุขัยเฉลี่ยของพวกเขา "ประชากร" ของคุณเป็นเพียงทฤษฎีหรือเสมือนอย่างน้อยถ้าคุณยังคงผลิตหลอดไฟ ดังนั้นคุณต้องสร้างแบบจำลองกระบวนการสร้างข้อมูลและสอดแทรกชุดหลอดไฟเป็นตัวอย่าง (ตัวแปรสุ่ม) สมมติว่าคุณพบกล่องไฟ 1,000 หลอดแล้วและต้องการทราบอายุขัยเฉลี่ยของพวกเขา คุณสามารถเลือกชุดหลอดไฟขนาดเล็ก (ตัวอย่างประชากรที่มีขอบเขต จำกัด ) แต่คุณสามารถเลือกได้ทั้งหมด หากคุณเลือกตัวอย่างขนาดเล็กสิ่งนี้จะไม่เปลี่ยนหลอดไฟเป็นตัวแปรสุ่ม: คุณจะสร้างตัวแปรแบบสุ่มเนื่องจากตัวเลือกระหว่าง "ทั้งหมด" และ "ชุดเล็ก" ขึ้นอยู่กับคุณ อย่างไรก็ตามเมื่อประชากรที่ จำกัด มีขนาดใหญ่มาก (กล่าวว่าประชากรในประเทศของคุณ) เมื่อเลือก "ทั้งหมด" จะไม่สามารถใช้งานได้สถานการณ์ที่สองจะได้รับการจัดการที่ดีกว่าเป็นครั้งแรก

ฉันจะไม่ทำให้คุณเบื่อกับคำจำกัดความความน่าจะเป็นและสูตรที่คุณสามารถหยิบได้ง่ายในตำราเรียนใด ๆ (หรือที่นี่เป็นจุดเริ่มต้นที่ดี)

แค่คิดอย่างสังหรณ์ใจตัวอย่างแบบสุ่มคือชุดของค่าสุ่ม โดยทั่วไปค่าแต่ละค่าอาจมีการกระจายตัวเหมือนกันหรือแตกต่างกัน$i.i.d.$sample เป็นกรณีพิเศษของกลุ่มตัวอย่างแบบสุ่มซึ่งค่าทุกค่ามาจากการแจกแจงแบบเดียวกับค่าอื่น ๆ และค่าของมันไม่มีผลต่อค่าอื่น ๆ ข้อตกลงอิสรภาพกับ$how$ ค่าที่ถูกสร้างขึ้น

$i.i.d$ตัวอย่าง: จั่วไพ่แบบสุ่มจากสำรับแล้วคืนกลับ (ทำ 5 ครั้ง) คุณจะได้รับ 5 ค่าตระหนัก (การ์ด) แต่ละค่าเหล่านี้มาจากการแจกแจงแบบเดียวกัน (มีความน่าจะเป็นเท่ากันที่จะได้ผลลัพธ์แต่ละอย่าง) และการจับสลากแต่ละครั้งนั้นไม่ขึ้นอยู่กับคนอื่น ๆ (เช่นความจริงที่ว่าคุณได้รับเอซโพดำในการจับครั้งแรก ไม่ว่าด้วยวิธีใดผลลัพธ์ที่คุณอาจได้รับจากการจับฉลากอื่น ๆ )

ไม่ใช่ $i.i.d.$ตัวอย่าง: ทำสิ่งเดียวกัน แต่ไม่ส่งการ์ดกลับไปที่เด็ค (ฉันหวังว่าคุณจะเติมความแตกต่างในตอนนี้) อีกครั้งคุณจะมี 5 ค่า (การ์ด) ที่รับรู้หลังจากคุณทำเช่นนี้ แต่เห็นได้ชัดว่ามันขึ้นอยู่กับ (ความจริงที่ว่าคุณวาดเอซโพดำในการจับครั้งแรกหมายความว่าคุณจะไม่มีโอกาสได้เข้าร่วมในการจับครั้งที่ 2)

ตัวแปรสุ่มมักจะเขียน X เป็นตัวแปรที่มีค่าที่เป็นไปได้คือผลลัพธ์เชิงตัวเลขของปรากฏการณ์สุ่ม ปรากฏการณ์สุ่มอาจสร้างผลลัพธ์ที่มีค่าตัวเลขที่จับโดยตัวแปรสุ่ม - จำนวนหัวในการโยน 10 เหรียญหรือรายได้ / ความสูง ฯลฯ ในตัวอย่าง - แต่นั่นไม่จำเป็น
โดยทั่วไปตัวแปรสุ่มเป็นฟังก์ชันที่แมปผลลัพธ์แบบสุ่มกับค่าตัวเลข เช่นในแต่ละวันอาจมีแดดมีเมฆมากหรือมีฝนตก เราสามารถกำหนดตัวแปรแบบสุ่มที่ใช้ค่า 1 ถ้ามันเป็นฝน 2 ถ้ามันมีเมฆและ 3 ถ้ามันมีแดด โดเมนของตัวแปรสุ่มคือชุดของผลลัพธ์ที่เป็นไปได้
ในการสร้างตัวแปรสุ่มต้องมีกระบวนการหรือการทดสอบที่เกี่ยวข้องกับผลลัพธ์ที่เป็นไปได้ที่ไม่สามารถคาดการณ์ได้ด้วยความแน่นอน

มาถึงตอนนี้เพื่อความเป็นอิสระ ตัวแปรสุ่มสองตัวมีความเป็นอิสระหากค่าของหนึ่งในนั้นไม่มีผลกับ PDF ของอีกชุด เราไม่แก้ไขการทำนายของเราเกี่ยวกับความน่าจะเป็นของค่าที่แตกต่างกันของตัวแปรหนึ่งเมื่อเรารู้อะไรเกี่ยวกับตัวแปรอื่น ดังนั้นในกรณีที่เป็นอิสระไฟล์ PDF หลังนั้นเหมือนกับไฟล์ PDF ก่อนหน้า เช่นเมื่อเราโยนเหรียญที่ไม่เอนเอียงซ้ำ ๆ ข้อมูลที่เรามีเกี่ยวกับผลลัพธ์ของการทอยก่อนหน้า 5 ครั้งนั้นไม่ส่งผลกระทบต่อการทำนายของเราเกี่ยวกับการทอยปัจจุบันมันจะเป็น 0.5 เสมอ อย่างไรก็ตามหากไม่ทราบความเอนเอียงของเหรียญและถูกจำลองเป็นตัวแปรสุ่มผลลัพธ์ของการทอย 5 ครั้งก่อนหน้านี้จะส่งผลต่อการคาดการณ์ของเราเกี่ยวกับการโยนปัจจุบัน

มาถึงประเด็นเรื่องการสุ่มตัวอย่าง จุดประสงค์ของการสุ่มตัวอย่างคือเพื่อแจ้งให้เราทราบเกี่ยวกับคุณสมบัติของการแจกแจงต้นแบบที่ไม่ทราบและจะต้องอนุมาน โปรดจำไว้ว่าการกระจายหมายถึงความเป็นไปได้ที่สัมพันธ์กันของผลลัพธ์ที่เป็นไปได้ในพื้นที่ตัวอย่าง (ซึ่งอาจเป็นเอกภพตามเงื่อนไข) ดังนั้นเมื่อเราสุ่มตัวอย่างเราเลือกผลลัพธ์จำนวน จำกัด จากพื้นที่ตัวอย่างและเราทำซ้ำพื้นที่ตัวอย่างในระดับที่จัดการได้น้อยกว่า ความน่าจะเป็นเท่ากับนั้นหมายถึงกระบวนการของการสุ่มตัวอย่างไม่ใช่ความน่าจะเป็นของผลลัพธ์ในตัวอย่าง การสุ่มตัวอย่างความน่าจะเป็นเท่ากับหมายความว่าตัวอย่างจะสะท้อนสัดส่วนของผลลัพธ์ในพื้นที่ตัวอย่างดั้งเดิม เช่นถ้าเราถาม 10 ผู้คนกว่าพันคนถ้าพวกเขาถูกจับกุมเป็นไปได้ว่าตัวอย่างที่เราจะลงเอยนั้นจะไม่ได้เป็นตัวแทนของกลุ่มประชากร - พื้นที่ตัวอย่าง - เนื่องจากคนที่ถูกจับกุมอาจปฏิเสธที่จะตอบดังนั้นสัดส่วนของผลลัพธ์ที่เป็นไปได้ (ถูกจับ - ไม่ถูกจับกุม) จะแตกต่างกันระหว่างกลุ่มตัวอย่างกับประชากรด้วยเหตุผลที่เป็นระบบ หรือถ้าเราเลือกพื้นที่ใกล้เคียงเพื่อทำการสำรวจผลลัพธ์จะไม่เป็นตัวแทนของเมืองโดยรวม การสุ่มตัวอย่างความน่าจะเป็นที่เท่ากันนั้นหมายความว่าไม่มีเหตุผลที่เป็นระบบ - นอกเหนือจากการสุ่มแบบบริสุทธิ์ - ที่ทำให้เราเชื่อว่าสัดส่วนของผลลัพธ์ที่เป็นไปได้ในตัวอย่างของเรานั้นแตกต่างจากสัดส่วนของผลลัพธ์ในพื้นที่ประชากร / ตัวอย่าง ดังนั้นสัดส่วนของผลลัพธ์ที่เป็นไปได้ (ถูกจับ - ไม่ถูกจับกุม) จะแตกต่างกันระหว่างกลุ่มตัวอย่างของเรากับประชากรด้วยเหตุผลที่เป็นระบบ หรือถ้าเราเลือกพื้นที่ใกล้เคียงเพื่อทำการสำรวจผลลัพธ์จะไม่เป็นตัวแทนของเมืองโดยรวม การสุ่มตัวอย่างความน่าจะเป็นที่เท่ากันนั้นหมายความว่าไม่มีเหตุผลที่เป็นระบบ - นอกเหนือจากการสุ่มแบบบริสุทธิ์ - ที่ทำให้เราเชื่อว่าสัดส่วนของผลลัพธ์ที่เป็นไปได้ในตัวอย่างของเรานั้นแตกต่างจากสัดส่วนของผลลัพธ์ในพื้นที่ประชากร / ตัวอย่าง ดังนั้นสัดส่วนของผลลัพธ์ที่เป็นไปได้ (ถูกจับ - ไม่ถูกจับกุม) จะแตกต่างกันระหว่างกลุ่มตัวอย่างของเรากับประชากรด้วยเหตุผลที่เป็นระบบ หรือถ้าเราเลือกพื้นที่ใกล้เคียงเพื่อทำการสำรวจผลลัพธ์จะไม่เป็นตัวแทนของเมืองโดยรวม การสุ่มตัวอย่างความน่าจะเป็นที่เท่ากันนั้นหมายความว่าไม่มีเหตุผลที่เป็นระบบ - นอกเหนือจากการสุ่มแบบบริสุทธิ์ - ที่ทำให้เราเชื่อว่าสัดส่วนของผลลัพธ์ที่เป็นไปได้ในตัวอย่างของเรานั้นแตกต่างจากสัดส่วนของผลลัพธ์ในพื้นที่ประชากร / ตัวอย่าง

สุ่มตัวอย่างคือสำนึกของลำดับของตัวแปรสุ่ม ตัวแปรสุ่มเหล่านั้นอาจเป็น iid หรือไม่