การสุ่มตัวอย่างที่สำคัญคืออะไร?

ฉันพยายามเรียนรู้การเสริมแรงและหัวข้อนี้ทำให้ฉันสับสนจริงๆ ฉันได้แนะนำสถิติไปแล้ว แต่ฉันไม่เข้าใจหัวข้อนี้อย่างสังหรณ์ใจ

การสุ่มตัวอย่างความสำคัญเป็นรูปแบบของการสุ่มตัวอย่างจากการกระจายที่แตกต่างจากการกระจายความสนใจเพื่อให้ได้รับการประมาณที่ดีขึ้นของพารามิเตอร์จากการกระจายความสนใจ โดยทั่วไปสิ่งนี้จะให้ค่าประมาณของพารามิเตอร์ที่มีความแปรปรวนต่ำกว่าที่จะได้รับจากการสุ่มตัวอย่างโดยตรงจากการแจกแจงเริ่มต้นที่มีขนาดตัวอย่างเท่ากัน

มันถูกใช้ในบริบทต่าง ๆ โดยทั่วไปการสุ่มตัวอย่างจากการแจกแจงที่แตกต่างกันช่วยให้สามารถสุ่มตัวอย่างได้มากขึ้นในส่วนของการกระจายความสนใจที่กำหนดโดยแอปพลิเคชัน (ภูมิภาคสำคัญ)

ตัวอย่างหนึ่งอาจเป็นได้ว่าคุณต้องการมีตัวอย่างที่มีตัวอย่างจากหางของการแจกแจงมากกว่าการสุ่มตัวอย่างแบบบริสุทธิ์จากการแจกแจงความสนใจ

บทความวิกิพีเดียที่ฉันได้เห็นในเรื่องนี้เป็นนามธรรมเกินไป มันเป็นการดีกว่าที่จะดูตัวอย่างเฉพาะต่างๆ อย่างไรก็ตามมันมีลิงค์ไปยังแอพพลิเคชั่นที่น่าสนใจเช่นBayesian Networks

ตัวอย่างหนึ่งของการสุ่มตัวอย่างที่สำคัญในทศวรรษที่ 1940 และ 1950 คือเทคนิคการลดความแปรปรวน (รูปแบบของวิธีมอนติคาร์โล) ดูตัวอย่างหนังสือวิธีมอนติคาร์โลโดยแฮมเมอร์สลีย์และ Handscomb ตีพิมพ์เป็น Methuen Monograph / Chapman และ Hall ในปี 1964 และพิมพ์ซ้ำในปี 1966 และต่อมาโดยสำนักพิมพ์อื่น ๆ มาตรา 5.4ของหนังสือครอบคลุมการสุ่มตัวอย่างสำคัญ

การสุ่มตัวอย่างความสำคัญเป็นวิธีการจำลองหรือวิธีมอนติคาร์โลซึ่งมีไว้สำหรับการประมาณอินทิเกรต คำว่า "การสุ่มตัวอย่าง" ค่อนข้างสับสนว่ามันไม่ได้ตั้งใจที่จะให้ตัวอย่างจากการแจกแจงที่กำหนด

สัญชาตญาณที่อยู่เบื้องหลังการสุ่มตัวอย่างที่สำคัญคืออินทิกรัลที่นิยามไว้อย่างดีเช่น สามารถแสดงความคาดหวังในช่วงกว้าง การแจกแจงความน่าจะเป็น: โดยที่หมายถึงความหนาแน่น ของการกระจายความน่าจะเป็นและจะถูกกำหนดโดยและเอฟ(โปรดทราบว่ามักจะแตกต่างจาก )จริง ๆ แล้วทางเลือก นำไปสู่ความเท่าเทียมและ

$$\mathfrak{I}=\int_\mathfrak{X} h(x)\,\text{d}x$$ $$\mathfrak{I}=\mathbb{E}_f[H(X)]=\int_\mathfrak{X} H(x)f(x)\,\text{d}x$$ $f$$H$$h$$f$$H(\cdot)$$h(\cdot)$ $$H(x)=\dfrac{h(x)}{f(x)}$$ $H(x)f(x)=h(x)$$\mathfrak{I}=\mathbb{E}_f[H(X)]$$-$ภายใต้ข้อ จำกัด บางประการเกี่ยวกับการสนับสนุนของหมายถึงเมื่อ -ดังนั้นดังที่ W. Huber ได้ชี้ให้เห็นในความคิดเห็นของเขาไม่มีความเป็นเอกภาพในการเป็นตัวแทนของอินทิกรัลว่าเป็นความคาดหวัง แต่ตรงกันข้ามกับอาเรย์ที่ไม่สิ้นสุดของการเป็นตัวแทนดังกล่าวบางอันก็ดีกว่าคนอื่น ๆ พวกเขาถูกนำมาใช้ ตัวอย่างเช่น Michael Chernick กล่าวถึงการเลือกเพื่อลดความแปรปรวนของตัวประมาณ$f$$f(x)>0$$h(x)\ne 0$$-$$f$

เมื่อเข้าใจคุณสมบัติเบื้องต้นแล้วการดำเนินการตามแนวความคิดนี้ต้องอาศัยกฎจำนวนมากเช่นเดียวกับวิธีการมอนติคาร์โลอื่น ๆ เช่นการจำลอง [ผ่านเครื่องกำเนิดไฟฟ้าแบบหลอกเทียม] ตัวอย่าง iidแจกจ่ายจากและใช้การประมาณ ซึ่ง$(x_1,\ldots,x_n)$$f$

$$\hat{\mathfrak{I}}=\frac{1}{n} \sum_{i=1}^n H(x_i)$$

1. เป็นตัวประมาณค่า$\mathfrak{I}$
2. ลู่เข้าใกล้$\mathfrak{I}$

ขึ้นอยู่กับทางเลือกของการแจกแจงผู้ประมาณการอาจมีหรือไม่มีความแปรปรวนแน่นอน อย่างไรก็ตามมีอยู่เสมอตัวเลือกของที่อนุญาตให้มีการแปรปรวนแน่นอนและแม้กระทั่งสำหรับการแปรปรวนขนาดเล็กโดยพล (แม้ว่าตัวเลือกเหล่านั้นอาจไม่สามารถใช้ได้ในทางปฏิบัติ และยังมีอยู่ทางเลือกของที่ทำให้ความสำคัญของการสุ่มตัวอย่างประมาณการประมาณยากจนมากของ{I}} ซึ่งรวมถึงตัวเลือกทั้งหมดที่ความแปรปรวนไม่สิ้นสุดแม้ว่าบทความล่าสุดโดย Chatterjee และ Diaconis จะศึกษาวิธีเปรียบเทียบตัวอย่างสำคัญกับความแปรปรวนอนันต์ ภาพด้านล่างนำมาจาก$f$$\hat{\mathfrak{I}}$$f$$f$$\hat{\mathfrak{I}}$${\mathfrak{I}}$การอภิปรายบล็อกของฉันของหนังสือพิมพ์และแสดงให้เห็นถึงการบรรจบกันที่ดีของการประมาณค่าความแปรปรวนที่ไม่มีที่สิ้นสุด

การสุ่มตัวอย่างความสำคัญกับการกระจายความสำคัญประสบการณ์ (1) การกระจายเป้าหมายการกระจาย Exp (1/10) การจัดจำหน่ายและฟังก์ชั่นที่น่าสนใจ x มูลค่าที่แท้จริงของหนึ่งคือ10$h(x)=x$$10$

[ข้อความต่อไปนี้ทำซ้ำจากวิธีการทางสถิติ Monte Carloหนังสือของเรา]

ตัวอย่างต่อไปนี้จากริปลีย์ (1987) แสดงให้เห็นว่าทำไมมันจริงอาจจ่ายในการสร้างจากการจัดจำหน่ายอื่น ๆ กว่า (เดิม) การกระจายปรากฏในการหนึ่ง ดอกเบี้ยหรือกล่าวอีกนัยหนึ่งเพื่อปรับเปลี่ยนการแทนค่าอินทิกรัลตามที่คาดหวังกับความหนาแน่นที่กำหนด$f$

$$\int_\mathfrak{X} h(x) f(x)\,\text{d}x$$

ตัวอย่าง (ความน่าจะเป็นหาง Cauchy) สมมติว่าปริมาณความสนใจคือความน่าจะเป็น, , ตัวแปรCauchyค่ามากกว่านั่นคือ เมื่อถูกประเมินผ่านค่าเฉลี่ยเชิงประจักษ์ ของตัวอย่าง iidความแปรปรวนของตัวประมาณนี้คือ (เท่ากับตั้งแต่ )$p$${\mathcal{C}}(0,1)$$2$

$$p = \int_2^{+\infty} \; {1\over \pi(1 + x^2)} \; \text{d}x \;.$$ $p$ $${\hat{p}}_1 = {1\over m} \; \sum_{j=1}^m \; \mathbb{I}_{X_{j} > 2}$$ $X_1,\ldots,X_m$ $\sim$ $\; \mathcal{C}(0,1)$$p(1-p)/m$$0.127/m$$p=0.15$

ความแปรปรวนนี้สามารถลดลงได้โดยคำนึงถึงลักษณะสมมาตรของเนื่องจากค่าเฉลี่ย มีความแปรปรวนเท่ากับ m${\mathcal{C}}(0,1)$

$${\hat{p}}_2 = {1\over 2m} \; \sum_{j=1}^m \; \mathbb{I}_{|X_{j}| > 2}$$ $p(1-2p)/2m$$0.052/m$

(ที่ญาติ) การขาดประสิทธิภาพของวิธีการเหล่านี้เกิดจากการสร้างค่านอกโดเมนที่น่าสนใจที่ซึ่งเป็นในความรู้สึกบางอย่างที่ไม่เกี่ยวข้องสำหรับการประมาณของพี[เรื่องนี้เกี่ยวข้องกับไมเคิลเชอร์นิคกล่าวถึงการประเมินพื้นที่หาง] ถ้าถูกเขียนเป็น อินทิกรัลด้านบนถือเป็นความคาดหวังของ , โดยที่2]} วิธีการประเมินทางเลือกสำหรับจึงเป็น สำหรับ$[2,+\infty)$$p$$p$

$$p = {1\over 2} - \int_0^2 \; {1\over \pi(1 + x^2)} \; \text{d}x \;,$$ $h(X) = 2/\pi(1 + X^2)$$X \sim {\mathcal{U}}_{[0, 2]}$$p$ $${\hat{p}}_3 = {1\over 2} - {1\over m} \; \sum_{j=1}^m \; h(U_j)$$ $U_j \sim {\mathcal{U}}_{[0,2]}$. ความแตกต่างของคือ และการรวมโดยส่วนต่าง ๆ แสดงให้เห็นว่ามันเท่ากับ . ยิ่งกว่านั้นเนื่องจากสามารถเขียนเป็น อินทิกรัลนี้ยังถูกมองว่าเป็นความคาดหวังของ ต่อการกระจายแบบสม่ำเสมอในและการประเมินอีกครั้งคือ เมื่อ2]} การรวมกันโดยส่วนต่างๆแสดงให้เห็นว่าความแปรปรวนของ${\hat{p}}_3$$(\mathbb{E}[h^2] - \mathbb{E}[h]^2)/m$$0.0285/m$$p$ $$p = \int_0^{1/2} \; {y^{-2}\over \pi(1 + y^{-2})} \; \text{d}y \;,$$ [ 0 , 1 / 2 ] พีพี 4 = ${1\over 4} \; h(Y) = 1/2\pi(1 + Y^2)$$[0,1/2]$$p$Y J ~ U [ 0 , 1 / 2 $${\hat{p}}_4 = {1\over 4 m} \; \sum_{j=1}^m \; h(Y_j)$$ $Y_j \sim {\mathcal{U}}_{[0,1/2]}$${\hat{p}}_{4}$คือ m$0.95 \; 10^{-4}/m$

เมื่อเทียบกับการลดความแปรปรวนที่นำมาจาก มีลำดับซึ่งบ่งบอกเป็นพิเศษว่าการประเมินนี้ต้องการ การจำลองน้อยกว่าเท่า เพื่อให้ได้ความแม่นยำเดียวกัน ${\hat{p}}_1$${\hat p}_4$$10^{-3}$$\sqrt{1000} \approx 32$$\hat p_1$$\blacktriangleright$