ทำไมข้อมูลควรถูกสุ่มใหม่ภายใต้สมมติฐานว่างในการทดสอบสมมติฐานบูตสแตรป?

การใช้วิธีการ bootstrap ที่ตรงไปตรงมาเพื่อทดสอบสมมติฐานคือการประมาณช่วงความมั่นใจของสถิติการทดสอบ โดยการคำนวณซ้ำ ๆ บนตัวอย่าง bootstrapped (ปล่อยให้สถิติตัวอย่างจาก bootstrap เรียกว่า ) เราปฏิเสธถ้าสมมติฐานพารามิเตอร์ (ซึ่งมักจะมีค่าเท่ากับ 0) โกหกนอกช่วงความเชื่อมั่นของtheta} θ ^ θ * H0θ0 ^ θ $\hat{\theta}$$\hat{\theta}$$\hat{\theta^*}$$H_0$$\theta_0$$\hat{\theta^*}$

ฉันอ่านแล้วว่าวิธีนี้ไม่มีพลังงานบ้าง ในบทความโดยHall P. และ Wilson SR "สองแนวทางสำหรับการทดสอบสมมติฐาน Bootstrap" (1992)มันถูกเขียนเป็นแนวทางแรกว่าเราควร resampleไม่ใช่\ และนี่คือส่วนที่ฉันไม่เข้าใจ^ θ * -θ$\hat{\theta^*} - \hat{\theta}$$\hat{\theta^*} - \theta_0$

นั่นไม่ใช่วัดแค่ความลำเอียงของตัวประมาณ ? สำหรับตัวประมาณค่าที่เป็นกลางช่วงความมั่นใจของนิพจน์นี้ควรเล็กกว่าแต่ฉันไม่เห็นสิ่งที่ต้องทำเกี่ยวกับการทดสอบ ? มีที่ไหนที่ฉันสามารถมองเห็นเราใส่ข้อมูลเกี่ยวกับ\^ θ * ^ θ * -θ0 θ =θ0θ$\hat{\theta^*} - \hat{\theta}$$\hat{\theta^*}$$\hat{\theta^*} - \theta_0$$\hat{\theta}=\theta_0$$\theta_0$

สำหรับบรรดาของคุณที่ไม่สามารถเข้าถึงบทความนี้เป็นคำพูดของวรรคที่เกี่ยวข้องซึ่งมาทันทีหลังจากวิทยานิพนธ์:

เพื่อชื่นชมว่าทำไมสิ่งนี้จึงสำคัญสังเกตว่าการทดสอบจะเกี่ยวข้องกับการปฏิเสธหากใน คือ "ใหญ่เกินไป" ถ้าเป็นทางยาวจากมูลค่าที่แท้จริงของ (เช่นถ้าเป็นข้อผิดพลาดอย่างไม่มีการลด) แล้วความแตกต่าง จะไม่ดูใหญ่เกินไปเมื่อเทียบกับการกระจาย bootstrap ที่ไม่ใช่พารามิเตอร์ของ. การเปรียบเทียบที่มีความหมายมากขึ้นคือการกระจายของ. ที่จริงแล้วถ้ามูลค่าที่แท้จริงของคือ| θ - θ 0 | θ 0 θ H 0 | θ - θ 0 | | θ - θ 0 | | ^ θ * - θ | θ θ 1 | θ 1 - θ 0 | | ^ θ * - θ | | θ 1 - θ 0 $H_0$$\left| \hat{\theta} - \theta_0\right|$$\theta_0$$\theta$$H_0$$\left|\hat{\theta} - \theta_0 \right|$$\left| \hat{\theta} - \theta_0\right|$$\left| \hat{\theta^*} - \hat{\theta}\right|$$\theta$$\theta_1$ดังนั้นพลังของการทดสอบบูตสแตรปจะเพิ่มขึ้นเป็น 1 เมื่อการเพิ่มขึ้นของการทดสอบที่จัดไว้ให้อยู่บนพื้นฐานของ resampling แต่พลังจะลดลงถึงระดับนัยสำคัญมากที่สุด (เป็นเพิ่ม) ถ้าการทดสอบอยู่บนพื้นฐานของการ resampling $\left|\theta_1 - \theta_0\right|$$\left| \hat{\theta^*} - \hat{\theta}\right|$$\left|\theta_1 - \theta_0\right|$$\left|\hat{\theta} - \theta_0\right|$

นี่เป็นหลักการเปรียบเทียบบูตสแตรป (ที่รู้จัก) อยู่ภายใต้การจัดจำหน่ายจริงผลิตตัวอย่างที่อยู่ในมือกับ CDFซึ่งจะผลิตสถิติสำหรับบางคนทำงานcdot) ความคิดของคุณเกี่ยวกับการใช้ bootstrap คือการสร้างคำสั่งเกี่ยวกับการกระจายตัวตัวอย่างตามการกระจายที่รู้จักซึ่งคุณพยายามใช้โปรโตคอลการสุ่มตัวอย่างที่เหมือนกัน (ซึ่งเป็นไปได้เฉพาะกับข้อมูล iid เท่านั้น แม่นยำหนึ่งสามารถทำซ้ำกระบวนการสุ่มตัวอย่าง) และใช้ฟังก์ชันเดียวกัน ฉันแสดงมันในโพสต์อื่นx 1 , ... , x n F n θ = T ( F n ) T ( ⋅ ) ~ F T ( ⋅ ) θ - θ 0 θ * ~ F T ( ⋅ ) T ( ~ F ) ~ F = F n T ( F n ) ≡ $F$$x_1, \ldots, x_n$$F_n$$\hat\theta=T(F_n)$$T(\cdot)$$\tilde F$$T(\cdot)$ด้วย (สิ่งที่ฉันคิดว่าเป็น) แผนภาพเรียบร้อย ดังนั้นบูตอะนาล็อกของส่วนเบี่ยงเบน (สุ่ม + ระบบ) , จำนวนดอกเบี้ยส่วนกลางของคุณคือส่วนเบี่ยงเบนของ bootstrap ทำซ้ำจากสิ่งที่รู้กันว่าเป็นจริงสำหรับการแจกแจงกระบวนการสุ่มตัวอย่างที่คุณนำไปใช้และทำงานคือมาตรการของแนวโน้มเข้าสู่ส่วนกลางคือF) หากคุณใช้ bootstrap nonparametric มาตรฐานที่มีการแทนที่จากข้อมูลดั้งเดิมของคุณดังนั้นการวัดแนวโน้มกลางของคุณจะต้องเป็นตามข้อมูลต้นฉบับ$\hat\theta - \theta_0$$\hat\theta^*$$\tilde F$$T(\cdot)$$T(\tilde F)$$\tilde F=F_n$$T(F_n) \equiv \hat \theta$

นอกจากการแปลแล้วยังมีปัญหาเกี่ยวกับ subtler ที่เกิดขึ้นกับการทดสอบ bootstrap ซึ่งบางครั้งก็ยากที่จะเอาชนะ การกระจายตัวของสถิติการทดสอบภายใต้ค่า Null อาจแตกต่างอย่างมากจากการกระจายของสถิติการทดสอบภายใต้ทางเลือก (เช่นในการทดสอบในขอบเขตของพื้นที่พารามิเตอร์ซึ่งล้มเหลวด้วย bootstrap ) การทดสอบง่ายๆที่คุณได้เรียนรู้ในชั้นเรียนระดับปริญญาตรีเช่น -test มีความคงที่อยู่ใต้กะ แต่ความคิดของ "Heck ฉันเพียงแค่เปลี่ยนทุกอย่าง" ล้มเหลวเมื่อคุณต้องย้ายไปอีกระดับของความซับซ้อนแนวคิดเชิงการทดสอบ คิดว่าเรื่องนี้: คุณกำลังทดสอบว่าและข้อสังเกตของคุณx จากนั้นเมื่อคุณสร้างχ 2 μ = 0 ˉ x = 0.78 χ 2 ( ˉ x - μ ) 2 / ( s 2 / n ) ≡ ˉ x 2 / ( s 2 / n ) ˉ x 2 * / ( s 2 * / n ) n ˉ x 2 / s $t$$\chi^2$$\mu=0$$\bar x=0.78$$\chi^2$ testพร้อมอะนาล็อก bootstrapจากนั้นการทดสอบนี้มีไม่ใช่ศูนย์กลางในตัวของตั้งแต่เริ่มต้นแทนที่จะเป็นแบบทดสอบส่วนกลางตามที่เราคาดหวัง ในการทำให้ศูนย์กลางการทดสอบบู๊ตคุณต้องลบค่าประมาณดั้งเดิม$(\bar x-\mu)^2/(s^2/n) \equiv \bar x^2/(s^2/n)$$\bar x_*^2/(s_*^2/n)$$n \bar x^2/s^2$

การไม่สามารถหลีกเลี่ยงได้ในบริบทหลายตัวแปรตั้งแต่ PearsonสำหรับตารางฉุกเฉินไปจนถึงBollen-Stine bootstrapของสถิติการทดสอบในแบบจำลองสมการโครงสร้าง แนวคิดของการขยับกระจายเป็นเรื่องยากมากที่จะกำหนดได้ดีในสถานการณ์เหล่านี้ ... แม้ว่าในกรณีของการทดสอบในการฝึกอบรมความแปรปรวนหลายตัวแปรนี้เป็น doable โดยหมุนที่เหมาะสมχ $\chi^2$$\chi^2$

ตกลงฉันเข้าใจแล้ว ขอบคุณ StasK สำหรับคำตอบที่ดี ฉันจะให้มันเป็นที่ยอมรับสำหรับคนอื่น ๆ ที่จะเรียนรู้ แต่ในกรณีของฉันโดยเฉพาะฉันพลาดข้อเท็จจริงง่ายๆ:

ขั้นตอนการบู๊ตสแตรปตามแนวทางของ Hall & Wilson สำหรับการทดสอบค่าเฉลี่ยตัวอย่างง่ายๆคือ (ในรหัสเทียมที่ได้แรงบันดาลใจจาก R):

1function(data,$\theta_0$ ) {
2 $\hat{\theta} \leftarrow$ t.test(data, mu = $\theta_0$ )$statistic
3 count $\leftarrow 0$
4for(i in 1:1000){
5 bdata $\leftarrow$ sample(data)
6 $\hat{\theta^*} \leftarrow$ t.test(bdata, mu = $\hat{\theta}$ )$statistic
7 if ( $\hat{\theta^*} \le \hat{\theta}$ ) count++
8 }
9 count/1000
10 }

ส่วนที่ฉันพลาดคือคือ "ใช้แล้ว" ในบรรทัด(ที่เราตั้งค่าการอ้างอิง )$\theta_0$2$\hat{\theta}$

เป็นที่น่าสนใจที่จะต้องทราบว่าในบรรทัด2และ6เราสามารถเท่าเทียมกันได้อย่างง่ายดายใช้แทนp.value statisticในกรณีที่ว่าเราก็ควรเปลี่ยนเข้าในสาย$\le$$\ge$7