เหตุใดการทดสอบอัตราส่วนความน่าจะเป็นกระจายแบบไคสแควร์

ทำไมสถิติการทดสอบของการทดสอบอัตราส่วนความน่าจะเป็นแบบกระจายไคสแควร์

$2(\ln \text{ L}_{\rm alt\ model} - \ln \text{ L}_{\rm null\ model} ) \sim \chi^{2}_{df_{\rm alt}-df_{\rm null}}$

ดังกล่าวโดย @ Nick นี้เป็นผลมาจากทฤษฎีบท Wilks' แต่โปรดทราบว่าสถิติการทดสอบนั้นเป็นแบบไม่แสดง กระจายไม่ใช่กระจาย$\chi^2$$\chi^2$

ฉันประทับใจในทฤษฎีบทนี้มากเพราะมันเป็นบริบทที่กว้างมาก พิจารณาแบบจำลองทางสถิติที่มีความเป็นไปได้โดยที่คือการสังเกตเวกเตอร์ของ การสังเกตแบบจำลองอิสระจากการแจกแจงพร้อมพารามิเตอร์ซึ่งเป็นของ submanifoldของพร้อมมิติ s ให้เป็น submanifold กับมิติ m ลองนึกภาพคุณมีความสนใจในการทดสอบ\}Y n θ B 1 R dสลัว( B 1 ) = s B 0 ⊂ B 1มซำ( B 0 ) = มH 0 : { θ ∈ B 0$l(\theta \mid y)$$y$$n$$\theta$$B_1$$\mathbb{R}^d$$\dim(B_1)=s$$B_0 \subset B_1$$\dim(B_0)=m$$H_0\colon\{\theta \in B_0\}$

อัตราส่วนเป็น กําหนดการเบี่ยงเบนใหญ่) จากนั้นทฤษฎีบทของวิลก์ส์บอกว่าภายใต้สมมติฐานปกติปกติคือ asymptoticallyกระจายกับเอสองศาอิสระเมื่อถือเป็นจริง d(y)=2บันทึก(lr(y))d(y)χ2s-mH

ได้รับการพิสูจน์ในเอกสารต้นฉบับของ Wilk ที่ @Nick พูดถึง ฉันคิดว่าบทความนี้อ่านไม่ง่าย วิลก์สตีพิมพ์หนังสือเล่มหนึ่งในภายหลังบางทีด้วยการนำเสนอที่ง่ายที่สุดของทฤษฎีบทของเขา หลักฐานการแก้ปัญหาในระยะสั้นจะได้รับในหนังสือที่ดีวิลเลียมส์

ความคิดเห็นที่รุนแรงผมสองนิค Sabbe และคำตอบสั้น ๆ ของฉันคือมันไม่ได้เป็น ฉันหมายถึงมันมีเฉพาะในโมเดลเชิงเส้นปกติเท่านั้น สำหรับอย่างอื่น ๆ เรียงลำดับของสถานการณ์การกระจายที่แน่นอนไม่ได้เป็น 2 ในหลาย ๆ สถานการณ์ที่คุณสามารถหวังว่า Wilks' เงื่อนไขทฤษฎีบทมีความพึงพอใจและจากนั้นasymptoticallyลู่สถิติการเข้าสู่ระบบโอกาสทดสอบอัตราส่วนในการกระจายไปยัง 2 ข้อ จำกัด และการละเมิดเงื่อนไขของทฤษฎีบทของวิลก์ส์มีมากมายเกินกว่าที่จะมองข้ามχ $\chi^2$$\chi^2$

1. ทฤษฎีนี้สันนิษฐานว่า iid dataคาดว่าปัญหาเกี่ยวกับข้อมูลที่ต้องพึ่งพาเช่นอนุกรมเวลาหรือตัวอย่างการสำรวจความน่าจะเป็นที่ไม่เท่าเทียมกัน (ซึ่งมีการกำหนดความน่าจะเป็นที่ไม่ดีอยู่ดี; การทดสอบ "ปกติ"เช่นการทดสอบอิสระในตารางฉุกเฉิน เริ่มต้นพฤติกรรมตามจำนวนเงินที่ ( ราวและสกอตต์ ). สำหรับข้อมูล IID,และผลรวมจะกลายเป็น . แต่ไม่ใช่ - ข้อมูลอิสระนี่ไม่ใช่กรณีอีกต่อไปχ 2 Σ k k วีk , วีk ~ IID χ 2 1 k = 1 χ $\Rightarrow$$\chi^2$$\sum_k a_k v_k, v_k \sim \mbox{i.i.d.} \chi^2_1$$a_k=1$$\chi^2$
2. ทฤษฎีบทสมมติว่าพารามิเตอร์ที่แท้จริงจะอยู่ในการตกแต่งภายในของพื้นที่พารามิเตอร์ หากคุณมีพื้นที่แบบยุคลิดเพื่อทำงานด้วยนั่นไม่ใช่ปัญหา อย่างไรก็ตามในปัญหาบางอย่างข้อ จำกัด ตามธรรมชาติอาจเกิดขึ้นเช่นความแปรปรวน 0 หรือความสัมพันธ์ระหว่าง -1 และ 1 หากพารามิเตอร์ที่แท้จริงคือขอบเขตหนึ่งจากนั้นการกระจายซีมโทติคคือส่วนผสมของมีองศาที่แตกต่างกัน ในแง่ที่ว่า cdf ของการทดสอบคือผลรวมของ cdfs ( Andrews 2001 , บวกสองหรือสามของเอกสารของเขามากกว่าในช่วงเวลาเดียวกันโดยมีประวัติย้อนกลับไปที่Chernoff 1954 )ไค$\ge$$\chi^2$
3. ทฤษฎีบทสันนิษฐานว่าอนุพันธ์ที่เกี่ยวข้องทั้งหมดไม่เป็นศูนย์ สิ่งนี้สามารถท้าทายกับปัญหาที่ไม่เป็นเชิงเส้นและ / หรือการกำหนดพารามิเตอร์และ / หรือสถานการณ์เมื่อไม่ได้ระบุพารามิเตอร์ภายใต้ค่า null สมมติว่าคุณมีรูปแบบการผสมแบบเกาส์และโมฆะของคุณคือหนึ่งองค์ประกอบกับทางเลือกของส่วนประกอบที่แตกต่างกันสองตัวมีการผสมส่วนฉเห็นได้ชัดว่าเป็นโมฆะซ้อนกันในทางเลือก แต่สิ่งนี้สามารถแสดงออกได้หลายวิธี: เมื่อ (ซึ่งในกรณีนี้พารามิเตอร์ไม่ได้ระบุ), (ในกรณีที่f N $N(\mu_0,\sigma^2_0)$f f = 0 μ 1 , σ 2 1 f = 1 μ 2 , σ 2 2 μ 1 = μ 2 , σ $f N(\mu_1,\sigma_1^2) + (1-f) N(\mu_2,\sigma_2^2)$$f$$f=0$$\mu_1,\sigma_1^2$$f=1$$\mu_2, \sigma_2^2$ไม่ได้ระบุไว้) หรือ (ในกรณีที่ไม่ได้ระบุ ) ที่นี่คุณไม่สามารถบอกได้ว่าคุณควรมีอิสระในการทดสอบกี่องศาเนื่องจากคุณมีข้อ จำกัด ที่แตกต่างกันขึ้นอยู่กับว่าคุณกำหนดพารามิเตอร์การซ้อน ดูการทำงานของ Jiahua เฉินเกี่ยวกับเรื่องนี้เช่นCJS 2001$\mu_1=\mu_2, \sigma_1=\sigma_2$$f$
4. อาจทำงานได้ตกลงถ้าการจัดจำหน่ายที่ได้รับการระบุไว้อย่างถูกต้อง แต่ถ้าไม่ใช่การทดสอบจะหยุดลงอีกครั้ง ใน (โดยส่วนใหญ่ถูกละเลยโดยนักสถิติ) subarea ของการวิเคราะห์หลายตัวแปรที่รู้จักกันในชื่อการสร้างแบบจำลองความแปรปรวนร่วมสมการโครงสร้างการกระจายปกติหลายตัวแปรมักจะสันนิษฐาน แต่ถึงแม้ว่าโครงสร้างที่ถูกต้องการทดสอบจะทำงานผิดถ้าการกระจายแตกต่างกัน Satorra และ Bentler 1995แสดงให้เห็นว่าการแจกแจงจะกลายเป็นเรื่องราวเดียวกันกับที่ไม่ใช่ข้อมูลอิสระในจุดที่ 1 ของฉัน แต่พวกเขาได้แสดงให้เห็นว่า s ขึ้นอยู่กับโครงสร้างของโมเดลและช่วงเวลาที่สี่ของการแจกแจง∑ k a k v k , v k ∼ iid χ 2 1 a $\chi^2$$\sum_k a_k v_k, v_k \sim \mbox{i.i.d.} \chi^2_1$$a_k$
5. สำหรับตัวอย่างที่ จำกัด ในสถานการณ์ที่มีความเป็นไปได้สูงที่อัตราส่วนของบาร์ตเลตต์จะถูกต้อง : ในขณะที่สำหรับตัวอย่างที่มีขนาดและเป็นฟังก์ชั่นการกระจายของกระจายสำหรับปัญหาที่เกิดขึ้นน่าจะเป็นปกติคุณสามารถหาได้คงที่ดังกล่าวว่าคือลำดับที่สูงขึ้นของ ความถูกต้อง ดังนั้นการประมาณสำหรับตัวอย่าง จำกัด สามารถปรับปรุงได้ (และควรปรับปรุงถ้าคุณรู้วิธี) ค่าคงที่n F ( x ; χ 2 d ) χ 2 d b P r o b [ d ( y ) / ( 1 + b / n ${\rm Prob}[d(y) \le x]=F(x;\chi^2_d)[1+O(n^{-1})]$$n$$F(x;\chi^2_d)$$\chi^2_d$$b$χ 2${\rm Prob}[d(y)/(1+b/n) \le x]=F(x;\chi^2_d)[1+O(n^{-2})]$$\chi^2$$b$ ขึ้นอยู่กับโครงสร้างของแบบจำลองและบางครั้งก็ขึ้นอยู่กับพารามิเตอร์เสริม แต่ถ้าสามารถประมาณได้อย่างสม่ำเสมอก็จะได้ผลเช่นเดียวกันในการปรับปรุงลำดับความครอบคลุม

สำหรับความคิดเห็นของปัญหาเหล่านี้และความลับที่คล้ายกันในโอกาสอนุมานดูสมิ ธ 1989