ผลกระทบของขอบเขตของถังขยะที่อิงกับข้อมูลต่อความดีของไคสแควร์พอดีหรือไม่

ออกจากประเด็นที่ชัดเจนของพลังงานต่ำของไคสแควร์ในสถานการณ์แบบนี้ลองจินตนาการถึงการทดสอบความดีของไคสแควร์สำหรับความหนาแน่นบางส่วนด้วยพารามิเตอร์ที่ไม่ระบุโดยการทำข้อมูล

สำหรับ concreteness สมมุติว่าการแจกแจงเลขชี้กำลังมีค่าเฉลี่ยไม่ทราบและขนาดตัวอย่างเท่ากับ 100

เพื่อให้ได้จำนวนการสังเกตที่คาดหวังต่อ bin จำนวนบัญชีที่เหมาะสมจะต้องมีการบันทึกข้อมูล (เช่นถ้าเราเลือกที่จะวาง 6 bins ต่ำกว่าค่าเฉลี่ยและ 4 ด้านบนนั้นจะยังคงใช้ขอบเขตของฐานข้อมูล) .

แต่การใช้ถังขยะโดยดูจากข้อมูลนี้น่าจะส่งผลต่อการแจกแจงสถิติการทดสอบภายใต้ค่า Null

ฉันได้เห็นการสนทนามากมายเกี่ยวกับความจริงที่ว่า - หากพารามิเตอร์ถูกประเมินโดยความน่าจะเป็นสูงสุดจากข้อมูลที่ถูกทำให้เป็นบ้าเป็นหลัง - คุณเสีย 1 df ต่อพารามิเตอร์โดยประมาณ (ปัญหาย้อนหลังไปถึง Fisher vs Karl Pearson) - แต่ฉันจำไม่ได้ อ่านอะไรก็ได้เกี่ยวกับการค้นหาขอบเขตของตัวถังขยะเองตามข้อมูล (หากคุณประเมินจากข้อมูลที่ไม่ได้รวมดังนั้นด้วย $k$ bins การกระจายของสถิติการทดสอบจะอยู่ที่ไหนสักแห่งระหว่างและ a ) $\chi^2_{k}$ $\chi^2_{k-p}$

การเลือกใช้ถังขยะแบบอิงข้อมูลนี้ส่งผลต่อระดับหรือกำลังสำคัญอย่างมีนัยสำคัญหรือไม่? มีวิธีการบางอย่างที่สำคัญกว่าวิธีอื่น ๆ หรือไม่? หากมีผลมากมันเป็นสิ่งที่หายไปในกลุ่มตัวอย่างขนาดใหญ่หรือไม่?

ถ้ามันมีผลกระทบที่สำคัญนี่จะทำให้การทดสอบแบบไคสแควร์เกิดขึ้นเมื่อพารามิเตอร์ไม่เป็นที่รู้จักเกือบไร้ประโยชน์ในหลาย ๆ กรณี (แม้ว่าจะยังคงได้รับการสนับสนุนในตำราค่อนข้างน้อย) เว้นแต่คุณจะมี -priori ของพารามิเตอร์

การอภิปรายปัญหาหรือตัวชี้ไปยังการอ้างอิง (ควรมีการกล่าวถึงข้อสรุปของพวกเขา) จะเป็นประโยชน์

แก้ไขนอกเหนือจากคำถามหลัก:

มันเกิดขึ้นกับฉันว่ามีวิธีแก้ปัญหาที่เป็นไปได้สำหรับกรณีเฉพาะของเอ็กซ์โพเนนเชียล * (และชุดเครื่องแบบคิดออกมา) แต่ฉันยังสนใจในปัญหาทั่วไปของขอบเขตการเลือกผลกระทบการเลือกเพิ่มเติม

ตัวอย่างเช่นสำหรับเอ็กซ์โพเนนเชียลเราอาจใช้การสังเกตที่เล็กที่สุด (บอกว่าเท่ากับ ) เพื่อให้ได้แนวคิดคร่าวๆว่าจะวางถังขยะอย่างไร (เนื่องจากการสังเกตที่น้อยที่สุดนั้นมีความหมายเป็น ) และ จากนั้นทดสอบความแตกต่างที่เหลือ( ) เพื่อหาเลขชี้กำลัง แน่นอนว่าอาจให้ผลการประเมินแย่มากและด้วยเหตุนี้ตัวเลือกถังขยะที่น่าสงสารแม้ว่าฉันคิดว่าใคร ๆ ก็อาจใช้การโต้เถียงแบบวนซ้ำเพื่อให้การสังเกตสองหรือสามครั้งที่ต่ำที่สุดเพื่อเลือกถังขยะที่สมเหตุสมผล การสังเกตที่เหลืออยู่เหนือสถิติการสั่งซื้อที่เล็กที่สุดที่ใหญ่ที่สุดสำหรับการอธิบาย) $m$ $\mu/n$ $n-1$ $x_i - m$ $\mu$

chi-squared goodness-of-fit binning

— Glen_b -Reinstate Monica
แหล่งที่มา

คำถามที่น่าสนใจ ฉันไม่รู้คำตอบ แต่ความคิดที่ว่าอิสรภาพบางส่วนควรหายไปนั้นสมเหตุสมผล ถ้าคุณไม่เคยเห็นมันแล้วคำตอบนี้โดย @whuber ควรจะกระตุ้นความคิด: วิธีการเข้าใจองศาของเสรีภาพ สำหรับผมแล้วดูเหมือนว่าการศึกษาแบบจำลองบางอย่างน่าจะช่วยให้คุณได้เท้าที่นี่อย่างน้อยก็ในบางกรณี

— gung - Reinstate Monica

ไม่แน่ใจว่าสิ่งนี้มีประโยชน์เพียงใด แต่มีปัญหาที่คล้ายคลึงกันในด้านการประมาณค่าที่เข้มงวด โดยเฉพาะวิธีการประมาณค่าที่มีประสิทธิภาพ (เช่นค่าเฉลี่ยที่ถูกตัด) มักต้องการอินพุตแบบกำหนดพารามิเตอร์ (เช่นพารามิเตอร์ที่กำหนดว่าจะตัดแต่งเท่าใด) พารามิเตอร์นี้สามารถเลือกได้โดยวิธีการที่ขับเคลื่อนด้วยข้อมูล (เช่นดูว่าหางมีขนาดใหญ่เพียงใดก่อนเลือกพารามิเตอร์การตัดแต่ง) แต่การเลือกพารามิเตอร์การตัดแต่งก่อนส่งผลกระทบต่อการกระจายของค่าเฉลี่ยที่ถูกตัดแทนที่จะเปรียบเทียบกฎการแก้ไขแบบพารามิเตอร์ วิธีปกติในการจัดการกับวรรณกรรมนั้นคือผ่าน bootstrap

— โคลิน T Bowers

@ColinTBowers - อาจมีประโยชน์บ้างขอบคุณ ไม่ได้คิดเกี่ยวกับความเป็นไปได้ของ bootstrapping

— Glen_b -Reinstate Monica

เป็นเรื่องที่น่าสนใจที่จะแยกแยะปัญหาออกเป็นกรณีที่ง่ายที่สุด ลองนึกภาพบางสิ่งเช่นการสังเกตเพียง 5 ข้อจากการกระจายที่คุณโปรดปรานและวางตัวแบ่งเดียวไว้ในข้อมูลเพื่อสร้างเพียงสองถังขยะ

— zkurtz

คำตอบ:

ผลการพื้นฐานของการทดสอบความดีของพอดีไคสแควร์สามารถเข้าใจลำดับชั้น

ระดับ 0 สถิติทดสอบไคสแควร์ของเพียร์สันเพียร์สันสำหรับการทดสอบกลุ่มตัวอย่างแบบหลายตัวอย่างกับเวกเตอร์ความน่าจะเป็นคงที่คือ $p$ ที่หมายถึงจำนวนของผลลัพธ์ในเซลล์ TH ออกของกลุ่มตัวอย่างที่มีขนาดnนี่สามารถดูได้ผลเป็นบรรทัดฐานกำลังสองของเวกเตอร์โดยที่

X^{2} (p) = \sum_{i = 1}^{k} \frac{(X_{i}^{(n)} - n p_{i})^{2}}{n p_{i}} \overset{d}{\to} χ_{k - 1}^{2},

$X^2(p) = \sum_{i=1}^k \frac{(X^{(n)}_i - n p_i)^2}{n p_i} \stackrel{d}{\to} \chi_{k-1}^2 \>,$

X_{i}^{(n)}

$X_i^{(n)}$

i

$i$

n

$n$

Y_{n} = (Y_{1}^{(n)}, \dots, Y_{k}^{(n)})

$\mathbf Y_n = (Y_1^{(n)},\ldots,Y_k^{(n)})$

ซึ่งโดยทฤษฎีบทขีด จำกัด กลางหลายตัวแปรมาบรรจบกันในการแจกแจงเมื่อ

Y_{i}^{(n)} = (X_{i}^{(n)} - n p_{i}) / \sqrt{n p_{i}}

$Y_i^{(n)} = (X_i^{(n)} - n p_i)/\sqrt{n p_i}$

จากนี้เราจะเห็นว่า

ตั้งแต่

Y_{n} \overset{d}{\to} ยังไม่มีข้อความ (0, ผม - \sqrt{พี} {\sqrt{พี}}^{T}) .

$\mathbf Y_n \stackrel{d}{\to} \mathcal N(0, \mathbf I - \sqrt{p}\sqrt{p}^T) \>.$

X^{2} = ‖ Y_{n} ‖^{2} \to χ_{k - 1}^{2}

$X^2 = \|\mathbf Y_n\|^2 \to \chi^2_{k-1}$

เป็น idempotent ยศ

I - \sqrt{p} {\sqrt{p}}^{T}

$\mathbf I - \sqrt{p}\sqrt{p}^T$

k - 1

$k-1$

ระดับ 1 ในระดับถัดไปของลำดับชั้นเราจะพิจารณาสมมุติฐานเชิงประกอบพร้อมตัวอย่างหลายตัวอย่าง เนื่องจากไม่ทราบค่าที่แน่นอนภายใต้สมมติฐานว่างเราจึงต้องประมาณ ถ้าสมมุติฐานว่างประกอบขึ้นและประกอบด้วยส่วนย่อยเชิงเส้นของมิติดังนั้นการประมาณความน่าจะเป็นสูงสุด (หรือตัวประมาณประสิทธิภาพอื่น ๆ ) ของสามารถใช้เป็นตัวประมาณ "plug-in" จากนั้นสถิติ $p$ $m$ $p_i$

X_{1}^{2} = \sum_{i = 1}^{k} \frac{(X_{i}^{(n)} - n {\hat{p}}_{i})^{2}}{n {\hat{p}}_{i}} \overset{d}{\to} χ_{k - m - 1}^{2},

$X^2_1 = \sum_{i=1}^k \frac{(X^{(n)}_i - n \hat{p}_i)^2}{n \hat{p}_i} \stackrel{d}{\to} \chi_{k-m - 1}^2 \>,$

$\lambda$ $k$

ถ้าจำนวนพารามิเตอร์สำหรับการจัดจำหน่ายเป็น (เช่นในกรณีที่ชี้แจง) แล้ว $m$ $m = 1$ ที่นี่สามารถนำไปเป็น MLEs ของความน่าจะเป็นมือถือคงที่เซลล์ที่รู้จักกันที่สอดคล้องกับการจัดจำหน่ายที่ได้รับที่น่าสนใจ

X_{2}^{2} = \sum_{i = 1}^{k} \frac{(X_{i}^{(n)} - n {\hat{p}}_{i})^{2}}{n {\hat{p}}_{i}} \overset{d}{\to} χ_{k - m - 1}^{2},

$X^2_2 = \sum_{i=1}^k \frac{(X^{(n)}_i - n \hat{p}_i)^2}{n \hat{p}_i} \stackrel{d}{\to} \chi_{k-m - 1}^2 \>,$

{\hat{p}}_{i}

$\hat{p}_i$

$Z_1,\ldots,Z_n \sim F_\lambda$ $\lambda$ $\chi_{k-m-1}^2$ $\chi_{k-1}^2$

$\mathbf Y_n$ $\mathcal N(0, \mathbf I - \sqrt{p_\lambda}\sqrt{p_\lambda}^T - \mathbf A(\lambda))$

$\lambda$ $\mathbf A(\lambda)$

$\mathbf Y_n$ $\mathbf B(\hat{\lambda})$

Y_{n}^{T} B^{T} B Y_{n} \overset{d}{\to} χ_{k - 1}^{2},

$\mathbf Y_n^T \mathbf B^T \mathbf B \mathbf Y_n \stackrel{d}{\to} \chi_{k-1}^2 \>,$

k

$k$

ตัวอย่างเป็นสถิติราว-Robson-Nikulinและสถิติ Dzhaparidze-Nikulin

$k$ $1/k$ $\hat{I}_j = \hat \mu + \hat\sigma I_{0,j}$ $I_{0,j} = [F^{-1}((j-1)/k), F^{-1}(j/k))$

อ้างอิง

ว. วชิรแวนเดอร์ Vaart (2541), สถิติเชิงซ้อน , สำนักพิมพ์มหาวิทยาลัยเคมบริดจ์ บทที่ 17 : การทดสอบไคสแควร์
$\chi^2$
FC Drost (1989), การทดสอบความดีที่พอดีไคสแควร์ทั่วไปสำหรับโมเดลระดับตำแหน่งเมื่อจำนวนคลาสมีแนวโน้มที่จะไม่มีสิ้นสุด , แอน สถิติฉบับ หมายเลข 17 3, 1285–1300
MS Nikulin, MS (1973), การทดสอบไคสแควร์สำหรับการจัดจำหน่ายอย่างต่อเนื่องกับการเปลี่ยนแปลงและขนาดพารามิเตอร์ , ทฤษฎีความน่าจะเป็นและการประยุกต์ใช้ฉบับ 19, ไม่มี 3, 559–568
KO Dzaparidze และ MS Nikulin (1973), ในการดัดแปลงสถิติมาตรฐานของ Pearson , ทฤษฎีความน่าจะเป็นและการประยุกต์ใช้ , ฉบับที่ 19, ไม่มี 4, 851–853
KC Rao และ DS Robson (1974), สถิติไค - สแควร์สำหรับความดีของการทดสอบแบบพอดีภายในครอบครัวเลขชี้กำลัง , Comm statist เล่ม 3 หมายเลข 12, 1139–1153
N. Balakrishnan, V. Voinov และ MS Nikulin (2013), ความดีแบบ Chi-Squared ของการทดสอบที่พอดีกับการใช้งาน , สื่อวิชาการ

— พระราชาคณะ
แหล่งที่มา

ฉันพบคำตอบบางส่วนของคำถามของฉันด้านล่างแล้ว (ฉันยังต้องการให้โบนัสแก่ใครบางคนดังนั้นข้อมูลเพิ่มเติมที่ได้รับการชื่นชม)

$\chi^2_{k-p-1}$ $p$ $\chi^2_1$ $k$ $p$ $\chi^2_{k-p}$ $\chi^2_{k}$ $p$

อ้างอิง

Moore DS (1971), สถิติ Chi-Square พร้อมขอบเขตเซลล์แบบสุ่ม , Ann. คณิตศาสตร์. สถิติ , ฉบับที่ 42, หมายเลข 1, 147–156

$\chi^2$ สถิติกับช่วงเวลาตัวแปร , เทคนิคการรายงานครั้งที่ 1แผนกสถิติมหาวิทยาลัยสแตนฟอ

วัตสัน, GS (1957), The $\chi^2$ คุณงามความดีของพอดีสำหรับการทดสอบการแจกแจงปกติ , Biometrika , 44 , 336-348

วัตสัน, GS (1958), เปิด $\chi^2$ คุณงามความดีของพอดีสำหรับการทดสอบการกระจายอย่างต่อเนื่อง , เจรอยัล Statist Soc B , 20 , 44–61

วัตสัน, GS (1959), ผลลัพธ์ล่าสุดบางอย่างใน $\chi^2$ การทดสอบความดีพอดี , ชีวภาพ , 15 , 440-468

— Glen_b -Reinstate Monica
แหล่งที่มา