การทดสอบชุดข้อมูลขนาดใหญ่เพื่อหาข้อได้เปรียบ - อย่างไรและเชื่อถือได้อย่างไร?

ฉันกำลังตรวจสอบส่วนหนึ่งของชุดข้อมูลของฉันที่มีค่าสองเท่า 46840 ตั้งแต่ 1 ถึง 1690 จัดกลุ่มในสองกลุ่ม เพื่อที่จะวิเคราะห์ความแตกต่างระหว่างกลุ่มเหล่านี้ฉันเริ่มต้นด้วยการตรวจสอบการกระจายของค่าเพื่อเลือกการทดสอบที่ถูกต้อง

ทำตามคำแนะนำในการทดสอบความเป็นมาตรฐานฉันทำ qqplot, histogram & boxplot

นี่ดูเหมือนจะไม่ใช่การแจกแจงแบบปกติ เนื่องจากไกด์ระบุค่อนข้างถูกต้องว่าการตรวจสอบเชิงกราฟิกล้วนไม่เพียงพอฉันจึงต้องการทดสอบการแจกแจงแบบปกติ

เมื่อพิจารณาถึงขนาดของชุดข้อมูลและข้อ จำกัด ของการทดสอบ shapiro-wilks ใน R แล้วการแจกแจงที่ให้มาจะถูกทดสอบเพื่อความเป็นมาตรฐานและพิจารณาขนาดของชุดข้อมูลเป็นสิ่งที่น่าเชื่อถือหรือไม่ ( ดูคำตอบที่ยอมรับสำหรับคำถามนี้ )

แก้ไข:

ข้อ จำกัด ของการทดสอบ Shapiro-Wilk ที่ฉันอ้างถึงคือชุดข้อมูลที่จะทดสอบนั้น จำกัด ไว้ที่ 5,000 คะแนน หากต้องการอ้างอิงคำตอบที่ดีอีกข้อเกี่ยวกับหัวข้อนี้:

ปัญหาเพิ่มเติมของการทดสอบของ Shapiro-Wilk คือเมื่อคุณป้อนข้อมูลเพิ่มเติมโอกาสในการปฏิเสธสมมติฐานที่ใหญ่กว่านั้นจะกลายเป็นเรื่องใหญ่ ดังนั้นสิ่งที่เกิดขึ้นก็คือสำหรับข้อมูลจำนวนมากแม้จะตรวจพบความเบี่ยงเบนเล็ก ๆ น้อย ๆ จากภาวะปกติซึ่งนำไปสู่การปฏิเสธเหตุการณ์สมมติฐานว่างสำหรับการใช้งานจริงข้อมูลนั้นมากกว่าปกติพอ

[... ] โชคดีที่ shapiro.test ปกป้องผู้ใช้จากเอฟเฟกต์ที่อธิบายข้างต้นโดย จำกัด ขนาดข้อมูลไว้ที่ 5,000

ทำไมฉันจึงทดสอบการกระจายแบบปกติตั้งแต่แรก:

การทดสอบสมมติฐานบางข้อถือว่าการแจกแจงปกติของข้อมูล ฉันต้องการทราบว่าฉันสามารถใช้การทดสอบเหล่านี้ได้หรือไม่

ฉันไม่เห็นว่าทำไมคุณถึงต้องกังวล มันไม่ธรรมดา - ในกรณีนี้การตรวจสอบกราฟิกปรากฏว่าเพียงพอสำหรับฉัน คุณมีข้อสังเกตมากมายจากสิ่งที่ดูเหมือนว่าเป็นการกระจายแกมม่าที่ดี เพียงไปกับที่ kolmogorov-smirnovถ้าคุณต้อง - ฉันจะแนะนำการกระจายการอ้างอิง

x=rgamma(46840,2.13,.0085);qqnorm(x);qqline(x,col='red')

hist(rgamma(46840,2.13,.0085))

boxplot(rgamma(46840,2.13,.0085))

อย่างที่ฉันมักจะพูดว่า " การทดสอบความเป็นปกติวิสัยคือ 'ไร้ประโยชน์เป็นหลัก' หรือไม่ " โดยเฉพาะอย่างยิ่งคำตอบของ @ MånsTซึ่งชี้ให้เห็นว่าการวิเคราะห์ที่แตกต่างกันมีความไวที่แตกต่างกัน หากการกระจายของคุณใกล้เคียงกับของฉันอย่างที่เห็นคุณอาจจะมีความเอียงและ kurtosis ("ส่วนเกินที่เกินความจำเป็น" ) มีแนวโน้มที่จะเป็นปัญหาสำหรับการทดสอบจำนวนมาก หากคุณไม่สามารถหาการทดสอบที่มีสมมติฐานที่เหมาะสมกว่านี้หรือไม่มีเลยคุณอาจเปลี่ยนข้อมูลของคุณหรืออย่างน้อยก็ทำการวิเคราะห์ความอ่อนไหวของการวิเคราะห์ที่คุณมีอยู่ในใจ$\approx1.4$$\approx5.9$$\approx2.9$