การวินิจฉัยที่เหลือและความสม่ำเสมอของความแปรปรวนในตัวแบบผสมเชิงเส้น

ก่อนที่จะถามคำถามนี้ผมค้นหาเว็บไซต์ของเราและพบมากคำถามที่คล้ายกัน (เช่นที่นี่ , ที่นี่และที่นี่ ) แต่ฉันรู้สึกว่าคำถามที่เกี่ยวข้องนั้นไม่ได้รับการตอบสนองหรือพูดคุยอย่างดีดังนั้นจึงอยากจะถามคำถามนี้อีกครั้ง ฉันรู้สึกว่าควรมีผู้ชมจำนวนมากที่ต้องการอธิบายคำถามประเภทนี้อย่างชัดเจนยิ่งขึ้น

สำหรับคำถามของฉันก่อนอื่นให้ลองพิจารณาโมเดลผสมผลกระทบเชิงเส้น โดยที่เป็นองค์ประกอบผลกระทบเชิงเส้นคงที่\ mathbf {Z}เป็นเมทริกซ์ออกแบบเพิ่มเติมที่สอดคล้องกันพารามิเตอร์สุ่มผล , \ boldsymbol \ และ\ boldsymbol \ epsilon \ \ sim \ N (\ mathbf {0, \ sigma ^ 2 I})เป็นข้อผิดพลาดทั่วไป X

$$\mathbf{y = X\boldsymbol \beta + Z \boldsymbol \gamma + \boldsymbol \epsilon}$$ $X\boldsymbol \beta$$\mathbf{Z}$ϵ ∼ N ( 0 , σ 2 I$\boldsymbol \gamma$$\boldsymbol \epsilon \ \sim \ N(\mathbf{0, \sigma^2 I})$

สมมติว่าปัจจัยที่มีผลคงที่เพียงอย่างเดียวคือการรักษาที่มีการจัดหมวดหมู่ตัวแปรซึ่งมี 3 ระดับที่แตกต่างกัน และเป็นปัจจัยเดียวที่สุ่มผลที่ได้คือตัวแปรเรื่อง ที่กล่าวว่าเรามีโมเดลผสมเอฟเฟกต์พร้อมเอฟเฟกต์การรักษาคงที่และเอฟเฟกต์แบบสุ่ม

คำถามของฉันคือ:

1. มีความเหมือนกันของสมมติฐานความแปรปรวนในการตั้งค่าตัวแบบเชิงเส้นผสมคล้ายคลึงกับตัวแบบการถดถอยเชิงเส้นแบบดั้งเดิมหรือไม่? ถ้าเป็นเช่นนั้นสมมติฐานอะไรที่มีความหมายเป็นพิเศษในบริบทของปัญหาตัวแบบผสมแบบเชิงเส้นตามที่กล่าวไว้ข้างต้น? อะไรคือสมมติฐานที่สำคัญอื่น ๆ ที่จำเป็นต้องประเมิน?

ความคิดของฉัน:ใช่ สมมติฐาน (ผมหมายถึงศูนย์ข้อผิดพลาดเฉลี่ยและความแปรปรวนเท่ากัน) จะยังคงมาจากที่นี่:ฉัน) ในการตั้งค่าตัวแบบการถดถอยเชิงเส้นแบบดั้งเดิมเราสามารถพูดได้ว่าสมมติฐานคือ "ความแปรปรวนของข้อผิดพลาด (หรือเพียงแค่ความแปรปรวนของตัวแปรตาม) นั้นคงที่ตลอดทั้ง 3 ระดับการรักษา" แต่ฉันหลงทางว่าเราจะสามารถอธิบายสมมติฐานนี้ได้อย่างไรภายใต้การตั้งค่าแบบผสม เราควรจะพูดว่า "ความแปรปรวนคงที่ใน 3 ระดับของการรักษาปรับเงื่อนไขในเรื่องหรือไม่"$\boldsymbol \epsilon \ \sim \ N(\mathbf{0, \sigma^2 I})$

2. เอสเอเอกสารออนไลน์เกี่ยวกับสิ่งตกค้างและการวินิจฉัยอิทธิพลนำขึ้นสองเหลือที่แตกต่างกันกล่าวคือเหลือ Marginal ,และเหลือเงื่อนไข , คำถามของฉันคือสิ่งที่เหลือสองจะใช้สำหรับอะไร เราจะใช้มันเพื่อตรวจสอบสมมติฐานความเป็นเนื้อเดียวกันได้อย่างไร? สำหรับฉันมีเพียงเศษเหลือเล็กน้อยเท่านั้นที่สามารถใช้เพื่อแก้ไขปัญหาความเป็นเนื้อเดียวกันเนื่องจากมันสอดคล้องกับของแบบจำลอง ความเข้าใจของฉันที่นี่ถูกต้องหรือไม่ R C = Y - X β - Z γ = R ม - Z γ

   $$\mathbf{r_m = Y - X \hat{\boldsymbol \beta}}$$ $$\mathbf{r_c = Y - X \hat{\boldsymbol \beta} - Z \hat{\boldsymbol \gamma} = r_m - Z \hat{\boldsymbol \gamma}} .$$ $\boldsymbol \epsilon$

3. มีการทดสอบใด ๆ ที่เสนอให้ทดสอบสมมติฐานความเป็นเนื้อเดียวกันภายใต้ตัวแบบผสมแบบเชิงเส้นหรือไม่? @Kam ชี้ให้เห็นถึงการทดสอบของ leveneก่อนหน้านี้จะเป็นวิธีที่เหมาะสมหรือไม่ ถ้าไม่ทิศทางคืออะไร? ฉันคิดว่าหลังจากที่เราพอดีกับโมเดลผสมเราสามารถรับส่วนที่เหลือและอาจทำการทดสอบบางอย่าง (เช่นการทดสอบความดีพอดี) แต่ไม่แน่ใจว่ามันจะเป็นอย่างไร

4. ฉันยังพบว่ามีสามประเภทของเหลือจากพรผสมใน SAS คือดิบที่เหลือ , การตกค้าง Studentizedและการตกค้างเพียร์สัน ฉันสามารถเข้าใจความแตกต่างระหว่างพวกเขาในแง่ของสูตร แต่สำหรับฉันพวกเขาดูเหมือนจะคล้ายกันมากเมื่อพูดถึงแปลงข้อมูลจริง ดังนั้นพวกเขาควรใช้ในทางปฏิบัติอย่างไร? มีสถานการณ์ที่ประเภทหนึ่งเป็นที่ต้องการกับคนอื่น ๆ ?

5. สำหรับตัวอย่างข้อมูลจริงแปลงสองที่เหลือต่อไปนี้มาจาก Proc Mixed ใน SAS สมมติฐานของความสม่ำเสมอของความแปรปรวนสามารถแก้ไขได้โดยพวกเขาอย่างไร

[ฉันรู้ว่าฉันมีคำถามสองสามข้อที่นี่ หากคุณสามารถให้ความคิดใด ๆ กับฉันสำหรับคำถามใด ๆ ของฉันที่ดี ไม่จำเป็นต้องพูดถึงสิ่งเหล่านี้หากคุณไม่สามารถทำได้ ฉันอยากจะพูดคุยเกี่ยวกับพวกเขาเพื่อทำความเข้าใจอย่างเต็มที่ ขอบคุณ!]

นี่คือแปลงที่เหลือ (ดิบ)

นี่คือเงื่อนไขที่เหลือ (ดิบ) แปลง

ฉันคิดว่าคำถามที่ 1 และ 2 เชื่อมต่อกัน ครั้งแรกเป็นเนื้อเดียวกันของสมมติฐานแปรปรวนมาจากที่นี่ฉัน) แต่ข้อสันนิษฐานนี้สามารถผ่อนคลายกับโครงสร้างความแปรปรวนทั่วไปมากขึ้นซึ่งไม่จำเป็นต้องมีข้อสมมติฐานที่เป็นเนื้อเดียวกัน นั่นหมายความว่าจริงๆมันขึ้นอยู่กับวิธีการกระจายของจะสันนิษฐาน$\boldsymbol \epsilon \ \sim \ N(\mathbf{0, \sigma^2 I})$$\boldsymbol \epsilon$

ประการที่สองเงื่อนไขที่เหลือจะใช้ในการตรวจสอบการกระจายของ (เช่นข้อสมมติฐานใด ๆ ที่เกี่ยวข้องกับ)ในขณะที่ส่วนที่เหลือจะถูกนำมาใช้เพื่อตรวจสอบโครงสร้างความแปรปรวน$\boldsymbol \epsilon$

นี่เป็นหัวข้อที่กว้างมากและฉันจะให้ภาพทั่วไปเกี่ยวกับการเชื่อมต่อกับการถดถอยเชิงเส้นมาตรฐาน

$$\mathbf{y_i \sim N(X_i\boldsymbol \beta, Z_i \boldsymbol D Z'_i + \boldsymbol \sigma^2 I)},$$ $\boldsymbol \gamma_i \sim N(\mathbf{0, D})$$i$$\mathbf{\Sigma_i=Z_i \boldsymbol D Z'_i + \boldsymbol \sigma^2 I}$$\mathbf{\Sigma_i=L_i L'_i}$ $$\mathbf{y^*_i=L_i^{-1}y_i; X^*_i=L_i^{-1}X_i}.$$

$\boldsymbol \beta$$\mathbf y_i$$\mathbf X_i$$\mathbf y^*_i$$\mathbf X^*_i$

สิ่งที่เราต้องทำคือ:

1. $\boldsymbol \Sigma_i$
2. ปรับการถดถอย OLS ให้เหมาะสมอีกครั้งโดยใช้ข้อมูลที่แปลงแล้ว

การถดถอย OLS ถือว่าการสังเกตอย่างอิสระด้วยความแปรปรวนแบบเอกพันธ์ดังนั้นเทคนิคการวินิจฉัยมาตรฐานสามารถใช้กับส่วนที่เหลือได้

$\mathbf L_i$

$\boldsymbol \epsilon$