อะไรคือความแตกต่างระหว่างเอฟเฟกต์แบบสุ่ม - เอฟเฟกต์คงที่และโมเดลร่อแร่

ฉันพยายามขยายความรู้ด้านสถิติ ฉันมาจากพื้นหลังวิทยาศาสตร์กายภาพด้วย "สูตรตาม" วิธีการทดสอบทางสถิติที่เราบอกว่ามันเป็นอย่างต่อเนื่องมันกระจายตามปกติ - OLS ถดถอย

ในการอ่านของฉันฉันได้เจอคำศัพท์: แบบจำลองลักษณะพิเศษแบบจำลองลักษณะพิเศษแบบคงที่แบบจำลองระยะขอบ คำถามของฉันคือ:

• ในแง่ง่ายมากพวกเขาคืออะไร
• ความแตกต่างระหว่างพวกเขาคืออะไร?
• มีความหมายเหมือนกันบ้างไหม?
• การทดสอบแบบดั้งเดิมเช่นการถดถอยแบบ OLS, ANOVA และ ANCOVA อยู่ในประเภทใด

เพียงแค่พยายามตัดสินใจว่าจะไปเรียนต่อที่ไหนด้วยตนเอง

คำถามนี้ถูกกล่าวถึงบางส่วนในไซต์นี้ดังต่อไปนี้และความคิดเห็นต่างๆ

• อะไรคือความแตกต่างระหว่างเอฟเฟกต์คงที่เอฟเฟกต์สุ่มและโมเดลเอฟเฟกต์ผสม?
• ความแตกต่างทางคณิตศาสตร์ระหว่างแบบสุ่มและแบบคงที่คืออะไร
• แนวคิดเบื้องหลังโมเดลเอฟเฟกต์แบบคงที่ / แบบสุ่ม

โดยทั่วไปคำศัพท์ทั้งหมดเกี่ยวข้องกับข้อมูลตามยาว / พาเนล / คลัสเตอร์ / ข้อมูลลำดับชั้นและมาตรการซ้ำ ๆ (ในรูปแบบของการถดถอยขั้นสูงและ ANOVA) แต่มีความหมายหลายอย่างในบริบทที่แตกต่างกัน ฉันต้องการตอบคำถามในสูตรตามความรู้ของฉัน

รูปแบบผลกระทบคงที่

• ในชีวสถิติผลคงที่แสดงเป็นในสมการ (*) ด้านล่างซึ่งมักจะมาพร้อมกับเอฟเฟกต์แบบสุ่ม แต่รูปแบบผลกระทบคงที่ยังถูกกำหนดให้ถือว่าการสังเกตมีความเป็นอิสระเช่นการตั้งค่าแบบตัดขวางเช่นเดียวกับในการวิเคราะห์ข้อมูลตามยาวของ Hedeker และชะนี (2006)$\color{red}{\boldsymbol\beta}$
• ในเศรษฐมิติโมเดลผลกระทบคงที่สามารถเขียนเป็น โดยที่ได้รับการแก้ไข (ไม่ใช่แบบสุ่ม) สกัดกั้นสำหรับแต่ละวิชา ( ) หรือเราสามารถมีเอฟเฟกต์คงที่ในฐานะสำหรับการวัดซ้ำแต่ละครั้ง ( ); หมายถึง covariates $$y_{ij}=\boldsymbol x_{ij}^{'}\boldsymbol\beta+\color{red}{u_i}+\epsilon_{ij}$$ $\color{red}{u_i}$$i$$u_j$$j$$\boldsymbol x_{ij}$
• ในการวิเคราะห์อภิมานแบบจำลองผลกระทบคงที่ถือว่าผลกระทบพื้นฐานเหมือนกันในทุกการศึกษา (เช่น Mantel และ Haenszel, 1959)

แบบจำลองผลกระทบแบบสุ่ม

• ในชีวสถิติแบบจำลองเอฟเฟกต์สุ่ม (Laird and Ware, 1982) สามารถเขียนเป็น โดยที่จะถือว่าเป็นไปตามการแจกแจง แสดงถึง covariates สำหรับเอฟเฟกต์คงที่และแสดงถึง covariates สำหรับเอฟเฟกต์แบบสุ่ม $$\tag{*} y_{ij}=\boldsymbol x_{ij}^{'}\color{red}{\boldsymbol\beta}+\boldsymbol z_{ij}^{'}\color{blue}{\boldsymbol u_i}+e_{ij}$$ $\color{blue}{\boldsymbol u_i}$$\boldsymbol x_{ij}$$\boldsymbol z_{ij}$
• ในเศรษฐมิติโมเดลสุ่มเอฟเฟกต์อาจอ้างถึงโมเดลการสกัดกั้นแบบสุ่มเช่นเดียวกับชีวสถิติเช่นและเป็นสเกลาร์$\boldsymbol z_{ij}^{'}=1$$\boldsymbol u_i$
• ในการวิเคราะห์อภิมานแบบจำลองผลกระทบแบบสุ่มถือว่าผลต่างกันในการศึกษา (DerSimonian และ Laird, 1986)

ขอบแบบจำลอง

แบบจำลองโดยทั่วไปจะถูกเปรียบเทียบกับแบบจำลองแบบมีเงื่อนไข (แบบจำลองผลกระทบแบบสุ่ม) และอดีตมุ่งเน้นไปที่ค่าเฉลี่ยประชากร (ใช้แบบจำลองเชิงเส้นเป็นต้น)ในขณะที่หลังเกี่ยวข้องกับค่าเฉลี่ยตามเงื่อนไขการตีความและขนาดของสัมประสิทธิ์การถดถอยระหว่างตัวแบบขอบและตัวแบบสุ่มผลกระทบจะแตกต่างกันสำหรับตัวแบบที่ไม่ใช่เชิงเส้น (เช่นการถดถอยแบบโลจิสติก) ให้จากนั้น

$$E(y_{ij})=\boldsymbol x_{ij}^{'}\boldsymbol\beta,$$ $$E(y_{ij}|\boldsymbol u_i)=\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i.$$ $h(E(y_{ij}|\boldsymbol u_i))=\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i$ $$E(y_{ij})=E(E(y_{ij}|\boldsymbol u_i))=E(h^{-1}(\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i))\neq h^{-1}(\boldsymbol x_{ij}^{'}\boldsymbol\beta),$$ เว้นแต่ฟังก์ชันลิงก์คือการเชื่อมโยงข้อมูลเฉพาะตัว ) หรือ (ไม่มีเอฟเฟกต์แบบสุ่ม) ตัวอย่างที่ดี ได้แก่ สมการการประมาณแบบทั่วไป (GEE; Zeger, Liang and Albert, 1988) และโมเดลหลายระดับแบบชายขอบ (Heagerty and Zeger, 2000)$h$$u_i=0$

แก้ไขฉันถ้าฉันผิดที่นี่:

แนวคิดมีสี่ผลกระทบที่เป็นไปได้: การสกัดกั้นคงที่, สัมประสิทธิ์คงที่, สกัดกั้นแบบสุ่ม, สัมประสิทธิ์แบบสุ่ม แบบจำลองการถดถอยส่วนใหญ่เป็น 'เอฟเฟ็กต์แบบสุ่ม' ดังนั้นพวกเขาจึงมีการสกัดแบบสุ่มและค่าสัมประสิทธิ์แบบสุ่ม คำว่า 'เอฟเฟ็กต์แบบสุ่ม' มีการใช้งานตรงกันข้ามกับ 'เอฟเฟกต์คงที่'

'ลักษณะพิเศษตายตัว' คือเมื่อตัวแปรมีผลต่อตัวอย่างบางส่วน แต่ไม่ใช่ทั้งหมด รุ่นที่ง่ายที่สุดของโมเดลเอฟเฟกต์คงที่ (แนวคิด) จะเป็นตัวแปรจำลองสำหรับเอฟเฟกต์คงที่ที่มีค่าไบนารี แบบจำลองเหล่านี้มีการสกัดกั้นแบบสุ่มเดียวสัมประสิทธิ์ผลคงที่และสัมประสิทธิ์ตัวแปรแบบสุ่ม

ชั้นที่สองของภาวะแทรกซ้อน (ตามแนวคิด) คือเมื่อเอฟเฟกต์คงที่ไม่ใช่ไบนารี แต่เป็นค่าเล็กน้อยที่มีค่ามากมาย ในกรณีนี้สิ่งที่สร้างขึ้นคือแบบจำลองที่มีจุดตัดหลายจุด (หนึ่งค่าสำหรับแต่ละค่าเล็กน้อย) นี่คือที่ที่คุณจะได้รับ 'หลายบรรทัด' ของโมเดลข้อมูลพาเนลคลาสสิกที่ 'ตัวเลือก' ของตัวแปรเอฟเฟกต์คงที่แต่ละตัวจะได้รับเอฟเฟกต์ของตัวเอง ข้อดีของการโยนชุดข้อมูลเฉพาะปัจจัยที่แตกต่างกันทั้งหมดลงในการถดถอยครั้งเดียว (แทนที่จะทำแต่ละปัจจัยของผลกระทบคงที่ในฐานะการถดถอยของตัวเอง) คือการที่คุณจะรวมความแปรปรวนของผลต่าง ๆ ทั้งหมดในสมการเดียว รับค่าดีขึ้น (แน่นอนยิ่งขึ้น) สำหรับค่าสัมประสิทธิ์ทั้งหมดของคุณ

'ระดับที่สาม' ของความซับซ้อนจะเกิดขึ้นเมื่อ 'เอฟเฟกต์คงที่' เป็นตัวแปรสุ่มยกเว้นว่าเอฟเฟกต์นั้นจะ 'คงที่' ที่จะส่งผลต่อชุดย่อยของตัวอย่างเท่านั้น ณ จุดนี้โมเดลจะมีจุดตัดแบบสุ่มจุดตัดหลายจุดคงที่และตัวแปรสุ่มหลายจุด ฉันคิดว่านี่คือสิ่งที่เรียกว่าแบบจำลอง 'เอฟเฟ็กต์ผสม'?

'เอฟเฟ็กต์แบบผสม' ใช้สำหรับการสร้างแบบจำลองหลายระดับ (MLM) เนื่องจากสามารถใช้ 'เอฟเฟ็กต์คงที่' เพื่อทำรังข้อมูลย่อยหนึ่งชุดภายในอีกชุดหนึ่ง การจัดกลุ่มนี้สามารถมีหลายระดับโดยมีนักเรียนซ้อนอยู่ในห้องเรียนซ้อนกันภายในโรงเรียน โรงเรียนเป็นผลกระทบคงที่ในห้องเรียนและห้องเรียนกับนักเรียน (โรงเรียนอาจมีหรือไม่มีผลกับนักเรียนขึ้นอยู่กับการออกแบบการทดลอง - ไม่แน่ใจ)

โมเดลข้อมูลพาเนลคือโมเดล 'เอฟเฟ็กต์แบบผสม' แต่ใช้สองมิติสำหรับการจัดกลุ่มโดยทั่วไปเวลาและหมวดหมู่บางประเภท