ปรีชาญาณเกี่ยวกับการประมาณค่าพารามิเตอร์ในตัวแบบผสม (พารามิเตอร์ความแปรปรวนกับโหมดเงื่อนไข)

ฉันได้อ่านหลายครั้งแล้วว่าเอฟเฟกต์แบบสุ่ม (BLUPs / โหมดเงื่อนไขสำหรับ, พูด, ตัวแบบ) ไม่ใช่พารามิเตอร์ของโมเดลเอฟเฟกต์แบบเชิงเส้น แต่สามารถได้มาจากค่าความแปรปรวน / ตัวแปรความแปรปรวนร่วมโดยประมาณ เช่นReinhold Kliegl และคณะ รัฐ(2011) :

เอฟเฟกต์แบบสุ่มคือการเบี่ยงเบนของอาสาสมัครจาก RT เฉลี่ยที่ยิ่งใหญ่และการเบี่ยงเบนของอาสาสมัครจากพารามิเตอร์เอฟเฟกต์คงที่ พวกเขาจะถือว่าเป็นอิสระและกระจายตามปกติด้วยค่าเฉลี่ยของ 0 มันเป็นสิ่งสำคัญที่จะต้องตระหนักว่าผลกระทบแบบสุ่มเหล่านี้ไม่ได้เป็น พารามิเตอร์ของ LMM - เพียงผลต่างและความแปรปรวนร่วมของพวกเขาคือ [... ] พารามิเตอร์ LMM ร่วมกับข้อมูลของอาสาสมัครสามารถใช้เพื่อสร้าง“ การคาดการณ์” (โหมดตามเงื่อนไข) ของเอฟเฟกต์แบบสุ่มสำหรับแต่ละเรื่อง

ใครสามารถให้คำอธิบายที่เข้าใจง่ายว่าพารามิเตอร์ความแปรปรวน (ร่วม) ของเอฟเฟกต์แบบสุ่มสามารถประมาณได้โดยไม่ต้องใช้ / ประเมินผลของการสุ่ม

พิจารณาเชิงเส้นอย่างง่ายรูปแบบผสมเช่นรูปแบบการตัดแบบสุ่มที่เราประมาณการขึ้นของที่บนxในวิชาที่แตกต่างกันและคิดว่าแต่ละเรื่องมีการสกัดกั้นการสุ่มของตัวเอง: Y = + ขx + คฉัน + ε นี่ดักคฉันย่อมมาจากการกระจายแบบเกาส์คฉัน ~ N ( 0 , τ 2 )และสุ่มเสียงยังเป็นแบบเกาส์ε ~ N ( 0 , σ $y$$x$

$$y = a + bx + c_i + \epsilon.$$ $c_i$ $$c_i\sim \mathcal N(0, \tau^2)$$ ในไวยากรณ์รุ่นนี้จะได้รับการเขียนเป็น $$\epsilon \sim \mathcal N(0, \sigma^2).$$ lme4y ~ x + (1|subject)

มันเป็นคำแนะนำในการเขียนข้างต้นดังต่อไปนี้:

$$\begin{gather} y \mid c \sim \mathcal N(a + bx + c, \sigma^2) \\ c \sim \mathcal N(0, \tau^2) \end{gather}$$

นี่เป็นวิธีที่เป็นทางการมากขึ้นในการระบุรูปแบบความน่าจะเป็นแบบเดียวกัน จากสูตรนี้เราสามารถเห็นได้โดยตรงว่าเอฟเฟ็กต์แบบสุ่มไม่ใช่ "พารามิเตอร์": มันเป็นตัวแปรสุ่มที่ไม่ได้สังเกตเห็น แล้วเราจะประมาณค่าพารามิเตอร์ความแปรปรวนโดยไม่ทราบค่าของc ได้อย่างไร?$c_i$$c$

โปรดทราบว่าสมการแรกข้างต้นอธิบายเงื่อนไขการกระจายของได้รับค ถ้าเรารู้ว่าการกระจายของคและY | คแล้วเราสามารถทำงานออกที่ไม่มีเงื่อนไขการกระจายของYโดยการบูรณาการมากกว่าค คุณอาจจะรู้ว่ามันเป็นกฎหมายของความน่าจะเป็นทั้งหมด หากการแจกแจงทั้งคู่เป็นแบบเกาส์เซียนการแจกแจงแบบไม่มีเงื่อนไขที่เกิดนั้นก็คือแบบเกาส์เซียน$y$$c$$c$$y\mid c$$y$$c$

$\mathcal N(a + bx, \sigma^2+\tau^2)$$n$$\mathbf y$

$$\mathbf y \sim \mathcal N(a+b\mathbf x, \boldsymbol\Sigma)$$ $\boldsymbol\Sigma=\sigma^2 \mathbf I_n + \tau^2 \mathbf I_N \otimes \mathbf 1_M$$\sigma^2$$\tau^2$$c$$c_i$

$a$$b$$\tau^2$$\sigma^2$$c_i$$i$

คุณสามารถประมาณค่าความแปรปรวนและพารามิเตอร์ความแปรปรวนร่วมได้อย่างง่ายดายโดยไม่ต้องอาศัยเอฟเฟกต์แบบสุ่มโดยใช้เอฟเฟกต์คงที่ (ดูที่นี่สำหรับการอภิปรายเอฟเฟกต์คงที่และเอฟเฟ็กต์แบบสุ่ม;

เอฟเฟกต์คงที่สามารถทำได้ง่าย ๆ โดยการเพิ่มตัวแปรตัวบ่งชี้ (ไบนารี) สำหรับแต่ละกลุ่ม (หรือแต่ละช่วงเวลาหรือสิ่งที่คุณคิดว่าจะใช้เป็นเอฟเฟกต์แบบสุ่มซึ่งเทียบเท่ากับการแปลงภายใน) สิ่งนี้ช่วยให้คุณสามารถประเมินผลกระทบคงที่ได้อย่างง่ายดาย (ซึ่งสามารถดูได้เป็นพารามิเตอร์)

สมมติฐานผลกระทบคงที่ไม่ต้องการให้คุณทำการสันนิษฐานจากการกระจายของผลกระทบคงที่คุณสามารถประเมินความแปรปรวนของผลกระทบคงที่ได้อย่างง่ายดาย (แม้ว่าเสียงนี้จะดังมากหากจำนวนการสังเกตภายในแต่ละกลุ่มมีขนาดเล็ก อคติสำหรับค่าใช้จ่ายของความแปรปรวนที่ใหญ่กว่ามากเมื่อเทียบกับเอฟเฟ็กต์แบบสุ่มเพราะคุณสูญเสียอิสรภาพหนึ่งระดับสำหรับแต่ละกลุ่มผ่านการเพิ่มตัวแปรตัวบ่งชี้เหล่านี้) คุณยังสามารถประมาณค่าความแปรปรวนร่วมระหว่างชุดเอฟเฟกต์คงที่หรือชุดเอฟเฟกต์คงที่และชุดอื่น ๆ เราได้ทำสิ่งนั้นในบทความที่เรียกว่าCompetitive Balance และ Assortative Matching ใน German Bundesligaเพื่อประเมินว่านักฟุตบอลที่ดีกว่าเล่นมากขึ้นสำหรับทีมที่ดีกว่าหรือไม่

ผลกระทบแบบสุ่มจำเป็นต้องมีสมมติฐานก่อนหน้าเกี่ยวกับความแปรปรวนร่วม ในโมเดลสุ่มเอฟเฟกต์แบบคลาสสิกคุณถือว่าการสุ่มเอฟเฟ็กต์เป็นเหมือนข้อผิดพลาดและเป็นอิสระจาก covariates อื่น ๆ (เพื่อให้คุณสามารถละเว้นพวกมันและใช้ OLS และรับการประมาณค่าที่ไม่มีประสิทธิภาพสำหรับพารามิเตอร์อื่น ๆ ของโมเดลสุ่มเอฟเฟกต์ถือเป็นจริง)

นอกจากนี้ข้อมูลทางเทคนิคเพิ่มเติมสามารถใช้ได้ที่นี่ Andrew Gelman ยังมีงานที่ใช้งานง่ายมากขึ้นเกี่ยวกับเรื่องนี้ในหนังสือที่ดีของเขาการวิเคราะห์ข้อมูลโดยใช้การถดถอยและโมเดลหลายระดับ / ลำดับชั้น