ทำไม GLM จึงแตกต่างจาก LM ด้วยตัวแปรที่ถูกแปลง

16

ตามที่อธิบายไว้ในเอกสารประกอบคำบรรยายนี้ (หน้า 1)โมเดลเชิงเส้นสามารถเขียนในรูปแบบ:

y = β_{1} x_{1} + \dots + β_{p} x_{p} + ε_{i},

$y = \beta_1 x_{1} + \cdots + \beta_p x_{p} + \varepsilon_i,$

โดยที่คือตัวแปรตอบกลับและ เป็นตัวแปรอธิบาย $y$ $x_{i}$ $i^{th}$

บ่อยครั้งที่มีเป้าหมายของการทดสอบสมมติฐานการประชุมหนึ่งสามารถเปลี่ยนตัวแปรการตอบสนอง ตัวอย่างเช่นเราใช้ฟังก์ชั่นบันทึกในแต่ละy_iการแปลงตัวแปรตอบกลับไม่ถือเอาการทำ GLM $y_i$

สามารถเขียน GLM ในแบบฟอร์มต่อไปนี้ (จากเอกสารประกอบการเรียนอีกครั้ง (หน้า 3) )

g (u) = β_{1} x_{1} + \dots + β_{p} x_{p} + ε_{i},

$g(u) = \beta_1 x_{1} + \cdots + \beta_p x_{p} + \varepsilon_i,$

โดยที่ $u$ เป็นเพียงสัญลักษณ์อื่นสำหรับ $y$ ดังที่ฉันเข้าใจจากหน้า 2 ในเอกสารประกอบการบรรยาย $g()$ เรียกว่าฟังก์ชั่นลิงค์

ฉันไม่เข้าใจความแตกต่างระหว่าง GLM และ LM กับตัวแปรที่แปลงจากสไลด์ในหลักสูตร คุณช่วยฉันได้ไหม

— Remi.b
แหล่งที่มา

2

คุณอาจพบว่าการส่องสว่างเพื่อพิจารณาความจริงที่ว่าการแปลงทั้งหมดของผลลัพธ์เลขฐานสองเป็นเลียนแบบซึ่งจะ จำกัด ให้คุณใช้การถดถอยกำลังสองน้อยที่สุดธรรมดา เห็นได้ชัดว่านี่ไม่ใช่สิ่งที่ถดถอยโลจิสติก (มาตรฐาน GLM สำหรับการตอบสนองแบบไบนารี) จะประสบความสำเร็จ (หลักฐาน: ให้ค่าผลลัพธ์ถูกเข้ารหัสเป็นและและให้เป็นการแปลงใด ๆ การเขียนและเราพบเห็นด้วยกับกับ (ซึ่งเป็นการเลียนแบบการแปลงของ

) โดยที่

y_{0}

$y_0$

y_{1}

$y_1$

ϕ

$\phi$

z_{0} = ϕ (y_{0})

$z_0=\phi(y_0)$

z_{1} = ϕ (y_{1})

$z_1=\phi(y_1)$

ϕ

$\phi$

{y_{0}, y_{1}}

$\{y_0,y_1\}$

y \to λ y + μ

$y\to \lambda y + \mu$

y

$y$

และ

.)

λ = (z_{1} - z_{0}) / (y_{1} - y_{0})

$\lambda=(z_1-z_0)/(y_1-y_0)$

μ = z_{0} - λ y_{0}

$\mu=z_0-\lambda y_0$

— whuber

15

การแปลงการตอบสนองก่อนที่จะทำการถดถอยเชิงเส้นกำลังทำสิ่งนี้:

E (g (Y)) \sim β_{0} + β_{1} x_{1} + \dots + β_{p} x_{p}

$E(g(Y)) \sim \beta_0 + \beta_1x_1 + \ldots + \beta_px_p$

โดยที่คือฟังก์ชั่นที่กำหนดและเราคิดว่ามีการแจกแจงที่กำหนด (โดยปกติเป็นปกติ) $g$ $g(Y)$

โมเดลเชิงเส้นทั่วไปทำสิ่งนี้:

g (E (Y)) \sim β_{0} + β_{1} x_{1} + \dots + β_{p} x_{p}

$g(E(Y)) \sim \beta_0 + \beta_1x_1 + \ldots + \beta_px_p$

โดยที่เหมือนกับก่อนหน้านี้และเราสมมติว่ามีการแจกแจงแบบกำหนด (โดยปกติจะไม่ปกติ) $g$ $Y$

— หงษ์อ้อย
แหล่งที่มา

E ในสมการของคุณคืออะไร?

— user1406647

1

เป็นสัญกรณ์มาตรฐานสำหรับค่าความคาดหวังของX

E (X)

$E(X)$

X

$X$

— Marcus PS

ฉันพบว่ามีประโยชน์เช่นนี้: christoph-scherber.de/content/PDF%20Files/…

— Aditya

22

ฉันไม่แน่ใจว่าสิ่งนี้จะเป็นคำตอบที่สมบูรณ์สำหรับคุณหรือไม่ แต่อาจช่วยให้หลุดแนวคิดของ logjam ได้

ดูเหมือนว่ามีความเข้าใจผิดสองประการในบัญชีของคุณ:

โปรดทราบว่าการถดถอยกำลังสองน้อยที่สุด (OLS - 'linear') เป็นกรณีพิเศษของโมเดลเชิงเส้นทั่วไป ดังนั้นเมื่อคุณพูดว่า "[t] ransforming ตัวแปรการตอบสนองไม่ถือเอาการทำ GLM" สิ่งนี้ไม่ถูกต้อง การปรับโมเดลเชิงเส้นหรือเปลี่ยนตัวแปรการตอบสนองจากนั้นปรับโมเดลเชิงเส้นทั้งสองให้เป็น 'การทำ GLM'
ในการกำหนดมาตรฐานของ GLM สิ่งที่คุณเรียกว่า " " (ซึ่งมักจะถูกแทนด้วยแต่นี่เป็นเพียงเรื่องของการตั้งค่า) เป็นค่าเฉลี่ยของการแจกแจงการตอบสนองตามเงื่อนไขที่ตำแหน่งเฉพาะในพื้นที่ covariate (เช่น ) ดังนั้นเมื่อคุณพูดว่า "ที่เป็นเพียงสัญลักษณ์อื่นสำหรับ " นี่ก็ไม่ถูกต้องเช่นกัน ในการกำหนด OLS, เป็นตัวแปรสุ่มและ / หรือเป็นค่าตระหนักของสำหรับการสังเกต / การศึกษาหน่วยฉันนั่นคือ (เพิ่มเติมทั่วไป) หมายถึงข้อมูลที่ไม่ได้เป็นพารามิเตอร์ $u$ $\mu$ $X$ $u$ $y$ $Y$ $y_i$ $Y$ $i$ $y$

(ฉันไม่ได้ตั้งใจจะพิชิตข้อผิดพลาดฉันแค่สงสัยว่าสิ่งเหล่านี้อาจทำให้คุณสับสน)
นอกจากนี้ยังมีแง่มุมอื่นของโมเดลเชิงเส้นทั่วไปที่ฉันไม่เห็นคุณพูดถึง นั่นคือเราระบุการกระจายการตอบสนอง ในกรณีของการถดถอย OLS การกระจายการตอบสนองคือเกาส์เซียน (ปกติ) และฟังก์ชั่นการเชื่อมโยงเป็นฟังก์ชั่นตัวตน ในกรณีของการพูดการถดถอยโลจิสติกส์ (ซึ่งอาจเป็นสิ่งที่คนแรกคิดว่าเมื่อพวกเขาคิดว่าของ GLMs) การกระจายการตอบสนองคือ Bernoulli (/ binomial) และฟังก์ชั่นการเชื่อมโยงเป็น logit เมื่อใช้การแปลงเพื่อให้มั่นใจว่าสมมติฐานของ OLS นั้นเป็นไปตามที่เรามักจะพยายามทำให้การแจกแจงการตอบสนองตามเงื่อนไขเป็นปกติที่ยอมรับได้ อย่างไรก็ตามการเปลี่ยนแปลงดังกล่าวจะไม่ทำให้การแจกแจงของเบอร์นูลลีปกติเป็นที่ยอมรับ

— gung - Reinstate Monica
แหล่งที่มา