เหตุใดการถดถอยแบบลอจิสติกจึงเป็นแบบจำลองเชิงเส้น

24

ฉันต้องการทราบว่าเหตุใดการถดถอยแบบลอจิสติกจึงเรียกว่าแบบจำลองเชิงเส้น มันใช้ฟังก์ชั่น sigmoid ซึ่งไม่ได้เป็นเชิงเส้น เหตุใดการถดถอยแบบลอจิสติกจึงเป็นแบบจำลองเชิงเส้น

regression logistic terminology

— user34790
แหล่งที่มา

6

logit ของ (บันทึกของอัตราต่อรอง) เป็นแบบเส้นตรงในพารามิเตอร์ แต่ผู้คนไม่ได้อ้างถึงการถดถอยแบบลอจิสติกเชิงเส้นเท่าที่ฉันรู้ คุณสามารถอ้างได้ว่าใครเป็นคนพูดเรื่องนี้?

π

$\pi$

— gung - Reinstate Monica

@ gung-ReinstateMonica ตัวอย่างเช่นในหนังสือการเรียนรู้ลึกที่หน้า 169 ( deeplearningbook.org/contents/mlp.html ) ในหนังสือพวกเขาสังเกตเห็นว่า "ตัวแบบเชิงเส้นเช่นการถดถอยโลจิสติกและการถดถอยเชิงเส้นกำลังดึงดูด ..... " ฉันคิดว่าพวกเขาหมายถึงแบบจำลองเชิงเส้นทั่วไปสำหรับการถดถอยแบบโลจิสติกส์

— YOUNG

33

แบบจำลองการถดถอยโลจิสติกเป็นรูปแบบ มันถูกเรียกว่าแบบจำลองเชิงเส้นทั่วไปไม่ใช่เพราะความน่าจะเป็นโดยประมาณของเหตุการณ์การตอบสนองเป็นแบบเส้นตรง แต่เป็นเพราะ logit ของการตอบสนองความน่าจะเป็นโดยประมาณคือฟังก์ชันเชิงเส้นของพารามิเตอร์~~ตัวทำนาย~~

ล. โอ ก. ผม เสื้อ ({พี}_{ผม}) = ล. n (\frac{{พี}_{ผม}}{1 - {พี}_{ผม}}) = β_{0} + β_{1} x_{1, ผม} + β_{2} x_{2, ผม} + \dots + β_{พี} x_{พี, ผม} .

$\mathrm{logit}(p_i) = \mathrm{ln}\left(\frac{p_i}{1-p_i}\right) = \beta_0 + \beta_1 x_{1,i} + \beta_2 x_{2,i} + \cdots + \beta_p x_{p,i}.$

โดยทั่วไปแบบจำลองเชิงเส้นทั่วไปเป็นรูปแบบ ที่คือค่าที่คาดหวังของการตอบสนองที่ได้รับจาก covariates

ก. (μ_{ผม}) = β_{0} + β_{1} x_{1, ผม} + β_{2} x_{2, ผม} + \dots + β_{พี} x_{พี, ผม},

$\mathrm{g}(\mu_i) = \beta_0 + \beta_1 x_{1,i} + \beta_2 x_{2,i} + \cdots + \beta_p x_{p,i},$

μ

$\mu$

แก้ไข:ขอบคุณสำหรับการแก้ไข

— P Schnell
แหล่งที่มา

7

หากคุณต้องเขียน "เส้นตรงทั่วไป" แทน "เชิงเส้น" และพารามิเตอร์แทนตัวทำนายสิ่งนี้จะถูกต้อง (แบบจำลองการถดถอยโลจิสติกส์หลายแบบไม่ได้เป็นแบบเส้นตรงในตัวทำนายตัวอย่างเช่นไม่มีการถดถอยแบบโลจิสติกที่มีเงื่อนไขการโต้ตอบจะเป็นเส้นตรงในตัวชี้วัด)

— whuber

คุณถูกต้องขอบคุณ ฉันได้อัปเดตคำตอบเพื่อแสดงถึงสิ่งนี้แล้ว

— P Schnell

พี่คืออะไร

— แอรอน

7

การถดถอยโลจิสติกใช้สมการเชิงเส้นทั่วไปx_i) ในการถดถอยเชิงเส้นเป็นตัวแปรขึ้นอยู่กับความต่อเนื่อง แต่ในการถดถอยโลจิสติกมันกำลังถดถอยสำหรับความน่าจะเป็นของผลลัพธ์ที่เป็นหมวดหมู่ (เช่น 0 และ 1) $Y=b_0+∑(b_i X_i)+\epsilon$ $Y$

ความน่าจะเป็นของคือ: $Y=1$

P (Y = 1) = \frac{1}{1 + {อี}^{- (ข_{0} + Σ (ข_{ผม} X_{ผม}))}}

$P(Y=1) = {1 \over 1+e^{-(b_0+\sum{(b_iX_i)})}}$

— lennon310
แหล่งที่มา

7

Linear หมายถึง linear ใน betas (สัมประสิทธิ์) แต่ไม่มีใน x's (ตัวแปรอิสระ) ดังนั้นตราบใดที่ betas ของคุณไม่ใช่แบบไม่เชิงเส้นโมเดลของคุณจะเป็นแบบเชิงเส้น

— อี้หลันจาง
แหล่งที่มา

3

นั่นเป็นเรื่องจริง - แต่น่าเสียดายที่การถดถอยแบบลอจิสติกเป็นแบบจำลองเชิงเส้นแบบทั่วไปและมันไม่เชิงเส้นในพารามิเตอร์

— whuber