ผลกระทบเล็กน้อยของรุ่น Probit และ Logit

12

ใครสามารถอธิบายวิธีการคำนวณผลกระทบส่วนเพิ่มของโมเดล Probit และ Logit ในแง่ของคนธรรมดา

ฉันยังใหม่กับสถิติและฉันสับสนเกี่ยวกับแบบจำลองทั้งสองนี้

โปรดทราบว่าตัวเลขที่ออกมาจากรุ่น Probit และ Logit ดูราวกับว่าพวกเขาวัดสิ่งเดียวกัน แต่มักจะแตกต่างกันเป็นตัวเลข เมื่อคุณแปลมันกลับสู่ชีวิตจริงความแตกต่างระหว่างคนทั้งสองมักจะเล็กลง

— Henry

15

ฉันคิดว่าวิธีที่ดีกว่าที่จะเห็นผลกระทบเล็กน้อยของตัวแปรที่กำหนดเช่นคือการสร้างพล็อตการกระจายของความน่าจะเป็นที่คาดการณ์ไว้ในแกนตั้งและให้บนแกนแนวนอน นี่เป็นวิธี "คนธรรมดา" ที่สุดที่ฉันสามารถนึกได้ว่าบ่งชี้ว่าตัวแปรที่กำหนดนั้นมีอิทธิพลอย่างไร ไม่มีคณิตศาสตร์แค่รูป หากคุณมีจุดข้อมูลจำนวนมากจุดบ็อกซ์พล็อตหรือการกระจายที่ราบรื่นอาจช่วยให้เห็นว่าข้อมูลส่วนใหญ่อยู่ตรงไหน (ตรงข้ามกับกลุ่มเมฆ) $X_j$ $X_j$

ไม่แน่ใจว่าหัวข้อ "คนธรรมดา" เป็นอย่างไร แต่คุณอาจพบว่ามันมีประโยชน์

ถ้าเราดูที่ marginal effect ให้เรียกมันว่าโดยสังเกตว่าเราจะได้ $m_j$ $g(p)=\sum_kX_k\beta_k$

m_{j} = \frac{\partial p}{\partial X_{j}} = \frac{β_{j}}{g^{'} [g^{- 1} (X^{T} β)]} = \frac{β_{j}}{g^{'} (p)}

$m_j=\frac{\partial p}{\partial X_j}=\frac{\beta_j}{g'\left[g^{-1}(X^T\beta)\right]}=\frac{\beta_j}{g'(p)}$

ดังนั้นผลกระทบเล็กน้อยนั้นขึ้นอยู่กับความน่าจะเป็นโดยประมาณและความลาดชันของฟังก์ชั่นลิงก์นอกเหนือจากเบต้า การหารด้วยมาจากกฎลูกโซ่สำหรับการสร้างความแตกต่างและความจริงที่ $g'(p)$ ]นี้สามารถแสดงให้เห็นความแตกต่างของทั้งสองด้านของสมการความจริงที่เห็นได้ชัด]นอกจากนี้เรายังมีตามคำจำกัดความ สำหรับรูปแบบ logit เรามี $\frac{\partial g^{-1}(z)}{\partial z}=\frac{1}{g'\left[g^{-1}(z)\right]}$ $z=g\left[g^{-1}(z)\right]$ $g^{-1}(X^T\beta)=p$ และผลกระทบเล็กน้อยคือ: $g(p)=\log(p)-\log(1-p)\implies g'(p)=\frac{1}{p}+\frac{1}{1-p}=\frac{1}{p(1-p)}$

m_{j}^{l o g i t} = β_{j} p (1 - p)

$m_j^{logit}=\beta_jp(1-p)$

สิ่งนี้หมายความว่า? ดีเป็นศูนย์ที่และและมันถึงค่าสูงสุดของที่ 0.5ดังนั้นผลกระทบเล็กน้อยที่ยิ่งใหญ่ที่สุดคือเมื่อความน่าจะอยู่ใกล้กับและมีขนาดเล็กที่สุดเมื่ออยู่ใกล้หรือใกล้1อย่างไรก็ตามยังคงขึ้นอยู่กับดังนั้นผลกระทบเล็กน้อยนั้นซับซ้อน ในความเป็นจริงเพราะมันขึ้นอยู่กับ $p(1-p)$ $p=0$ $p=1$ $0.25$ $p=0.5$ $0.5$ $p$ $0$ $1$ $p(1-p)$ $X_j$ คุณจะได้รับผลกระทบเล็กน้อยที่แตกต่างกันสำหรับการที่แตกต่างกัน $p$ ค่า อาจเป็นเหตุผลหนึ่งที่ดีที่จะทำแผนกระจายแบบง่าย ๆ - ไม่จำเป็นต้องเลือกค่าของตัวแปรร่วมที่จะใช้ $X_k,\;k\neq j$

สำหรับโมเดล probit เรามีโดยที่เป็น CDF ปกติมาตรฐานและเป็น pdf มาตรฐานปกติ ดังนั้นเราจึงได้รับ: $g(p)=\Phi^{-1}(p)\implies g'(p)=\frac{1}{\phi\left[\Phi^{-1}(p)\right]}$ $\Phi(.)$ $\phi(.)$

{ม.}_{J}^{พี R โอ ข ผม เสื้อ} = β_{J} φ [Φ^{- 1} (พี)]

$m_j^{probit}=\beta_j\phi\left[\Phi^{-1}(p)\right]$

หมายเหตุที่ว่านี้มีมากที่สุดของคุณสมบัติที่ผลร่อแร่ผมพูดก่อนหน้านี้และเป็นอย่างเท่าเทียมกันที่แท้จริงของฟังก์ชั่นการเชื่อมโยงใด ๆ ซึ่งเป็นสมมาตรเกี่ยวกับ (และสติของหลักสูตรเช่น $m_j^{logit}$ $0.5$ ) การพึ่งพามีความซับซ้อนมากขึ้น แต่ยังคงมีรูปร่าง "โคก" ทั่วไป (จุดสูงสุดที่, ต่ำสุดที่และ) ฟังก์ชั่นลิงค์จะเปลี่ยนขนาดของความสูงสูงสุด (เช่น probit สูงสุดคือ $g(p)=tan(\frac{\pi}{2}[2p-1])$ $p$ $0.5$ $0$ $1$ , logit เป็น) และวิธีการอย่างรวดเร็วผลร่อแร่เป็นเรียวไปทางศูนย์ $\frac{1}{\sqrt{2\pi}}\approx 0.4$ $0.25$

— probabilityislogic
แหล่งที่มา

effectsแพคเกจในการวิจัยสามารถผลิตแปลงดังกล่าวน่าจะเป็นที่คาดการณ์ไว้บนแกนตั้ง VS X บนแกนนอน ดูsocserv.socsci.mcmaster.ca/jfox/Misc/effects/index.html

— landroni

ดูเพิ่มเติมที่: stats.stackexchange.com/questions/18814/…

— landroni

5

โดยทั่วไปแล้วตัวแบบ logit และ probit จะใช้เพื่อหาความน่าจะเป็นที่ตัวแปรที่ขึ้นต่อกัน y คือ 0 หรือ 1 ขึ้นอยู่กับตัวแปรอินพุตจำนวนหนึ่ง

ในภาษาอังกฤษ: สมมติว่าคุณกำลังพยายามทำนายค่าไบนารี่เช่นมีใครบางคนที่จะพัฒนาโรคหัวใจในช่วงชีวิตของพวกเขาหรือไม่ คุณมีตัวแปรอินพุทหลายอย่างเช่นความดันโลหิตอายุไม่ว่าจะเป็นผู้สูบบุหรี่ BMI ของพวกเขาที่พวกเขาอาศัยอยู่ ฯลฯ ตัวแปรเหล่านั้นทั้งหมดอาจมีส่วนช่วยในโอกาสที่ใครบางคนกำลังพัฒนาโรคหัวใจ

ผลกระทบส่วนเพิ่มของตัวแปรอินพุตเดียวคือถ้าคุณเพิ่มตัวแปรนั้นขึ้นอีกเล็กน้อยมันจะส่งผลต่อความน่าจะเป็นที่จะเป็นโรคหัวใจอย่างไร สมมติว่าความดันโลหิตเพิ่มขึ้นเล็กน้อยปริมาณนี้เปลี่ยนโอกาสของการเป็นโรคหัวใจได้อย่างไร หรือถ้าคุณอายุเพิ่มขึ้นประมาณหนึ่งปี

เอฟเฟกต์บางอย่างเหล่านี้อาจไม่ใช่แบบเส้นตรง: การเพิ่มค่าดัชนีมวลกายโดยจำนวนเล็กน้อยอาจมีผลแตกต่างกันมากสำหรับคนที่มีค่าดัชนีมวลกายที่ดีมาก ๆ สำหรับคนที่ไม่ได้เป็น

— robbrit
แหล่งที่มา

1

คุณยังต้องการให้คนธรรมดาของคุณรู้แคลคูลัสเนื่องจากผลกระทบเล็กน้อยคืออนุพันธ์ของความน่าจะเป็นที่พอดีกับตัวแปรที่สนใจ เนื่องจากความน่าจะเป็นที่พอดีคือฟังก์ชันลิงก์ (logit, probit หรืออะไรก็ตาม) ที่ใช้กับค่าติดตั้งคุณจึงต้องใช้กฎลูกโซ่เพื่อคำนวณ ดังนั้นในโมเดลดัชนีเชิงเส้น (โดยที่พารามิเตอร์ป้อนเป็นบางอย่างเช่น X'b) จะเท่ากับค่าประมาณของพารามิเตอร์คูณด้วยอนุพันธ์ของฟังก์ชันลิงก์ เนื่องจากอนุพันธ์แตกต่างกันที่ค่าต่าง ๆ ของ regressors (ซึ่งแตกต่างจากกรณีของตัวแบบเชิงเส้น) คุณต้องตัดสินใจว่าจะประเมินผลกระทบจากส่วนต่างได้ที่ไหน ตัวเลือกโดยธรรมชาติคือค่าเฉลี่ยของผู้ถดถอยทั้งหมด อีกวิธีหนึ่งคือการประเมินผลกระทบสำหรับการสังเกตแต่ละครั้งแล้วเฉลี่ยมากกว่าพวกเขา การตีความแตกต่างกันตาม

— อเล็กซ์
แหล่งที่มา