วิธีการใช้วิธีเดลต้าสำหรับข้อผิดพลาดมาตรฐานของผลกระทบเล็กน้อย?

ฉันสนใจที่จะเข้าใจวิธีการเดลต้าในการประมาณข้อผิดพลาดมาตรฐานของผลกระทบส่วนเพิ่มโดยเฉลี่ยของตัวแบบการถดถอยซึ่งรวมถึงคำศัพท์การโต้ตอบ ฉันได้ดูคำถามที่เกี่ยวข้องภายใต้วิธีเดลต้าแต่ไม่มีผู้ใดได้ให้สิ่งที่ฉันกำลังมองหา

พิจารณาข้อมูลตัวอย่างต่อไปนี้เป็นตัวอย่างที่สร้างแรงบันดาลใจ:

set.seed(1)
x1 <- rnorm(100)
x2 <- rbinom(100,1,.5)
y <- x1 + x2 + x1*x2 + rnorm(100)
m <- lm(y ~ x1*x2)

ฉันสนใจในผลกระทบที่ขอบเฉลี่ย (อาเมส) ของและx1 x2ในการคำนวณเหล่านี้ฉันทำต่อไปนี้:

cf <- summary(m)$coef
me_x1 <- cf['x1',1] + cf['x1:x2',1]*x2 # MEs of x1 given x2
me_x2 <- cf['x2',1] + cf['x1:x2',1]*x1 # MEs of x2 given x1
mean(me_x1) # AME of x1
mean(me_x2) # AME of x2

แต่ฉันจะใช้วิธีการเดลต้าเพื่อคำนวณข้อผิดพลาดมาตรฐานของ AME เหล่านี้ได้อย่างไร

ฉันสามารถคำนวณ SE สำหรับการโต้ตอบเฉพาะนี้ด้วยมือ:

v <- vcov(m)
sqrt(v['x1','x1'] + (mean(x2)^2)*v['x1:x2','x1:x2'] + 2*mean(x2)*v['x1','x1:x2'])

แต่ฉันไม่เข้าใจวิธีการใช้วิธีเดลต้า

เป็นการดีที่ฉันกำลังมองหาคำแนะนำเกี่ยวกับวิธีการคิด (และรหัส) วิธีการเดลต้าสำหรับ AMEs ของรูปแบบการถดถอยใด ๆ โดยพลการ ตัวอย่างเช่นคำถามนี้มีสูตรสำหรับ SE สำหรับเอฟเฟกต์การโต้ตอบเฉพาะและเอกสารนี้จาก Matt Golderมีสูตรสำหรับโมเดลเชิงโต้ตอบที่หลากหลาย แต่ฉันต้องการเข้าใจขั้นตอนทั่วไปสำหรับการคำนวณ SEs ของ AME มากกว่าสูตร SE ของ AME เฉพาะใด ๆ

— โทมัส
แหล่งที่มา

+1 คำถามที่ยอดเยี่ยม (จู้จี้ฉันมานานแล้วเช่นกัน)! มีการโพสต์ในฟอรั่ม Stata คือข้อผิดพลาดวิธีการมาตรฐานเดลต้าสำหรับค่าเฉลี่ยเล็กน้อย ... บน SE มีตัวอย่างโดยใช้วิธี bootstrap: ฟังก์ชัน mfxboot สำหรับเอฟเฟกต์ส่วนขอบสำหรับการถดถอยแบบโปรบิต .

— Bernd Weiss

วิธีการเดลต้าเพียงแค่บอกว่าถ้าคุณสามารถเป็นตัวแทนของตัวแปรเสริมคุณสามารถเป็นตัวแทนของฟังก์ชั่นของตัวแปรสุ่มกระจายปกติตัวแปรเสริมนั้นประมาณกระจายตามปกติพร้อมกับความแปรปรวนที่สอดคล้องกับจำนวนเสริมที่แตกต่างกันไปตามตัวแปรปกติ (แก้ไข: ดังที่ Alecos Papadopoulos ชี้ไปที่วิธีเดลต้าสามารถระบุได้โดยทั่วไปเช่นนี้ซึ่งไม่จำเป็นต้องใช้วิธีการเชิงซีมโทติค) วิธีที่ง่ายที่สุดในการคิดเช่นนี้คือการขยายตัวของเทย์เลอร์โดยที่เทอมแรกของฟังก์ชันคือค่าเฉลี่ยและความแปรปรวนมาจากคำสั่งที่สอง โดยเฉพาะถ้าเป็นฟังก์ชันของพารามิเตอร์และเป็นตัวประมาณค่าที่สอดคล้องกันโดยทั่วไปสำหรับพารามิเตอร์นั้น: $g$ $\beta$ $b$ เนื่องจากเป็นค่าคงที่และเป็นค่าประมาณที่สอดคล้องกันสำหรับเราสามารถพูดได้:

ก. (ข) \approx ก. (β) + \nabla ก. (β)^{'} (ข - β)

$g(b) \approx g(\beta) + \nabla g(\beta)^\prime (b - \beta)$

β

$\beta$

b

$b$

β

$\beta$

ในกรณีนี้

เป็น OLS คุณประเมินและ

เป็น AME คุณสามารถเขียน AME เฉพาะนี้เป็น:

หากคุณใช้การไล่ระดับสีของฟังก์ชันนี้ (จำไว้ว่าฟังก์ชันของค่าสัมประสิทธิ์ไม่ใช่

\sqrt{n} (ก. (ข) - ก. (β)) \overset{D}{\to} ยังไม่มีข้อความ (0, \nabla ก. (β)^{'} \cdot Σ_{ข} \cdot \nabla ก. (β))

$\sqrt{n}\left(g(b)-g(\beta)\right)\,\xrightarrow{D}\,N\left(0, \nabla g(\beta)^\prime \cdot \Sigma_b \cdot \nabla g(\beta)\right)$

b

$b$

g

$g$

ก. (ข_{1}, ข_{2}) = ข_{1} + ข_{2} ค่าเฉลี่ย (x_{2})

$g(b_1,b_2)=b_1+b_2 \text{ mean}(x_2)$

) มันจะเป็น:

x_{2}

$x_2$

และเมทริกซ์ความแปรปรวนร่วม - ความแปรปรวนร่วมสำหรับ

อาจเป็น:

เสียบเข้ากับสูตรความแปรปรวนและทำพีชคณิตเมทริกซ์จะให้นิพจน์เดียวกับที่คุณต้องการ

[1, ค่าเฉลี่ย (x_{2})]^{'}

$[1,\,\, \text{mean}(x_2)]^\prime$

b

$b$

[\begin{matrix} s_{11} & s_{12} \\ s_{12} & s_{22} \end{matrix}]

$\left[ \begin{matrix} s_{11} & s_{12} \\ s_{12} & s_{22} \end{matrix}\right]$

$g$ RnumDeriv

เพิ่ม: ในกรณีนี้Rรหัสจะเป็น:

v <- vcov(m)

# Define function of coefficients. Note all coefficients are included so it 
# will match dimensions of regression coefficients, this could be done more 
# elegantly in principle
g <- function(b){
    return(b[2] + b[4] * mean(x2))
}

require(numDeriv) # Load numerical derivative package

grad_g <-  jacobian(g, m$coef) # Jacobian gives dimensions, otherwise same as
                               # gradient 

sqrt(grad_g%*% v %*% t(grad_g)) # Should be exactly the same

$g$

— jayk
แหล่งที่มา

ขอบคุณสำหรับคำตอบที่มีรายละเอียดมาก ฉันคิดว่าสิ่งที่ทำให้ฉันสะดุดเป็นพิเศษคือการไล่ระดับสีเทียบกับสัมประสิทธิ์มากกว่าตัวแปรดั้งเดิม ผมขอขอบคุณความช่วยเหลือของคุณ!

— โทมัส

และเป็นเพียงคำถามที่ชัดเจน คุณใช้mean(x2)เมื่อคำนวณ SE จะไม่เพียง แต่สำหรับผลกระทบที่ขอบที่หมายถึง? สัญชาตญาณของฉันคือสำหรับ AMEs ฉันจะต้อง SE สำหรับการสังเกตแต่ละครั้งและจากนั้นเฉลี่ยข้ามพวกเขาในทางใดทางหนึ่ง

— โทมัส

มันเทียบเท่ากับ AME เชิงเส้นเมื่อคุณหาค่าเฉลี่ยมากกว่าการสังเกตที่คุณเพิ่งจบลงด้วยเอฟเฟ็กต์เล็กน้อยที่ค่าเฉลี่ย ไม่อย่างนั้นคุณจะต้องนิยามgว่าค่าเฉลี่ยของเอฟเฟ็กต์เล็กน้อยสำหรับแต่ละคนและอาจใช้การไล่ระดับสีแบบตัวเลขฉันไม่แน่ใจว่าการใช้ SE สำหรับแต่ละตัวจะค่อนข้างเหมือนกัน

— jayk

นั่นคือ AME และ ME ที่ค่าเฉลี่ยเทียบเท่ากับ Linear ME SE ไม่คิดว่าจะเท่ากันเพราะรูปแบบของความแปรปรวนเป็นกำลังสองดังนั้นค่าเฉลี่ยจะไม่โผล่ออกมา ฉันไม่มีสัญชาตญาณที่ดีเพราะเหตุใด SE ไม่สามารถถูกรวมเข้ากับข้อสังเกตได้ แต่ฉันค่อนข้างมั่นใจว่ามันเป็นเรื่องจริง

— jayk

โปรดทราบว่าทฤษฎีบทของเดลต้าไม่ต้องการความปกติ

— Alecos Papadopoulos