การถดถอยแบบกลั่นกรอง: ทำไมเราคำนวณคำว่า * product * ระหว่างตัวทำนาย?

12

การวิเคราะห์การถดถอยแบบ Moderated มักใช้ในสังคมศาสตร์เพื่อประเมินปฏิสัมพันธ์ระหว่างผู้ทำนาย / เพื่อนร่วมทุนสองคนขึ้นไป

โดยทั่วไปด้วยตัวแปรทำนายสองตัวจะใช้โมเดลต่อไปนี้:

$Y = β_0 + β_1*X + β_2*M + β_3*XM + e$

ขอให้สังเกตว่าการทดสอบการกลั่นกรองดำเนินการโดยคำว่าผลิตภัณฑ์ $XM$ (การคูณระหว่างตัวแปรอิสระ $X$ และตัวแปรผู้ควบคุม $M$ ) คำถามพื้นฐานมากของฉันคือทำไมเราจริงคำนวณระยะสินค้าระหว่าง $X$ และ $M$ ? ทำไมไม่เช่นนั้นความแตกต่างที่แน่นอน $|M-X|$ หรือแค่ผลรวม $X + M$ ?

ที่น่าสนใจ Kenny กล่าวถึงปัญหานี้ที่นี่http://davidakenny.net/cm/moderation.htmโดยพูดว่า: "ตามที่เห็นการทดสอบการกลั่นจะไม่สามารถใช้งานได้โดยคำศัพท์ผลิตภัณฑ์ XM" แต่ไม่มีคำอธิบายเพิ่มเติมใด ๆ . ภาพประกอบหรือหลักฐานที่เป็นทางการน่าจะเป็นความกระจ่างฉันเดา / หวังว่า

regression interaction

— ตัวหาร
แหล่งที่มา

12

"โมเดอเรเตอร์" ส่งผลกระทบต่อสัมประสิทธิ์การถดถอยของเทียบกับ : พวกมันอาจเปลี่ยนไปตามค่าของการเปลี่ยนแปลงของโมเดอเรเตอร์ ดังนั้นโดยทั่วไปแล้วรูปแบบการถดถอยแบบง่ายของการควบคุมคือ $Y$ $X$

E (Y) = α (M) + β (M) X

$\mathbb{E}(Y) = \alpha(M) + \beta(M)X$

ที่และมีฟังก์ชั่นของผู้ดูแลมากกว่าคงได้รับผลกระทบจากค่านิยมของM $\alpha$ $\beta$ $M$ $M$

ในจิตวิญญาณเดียวกันซึ่งการถดถอยตั้งอยู่บนการประมาณเชิงเส้นตรงของความสัมพันธ์ระหว่างและเราอาจหวังว่าทั้งและอย่างน้อยประมาณ - ฟังก์ชันเชิงเส้นของตลอดช่วงค่าในข้อมูล: $X$ $Y$ $\alpha$ $\beta$ $M$ $M$

\begin{aligned} E (Y) & = α_{0} + α_{1} M + O (M^{2}) + (β_{0} + β_{1} M + O (M^{2})) X \\ = α_{0} + β_{0} X + α_{1} M + β_{1} M X + O (M^{2}) + O (M^{2}) X . \end{aligned}

$\eqalign{ \mathbb{E}(Y) &= \alpha_0 + \alpha_1 M + O(M^2) + (\beta_0 + \beta_1 M + O(M^2))X \\ &= \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX + O(M^2) + O(M^2)X. }$

การลดเงื่อนไข nonlinear ("big-O") ด้วยความหวังว่ามันเล็กเกินไปที่จะสำคัญทำให้รูปแบบการโต้ตอบแบบหลายค่า (bilinear)

\begin{matrix} (1) & E (Y) = α_{0} + β_{0} X + α_{1} M + β_{1} M X . \end{matrix}

$\mathbb{E}(Y) = \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX.\tag{1}$

มานี้แสดงให้เห็นความหมายที่น่าสนใจของค่าสัมประสิทธิ์: เป็นอัตราที่เปลี่ยนแปลงตัดขณะที่เป็นอัตราที่เปลี่ยนความลาดชัน (และมีความลาดชันและตัดเมื่อคือ (อย่างเป็นทางการ) ตั้งค่าเป็นศูนย์.) คือค่าสัมประสิทธิ์ของ "ระยะผลิตภัณฑ์ที่" MXมันตอบคำถามด้วยวิธีนี้: $\alpha_1$ $M$ $\beta_1$ $M$ $\alpha_0$ $\beta_0$ $M$ $\beta_1$ $MX$

เราจำลองการกลั่นกรองด้วยระยะสินค้าเมื่อเราคาดหวังว่าผู้ดูแลจะ (ประมาณโดยเฉลี่ย) มีความสัมพันธ์เชิงเส้นที่มีความลาดชันของ VS X $MX$ $M$ $Y$ $X$

สิ่งที่น่าสนใจคือจุดกำเนิดนี้ชี้ไปยังส่วนขยายตามธรรมชาติของโมเดลซึ่งอาจแนะนำวิธีตรวจสอบความเหมาะสม หากคุณไม่เกี่ยวข้องกับความไม่เชิงเส้นในคุณรู้หรือคิดว่าโมเดลนั้นถูกต้อง - จากนั้นคุณต้องการขยายโมเดลเพื่อรองรับคำศัพท์ที่ถูกทิ้ง: $X$ $(1)$

E (Y) = α_{0} + β_{0} X + α_{1} M + β_{1} M X + α_{2} M^{2} + β_{2} M^{2} X .

$\mathbb{E}(Y) = \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX + \alpha_2M^2 + \beta_2 M^2X.$

การทดสอบสมมติฐานประเมินความดีของความพอดี การประมาณและสามารถระบุได้ว่าควรจะขยายโมเดลแบบใดในรูปแบบใด: เพื่อรวมความไม่เชิงเส้นใน (เมื่อ ) หรือความสัมพันธ์การควบคุมที่ซับซ้อนมากขึ้น (เมื่อ ) ทั้งสอง (โปรดทราบว่าการทดสอบนี้จะไม่ได้รับการแนะนำโดยการขยายอนุกรมกำลังของฟังก์ชันทั่วไป ) $\alpha_2=\beta_2=0$ $\alpha_2$ $\beta_2$ $(1)$ $M$ $\alpha_2 \ne 0$ $\beta_2 \ne 0$ $f(X,M)$

ท้ายที่สุดถ้าคุณต้องค้นพบว่าสัมประสิทธิ์การปฏิสัมพันธ์นั้นไม่แตกต่างจากศูนย์อย่างมีนัยสำคัญแต่ความพอดีไม่เชิงเส้น (ตามหลักฐานโดยค่าที่สำคัญของ ) คุณจะสรุป (a) มีการควบคุม แต่ (() ข) มันไม่ได้เป็นแบบจำลองโดยระยะ แต่แทนที่จะตามข้อกำหนดขั้นสูงบางอย่างเริ่มต้นด้วยMนี่อาจเป็นปรากฏการณ์ที่เคนนี่พูดถึง $\beta_1$ $\beta_2$ $MX$ $M^2X$

— whuber
แหล่งที่มา

8

หากคุณใช้ผลรวมของตัวทำนายผลเพื่อจำลองปฏิสัมพันธ์ของพวกเขาสมการของคุณจะเป็น:

\begin{array}{rcl} Y & = & β_{0} + β_{1} X + β_{2} M + β_{3} (X + M) + e \\ = & β_{0} + β_{1} X + β_{2} M + β_{3} X + β_{3} M + e \\ = & β_{0} + (β_{1} + β_{3}) X + (β_{2} + β_{3}) M + e \\ = & β_{0} + β_{1}^{'} X + β_{2}^{'} M + e \end{array}

$\begin{eqnarray} Y &=& \beta_0 + \beta_1X + \beta_2M + \beta_3(X + M) + e\\ &=& \beta_0 + \beta_1X + \beta_2M + \beta_3X + \beta_3M + e\\ &=& \beta_0 + (\beta_1 + \beta_3)X + (\beta_2 + \beta_3)M + e \\ &=& \beta_0 + \beta_1'X + \beta_2'M + e \end{eqnarray}$

ที่และ\ดังนั้นโมเดลของคุณจะไม่มีการโต้ตอบเลย เห็นได้ชัดว่านี่ไม่ใช่กรณีของผลิตภัณฑ์ $\beta_1'=\beta_1+\beta_3$ $\beta_2'=\beta_2+\beta_3$

เรียกคืนนิยามของค่าสัมบูรณ์:

| X - M | = {\begin{cases} X - M, & X \geq M \\ M - X, & X < M \end{cases}

$|X-M| = \begin{cases} X-M, & X \geq M\\ M-X, & X < M \end{cases}$

แม้ว่าคุณสามารถลดรูปแบบต่อหนึ่งเงื่อนไขและเท่านั้นโดยใช้ def จากค่าสัมบูรณ์เป็น "รูปแบบเฉพาะของการควบคุมที่ไม่น่าจะเป็นจริงในหลาย ๆ สถานการณ์" ดังที่ระบุไว้ในความคิดเห็นด้านล่าง $\beta_0 + \beta_1X + \beta_2M + \beta_3|X-M| + e$ $X$ $M$ $|X-M|$

— Milos
แหล่งที่มา

1

จริงๆแล้วรวมถึงระยะ demonstrably รูปแบบของการดูแล A: ค่าของเปลี่ยนแปลง\อย่างไรก็ตามมันเป็นรูปแบบเฉพาะของการกลั่นกรองที่ไม่น่าจะเป็นจริงในหลาย ๆ สถานการณ์ ไม่ถูกต้องที่จะบอกว่าโมเดลดังกล่าวมี "เอฟเฟกต์หลักเท่านั้น"

| X - M |

$|X-M|$

M

$M$

β_{2}

$\beta_2$

— whuber

1

ใช่คุณพูดถูกเป็นรูปแบบหนึ่งของการกลั่นกรองฉันดำเนินการโดยการเปลี่ยนแปลงและจะแก้ไขคำตอบตามนั้น ขอบคุณที่ชี้นำสิ่งนี้

| X - M |

$|X-M|$

— Milos

@Milos: ตัวอย่างของคุณเกี่ยวกับผลรวมของผู้ทำนายคือผู้เปิดตาคนที่น่าอายฉันต้องพูดเพราะฉันควรจะได้ตระหนักถึงผลกระทบทางคณิตศาสตร์แล้ว) whuber: เท่าที่ฉันเข้าใจแล้วค่าสัมบูรณ์มีประโยชน์เท่านั้น เมื่อตัวแปรตัวทำนายทั้งสองถูกวัดในหน่วยเดียวกัน (เช่นการทดสอบไซโครเมทริกสองครั้งโดยใช้เมตริกเดียวกันเช่นคะแนน z หรือคะแนน T) ความแตกต่างที่แน่นอนระหว่าง X และ M เป็นตัวชี้วัดที่มีประโยชน์แม้ว่าจะไม่สามารถทำได้เพียงตัวเดียวเท่านั้น (เช่นสามารถใช้คำว่า prodcut ได้)

— ตัวหาร

6

คุณจะไม่พบข้อพิสูจน์ที่เป็นทางการสำหรับการใช้ตัวควบคุมแบบ multiplicative คุณสามารถสนับสนุนวิธีนี้ได้ด้วยวิธีการอื่น ตัวอย่างเช่นดูการขยายตัวของ Taylor-MacLaurin ของฟังก์ชัน : $f(X,M)$

f (X, M) = f (0, 0) + \frac{\partial f (0, 0)}{\partial T} T + \frac{\partial f (0, 0)}{\partial M} M + \frac{\partial^{2} f (0, 0)}{\partial T \partial M} T M + \frac{\partial^{2} f (0, 0)}{2 \partial T^{2}} T^{2} + \frac{\partial^{2} f (0, 0)}{2 \partial M^{2}} M^{2} \dots

$f(X,M)=f(0,0)+\frac{\partial f(0,0)}{\partial T} T+\frac{\partial f(0,0)}{\partial M} M+\frac{\partial^2 f(0,0)}{\partial T\partial M} TM +\frac{\partial^2 f(0,0)}{2\partial T^2} T^2 +\frac{\partial^2 f(0,0)}{2\partial M^2} M^2\dots$

หากคุณเสียบฟังก์ชั่นของฟอร์มนี้ในสมการเทย์เลอร์คุณจะได้สิ่งนี้: $f(X,M)=\beta_0+\beta_XX+\beta_MM+\beta_{XM}XM$

f (X, M) = β_{0} + β_{X} X + β_{M} M + β_{X M} X M

$f(X,M)=\beta_0+\beta_XX +\beta_MM +\beta_{XM}XM$

ดังนั้นเหตุผลนี่คือรูปแบบ multiplicative นี้โดยเฉพาะของการดูแลนั้นเป็นลำดับที่สองเทย์เลอร์ประมาณของความสัมพันธ์การดูแลทั่วไป $f(X,M)$

อัปเดต: หากคุณรวมคำที่มีกำลังสองตามที่ @whuber แนะนำดังนั้นสิ่งนี้จะเกิดขึ้น: เสียบสิ่งนี้เข้ากับเทย์เลอร์:

g (X, M) = b_{0} + b_{X} X + b_{M} M + b_{X M} X M + b_{X 2} X^{2} + b_{M 2} M^{2}

$g(X,M)=b_0+b_XX +b_MM +b_{XM}XM+b_{X2}X^2 +b_{M2}M^2$

g (X, M) = b_{0} + b_{X} X + b_{M} M + b_{X M} X M + b_{X 2} X^{2} + b_{M 2} M^{2}

$g(X,M)=b_0+b_XX +b_MM +b_{XM}XM +b_{X2}X^2 +b_{M2}M^2$

นี้แสดงให้เห็นว่ารูปแบบใหม่ของเรากับเงื่อนไขการกำลังสองสอดคล้องกับการเต็มรูปแบบลำดับที่สองเทย์เลอร์ประมาณเหมือนเดิมรูปแบบการดูแลM) $g(X,M)$ $f(X,M)$

— Aksakal
แหล่งที่มา

ตั้งแต่พื้นฐานของการโต้แย้งของคุณคือการขยายตัวเทย์เลอร์, ทำไมคุณถึงไม่ ได้แก่ อีกสองแง่กำลังสองและ ? ทรูพวกเขาไม่ได้เป็นรูปแบบของการดูแลแต่รวมของพวกเขาในรูปแบบมักจะมีผลต่อ{}

X^{2}

$X^2$

M^{2}

$M^2$ $\beta_{XM}$

— whuber

@ โฮเบอร์ฉันตัดสินใจโพสต์สั้น ๆ นั่นคือเหตุผลหลัก มิฉะนั้นฉันเริ่มเขียนเกี่ยวกับการตั้งค่าของฉันที่จะรวมคำสั่งซื้อที่สองเมื่อใดก็ตามที่คุณมีคำไขว้แล้วตัดออก

— Aksakal