ประโยชน์ของทฤษฎีบท Frisch-Waugh

ฉันควรจะสอนทฤษฎีบท Frish Waugh ในสาขาเศรษฐศาสตร์ซึ่งฉันไม่ได้ศึกษา

ฉันเข้าใจคณิตศาสตร์ที่อยู่ข้างหลังและฉันก็หวังว่าความคิดนี้เช่นกัน "ค่าสัมประสิทธิ์ที่คุณได้รับสำหรับค่าสัมประสิทธิ์เฉพาะจากแบบจำลองเชิงเส้นหลายเส้นนั้นเท่ากับสัมประสิทธิ์ของตัวแบบการถดถอยอย่างง่ายถ้าคุณ" กำจัด "อิทธิพลของตัวถดถอยอื่น ๆ ดังนั้นแนวคิดทางทฤษฎีจึงเจ๋งมาก (ถ้าฉันเข้าใจผิดโดยสิ้นเชิงฉันยินดีต้อนรับการแก้ไข)

แต่มันมีประเพณีดั้งเดิม / การปฏิบัติบางอย่าง?

แก้ไข : ฉันยอมรับคำตอบแล้ว แต่ยังยินดีที่จะมีคำตอบใหม่ที่นำตัวอย่าง / แอปพลิเคชันอื่นมาใช้

— แอนโทนี่มาร์ติน
แหล่งที่มา

จะเห็นได้ชัดว่าจะมีการเพิ่มแปลงตัวแปรหรือไม่

— Silverfish

Dougherty's Introduction to Econometricsกล่าวถึงอีกตัวอย่างหนึ่งของการใช้ทฤษฎีบท Frisch-Waugh-Lovell ในวันแรก ๆ ของการวิเคราะห์เชิงเศรษฐมิติของอนุกรมเวลามันเป็นเรื่องธรรมดามากในแบบจำลองที่ตัวแปรมีแนวโน้มเวลาที่กำหนดขึ้นมาเพื่อทำลายพวกเขาทั้งหมดก่อนที่จะถดถอย แต่โดย FWL คุณจะได้รับค่าสัมประสิทธิ์เท่ากันโดยรวมแนวโน้มเวลาเป็น regressor และยิ่งไปกว่านี้จะให้ข้อผิดพลาดมาตรฐาน "ถูกต้อง" เนื่องจากมันยอมรับว่ามีการใช้ 1 df

— Silverfish

โดเฮอร์ทีเตือนขั้นตอนดังนั้นในแง่ที่ว่ามันไม่ได้เป็นตัวอย่างที่ดีแม้ว่ามันจะเป็นคำแนะนำก็ตาม ตัวแปรทางเศรษฐกิจมักจะดูเหมือนจะแตกต่าง - นิ่งมากกว่าเทรนด์ - นิ่งดังนั้นการพยายามทำลายล้างแบบนี้ไม่ได้ผลและอาจส่งผลให้เกิดการปลอมแปลง

— Silverfish

@Silverfish: FWL เป็นเทคนิคเกี่ยวกับพีชคณิตอย่างหมดจดดังนั้นประเด็นที่ว่าการสกัดแนวโน้มที่กำหนดขึ้นมานั้นเป็น "สิทธิ" หรือไม่หากสงสัยว่า DGP นั้นเป็นสิ่งสำคัญ แต่ imho ไม่เกี่ยวข้องกับ FWL ดังนั้นในกรณีดังกล่าว OPs คำถามเกี่ยวกับสองวิธีในการได้รับการประเมินจุด

— Christoph Hanck

ฉันใช้ประโยชน์จากความสัมพันธ์นี้ในหลาย ๆ โพสต์เพื่อจุดประสงค์ด้านแนวคิดและเพื่อเป็นตัวอย่างที่น่าสนใจของปรากฏการณ์การถดถอย ดูอนึ่ง , stats.stackexchange.com/a/46508 , stats.stackexchange.com/a/113207และstats.stackexchange.com/a/71257

— whuber

คำตอบ:

พิจารณาโมเดลข้อมูลเอฟเฟกต์แผงคงที่หรือที่เรียกว่าโมเดล Least Squares Dummy Variables (LSDV)

$b_{LSDV}$ สามารถคำนวณได้โดยใช้ OLS โดยตรงกับรุ่น ที่คือเมทริกซ์ของ Dummies และเป็นตัวแทนของผลกระทบถาวรเฉพาะบุคคล

y = X β + D α + ϵ,

$y=X\beta+D\alpha+\epsilon,$

D

$D$

N T \times N

$NT\times N$

α

$\alpha$

อีกวิธีในการคำนวณคือการใช้สิ่งที่เรียกว่าภายในการแปลงเป็นแบบจำลองปกติเพื่อให้ได้รุ่นที่มีความหมายเช่น นี่ , เมทริกซ์ชงที่เหลือของการถดถอยในD $b_{LSDV}$

M_{[D]} y = M_{[D]} X β + M_{[D]} ϵ .

$M_{[D]}y=M_{[D]}X\beta+M_{[D]}\epsilon.$

M_{[D]} = I - D (D^{'} D)^{- 1} D^{'}

$M_{[D]}=I-D(D'D)^{-1}D'$

D

$D$

ตามทฤษฎีบท Frisch-Waugh-Lovell ทั้งสองมีความเท่าเทียมกันตามที่ FWL บอกว่าคุณสามารถคำนวณค่าสัมประสิทธิ์การถดถอยของการถดถอย (ที่นี่ ) โดย $\hat\beta$

ถอยหลังใน regressors อื่น ๆ (ที่นี่, ), การบันทึกส่วนที่เหลือ (ที่นี่, เวลา -deanedหรือ , เพราะการถดถอยของค่าคงที่เพียงแค่ demeans ตัวแปร) แล้ว $y$ $D$ $y$ $M_{[D]}y$
ถอยหลังบนและบันทึกส่วนที่เหลือ , และ $X$ $D$ $M_{[D]}X$
ถอยเหลือลงในแต่ละอื่น ๆบน X $M_{[D]}y$ $M_{[D]}X$

รุ่นที่สองนั้นมีการใช้กันอย่างแพร่หลายมากขึ้นเนื่องจากชุดข้อมูลพาเนลทั่วไปอาจมีหน่วยของแผงหลายพันหน่วยดังนั้นวิธีแรกที่คุณจะต้องใช้การถดถอยกับ regressors นับพันซึ่งไม่ใช่ความคิดที่ดีในเชิงตัวเลขแม้แต่ทุกวันนี้ที่รวดเร็ว คอมพิวเตอร์ที่คำนวณค่าผกผันของจะมีราคาแพงมากในขณะที่การลดเวลาและและมีค่าใช้จ่ายเพียงเล็กน้อย $N$ $(D :X)'(D: X)$ $y$ $X$

— Christoph Hanck
แหล่งที่มา

ขอบคุณมากนี่เป็นคำตอบที่ฉันกำลังมองหาแม้ว่ามันจะค่อนข้างสูงสำหรับฉันที่จะใช้มัน ดังนั้นคำตอบของคุณก็ดีกับฉัน แต่ฉันจะมีความสุขถ้าฉันมีคนอื่นฉันควรจะยอมรับของคุณ?

— Anthony Martin

หากมันช่วยได้ก็ควรทำเช่นนั้น แต่การยอมรับจะช่วยลดโอกาสในการได้รับคำตอบที่ดีกว่าดังนั้นคุณอาจต้องรอก่อนที่จะยอมรับคำตอบนี้ เงินรางวัลจะเพิ่มโอกาสในการได้รับคำตอบมากขึ้น - เนื่องจากมีผู้ใช้ไม่เพียงพอใน CV ที่ตอบคำถามตามจำนวนคำถามอย่างสม่ำเสมอแม้กระทั่งคำตอบเดียวก็อาจทำให้ผู้ใช้อื่น ๆ สรุปได้ว่าคำถามนั้นได้รับการจัดการแล้ว (ฉันโพสต์คำตอบที่เรียบง่ายกว่านี้ไว้ด้านล่าง)

— Christoph Hanck

นี่เป็นเวอร์ชันที่เรียบง่ายของคำตอบแรกของฉันซึ่งฉันเชื่อว่ามีความเกี่ยวข้องน้อยกว่าในทางปฏิบัติ แต่อาจจะ "ขาย" เพื่อใช้ในห้องเรียนได้ง่ายขึ้น

การถดถอยและผลผลิตเหมือนกัน , K เรื่องนี้สามารถเห็นได้ดังนี้: เอาและด้วยเหตุนี้ ดังนั้น ดังนั้นค่าคงที่ของการถดถอยของตัวแปรในค่าคงที่

y_{i} = β_{1} + \sum_{j = 2}^{K} β_{j} x_{i j} + ϵ_{i}

$y_i = \beta_1 + \sum_{j=2}^K\beta_jx_{ij} + \epsilon_i$

y_{i} - \bar{y} = \sum_{j = 2}^{K} β_{j} (x_{i j} - {\bar{x}}_{j}) + {\tilde{ϵ}}_{i}

$y_i-\bar{y} = \sum^K_{j=2}\beta_j(x_{ij} - \bar{x}_j) + \tilde{\epsilon}_i$

{\hat{β}}_{j}

$\widehat{\beta}_j$

j = 2, \dots, K

$j=2,\ldots,K$

x_{1} = 1 := (1, \dots, 1)^{'}

$\mathbf{x}_1=\mathbf{1}:=(1,\ldots,1)'$

M_{1} = I - 1 (1^{'} 1)^{- 1} 1^{'} = I - \frac{1 1^{'}}{n},

$M_\mathbf{1}=I-\mathbf{1}(\mathbf{1}'\mathbf{1})^{-1}\mathbf{1}'=I-\frac{\mathbf{1}\mathbf{1}'}{n},$

M_{1} x_{j} = x_{j} - 1 n^{- 1} 1^{'} x_{j} = x_{j} - 1 {\bar{x}}_{j} =: x_{j} - {\bar{x}}_{j} .

$M_{\mathbf{1}}\mathbf{x}_j=\mathbf{x}_j-\mathbf{1} n^{-1}\mathbf{1}'\mathbf{x}_j=\mathbf{x}_j-\mathbf{1}\bar{x}_j=:\mathbf{x}_j-\bar{\mathbf{x}}_j.$

M_{1} x_{j}

$M_{\mathbf{1}}\mathbf{x}_j$ เป็นเพียงตัวแปร demeaned (ตรรกะเดียวกันของหลักสูตรใช้กับ )

y_{i}

$y_i$

— Christoph Hanck
แหล่งที่มา

นี่คืออีกทางอ้อมมากกว่า แต่ฉันเชื่อว่าน่าสนใจอย่างหนึ่งนั่นคือการเชื่อมต่อระหว่างวิธีการที่แตกต่างกันในการคำนวณค่าสัมประสิทธิ์สหสัมพันธ์แบบอัตโนมัติบางส่วนของอนุกรมเวลาคงที่

คำจำกัดความ 1

พิจารณาการฉาย TH อัตบางส่วนเท่ากับเมตร

{\hat{Y}}_{t} - μ = α_{1}^{(m)} (Y_{t - 1} - μ) + α_{2}^{(m)} (Y_{t - 2} - μ) + \dots + α_{m}^{(m)} (Y_{t - m} - μ)

$\begin{equation} \hat{Y}_{t}-\mu=\alpha^{(m)}_1(Y_{t-1}-\mu)+\alpha^{(m)}_2(Y_{t-2}-\mu)+\ldots+\alpha^{(m)}_m(Y_{t-m}-\mu) \end{equation}$

m

$m$

α_{m}^{(m)}

$\alpha^{(m)}_m$

มันจึงทำให้อิทธิพลของ TH ล่าช้าใน \ emph {หลังจากควบคุม}1} คมชัดนี้ด้วยที่ให้ดิบ' `ความสัมพันธ์ของและ{TM} $m$ $Y_t$ $Y_{t-1},\ldots,Y_{t-m+1}$ $\rho_m$ $Y_t$ $Y_{t-m}$

เราจะหาอย่างไร จำไว้ว่าสมบัติพื้นฐานของการถดถอยของกับ regressorsคือสัมประสิทธิ์เป็นสิ่งที่ regressors และค่าคงที่นั้นไม่ได้ถูกแยกส่วน ในการถดถอยของประชากรเงื่อนไขนี้จะระบุไว้แล้วในแง่ของความสัมพันธ์ของประชากร จากนั้น: แก้หาเราพบว่าค่าสัมประสิทธิ์การฉายเชิงเส้น ประยุกต์ใช้ สูตรนี้เป็นและ $\alpha^{(m)}_j$ $Z_t$ $X_t$

E [X_{t} (Z_{t} - X_{t}^{⊤} α^{(m)})] = 0

$\begin{equation} E[X_t(Z_t-X_t^\top\mathbf{\alpha}^{(m)})]=0 \end{equation}$

α^{(m)}

$\mathbf{\alpha}^{(m)}$

α^{(m)} = [E (X_{t} X_{t}^{⊤})]^{- 1} E [X_{t} Z_{t}]

$\begin{equation} \mathbf{\alpha}^{(m)}=[E(X_tX_t^\top)]^{-1}E[X_tZ_t] \end{equation}$

Z_{t} = Y_{t} - μ

$Z_t=Y_t-\mu$

X_{t} = [(Y_{t - 1} - μ), (Y_{t - 2} - μ), \dots, (Y_{t - m} - μ)]^{⊤}

$X_t=[(Y_{t-1}-\mu),(Y_{t-2}-\mu),\ldots,(Y_{t-m}-\mu)]^\top$ เรามี นอกจากนี้ ดังนั้น

E (X_{t} X_{t}^{⊤}) = (\begin{array}{cccc} γ_{0} & γ_{1} & \dots & γ_{m - 1} \\ γ_{1} & γ_{0} & \dots & γ_{m - 2} \\ ⋮ & ⋮ & ⋱ & ⋮ \\ γ_{m - 1} & γ_{m - 2} & \dots & γ_{0} \end{array})

$E(X_tX_t^\top)=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)$

E (X_{t} Z_{t}) = (\begin{matrix} γ_{1} \\ ⋮ \\ γ_{m} \end{matrix})

$E(X_tZ_t)=\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)$

α^{(m)} = {(\begin{array}{cccc} γ_{0} & γ_{1} & \dots & γ_{m - 1} \\ γ_{1} & γ_{0} & \dots & γ_{m - 2} \\ ⋮ & ⋮ & ⋱ & ⋮ \\ γ_{m - 1} & γ_{m - 2} & \dots & γ_{0} \end{array})}^{- 1} (\begin{matrix} γ_{1} \\ ⋮ \\ γ_{m} \end{matrix})

$\begin{equation} \mathbf{\alpha}^{(m)}=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)^{-1}\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)\end{equation}$ TH สัมพันธ์บางส่วนแล้วเป็นองค์ประกอบสุดท้ายของเวกเตอร์{(m)}

m

$m$

α^{(m)}

$\mathbf{\alpha}^{(m)}$

ดังนั้นเราเรียงลำดับการถดถอยหลายครั้งและหาค่าสัมประสิทธิ์หนึ่งที่น่าสนใจในขณะที่การควบคุมสำหรับคนอื่น ๆ

คำจำกัดความ 2

TH สัมพันธ์บางส่วนความสัมพันธ์ของข้อผิดพลาดการทำนายของคาดการณ์กับด้วยข้อผิดพลาดการคาดการณ์ของคาดการณ์ด้วย1} $m$ $Y_{t+m}$ $Y_{t-1},\ldots,Y_{t-m+1}$ $Y_{t}$ $Y_{t-1},\ldots,Y_{t-m+1}$

ดังนั้นเราจึงจัดเรียงการควบคุมแรกสำหรับความล่าช้าระดับกลางแล้วคำนวณความสัมพันธ์ของส่วนที่เหลือ

— Christoph Hanck
แหล่งที่มา