ความสำคัญของหมวกเมทริกซ์คืออะไรในการถดถอยเชิงเส้น?

ความสำคัญของเมทริกซ์ของหมวกคืออะไรในการวิเคราะห์การถดถอย$H=X(X^{\prime}X )^{-1}X^{\prime}$

มันเป็นเพียงการคำนวณง่ายขึ้น?

ในการศึกษาการถดถอยเชิงเส้นจุดเริ่มต้นพื้นฐานคือกระบวนการสร้างข้อมูล โดยที่และกำหนดขึ้น หลังจากลดเกณฑ์กำลังสองน้อยที่สุดเราจะพบตัวประมาณสำหรับคือ{y} หลังจากเสียบในตัวประมาณค่าในสูตรเริ่มต้นหนึ่งจะได้รับเป็นโมเดลเชิงเส้นของกระบวนการสร้างข้อมูล ตอนนี้เราสามารถแทนที่ตัวประมาณสำหรับ$\textbf{y= XB + u} \quad$$\textbf{u} \sim N(0,\sigma^2 \boldsymbol I)$$\textbf{X}$$\widehat {\textbf{B} }$$\textbf{B}$$\widehat {\textbf{B}}= ( \textbf{X} ' \textbf{X})^{-1}\textbf{X} '\textbf{y}$$\widehat {\textbf{y}}=\textbf{X}\widehat {\textbf{B}}$$\widehat {\textbf{B}}$และได้รับ$\widehat {\textbf{y}}=\textbf{X}( \textbf{X} ' \textbf{X})^{-1}\textbf{X} '\textbf{y}.$

ดังนั้นเป็นเมทริกซ์การฉาย ลองนึกภาพคุณใช้ตัวแปรทั้งหมดใน{X} ตัวแปรคือเวกเตอร์และขยายเว้นวรรค ดังนั้นหากคุณคูณโดย , คุณโครงการค่าสังเกตของคุณในลงบนพื้นที่ที่ทอดตัวแปรใน{X} มันให้ค่าประมาณสำหรับและนั่นคือเหตุผลที่เรียกว่าแฮทเมทริกซ์และทำไมมันถึงมีความสำคัญ ท้ายที่สุดการถดถอยเชิงเส้นคืออะไรมากกว่าการฉายภาพและด้วยเมทริกซ์การฉายเราไม่สามารถคำนวณค่าประมาณสำหรับ$\textbf{H} = \textbf{X}( \textbf{X} ' \textbf{X})^{-1}\textbf{X} '$$\textbf{X}$$\textbf{H}$$\textbf{y}$$\textbf{y}$$\textbf{X}$$\textbf{y}$$\textbf{y}$แต่สำหรับและสามารถตรวจสอบได้ว่ามันกระจายได้ตามปกติหรือไม่$\textbf{u}$

ฉันพบภาพสวย ๆ นี้บนอินเทอร์เน็ตและมันฉายภาพนี้ โปรดทราบว่าใช้แทน{B} ยิ่งไปกว่านั้นภาพเน้นเวกเตอร์ของข้อผิดพลาดคือมุมฉากกับการฉายภาพและดังนั้นจึงไม่ได้มีความสัมพันธ์กับการประมาณการสำหรับ$\beta$$\textbf{B}$$\textbf{y}$

หมวกเมทริกซ์มีประโยชน์มากด้วยเหตุผลบางประการ:

1. แทนที่จะมีเราจะได้รับโดยที่คือเมทริกซ์หมวก สิ่งนี้ทำให้เราเห็นว่าคือการจับคู่เชิงเส้นของค่าที่สังเกตได้$\widehat{y}=Z\widehat{\beta}$$\widehat{y}=Py$$P$$\widehat{y}$
2. จากหมวกเมทริกซ์มันเป็นเรื่องง่ายในการคำนวณคลาดเคลื่อนepsilon} เราจะเห็นว่า Y$P$$\widehat{\epsilon}$$\widehat{\epsilon}=y-\widehat{y}=y-Py=\left(I_n-P\right)y$

มันไม่มีอะไรมากไปกว่าการหาคำตอบที่ "ใกล้เคียงที่สุด" สำหรับ Ax = b โดยที่ b ไม่ได้อยู่ในพื้นที่คอลัมน์ของ A. เราฉาย b ลงบนพื้นที่คอลัมน์และแก้หา Axe (หมวก) = p โดยที่ p คือการฉายภาพของ b ลงบน พื้นที่คอลัมน์