อธิบายว่า "eigen" ช่วยเปลี่ยนเมทริกซ์ได้อย่างไร

คำถามของฉันที่เกี่ยวข้องกับเทคนิคการคำนวณใช้ประโยชน์ในหรือgeoR:::.negloglik.GRFgeoR:::solve.geoR

ในการตั้งค่าโมเดลเชิงเส้นผสม: โดยที่และเป็นเอฟเฟกต์แบบคงที่และแบบสุ่มตามลำดับ นอกจากนี้β b Σ = cov ( Y

$$Y=X\beta+Zb+e$$ $\beta$$b$$\Sigma=\text{cov}(Y)$

เมื่อประเมินผลกระทบมีความจำเป็นต้องคำนวณ ซึ่งปกติสามารถทำได้โดยใช้สิ่งที่ชอบแต่บางครั้งเกือบจะไม่สามารถย้อนกลับได้ดังนั้นให้ใช้เล่ห์เหลี่ยม

$$(X'\Sigma^{-1}X)^{-1}X'\Sigma^{-1} Y$$ solve(XtS_invX,XtS_invY)$(X'\Sigma^{-1}X)$geoR

t.ei=eigen(XtS_invX)
crossprod(t(t.ei$vec)/sqrt(t.ei$val))%*%XtS_invY

(สามารถเห็นได้ในgeoR:::.negloglik.GRFและgeoR:::.solve.geoR) ซึ่งจำนวนเงินที่จะเน่าเฟะ ที่และดังนั้น

$$(X'\Sigma^{-1}X)=\Lambda D \Lambda^{-1}\\ $$ $\Lambda'=\Lambda^{-1}$ $$(X'\Sigma^{-1}X)^{-1}=(D^{-1/2}\Lambda^{-1})'(D^{-1/2}\Lambda^{-1})$$

สองคำถาม:

1. วิธีการที่ไม่สลายตัวไอเกนนี้จะช่วยให้กลับหัว ?$(X'\Sigma^{-1}X)$
2. มีทางเลือกอื่น ๆ (ที่แข็งแกร่งและมั่นคง) หรือไม่? (เช่นqr.solveหรือchol2inv?)

1) eigendecomposition ไม่ได้ช่วยอะไรมาก แน่นอนว่ามีความเสถียรเชิงตัวเลขมากกว่าตัวประกอบแบบ Cholesky ซึ่งจะเป็นประโยชน์หากเมทริกซ์ของคุณมีสภาวะที่ไม่ดี / เกือบเอกพจน์ / มีจำนวนเงื่อนไขสูง ดังนั้นคุณสามารถใช้ eigendecomposition และมันจะทำให้คุณวิธีการแก้ปัญหาของคุณ แต่มีการรับประกันเล็กน้อยว่ามันจะเป็นทางออกที่ถูกต้อง โดยสุจริตเมื่อคุณกลับเข้ามาอย่างชัดเจนความเสียหายจะเสร็จสิ้น การขึ้นรูปเพียงทำให้เรื่องแย่ลง eigendecomposition จะช่วยให้คุณชนะการต่อสู้ แต่สงครามจะหายไปแน่นอนที่สุด$\Sigma$$X^T \Sigma^{-1} X$

2) โดยไม่ทราบถึงปัญหาเฉพาะของคุณนี่คือสิ่งที่ฉันจะทำ ครั้งแรกที่ดำเนินการแยกตัวประกอบ Cholesky ในเพื่อให้ T จากนั้นทำการตัวประกอบ QR บนเพื่อให้QR โปรดตรวจสอบเพื่อคำนวณใช้ทดแทนไปข้างหน้า - DO NOTอย่างชัดเจนสลับLดังนั้นคุณจะได้รับ: จากที่นี่คุณสามารถแก้ไขทางด้านขวามือที่คุณต้องการ แต่อีกครั้ง$\Sigma$$\Sigma = L L^T$$L^{-1} X$$L^{-1} X = QR$$L^{-1} X$$L$

$$\begin{array}{} X^T \Sigma^{-1} X & = & X^T (L L^T)^{-1} X \\ & = & X^T L^{-T} L^{-1} X \\ & = & (L^{-1} X)^T (L^{-1} X) \\ & = & (Q R)^T Q R \\ & = & R^T Q^T Q T \\ & = & R^T R \end{array}$$ $R$(หรือ ) ใช้การทดแทนไปข้างหน้าและข้างหลังตามความจำเป็น$R^T R$

BTW ฉันอยากรู้เกี่ยวกับด้านขวาของสมการของคุณ คุณเขียนว่ามันY คุณแน่ใจว่ามันไม่ได้เป็น ? เพราะถ้าเป็นเช่นนั้นคุณสามารถใช้กลอุบายที่คล้ายกันทางด้านขวา: และจากนั้นคุณสามารถส่งมอบรัฐประหารเมื่อคุณไปหา : $X^T \Sigma Y$$X^T \Sigma^{-1} Y$

$$\begin{array}{} X^T \Sigma^{-1} Y & = & X^T (L L^T)^{-1} Y \\ & = & X^T L^{-T} L^{-1} Y \\ & = & (L^{-1} X)^T L^{-1} Y \\ & = & (Q R)^T L^{-1} Y \\ & = & R^T Q^T L^{-1} Y \end{array}$$ $\beta$ $$\begin{array}{} X^T \Sigma^{-1} X \beta & = & X^T \Sigma^{-1} Y \\ R^T R \beta & = & R^T Q^T L^{-1} Y \\ R \beta & = & Q^T L^{-1} Y \\ \beta & = & R^{-1} Q^T L^{-1} Y \end{array}$$ $R$สำหรับขั้นตอนสุดท้ายใช่ไหม? นั่นเป็นเพียงการทดแทนย้อนหลัง :-)