วิธีการคำนวณส่วนประกอบหลักหมุน varimax ใน R?

ฉันวิ่ง PCA เมื่อวันที่ 25 ตัวแปรและเลือกด้านบน 7 prcompเครื่องคอมพิวเตอร์ใช้

prc <- prcomp(pollutions, center=T, scale=T, retx=T)

ฉันได้ทำการหมุน varimax กับส่วนประกอบเหล่านั้นแล้ว

varimax7 <- varimax(prc$rotation[,1:7])

และตอนนี้ฉันต้องการ varimax หมุนข้อมูลที่หมุน PCA (เนื่องจากไม่ได้เป็นส่วนหนึ่งของวัตถุ varimax - เฉพาะเมทริกซ์การโหลดและเมทริกซ์การหมุน) ฉันอ่านว่าการทำเช่นนี้คุณคูณทรานสปอนของเมทริกซ์การหมุนโดยทรานสโพสของข้อมูลดังนั้นฉันจะทำสิ่งนี้:

newData <- t(varimax7$rotmat) %*% t(prc$x[,1:7])

แต่นั่นก็ไม่สมเหตุสมผลเนื่องจากขนาดของเมทริกซ์ทรานส์ข้างต้นคือคูณและตามลำดับดังนั้นฉันจะเหลือเมทริกซ์เพียงแถวแทนที่จะเป็นแถว ... ไม่มีใครรู้ สิ่งที่ฉันทำผิดที่นี่หรือสิ่งสุดท้ายของฉันควรเป็นอย่างไร ฉันต้องเปลี่ยนกลับในภายหลังไหม?$7\times 7$7 $7 \times 16933$$7$$16933$

"การหมุน" เป็นวิธีการที่พัฒนาขึ้นในการวิเคราะห์ปัจจัย มีการหมุน (เช่น e กรัม varimax) ถูกนำไปใช้กับการโหลดไม่ใช่ eigenvectors ของเมทริกซ์ความแปรปรวนร่วม การรับน้ำหนักจะถูกปรับขนาดด้วยค่ารากที่สองของค่าลักษณะเฉพาะ หลังจากการหมุน varimax เวกเตอร์การโหลดจะไม่เป็นมุมฉากอีกต่อไป (แม้ว่าการหมุนจะเรียกว่า "orthogonal") ดังนั้นเราจึงไม่สามารถคำนวณการประมาณมุมฉากของข้อมูลบนทิศทางการโหลดแบบหมุนได้

@ คำตอบของ FTusell สมมติว่าการหมุน varimax นั้นถูกนำไปใช้กับ eigenvector (ไม่ใช่การโหลด) นี่คงจะแปลกแหวกแนว โปรดดูรายละเอียดบัญชี PCA + varimax ของฉันสำหรับรายละเอียด: PCA ตามด้วยการหมุน (เช่น varimax) ยังเป็น PCA หรือไม่ สั้น ๆ ถ้าเราดู SVD ของ data matrixการหมุน loadings หมายถึงการแทรกสำหรับเมทริกซ์การหมุนบางตัวดังนี้ : R R ⊤ R X = ( U R ) ( R ⊤ S V ⊤$X=USV^\top$$RR^\top$$R$$X=(UR)(R^\top SV^\top).$

หากการหมุนถูกนำไปใช้กับการโหลด (ตามปกติแล้ว) มีวิธีง่าย ๆ อย่างน้อยสามวิธีในการคำนวณพีซีแบบหมุนรอบตัว varimax ใน R:

1. พวกเขาพร้อมใช้งานผ่านฟังก์ชั่นpsych::principal(แสดงให้เห็นว่านี่เป็นแนวทางมาตรฐาน) โปรดทราบว่ามันส่งคืนคะแนนมาตรฐานเช่นพีซีทุกเครื่องมีความแปรปรวนของหน่วย

2. หนึ่งสามารถใช้varimaxฟังก์ชั่นเพื่อหมุนการโหลดด้วยตนเองแล้วใช้การโหลดแบบหมุนใหม่เพื่อให้ได้คะแนน; เราต้องการข้อมูลจำนวนมากด้วยการหลอก - ผกผันของการโหลดแบบหมุน (ดูสูตรในคำตอบนี้โดย @ttnphns ) สิ่งนี้จะทำให้ได้คะแนนมาตรฐาน

3. หนึ่งสามารถใช้varimaxฟังก์ชั่นการหมุนแรงแล้วใช้เมทริกซ์หมุนหมุนคะแนนมาตรฐานที่ได้รับด้วย$rotmatprcomp

ทั้งสามวิธีให้ผลลัพธ์เหมือนกัน:

irisX <- iris[,1:4]      # Iris data
ncomp <- 2

pca_iris_rotated <- psych::principal(irisX, rotate="varimax", nfactors=ncomp, scores=TRUE)
print(pca_iris_rotated$scores[1:5,])  # Scores returned by principal()

pca_iris        <- prcomp(irisX, center=T, scale=T)
rawLoadings     <- pca_iris$rotation[,1:ncomp] %*% diag(pca_iris$sdev, ncomp, ncomp)
rotatedLoadings <- varimax(rawLoadings)$loadings
invLoadings     <- t(pracma::pinv(rotatedLoadings))
scores          <- scale(irisX) %*% invLoadings
print(scores[1:5,])                   # Scores computed via rotated loadings

scores <- scale(pca_iris$x[,1:2]) %*% varimax(rawLoadings)$rotmat
print(scores[1:5,])                   # Scores computed via rotating the scores

สิ่งนี้ให้ผลเหมือนกันสามเอาต์พุต:

1 -1.083475  0.9067262
2 -1.377536 -0.2648876
3 -1.419832  0.1165198
4 -1.471607 -0.1474634
5 -1.095296  1.0949536

---

หมายเหตุ:varimaxฟังก์ชั่นในการวิจัยใช้normalize = TRUE, eps = 1e-5พารามิเตอร์โดยค่าเริ่มต้น ( ดูเอกสารประกอบ ) หนึ่งอาจต้องการเปลี่ยนพารามิเตอร์เหล่านี้ (ลดepsความอดทนและดูแล Kaiser normalization) เมื่อเปรียบเทียบผลลัพธ์กับซอฟต์แวร์อื่นเช่น SPSS ฉันขอบคุณ @GottfriedHelms ที่ทำให้สิ่งนี้เป็นที่สนใจของฉัน [หมายเหตุ: พารามิเตอร์เหล่านี้จะทำงานเมื่อผ่านไปยังvarimaxฟังก์ชั่น แต่ไม่ทำงานเมื่อส่งผ่านไปยังpsych::principalฟังก์ชั่น ดูเหมือนว่านี่เป็นข้อบกพร่องที่จะได้รับการแก้ไข]

คุณต้องใช้เมทริกซ์ $loadingsไม่ใช่$rotmat:

 x <- matrix(rnorm(600),60,10)
 prc <- prcomp(x, center=TRUE, scale=TRUE)
 varimax7 <- varimax(prc$rotation[,1:7])
 newData <- scale(x) %*% varimax7$loadings

เมทริกซ์$rotmatเป็นเมทริกซ์มุมฉากที่สร้างแรงกระทำใหม่จากวัตถุที่ไม่ได้หมุน

แก้ไข ณ วันที่ 12 ก.พ. 2558:

เป็นแหลมที่ถูกต้องด้านล่างโดย @amoeba (เห็นของเขา / เธอโพสต์ก่อนหน้านี้เช่นเดียวกับการโพสต์อื่นจาก @ttnphns ) คำตอบนี้ไม่ถูกต้อง พิจารณา Data Matrix Xการสลายตัวมูลค่าเอกพจน์คือ ที่มีคอลัมน์ของตน (ปกติ) eigenvectors ของX'Xตอนนี้การหมุนคือการเปลี่ยนแปลงของพิกัดและจำนวนการเขียนความเท่าเทียมกันข้างต้นเป็น: โดยเป็นเมทริกซ์มุมฉากที่เลือกเพื่อให้ได้ใกล้กระจัดกระจาย (ความแตกต่างสูงสุดระหว่างรายการพูดอย่างหลวม ๆ ) ทีนี้ถ้านั่นคือทั้งหมด$n\times m$$X$

$$X = USV^T$$ $V$$X'X$ $$X = (UST)(T^TV^T) = U^*V^*$$ $T$$V^*$ซึ่งไม่ใช่ใครสามารถโพสต์คูณความเท่าเทียมกันข้างต้นโดยเพื่อให้ได้คะแนนเป็นแต่แน่นอนเราไม่เคยหมุนพีซีทั้งหมด แต่เราพิจารณาเซตของซึ่งมียังคงดี rank-ประมาณของ , ดังนั้นวิธีการแก้ปัญหาที่หมุนอยู่ในขณะนี้ โดยที่ตอนนี้คือเมทริกซ์เราไม่สามารถคูณเพียงอย่างเดียวได้ด้วยการเปลี่ยนแต่เราต้องหันไปใช้วิธีแก้ปัญหาที่อธิบายโดย @amoeba$V^*$$U^*$$X(V^*)^T$$k<m$$k$$X$X≈(UkSkTk)(T T k V T k )=U ∗ k V ∗ k V ∗ k k×nXV ∗ $$X \approx (U_kS_k)(V_k^T)$$ $$X \approx (U_kS_kT_k)(T_k^TV_k^T) = U_k^*V_k^*$$ $V_k^*$$k\times n$$X$$V_k^*$

กล่าวอีกนัยหนึ่งวิธีแก้ปัญหาที่ฉันเสนอนั้นถูกต้องเฉพาะในกรณีที่ไม่มีประโยชน์และไร้สาระ

ขอบคุณอย่างจริงใจไปที่ @amoeba เพื่อชี้แจงเรื่องนี้ให้ฉันฟัง ฉันใช้ชีวิตอยู่กับความเข้าใจผิดมาหลายปีแล้ว

จุดหนึ่งที่ทราบข้างต้นออกจาก @ อะมีบาของการโพสต์ก็คือเธอ / เขาดูเหมือนว่าจะร่วมกับในLฉันคิดว่าใน PCA เป็นเรื่องธรรมดาที่จะมีคอลัมน์ปกติของและดูดซับในค่าขององค์ประกอบหลัก ในความเป็นจริงมักเหล่านั้นจะถูกนำเสนอเป็นเชิงเส้นรวมกันของเดิม (ศูนย์กลางอาจจะลดขนาด) ตัวแปรที่อาจมีการ 1 ฉันคิดว่าวิธีใดเป็นที่ยอมรับและทุกสิ่งในระหว่าง (เช่นในการวิเคราะห์ biplot)$S$$V$$L$$V$$S$$v_i^TX$ $(i=1,\ldots,m)$$\|v_i\|=1$

แก้ไขเพิ่มเติมเมื่อวันที่ 12 กุมภาพันธ์ 2015

ตามที่ระบุโดย @amoeba ถึงแม้ว่าเป็นรูปสี่เหลี่ยมผืนผ้าวิธีแก้ปัญหาที่ฉันเสนออาจยังคงเป็นที่ยอมรับได้:จะให้เมทริกซ์หน่วยและ * ดังนั้นทุกอย่างดูเหมือนจะขึ้นอยู่กับความหมายของคะแนนที่เราชอบ V ∗ k ( V ∗ k ) T X ( V ∗ k ) T ≈ U ∗ $V_k^*$$V_k^*(V_k^*)^T$$X(V_k^*)^T \approx U_k^*$

ผมกำลังมองหาวิธีการแก้ปัญหาที่ทำงานสำหรับ PCA ดำเนินการโดยใช้ade4

กรุณาค้นหาฟังก์ชั่นด้านล่าง:

library(ade4)

irisX <- iris[,1:4]      # Iris data
ncomp <- 2
# With ade4
dudi_iris <- dudi.pca(irisX, scannf = FALSE, nf = ncomp)

rotate_dudi.pca <- function(pca, ncomp = 2) {

  rawLoadings <- as.matrix(pca$c1[,1:ncomp]) %*% diag(sqrt(pca$eig), ncomp, ncomp)
  pca$c1 <- rawLoadings
  pca$li <- scale(pca$li[,1:ncomp]) %*% varimax(rawLoadings)$rotmat

  return(pca)
} 
rot_iris <- rotate_dudi.pca(pca = dudi_iris, ncomp = ncomp)
print(rot_iris$li[1:5,])                   # Scores computed via rotating the scores
#>        [,1]       [,2]
#> 1 -1.083475 -0.9067262
#> 2 -1.377536  0.2648876
#> 3 -1.419832 -0.1165198
#> 4 -1.471607  0.1474634
#> 5 -1.095296 -1.0949536

^{สร้างเมื่อ 2020-01-14 โดยแพ็คเกจ reprex (v0.3.0)}

หวังว่าจะช่วยได้!