วางตำแหน่งลูกศรบน PCA biplot

ฉันต้องการใช้ biplot สำหรับการวิเคราะห์องค์ประกอบหลัก (PCA) ใน JavaScript คำถามของฉันคือฉันจะกำหนดพิกัดของลูกศรจากเอาต์พุตของการแยกสลายเวกเตอร์เอกพจน์ (SVD) ของเมทริกซ์ข้อมูลได้อย่างไร $U,V,D$

นี่คือตัวอย่าง biplot ที่ผลิตโดย R:

biplot(prcomp(iris[,1:4]))

Biplot of the ชุดข้อมูล Iris

ฉันลองค้นหามันในบทความ Wikipedia บน biplotแต่มันไม่มีประโยชน์มาก หรือถูกต้อง ไม่แน่ใจว่าอันไหน

pca svd biplot

— ktdrv
แหล่งที่มา

Biplot เป็น scatterplot แบบโอเวอร์เลย์ที่แสดงทั้งค่า U และค่า V หรือ UD และ V. หรือ U และ VD ' หรือ UD และ VD ' ในแง่ของ PCA นั้น UD จะเรียกว่าคะแนนส่วนประกอบหลักและ VD 'เรียกว่าการโหลดองค์ประกอบของตัวแปร

— ttnphns

โปรดทราบว่าขนาดของพิกัดขึ้นอยู่กับว่าคุณเริ่มทำให้ข้อมูลเป็นปกติ ใน PCA เช่นหนึ่ง normaly หารข้อมูลด้วย sqrt (r) หรือ sqrt (r-1) [r คือจำนวนแถว] แต่ในความเป็นจริง "biplot" ในความหมายแคบของคำหนึ่งโดยปกติจะแบ่งข้อมูลด้วย sqrt (rc) [c คือจำนวนคอลัมน์] จากนั้นยกเลิกการทำให้ค่า U และ V. ที่ได้รับเป็นปกติ

— ttnphns

ทำไมข้อมูลที่ไม่ต้องมีการปรับขนาดโดย ?

\frac{1}{\sqrt{n - 1}}

$\frac{1}{\sqrt{n-1}}$

— ktdrv

@ttnphns: ทำตามความคิดเห็นของคุณด้านบนฉันเขียนคำตอบสำหรับคำถามนี้โดยมีวัตถุประสงค์เพื่อให้ภาพรวมของการปรับมาตรฐาน PCA biplot อย่างไรก็ตามความรู้ของฉันในหัวข้อนี้เป็นทฤษฎีอย่างหมดจดและฉันเชื่อว่าคุณมีประสบการณ์ภาคปฏิบัติกับ biplots มากกว่าฉัน ดังนั้นฉันจะขอบคุณสำหรับความคิดเห็นใด ๆ

— อะมีบาพูดว่า Reinstate Monica

เหตุผลหนึ่งที่ต้องนำสิ่งต่างๆไปใช้ @Aleksandr คือการรู้ว่ากำลังทำอะไรอยู่ biplot()ในขณะที่คุณสามารถดูจะไม่ใช่เรื่องง่ายที่จะคิดออกว่าสิ่งที่เกิดขึ้นเมื่อหนึ่งวิ่ง นอกจากนี้ทำไมต้องกังวลกับการรวม R-JS สำหรับสิ่งที่ต้องใช้โค้ดสองสามบรรทัด

— อะมีบาพูดว่า Reinstate Monica

มีหลายวิธีในการสร้าง PCA biplot และไม่มีคำตอบสำหรับคำถามของคุณ นี่คือภาพรวมสั้น ๆ

เราคิดว่าเมทริกซ์ข้อมูลมีจุดข้อมูลจุดในแถวและอยู่กึ่งกลาง (เช่นคอลัมน์หมายความว่าเป็นศูนย์ทั้งหมด) สำหรับตอนนี้เราไม่คิดว่ามันเป็นมาตรฐานเช่นเราพิจารณา PCA ในเมทริกซ์ความแปรปรวนร่วม (ไม่ใช่เมทริกซ์สหสัมพันธ์) PCA จำนวนเงินที่มีมูลค่าการสลายตัวเอกพจน์คุณสามารถดูคำตอบของฉันที่นี่เพื่อดูรายละเอียด: ความสัมพันธ์ระหว่าง SVD และ PCA วิธีการใช้ SVD เพื่อทำ PCA $\mathbf X$ $n$

X = {U S V}^{⊤},

$\mathbf X=\mathbf{USV}^\top,$

ใน PCA biplot ส่วนประกอบหลักสองตัวแรกจะถูกพล็อตเป็นพล็อตการกระจายนั่นคือคอลัมน์แรกของจะถูกพล็อตกับคอลัมน์ที่สอง แต่การปรับสภาพอาจแตกต่างกัน เช่นหนึ่งสามารถใช้: $\mathbf U$

คอลัมน์ของ : สิ่งเหล่านี้เป็นองค์ประกอบหลักที่ถูกปรับอัตราส่วนเป็นผลรวมของหน่วยของกำลังสอง $\mathbf U$
คอลัมน์ของ: สิ่งเหล่านี้เป็นส่วนประกอบหลักมาตรฐาน (ความแปรปรวนของหน่วย); $\sqrt{n-1}\mathbf U$
คอลัมน์ของ : สิ่งเหล่านี้เป็นองค์ประกอบหลัก "ดิบ" (การคาดการณ์ในทิศทางหลัก) $\mathbf{US}$

นอกจากนี้ตัวแปรดั้งเดิมจะถูกพล็อตเป็นลูกศร คือพิกัดของ -th ลูกศรปลายทางจะได้รับโดยค่า -th ในคอลัมน์แรกและครั้งที่สองของVแต่อีกครั้งหนึ่งสามารถเลือกการทำให้เป็นมาตรฐานที่แตกต่างกันเช่น: $(x,y)$ $i$ $i$ $\mathbf V$

คอลัมน์ของ : ฉันไม่รู้ว่าการตีความที่นี่เป็นอย่างไร $\mathbf {VS}$
คอลัมน์ของ : สิ่งเหล่านี้เป็นภาระ $\mathbf {VS}/\sqrt{n-1}$
คอลัมน์ของ : เหล่านี้เป็นแกนหลัก $\mathbf V$

นี่คือลักษณะทั้งหมดของชุดข้อมูล Fisher Iris:

$9$ $\mathbf X$ $\mathbf{US}^\alpha \beta$ $\mathbf{VS}^{(1-\alpha)} / \beta$ $9$ คือ "biplots ที่เหมาะสม": คือการรวมกันของแผนย่อยใด ๆ จากด้านบนกับด้านล่างโดยตรง

[ไม่ว่าจะใช้ชุดค่าผสมใดก็ตามอาจจำเป็นต้องปรับขนาดลูกศรด้วยปัจจัยคงที่ตามอำเภอใจบางประการเพื่อให้ทั้งลูกศรและจุดข้อมูลปรากฏขึ้นในระดับเดียวกัน]

$\mathbf{VS}/\sqrt{n-1}$ $\mathbf U\sqrt{n-1}$

[ตัวเลือกเฉพาะ] นี้มีแนวโน้มที่จะให้ความช่วยเหลือด้านกราฟิกที่มีประโยชน์มากที่สุดในการตีความเมทริกซ์หลายตัวแปรของการสังเกตซึ่งแน่นอนว่าสิ่งเหล่านี้สามารถประมาณได้อย่างเพียงพอที่อันดับสอง

$\mathbf{US}$ $\mathbf{V}$

$\mathbf {US}$

biplot $\mathbf U$ $\mathbf{VS}$ biplot $0.8$ biplot $n/(n-1)$ $1$ ดูการสอบสวนโดยละเอียดนี้โดย @AntoniParellada:

PCA บนเมทริกซ์สหสัมพันธ์

$\mathbf X$ $1$

$1$ $R=1$

อ่านเพิ่มเติม:

การวิเคราะห์ PCA และสารบรรณที่สัมพันธ์กับการรักษาแบบ Biplot โดยละเอียด @ttnphns
การวัดความสัมพันธ์ที่เหมาะสมของตัวแปรที่มีองค์ประกอบ PCA คืออะไร (บน biplot / plot plot) - คำอธิบายทางเรขาคณิตโดย @ttnphns ว่าลูกศรโหลดบน biplot หมายถึงอะไร

— อะมีบาพูดว่า Reinstate Monica
แหล่งที่มา

+6 สิ่งนี้สมควรได้รับมากกว่า 3 upvotes

— gung - Reinstate Monica

เพิ่งสังเกตเห็นว่า? ca :: plot.ca มีภาพรวมที่ดีของภาวะปกติที่เป็นไปได้ที่แตกต่างกัน: พวกเขาแยกแยะความแตกต่างของตัวการแถว (รูปแบบ biplot = แถวในตัวเชื่อมต่อหลักตัวหลัก cols ในตัวประสานมาตรฐาน) หลักตัวหลัก ใน coords มาตรฐาน) biplot สมมาตร (แถวและคอลัมน์ที่ปรับสัดส่วนให้มีความแปรปรวนเท่ากับค่าเอกพจน์ (รากที่สองของค่าลักษณะเฉพาะ)) rowgab และ colgab (แถวใน coords หลักและ cols ใน coords มาตรฐานคูณด้วยมวลของจุดที่สอดคล้องกันหรือ ในทางกลับกัน) และ rowgreen และ colgreen (เป็น rowgab และ colgab แต่มี sqrt (มวลชน))

— Tom Wenseleers

คนสุดท้ายเหล่านี้จะถูกเรียกว่า "บริจาค biplots"; หนังสือโดย M. Greenacre "Biplots in practice" ยังให้ภาพรวมที่ดีของสิ่งเหล่านี้ วิธีการปรับขนาดเหล่านี้ใช้กับวิธีการทั้งหมดตาม SVD (เช่น CA biplots, PCA biplots, LDA biplots เป็นต้น); สำหรับตัวอย่างของวิธีการทำงานดูซอร์สโค้ด CA ::: plot.ca และ "แผนที่" อาร์กิวเมนต์

— ทอม Wenseleers

n - 1

$n-1$

@AntoniParellada ฉันแก้ไขแล้วใส่ลิงค์สองสามข้อ

— อะมีบาพูดว่า Reinstate Monica