ในการวิเคราะห์องค์ประกอบหลัก (PCA) เราได้ค่า eigenvector (หน่วยเวกเตอร์) และค่าลักษณะเฉพาะ ตอนนี้ให้เรากำหนดภาระเป็น
ฉันรู้ว่า eigenvectors เป็นเพียงทิศทางและการโหลด (ตามที่ระบุไว้ข้างต้น) รวมถึงความแปรปรวนตามทิศทางเหล่านี้ แต่เพื่อความเข้าใจที่ดีขึ้นฉันอยากจะรู้ว่าฉันควรใช้การโหลดแทน eigenvector ตัวอย่างจะสมบูรณ์แบบ!
โดยทั่วไปฉันเคยเห็นคนใช้ eigenvectors แต่ทุกครั้งในขณะที่พวกเขาใช้การโหลด (ตามที่กำหนดไว้ด้านบน) และจากนั้นฉันก็รู้สึกว่าฉันไม่เข้าใจความแตกต่าง
คำตอบ:
ใน PCA คุณแบ่งเมทริกซ์ความแปรปรวนร่วม (หรือสหสัมพันธ์) เป็นส่วนมาตราส่วน (ค่าลักษณะเฉพาะ) และส่วนทิศทาง (eigenvectors) แล้วคุณอาจจะประสิทธิ์ประสาท eigenvectors กับขนาด: แรง ดังนั้นการโหลดจึงถูกเปรียบเทียบโดยขนาดด้วยความแปรปรวนร่วม / ความสัมพันธ์ที่สังเกตได้ระหว่างตัวแปร - เพราะสิ่งที่ดึงออกมาจากความแปรปรวนร่วมของตัวแปรตอนนี้กลับมา - ในรูปแบบของความแปรปรวนร่วมระหว่างตัวแปรและองค์ประกอบหลัก ที่จริงแรงเป็น covariances / การความสัมพันธ์ระหว่างตัวแปรเดิมและส่วนประกอบหน่วยปรับขนาด คำตอบนี้แสดงให้เห็นว่าการโหลดคืออะไรและสัมประสิทธิ์เชื่อมโยงส่วนประกอบกับตัวแปรใน PCA หรือการวิเคราะห์ปัจจัย
โหลด :
ช่วยคุณตีความองค์ประกอบหรือปัจจัยหลัก เพราะพวกเขามีน้ำหนักรวมกันเชิงเส้น (ค่าสัมประสิทธิ์) โดยส่วนประกอบหน่วยปรับขนาดหรือปัจจัยกำหนดหรือ"โหลด" ตัวแปร
(Eigenvector เป็นเพียงค่าสัมประสิทธิ์ของการแปลงมุมฉากหรือการฉายภาพมันไม่มีค่า "โหลด" ภายในค่าของมัน "โหลด" คือ (ข้อมูลจำนวน) ความแปรปรวนขนาดมาตราส่วนพีซีถูกดึงเพื่ออธิบายความแปรปรวนของตัวแปร ความแปรปรวนของ (= อธิบายได้ด้วย) เครื่องคอมพิวเตอร์. เมื่อเราคูณวิคเตอร์โดย sq.root ของ eivenvalue ที่เราโหลด "" ค่าสัมประสิทธิ์เปลือยโดยจำนวนของความแปรปรวน. อาศัยอำนาจตามที่เราทำให้ค่าสัมประสิทธิ์ที่จะเป็นตัวชี้วัดของสมาคม , ร่วม ความแปรปรวน.)
บางครั้งการโหลดจะถูก"หมุน" (เช่น varimax) หลังจากนั้นเพื่อความสะดวกในการตีความ ( ดูเพิ่มเติม );
มันคือการโหลดที่"คืนค่า"เมทริกซ์ความแปรปรวนร่วม / แบบเดิม (ดูหัวข้อนี้ที่พูดถึงความแตกต่างของ PCA และ FA ในแง่นั้น);
ในขณะที่ใน PCA คุณสามารถคำนวณค่าของส่วนประกอบทั้งจาก eigenvectors และภาระในการวิเคราะห์ปัจจัยที่คุณคำนวณปัจจัยคะแนนจากแรง
และเหนือสิ่งอื่นใดโหลดเมทริกซ์เป็นข้อมูล: ผลบวกของกำลังสองของแนวตั้งคือค่าลักษณะเฉพาะ, ความแปรปรวนขององค์ประกอบ
การโหลดแบบRescaledหรือ Standardized คือการโหลดที่หารด้วย st ของตัวแปร ส่วนเบี่ยงเบน; มันคือความสัมพันธ์ (ถ้า PCA ของคุณเป็น PCA แบบอิงความสัมพันธ์การโหลดจะเท่ากับ rescaled หนึ่งเนื่องจาก PCA ที่สัมพันธ์กันคือ PCA สำหรับตัวแปรมาตรฐาน) การโหลดกำลังสอง rescaled มีความหมายของการมีส่วนร่วมของ pr องค์ประกอบเป็นตัวแปร ถ้าสูง (ใกล้ถึง 1) ตัวแปรจะถูกกำหนดอย่างดีโดยส่วนประกอบนั้นเพียงอย่างเดียว
ตัวอย่างของการคำนวณทำใน PCA และเอฟเอสำหรับคุณที่จะดู
Eigenvectorsเป็นการโหลดตามขนาดของหน่วย และพวกมันคือสัมประสิทธิ์ (การโคไซน์) ของการแปลงมุมฉาก (การหมุน) ของตัวแปรในองค์ประกอบหลักหรือหลัง ดังนั้นจึงเป็นเรื่องง่ายที่จะคำนวณค่าส่วนประกอบ (ไม่ได้มาตรฐาน) กับพวกเขา นอกจากนี้การใช้งานของพวกเขามี จำกัด Eigenvector value squaredมีความหมายของการมีส่วนร่วมของตัวแปรใน pr ส่วนประกอบ; ถ้ามันสูง (ใกล้ถึง 1) ส่วนประกอบนั้นถูกกำหนดไว้อย่างดีโดยตัวแปรนั้นเพียงอย่างเดียว
แม้ว่าeigenvectorและการโหลดเป็นเพียงสองวิธีที่แตกต่างกันในการทำให้ปกติพิกัดของจุดเดียวกันที่แสดงถึงคอลัมน์ (ตัวแปร) ของข้อมูลบนbiplotแต่ก็ไม่ควรผสมคำทั้งสองเข้าด้วยกัน คำตอบนี้อธิบายว่าทำไม ดูเพิ่มเติม
Rผู้ใช้หลายคนในไซต์นี้เรียกว่า "การโหลด" ของ PCA ซึ่งอาจมาจากเอกสารการทำงาน
ดูเหมือนจะมีความสับสนอย่างมากเกี่ยวกับการรับน้ำหนักสัมประสิทธิ์และค่าลักษณะเฉพาะ คำว่าโหลดมาจากการวิเคราะห์ปัจจัยและมันหมายถึงค่าสัมประสิทธิ์ของการถดถอยของเมทริกซ์ข้อมูลลงบนปัจจัย พวกเขาไม่ใช่ค่าสัมประสิทธิ์ที่กำหนดปัจจัย ดูตัวอย่าง Mardia, Bibby และ Kent หรือตำราสถิติหลายตัวแปรอื่น ๆ
ในช่วงไม่กี่ปีที่ผ่านมามีการใช้การโหลดคำเพื่อระบุค่าสัมประสิทธิ์ของพีซี ที่นี่ดูเหมือนว่ามันใช้เพื่อระบุค่าสัมประสิทธิ์คูณด้วย sqrt ของค่าลักษณะเฉพาะของเมทริกซ์ ไม่ใช่ปริมาณที่ใช้กันโดยทั่วไปใน PCA ส่วนประกอบหลักถูกกำหนดเป็นผลรวมของตัวแปรที่ถ่วงน้ำหนักด้วยค่าสัมประสิทธิ์นอร์มหน่วย ด้วยวิธีนี้พีซีมีค่ามาตรฐานเท่ากับค่าลักษณะเฉพาะที่สอดคล้องกันซึ่งจะเท่ากับความแปรปรวนที่อธิบายโดยองค์ประกอบ
มันอยู่ในการวิเคราะห์ปัจจัยที่ปัจจัยจะต้องมีหน่วยเป็นบรรทัดฐาน แต่ FA และ PCA นั้นแตกต่างกันอย่างสิ้นเชิง การหมุนค่าสัมประสิทธิ์ของพีซีนั้นทำได้ยากมากเพราะจะเป็นการทำลายประสิทธิภาพของส่วนประกอบต่างๆ
ใน FA ปัจจัยที่ไม่ได้กำหนดไว้อย่างเฉพาะเจาะจงและสามารถประเมินได้หลายวิธี ปริมาณที่สำคัญคือการรับน้ำหนัก (ของจริง) และชุมชนที่ใช้ในการศึกษาโครงสร้างของเมทริกซ์ความแปรปรวนร่วม ควรใช้ PCA หรือ PLS เพื่อประเมินส่วนประกอบ
Lที่ใช้ในการเขียนเมทริกซ์ความแปรปรวนเป็นS = LL' + Cที่Cเป็นเมทริกซ์ทแยงมุม พวกเขาไม่มีอะไรเกี่ยวข้องกับค่าสัมประสิทธิ์ของพีซี
they have nothing to do with the PCs' coefficientsเราคำนวณการโหลดใน PCA เหมือนที่เราทำใน FA โมเดลมีความแตกต่างกัน แต่ความหมายของการโหลดมีความคล้ายคลึงกันในทั้งสองวิธี
In Factor Analysis (using PCA for extraction), we get orthonormal eigen vectors (unit vectors) and corresponding eigenvalues. Now, loadings are defined as
Loadings = Orthonormal Eigenvectors ⋅สแควร์รูทของ (ค่า Eigen สัมบูรณ์) เวกเตอร์ orthonormal eigen (นั่นคือคำว่า Orthonormal Eigenvectors) ให้ทิศทางและคำสแควร์รูทของ (ค่า Absolute Eigen) ให้ค่า
โดยปกติแล้วคนมักจะบอกว่าสัญญาณในการโหลดนั้นไม่สำคัญ แต่ขนาดของมันนั้นสำคัญ แต่ถ้าเรากลับทิศทางของเวกเตอร์ไอจีไอหนึ่งอัน (เก็บเครื่องหมายของเวกเตอร์ไอเก็นอื่น ๆ ตามที่เป็น) แล้วคะแนนปัจจัยจะเปลี่ยนไป ดังนั้นการวิเคราะห์เพิ่มเติมจะได้รับผลกระทบอย่างมีนัยสำคัญ
ฉันไม่สามารถหาคำตอบที่น่าพอใจสำหรับความกำกวมนี้ได้
ดูเหมือนจะมีความสับสนเกี่ยวกับเรื่องนี้ดังนั้นฉันจะให้ข้อสังเกตและชี้ไปที่คำตอบที่ดีสามารถพบได้ในวรรณคดี
ประการแรก PCA และการวิเคราะห์ปัจจัย (เอฟเอ) มีความเกี่ยวข้องกัน โดยทั่วไปส่วนประกอบหลักมีมุมฉากตามคำนิยามในขณะที่ปัจจัย - เอนทิตีแบบอะนาล็อกใน FA - ไม่ใช่ เพียงแค่ใส่ส่วนประกอบหลักขยายพื้นที่ปัจจัยในทางที่เป็นประโยชน์ แต่ไม่จำเป็นต้องมีประโยชน์เนื่องจากพวกเขาได้มาจากการวิเคราะห์ข้อมูลอย่างแท้จริง ปัจจัยในอีกแง่หนึ่งเป็นตัวแทนของโลกแห่งความเป็นจริงซึ่งเป็นเพียงมุมฉาก (เช่น uncorrelated หรือเป็นอิสระ) โดยบังเอิญ
บอกว่าเราใช้sสังเกตจากแต่ละลิตรวิชา เหล่านี้สามารถจัดเป็นข้อมูลเมทริกซ์DมีsแถวและLคอลัมน์ Dสามารถย่อยสลายเป็นคะแนนเมทริกซ์Sและโหลดเมทริกซ์Lดังกล่าวว่าD = SL SจะมีsแถวและLจะมีLคอลัมน์มิติที่สองของแต่ละเป็นจำนวนของปัจจัยที่n วัตถุประสงค์ของการวิเคราะห์ปัจจัยคือการย่อยสลายDในลักษณะที่จะเปิดเผยคะแนนและปัจจัยพื้นฐาน ภาระในLบอกให้เราทราบสัดส่วนของแต่ละคะแนนที่ทำขึ้นสังเกตในD
ใน PCA, Lมีค่าลักษณะเฉพาะของความสัมพันธ์หรือเมทริกซ์ความแปรปรวนร่วมของDเป็นคอลัมน์ สิ่งเหล่านี้ถูกจัดเรียงตามอัตภาพตามลำดับจากมากไปน้อยของค่าลักษณะที่เกี่ยวข้อง ค่าของn - คือจำนวนขององค์ประกอบหลักที่สำคัญที่จะเก็บไว้ในการวิเคราะห์และด้วยเหตุนี้จำนวนแถวของL - จะถูกกำหนดโดยการใช้พล็อตหินกรวดของค่าลักษณะเฉพาะหรือหนึ่งในวิธีอื่น ๆ อีกมากมายที่จะพบได้ วรรณกรรม. คอลัมน์ของSในรูปแบบ PCA nนามธรรมองค์ประกอบหลักของตัวเอง ค่าของnคือมิติข้อมูลพื้นฐานของชุดข้อมูล
วัตถุประสงค์ของการวิเคราะห์ปัจจัยคือการแปลงส่วนประกอบที่เป็นนามธรรมมาเป็นปัจจัยที่มีความหมายผ่านการใช้การเปลี่ยนแปลงเมทริกซ์Tดังกล่าวว่าD = STT -1 L ( ST ) คือเมทริกซ์คะแนนที่ถูกแปลงและ ( T -1 L ) คือเมทริกซ์การโหลดที่ถูกแปลง
คำอธิบายข้างต้นประมาณดังนี้สัญกรณ์ของเอ๊ดมันด์อาร์ Malinowski จากเขายอดเยี่ยมการวิเคราะห์องค์ประกอบทางเคมี ฉันขอแนะนำบทเปิดให้รู้เบื้องต้นเกี่ยวกับเรื่องนี้
ฉันสับสนเล็กน้อยจากชื่อเหล่านั้นและฉันค้นหาในหนังสือชื่อ "วิธีการทางสถิติในวิทยาศาสตร์บรรยากาศ" และทำให้ฉันได้สรุปคำศัพท์ที่หลากหลายของ PCA นี่คือภาพหน้าจอในหนังสือหวังว่ามันจะช่วยได้
