ความแปรปรวนร่วมประเภทต่าง ๆ สำหรับแบบจำลองส่วนผสมของเกาส์เซียน


13

ในขณะที่ลองแบบจำลองการผสมแบบเกาส์ที่นี่ฉันพบโควาเรียส 4 ประเภทนี้

'full' (each component has its own general covariance matrix),
'tied' (all components share the same general covariance matrix),
'diag' (each component has its own diagonal covariance matrix),
'spherical' (each component has its own single variance).

ฉันค้นหารายละเอียดเพิ่มเติมเกี่ยวกับแต่ละประเภทเหล่านี้มาก แต่พบคำอธิบายระดับสูงมาก (เช่นนี้ ) เท่านั้น

ขอบคุณถ้ามีคนช่วยฉันเข้าใจสิ่งเหล่านี้หรืออย่างน้อยก็พาฉันไปที่ที่ฉันสามารถอ่านเกี่ยวกับสิ่งเหล่านี้ได้

คำตอบ:


17

การแจกแจงแบบเกาส์ถูกกำหนดโดยเมทริกซ์ความแปรปรวนร่วมและค่าเฉลี่ย (ตำแหน่งในอวกาศ) เมทริกซ์ความแปรปรวนร่วมของการแจกแจงแบบเกาส์กำหนดทิศทางและความยาวของแกนของรูปทรงความหนาแน่นของมันซึ่งทั้งหมดเป็นรูปวงรี

โมเดลผสมทั้งสี่ประเภทนี้สามารถแสดงให้เห็นได้อย่างสมบูรณ์แบบโดยใช้เคสสองมิติ ในแต่ละโครงร่างของความหนาแน่นของการผสมมีองค์ประกอบสองอย่างที่และมีน้ำหนักและตามลำดับ น้ำหนักที่แตกต่างกันจะทำให้ชุดของรูปทรงดูแตกต่างกันเล็กน้อยแม้ว่าแมทริกซ์ความแปรปรวนร่วมจะเหมือนกัน แต่รูปร่างโดยรวมของแต่ละรูปทรงจะยังคงคล้ายกับเมทริกซ์ที่เหมือนกัน( 4 , 5 ) 3 / 5 2 / 5(0,0)(4,5)3/52/5

รูป

การคลิกที่ภาพจะแสดงรุ่นที่ความละเอียดสูงกว่า

NBเหล่านี้เป็นแปลงของส่วนผสมที่เกิดขึ้นจริงไม่ใช่ของแต่ละองค์ประกอบ เนื่องจากส่วนประกอบถูกแยกอย่างดีและมีน้ำหนักที่เทียบเคียงรูปทรงของรูปทรงจะมีลักษณะใกล้เคียงกับองค์ประกอบของรูปทรง (ยกเว้นในระดับต่ำซึ่งอาจบิดเบือนและผสานดังที่แสดงในจุดกึ่งกลางของพล็อต "ผูก")

  • เต็มรูปแบบหมายถึงองค์ประกอบที่อาจนำมาใช้ตำแหน่งและรูปร่างใด ๆ

  • การผูกหมายถึงพวกเขามีรูปร่างเหมือนกัน แต่รูปร่างอาจเป็นอะไรก็ได้

  • เส้นทแยงมุมหมายถึงแกนรูปร่างจะเน้นไปตามแกนพิกัด แต่อย่างอื่นความเยื้องศูนย์กลางอาจแตกต่างกันระหว่างส่วนประกอบ

  • Tied Diagonalเป็นสถานการณ์ที่“ ผูก” ซึ่งแกนของ contour นั้นจะเน้นไปตามแกนของพิกัด (ฉันได้เพิ่มสิ่งนี้เพราะเริ่มแรกมันเป็นวิธีที่ฉันตีความ "เส้นทแยงมุม" ผิด)

  • ทรงกลมเป็นสถานการณ์ "เส้นทแยงมุม" ที่มีรูปทรงวงกลม (ทรงกลมในมิติที่สูงกว่าดังนั้นชื่อ)

สิ่งนี้แสดงขอบเขตเสียงจากส่วนผสมที่เป็นไปได้ทั่วไปจนถึงส่วนผสมเฉพาะชนิด ข้อ จำกัด อื่น ๆ (fussier) เป็นไปได้โดยเฉพาะอย่างยิ่งในมิติที่สูงขึ้นซึ่งจำนวนพารามิเตอร์เติบโตอย่างรวดเร็ว (A แปรปรวนเมทริกซ์ในมิติอธิบายโดยพารามิเตอร์อิสระ.)n ( n + 1 ) / 2nn(n+1)/2


คำตอบที่ดี ขอบคุณ. หนึ่งคำถามสุดท้าย เหล่านี้เป็น 4 ประเภทเท่านั้นหรือไม่ หรือมีประเภทอื่น ๆ ด้วย?
Bee

1
ฉันแน่ใจว่าคุณสามารถจินตนาการถึงกรณีระดับกลางต่าง ๆ ที่ส่วนประกอบบางตัวใช้คุณสมบัติบางอย่างร่วมกันและส่วนประกอบอื่น ๆ ไม่ได้หรือที่ซึ่งคุณสมบัติบางอย่างของส่วนประกอบทั้งหมดถูกระบุไว้ล่วงหน้า ยกตัวอย่างเช่นตัวอย่างที่รุนแรงที่สุดคือสถานการณ์ "ทรงกลม" ซึ่งจำเป็นต้องมีการแปรปรวน (พูด)ในองค์ประกอบทั้งหมด 1
whuber

ขอบคุณ ฉันเพิ่งเปรียบเทียบคำอธิบายที่ยกมาในโพสต์ของฉันและคำตอบของคุณ ในเหมือง 'Tied' เป็นสิ่งเดียวที่ถูกใช้ร่วมกันโดยส่วนประกอบทั้งหมด แต่ในของคุณ 'เต็ม' ดูเหมือนจะเป็นสิ่งเดียวที่ไม่ได้แชร์โดยแต่ละองค์ประกอบ ฉันแค่รู้สึกว่าทั้งสองนี้ขัดแย้งกัน (ฉันแน่ใจว่าฉันขาดอะไรไป) คุณคิดอธิบายไหม ขอบคุณมาก.
Bee

ฉันไม่เห็นความขัดแย้งใด ๆ : ฉันได้แสดงเงื่อนไขที่คุณกำหนดไว้อย่างซื่อสัตย์ แน่นอนฉันไม่ได้อ้างถึงแหล่งข้อมูลอื่น ๆ เพื่อสร้างภาพเหล่านี้
whuber

1
ขอบคุณ - ฉันเห็นสิ่งที่คุณหมายถึง ฉันจะอัปเดตคำอธิบายเพื่อแสดงว่า
whuber
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.