ความแตกต่างระหว่างอัลกอริธึมมาตรฐานและทรงกลม k-mean

ฉันต้องการเข้าใจว่าอะไรคือความแตกต่างที่สำคัญในการใช้งานระหว่างอัลกอริธึมการจัดกลุ่ม k-Mean แบบมาตรฐานและทรงกลม

ในแต่ละขั้นตอน k-หมายถึงคำนวณระยะทางระหว่างเวกเตอร์องค์ประกอบและเซนทรอยด์ของคลัสเตอร์และกำหนดเอกสารให้กับคลัสเตอร์นี้อีกครั้งซึ่งเซนทรอยด์อยู่ใกล้ที่สุด จากนั้นเซนทรอยด์ทั้งหมดจะถูกคำนวณใหม่

ในรูป k k- หมายถึงเวกเตอร์ทั้งหมดจะถูกทำให้เป็นมาตรฐานและการวัดระยะทางเป็นความแตกต่างของโคไซน์

นั่นคือทั้งหมดหรือมีอย่างอื่นหรือไม่

คำถามคือ:

อะไรคือความแตกต่างระหว่างคลาสสิคหมายถึง k และหมายถึงทรงกลม k- หมายถึง?

คลาสสิก K- หมายถึง:

ในคลาสสิกค่าเฉลี่ย k เราหมายถึงการลดระยะห่างแบบยุคลิดระหว่างศูนย์คลัสเตอร์กับสมาชิกของกลุ่ม สัญชาตญาณที่อยู่เบื้องหลังสิ่งนี้คือระยะรัศมีจากจุดศูนย์กลางคลัสเตอร์ไปยังตำแหน่งองค์ประกอบควร "มีความเหมือนกัน" หรือ "คล้ายกัน" สำหรับองค์ประกอบทั้งหมดของคลัสเตอร์นั้น

อัลกอริทึมคือ:

• กำหนดจำนวนของกลุ่ม (หรือที่รู้จักในการนับกลุ่ม)
• เริ่มต้นโดยการสุ่มกำหนดคะแนนในพื้นที่เพื่อดัชนีคลัสเตอร์
• ทำซ้ำจนกระทั่งมาบรรจบกัน
  • สำหรับแต่ละจุดค้นหาคลัสเตอร์ที่ใกล้ที่สุดและกำหนดจุดให้กับคลัสเตอร์
  • สำหรับแต่ละคลัสเตอร์ค้นหาค่าเฉลี่ยของคะแนนสมาชิกและค่าเฉลี่ยของศูนย์อัพเดต
  • ข้อผิดพลาดคือบรรทัดฐานของระยะทางของกลุ่ม

K-Spherical หมายถึง:

ในรูปทรงกลม k- หมายถึงความคิดคือการกำหนดจุดศูนย์กลางของแต่ละกลุ่มเพื่อให้ทั้งมุมที่สม่ำเสมอและมุมระหว่างส่วนประกอบน้อยที่สุด สัญชาตญาณเป็นเหมือนการดูดาว - จุดควรมีระยะห่างที่สอดคล้องกัน การเว้นวรรคนั้นง่ายกว่าในการหาปริมาณเป็น "ความคล้ายคลึงกันของโคไซน์" แต่หมายความว่าไม่มีกาแลคซี "ทางช้างเผือก" ที่ก่อตัวเป็นแนวสว่างขนาดใหญ่ข้ามท้องฟ้าของข้อมูล (ใช่ฉันกำลังพยายามคุยกับคุณยายในส่วนนี้ของคำอธิบาย)

รุ่นทางเทคนิคเพิ่มเติม:

คิดถึงเวกเตอร์สิ่งที่คุณวาดเป็นลูกศรพร้อมการวางแนวและความยาวคงที่ สามารถแปลได้ทุกที่และเป็นเวกเตอร์เดียวกัน อ้าง

การวางแนวของจุดในพื้นที่ (มุมของมันจากเส้นอ้างอิง) สามารถคำนวณได้โดยใช้พีชคณิตเชิงเส้นโดยเฉพาะผลิตภัณฑ์จุด

ถ้าเราย้ายข้อมูลทั้งหมดเพื่อให้หางอยู่ในจุดเดียวกันเราสามารถเปรียบเทียบ "เวกเตอร์" ตามมุมของมันและจัดกลุ่มที่คล้ายกันไว้ในคลัสเตอร์เดียว

เพื่อความชัดเจนความยาวของเวกเตอร์จะถูกปรับอัตราส่วนเพื่อให้ง่ายต่อการเปรียบเทียบ "ลูกตา"

คุณอาจคิดว่ามันเป็นกลุ่มดาว ดวงดาวในกระจุกดาวหนึ่งอยู่ใกล้กันในบางแง่มุม นี่คือกลุ่มดาวลูกตาของฉัน

คุณค่าของวิธีการทั่วไปคือมันช่วยให้เราสามารถประดิษฐ์เวกเตอร์ซึ่งไม่มีมิติทางเรขาคณิตเช่นในวิธีการ tf-idf โดยที่เวกเตอร์เป็นความถี่ของคำในเอกสาร คำสองคำ "และ" ที่เพิ่มไม่เท่ากับ "the" คำไม่ต่อเนื่องและไม่เป็นตัวเลข พวกมันไม่ได้อยู่ในรูปทรงเรขาคณิต แต่เราสามารถประดิษฐ์พวกมันในเชิงเรขาคณิตแล้วใช้วิธีทางเรขาคณิตเพื่อจัดการพวกมัน K-Spherical สามารถใช้เพื่อจัดกลุ่มตามคำศัพท์

$$\begin{bmatrix} x1&y1&x2&y2&group\\ 0&-0.8&-0.2013&-0.7316&B\\ -0.8&0.1&-0.9524&0.3639&A\\ 0.2&0.3&0.2061&-0.1434&C\\ 0.8&0.1&0.4787&0.153&B\\ -0.7&0.2&-0.7276&0.3825&A\\ 0.9&0.9&0.748&0.6793&C\\ \end{bmatrix}$$

บางจุด:

• พวกมันฉายภาพไปยังทรงกลมหน่วยเพื่ออธิบายความแตกต่างของความยาวของเอกสาร

มาทำงานกันตามกระบวนการจริงและดูว่า "ดวงตา" ของฉันแย่แค่ไหน

ขั้นตอนคือ:

1. (โดยนัยในปัญหา) เชื่อมต่อเวกเตอร์หางที่แหล่งกำเนิด
2. ฉายลงบนหน่วยทรงกลม (เพื่ออธิบายความแตกต่างของความยาวของเอกสาร)
3. ใช้การจัดกลุ่มเพื่อย่อ "ความแตกต่างของโคไซน์ "

$$J = \sum_{i} d \left( x_{i},p_{c\left( i \right)} \right)$$
$$d \left( x,p \right) = 1- cos \left(x,p\right) = \frac{\langle x,p \rangle}{\left \|x \right \|\left \|p \right \|}$$

(มีการแก้ไขเพิ่มเติมในเร็ว ๆ นี้)

ลิงค์:

1. http://epub.wu.ac.at/4000/1/paper.pdf
2. http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.111.8125&rep=rep1&type=pdf
3. http://www.cs.gsu.edu/~wkim/index_files/papers/refinehd.pdf
4. https://www.jstatsoft.org/article/view/v050i10
5. http://www.mathworks.com/matlabcentral/fileexchange/32987-the-spherical-k-means-algorithm
6. https://ocw.mit.edu/courses/sloan-school-of-management/15-097-prediction-machine-learning-and-statistics-spring-2012/projects/MIT15_097S12_proj1.pdf