คะแนนที่ใกล้เคียงกันจะถือว่าคล้ายกันมากขึ้นในการสร้างภาพข้อมูล T-SNE ได้หรือไม่?

ฉันเข้าใจจากกระดาษของฮินตันว่า T-SNE ทำงานได้ดีในการรักษาความคล้ายคลึงกันในท้องถิ่นและงานที่ดีในการรักษาโครงสร้างของโลก (การจัดกลุ่ม)

อย่างไรก็ตามฉันไม่ชัดเจนว่าจุดใดที่ปรากฎอยู่ใกล้ ๆ ในการแสดงภาพ 2D t-sne สามารถสันนิษฐานได้ว่าเป็นจุดข้อมูลที่ "คล้ายกันมากขึ้น" ฉันกำลังใช้ข้อมูลกับคุณสมบัติ 25 อย่าง

ตัวอย่างเช่นจากการสังเกตภาพด้านล่างฉันสามารถสมมติว่าดาต้าพอยน์สีน้ำเงินนั้นมีความคล้ายคลึงกับสีเขียวมากกว่าโดยเฉพาะกับกลุ่มจุดสีเขียวที่ใหญ่ที่สุด? หรือการถามที่แตกต่างกันมันถือว่าโอเคไหมที่จุดสีน้ำเงินนั้นคล้ายกับสีเขียวในกระจุกที่อยู่ใกล้ที่สุดมากกว่าสีแดงในกระจุกอีกอัน? (ไม่สนใจจุดสีเขียวในกลุ่มสีแดง - ไอช)

เมื่อสังเกตตัวอย่างอื่น ๆ เช่นตัวอย่างที่นำเสนอในชุด Sci-Kit เรียนรู้การเรียนรู้ Manifold ดูเหมือนว่าถูกต้องแล้ว แต่ฉันไม่แน่ใจว่าพูดถูกต้องหรือไม่

แก้ไข

ฉันได้คำนวณระยะทางจากชุดข้อมูลดั้งเดิมด้วยตนเอง (ระยะทางแบบยุคลิดแบบคู่เฉลี่ย) และการสร้างภาพข้อมูลจริงแสดงระยะทางเชิงพื้นที่ตามสัดส่วนที่เกี่ยวข้องกับชุดข้อมูล อย่างไรก็ตามฉันอยากจะรู้ว่านี่เป็นสิ่งที่ยอมรับได้พอสมควรหรือไม่จากสูตรทางคณิตศาสตร์ดั้งเดิมของ t-sne และไม่ใช่เรื่องบังเอิญ

ฉันจะนำเสนอ t-SNE เป็นการปรับความน่าจะเป็นที่ชาญฉลาดของการฝังแบบฝังตัวเชิงเส้น ในทั้งสองกรณีเราพยายามที่จะฉายจุดจากพื้นที่มิติสูงไปสู่พื้นที่ขนาดเล็ก การฉายภาพนี้ทำโดยปรับการอนุรักษ์ระยะทางในท้องถิ่นให้เหมาะสม (โดยตรงกับ LLE, สร้างการกระจายความน่าจะเป็นล่วงหน้าและปรับการเบี่ยงเบนของ KL ด้วย t-SNE) ถ้าหากคำถามของคุณคือมันทำให้ระยะทางทั่วโลกคำตอบคือไม่ มันจะขึ้นอยู่กับ "รูปร่าง" ของข้อมูลของคุณ (หากการแจกแจงเป็นไปอย่างราบรื่นระยะทางก็ควรอนุรักษ์ไว้อย่างใด)

t-SNE จริง ๆ แล้วทำงานได้ไม่ดีกับภาพสวิสต์โรล (ภาพ 3D "S" ของคุณ) และคุณจะเห็นได้ว่าในผลลัพธ์แบบ 2 มิติจุดสีเหลืองตรงกลางนั้นโดยทั่วไปจะใกล้เคียงกับสีแดงมากกว่าสีฟ้า อยู่กึ่งกลางอย่างสมบูรณ์ในภาพ 3 มิติ)

อีกตัวอย่างที่ดีของสิ่งที่ t-SNE ทำคือการจัดกลุ่มของตัวเลขที่เขียนด้วยลายมือ ดูตัวอย่างในลิงค์นี้: https://lvdmaaten.github.io/tsne/