การทำคลัสเตอร์ชุดข้อมูลที่มีตัวแปรทั้งแบบแยกและแบบต่อเนื่อง

ฉันมีชุดข้อมูล X ซึ่งมี 10 มิติซึ่ง 4 ในนั้นเป็นค่าที่ไม่ต่อเนื่อง อันที่จริงแล้วตัวแปรที่แยก 4 ตัวนั้นเป็นเลขลำดับนั่นคือค่าที่สูงกว่าหมายถึงความหมายที่สูงกว่า / ดีกว่า

2 ของตัวแปรที่ไม่ต่อเนื่องเหล่านี้มีการจัดหมวดหมู่ในแง่ที่ว่าสำหรับแต่ละตัวแปรเหล่านี้ระยะทางจาก 11 ถึง 12 จะไม่เหมือนกับระยะทางจาก 5 ถึง 6 ในขณะที่ค่าตัวแปรที่สูงกว่าหมายถึงความเป็นจริงที่สูงขึ้น ไม่จำเป็นต้องเป็นเชิงเส้น (อันที่จริงแล้วมันไม่ได้กำหนดจริงๆ)

คำถามของฉันคือ:

• เป็นความคิดที่ดีหรือไม่ที่จะใช้อัลกอริธึมการจัดกลุ่มร่วมกัน (เช่น K-Means และ Gaussian Mixture (GMM)) กับชุดข้อมูลนี้ซึ่งมีตัวแปรทั้งแบบแยกและแบบต่อเนื่อง?

ถ้าไม่:

• ฉันควรจะลบตัวแปรที่แยกกันและมุ่งเน้นเฉพาะตัวแปรที่ต่อเนื่องหรือไม่?
• ฉันควรแยกแยะสิ่งที่ต่อเนื่องกันดีกว่าและใช้อัลกอริทึมการจัดกลุ่มสำหรับข้อมูลที่ไม่ต่อเนื่องหรือไม่

ดังนั้นคุณได้รับการบอกกล่าวว่าคุณจำเป็นต้องมีการวัดระยะทางที่เหมาะสม นี่คือโอกาสในการขายบางส่วน:

• การรวมกลุ่มข้อมูลแบบผสม
• ระยะทาง Mahalanobis ทั่วไปสำหรับข้อมูลแบบผสม
• การประมาณระยะทาง Mahalanobis จากข้อมูลต่อเนื่องและไม่ต่อเนื่องแบบผสม
• ลักษณะทั่วไปของระยะทาง Mahalanobis ในกรณีผสม
• ฟังก์ชันระยะทางสำหรับตัวแปรเด็ดขาดและตัวแปรผสม
• ระยะทางให้ข้อมูลและสถิติที่เกี่ยวข้องในตัวแปรผสมอย่างต่อเนื่องและเด็ดขาด

และแน่นอน: Mahalanobis ระยะ

ฉันต้องจัดการกับปัญหาแบบนี้ในอดีตและฉันคิดว่าอาจมี 2 วิธีที่น่าสนใจ:

• Continuousificationification: แปลงแอ็ตทริบิวต์สัญลักษณ์ด้วยลำดับของจำนวนเต็ม มีหลายวิธีในการทำเช่นนี้ทั้งหมดซึ่งอธิบายไว้ในบทความนี้ คุณสามารถลองใช้อัลกอริทึม NBF, VDM และ MDV

• Discretization: แปลงคุณสมบัติต่อเนื่องเป็นค่าสัญลักษณ์ อีกครั้งหลายขั้นตอนวิธีและการบรรยายที่ดีในเรื่องนี้จะเป็นบทความนี้ ฉันเชื่อว่าวิธีที่ใช้กันมากที่สุดคือ 1R ของ Holte แต่วิธีที่ดีที่สุดที่จะทราบได้คือดู ROC curves กับอัลกอริทึมเช่น EWD, EFD, ID, LD หรือ NDD

เมื่อคุณมีคุณสมบัติทั้งหมดในพื้นที่เดียวกันมันจะกลายเป็นปัญหาการจัดกลุ่มตามปกติ

การเลือกระหว่างการทำให้เป็นต่อเนื่องหรือการแยกส่วนนั้นขึ้นอยู่กับชุดข้อมูลของคุณและคุณลักษณะของคุณมีลักษณะอย่างไรจึงเป็นการยากที่จะพูด แต่ฉันแนะนำให้คุณอ่านบทความที่ฉันให้ไว้ในหัวข้อนั้น

เห็นได้ชัดว่า K-หมายความว่าไม่มีเหตุผลใด ๆ เพราะมันหมายถึง (ซึ่งไร้สาระ) กันไปสำหรับ GMM

คุณอาจต้องการลองใช้อัลกอริทึมการจัดกลุ่มตามระยะทางพร้อมฟังก์ชั่นระยะทางที่เหมาะสมเช่น DBSCAN

ความท้าทายหลักคือการหาฟังก์ชั่นระยะทาง!

ในขณะที่คุณสามารถใส่ฟังก์ชั่นระยะทางที่แตกต่างกันเป็น k-mean มันจะยังคงคำนวณค่าเฉลี่ยที่อาจไม่สมเหตุสมผล (และอาจยุ่งกับฟังก์ชันระยะทางสำหรับค่าที่ไม่ต่อเนื่อง)

อย่างไรก็ตามก่อนอื่นให้เน้นที่การกำหนดว่า "คล้ายกัน" คืออะไร จากนั้นจัดกลุ่มโดยใช้คำนิยามที่คล้ายกันนี้!

หากคุณพอใจกับการทำงานของเมทริกซ์ระยะทางnum_of_samples x num_of_samplesคุณสามารถใช้งานrandom forestsได้เช่นกัน

คลิกที่นี่Unsupervised learning with random forest predictorsสำหรับกระดาษอ้างอิงบรรดาศักดิ์

ความคิดคือการสร้างชุดข้อมูลสังเคราะห์โดยshufflingค่าในชุดข้อมูลดั้งเดิมและการฝึกอบรมลักษณนามสำหรับการแยกทั้งสอง ระหว่างการจำแนกคุณจะได้รับinter-sample distance matrixซึ่งคุณสามารถทดสอบอัลกอริทึมการจัดกลุ่มที่คุณชื่นชอบ

วิธีการผสมที่จะนำมาใช้: 1) ใช้เทคนิคการจำแนก (แผนภูมิการตัดสินใจ C4.5) เพื่อจำแนกข้อมูลที่กำหนดไว้เป็น 2 คลาส 2) เมื่อเสร็จแล้วให้ปล่อยตัวแปรเด็ดขาดและดำเนินการกับตัวแปรต่อเนื่องสำหรับการทำคลัสเตอร์