เหตุใดคุณจึงต้องขยายข้อมูลใน KNN

มีคนช่วยอธิบายให้ฉันหน่อยได้ไหมว่าทำไมคุณต้องทำให้ข้อมูลเป็นมาตรฐานเมื่อใช้ K เพื่อนบ้านที่ใกล้ที่สุด

ฉันพยายามค้นหามัน แต่ฉันก็ยังดูเหมือนจะไม่เข้าใจ

ฉันพบลิงค์ต่อไปนี้:

https://discuss.analyticsvidhya.com/t/why-it-is-necessary-to-normalize-in-knn/2715

แต่ในคำอธิบายนี้ฉันไม่เข้าใจว่าทำไมช่วงที่ใหญ่กว่าในหนึ่งในคุณสมบัติที่มีผลต่อการทำนาย

อัลกอริทึมเพื่อนบ้านที่ใกล้ที่สุด k- อาศัยการโหวตส่วนใหญ่ขึ้นอยู่กับสมาชิกชั้นเรียนของตัวอย่าง 'k' ที่ใกล้ที่สุดสำหรับจุดทดสอบที่กำหนด ความใกล้ชิดของตัวอย่างมักจะขึ้นอยู่กับระยะทางแบบยุคลิด

พิจารณาปัญหาการจำแนกชั้นสองแบบง่าย ๆ โดยเลือกตัวอย่างคลาส 1 (สีดำ) พร้อมกับเพื่อนบ้านที่อยู่ใกล้ที่สุด 10 อันดับ (สีเขียวที่เต็มไปด้วย) ในรูปแรกข้อมูลจะไม่ถูกทำให้เป็นมาตรฐานในขณะที่ในส่วนที่สองเป็น

สังเกตว่าเพื่อนบ้านที่ใกล้ที่สุดทั้งหมดจะถูกจัดตำแหน่งในทิศทางของแกนด้วยช่วงที่เล็กลงเช่นนำไปสู่การจำแนกที่ไม่ถูกต้อง$x_1$

การทำให้เป็นมาตรฐานแก้ปัญหานี้ได้!

สมมติว่าคุณมีชุดข้อมูล (m "ตัวอย่าง" โดย n "ฟีเจอร์") และมิติฟีเจอร์เดียวมีค่าอย่างเคร่งครัดระหว่าง 0 ถึง 1 ในขณะที่มิติฟีเจอร์เดียวมีค่าอยู่ในช่วงตั้งแต่ -1000000 ถึง 1000000 เมื่อระยะทางยูคลิด ระหว่างคู่ของ "ตัวอย่าง" ค่าของขนาดคุณลักษณะที่อยู่ในช่วงระหว่าง 0 ถึง 1 อาจไม่เป็นไปตามปกติและอัลกอริทึมจะต้องอาศัยมิติเดียวซึ่งค่ามีขนาดใหญ่กว่าอย่างมาก ลองหาตัวอย่างการคำนวณระยะทางแบบยุคลิดและคุณสามารถเข้าใจว่าเครื่องชั่งมีผลต่อการคำนวณเพื่อนบ้านที่ใกล้ที่สุดอย่างไร