ข้อมูลประเภทใดที่ควรทำให้เป็นมาตรฐานด้วย KNN?

ฉันรู้ว่ามีการทำให้เป็นปกติมากกว่าสองประเภท

ตัวอย่างเช่น,

1- การแปลงข้อมูลโดยใช้คะแนน z หรือคะแนน t ซึ่งมักเรียกว่ามาตรฐาน

2- การลดขนาดข้อมูลให้มีค่าระหว่าง 0 ถึง 1

คำถามตอนนี้ถ้าฉันต้องการ normalizing

ข้อมูลประเภทใดที่ควรทำให้เป็นมาตรฐานด้วย KNN? และทำไม?

— jeza
แหล่งที่มา

K-NN ผมขอแนะนำให้normalizingข้อมูลระหว่างและ1 $0$ $1$

k-NN ใช้ระยะทางแบบยุคลิดเป็นวิธีการเปรียบเทียบตัวอย่าง ในการคำนวณระยะห่างระหว่างสองจุดและ ที่คือค่าของ $x_1 = (f_1^1, f_1^2, ..., f_1^M)$ $x_2 = (f_2^1, f_2^2, ..., f_2^M)$ $f_1^i$ $i$ - คุณสมบัติของ : $x_1$

d (x_{1}, x_{2}) = \sqrt{(f_{1}^{1} - f_{2}^{1})^{2} + (f_{1}^{2} - f_{2}^{2})^{2} + . . . + (f_{1}^{M} - f_{2}^{M})^{2}}

$d(x_1, x_2) = \sqrt{(f_1^1 - f_2^1)^2 + (f_1^2 - f_2^2)^2 + ... + (f_1^M - f_2^M)^2}$

เพื่อให้คุณลักษณะทั้งหมดมีความสำคัญเท่ากันเมื่อคำนวณระยะทางคุณลักษณะต้องมีช่วงของค่าเท่ากัน สิ่งนี้สามารถทำได้ผ่านการทำให้เป็นมาตรฐาน

หากพวกเขาไม่ปกติและสำหรับคุณลักษณะเช่นมีช่วงของค่าใน ) ในขณะที่มีช่วงของค่าใน )เมื่อคำนวณระยะทางเทอมที่สองจะมีความสำคัญมากกว่าครั้งแรกถึงเท่านำ k-NN ไปไว้วางใจฟีเจอร์ที่สองมากกว่าครั้งแรก เพื่อให้แน่ใจว่าการฟื้นฟูทุกคุณสมบัติที่ถูกแมปไปที่เดียวกันช่วงของค่า $f^1$ $[0, 1$ $f^2$ $[1, 10)$ $10$

ในทางกลับกันการทำให้เป็นมาตรฐานมีคุณสมบัติที่มีประโยชน์มากมาย แต่ไม่สามารถรับประกันได้ว่าคุณสมบัตินั้นจะถูกแมปกับช่วงเดียวกัน แม้ว่ามาตรฐานอาจจะเหมาะสมที่สุดสำหรับตัวแยกประเภทอื่น ๆ แต่นี่ไม่ใช่กรณีของ k-NN หรือตัวจําแนกตามระยะทางอื่น ๆ

— Djib2011
แหล่งที่มา

คำตอบของคุณจะเหมือนกันหรือไม่ถ้าฉันใช้ระยะทางที่แตกต่างกันแทนระยะทางแบบยุคลิด (ตัวอย่างเช่นระยะทางแมนฮัตตันหรือระยะทางอื่น ๆ แม้แต่ระยะทางแบบเศษส่วน)? นอกจากนี้หากช่วงของตัวแปรใกล้เคียงกัน

— jeza

f^{1} \in [0, 1)

$f^1 \in [0, 1)$

f^{2} \in [0, 1.2)

$f^2 \in [0, 1.2)$

f^{2}

$f^2$

20 %

$20\%$

f^{1}

$f^1$ . สิ่งหนึ่งที่ฉันลืมพูดถึงคือการสร้างมาตรฐานนั้นดีกว่าการไม่ปรับขนาดคุณลักษณะใด ๆ มันเลวร้ายยิ่งกว่าการทำให้เป็นปกติ

— Djib2011

ฉันเห็นแล้ว "มันเลวร้ายยิ่งกว่าปกติ"!

— jeza