RMSE และ Mae สามารถมีค่าเหมือนกันได้หรือไม่?


9

ฉันกำลังใช้การตรวจสอบความถูกต้องข้ามและการคำนวณตัวชี้วัดข้อผิดพลาดเช่น RMSE R2, Mae, MSE ฯลฯ

RMSE และ Mae สามารถมีค่าเหมือนกันได้หรือไม่?


1
ใช่. ทำไมจะไม่ล่ะ? Letจะเสมอและทำนายสำหรับจะเสมอ1ที่นั่นคุณมีX0X1
เดวิด

คำตอบ:


17

ใช่ในทางทฤษฎี กรณีที่ง่ายที่สุดที่ฉันสามารถจินตนาการได้คือชุดข้อมูลที่ข้อผิดพลาดการทำนายทั้งหมด±1. RMSE และ Mae จะส่งกลับค่าที่เหมือนกันของ 1 ใครสามารถสร้างสถานการณ์อื่น ๆ ได้เช่นกัน แต่ดูเหมือนไม่มีใครน่าจะเป็นไปได้

แก้ไข: ขอบคุณ @DilipSarwate สำหรับการชี้ให้เห็น (เพิ่มเติมโดย @ user20160 ในคำตอบที่ยอดเยี่ยมของพวกเขา) ว่าผลลัพธ์นี้เป็นไปได้ถ้าหากค่าสัมบูรณ์ของข้อผิดพลาดการทำนายทั้งหมดเหมือนกัน ไม่มีอะไรพิเศษเกี่ยวกับคุณค่า±1 ในตัวอย่างของฉันในคำอื่น ๆ ; หมายเลขอื่นใดจะใช้ได้แทน 1


1
คุณช่วยยกตัวอย่างสถานการณ์สมมติอื่น ๆ ที่คุณจินตนาการได้หรือไม่? ฉันหมายถึงตัวอย่างนอกเหนือจากสเกลาร์หลายตัว (เมื่อค่าคงที่ทั้งหมดอยู่±σ แทน ±1) จากตัวอย่างด้านบน
Dilip Sarwate

@DilipSarwate ฉันกำลังไตร่ตรองสิ่งนี้เมื่อ user20160 เพิ่มคำตอบที่ดีกว่าซึ่งครอบคลุมในรายละเอียดมากกว่าที่ฉันสามารถทำได้
mkt - Reinstate Monica

1
@mkt ขอบคุณสำหรับคำพูดที่ดี คำตอบของคุณถูกต้องและรัดกุม (+1)
user20160

@DilipSarwate ขอบคุณสำหรับการป้อนข้อมูล
mkt - Reinstate Monica

1
การตกแต่งเพิ่มเติมสำหรับคำตอบของคุณ: (i) nจะต้องมีอย่างสม่ำเสมอ (พูดn=2k) และ (ii) อย่างแน่นอน k ส่วนที่เหลือจะต้องมีค่า +σ และแน่นอน k ส่วนที่เหลือจะต้องมีค่า σซึ่งแน่นอนว่าเหลือทั้งหมดมีค่าสัมบูรณ์ σ ตามที่คุณระบุ แต่ (ii) รับรองว่าส่วนที่เหลือรวม 0ตามที่พวกเขาต้อง ส่วนที่เหลือเป็นค่าเบี่ยงเบนจากค่าเฉลี่ยดังนั้นต้องรวมเป็นศูนย์
Dilip Sarwate

23

ข้อผิดพลาดค่าเฉลี่ยสัมบูรณ์ (MAE) สามารถเท่ากับข้อผิดพลาดกำลังสองเฉลี่ย (MSE) หรือข้อผิดพลาดรากเฉลี่ยกำลังสอง (RMSE) ภายใต้เงื่อนไขบางประการซึ่งฉันจะแสดงด้านล่าง เงื่อนไขเหล่านี้ไม่น่าจะเกิดขึ้นในทางปฏิบัติ

รอบคัดเลือกโซน

ปล่อย ri=|yiy^i| แสดงถึงค่าสัมบูรณ์ของส่วนที่เหลือสำหรับ iจุดข้อมูล th และปล่อยให้ r=[ri,,rn]T เป็นเวกเตอร์ที่มีค่าตกค้างสัมบูรณ์สำหรับทุกคน nคะแนนในชุดข้อมูล ปล่อยให้1 แสดงว่า n×1 เวกเตอร์ของวัตถุ, แม่, MSE และ RMSE สามารถเขียนเป็น:

(1)MAE=1n1TrMSE=1nrTrRMSE=1nrTr

MSE

การตั้งค่า MSE ให้เท่ากับ Mae และให้การจัดเรียงใหม่:

(2)(r1)Tr=0

MSE และ Mae มีค่าเท่ากันสำหรับชุดข้อมูลทั้งหมดที่ค่าคงที่สัมบูรณ์จะแก้สมการข้างต้น โซลูชันที่ชัดเจนสองประการคือ:r=0 (ไม่มีข้อผิดพลาดเป็นศูนย์) และ r=1 (ส่วนที่เหลือทั้งหมด ±1mkt ดังที่ได้กล่าวไว้) แต่มีโซลูชั่นมากมายเหลือหลาย

เราสามารถตีความสมการ (2) เรขาคณิตดังต่อไปนี้: LHS เป็นผลคูณของ r1 และ r. ผลิตภัณฑ์ Zero dot หมายถึง orthogonality ดังนั้น MSE และ MAE จะเท่ากันถ้าการลบ 1 จากเศษตกค้างสัมบูรณ์แต่ละอันให้เวกเตอร์ที่มีมุมฉากกับค่าตกค้างสัมบูรณ์ดั้งเดิม

นอกจากนี้โดยการเติมสมการ (2) สามารถเขียนใหม่เป็น:

(3)(r121)T(r121)=n4

สมการนี้อธิบายถึง n- มิติทรงกลมมีศูนย์กลางที่ [12,,12]T ด้วยรัศมี 12n. MSE และ Mae มีค่าเท่ากันหากว่าค่าตกค้างสัมบูรณ์อยู่บนพื้นผิวของ hypersphere นี้

RMSE

การตั้งค่า RMSE ให้เท่ากับ Mae และให้การจัดเรียงใหม่:

(4)rTAr=0

A=(nI11T)

ที่ไหน Iคือเมทริกซ์เอกลักษณ์ ชุดโซลูชันเป็นพื้นที่ว่างของA; นั่นคือชุดของทั้งหมดr ดังนั้น Ar=0. เพื่อหาช่องว่างให้สังเกตว่าA คือ n×n เมทริกซ์ที่มีองค์ประกอบแนวทแยงเท่ากับ n1 และองค์ประกอบอื่น ๆ ทั้งหมดเท่ากับ 1. คำสั่งAr=0 สอดคล้องกับระบบสมการ:

(5)(n1)rijirj=0i

หรือจัดเรียงสิ่งต่าง ๆ :

(6)ri=1n1jirji

นั่นคือทุกองค์ประกอบ riต้องเท่ากับค่าเฉลี่ยขององค์ประกอบอื่น ๆ วิธีเดียวที่จะสนองความต้องการนี้ได้ก็คือองค์ประกอบทั้งหมดจะต้องเท่าเทียมกัน (ผลลัพธ์นี้ยังสามารถได้รับโดยพิจารณาถึงองค์ประกอบของA) ดังนั้นชุดโซลูชันประกอบด้วยเวกเตอร์ที่ไม่ใช่ค่าลบทั้งหมดที่มีรายการเหมือนกัน:

{rr=c1c0}

ดังนั้น RMSE และ Mae จะเท่ากันถ้าค่าสัมบูรณ์ของส่วนที่เหลือเท่ากันสำหรับจุดข้อมูลทั้งหมด


1
+1 ฉันรู้สึกจำเป็นที่จะต้องตรวจสอบว่า hypersphere นี้ส่วนใหญ่อยู่ในภูมิภาคที่ส่วนประกอบทั้งหมดของrเป็นสิ่งที่ไม่เป็นลบซึ่งเป็นข้อกำหนดของสิ่งตกค้างสัมบูรณ์: ที่ทำให้ฉันเชื่อว่ามีวิธีแก้ปัญหามากมาย
whuber

1
ที่จริงแล้วคำถามคือRMSEและ Mae สามารถเท่ากันได้หรือไม่และ MSE และ Mae สามารถเท่ากันได้หรือไม่ อาจเป็นคำตอบของ @ mkt (หรือรุ่นทั่วไปที่ฉันแนะนำในความคิดเห็น) เป็นคำตอบเดียวสำหรับคำถาม RMSE = MAE?
Dilip Sarwate

@DilipSarwate ใช่รับรู้หลังจากโพสต์สิ่งนี้ว่าฉันได้ข้ามส่วน 'R' ฉันได้แก้ไขเพื่อรวม RMSE ตอนนี้ ฉันเชื่อว่ารุ่นที่คุณแนะนำนั้นเป็นคำตอบเดียวที่เป็นไปได้ในกรณีนี้
user20160

@whuber นั่นเป็นจุดที่ดี ฉันจะพยายามแก้ไขในบางสิ่งเช่นนี้
user20160

2
@Hiyam หากมีเพียง 1 ค่า RMSE ตามคำจำกัดความจะต้องเท่ากับ Mae เนื่องจากมีข้อผิดพลาดเพียง 1 การยกกำลังสองและการรูทจะส่งคืนค่าสัมบูรณ์ของข้อผิดพลาดดั้งเดิม
mkt - Reinstate Monica
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.