ลดผลรวมของส่วนเบี่ยงเบนสัมบูรณ์ ( ระยะทาง

15

ฉันมีชุดข้อมูล $x_{1}, x_{2}, \ldots, x_{k}$ และต้องการค้นหาพารามิเตอร์ $m$ เพื่อลดผลรวม

\sum_{i = 1}^{k} | m - x_{i} | .

$\sum_{i=1}^{k}\big|m-x_i\big|.$ นั่นคือ

min_{m} \sum_{i = 1}^{k} | m - x_{i} | .

$\min_{m}\sum_{i=1}^{k}\big|m-x_i\big|.$

optimization convex-optimization

— mayenew
แหล่งที่มา

2

คุณอธิบายรายละเอียดเล็กน้อยได้ไหม?

— Geoff Oxberry

ในกรณีนั้นการแก้ปัญหาจะไม่ใช่จุดกึ่งกลางระหว่างค่าสูงสุดและค่าต่ำสุดหรือไม่

— เปาโล

@ พอลมัธยฐานอาจทำให้ผลรวมลดลง แต่ต้องการทราบว่ามันสามารถทำการวิเคราะห์ได้อย่างไรโดยเฉพาะอย่างยิ่งการลดขนาด l1

— พฤษภาคม

@kadu ถูกต้องค่ามัธยฐานเป็นวิธีแก้ปัญหา การคำนวณค่ามัธยฐานเป็นเรื่องเล็กน้อย เพียงเรียงลำดับจากนั้นรับค่ากลาง

— David Ketcheson

22

เป็นไปได้ไหมที่คุณจะขอหลักฐานว่าคนกลางแก้ปัญหาได้หรือไม่? อย่างนี้สามารถทำได้เช่นนี้:

วัตถุประสงค์คือค่เชิงเส้นและอนุพันธ์จึงยกเว้นจุดmความชันของวัตถุประสงค์คือบางจุดคืออะไร? ความชันคือผลรวมของความชันของการแมปและนี่คือ (สำหรับ ) หรือ (สำหรับ ) ดังนั้นความลาดชันแสดงจำนวน 's มีขนาดเล็กกว่าเมตรคุณเห็นว่าความชันเป็นศูนย์ถ้ามีน้อยกว่าและใหญ่กว่าเท่า ๆ กัน(สำหรับและจำนวนของเท่ากัน) หากมีจำนวนคี่ $m=x_i$ $m\neq x_i$ $m\mapsto |m-x_j|$ $+1$ $m>x_j$ $-1$ $m<x_j$ $x_i$ $m$ $x_i$ $m$ $x_i$ $x_i$ ดังนั้นความชันคือด้านซ้ายของ "มิดเดิ้ล" หนึ่งอันและของมันดังนั้นอันมิดเดิ้ลจึงน้อยที่สุด $-1$ $+1$

— กริชของชาวสกอต
แหล่งที่มา

16

ลักษณะทั่วไปของปัญหานี้ไปหลายมิติที่เรียกว่าปัญหาแบ่งเรขาคณิต ดังที่เดวิดชี้ให้เห็นว่าค่ามัธยฐานเป็นวิธีแก้ปัญหาสำหรับคดี 1-D; คุณสามารถใช้อัลกอริธึมการเลือกค่ามัธยฐานซึ่งมีประสิทธิภาพมากกว่าการเรียงลำดับ การเรียงลำดับเป็นในขณะที่อัลกอริทึมการเลือกเป็น ; การเรียงลำดับจะมีประสิทธิภาพมากขึ้นถ้าต้องการการเลือกหลายอย่างเท่านั้นซึ่งในกรณีนี้คุณสามารถเรียงลำดับ (ราคาแพง) หนึ่งครั้งแล้วเลือกซ้ำจากรายการที่เรียงลำดับ $O(n\log n)$ $O(n)$

ลิงก์ไปยังปัญหาค่ามัธยฐานทางเรขาคณิตกล่าวถึงวิธีแก้ปัญหาสำหรับกรณีหลายมิติ

— Geoff Oxberry
แหล่งที่มา

6

วิธีแก้ปัญหาที่ชัดเจนในแง่ของค่ามัธยฐานนั้นถูกต้อง แต่ในการตอบสนองต่อความคิดเห็นโดย mayenew นี่เป็นอีกวิธีหนึ่ง

เป็นที่ทราบกันดีว่าปัญหาการย่อเล็กสุดโดยทั่วไปและปัญหาที่โพสต์โดยเฉพาะสามารถแก้ไขได้ด้วยการโปรแกรมเชิงเส้น $\ell^1$

การกำหนด LP ต่อไปนี้จะใช้สำหรับแบบฝึกหัดที่กำหนดโดยไม่ทราบค่า : $z_i,m$

m i n \sum z_{i}

$min \sum z_i$ เช่นนั้น:

z_{i} \geq m - x_{i}

$z_i \ge m - x_i$

z_{i} \geq x_{i} - m

$z_i \ge x_i - m$

อย่างชัดเจนต้องเท่ากับอย่างน้อยที่สุดดังนั้นสิ่งนี้จึงขอให้ผลรวมของค่าสัมบูรณ์ของข้อผิดพลาดลดลง $z_i$ $|x_i - m|$

— hardmath
แหล่งที่มา

2

วิธีการวิเคราะห์นูนที่ใช้กำลังเกินกว่าที่จะแสดงได้นั้นเป็นเพียงการใช้ subgradients ในความเป็นจริงนี้เทียบเท่ากับเหตุผลที่ใช้ในคำตอบอื่น ๆ ที่เกี่ยวข้องกับความลาดชัน

ปัญหาการหาค่าเหมาะที่สุดนั้นเป็นแบบนูน (เพราะวัตถุประสงค์เป็นแบบนูนและไม่มีข้อ จำกัด ) นอกจากนี้ subgradient ของคือ $\left|m-x_i\right|$

-1 ถ้า $m<x_i$

[-1,1] ถ้า $m=x_i$

+1 ถ้าม> $m>x_i$

เนื่องจากฟังก์ชั่นนูนจะลดลงถ้าหาก subgradient มีศูนย์และ subgradient ของผลรวมของฟังก์ชั่นนูนคือผลรวม (ชุด) ของ subgradients คุณจะได้รับ 0 อยู่ใน subgradient ถ้าเป็นค่ามัธยฐาน ของx_k $m$ $x_1,\ldots x_k$

— cjordan1
แหล่งที่มา

0

\arg min_{m} \sum_{i = 1}^{N} | m - x_{i} |

$\arg \min_{m} \sum_{i = 1}^{N} \left| m - {x}_{i} \right|$

เราควรสังเกตว่า (การเข้มงวดมากขึ้นจะบอกว่ามันคือการไล่ระดับย่อยของฟังก์ชันที่ไม่ราบรื่น Norm) ดังนั้นสืบมาข้างต้นรวมผลผลิตขวา) นี่เท่ากับศูนย์เมื่อจำนวนรายการบวกเท่ากับจำนวนลบซึ่งเกิดขึ้นเมื่อ\} $\frac{\mathrm{d} \left | x \right | }{\mathrm{d} x} = \operatorname{sign} \left( x \right)$ ${L}_{1}$
$\sum_{i = 1}^{N} \operatorname{sign} \left( m - {x}_{i} \right)$
$m = \operatorname{median} \left\{ {x}_{1}, {x}_{2}, \cdots, {x}_{N} \right\}$

หนึ่งควรสังเกตว่าmedianกลุ่มไม่ต่อเนื่องไม่ได้กำหนดไว้ไม่ซ้ำกัน
ยิ่งกว่านั้นมันไม่จำเป็นต้องเป็นรายการภายในกลุ่ม

— Royi
แหล่งที่มา