ธรรมดาในช่องสี่เหลี่ยมน้อยที่สุดคืออะไร?

เมื่อเร็ว ๆ นี้เพื่อนของฉันคนหนึ่งถามว่าอะไรที่ธรรมดามาก ๆ ดูเหมือนว่าเราจะไม่ได้อยู่ที่ใดในการสนทนา เราทั้งสองตกลงกันว่า OLS เป็นกรณีพิเศษของโมเดลเชิงเส้นมีประโยชน์หลายอย่างรู้กันดีและเป็นกรณีพิเศษของรุ่นอื่น ๆ แต่ทั้งหมดนี้จริงเหรอ?

ดังนั้นฉันต้องการทราบ:

• ชื่อมาจากไหนจริงๆ
• ใครเป็นคนแรกที่ใช้ชื่อ?

สี่เหลี่ยมน้อยในมักจะเรียกว่าสองน้อยสามัญ (OLS) เพราะมันเป็นขั้นตอนแรกที่เคยสถิติที่จะพัฒนาประมาณ 1800 ดูประวัติการ มันจะเทียบเท่ากับการลดบรรทัดฐาน||ต่อจากนั้นให้ยกกำลังสองน้อยที่สุด, ลดบรรทัดฐานอื่น ๆ (เช่น ), กำลังสองน้อยที่สุดทั่วไป , การประมาณค่า M , การลดขนาดมีการพัฒนาเทคนิคปัญหาผกผันอื่น ๆและเครื่องมืออื่น ๆ ยังมีข้อโต้แย้งว่าใครเป็นคนแรกที่ใช้ Gauss หรือ Legendre (ดู$y$$L_2$$||Y-f(X)||_2$$L_1$ลิงก์ ) คำว่า "ธรรมดา" (หมายถึงใน ) ได้ถูกเพิ่มเข้ามาใน "กำลังสองน้อยที่สุด" หลังจากวิธีการทางเลือกมากมายเกิดขึ้นที่ OLS ยอดนิยม (ยังคงมากที่สุด) จำเป็นต้องแยกความแตกต่างจากการย่อขนาดอื่น ๆ เมื่อเพิ่มจำนวนสี่เหลี่ยมธรรมดาน้อยที่สุดที่เกิดขึ้นจริงนั้นยากที่จะติดตามนับตั้งแต่ที่เกิดขึ้นเมื่อมันกลายเป็นธรรมชาติหรือชัดเจนที่จะทำเช่นนั้น$y$$+$