สัญลักษณ์คลาสสิคในสถิติพีชคณิตเชิงเส้นและการเรียนรู้ของเครื่องคืออะไร และการเชื่อมต่อระหว่างสัญลักษณ์เหล่านี้คืออะไร?

เมื่อเราอ่านหนังสือการทำความเข้าใจสัญลักษณ์มีบทบาทสำคัญในการทำความเข้าใจเนื้อหา น่าเสียดายที่ชุมชนต่าง ๆ มีระเบียบแบบสัญกรณ์ต่างกันสำหรับการกำหนดสูตรในแบบจำลองและปัญหาการปรับให้เหมาะสม คนใดคนหนึ่งสามารถสรุปการกำหนดสูตรบางอย่างที่นี่และให้เหตุผลที่เป็นไปได้?

ฉันจะให้ตัวอย่างที่นี่: ในวรรณคดีพีชคณิตเชิงเส้นหนังสือคลาสสิกแปลกเบื้องต้นเกี่ยวกับพีชคณิตเชิงเส้น สัญกรณ์ที่ใช้มากที่สุดในหนังสือเล่มนี้คือ

ที่ไหนเป็นเมทริกซ์ค่าสัมประสิทธิ์ ,เป็นตัวแปรที่จะแก้ไขและเป็นเวกเตอร์บนด้านขวาของสมการ เหตุผลหนังสือเลือกสัญกรณ์นี้เป็นเป้าหมายหลักของพีชคณิตเชิงเส้นคือการแก้ระบบเชิงเส้นและคิดออกว่าเป็นเวกเตอร์xด้วยการกำหนดสูตรดังกล่าวปัญหาการเพิ่มประสิทธิภาพของ OLS คือ$A$$x$$b$$x$

ในสถิติหรือการเรียนรู้ด้วยเครื่อง (จากองค์ประกอบของหนังสือของการเรียนรู้ทางสถิติ ) ผู้คนใช้สัญลักษณ์ที่แตกต่างกันเพื่อแสดงสิ่งเดียวกัน:

ที่ไหน$X$เป็นเมทริกซ์ข้อมูล , $\beta$เป็นค่าสัมประสิทธิ์หรือน้ำหนักที่จะเรียนรู้การเรียนรู้ , $y$คือการตอบสนอง เหตุผลที่คนใช้นี้เป็นเพราะคนที่อยู่ในสถิติหรือชุมชนการเรียนรู้เครื่องข้อมูลการขับเคลื่อนเพื่อให้ข้อมูลและตอบสนองเป็นสิ่งที่น่าสนใจที่สุดสำหรับพวกเขาที่พวกเขาใช้$X$และ$y$ที่จะเป็นตัวแทน

ตอนนี้เราสามารถเห็นความสับสนที่เป็นไปได้ทั้งหมด: $A$ในสมการแรกเหมือนกับ$X$ในสมการที่สอง และในสมการที่สอง$X$ไม่จำเป็นต้องมีการแก้ไข สำหรับข้อกำหนด: $A$คือเมทริกซ์สัมประสิทธิ์ในพีชคณิตเชิงเส้น แต่เป็นข้อมูลในสถิติ $\beta$ถูกเรียกว่า "สัมประสิทธิ์"

นอกจากนี้ฉันพูดถึง$X \beta=y$ไม่ใช่สิ่งที่ผู้คนใช้กันอย่างแพร่หลายในการเรียนรู้ของเครื่องจักรคนใช้เวอร์ชันเวกเตอร์ครึ่งหนึ่งที่สรุปจุดข้อมูลทั้งหมด เช่น

ฉันคิดว่าเหตุผลนี้เป็นสิ่งที่ดีเมื่อพูดถึงการไล่ระดับสีแบบสุ่มและฟังก์ชันการสูญเสียอื่น ๆ นอกจากนี้สัญกรณ์เมทริกซ์ที่รัดกุมจะหายไปสำหรับปัญหาอื่นนอกเหนือจากการถดถอยเชิงเส้น

สัญลักษณ์เมทริกซ์สำหรับการถดถอยโลจิสติก

ใครสามารถให้ข้อสรุปเพิ่มเติมเกี่ยวกับสัญลักษณ์ข้ามวรรณกรรมที่แตกต่างกันได้หรือไม่ ฉันหวังว่าคำตอบที่ชาญฉลาดสำหรับคำถามนี้สามารถใช้เป็นข้อมูลอ้างอิงที่ดีสำหรับผู้ที่อ่านหนังสือข้ามวรรณกรรมที่แตกต่างกัน

โปรดอย่าถูก จำกัด โดยตัวอย่างของฉัน และ yมีอีกหลายคน เช่น$A x=b$$X \beta=y$

ทำไมถึงมีสูตร / การสูญเสียสองรูปแบบที่แตกต่างกัน?

บางทีคำถามที่เกี่ยวข้องคือ "คำที่ใช้ในภาษาต่าง ๆ คืออะไรและมีการเชื่อมโยงระหว่างคำเหล่านี้คืออะไร"

สัญกรณ์มีความหมายเหมือนกับภาษา:

• บางคำมีความหมายเฉพาะภูมิภาค บางคำมีความเข้าใจอย่างกว้างขวาง
• เช่นเดียวกับประเทศที่ทรงพลังเผยแพร่ภาษาของพวกเขาสาขาวิชาที่ประสบความสำเร็จและนักวิจัยผู้มีอิทธิพลกระจายความคิดเห็น
• ภาษาวิวัฒนาการเมื่อเวลาผ่านไป: ภาษามีการผสมผสานของประวัติศาสตร์ที่มาและอิทธิพลที่ทันสมัย

คำถามเฉพาะของคุณ ...

• ฉันไม่เห็นด้วยกับการโต้แย้งของคุณว่าทั้งสองติดตาม "สัญกรณ์ที่แตกต่างอย่างสิ้นเชิง" ทั้งและใช้ตัวอักษรพิมพ์ใหญ่เพื่อแสดงถึงการฝึกอบรม พวกเขาไม่ได้ว่าแตกต่างกัน$X\boldsymbol{\beta} = \boldsymbol{y}$$A\mathbf{x} = \mathbf{b}$
• การเรียนรู้ของเครื่องเกี่ยวข้องอย่างมากกับสถิติซึ่งเป็นสาขาที่ใหญ่และครบกำหนด การใช้เพื่อเป็นตัวแทนของ data matrix นั้นเป็นแนวทางที่อ่านได้ง่ายและเป็นมาตรฐานที่สุดที่จะติดตาม ในขณะที่เป็นมาตรฐานสำหรับการแก้ปัญหาระบบเชิงเส้นนั่นไม่ใช่วิธีที่คนทำสถิติเขียนสมการปกติ คุณจะพบว่าผู้ชมสับสนมากขึ้นหากพยายามทำเช่นนั้น เมื่ออยู่ในกรุงโรม ...$X$$A\mathbf{x} = \mathbf{b}$
• ในบางแง่มุมหัวใจของคำถามที่คุณแก้ไขคือ "อะไรคือต้นกำเนิดของสถิติในอดีตโดยใช้ตัวอักษรเพื่อแสดงข้อมูลและตัวอักษรเพื่อเป็นตัวแทนของตัวแปรที่ไม่รู้จักที่จะแก้ปัญหา?" $x$$\beta$
  • นี่เป็นคำถามสำหรับนักสถิติเชิงสถิติ! การค้นหาสั้น ๆ ฉันเห็นนักสถิติชาวอังกฤษผู้มีอิทธิพลและนักวิชาการเคมบริดจ์ Udny Yule ใช้เพื่อแสดงข้อมูลในบทนำของทฤษฎีสถิติ (1911) เขาเขียนสมการถดถอยเมื่อโดยมีวัตถุประสงค์กำลังสองน้อยที่สุดในการย่อขนาดและด้วยวิธีแก้ปัญหา2} อย่างน้อยก็กลับไปแล้ว ...$x$$x_1 = a + bx_2$$\sum\left( x_1 - a - bx_2\right)^2$$b_{12} = \frac{\sum x_1x_2}{\sum x_2^2}$
  • แม้จะมีอิทธิพลมากขึ้นชาวประมง RA ใช้สำหรับตัวแปรตามและสำหรับตัวแปรอิสระในหนังสือของเขา 1925 วิธีการทางสถิติสำหรับการวิจัยแรงงาน (นำหมวกไปที่ @Nick Cox เพื่อให้ลิงก์พร้อมข้อมูล)$y$$x$

สัญกรณ์ที่ดีเป็นเหมือนภาษาที่ดี หลีกเลี่ยงศัพท์แสงเฉพาะด้านเมื่อทำได้ เขียนภาษาอังกฤษของ BBC ที่เทียบเท่าคณิตศาสตร์ซึ่งเป็นภาษาที่ทุกคนสามารถพูดภาษาอังกฤษได้ ควรเขียนทุกครั้งที่เป็นไปได้โดยใช้สัญลักษณ์ที่ชัดเจนและเข้าใจได้ทั่วไป