ในการเรียนรู้ของเครื่องทำไมตัวยกส่วนเกินจึงใช้แทนตัวห้อย?

ฉันสละแน่นอนแอนดรูอึ้งบนเครื่องการเรียนรู้ผ่าน Coursera สำหรับสมการตัวยกจะถูกใช้แทนตัวห้อย ตัวอย่างเช่นในสมการต่อไปนี้ใช้แทน : $x^{(i)}$ $x_i$

$J(\theta_0, \theta_1) = \frac{1}{2m} \sum\limits_{i=1}^{m}{(h_\theta(x^{(i)}) - y^{(i)})^2}$

เห็นได้ชัดว่านี่เป็นเรื่องธรรมดา คำถามของฉันคือเหตุใดจึงใช้ตัวยกแทนตัวห้อย? Superscripts ถูกใช้แล้วสำหรับการยกกำลัง จริงอยู่ที่ฉันดูเหมือนจะสามารถแยกแยะความแตกต่างระหว่างกรณียกและยกกำลังใช้กรณีโดยให้ความสนใจกับวงเล็บอยู่หรือไม่ แต่มันก็ดูเหมือนจะทำให้เกิดความสับสน

machine-learning notation

— entpnerd
แหล่งที่มา

ฉันสงสัยว่าอาจเป็นเพราะคนวิทยาการคอมพิวเตอร์บางคนไม่มีประสบการณ์ในการคำนวณทางคณิตศาสตร์มาตรฐานและดังนั้นจึงต้องใช้สัญลักษณ์ของตนเอง นักคณิตศาสตร์ทำเช่นนี้บางครั้งเกินไปและมันน่าผิดหวังเมื่อคุณได้แนวคิดที่ซับซ้อนมากขึ้น

— rocinante

การiจัดทำดัชนีอยู่เหนือขนาดชุดข้อมูลหรือมากกว่าองค์ประกอบของเวกเตอร์xหรือไม่ หากอดีตนั่นคือมาตรฐานโดยสิ้นเชิง หากหลังนั่นคือทั้งหมดที่ไม่ได้มาตรฐาน และสาเหตุที่ใช้ตัวยกเป็นเพราะบางครั้งคุณต้องการอ้างถึงองค์ประกอบของเวกเตอร์โดยใช้ตัวห้อย

— เร็กซ์เคอร์

@rocinante lol no เป็นเพราะตัวห้อยถูกใช้เพื่อทำดัชนีเวกเตอร์แล้ว

— Neil G

@rocinante นั่นค่อนข้างเกรงใจ แล้วเวกเตอร์ที่แยกจากกัน / สัญกรณ์ Einstein เป็นอย่างไร?

— Will Vousden

@rocinante ฉันต้องสะท้อนผู้อื่นโดยขีดเส้นใต้ว่าการใช้ถ้อยคำของคุณนั้นโชคร้าย เราทุกคนมีแนวโน้มที่จะพิจารณาสิ่งที่เป็นท้องถิ่นและคุ้นเคยเป็นมาตรฐาน

— Nick Cox

คำตอบ:

ถ้าหมายถึงเวกเตอร์ดังนั้นเป็นเครื่องหมายมาตรฐานสำหรับพิกัด -th ของคือ $x$ $x \in \mathbb R^m$ $x_i$ $i$ $x$

x = (x_{1}, x_{2}, \dots, x_{m}) \in R^{m} .

$x = (x_1, x_2, \ldots, x_m)\in\mathbb R^m.$

หากคุณมีคอลเลกชันของเวกเตอร์ดังกล่าวคุณจะแสดงถึงเวกเตอร์ th ได้อย่างไร? คุณไม่สามารถเขียนนี่มีความหมายมาตรฐานอื่น ๆ ดังนั้นบางครั้งผู้คนเขียนและฉันเชื่อว่าทำไมแอนดรูว์ถึงทำ $n$ $i$ $x_i$ $x^{(i)}$

กล่าวคือ

x^{(1)} = (x_{1}^{(1)}, x_{2}^{(1)}, \dots, x_{m}^{(1)}) \in R^{m} x^{(2)} = (x_{1}^{(2)}, x_{2}^{(2)}, \dots, x_{m}^{(2)}) \in R^{m} \dots x^{(n)} = (x_{1}^{(n)}, x_{2}^{(n)}, \dots, x_{m}^{(n)}) \in R^{m} .

$\begin{equation} x^{(1)} = (x_1^{(1)}, x_2^{(1)}, \ldots, x_m^{(1)}) \in \mathbb R^m\\ x^{(2)} = (x_1^{(2)}, x_2^{(2)}, \ldots, x_m^{(2)}) \in \mathbb R^m\\ \ldots \\ x^{(n)} = (x_1^{(n)}, x_2^{(n)}, \ldots, x_m^{(n)}) \in \mathbb R^m.\\ \end{equation}$

— อะมีบาพูดว่า Reinstate Monica
แหล่งที่มา

ฉันไม่เห็นด้วย แต่มักใช้เช่นการวัดซ้ำ

x_{i j}

$x_{ij}$

— Cliff AB

ใช่ แต่เทียบเท่ากับ ; สิ่งที่จะเทียบเท่าของ ?

x_{i j}

$x_{ij}$

x_{j}^{(i)}

$x^{(i)}_j$

x^{(i)}

$x^{(i)}$

— อะมีบาพูดว่า Reinstate Monica

ใช่นั่นเป็นข้อได้เปรียบ ผมคิดว่าจะใช้ในบางครั้ง แต่นี้อาจจะสับสนกับ m

x_{i .}

$x_{i.}$

\sum_{j = 1}^{n} x_{i j} / m

$\sum_{j= 1}^n x_{ij}/m$

— หน้าผา AB

หากคุณต้องการทำซ้ำมากกว่าเมทริกซ์ดังนั้น

ดูเหมือนจะเป็นวิธีที่ใช้งานง่ายที่สุด ดังนั้นสัญกรณ์จะคงที่เมื่อเปลี่ยนจากเวกเตอร์เป็นเมทริกซ์

x_{m n}^{(i)}

$x_{mn}^{(i)}$

— josh

@JAB ใช่มันเป็นการทำให้สัญกรณ์ชัดเจนยิ่งขึ้น ("การบอกกล่าวชนิด" ตามที่คุณพูด) แน่นอนหนึ่งสามารถตกลงใช้

สำหรับเวกเตอร์

th และ

สำหรับองค์ประกอบ

-th ของ

-th เวกเตอร์ มีการประชุมต่าง ๆ ที่เป็นไปได้นี่เป็นเพียงหนึ่งในนั้น ฉันไม่ได้บอกว่ามันเป็นสิ่งที่ดีที่สุดเพียงแค่อธิบายเหตุผลที่อยู่เบื้องหลัง

x_{i}

$x_i$

i

$i$

x_{i j}

$x_{ij}$

j

$j$

i

$i$

— อะมีบาพูดว่า Reinstate Monica

การใช้สคริปต์สุดยอดตามที่คุณพูดฉันเชื่อว่ามันไม่ธรรมดาในวรรณกรรมการเรียนรู้ของเครื่อง ฉันต้องทบทวนบันทึกหลักสูตรของอึ้งเพื่อยืนยัน แต่ถ้าเขาใช้สิ่งนั้นที่นั่นฉันจะบอกว่าเขาจะเป็นจุดเริ่มต้นของการเพิ่มจำนวนของสัญกรณ์นี้ นี่คือความเป็นไปได้ ไม่ว่าจะด้วยวิธีใดก็ตาม แต่ฉันไม่คิดว่านักเรียนหลักสูตรออนไลน์จำนวนมากกำลังตีพิมพ์วรรณกรรมเกี่ยวกับการเรียนรู้ของเครื่องดังนั้นสัญกรณ์นี้จึงไม่ค่อยเป็นที่นิยมในวรรณคดีจริง หลังจากทั้งหมดนี้เป็นหลักสูตรเบื้องต้นในการเรียนรู้ของเครื่องไม่ใช่หลักสูตรระดับปริญญาเอก

สิ่งที่พบได้บ่อยกับสคริปต์ซุปเปอร์คือแสดงการวนซ้ำของอัลกอริทึมโดยใช้สคริปต์ซุปเปอร์ ตัวอย่างเช่นคุณสามารถเขียนการวนซ้ำของวิธีของนิวตันเป็น

$\theta^{(t+1)} = \theta^{(t)} - H(\theta^{(t)}) ^{-1} \nabla \theta^{(t)}$

ที่เป็นรัฐและคือการไล่ระดับสี $H(\theta^{(t)})$ $\nabla \theta^{(t)}$

(... ใช่นี่ไม่ใช่วิธีที่ดีที่สุดในการใช้วิธีการของนิวตันเนื่องจากการผกผันของเมทริกซ์ของ Hessian ... )

ที่นี่แทนค่าของในการทำซ้ำนี่คือการใช้สคริปต์สุดยอด (แต่ไม่แน่นอนเท่านั้น) ที่ฉันรู้ $\theta^{(t)}$ $\theta$ $t^{th}$

แก้ไข: เพื่อชี้แจงในคำถามเดิมดูเหมือนว่าจะแนะนำว่าในสัญกรณ์ ML,เทียบเท่ากับสัญกรณ์ของสถิติ ในคำตอบของฉันฉันระบุว่านี่ไม่ได้แพร่หลายอย่างแท้จริงในวรรณกรรม ML นี่เป็นเรื่องจริง อย่างไรก็ตามในขณะที่ออกโดยชี้ @amoeba มีความอุดมสมบูรณ์ของสัญกรณ์ยกใน ML วรรณกรรมสำหรับข้อมูล แต่ในกรณีเหล่านี้ไม่ได้มักจะหมายถึงสังเกตของเวกเตอร์เดียวx $x^{(i)}$ $x_i$ $x^{(i)}$ $i^{th}$ $x$

— Cliff AB
แหล่งที่มา

การปะทะกันกับการใช้ตัวยกเครื่องหมายวงเล็บ / วงเล็บเหลี่ยมสำหรับการนับซ้ำ (สัญกรณ์ที่ใช้กันทั่วไปในหลากหลายพื้นที่) เป็นสิ่งสำคัญที่จะยกระดับ

— Glen_b

นอกจากนี้ยังใช้เพื่อระบุดัชนีของตัวอย่างในชุดการฝึกอบรมซึ่งคล้ายกับการวนซ้ำ แต่ไม่เหมือนกันเพราะคุณมักจะวนซ้ำการฝึกซ้ำหลายครั้ง

— Rex Kerr

ฉันเคยเห็นจำนวนการวนซ้ำที่ระบุไว้โดยใช้ตัวห้อย (

) รวมทั้งในบรรทัด (

) ซึ่งเป็นเหตุผลว่าทำไมเมื่อใช้สัญกรณ์เฉพาะฉันมักจะใส่บางสิ่งบางอย่างในช่วงเริ่มต้นที่จะทำให้เข้าใจผิด ดังนั้นสิ่งที่มีการใช้สัญกรณ์ผู้อ่านสามารถ (หวังว่า) ความหมายที่เหมาะสมสำหรับกรณีที่อาจคลุมเครือแทนที่จะคาดเดาตามอนุสัญญาที่พวกเขารู้

a_{n + 1} = a_{n} + 1

$a_{n+1} = a_n + 1$

a (n + 1) = a (n) + 1

$a(n+1) = a(n) + 1$

— JAB

ฉันเห็นด้วยกับ @JAB โดยทั่วไปแล้วฉันไม่คิดว่ามันจะเป็นเรื่องเลวร้ายสำหรับคนที่จะเขียนและใช้รหัสเพื่อขอยืมสัญกรณ์จากซอฟต์แวร์ในการรักษาทางคณิตศาสตร์ ตัวอย่างเช่นและเป็นที่ถกเถียงกันผู้คนใช้คอมพิวเตอร์เป็นกลุ่มทางคณิตศาสตร์ในการใช้สัญลักษณ์ที่สะอาดเช่น

เพื่อประเมินว่า 1 ถ้าเป็นจริงและ 0 ถ้าเป็นเท็จแทนที่จะเป็นพิธีการที่ไม่จำเป็นเช่น

; ที่นี่ฉันเพียงแค่ติดตามหลัง Donald Knuth

(x > 0)

$(x > 0)$

I (x > 0)

$I(x > 0)$

— Nick Cox

@ NickCox โดยทั่วไปฉันเห็นเฉพาะรูปแบบ

เมื่อเป็นไปได้เท่านั้น มิฉะนั้น

เป็นเพียงข้อ จำกัด ที่ไม่เท่าเทียมกัน เมื่อพูดถึงสมการทางคณิตศาสตร์พวกมันแบ่งออกเป็นชิ้น ๆ แทนหรือพวกเขาเพียงแค่แทนสมการตัวเองว่าเป็นความไม่เท่าเทียมกันเช่นการทำอย่างอื่นจะทำให้เกิดความกำกวม (คล้ายกับวิธี

ในคณิตศาสตร์มีความละเอียดอ่อนกว่าหรือในภาษาโปรแกรมส่วนใหญ่แนะนำข้อ จำกัด หรือคำจำกัดความมากกว่าการมอบหมายจริงหรือการตรวจสอบความเท่าเทียมกัน)

I (x > 0)

$I(x > 0)$

x > 0

$x > 0$

=

$=$ ===

— JAB

Superscripts ถูกใช้สำหรับการยกกำลังแล้ว

ในตัวยกคณิตศาสตร์จะใช้ซ้ายและขวาขึ้นอยู่กับฟิลด์ ทางเลือกเป็นมรดกทางประวัติศาสตร์เสมอไม่มีอะไรเพิ่มเติม ใครก็ตามที่ได้เข้ามาในสนามเป็นครั้งแรกให้กำหนดวิธีการใช้ย่อยหรือตัวยก

ตัวอย่างสองตัวอย่าง Superscripts ถูกใช้เพื่อแสดงถึงอนุพันธ์: $f(x)^{(n)}$

ในพีชคณิตเมตริกซ์ทั้ง super และตัวห้อยถูกใช้อย่างมากสำหรับสิ่งเดียวกันเช่นอาจหมายถึงแถวและคอลัมน์มันค่อนข้างชัดเจน: $R^i_i$ $i$ $j$ $T_i^k=R_i^jC_j^k$

นอกจากนี้ผมจำได้ว่าก่อนที่จะใช้สคริปต์ตัวอักษร (prescripts) ในสาขาฟิสิกส์เช่น kฉันคิดว่ามันเป็นกับเมตริกซ์ $^i_jB_k^l$

ดังนั้นการเลือกตัวยกของอึ้งก็มีคุณค่าทางประวัติศาสตร์ด้วยเช่นกัน ไม่มีเหตุผลที่แท้จริงในการใช้หรือไม่ใช้หรือต้องการให้ห้อย ที่จริงแล้วฉันเชื่อว่าที่นี่คน ML กำลังใช้สัญลักษณ์เทนเซอร์ แน่นอนพวกเขามีความเชี่ยวชาญในเรื่องเช่นเห็นนี้กระดาษ

— Aksakal
แหล่งที่มา

อีกตัวอย่างสำหรับประเด็นของคุณ: สัญกรณ์ Einstein

— Neil G