เทนเซอร์ในวรรณกรรมเครือข่ายประสาท: คำจำกัดความที่ง่ายที่สุดคืออะไร?


16

ในวรรณคดีโครงข่ายประสาทเรามักจะพบคำว่า "เทนเซอร์"

มันแตกต่างจากเวกเตอร์หรือไม่? และจากเมทริกซ์? คุณมีตัวอย่างเฉพาะที่ทำให้คำจำกัดความชัดเจนหรือไม่?

ฉันสับสนเล็กน้อยเกี่ยวกับคำจำกัดความของมัน Wikipedia ไม่ได้ช่วยอะไรและบางครั้งฉันก็รู้สึกว่าคำจำกัดความของมันขึ้นอยู่กับสภาพแวดล้อมการเรียนรู้ของเครื่องเฉพาะที่ใช้ (TensorFlow, Caffee, Theano)


1
+1 ที่เกี่ยวข้องมาก: stats.stackexchange.com/a/198395/28666
อะมีบาพูดว่า Reinstate Monica

คำตอบ:


12

สำหรับวัตถุประสงค์ของการวิเคราะห์ข้อมูลคุณสามารถพิจารณาได้อย่างมีประสิทธิภาพว่าเป็นอาร์เรย์อาจเป็นหลายมิติ ดังนั้นพวกมันจึงรวมสเกลาร์เวกเตอร์เมทริกซ์และอาร์เรย์ลำดับที่สูงขึ้นทั้งหมด

คำจำกัดความทางคณิตศาสตร์ที่แม่นยำนั้นซับซ้อนกว่า โดยพื้นฐานแล้วแนวคิดคือเทนเซอร์เปลี่ยนฟังก์ชันหลายเส้นเป็นฟังก์ชันเชิงเส้น ดู(1)หรือ(2) (ฟังก์ชั่น Multilinear เป็นฟังก์ชั่นที่เป็นเส้นตรงในแต่ละองค์ประกอบตัวอย่างเป็นปัจจัยที่ถือว่าเป็นฟังก์ชันของเวกเตอร์คอลัมน์)

ผลที่ตามมาของคุณสมบัติทางคณิตศาสตร์ที่กำหนดเทนเซอร์คือเทนเซอร์เปลี่ยนรูปได้อย่างดีเมื่อเทียบกับ Jacobians ซึ่งเข้ารหัสการแปลงจากระบบพิกัดหนึ่งไปอีกระบบหนึ่ง นี่คือเหตุผลที่เรามักจะเห็นคำจำกัดความของเทนเซอร์ว่า "วัตถุที่แปลงในวิธีการบางอย่างภายใต้การเปลี่ยนแปลงของพิกัด" ในฟิสิกส์ ดูวิดีโอนี้เช่นหรืออย่างใดอย่างหนึ่ง

หากเรากำลังจัดการกับวัตถุที่ "ดี" อย่างพอเพียง (อนุพันธ์ทั้งหมดที่เราต้องการมีอยู่และกำหนดไว้อย่างดี) จากนั้นวิธีการคิดเกี่ยวกับเทนเซอร์เหล่านี้จะเทียบเท่ากัน โปรดทราบว่าวิธีแรกในการนึกถึงเทนเซอร์ที่ฉันพูดถึง (อาร์เรย์หลายมิติ) จะไม่สนใจความแตกต่างระหว่างโควาแรนต์กับเทนเซอร์ (ความแตกต่างขึ้นอยู่กับการเปลี่ยนแปลงของสัมประสิทธิ์ภายใต้การเปลี่ยนแปลงพื้นฐานของปริภูมิเวกเตอร์พื้นฐานคือระหว่างเวกเตอร์แถวและคอลัมน์เป็นหลัก) ดูคำถาม StackExchange อื่น ๆ เหล่านี้: (1) (2) (3) (4)

สำหรับหนังสือที่ใช้โดยนักวิจัยศึกษาการประยุกต์ใช้เทนเซอร์ไปยังเครือข่ายประสาท (เช่นที่ Technion ในอิสราเอล) มีโวล์ฟกังแฮคบุส ช ของSpaces Tensor และตัวเลขแคลคูลัส ฉันยังไม่ได้อ่านด้วยตัวเองแม้ว่าบางบทในภายหลังดูเหมือนจะใช้คณิตศาสตร์ขั้นสูง


3
+1 ที่เกี่ยวข้องมาก: stats.stackexchange.com/a/198395/28666 สำหรับผมแล้วดูเหมือนว่าในการเรียนรู้ของเครื่องเทนเซอร์นั้นเป็นเพียงอาร์เรย์และไม่มีอะไรเพิ่มเติม ในคณิตศาสตร์เทนเซอร์มีความเข้าใจแตกต่างกัน และมักจะใช้คำว่า "เทนเซอร์" อย่างแคบกว่า "องค์ประกอบของผลิตภัณฑ์เทนเซอร์" ดูคำตอบที่เชื่อมโยง
อะมีบาพูดว่า Reinstate Monica
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.