พื้นหลัง Intro

ภายในเครือข่ายประสาทเทียมเรามักจะมีโครงสร้าง / การไหลทั่วไปที่มีลักษณะดังนี้:

1. ภาพอินพุต (เช่นเวกเตอร์ 2D x)

(เลเยอร์ Convolutional ที่ 1 (Conv1) เริ่มที่นี่ ... )

2. ตั้งค่าฟิลเตอร์ ( w1) ตามภาพ 2D (เช่นการz1 = w1*x + b1คูณผลิตภัณฑ์ดอท) ที่z13D และb1เป็นอคติ
3. ใช้ฟังก์ชั่นการเปิดใช้งาน (เช่น ReLu) เพื่อสร้างแบบz1ไม่เป็นเชิงเส้น (เช่นa1 = ReLu(z1)) โดยที่a1เป็น 3D

(เลเยอร์ Convolutional ที่สอง (Conv2) เริ่มที่นี่ ... )

4. โน้มน้าวชุดของตัวกรองตามการเปิดใช้งานที่คำนวณใหม่ (เช่นการz2 = w2*a1 + b2คูณผลิตภัณฑ์ดอท) ซึ่งz2เป็น 3D และb2เป็นอคติ
5. ใช้ฟังก์ชั่นการเปิดใช้งาน (เช่น ReLu) เพื่อสร้างแบบz2ไม่เป็นเชิงเส้น (เช่นa2 = ReLu(z2)) โดยที่a2เป็น 3D

 คำถาม

คำจำกัดความของคำว่า "แผนที่คุณลักษณะ" ดูเหมือนจะแตกต่างกันไปจากวรรณกรรมถึงวรรณกรรม รูปธรรม

• สำหรับเลเยอร์ convolutional ที่ 1 "ฟีเจอร์แมป" สอดคล้องกับเวกเตอร์อินพุทxหรือเอาท์พุทผลิตภัณฑ์จุดz1หรือการเปิดใช้งานเอาต์พุตa1หรือ "กระบวนการ" ที่แปลงxเป็นa1หรืออย่างอื่นหรือไม่?
• ในทำนองเดียวกันสำหรับชั้นที่ 2 ความสับสนไม่คุณลักษณะ "แผนที่" สอดคล้องกับการเปิดใช้งานการป้อนข้อมูลa1หรือผลิตภัณฑ์จุดการส่งออกz2หรือการเปิดใช้งานการส่งออกa2หรือ "ขั้นตอน" การแปลงa1ไปa2หรือสิ่งอื่นใด

นอกจากนี้จริงหรือไม่ที่คำว่า "แผนที่คุณลักษณะ" นั้นเหมือนกับ "แผนที่เปิดใช้งาน" หรือไม่ (หรือพวกเขาหมายถึงสองสิ่งที่แตกต่างจริง ๆ ?)

 การอ้างอิงเพิ่มเติม:

ตัวอย่างจากเครือข่ายประสาทและการเรียนรู้ลึก - บทที่ 6 :

* ระบบการตั้งชื่อจะถูกนำมาใช้อย่างอิสระที่นี่ โดยเฉพาะอย่างยิ่งฉันใช้ "คุณสมบัติแผนที่" เพื่อหมายถึงไม่ใช่ฟังก์ชั่นที่คำนวณโดยเลเยอร์ Convolutional แต่เป็นการเปิดใช้งานการส่งออกเซลล์ประสาทที่ซ่อนอยู่จากเลเยอร์ การใช้ศัพท์เฉพาะทางแบบเบา ๆ นี้เป็นเรื่องธรรมดาในงานวิจัย

ตัวอย่างจากการแสดงผลและทำความเข้าใจกับเครือข่าย Convolutional โดย Matt Zeiler :

ในบทความนี้เราแนะนำเทคนิคการสร้างภาพข้อมูลที่เผยให้เห็นสิ่งกระตุ้นการป้อนข้อมูลที่กระตุ้นให้เกิดการแมปคุณสมบัติส่วนบุคคลในทุกชั้นในโมเดล [... ] วิธีการของเราในทางตรงกันข้ามให้มุมมองที่ไม่ใช่พารามิเตอร์ของค่าคงที่แสดงให้เห็นว่ารูปแบบใดจากชุดการฝึกอบรมที่เปิดใช้งานแผนที่คุณลักษณะ [... ] การดำเนินการความคมชัดในท้องถิ่นที่ทำให้การตอบสนองทั่วทั้งแผนที่คุณลักษณะเป็นปกติ [... ] เพื่อตรวจสอบการเปิดใช้งาน Convnet ที่กำหนดเราตั้งค่าการเปิดใช้งานอื่น ๆ ทั้งหมดในเลเยอร์ให้เป็นศูนย์และส่งผ่านการแมปคุณสมบัติเป็นอินพุตไปยังเลเยอร์ deconvnet ที่แนบมา [... ] Convnet ใช้ relu non-linearities ซึ่งแก้ไขแมปของฟีเจอร์ดังนั้นทำให้มั่นใจได้ว่าฟีเจอร์แมปจะเป็นบวกเสมอ [... ] Convnet ใช้ตัวกรองที่เรียนรู้เพื่อโน้มน้าวแผนที่คุณลักษณะจากเลเยอร์ก่อนหน้า [... ] รูปที่ 6 การสร้างภาพข้อมูลเหล่านี้เป็นการนำเสนอรูปแบบการป้อนข้อมูลที่ถูกต้องซึ่งช่วยกระตุ้นแผนที่คุณลักษณะที่กำหนดในโมเดล [... ] เมื่อส่วนต่าง ๆ ของภาพอินพุตต้นฉบับที่สอดคล้องกับรูปแบบนั้นถูกบดบังเราจะเห็นการลดลงของกิจกรรมภายในแผนที่คุณลักษณะ [ ... ]

ข้อสังเกต: ยังแนะนำคำว่า "ฟีเจอร์แมป" และ "แก้ไขฟีเจอร์แมป" ในรูปที่ 1

ตัวอย่างจากStanford CS231n ตอนที่ CNN :

[... ] อันตรายที่อันตรายอย่างหนึ่งที่สามารถสังเกตเห็นได้อย่างง่ายดายด้วยการสร้างภาพข้อมูลนี้คือแผนที่กระตุ้นบางอย่างอาจเป็นศูนย์สำหรับอินพุตที่แตกต่างกันจำนวนมากซึ่งสามารถระบุตัวกรองที่ตายแล้วและอาจเป็นอาการของอัตราการเรียนรู้สูง [... ] การเปิดใช้งานที่ดูตามปกติในชั้น CONV แรก (ซ้าย) และชั้น CONV ลำดับที่ 5 (ขวา) ของ AlexNet ที่ได้รับการฝึกอบรมมองที่รูปแมว ทุกช่องแสดงแผนที่การเปิดใช้งานที่สอดคล้องกับตัวกรองบางส่วน โปรดสังเกตว่าการเปิดใช้งานเบาบาง (ค่าส่วนใหญ่เป็นศูนย์ในการแสดงภาพประกอบเพลงนี้แสดงเป็นสีดำ) และส่วนใหญ่อยู่ในพื้นที่

ตัวอย่างจากA-Beginner's-Guide-To-Understanding-Convolutional-Neural-Networks

[... ] ทุกสถานที่ที่ไม่ซ้ำกันในปริมาณการป้อนข้อมูลผลิตตัวเลข หลังจากเลื่อนตัวกรองไปทั่วทุกสถานที่คุณจะพบว่าสิ่งที่คุณเหลืออยู่คือตัวเลข 28 x 28 x 1 ซึ่งเราเรียกว่าแผนที่เปิดใช้งานหรือแผนที่คุณลักษณะ

แผนที่คุณลักษณะหรือแผนที่เปิดใช้งานคือการเปิดใช้งานเอาต์พุตสำหรับตัวกรองที่กำหนด (a1 ในกรณีของคุณ) และคำจำกัดความเหมือนกันไม่ว่าคุณจะอยู่ในชั้นใด

แผนที่คุณลักษณะและแผนที่เปิดใช้งานมีความหมายเหมือนกันทุกประการ มันถูกเรียกว่าแผนที่เปิดใช้งานเพราะมันเป็นแผนที่ที่สอดคล้องกับการเปิดใช้งานของส่วนต่าง ๆ ของภาพและยังเป็นแผนที่คุณสมบัติเพราะมันเป็นแผนที่ที่มีคุณสมบัติบางอย่างที่พบในภาพ การเปิดใช้งานสูงหมายถึงพบคุณลักษณะบางอย่าง

"แมปคุณสมบัติการแก้ไข" เป็นเพียงแผนที่คุณลักษณะที่สร้างขึ้นโดยใช้ Relu คุณอาจเห็นคำว่า "ฟีเจอร์แมป" ที่ใช้สำหรับผลลัพธ์ของผลิตภัณฑ์ดอท (z1) เพราะนี่เป็นแผนที่ที่มีฟีเจอร์บางอย่างอยู่ในรูปภาพด้วย แต่มันไม่ธรรมดาที่จะเห็น

ก่อนที่จะพูดถึงความหมายของแผนที่คุณลักษณะให้เพียงกำหนดคำของคุณลักษณะของเวกเตอร์

คุณลักษณะของเวกเตอร์คือการแสดงเวกเตอร์ของวัตถุ ตัวอย่างเช่นรถยนต์สามารถแสดงได้ด้วย [จำนวนล้อประตู windows, อายุ .. ฯลฯ ]

Feature map เป็นฟังก์ชั่นที่ใช้เวกเตอร์ฟีเจอร์ในพื้นที่หนึ่งและแปลงเป็นฟีเจอร์เวกเตอร์ในอีกอันหนึ่ง ตัวอย่างเช่นการกำหนดคุณสมบัติของเวกเตอร์ [ปริมาณ, น้ำหนัก, ความสูง, ความกว้าง] สามารถส่งคืน [1, ปริมาตร / น้ำหนัก, ความสูง * ความกว้าง] หรือ [ความสูง * ความกว้าง] หรือแม้แต่ [ปริมาณ]