สำหรับโมเดลการเรียนรู้ทางสถิติและเครื่องมีหลายระดับของการตีความได้: 1) อัลกอริทึมโดยรวม, 2) ส่วนของอัลกอริทึมโดยทั่วไป 3) อัลกอริทึมส่วนต่างๆของอัลกอริทึมโดยเฉพาะอินพุตและสามระดับแบ่งออกเป็นสองส่วน หนึ่งสำหรับการฝึกอบรมและหนึ่งสำหรับฟังก์ชั่น eval สองส่วนสุดท้ายอยู่ใกล้กว่าชิ้นแรกมาก ฉันถามเกี่ยวกับ # 2 ซึ่งมักจะนำไปสู่ความเข้าใจที่ดีขึ้นของ # 3) (หากสิ่งเหล่านั้นไม่ใช่สิ่งที่ 'ตีความได้' หมายถึงอะไรฉันควรจะคิดอย่างไร)
เท่าที่การตีความไปได้การถดถอยโลจิสติกส์เป็นหนึ่งในวิธีที่ง่ายที่สุดในการตีความ เหตุใดอินสแตนซ์นี้จึงผ่านเกณฑ์ เนื่องจากอินสแตนซ์ดังกล่าวมีคุณสมบัติเชิงบวกนี้โดยเฉพาะและมีค่าสัมประสิทธิ์สูงกว่าในโมเดล มันชัดเจนมาก!
โครงข่ายประสาทเทียมเป็นตัวอย่างคลาสสิกของแบบจำลองที่ตีความได้ยาก สัมประสิทธิ์ทั้งหมดนั้นหมายความว่าอะไร? พวกเขาทั้งหมดรวมกันในวิธีที่ซับซ้อนอย่างบ้าคลั่งซึ่งเป็นการยากที่จะพูดในสิ่งที่สัมประสิทธิ์พิเศษกำลังทำอยู่
แต่เมื่อมีโครงข่ายประสาทที่หยั่งรากลึกออกมามันรู้สึกว่าสิ่งต่าง ๆ กำลังชัดเจนขึ้น แบบจำลอง DL (สำหรับการมองเห็น) ดูเหมือนว่าจะจับภาพสิ่งต่าง ๆ เช่นขอบหรือการวางแนวในชั้นแรก ๆ และในชั้นต่อมาดูเหมือนว่าบางโหนดมีความหมายจริง (เช่นเซลล์ยาย 'สุภาษิต' ) ตัวอย่างเช่น:
( จาก 'การเรียนรู้เกี่ยวกับการเรียนรู้ลึก' )
นี่เป็นภาพกราฟิก ( ของหลาย ๆ ภาพ ) ที่สร้างขึ้นด้วยมือเพื่อการนำเสนอดังนั้นฉันจึงสงสัยมาก แต่มันก็เป็นหลักฐานว่ามีคนคิดว่ามันเป็นวิธีการทำงาน
บางทีในอดีตที่ผ่านมาเรามีเลเยอร์ไม่เพียงพอที่จะค้นหาคุณลักษณะที่เป็นที่รู้จัก แบบจำลองนั้นประสบความสำเร็จไม่ใช่เรื่องง่ายที่จะวิเคราะห์แบบเฉพาะหลัง
แต่บางทีกราฟิกอาจเป็นแค่ความคิดที่ปรารถนา บางทีเอ็นเอ็นอาจไม่น่าเชื่อถืออย่างแท้จริง
แต่กราฟิกจำนวนมากที่มีโหนดที่มีป้ายกำกับด้วยรูปภาพก็น่าสนใจเช่นกัน
โหนด DL สอดคล้องกับคุณสมบัติจริง ๆ หรือไม่
