จำนวนเลเยอร์ขั้นต่ำในเครือข่ายประสาทลึก

เราจะเริ่มจำแนกประเภทเครือข่ายประสาทหลายชั้นเป็นเครือข่ายประสาทลึกหรือในอีกทางหนึ่ง 'จำนวนชั้นต่ำสุดในเครือข่ายประสาทลึกคืออะไร'

"Deep" เป็นศัพท์ทางการตลาด: คุณสามารถใช้งานได้ทุกเมื่อที่คุณต้องการทำการตลาดเครือข่ายประสาทหลายชั้น

"Deep"
หนึ่งในเครือข่ายประสาทที่ลึกที่สุดที่เก่าแก่ที่สุดมีสามเลเยอร์ที่เชื่อมต่อกันอย่างหนาแน่น ( Hinton et al. (2006) )

"Very Deep"
ในปี 2014 เน็ตเวิร์ก VGG ที่ "ลึกมาก" Simonyan และคณะ (2014)ประกอบด้วยเลเยอร์ที่ซ่อนอยู่ 16+ ชั้น

"Extremely Deep"
ในปี 2559 เครือข่ายที่เหลือ "ล้ำลึก" เขาและคณะ (2016)ประกอบด้วยเลเยอร์ที่ซ่อนอยู่ 50 ชั้นขึ้นไป 1,000+ ชั้น

ตามวรรณกรรม

Schmidhuber, J. (2015) "การเรียนรู้อย่างลึกซึ้งในโครงข่ายประสาท: ภาพรวม" โครงข่ายประสาทเทียม 61: 85–117 arXiv: 1404.7828 อ่านฟรี ดอย: 10.1016 / j.neunet.2014.09.003

https://en.wikipedia.org/wiki/Deep_learning

ว่ากันว่า

ไม่มีการตกลงกันอย่างกว้างขวางเกี่ยวกับเกณฑ์การแบ่งระดับความลึกแบบตื้นจากการเรียนรู้ลึก แต่นักวิจัยส่วนใหญ่เห็นด้วยว่าการเรียนรู้ลึกมีหลายชั้นไม่เป็นเชิงเส้น (CAP> 2) และ Schmidhuber พิจารณา CAP> 10 เป็นการเรียนรู้ที่ลึกมาก

ห่วงโซ่การแปลงจากอินพุตไปยังเอาต์พุตคือพา ธ การกำหนดเครดิตหรือ CAP สำหรับเครือข่ายนิวรัลไปข้างหน้าความลึกของ CAP และความลึกของเครือข่ายคือจำนวนของเลเยอร์ที่ซ่อนอยู่บวกหนึ่ง