มันสมเหตุสมผลไหมที่จะฝึกให้ CNN เป็น autoencoder?


9

ฉันทำงานกับการวิเคราะห์ข้อมูล EEG ซึ่งในที่สุดจะต้องจัดประเภท อย่างไรก็ตามการได้รับป้ายกำกับสำหรับการบันทึกค่อนข้างแพงซึ่งทำให้ฉันต้องพิจารณาแนวทางที่ไม่ได้รับการดูแลเพื่อใช้ประโยชน์จากข้อมูลที่ไม่มีป้ายกำกับจำนวนมากของเรา

สิ่งนี้นำไปสู่การพิจารณาตัวเข้ารหัสอัตโนมัติแบบเรียงซ้อนซึ่งอาจเป็นความคิดที่ดี อย่างไรก็ตามมันก็สมเหตุสมผลที่จะใช้โครงข่ายประสาทเทียมเนื่องจากการกรองบางประเภทนั้นเป็นวิธีที่มีประโยชน์มากต่อ EEG และมีแนวโน้มว่ายุคที่ควรพิจารณาจะวิเคราะห์เฉพาะที่และไม่ใช่ทั้งหมด

มีวิธีที่ดีในการรวมสองวิธีนี้หรือไม่? ดูเหมือนว่าเมื่อผู้คนใช้ CNN พวกเขามักใช้การฝึกอบรมภายใต้การดูแลหรืออะไร ประโยชน์หลักสองประการของการสำรวจเครือข่ายประสาทเทียมสำหรับปัญหาของฉันดูเหมือนจะเป็นแง่มุมที่ไม่ได้รับการดูแลและการปรับแต่งอย่างละเอียด (มันน่าสนใจที่จะสร้างเครือข่ายข้อมูลประชากรแล้วปรับแต่งสำหรับแต่ละบุคคล)

มีใครรู้บ้างไหมว่าฉันสามารถสั่งให้ CNN เป็นเหมือนตัวแปลงสัญญาณอัตโนมัติที่ "พิการ" หรือว่าจะไม่มีประโยชน์หรือไม่?

ฉันควรจะพิจารณาสถาปัตยกรรมอื่น ๆ เช่นเครือข่ายความเชื่อที่ลึกซึ้งหรือไม่?

คำตอบ:


8

ใช่มันสมเหตุสมผลแล้วที่จะใช้ CNNs กับ autoencoders หรือวิธีอื่น ๆ ที่ไม่ได้รับการดูแล อันที่จริงวิธีต่างๆในการรวม CNNs เข้ากับการฝึกอบรมที่ไม่มีผู้ดูแลได้รับการทดลองใช้กับข้อมูล EEG รวมถึงการใช้ระบบเข้ารหัสอัตโนมัติ (convolutional และ / หรือ stacked)

ตัวอย่าง:

การเรียนรู้เชิงลึกสำหรับการบันทึก EEGใช้ระบบเข้ารหัสอัตโนมัติแบบ Convolutional พร้อมข้อ จำกัด ที่กำหนดเองเพื่อปรับปรุงการใช้งานทั่วไปในทุกวิชาและทดลอง

การทำนายโดยอิงจาก EEG ของประสิทธิภาพการรับรู้ของคนขับโดยเครือข่ายประสาทเทียมระดับลึกใช้เครือข่ายความเชื่อลึกแบบ convolutional บนขั้วไฟฟ้าเดี่ยวและรวมเข้ากับชั้นที่เชื่อมต่ออย่างสมบูรณ์

วิธีการเรียนรู้แบบใหม่ที่ล้ำลึกสำหรับการจำแนกสัญญาณภาพมอเตอร์ EEGใช้ตัวเข้ารหัสอัตโนมัติแบบเรียงซ้อนที่เชื่อมต่ออย่างเต็มรูปแบบบนเอาต์พุตของซีเอ็นเอ็นที่ได้รับการฝึกฝนอย่างถูกต้อง (ตื้นเขิน)

แต่ซีเอ็นเอ็นที่ควบคุมดูแลอย่างหมดจดก็ประสบความสำเร็จในข้อมูล EEG ด้วยดูตัวอย่าง:

EEGNet: เครือข่าย Convolutional ขนาดกะทัดรัดสำหรับการเชื่อมต่อระหว่างคอมพิวเตอร์และสมองด้วย EEG

เรียนรู้อย่างลึกซึ้งด้วยเครือข่ายประสาทเทียมสำหรับการทำแผนที่สมองและถอดรหัสข้อมูลที่เกี่ยวข้องกับการเคลื่อนไหวจาก EEG ของมนุษย์ (การเปิดเผย: ฉันเป็นผู้เขียนคนแรกของงานนี้งานที่เกี่ยวข้องมากขึ้นดูหน้า 44)

โปรดทราบว่ากระดาษ EEGNet แสดงให้เห็นว่าด้วยการทดลองจำนวนน้อยกว่าการฝึกอบรมภายใต้การดูแลของซีเอ็นเอ็นอย่างแท้จริงสามารถมีประสิทธิภาพสูงกว่าพื้นฐาน (ดูรูปที่ 3) นอกจากนี้จากประสบการณ์ของเราในชุดข้อมูลที่มีการทดลองฝึกอบรมเพียง 288 ชุด CNNs ที่ได้รับการดูแลอย่างหมดจดนั้นทำงานได้ดีโดยมีประสิทธิภาพเหนือกว่ารูปแบบพื้นฐานทั่วไปของตัวกรองธนาคารทั่วไป


3

ใช่คุณสามารถใช้เครือข่าย convolutional ในการตั้งค่า autoencoder ไม่มีอะไรแปลกกับมัน คนมีปัญหาในการหาdeconvolutionชั้นแม้ว่า

ที่นี่คุณสามารถดูตัวอย่างของโปรแกรมสร้างรหัสอัตโนมัติโดยใช้เฟรมเวิร์ก Keras: https://blog.keras.io/building-autoencoders-in-keras.html

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.