ANN เครือข่ายประสาทเทียมสามารถใช้สำหรับการจัดกลุ่มที่ไม่ได้รับการดูแลได้อย่างไร?

ฉันเข้าใจวิธีartificial neural network (ANN)สามารถฝึกอบรมในลักษณะที่มีการควบคุมดูแลโดยใช้ backpropogation เพื่อปรับปรุงอุปกรณ์ให้เหมาะสมโดยลดข้อผิดพลาดในการทำนาย ฉันเคยได้ยินว่า ANN สามารถใช้สำหรับการเรียนรู้ที่ไม่มีผู้ดูแลแต่วิธีการนี้สามารถทำได้โดยไม่ต้องมีฟังก์ชั่นค่าใช้จ่ายบางอย่างเพื่อเป็นแนวทางในขั้นตอนการปรับให้เหมาะสม ด้วย k-mean หรืออัลกอริทึม EM มีฟังก์ชันที่แต่ละการค้นหาซ้ำเพื่อเพิ่ม

เราจะทำคลัสเตอร์กับ ANN ได้อย่างไรและใช้กลไกใดในการจัดกลุ่มจุดข้อมูลในท้องที่เดียวกัน

(และมีความสามารถพิเศษอะไรบ้างที่มาพร้อมกับเพิ่มเลเยอร์ให้มากขึ้น)

— Vass
แหล่งที่มา

คุณมีความสนใจในการเรียนรู้แบบไม่มีผู้ดูแล NN โดยทั่วไปหรือโดยเฉพาะในการจัดกลุ่มที่ไม่ได้รับการดูแลกับเครือข่ายประสาทเทียมหรือไม่?

— เดนิส Tarasov

@DenisTarasov ฉันสนใจเป็นหลักในการทำคลัสเตอร์แบบ nonupervised กับ NN แต่ไม่ทราบมากเกี่ยวกับ NN การเรียนรู้แบบ NN unsupervised โดยทั่วไป มันจะดีถ้าคำตอบจะรวมถึงการเรียนรู้แบบไม่มีผู้ดูแล NN โดยทั่วไปก่อนที่จะพูดถึงการใช้งานเฉพาะ

— Vass

Self Organing Map (SOM) เป็นประเภทของเครือข่ายที่ใช้สำหรับการทำคลัสเตอร์

— Cagdas Ozgenc

การเรียนรู้แบบไม่มีผู้ดูแลใน ANN - มันแยกคุณสมบัติทางสถิติจากชุดการฝึกอบรม - การเรียนรู้ที่ไม่ได้รับการเรียนรู้ยากขึ้น แต่ถูกมองว่าเป็นไปได้ทางชีวภาพ - ไม่ต้องมีครู

— yonas

คำตอบ:

โครงข่ายประสาทเทียมถูกนำมาใช้อย่างกว้างขวางในการเรียนรู้แบบไม่มีผู้ดูแลเพื่อเรียนรู้การเป็นตัวแทนของข้อมูลอินพุตที่ดีขึ้น ตัวอย่างเช่นเมื่อได้รับชุดของเอกสารข้อความ NN สามารถเรียนรู้การแมปจากเอกสารไปยังเวกเตอร์ที่มีคุณค่าในลักษณะที่เวกเตอร์ที่ได้นั้นมีความคล้ายคลึงกับเอกสารที่มีเนื้อหาคล้ายกันนั่นคือการรักษาระยะทาง สิ่งนี้สามารถทำได้โดยใช้ตัวอย่างเช่นตัวเข้ารหัสอัตโนมัติ - แบบจำลองที่ได้รับการฝึกฝนให้สร้างเวกเตอร์ดั้งเดิมจากการเป็นตัวแทนที่เล็กกว่า (การเปิดใช้งานเลเยอร์ที่ซ่อนอยู่) พร้อมข้อผิดพลาดในการสร้างใหม่ (ระยะห่างจากฟังก์ชัน ID) กระบวนการนี้ไม่ได้ให้คลัสเตอร์แก่คุณ แต่สร้างการรับรองที่มีความหมายซึ่งสามารถใช้สำหรับการทำคลัสเตอร์ ตัวอย่างเช่นคุณสามารถใช้อัลกอริทึมการจัดกลุ่มบนการเปิดใช้งานของเลเยอร์ที่ซ่อนอยู่

การทำคลัสเตอร์: มีจำนวนสถาปัตยกรรม NN ที่แตกต่างกันจำนวนมากซึ่งออกแบบมาสำหรับการทำคลัสเตอร์โดยเฉพาะ รู้จักกันอย่างกว้างขวางที่สุดน่าจะเป็นแผนที่การจัดระเบียบตนเอง SOM เป็น NN ที่มีชุดของเซลล์ประสาทที่เชื่อมต่อกับรูปแบบตารางทอพอโลยี (ปกติเป็นรูปสี่เหลี่ยมผืนผ้า) เมื่อรูปแบบบางอย่างถูกนำเสนอต่อ SOM เซลล์ประสาทที่มีเวกเตอร์น้ำหนักใกล้เคียงที่สุดจะถือว่าเป็นผู้ชนะและน้ำหนักของมันจะถูกปรับให้เข้ากับรูปแบบเช่นเดียวกับน้ำหนักของพื้นที่ใกล้เคียง ด้วยวิธีนี้ SOM จะค้นหากลุ่มข้อมูลตามธรรมชาติ อัลกอริทึมที่เกี่ยวข้องค่อนข้างจะเติบโตก๊าซประสาท (มันไม่ จำกัด จำนวนที่กำหนดไว้ล่วงหน้าของเซลล์ประสาท)

อีกวิธีคือทฤษฎีการปรับเรโซแนนซ์แบบปรับตัวที่เรามีสองเลเยอร์: "ฟิลด์เปรียบเทียบ" และ "ฟิลด์การรู้จำ" ฟิลด์การรับรู้ยังกำหนดการจับคู่ที่ดีที่สุด (เซลล์ประสาท) ไปยังเวกเตอร์ที่ถ่ายโอนจากฟิลด์เปรียบเทียบและยังมีการเชื่อมต่อการยับยั้งด้านข้าง รายละเอียดการนำไปปฏิบัติและสมการที่แน่นอนสามารถพบได้อย่างง่ายดายโดย googling ชื่อของโมเดลเหล่านี้ดังนั้นฉันจะไม่ใส่ไว้ที่นี่

— เดนิสทาราซอฟ
แหล่งที่มา

คุณต้องการที่จะมองเข้าไปในแผนที่จัดการตนเอง Kohonen (ผู้ประดิษฐ์) เขียนหนังสือเกี่ยวกับพวกเขา มีแพ็กเกจสำหรับการนี้อยู่ใน R ( Som , Kohonenมีการใช้งานในภาษาอื่น ๆ เช่น) และMATLAB

— gung - Reinstate Monica
แหล่งที่มา

คุณสามารถดูรายละเอียดเกี่ยวกับวิธีที่ NN สามารถทำสิ่งนี้และอธิบายรายละเอียดเกี่ยวกับทฤษฎีได้อย่างไร อาจอธิบายผลของการใช้ NN ลึก (DNN)

— Vass

ฉันกลัวว่าฉันมีความเชี่ยวชาญน้อยมากที่ @Vass ฉันไม่คิดว่าการเพิ่มเลเยอร์พิเศษจะทำอะไรได้มากนอกจากจะช้าลง บางคนจะต้องให้ทฤษฎีแก่คุณฉันแค่อยากให้คุณเริ่มต้น

— gung - Reinstate Monica

นักเรียนในห้องปฏิบัติการของเราทดลองกับการทำคลัสเตอร์โดยใช้ SOM ต้องใช้เวลานานในการทำงานและผลลัพธ์ก็น่าผิดหวังมากเมื่อเทียบกับวิธีอื่น ๆ (ในกรณีอัลกอริทึมการจัดกลุ่มกราฟมาตรฐานของเรา) ฉันมักจะงงงวยกับความจริงที่ว่าโดเมนเป้าหมาย 2D มาตรฐาน (ตารางทอพอโลยี) ดูเหมือนจะเป็นพื้นที่ว่างโดยพลการ ที่น่าเป็นห่วงมากคือง่ายและจำเป็นต้องบีบอัดข้อมูลลงในช่องว่างที่อธิบายโดยตัวแปรเพียงสองตัว

— micans

@micans ทำคะแนนได้ดี แต่ข้อมูลไม่ได้ถูกบีบอัดลงในช่องว่างที่อธิบายโดยตัวแปรเพียงสองตัวเพราะแต่ละโหนดยังเชื่อมโยงกับต้นแบบ นอกจากนี้หากการรันช้าอาจเป็นปัญหาการปรับใช้ ในทางสถิติวิธีอื่นที่ไม่ใช่ SOM ควรได้ผลลัพธ์การจำแนกที่ดีกว่า สำหรับเรื่องของโทโพโลยีดูเหมือนว่าสมองจะถูกจัดเป็นเลเยอร์ของโทโพโลยี 2 มิติ แต่ได้ผลลัพธ์ที่ยอดเยี่ยม (หรือฉันอยากจะคิด)

— Tom Anderson