ความแตกต่างระหว่างเครือข่าย Bayes, โครงข่ายประสาทเทียม, ต้นไม้ตัดสินใจและตาข่ายของ Petri


30

อะไรคือความแตกต่างระหว่างโครงข่ายประสาทเทียม , เครือข่ายแบบเบย์ , ต้นไม้ตัดสินใจและตาข่ายของ Petriถึงแม้ว่าพวกมันจะเป็นโมเดลกราฟิกทั้งหมดและแสดงให้เห็นถึงความสัมพันธ์เชิงเหตุ - ผล


1
โปรดทราบว่านอกจากนี้ยังมีเครือข่ายประสาทของ Bayesian (เพื่อสร้างความสับสน) ซึ่งโดยทั่วไปเป็นเพียงเครือข่ายประสาทเทียมที่มีการรักษาพารามิเตอร์ของ Bayesian เท่าที่ฉันเห็น
naught101

คำตอบ:


27

ว้าวคำถามอะไรใหญ่! คำตอบสั้น ๆ ก็คือเพราะคุณสามารถเป็นตัวแทนของทั้งสองรุ่นโดยใช้การแสดงด้วยภาพที่คล้ายกันในรูปแบบไดอะแกรมไม่ได้หมายความว่าพวกมันจะเกี่ยวข้องกับโครงสร้างจากระยะไกลหน้าที่หรือตามหลักปรัชญา ฉันไม่คุ้นเคยกับ FCM หรือ NF แต่ฉันสามารถพูดกับคนอื่นได้เล็กน้อย

เครือข่าย Bayesian

ในเครือข่ายแบบเบย์กราฟแสดงการอ้างอิงตามเงื่อนไขของตัวแปรต่าง ๆ ในตัวแบบ แต่ละโหนดแสดงถึงตัวแปรและแต่ละขอบกำกับหมายถึงความสัมพันธ์ตามเงื่อนไข โดยพื้นฐานแล้วตัวแบบกราฟิกเป็นการสร้างภาพของกฎลูกโซ่

โครงข่ายประสาทเทียม

ในเครือข่ายนิวรัลแต่ละโหนดจะจำลอง "เซลล์ประสาท" เซลล์ประสาทเปิดหรือปิดการทำงานและการเปิดใช้งานจะถูกกำหนดโดยการรวมกันเชิงเส้นของค่าของแต่ละเอาต์พุตใน "เลเยอร์" ก่อนหน้าของเครือข่าย

ต้นไม้ตัดสินใจ

สมมติว่าเราใช้แผนภูมิการตัดสินใจเพื่อจัดหมวดหมู่ ต้นไม้เป็นแผนผังให้เราอธิบายว่าเราควรจำแนกการสังเกตอย่างไร เราเริ่มต้นที่รากของต้นไม้และใบไม้ที่เราวางไว้จะเป็นตัวกำหนดการจำแนกประเภทที่เราทำนายไว้

อย่างที่คุณเห็นแบบจำลองทั้งสามนี้ไม่มีอะไรเกี่ยวข้องกันเลยนอกจากมีกล่องและลูกศรอยู่ด้วย


1
ทฤษฎีกันต้นไม้การตัดสินใจไม่ได้จัดการการพึ่งพาระหว่างตัวแปรด้วยการกระจายข้อมูลหรือไม่ ฉันยังใหม่กับสาขาการเรียนรู้ของเครื่องและฉันสนใจที่จะเข้าใจอย่างสังหรณ์ใจมากขึ้นซึ่งจะใช้ในสถานการณ์ใด สำหรับฉันดูเหมือนว่าคุณจะใช้เครือข่ายแบบเบย์เมื่อคุณทราบความสัมพันธ์ที่แน่นอนระหว่างตัวแปรในขณะที่คุณจะใช้แผนภูมิการตัดสินใจเมื่อคุณเดาว่าตัวแปรบางอย่างอาจขึ้นอยู่กับคนอื่น แต่ไม่รู้ว่าเป็นใคร ต้องการทราบว่าสิ่งนี้ดูเหมือนว่าถูกต้องหรือหากการใช้งานเครือข่ายแบบเบย์และต้นไม้ตัดสินใจสามารถอธิบายรายละเอียดเพิ่มเติมได้
Deepak Agarwal

ฉันคิดว่าคำตอบควรชี้ไปที่ความแตกต่างและความคล้ายคลึงกันเพื่อร่างภาพที่ใหญ่ขึ้นโดยระบุว่า "ทั้งสามรุ่นนี้ไม่มีอะไรเกี่ยวข้องกับกันและกัน" เป็นเรื่องผิด ต้นไม้การตัดสินใจและโครงข่ายประสาทเทียมใช้วิธีการจำแนกแบบเดียวกันเมื่อเปรียบเทียบกับวิธีการกำเนิดของ BN ในขณะที่อีกสองเป็นตัวแทนของฟังก์ชั่น Bayesian Networks เป็นตัวแทนของฟังก์ชั่นทั่วไป (กระจาย), ...
Lejafar

1
ความแตกต่างในการสืบทอดและกำเนิดที่คุณทำที่นี่เป็นสิ่งที่ผิด โครงข่ายประสาทสามารถใช้สร้างแบบจำลองกำเนิดได้ พิจารณาตัวอย่างของ GAN คำตอบของฉันเพียงพอเพราะคำถามทำให้ "แบบจำลองเหล่านี้แสดงให้เห็นในลักษณะที่คล้ายกันนั่นหมายความว่าพวกมันมีโครงสร้างคล้ายกันหรือไม่" และฉันอธิบายว่าการแสดงกราฟิกเหล่านี้เข้ารหัสข้อมูลที่แตกต่างกันมากอย่างไร
David Marx

1
อย่าลังเลที่จะเพิ่มคำตอบของคุณเอง
David Marx

2
@Lejafar อย่าใช้การแก้ไขเพื่อเปลี่ยนเนื้อหาของคำตอบของคนอื่น หากคุณไม่เห็นด้วยกับคำตอบให้แสดงความคิดเห็น downvote หรือโพสต์คำตอบของคุณเอง
gung - Reinstate Monica

5

มันง่ายที่จะแสดง (ดูหลักสูตรของ Daphne Koller ) ว่า Logistic Regression เป็นรุ่นที่ จำกัด ของ Conditional Random Fields ซึ่งเป็นโมเดลกราฟิกที่ไม่ได้บอกทิศทางขณะที่ Bayesian Networks เป็นผู้กำกับโมเดลกราฟิก จากนั้น Logistic Regression อาจถูกมองว่าเป็น perceptron ชั้นเดียว นี่เป็นลิงก์เดียว (ซึ่งหลวมมาก) ที่ฉันคิดว่าสามารถวาดระหว่าง Bayesian Networks และ Neural Networks

ฉันยังไม่พบลิงก์ระหว่างแนวคิดอื่น ๆ ที่คุณถามถึง


2
ยินดีต้อนรับสู่เว็บไซต์และขอขอบคุณสำหรับการสนับสนุนนี้ คุณช่วยอธิบายได้ไหมว่ามันง่ายที่จะเห็นสิ่งนี้หรือไม่? ในปัจจุบันนี่เป็นเพียงข้อกล่าวอ้างที่อาจไม่ชัดเจนสำหรับผู้คน ข้อมูลอาจจะอยู่ที่ลิงค์ แต่เราต้องการให้กระทู้นี้ยังคงให้ข้อมูลแม้หลังจากการเชื่อมโยงจะตาย
gung - Reinstate Monica

สวัสดีขอบคุณ! ฉันไม่แน่ใจว่าคำอธิบายที่ละเอียดควรเป็นอย่างไร (ต้องใช้เวลา Daphne อย่างน้อยครึ่งชั่วโมงในการเตรียมหลักฐาน) และมันก็ไม่สดใหม่ในใจของฉันเช่นกัน การกระจายกิ๊บส์ซึ่งเป็นพื้นฐานของ CRFs
Octavia-Maria Șulea

1
CRF หมายถึงอะไร crf = ฟิลด์สุ่มตามเงื่อนไขหรือไม่
เทดเทย์เลอร์แห่งชีวิต

2

คำตอบที่ยอดเยี่ยมโดย @David Marx ฉันสงสัยว่าอะไรคือความแตกต่างระหว่างต้นไม้จำแนก / ถดถอยและเครือข่ายแบบเบย์หนึ่งสร้างบนเอนโทรปีเพื่อจำแนกผลลัพธ์ออกเป็นคลาสตามตัวทำนายที่แตกต่างกันและสร้างเครือข่ายกราฟิกโดยใช้ความเป็นอิสระตามเงื่อนไขและการประมาณค่าพารามิเตอร์ความน่าจะเป็น

ฉันรู้สึกว่าวิธีการสร้างเครือข่ายแบบเบย์แตกต่างจากต้นไม้การถดถอย / การตัดสินใจ อัลกอริทึมสำหรับการเรียนรู้เชิงโครงสร้างวัตถุประสงค์ในการใช้แบบจำลองรวมถึงความสามารถในการอนุมานของแบบจำลองนั้นแตกต่างกัน

วิธีการที่อิงกับคะแนนและข้อ จำกัด นั้นสามารถเข้าใจได้ด้วยการเปรียบเทียบบางอย่างกับเกณฑ์การได้รับข้อมูลในตระกูลต้นไม้ตัดสินใจ


1

ก่อนอื่นเราพยายามระบุลักษณะของปัญหาที่พยายามแก้ไขโดยวิธีการเหล่านี้ หากปัญหาตรงไปตรงมาพหุนามหรือ NP Complete เราพร้อมที่จะเสียบอัลกอริธึมที่สามารถให้คำตอบที่กำหนดไว้ได้โดยการรวมตัวกันของกฎตามตรรกะอย่างง่าย อย่างไรก็ตามหากไม่เป็นเช่นนั้นเราจะต้องพึ่งพาวิธีการให้เหตุผลซึ่งเราพยายามที่จะจัดการกับปัญหาในลักษณะที่ต่างกันและเสียบเข้ากับเครือข่ายโหนดที่ถูกประเมินและขอบเป็นเส้นทางระหว่างองค์ประกอบ .

ในการใช้เหตุผลบนเครือข่ายทุกประเภทเราไม่ใช้เหตุผลเชิงลดทอนโดยใช้การสรุปทั่วไปและการรวมกันตามกฎเชิงตรรกะในการไหลเชิงเส้น แต่จะทำงานผ่านปัญหาที่เกิดขึ้นตามการเผยแผ่เหตุผลในทิศทางต่าง ๆ เช่นที่เราแก้ไข ปัญหาหนึ่งโหนดในแต่ละครั้งเปิดให้มีการปรับปรุงในการค้นพบข้อเท็จจริงใหม่ที่เกี่ยวข้องกับโหนดใด ๆ ในอนาคต ตอนนี้ให้เรามาดูกันว่าเทคนิคเหล่านี้แต่ละวิธีเข้าใกล้วิธีการแก้ปัญหาด้วยวิธีของพวกเขาเองอย่างไร

Neural Network: โครงข่าย Neural เป็นกล่องดำที่เชื่อกัน (ไม่สามารถตรวจสอบได้จากนอกระบบ) ว่าการเชื่อมต่อระหว่างโหนด Simpleton จะเกิดขึ้นและเน้นโดยเสริมกำลังภายนอกซ้ำ มันเข้าใกล้ปัญหาในกระบวนทัศน์ของConnectionsitic ปัญหาน่าจะได้รับการแก้ไข แต่มีวิธีอธิบายน้อยมาก ตาข่ายประสาทตอนนี้ใช้กันอย่างแพร่หลายเพราะความสามารถในการสร้างผลลัพธ์ที่รวดเร็วหากมองข้ามปัญหาที่อธิบายได้

เครือข่าย Bayesian: เครือข่ายแบบเบย์คือกราฟที่มีทิศทางตรงซึ่งเหมือนผังมากขึ้นเท่านั้นที่แผนภูมิการไหลสามารถมีลูปวนได้ เครือข่าย Bayesian ซึ่งแตกต่างจากแผนภูมิการไหลสามารถมีจุดเริ่มต้นได้หลายจุด โดยทั่วไปจะมีร่องรอยการเผยแผ่ของเหตุการณ์ในหลาย ๆ จุดที่ไม่ชัดเจนซึ่งเหตุการณ์จะเบี่ยงเบนความน่าจะเป็นระหว่างทางเดิน เห็นได้ชัดว่า ณ จุดใดก็ตามในเครือข่ายความน่าจะเป็นของโหนดนั้นที่ถูกเยี่ยมชมนั้นขึ้นอยู่กับความน่าจะเป็นร่วมของโหนดก่อนหน้า เครือข่ายแบบเบย์นั้นแตกต่างจากโครงข่ายประสาทในลักษณะที่เป็นการให้เหตุผลที่ชัดเจนแม้ว่าความน่าจะเป็นและอาจมีหลายสถานะที่มั่นคงบนพื้นฐานของแต่ละขั้นตอนที่มีการทบทวนและแก้ไขภายในค่าทางกฎหมายเช่นเดียวกับอัลกอริทึม มันเป็นวิธีที่แข็งแกร่งในการให้เหตุผลความน่าจะเป็น แต่มันเกี่ยวข้องกับการเข้ารหัสของความน่าจะเป็น

ต้นไม้การตัดสินใจ: ต้นไม้ การตัดสินใจเป็นเครือข่ายอีกครั้งซึ่งเป็นเหมือนแผนภูมิการไหลซึ่งอยู่ใกล้กับเครือข่ายแบบเบย์มากกว่าโครงข่ายประสาท แต่ละโหนดมีความฉลาดมากกว่าเน็ตประสาทและการแตกแขนงสามารถตัดสินใจได้โดยการประเมินทางคณิตศาสตร์หรือความน่าจะเป็น การตัดสินใจเป็นการประเมินที่ตรงไปตรงมาตามการแจกแจงความถี่ของเหตุการณ์ที่เป็นไปได้ซึ่งการตัดสินใจนั้นน่าจะเป็น อย่างไรก็ตามในเครือข่ายแบบเบย์การตัดสินใจขึ้นอยู่กับการกระจายของ 'หลักฐาน' ที่ชี้ไปยังเหตุการณ์ที่เกิดขึ้นแทนที่จะสังเกตโดยตรงจากเหตุการณ์

ตัวอย่าง เช่นหากเราต้องทำนายการเคลื่อนไหวของเสือกินมนุษย์ในหมู่บ้านหิมาลัยบางแห่งซึ่งอยู่ใกล้กับเขตอนุรักษ์เสือบางแห่งเราสามารถจำลองมันด้วยวิธีใดวิธีหนึ่งดังนี้:

ในต้นไม้ตัดสินใจเราจะใช้การประเมินโดยผู้เชี่ยวชาญว่าเสือจะให้ทางเลือกระหว่างทุ่งโล่งหรือแม่น้ำที่จะเลือกในช่วงหลัง ในเครือข่าย Bayesian เราติดตามเสือด้วยเครื่องหมายปั๊ก แต่มีเหตุผลในลักษณะที่ยอมรับว่าเครื่องหมายปั๊กเหล่านี้อาจเป็นเสือขนาดอื่น ๆ ที่คล้ายกันลาดตระเวนเป็นประจำ ถ้าเราจะใช้โครงข่ายประสาทเราจะต้องฝึกแบบจำลองซ้ำ ๆ โดยใช้ลักษณะเชิงพฤติกรรมต่าง ๆ ของเสือโดยทั่วไปเช่นความพึงพอใจในการว่ายน้ำการเลือกพื้นที่ที่ครอบคลุมมากกว่าพื้นที่เปิดโล่งการหลีกเลี่ยงที่อยู่อาศัยของมนุษย์เพื่อ อนุญาตให้เครือข่ายให้เหตุผลโดยทั่วไปกับเส้นทางที่เสืออาจใช้


0

เกี่ยวกับโมเดลกราฟิก Petri Net ให้พฤติกรรมของระบบอย่างเป็นทางการ ซึ่งแตกต่างอย่างมากจากรุ่นที่เหลือทั้งหมดซึ่งเกี่ยวข้องกับวิธีการตัดสิน

ควรทราบว่าชื่อที่อ้างถึงส่วนใหญ่กำหนดแนวคิด AI ที่ค่อนข้างกว้างขวางซึ่งมักจะเชื่อมโยงกัน: ตัวอย่างเช่นคุณอาจใช้โครงข่ายประสาทเทียมเพื่อสร้างแผนภูมิการตัดสินใจในขณะที่โครงข่ายประสาทเทียมเองตามที่กล่าวไว้ก่อนหน้านี้อาจขึ้นอยู่กับ Bayesian การอนุมาน


-3

เป็นคำถามที่ดีและฉันก็ถามตัวเองเหมือนกัน มีเครือข่ายประสาทมากกว่าสองชนิดและดูเหมือนว่าคำตอบก่อนหน้านี้กล่าวถึงประเภทการแข่งขันในขณะที่เครือข่าย Bayesian ดูเหมือนจะมีความคล้ายคลึงกับประเภทของฟีดไปข้างหน้า, back-propagation (FFBP) และไม่ใช่ประเภทการแข่งขัน ในความเป็นจริงฉันจะบอกว่าเครือข่ายแบบเบย์เป็นลักษณะทั่วไปของ FFBP ดังนั้น FFBP จึงเป็นเครือข่ายแบบเบย์และทำงานในลักษณะเดียวกัน

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.