อะไรคือความแตกต่างระหว่างโครงข่ายประสาทเทียม , เครือข่ายแบบเบย์ , ต้นไม้ตัดสินใจและตาข่ายของ Petriถึงแม้ว่าพวกมันจะเป็นโมเดลกราฟิกทั้งหมดและแสดงให้เห็นถึงความสัมพันธ์เชิงเหตุ - ผล
อะไรคือความแตกต่างระหว่างโครงข่ายประสาทเทียม , เครือข่ายแบบเบย์ , ต้นไม้ตัดสินใจและตาข่ายของ Petriถึงแม้ว่าพวกมันจะเป็นโมเดลกราฟิกทั้งหมดและแสดงให้เห็นถึงความสัมพันธ์เชิงเหตุ - ผล
คำตอบ:
ว้าวคำถามอะไรใหญ่! คำตอบสั้น ๆ ก็คือเพราะคุณสามารถเป็นตัวแทนของทั้งสองรุ่นโดยใช้การแสดงด้วยภาพที่คล้ายกันในรูปแบบไดอะแกรมไม่ได้หมายความว่าพวกมันจะเกี่ยวข้องกับโครงสร้างจากระยะไกลหน้าที่หรือตามหลักปรัชญา ฉันไม่คุ้นเคยกับ FCM หรือ NF แต่ฉันสามารถพูดกับคนอื่นได้เล็กน้อย
เครือข่าย Bayesian
ในเครือข่ายแบบเบย์กราฟแสดงการอ้างอิงตามเงื่อนไขของตัวแปรต่าง ๆ ในตัวแบบ แต่ละโหนดแสดงถึงตัวแปรและแต่ละขอบกำกับหมายถึงความสัมพันธ์ตามเงื่อนไข โดยพื้นฐานแล้วตัวแบบกราฟิกเป็นการสร้างภาพของกฎลูกโซ่
โครงข่ายประสาทเทียม
ในเครือข่ายนิวรัลแต่ละโหนดจะจำลอง "เซลล์ประสาท" เซลล์ประสาทเปิดหรือปิดการทำงานและการเปิดใช้งานจะถูกกำหนดโดยการรวมกันเชิงเส้นของค่าของแต่ละเอาต์พุตใน "เลเยอร์" ก่อนหน้าของเครือข่าย
ต้นไม้ตัดสินใจ
สมมติว่าเราใช้แผนภูมิการตัดสินใจเพื่อจัดหมวดหมู่ ต้นไม้เป็นแผนผังให้เราอธิบายว่าเราควรจำแนกการสังเกตอย่างไร เราเริ่มต้นที่รากของต้นไม้และใบไม้ที่เราวางไว้จะเป็นตัวกำหนดการจำแนกประเภทที่เราทำนายไว้
อย่างที่คุณเห็นแบบจำลองทั้งสามนี้ไม่มีอะไรเกี่ยวข้องกันเลยนอกจากมีกล่องและลูกศรอยู่ด้วย
มันง่ายที่จะแสดง (ดูหลักสูตรของ Daphne Koller ) ว่า Logistic Regression เป็นรุ่นที่ จำกัด ของ Conditional Random Fields ซึ่งเป็นโมเดลกราฟิกที่ไม่ได้บอกทิศทางขณะที่ Bayesian Networks เป็นผู้กำกับโมเดลกราฟิก จากนั้น Logistic Regression อาจถูกมองว่าเป็น perceptron ชั้นเดียว นี่เป็นลิงก์เดียว (ซึ่งหลวมมาก) ที่ฉันคิดว่าสามารถวาดระหว่าง Bayesian Networks และ Neural Networks
ฉันยังไม่พบลิงก์ระหว่างแนวคิดอื่น ๆ ที่คุณถามถึง
คำตอบที่ยอดเยี่ยมโดย @David Marx ฉันสงสัยว่าอะไรคือความแตกต่างระหว่างต้นไม้จำแนก / ถดถอยและเครือข่ายแบบเบย์หนึ่งสร้างบนเอนโทรปีเพื่อจำแนกผลลัพธ์ออกเป็นคลาสตามตัวทำนายที่แตกต่างกันและสร้างเครือข่ายกราฟิกโดยใช้ความเป็นอิสระตามเงื่อนไขและการประมาณค่าพารามิเตอร์ความน่าจะเป็น
ฉันรู้สึกว่าวิธีการสร้างเครือข่ายแบบเบย์แตกต่างจากต้นไม้การถดถอย / การตัดสินใจ อัลกอริทึมสำหรับการเรียนรู้เชิงโครงสร้างวัตถุประสงค์ในการใช้แบบจำลองรวมถึงความสามารถในการอนุมานของแบบจำลองนั้นแตกต่างกัน
วิธีการที่อิงกับคะแนนและข้อ จำกัด นั้นสามารถเข้าใจได้ด้วยการเปรียบเทียบบางอย่างกับเกณฑ์การได้รับข้อมูลในตระกูลต้นไม้ตัดสินใจ
ก่อนอื่นเราพยายามระบุลักษณะของปัญหาที่พยายามแก้ไขโดยวิธีการเหล่านี้ หากปัญหาตรงไปตรงมาพหุนามหรือ NP Complete เราพร้อมที่จะเสียบอัลกอริธึมที่สามารถให้คำตอบที่กำหนดไว้ได้โดยการรวมตัวกันของกฎตามตรรกะอย่างง่าย อย่างไรก็ตามหากไม่เป็นเช่นนั้นเราจะต้องพึ่งพาวิธีการให้เหตุผลซึ่งเราพยายามที่จะจัดการกับปัญหาในลักษณะที่ต่างกันและเสียบเข้ากับเครือข่ายโหนดที่ถูกประเมินและขอบเป็นเส้นทางระหว่างองค์ประกอบ .
ในการใช้เหตุผลบนเครือข่ายทุกประเภทเราไม่ใช้เหตุผลเชิงลดทอนโดยใช้การสรุปทั่วไปและการรวมกันตามกฎเชิงตรรกะในการไหลเชิงเส้น แต่จะทำงานผ่านปัญหาที่เกิดขึ้นตามการเผยแผ่เหตุผลในทิศทางต่าง ๆ เช่นที่เราแก้ไข ปัญหาหนึ่งโหนดในแต่ละครั้งเปิดให้มีการปรับปรุงในการค้นพบข้อเท็จจริงใหม่ที่เกี่ยวข้องกับโหนดใด ๆ ในอนาคต ตอนนี้ให้เรามาดูกันว่าเทคนิคเหล่านี้แต่ละวิธีเข้าใกล้วิธีการแก้ปัญหาด้วยวิธีของพวกเขาเองอย่างไร
Neural Network: โครงข่าย Neural เป็นกล่องดำที่เชื่อกัน (ไม่สามารถตรวจสอบได้จากนอกระบบ) ว่าการเชื่อมต่อระหว่างโหนด Simpleton จะเกิดขึ้นและเน้นโดยเสริมกำลังภายนอกซ้ำ มันเข้าใกล้ปัญหาในกระบวนทัศน์ของConnectionsitic ปัญหาน่าจะได้รับการแก้ไข แต่มีวิธีอธิบายน้อยมาก ตาข่ายประสาทตอนนี้ใช้กันอย่างแพร่หลายเพราะความสามารถในการสร้างผลลัพธ์ที่รวดเร็วหากมองข้ามปัญหาที่อธิบายได้
เครือข่าย Bayesian: เครือข่ายแบบเบย์คือกราฟที่มีทิศทางตรงซึ่งเหมือนผังมากขึ้นเท่านั้นที่แผนภูมิการไหลสามารถมีลูปวนได้ เครือข่าย Bayesian ซึ่งแตกต่างจากแผนภูมิการไหลสามารถมีจุดเริ่มต้นได้หลายจุด โดยทั่วไปจะมีร่องรอยการเผยแผ่ของเหตุการณ์ในหลาย ๆ จุดที่ไม่ชัดเจนซึ่งเหตุการณ์จะเบี่ยงเบนความน่าจะเป็นระหว่างทางเดิน เห็นได้ชัดว่า ณ จุดใดก็ตามในเครือข่ายความน่าจะเป็นของโหนดนั้นที่ถูกเยี่ยมชมนั้นขึ้นอยู่กับความน่าจะเป็นร่วมของโหนดก่อนหน้า เครือข่ายแบบเบย์นั้นแตกต่างจากโครงข่ายประสาทในลักษณะที่เป็นการให้เหตุผลที่ชัดเจนแม้ว่าความน่าจะเป็นและอาจมีหลายสถานะที่มั่นคงบนพื้นฐานของแต่ละขั้นตอนที่มีการทบทวนและแก้ไขภายในค่าทางกฎหมายเช่นเดียวกับอัลกอริทึม มันเป็นวิธีที่แข็งแกร่งในการให้เหตุผลความน่าจะเป็น แต่มันเกี่ยวข้องกับการเข้ารหัสของความน่าจะเป็น
ต้นไม้การตัดสินใจ: ต้นไม้ การตัดสินใจเป็นเครือข่ายอีกครั้งซึ่งเป็นเหมือนแผนภูมิการไหลซึ่งอยู่ใกล้กับเครือข่ายแบบเบย์มากกว่าโครงข่ายประสาท แต่ละโหนดมีความฉลาดมากกว่าเน็ตประสาทและการแตกแขนงสามารถตัดสินใจได้โดยการประเมินทางคณิตศาสตร์หรือความน่าจะเป็น การตัดสินใจเป็นการประเมินที่ตรงไปตรงมาตามการแจกแจงความถี่ของเหตุการณ์ที่เป็นไปได้ซึ่งการตัดสินใจนั้นน่าจะเป็น อย่างไรก็ตามในเครือข่ายแบบเบย์การตัดสินใจขึ้นอยู่กับการกระจายของ 'หลักฐาน' ที่ชี้ไปยังเหตุการณ์ที่เกิดขึ้นแทนที่จะสังเกตโดยตรงจากเหตุการณ์
ตัวอย่าง เช่นหากเราต้องทำนายการเคลื่อนไหวของเสือกินมนุษย์ในหมู่บ้านหิมาลัยบางแห่งซึ่งอยู่ใกล้กับเขตอนุรักษ์เสือบางแห่งเราสามารถจำลองมันด้วยวิธีใดวิธีหนึ่งดังนี้:
ในต้นไม้ตัดสินใจเราจะใช้การประเมินโดยผู้เชี่ยวชาญว่าเสือจะให้ทางเลือกระหว่างทุ่งโล่งหรือแม่น้ำที่จะเลือกในช่วงหลัง ในเครือข่าย Bayesian เราติดตามเสือด้วยเครื่องหมายปั๊ก แต่มีเหตุผลในลักษณะที่ยอมรับว่าเครื่องหมายปั๊กเหล่านี้อาจเป็นเสือขนาดอื่น ๆ ที่คล้ายกันลาดตระเวนเป็นประจำ ถ้าเราจะใช้โครงข่ายประสาทเราจะต้องฝึกแบบจำลองซ้ำ ๆ โดยใช้ลักษณะเชิงพฤติกรรมต่าง ๆ ของเสือโดยทั่วไปเช่นความพึงพอใจในการว่ายน้ำการเลือกพื้นที่ที่ครอบคลุมมากกว่าพื้นที่เปิดโล่งการหลีกเลี่ยงที่อยู่อาศัยของมนุษย์เพื่อ อนุญาตให้เครือข่ายให้เหตุผลโดยทั่วไปกับเส้นทางที่เสืออาจใช้
เกี่ยวกับโมเดลกราฟิก Petri Net ให้พฤติกรรมของระบบอย่างเป็นทางการ ซึ่งแตกต่างอย่างมากจากรุ่นที่เหลือทั้งหมดซึ่งเกี่ยวข้องกับวิธีการตัดสิน
ควรทราบว่าชื่อที่อ้างถึงส่วนใหญ่กำหนดแนวคิด AI ที่ค่อนข้างกว้างขวางซึ่งมักจะเชื่อมโยงกัน: ตัวอย่างเช่นคุณอาจใช้โครงข่ายประสาทเทียมเพื่อสร้างแผนภูมิการตัดสินใจในขณะที่โครงข่ายประสาทเทียมเองตามที่กล่าวไว้ก่อนหน้านี้อาจขึ้นอยู่กับ Bayesian การอนุมาน
เป็นคำถามที่ดีและฉันก็ถามตัวเองเหมือนกัน มีเครือข่ายประสาทมากกว่าสองชนิดและดูเหมือนว่าคำตอบก่อนหน้านี้กล่าวถึงประเภทการแข่งขันในขณะที่เครือข่าย Bayesian ดูเหมือนจะมีความคล้ายคลึงกับประเภทของฟีดไปข้างหน้า, back-propagation (FFBP) และไม่ใช่ประเภทการแข่งขัน ในความเป็นจริงฉันจะบอกว่าเครือข่ายแบบเบย์เป็นลักษณะทั่วไปของ FFBP ดังนั้น FFBP จึงเป็นเครือข่ายแบบเบย์และทำงานในลักษณะเดียวกัน