มีโดเมนใดที่ Bayesian Networks มีประสิทธิภาพสูงกว่าเครือข่ายประสาทหรือไม่

เครือข่ายนิวรัลได้รับผลลัพธ์สูงสุดในงาน Computer Vision (ดูMNIST , ILSVRC , Kaggle Galaxy Challenge ) ดูเหมือนว่าพวกเขาจะเหนือกว่าทุก ๆ วิธีใน Computer Vision แต่ยังมีงานอื่น ๆ :

• Kaggle Molecular Activity Challenge
• การถดถอย: การทำนาย Kaggle Rainก็เป็นอันดับที่ 2 เช่นกัน
• เข้าใจและยกที่ 2นอกจากนี้ยังมีสถานที่ที่สาม - ระบุการเคลื่อนไหวมือจากการบันทึกคลื่นไฟฟ้าสมอง

ฉันไม่แน่ใจเกินไปเกี่ยวกับ ASR (การรู้จำเสียงอัตโนมัติ) และการแปลด้วยเครื่อง แต่ฉันคิดว่าฉันก็เคยได้ยินว่า (เกิดขึ้นอีก) เครือข่ายประสาท (เริ่มต้น) มีประสิทธิภาพเหนือกว่าวิธีอื่น ๆ

ขณะนี้ฉันกำลังเรียนรู้เกี่ยวกับ Bayesian Networks และฉันสงสัยว่าในกรณีใดโมเดลเหล่านี้มักจะถูกนำไปใช้ ดังนั้นคำถามของฉันคือ:

มีการแข่งขันที่ท้าทาย / (Kaggle) หรือไม่ที่รัฐมีศิลปะคือ Bayesian Networks หรืออย่างน้อยก็มีรูปแบบที่คล้ายกันมาก?

(หมายเหตุด้านข้าง: ผมเคยเห็นยังต้นไม้ตัดสินใจ , 2 , 3 , 4 , 5 , 6 , 7ผู้ชนะในความท้าทายหลาย Kaggle ล่าสุด)

หนึ่งในพื้นที่ที่ใช้วิธีแบบเบย์บ่อยครั้งคือต้องการความสามารถในการตีความของระบบการทำนาย คุณไม่ต้องการให้หมอประสาทและบอกว่ามันแม่นยำ 95% คุณต้องการอธิบายสมมติฐานที่วิธีการของคุณใช้รวมถึงกระบวนการตัดสินใจที่วิธีการใช้

พื้นที่ที่คล้ายกันคือเมื่อคุณมีความรู้เกี่ยวกับโดเมนมาก่อนและต้องการใช้ในระบบ

เครือข่ายแบบเบย์และเครือข่ายประสาทไม่ได้แยกจากกัน อันที่จริงแล้วเครือข่ายแบบเบย์เป็นเพียงคำศัพท์หนึ่งสำหรับ พวกมันมีประโยชน์มากในการออกแบบฟังก์ชั่นเครือข่ายประสาทเทียม ยานน์เลคันนี้ได้ชี้ออกจากที่นี่: https://plus.google.com/+YannLeCunPhD/posts/gWE7Jca3Zoq

ตัวอย่างหนึ่ง

คำตอบที่ยอดเยี่ยมแล้ว

หนึ่งโดเมนที่ฉันนึกถึงและทำงานอย่างกว้างขวางคือโดเมนการวิเคราะห์ลูกค้า

ฉันต้องเข้าใจและคาดการณ์การเคลื่อนไหวและแรงจูงใจของลูกค้าเพื่อแจ้งและเตือนทั้งการสนับสนุนลูกค้าการตลาดและทีมการเติบโต

ดังนั้นที่นี่เครือข่ายประสาททำงานได้ดีมากในการทำนายแบบปั่นป่วน ฯลฯ แต่ฉันพบและชอบสไตล์เครือข่ายแบบเบย์และนี่คือเหตุผลที่เลือกมัน:

1. ลูกค้ามักมีลวดลาย พวกเขามักจะมีเหตุผลในการลงมือทำ และด้วยเหตุผลนั้นจะเป็นสิ่งที่ทีมของฉันได้ทำเพื่อพวกเขาหรือพวกเขาได้เรียนรู้ด้วยตัวเอง ดังนั้นทุกอย่างมีก่อนหน้านี้ที่นี่และในความเป็นจริงเหตุผลนั้นสำคัญมากเพราะเป็นเชื้อเพลิงในการตัดสินใจส่วนใหญ่ของลูกค้า
2. การเคลื่อนไหวของลูกค้าและทีมการเจริญเติบโตในช่องทางการตลาด / การขายทุกครั้งเป็นผลที่เกิดขึ้น ดังนั้นความรู้ก่อนมีความสำคัญเมื่อมันมาถึงการแปลงลูกค้าเป้าหมายในอนาคตเป็นลูกค้า

ดังนั้นแนวคิดเรื่องก่อนจึงมีความสำคัญมากเมื่อพูดถึงการวิเคราะห์ลูกค้าซึ่งทำให้แนวคิดของเครือข่ายแบบเบย์สำคัญกับโดเมนนี้

การเรียนรู้ที่แนะนำ:

วิธีการแบบเบย์สำหรับโครงข่ายประสาท

เครือข่ายแบบเบย์ในการวิเคราะห์ธุรกิจ

บางครั้งคุณสนใจมากเกี่ยวกับการเปลี่ยนผลลัพธ์เป็นการทำนายผลลัพธ์

เครือข่ายประสาทที่ได้รับข้อมูลการฝึกอบรมที่เพียงพอจะมีแนวโน้มที่จะทำนายผลลัพธ์ได้ดีขึ้น แต่เมื่อคุณสามารถทำนายผลลัพธ์ได้คุณอาจต้องการคาดการณ์ผลของการเปลี่ยนแปลงคุณลักษณะการป้อนข้อมูลในผลลัพธ์

ตัวอย่างจากชีวิตจริงการรู้ว่าบางคนมีอาการหัวใจวายมีประโยชน์ แต่ความสามารถในการบอกคนว่าถ้าพวกเขาหยุดทำ XX ความเสี่ยงจะลดลง 30% ซึ่งมีประโยชน์มากกว่ามาก

เช่นเดียวกันกับการรักษาลูกค้าเมื่อรู้ว่าทำไมลูกค้าถึงหยุดช้อปปิ้งกับคุณมีค่ามากพอ ๆ กับการคาดการณ์ลูกค้าที่มีแนวโน้มจะหยุดซื้อของกับคุณ

นอกจากนี้เครือข่าย Bayesian ที่เรียบง่ายกว่าที่คาดการณ์ได้ดีน้อยลง แต่นำไปสู่การดำเนินการเพิ่มเติมที่เกิดขึ้นบ่อยครั้งอาจจะดีกว่าเครือข่าย Bayesian ที่ "ถูกต้อง" มากขึ้น

ข้อได้เปรียบที่ใหญ่ที่สุดของเครือข่ายแบบเบย์ผ่านเครือข่ายประสาทคือพวกเขาสามารถใช้สำหรับการอนุมานเชิงสาเหตุ สาขานี้มีความสำคัญพื้นฐานต่อสถิติและการเรียนรู้ของเครื่องจักรและจูเดียเพิร์ลได้รับรางวัลทัวริงสำหรับการวิจัยนี้

เครือข่ายแบบเบย์อาจมีประสิทธิภาพสูงกว่าเครือข่ายประสาทในการตั้งค่าข้อมูลขนาดเล็ก หากข้อมูลก่อนหน้านี้ได้รับการจัดการอย่างเหมาะสมผ่านโครงสร้างเครือข่าย priors และไฮเปอร์พารามิเตอร์อื่น ๆ มันอาจมีความได้เปรียบเหนือ Neural Networks โครงข่ายประสาทเทียมโดยเฉพาะโครงข่ายที่มีเลเยอร์มากขึ้นเป็นที่รู้จักกันดีว่าเป็นข้อมูลที่หิว ข้อมูลจำนวนมากที่มีความหมายเกือบจะเป็นสิ่งจำเป็นในการฝึกอบรมอย่างถูกต้อง

ฉันโพสต์ลิงค์นี้ใน Redditและได้รับข้อเสนอแนะมากมาย บางคนโพสต์คำตอบของพวกเขาที่นี่ คำตอบนี้ควรรวมการโพสต์ reddit (ฉันทำให้ชุมชนเป็นวิกิดังนั้นฉันจึงไม่ได้รับคะแนน)

• การเข้ารหัสอัตโนมัติ Bay Variationsคือการรวมกันของเครือข่าย Bayes และเครือข่ายประสาท กระดาษBayesian Convolutional Neural Networks กับ Bernoulli การอนุมาน Variational Inference โดยประมาณดูเหมือนว่าจะไปในทิศทางเดียวกัน
• การออกกลางคัน: วิธีง่ายๆในการป้องกันเครือข่ายประสาทจากการมีส่วนเกินเป็นตัวอย่างที่เครือข่ายประสาทแบบเบย์มีประสิทธิภาพเหนือกว่าวิธีการออกกลางคัน (ดูหัวข้อ 6.4 "การเปรียบเทียบกับเครือข่ายประสาทแบบเบย์")
• การเรียนรู้แนวความคิดระดับมนุษย์ผ่านการเหนี่ยวนำโปรแกรมน่าจะเป็นกระดาษ "บนเครือข่ายเบย์แบบเบียนที่จัดหมวดหมู่ด้วยการยิงครั้งเดียวซึ่งมีประสิทธิภาพสูงกว่าเครือข่ายประสาทเทียม" (จากถังขยะ 123123 - ตอนนี้ฉันไม่ได้ตรวจสอบเลย)
• Yann LeCun เขียนโพสต์ Google+ซึ่งเขาอ้างว่าเครือข่ายประสาทและโมเดลกราฟิกความน่าจะเป็นไม่ใช่แนวความคิดมุมฉาก

เครือข่ายแบบเบย์เป็นที่ต้องการสำหรับการตีความจีโนม ตัวอย่างเช่นดูวิทยานิพนธ์นี้พูดถึงวิธีการคำนวณสำหรับการตีความจีโนม

ฉันทำตัวอย่างเล็ก ๆ ครั้งนี้ จากนั้นฉันคิดว่า Bayesian Networks เป็นที่ต้องการหากคุณต้องการจับภาพการกระจาย แต่ชุดฝึกอบรมการป้อนข้อมูลของคุณไม่ครอบคลุมการกระจายที่ดี ในกรณีเช่นนี้แม้แต่เครือข่ายประสาทที่ทำให้การกระจายทั่วไปไม่สามารถสร้างการกระจายได้

ฉันไม่เห็นด้วยอย่างยิ่งที่อวนประสาททำดีแล้วผู้เรียนคนอื่น ๆ ในความเป็นจริงมุ้งอวนทำออกมาได้ไม่ดีเมื่อเทียบกับวิธีอื่น นอกจากนี้ยังไม่มีวิธีการแม้จะมีคำแนะนำในการเลือกพารามิเตอร์ที่ผึ้งชนิดนี้ทำบ่อยครั้งโดยบังเอิญ นอกจากนี้ยังมีเป็ดบางตัวที่พูดคุยแบบสุ่มในฟอรัมเกี่ยวกับวิธีการที่มุ้งที่ดีมากไม่ใช่เพราะพวกเขามีหลักฐานบางอย่างเกี่ยวกับเรื่องนั้น แต่เพราะพวกเขาสนใจเรื่องคำแฟนซี คุณลองใช้โครงข่ายประสาทเพื่อเปรียบเทียบกับ xgboost หรือไม่ฉันจะไม่ลองใช้โครงข่ายประสาทใด ๆ จนกว่ามันจะเป็นตัวเองที่มีสติสัมปชัญญะ. ดังนั้นจนกว่าจะถึงเวลานั้นการสร้างความสุขให้กับระบบประสาท :)