เหตุใดสถิติแบบเบย์จึงกลายเป็นหัวข้อวิจัยที่ได้รับความนิยมมากขึ้นเรื่อย ๆ [ปิด]

การสืบค้นในพื้นที่วิจัยของโปรแกรมสถิติของ US News 100 อันดับแรกเกือบทั้งหมดเป็นสถิติเบย์ อย่างไรก็ตามถ้าฉันไปโรงเรียนชั้นล่างพวกเขาส่วนใหญ่ยังคงทำการวิจัยสถิติแบบดั้งเดิม / บ่อยครั้ง ตัวอย่างเช่นโรงเรียนปัจจุบันของฉัน (อันดับระหว่าง 150 ถึง 200 ในการจัดอันดับ QS โลกสำหรับสถิติจึงไม่ถือว่าเป็นโรงเรียนระดับชั้นนำ) มีอาจารย์เพียงคนเดียวที่มุ่งเน้นไปที่สถิติแบบเบย์และเกือบจะมีความแค้นต่อสถิติแบบเบย์ นักเรียนระดับปริญญาตรีบางคนที่ฉันได้พูดคุยด้วยถึงแม้จะบอกว่านักสถิติแบบเบย์กำลังทำสถิติแบบเบย์เพื่อประโยชน์ของมันซึ่งแน่นอนว่าฉันไม่เห็นด้วยอย่างยิ่ง

อย่างไรก็ตามฉันสงสัยว่าทำไมในกรณีนี้ ฉันมีการคาดเดาการศึกษาหลายประการ:

(a) มีที่ว่างไม่เพียงพอสำหรับความก้าวหน้าในวิธีการทางสถิติแบบคลาสสิก / บ่อยครั้งและการวิจัยเชิงปฏิบัติเพียงอย่างเดียวในการวิจัยสถิติแบบคลาสสิก / บ่อยครั้งอยู่ในแอปพลิเคชันซึ่งจะเป็นจุดสนใจหลักของโรงเรียนระดับล่าง มีแนวโน้มไปสู่การวิจัยเชิงทฤษฎีและระเบียบวิธี

(b) มันขึ้นอยู่กับสนามหนัก สาขาสถิติบางสาขาเหมาะสำหรับสถิติแบบเบย์เช่นการประยุกต์ใช้วิธีการทางวิทยาศาสตร์จำนวนมากในขณะที่สาขาอื่นเหมาะสำหรับสถิติแบบดั้งเดิมเช่นพื้นที่ทางการเงิน (แก้ไขฉันถ้าฉันผิด) ด้วยเหตุนี้ฉันคิดว่าโรงเรียนระดับชั้นนำมีสถิติมากมายที่ใช้งานแอพพลิเคชั่นในสาขาวิทยาศาสตร์ในขณะที่แผนกสถิติชั้นล่างของโรงเรียนส่วนใหญ่มุ่งเน้นการใช้งานในด้านการเงิน และเงินทุน

(c) มีปัญหาใหญ่ ๆ เกี่ยวกับวิธีการที่ใช้บ่อยซึ่งไม่สามารถแก้ไขได้เช่นแนวโน้มที่จะเกิด MLE มากเกินไปเป็นต้นและดูเหมือนว่า Bayesian จะให้คำตอบที่ยอดเยี่ยม

(d) พลังการคำนวณอยู่ที่นี่ดังนั้นการคำนวณแบบเบย์ไม่ได้เป็นคอขวดอีกต่อไปเมื่อ 30 ปีที่แล้ว

(e) สิ่งนี้อาจเป็นการเดาที่มีความคิดเห็นมากที่สุดที่ฉันมี มีการต่อต้านจากนักสถิติคลาสสิก / บ่อยครั้งที่ไม่ชอบวิธีการคลื่นลูกใหม่ที่อาจเอาชนะบทบาทของสถิติแบบดั้งเดิมได้ แต่อย่างที่ Larry Wasserman กล่าวขึ้นอยู่กับสิ่งที่เราพยายามทำและทุกคนควรมีใจที่เปิดกว้างโดยเฉพาะในฐานะนักวิจัย

โดยส่วนตัวแล้วฉันจะลองเดาดูสักสองสามข้อ:

(1) สถิติแบบเบย์มองเห็นความนิยมอย่างมากในช่วงสองสามทศวรรษที่ผ่านมา ส่วนหนึ่งเกิดจากความก้าวหน้าใน MCMC และการปรับปรุงทรัพยากรการคำนวณ สถิติแบบเบย์มาจากการที่ดีในทางทฤษฎี แต่ใช้ได้กับปัญหาของเล่นไปจนถึงแนวทางที่สามารถนำไปใช้ในระดับสากลได้มากขึ้น ซึ่งหมายความว่าเมื่อหลายปีก่อนการบอกว่าคุณทำงานกับสถิติแบบเบย์อาจทำให้คุณได้รับค่าจ้างที่แข่งขันได้มาก

ตอนนี้ฉันจะบอกว่าสถิติแบบเบย์ยังคงเป็นบวก แต่เพื่อแก้ไขปัญหาที่น่าสนใจโดยไม่ต้องใช้วิธีแบบเบย์ การขาดความรู้พื้นฐานในสถิติแบบเบย์อาจเป็นลบต่อคณะกรรมการการจ้างงานส่วนใหญ่ แต่การได้รับปริญญาเอกด้านสถิติโดยไม่ได้รับการฝึกฝนอย่างเพียงพอในวิธีการแบบเบย์จะน่าแปลกใจทีเดียว

(2) นักสถิติแบบเบย์จะกล่าวถึง "Bayesian" ในประวัติย่อของพวกเขา ผู้ใช้บ่อยจะไม่ใส่ "ผู้นิยมใช้บ่อย" ในประวัติย่อของพวกเขา แต่โดยทั่วไปแล้วพื้นที่ที่พวกเขาทำงานอยู่ (เช่นการวิเคราะห์การอยู่รอดการสร้างแบบจำลองการพยากรณ์การพยากรณ์ ฯลฯ ) ตัวอย่างเช่นงานของฉันจำนวนมากกำลังเขียนอัลกอริธึมการเพิ่มประสิทธิภาพซึ่งฉันเดาว่าคุณจะพูดว่าหมายความว่าฉันทำงานเป็นประจำ ฉันได้เขียนอัลกอริทึมแบบเบย์ที่เป็นธรรมเช่นกัน แต่ก็เป็นงานส่วนน้อยของฉัน สถิติแบบเบย์อยู่ในประวัติส่วนตัวของฉัน, สถิติผู้ใช้บ่อยไม่ใช่

(3) สิ่งที่คุณพูดในคำถามของคุณมีความจริงเช่นกัน การคำนวณแบบเบย์แบบทั่วไปที่มีประสิทธิภาพนั้นมีปัญหาแบบเปิดมากกว่าในขอบเขตของการเป็นผู้ใช้บ่อย ตัวอย่างเช่น Hamiltonian Monte Carlo เมื่อเร็ว ๆ นี้ได้กลายเป็นอัลกอริทึมที่น่าตื่นเต้นมากสำหรับการสุ่มตัวอย่างแบบทั่วไปจากแบบจำลองเบย์ ไม่มีที่ว่างมากมายสำหรับการปรับปรุงทั่วไปการเพิ่มประสิทธิภาพวันนี้; อัลกอรึทึม Raphson, L-BFGS และ EM ครอบคลุมฐานจำนวนมาก ถ้าคุณต้องการที่จะปรับปรุงวิธีการเหล่านี้โดยทั่วไปคุณต้องมีความเชี่ยวชาญอย่างมากกับปัญหา เช่นนี้คุณชอบพูดว่า "ฉันทำงานเกี่ยวกับการเพิ่มประสิทธิภาพมิติของโมเดลเชิงพื้นที่" มากกว่า "ฉันทำงานในการประมาณค่าความน่าจะเป็นมิติสูงที่สุด" โลกแห่งการเรียนรู้ของเครื่องนั้นเป็นข้อยกเว้นเนื่องจากมีความตื่นเต้นอย่างมากในการค้นหาวิธีการเพิ่มประสิทธิภาพแบบสุ่ม (เช่น SGD, Adam, ฯลฯ ) แต่นั่นเป็นสัตว์ที่แตกต่างกันเล็กน้อยด้วยเหตุผลบางประการ

ในทำนองเดียวกันมีงานที่ต้องทำเพื่อหาตัวนักบวชชั้นดี วิธีการ frequentist ทำมีเทียบเท่านี้ (ขึ้นมาพร้อมกับบทลงโทษที่ดีคือเชือก glmnet) แต่มีพื้นดินอาจจะมีความอุดมสมบูรณ์มากขึ้นสำหรับไพรเออร์มากกว่าการลงโทษ

(4) ในที่สุดและนี่เป็นความเห็นส่วนตัวที่แน่นอนผู้คนจำนวนมากเชื่อมโยงกับผู้ใช้บ่อยกับ p-values เมื่อพิจารณาจากการใช้ค่า p ในทางที่ผิดทั่วไปนักสถิติจำนวนมากก็ชอบที่จะทำตัวให้ห่างไกลจากการใช้ค่า p ในทางที่ผิดในปัจจุบัน