ลองคิดเหมือนเบย์เซียนลองดูบ่อยครั้ง: นั่นหมายความว่ายังไง?

ฉันกำลังดูสไลด์บรรยายในหลักสูตรวิทยาศาสตร์ข้อมูลที่สามารถพบได้ที่นี่:

https://github.com/cs109/2015/blob/master/Lectures/01-Introduction.pdf

ฉันโชคไม่ดีที่ไม่สามารถดูวิดีโอสำหรับการบรรยายนี้และ ณ จุดหนึ่งบนสไลด์พรีเซนเตอร์มีข้อความต่อไปนี้:

หลักการสำคัญบางประการ

คิดเหมือนชาว Bayesian ทำเครื่องหมายเหมือนเป็นผู้ใช้บ่อย (การกระทบยอด)

ไม่มีใครรู้ว่าสิ่งที่จริงหมายถึงอะไร ฉันมีความรู้สึกว่ามีความเข้าใจที่ดีเกี่ยวกับโรงเรียนแห่งความคิดสองแห่งที่จะรวบรวมจากสิ่งนี้

ความแตกต่างที่สำคัญระหว่าง Bayesian และโรงเรียนสถิติเกิดขึ้นเนื่องจากความแตกต่างในการตีความของความน่าจะเป็น ความน่าจะเป็นแบบเบย์คือคำแถลงเกี่ยวกับความเชื่อส่วนบุคคลที่เหตุการณ์ (หรือมี) เกิดขึ้น ความน่าจะเป็นประจำคือคำสั่งเกี่ยวกับสัดส่วนของเหตุการณ์ที่คล้ายกันที่เกิดขึ้นในขีด จำกัด เมื่อจำนวนเหตุการณ์เหล่านั้นเพิ่มขึ้น

สำหรับฉัน "การคิดแบบเบย์" หมายถึงการอัปเดตความเชื่อส่วนตัวของคุณเมื่อมีข้อมูลใหม่เกิดขึ้นและ "ตรวจสอบ [หรือกังวล] เหมือนผู้ใช้บ่อย" หมายถึงการเกี่ยวข้องกับประสิทธิภาพของกระบวนการทางสถิติที่รวบรวมตลอดเวลาที่ใช้ เช่นความครอบคลุมของช่วงเวลาที่น่าเชื่อถืออัตราความผิดพลาดของ Type I / II คืออะไร ฯลฯ

สถิติแบบเบย์สรุปความเชื่อในขณะที่สถิติผู้ใช้บ่อยสรุปหลักฐาน ชาวเบย์มองว่าความน่าจะเป็นระดับความเชื่อ การใช้เหตุผลแบบรวมและแบบก่อกำเนิดนี้มีประโยชน์สำหรับการกำหนดสมมติฐาน ยกตัวอย่างเช่น Bayesians อาจกำหนดความน่าจะเป็นบางอย่างให้กับความคิดที่ว่าดวงจันทร์ทำจากชีสสีเขียวโดยไม่คำนึงว่านักบินอวกาศสามารถเดินทางไปที่นั่นเพื่อตรวจสอบสิ่งนี้ได้จริงหรือไม่ สมมติฐานนี้อาจได้รับการสนับสนุนจากแนวคิดที่ว่าจากระยะไกลดวงจันทร์จะมองเหมือนชีสสีเขียว บ่อยครั้งที่ผู้ตั้งสมมติฐานไม่สามารถตั้งสมมติฐานที่เป็นมากกว่าคนธรรมดาสามัญและพวกเขาไม่สามารถพูดได้ว่าหลักฐานสนับสนุนสมมติฐานหนึ่งมากกว่าอีกสมมติฐานหนึ่ง โอกาสสูงสุดแม้เพียงสร้างสถิติซึ่งเป็น "ที่สุดสอดคล้องกับสิ่งที่ถูกสังเกต" อย่างเป็นทางการสถิติแบบเบย์ช่วยให้เราคิดนอกกรอบและเสนอความคิดที่ป้องกันได้จากข้อมูล แต่นี่เป็นสมมติฐานที่สร้างขึ้นโดยธรรมชาติ

สถิติที่ใช้บ่อยที่สุดจะถูกนำมาใช้เพื่อยืนยันสมมติฐาน เมื่อการทดสอบดำเนินไปด้วยดีสถิติที่ใช้บ่อยจะให้บริบท "ผู้สังเกตการณ์อิสระ" หรือ "เชิงประจักษ์" ต่อการค้นพบโดยนักบวช ซึ่งสอดคล้องกับปรัชญาของ Karl Popper จุดของหลักฐานไม่ได้เป็นการประกาศความคิดบางอย่าง หลักฐานจำนวนมากสอดคล้องกับสมมติฐานที่ไม่ถูกต้อง หลักฐานที่เป็นเท็จสามารถทำให้เชื่อได้

อิทธิพลของนักบวชโดยทั่วไปถือว่าเป็นอคติในการใช้เหตุผลเชิงสถิติ ดังที่คุณทราบเราสามารถคิดหาเหตุผลมากมายว่าทำไมสิ่งต่าง ๆ เกิดขึ้น ในทางจิตวิทยาหลายคนเชื่อว่าอคติผู้สังเกตการณ์ของเราเป็นผลมาจากนักบวชในสมองของเราที่ทำให้เราไม่ต้องถ่วงน้ำหนักอย่างที่เห็น "ความหวังเมฆสังเกต" ในฐานะแม่สาธุคุณพูดในเนินทราย ตกใจทำให้ความคิดนี้เข้มงวด

สิ่งนี้มีความสำคัญทางประวัติศาสตร์ที่ยิ่งใหญ่ในการทดลองทางวิทยาศาสตร์ที่ยิ่งใหญ่ที่สุดในยุคของเรา ยกตัวอย่างเช่นจอห์นสโนว์ได้รวบรวมหลักฐานการระบาดของโรคอหิวาตกโรคอย่างพิถีพิถันและสรุปว่าอหิวาตกโรคไม่ได้เกิดจากการกีดกันทางศีลธรรมและชี้ให้เห็นว่าหลักฐานมีความสอดคล้องอย่างมากกับการปนเปื้อนของน้ำเสีย: หมายเหตุเขาไม่ได้สรุปสิ่งนี้หิมะค้นพบก่อนวันที่ค้นพบแบคทีเรียและไม่มีกลไกหรือความเข้าใจสาเหตุ พบวาทกรรมที่คล้ายกันในแหล่งกำเนิดของสายพันธุ์ เราไม่รู้จริง ๆ ว่าดวงจันทร์นั้นทำจากชีสสีเขียวหรือไม่จนกว่านักบินอวกาศจะตกลงสู่พื้นผิวและเก็บตัวอย่าง ณ จุดนั้นผู้โพสต์ของชาวเบย์ได้กำหนดความน่าจะเป็นที่ต่ำมากสำหรับความเป็นไปได้อื่น ๆ และผู้ที่ใช้บ่อยที่สุดสามารถกล่าวได้ว่าตัวอย่างไม่สอดคล้องกับสิ่งใดยกเว้นฝุ่นจากดวงจันทร์

โดยสรุปแล้วสถิติแบบเบย์นั้นสามารถคลี่คลายไปสู่การสร้างสมมติฐาน การทำให้มั่นใจว่าข้อมูลถูกรวบรวมอย่างอิสระในความพยายามเหล่านี้เป็นหนึ่งในความท้าทายที่ยิ่งใหญ่ที่สุดที่นักสถิติสมัยใหม่เผชิญ

ตามCliff ABความเห็นของ OP ดูเหมือนว่าพวกเขากำลังมุ่งหน้าสู่ปรัชญาของ Empirical Bayesian มีโรงเรียนแห่งความคิดหลักสามแห่งคือ Bayesian และEmpirical Bayesคาดการณ์นักบวชจากข้อมูล ที่ไม่สอดคล้องกับคำพูด (ซึ่งหมายถึง Bayes ล่วงหน้ากังวลเหมือนเหมือนกันบ่อยครั้งหลังจากนั้น) แต่เราไม่ควรมองข้ามCliff ABความคิดเห็นที่ยอดเยี่ยม

นอกจากนี้ยังมีและอาจเป็นโรงเรียนแห่งหนึ่งของ Bayesian คิดว่าคุณไม่จำเป็นต้องตรวจสอบอะไรหลังจากขั้นตอน Bayesian ความคิดที่ทันสมัยกว่านี้จะใช้การตรวจสอบแบบคาดการณ์ล่วงหน้าและบางทีวิธีตรวจสอบคำตอบของคุณแบบสองครั้งคือสิ่งที่คำพูดอ้างถึง

นอกจากนี้ปรัชญาที่เกี่ยวข้องกับขั้นตอนบ่อยครั้งมากกว่าการอนุมานจากข้อมูล ดังนั้นบางทีนั่นก็เป็นเงื่อนงำความหมายของคำพูดด้วย

ในบริบทของคลาสวิทยาศาสตร์ข้อมูลนี้การตีความ "ตรวจสอบเหมือนเป็นประจำ" ของฉันคือการที่คุณประเมินประสิทธิภาพของฟังก์ชันการทำนายหรือฟังก์ชันการตัดสินใจของคุณในข้อมูลการตรวจสอบที่ถูกระงับ คำแนะนำในการ "คิดแบบเบย์" เป็นการแสดงออกถึงความคิดเห็นที่ฟังก์ชั่นการทำนายที่ได้มาจากวิธีการแบบเบย์โดยทั่วไปจะให้ผลลัพธ์ที่ดี

ดูเหมือนว่า "คิดเหมือนแบบเบย์ตรวจสอบเหมือนเป็นผู้ใช้บ่อย" หมายถึงวิธีการหนึ่งในการออกแบบและวิเคราะห์ทางสถิติ ตามที่ฉันเข้าใจแล้วการคิดแบบเบย์เกี่ยวข้องกับความเชื่อบางอย่างเกี่ยวกับสถานการณ์ก่อนหน้านี้ (จากการทดลองหรือสถิติ) สมมติว่าตัวอย่างเช่นคะแนนการอ่านเฉลี่ยสำหรับนักเรียนชั้นประถม 4 เป็น 80 คำต่อนาทีและการแทรกแซงบางอย่างอาจเพิ่มขึ้นเป็น 90 คำต่อนาที . สิ่งเหล่านี้เป็นความเชื่อบนพื้นฐานของการศึกษาและสมมติฐานก่อนหน้านี้ การคิดเป็นประจำคาดการณ์การค้นพบ (ของการแทรกแซง) เพื่อให้ได้ช่วงความเชื่อมั่นหรือสถิติอื่น ๆ ที่อิงตามความถี่เชิงทฤษฎีและปฏิบัติหรือความน่าจะเป็นของผลลัพธ์เหล่านี้เกิดขึ้นอีกครั้ง (เช่นวิธี "บ่อย") ตัวอย่างเช่นคะแนนการอ่านหลังการแทรกแซงอาจเป็น 91 คำต่อนาทีโดยมีช่วงความมั่นใจ 95% ที่ 85-97 คำต่อนาทีและค่า p-value (ค่าความน่าจะเป็น) ที่เกี่ยวข้องซึ่งแตกต่างจากคะแนนก่อนการแทรกแซง ดังนั้น 95% ของเวลาคะแนนการอ่านใหม่จะอยู่ระหว่าง 85 ถึง 97 คำต่อนาทีหลังจากการแทรกแซง ดังนั้น "คิดว่าเป็น Bayesian" --- กล่าวคือตั้งทฤษฎีตั้งสมมติฐานดูหลักฐานก่อนหน้านี้และ "ตรวจสอบเหมือนเป็นประจำ" --- คือผลการทดลองเหล่านี้เกิดขึ้นบ่อยเพียงใดและมีแนวโน้มว่าจะเกิดขึ้นเนื่องจาก โอกาสมากกว่าการแทรกแซง คะแนนการอ่านใหม่จะอยู่ระหว่าง 85 ถึง 97 คำต่อนาทีหลังจากการแทรกแซง ดังนั้น "คิดว่าเป็น Bayesian" --- กล่าวคือตั้งทฤษฎีตั้งสมมติฐานดูหลักฐานก่อนหน้านี้และ "ตรวจสอบเหมือนเป็นประจำ" --- คือผลการทดลองเหล่านี้เกิดขึ้นบ่อยเพียงใดและมีแนวโน้มว่าจะเกิดขึ้นเนื่องจาก โอกาสมากกว่าการแทรกแซง คะแนนการอ่านใหม่จะอยู่ระหว่าง 85 ถึง 97 คำต่อนาทีหลังจากการแทรกแซง ดังนั้น "คิดว่าเป็น Bayesian" --- กล่าวคือตั้งทฤษฎีตั้งสมมติฐานดูหลักฐานก่อนหน้านี้และ "ตรวจสอบเหมือนเป็นประจำ" --- คือผลการทดลองเหล่านี้เกิดขึ้นบ่อยเพียงใดและมีแนวโน้มว่าจะเกิดขึ้นเนื่องจาก โอกาสมากกว่าการแทรกแซง