Bayesian กับการตีความความน่าจะเป็นบ่อยครั้ง

ใครสามารถให้บทสรุปที่ดีเกี่ยวกับความแตกต่างระหว่าง Bayesian กับแนวทางความน่าจะเป็นที่เกิดขึ้นเป็นประจำ

จากสิ่งที่ฉันเข้าใจ:

มุมมองผู้ใช้บ่อยคือข้อมูลเป็นตัวอย่างแบบสุ่มที่ทำซ้ำได้ (ตัวแปรสุ่ม) ที่มีความถี่ / ความน่าจะเป็นเฉพาะ (ซึ่งถูกกำหนดให้เป็นความถี่สัมพัทธ์ของเหตุการณ์เมื่อจำนวนการทดลองเข้าใกล้อนันต์) พารามิเตอร์พื้นฐานและความน่าจะเป็นยังคงที่ในระหว่างกระบวนการทำซ้ำนี้และการเปลี่ยนแปลงนั้นเกิดจากความแปรปรวนในและไม่ใช่การแจกแจงความน่าจะเป็น (ซึ่งได้รับการแก้ไขสำหรับเหตุการณ์ / กระบวนการที่แน่นอน)$X_n$

มุมมองแบบเบย์คือข้อมูลได้รับการแก้ไขในขณะที่ความถี่ / ความน่าจะเป็นสำหรับเหตุการณ์บางอย่างสามารถเปลี่ยนได้ซึ่งหมายความว่าพารามิเตอร์ของการกระจายการเปลี่ยนแปลง ผลข้อมูลที่คุณได้รับการเปลี่ยนแปลงการกระจายก่อนหน้าของพารามิเตอร์ที่ได้รับการปรับปรุงสำหรับชุดข้อมูลแต่ละชุด

สำหรับฉันดูเหมือนว่าวิธีปฏิบัติบ่อยครั้งนั้นใช้งานได้จริง / มีเหตุผลมากกว่าเพราะมันสมเหตุสมผลว่าเหตุการณ์มีความเป็นไปได้ที่เฉพาะเจาะจงและการเปลี่ยนแปลงนั้นอยู่ในการสุ่มตัวอย่างของเรา

นอกจากนี้การวิเคราะห์ข้อมูลส่วนใหญ่จากการศึกษามักจะทำโดยใช้วิธีการแบบประจำ (เช่นช่วงความมั่นใจการทดสอบสมมติฐานด้วยค่า p ฯลฯ ) เนื่องจากสามารถเข้าใจได้ง่าย

ฉันแค่สงสัยว่าจะมีใครสรุปสรุปการตีความของพวกเขาเกี่ยวกับวิธีการแบบเบส์ vs บ่อยครั้งหรือไม่รวมถึงค่าทางสถิติแบบเบส์ของค่า p-value และช่วงความมั่นใจ นอกจากนี้ตัวอย่างที่เฉพาะเจาะจงของวิธีการที่ 1 จะได้รับการชื่นชมมากกว่าวิธีอื่น ๆ

ในวิธีการบ่อยมันถูกกล่าวหาว่ามีเพียงความรู้สึกที่น่าจะมีความหมายคือการ จำกัด มูลค่าของจำนวนของความสำเร็จในลำดับของการทดลองคือ

โดยที่คือจำนวนของความสำเร็จและคือจำนวนของการทดลอง โดยเฉพาะอย่างยิ่งมันไม่ได้ทำให้ความรู้สึกใด ๆ ที่จะเชื่อมโยงการกระจายความน่าจะเป็นที่มีพารามิเตอร์$k$$n$

ตัวอย่างเช่นลองพิจารณาตัวอย่างจากการแจกแจงเบอร์นูลลีด้วยพารามิเตอร์ (นั่นคือพวกเขามีค่า 1 ด้วยความน่าจะเป็นและ 0 กับความน่าจะเป็น ) เราสามารถกำหนดอัตราความสำเร็จของตัวอย่างได้$X_1, \dots, X_n$$p$$p$$1-p$

และพูดคุยเกี่ยวกับการกระจายของเงื่อนไขในค่าของแต่มันก็ไม่ได้ทำให้ความรู้สึกที่จะกลับคำถามและเริ่มต้นการพูดคุยเกี่ยวกับการกระจายความน่าจะเป็นของเงื่อนไขในค่าสังเกตของ{p} โดยเฉพาะอย่างยิ่งนี่หมายความว่าเมื่อเราคำนวณช่วงความมั่นใจเราตีความจุดสิ้นสุดของช่วงความมั่นใจเป็นตัวแปรสุ่มและเราพูดถึง "ความน่าจะเป็นที่ช่วงเวลานั้นรวมพารามิเตอร์จริง" แทนที่จะเป็น "ความน่าจะเป็นที่พารามิเตอร์นั้น" ภายในช่วงความมั่นใจ "$\hat{p}$$p$$p$$\hat{p}$

ในวิธีการแบบเบย์เราตีความการแจกแจงความน่าจะเป็นการประเมินความไม่แน่นอนเกี่ยวกับโลก โดยเฉพาะอย่างยิ่งนี่หมายความว่าตอนนี้เราสามารถพูดคุยอย่างมีความหมายเกี่ยวกับการแจกแจงความน่าจะเป็นของพารามิเตอร์เนื่องจากแม้ว่าพารามิเตอร์จะได้รับการแก้ไขความรู้ของเราเกี่ยวกับมูลค่าที่แท้จริงของมันอาจถูก จำกัด ในตัวอย่างข้างต้นเราสามารถคว่ำการแจกแจงความน่าจะเป็นโดยใช้กฎของเบย์$f(\hat{p}\mid p)$

อุปสรรค์คือว่าเรามีที่จะแนะนำก่อนการจัดจำหน่ายในการวิเคราะห์ของเรา - นี้สะท้อนให้เห็นถึงความเชื่อของเราเกี่ยวกับคุณค่าของก่อนที่จะเห็นค่าที่แท้จริงของx_iบทบาทของบทก่อนมักถูกวิพากษ์วิจารณ์ในวิธีการของนักเคลื่อนไหวบ่อยๆเนื่องจากมันเป็นที่ถกเถียงกันอยู่ว่ามันได้นำเสนอความเป็นส่วนตัวเข้าสู่โลกแห่งความเป็นไปได้ที่เข้มงวดและเป็นวัตถุ$p$$X_i$

ในวิธีการแบบเบย์ไม่มีใครพูดถึงช่วงความมั่นใจอีกต่อไป แต่แทนที่จะเป็นช่วงเวลาที่น่าเชื่อถือซึ่งมีการตีความที่เป็นธรรมชาติมากขึ้น - กำหนดช่วงเวลาที่น่าเชื่อถือ 95% เราสามารถกำหนดความน่าจะเป็น 95% ที่พารามิเตอร์อยู่ภายในช่วงเวลา

คุณถูกต้องเกี่ยวกับการตีความความน่าจะเป็นของนักความถี่: การสุ่มในการตั้งค่านี้เกิดจากการสุ่มตัวอย่างที่ไม่สมบูรณ์เท่านั้น จากความเป็นไปได้ของมุมมองแบบเบย์คือ "อัตนัย" ซึ่งสะท้อนให้เห็นถึงความไม่แน่นอนของตัวแทนเกี่ยวกับโลก มันไม่ถูกต้องนักที่จะบอกว่าพารามิเตอร์ของการแจกแจง "การเปลี่ยนแปลง" เนื่องจากเราไม่มีข้อมูลที่ครบถ้วนเกี่ยวกับพารามิเตอร์ความไม่แน่นอนของเราเกี่ยวกับพวกเขาจึงเปลี่ยนไปเมื่อเรารวบรวมข้อมูลเพิ่มเติม

การตีความทั้งสองมีประโยชน์ในแอปพลิเคชั่นซึ่งมีประโยชน์มากกว่านั้นขึ้นอยู่กับสถานการณ์ คุณอาจตรวจสอบบล็อกของ Andrew Gelmanสำหรับแนวคิดเกี่ยวกับแอปพลิเคชันแบบเบย์ ในหลาย ๆ สถานการณ์สิ่งที่ชาวเบเซียนเรียกว่า "นักบวช" ผู้ถี่ถ้วนเรียกว่า ในความเป็นจริงตามทฤษฎีบทของ Bernstein-von Mises การอนุมานแบบเบย์และบ่อยครั้งนั้นเทียบเท่ากับ asymptotically ภายใต้สมมติฐานที่ค่อนข้างอ่อน คุณสามารถค้นหาการฆ่าของการอ้างอิงเกี่ยวกับเรื่องนี้ที่นี่

เนื่องจากคุณถามถึงการตีความ: ฉันคิดว่ามุมมองของผู้นิยมใช้บ่อยเป็นเรื่องที่สมเหตุสมผลเมื่อสร้างแบบจำลองการทดลองทางวิทยาศาสตร์ตามที่ออกแบบมาเพื่อทำ สำหรับบางแอปพลิเคชันในการเรียนรู้ของเครื่องหรือสำหรับการสร้างแบบจำลองการให้เหตุผลเชิงอุปนัย (หรือการเรียนรู้) ความน่าจะเป็นแบบเบย์ทำให้ฉันมีความสมเหตุสมผลมากขึ้น มีหลายสถานการณ์ที่การสร้างแบบจำลองเหตุการณ์ที่มีความน่าจะเป็นคงที่ "จริง" ดูเหมือนจะไม่น่าเชื่อถือ

สำหรับตัวอย่างของเล่นกลับไปที่ Laplaceให้พิจารณาความน่าจะเป็นที่ดวงอาทิตย์ขึ้นในวันพรุ่งนี้ จากมุมมองของนักถี่ถี่ทั่วไปเราต้องวางบางสิ่งเช่นจักรวาลที่ไม่มีที่สิ้นสุดเพื่อกำหนดความน่าจะเป็น ในฐานะ Bayesians มีเพียงจักรวาลเดียว (หรืออย่างน้อยก็ไม่จำเป็นต้องมีมากมาย) ความไม่แน่นอนของเราเกี่ยวกับดวงอาทิตย์ที่เพิ่มขึ้นนั้นถูกบดบังด้วยความเชื่อที่แข็งแกร่งและแข็งแกร่งของเราก่อนหน้านี้ว่ามันจะเพิ่มขึ้นอีกครั้งในวันพรุ่งนี้

การตีความความน่าจะเป็นแบบเบย์เป็นการตีความระดับความเชื่อ

คชกรรมอาจกล่าวได้ว่าน่าจะเป็นที่มีสิ่งมีชีวิตบนดาวอังคารเป็นพันล้านปีที่ผ่านมาเป็น1/2$1/2$

ผู้ถี่ประจำจะปฏิเสธที่จะกำหนดความน่าจะเป็นให้กับข้อเสนอนั้น ไม่ใช่สิ่งที่อาจกล่าวได้ว่าเป็นจริงในครึ่งหนึ่งของทุกกรณีดังนั้นจึงไม่สามารถกำหนดความน่าจะเป็นได้$1/2$

คริสให้คำอธิบายง่ายๆที่ดีที่จะแยกความน่าจะเป็นของทั้งสองวิธีให้เหมาะสม แต่ทฤษฏีความน่าจะเป็นบ่อยๆนั้นเป็นมากกว่าแค่การมองสัดส่วนระยะยาวของความสำเร็จ นอกจากนี้เรายังพิจารณาข้อมูลที่สุ่มตัวอย่างจากการแจกแจงและการประมาณค่าพารามิเตอร์ของการแจกแจงเช่นค่าเฉลี่ยและความแปรปรวนโดยการหาค่าเฉลี่ยของข้อมูลบางประเภท (เช่นสำหรับค่าเฉลี่ยมันคือค่าเฉลี่ยเลขคณิตของการสังเกต) ด้วยค่าประมาณที่เรียกว่าการกระจายตัวตัวอย่าง

ในทฤษฎีความถี่เราสามารถแสดงพารามิเตอร์เช่นค่าเฉลี่ยที่ถ่ายโดยค่าเฉลี่ยจากตัวอย่างที่ค่าประมาณจะมาบรรจบกับพารามิเตอร์จริง การกระจายการสุ่มตัวอย่างใช้เพื่ออธิบายว่าค่าประมาณใกล้เคียงกับพารามิเตอร์สำหรับขนาดตัวอย่างคงที่ใด ๆ n การปิดถูกกำหนดโดยการวัดความแม่นยำ (เช่นค่าเฉลี่ยความคลาดเคลื่อนกำลังสอง)

ที่ Chris ชี้ให้เห็นถึงพารามิเตอร์ใด ๆ เช่นค่าเฉลี่ยของ Bayesian แนบการกระจายความน่าจะเป็นก่อนหน้านี้ไว้ จากนั้นให้กฎของ Data Bayes ถูกใช้เพื่อคำนวณการแจกแจงหลังสำหรับพารามิเตอร์ สำหรับ Bayesian การอนุมานทั้งหมดเกี่ยวกับพารามิเตอร์จะขึ้นอยู่กับการกระจายหลัง

ผู้ใช้บ่อยสร้างช่วงความมั่นใจซึ่งเป็นช่วงเวลาของค่าที่เป็นไปได้สำหรับพารามิเตอร์ การก่อสร้างของพวกเขาขึ้นอยู่กับความน่าจะเป็นที่เกิดขึ้นบ่อยครั้งซึ่งหากกระบวนการที่ใช้ในการสร้างช่วงเวลานั้นถูกทำซ้ำหลายครั้งสำหรับตัวอย่างอิสระสัดส่วนของช่วงเวลาที่จะรวมมูลค่าที่แท้จริงของพารามิเตอร์จะเป็นระดับความเชื่อมั่นอย่างน้อย )

Bayesians ใช้การกระจาย posteriori สำหรับพารามิเตอร์เพื่อสร้างภูมิภาคที่น่าเชื่อถือ สิ่งเหล่านี้เป็นเพียงภูมิภาคในพื้นที่พารามิเตอร์ซึ่งการกระจายของหลังถูกรวมเข้าด้วยกันเพื่อให้ได้ความน่าจะเป็นที่ได้รับการกำหนดล่วงหน้า (เช่น 0.95) ภูมิภาคที่น่าเชื่อถือถูกตีความโดย Bayesians เป็นภูมิภาคที่มีความน่าจะเป็นสูง (เช่น 0.95 ที่กำหนดไว้ล่วงหน้า) ของการรวมถึงมูลค่าที่แท้จริงของพารามิเตอร์

จากมุมมองของ "โลกแห่งความจริง" ฉันพบความแตกต่างที่สำคัญอย่างหนึ่งระหว่างผู้ใช้บ่อยกับการแก้ปัญหาแบบคลาสสิคหรือแบบเบย์ที่ใช้กับสถานการณ์หลักอย่างน้อยสามสถานการณ์ ความแตกต่างในการเลือกวิธีการขึ้นอยู่กับว่าคุณต้องการโซลูชันที่ได้รับผลกระทบจากความน่าจะเป็นของประชากรหรืออย่างใดอย่างหนึ่งที่ได้รับผลกระทบจากความน่าจะเป็นของแต่ละบุคคล ตัวอย่างด้านล่าง:

1. หากมีความเป็นไปได้ 5% ที่ทราบว่าผู้ชายที่อายุมากกว่า 40 ปีจะตายในปีหนึ่งและต้องการเงินประกันชีวิต บริษัท ประกันภัยสามารถใช้อัตราร้อยละ 5% ของประชากรเพื่อประเมินค่าใช้จ่าย แต่จะบอกว่าผู้ชายแต่ละคนที่มีอายุมากกว่า 40 โอกาส 5% ที่กำลังจะตาย ... ไม่มีความหมาย ... เนื่องจาก 5% มีโอกาสตาย 100% - ซึ่งเป็นวิธีการที่พบบ่อย ในแต่ละระดับเหตุการณ์นั้นเกิดขึ้น (ความน่าจะเป็น 100%) หรือมันไม่ (ความน่าจะเป็น 0%) อย่างไรก็ตามจากข้อมูลที่ จำกัด นี้มันเป็นไปไม่ได้ที่จะทำนายบุคคลที่มีโอกาสตาย 100% และ 5 ความน่าจะเป็นของประชากร "เฉลี่ย" นั้นไร้ประโยชน์ในระดับบุคคล

2. อาร์กิวเมนต์ด้านบนมีผลกับไฟในอาคารอย่างเท่าเทียมกันซึ่งเป็นเหตุผลที่ว่าทำไมต้องมีสปริงเกลอร์ในอาคารทุกหลังในประชากร

3. ข้อโต้แย้งทั้งสองข้างต้นนำไปใช้อย่างเท่าเทียมกันเช่นกันกับระบบสารสนเทศความเสียหายหรือ "แฮ็ก" เปอร์เซ็นต์ของประชากรนั้นไร้ประโยชน์ดังนั้นระบบทั้งหมดจึงต้องได้รับการปกป้อง

ทางเลือกของการตีความขึ้นอยู่กับคำถาม หากคุณต้องการทราบอัตราต่อรองในเกมแห่งโอกาสการตีความแบบดั้งเดิมจะช่วยแก้ปัญหาของคุณ แต่ข้อมูลเชิงสถิติไม่มีประโยชน์เนื่องจากลูกเต๋าที่ยุติธรรมไม่มีหน่วยความจำ

หากคุณต้องการคาดการณ์เหตุการณ์ในอนาคตจากประสบการณ์ที่ผ่านมาการตีความบ่อยครั้งนั้นถูกต้องและเพียงพอ

หากคุณไม่ทราบว่ามีเหตุการณ์ในอดีตเกิดขึ้นหรือไม่และต้องการประเมินความน่าจะเป็นที่เกิดขึ้นคุณต้องใช้ความเชื่อเดิมของคุณนั่นคือสิ่งที่คุณรู้อยู่แล้วเกี่ยวกับโอกาสของเหตุการณ์ที่จะเกิดขึ้นและอัปเดตความเชื่อของคุณ ข้อมูลใหม่

เนื่องจากคำถามเกี่ยวกับระดับของความเชื่อและแต่ละคนอาจมีความคิดที่แตกต่างกันเกี่ยวกับนักบวช