ตัวประมาณเบย์นั้นมีภูมิคุ้มกันต่อการเลือกอคติ

ตัวประมาณของ Bayes มีภูมิคุ้มกันต่อการเลือกอคติหรือไม่?

เอกสารส่วนใหญ่ที่กล่าวถึงการประมาณค่าในมิติที่สูงเช่นข้อมูลลำดับจีโนมทั้งหมดมักจะทำให้เกิดปัญหาอคติในการคัดเลือก ความลำเอียงที่เลือกเกิดขึ้นจากข้อเท็จจริงที่ว่าแม้ว่าเรามีผู้ทำนายที่มีศักยภาพหลายพันคนเท่านั้นที่จะได้รับการคัดเลือกเพียงไม่กี่คนเท่านั้น ดังนั้นกระบวนการจึงมีสองขั้นตอน: (1) เลือกชุดย่อยของตัวทำนาย (2) ทำการอนุมานบนชุดที่เลือกเช่นประมาณอัตราต่อรอง Dawid ในกระดาษที่ขัดกันในปี 1994 ของเขามุ่งเน้นไปที่ตัวประมาณค่าที่เป็นกลางและตัวประมาณ Bayes เขาลดความยุ่งยากของปัญหาในการเลือกเอฟเฟกต์ที่ใหญ่ที่สุดซึ่งอาจเป็นผลการรักษา จากนั้นเขาก็บอกว่าตัวประมาณที่ไม่เอนเอียงได้รับผลกระทบจากอคติการคัดเลือก เขาใช้ตัวอย่าง: สมมติว่า จากนั้นแต่ละอัน

Z_{i} \sim N (δ_{i}, 1), i = 1, \dots, N

$Z_i\sim N(\delta_i,1),\quad i=1,\ldots,N$

Z_{i}

$Z_i$ เป็นกลางสำหรับ\ปล่อย , ตัวประมาณ อย่างไรก็ตามเอนเอียง ( บวก) สำหรับ

\} ข้อความนี้สามารถพิสูจน์ได้อย่างง่ายดายด้วยความไม่เท่าเทียมของ Jensen ดังนั้นหากเรารู้ว่า

ดัชนีของ

ใหญ่ที่สุดเราจะใช้

เป็นตัวประมาณซึ่งไม่เอนเอียง แต่เนื่องจากเราไม่ทราบสิ่งนี้เราจึงใช้

แทนซึ่งจะกลายเป็นความเอนเอียง (บวก)

δ_{i}

$\delta_i$

Z = (Z_{1}, Z_{2}, \dots, Z_{N})^{T}

$\mathbf{Z}=(Z_1,Z_2,\ldots,Z_N)^T$

γ_{1} (Z) = max {Z_{1}, Z_{2}, \dots, Z_{N}}

$\gamma_1(\mathbf{Z})=\max\{Z_1,Z_2,\ldots,Z_N\}$

max {δ_{1}, δ_{2}, \dots, δ_{N}}

$\max\{\delta_1,\delta_2,\ldots,\delta_N\}$

i_{max}

$i_{\max}$

δ_{i}

$\delta_i$

Z_{i_{max}}

$Z_{i_{\max}}$

γ_{1} (Z)

$\gamma_1(\mathbf{Z})$

แต่คำพูดที่น่าเป็นกังวลของดาวิน, เอฟฟรอนและผู้แต่งคนอื่น ๆ ก็คือตัวประมาณค่าของเบย์นั้นมีภูมิคุ้มกันต่อการเลือกอคติ ถ้าฉันจะวางก่อนหน้านี้บนพูดจากนั้นตัวประมาณค่าของ Bayes ของจะได้รับจาก โดยที่ , ด้วย Gaussian มาตรฐาน $\delta_i$ $\delta_i\sim g(.)$ $\delta_i$

E {δ_{i} ∣ Z_{i}} = z_{i} + \frac{d}{d z_{i}} m (z_{i})

$\text{E}\{\delta_i\mid Z_i\}=z_i+\frac{d}{dz_i}m(z_i)$

m (z_{i}) = \int φ (z_{i} - δ_{i}) g (δ_{i}) d δ_{i}

$m(z_i)=\int \varphi(z_i-\delta_i)g(\delta_i)d\delta_i$

φ (.)

$\varphi(.)$

หากเรากำหนดตัวประมาณใหม่ของเป็น สิ่งที่คุณเลือกที่จะประมาณการกับ , จะเหมือนถ้าเลือกอยู่บนพื้นฐานของ ครั้งนี้ตามเพราะเป็นเสียงเดียวในZ_iเรายังรู้ว่าย่อเข้าหาศูนย์ด้วยคำศัพท์, $\delta_{i_{\max}}$

γ_{2} (Z) = max {E {δ_{1} ∣ Z_{1}}, E {δ_{2} ∣ Z_{2}}, \dots, E {δ_{N} ∣ Z_{N}}},

$\gamma_2(\mathbf{Z})=\max\{\text{E}\{\delta_1\mid Z_1\},\text{E}\{\delta_2\mid Z_2\},\ldots,\text{E}\{\delta_N\mid Z_N\}\},$

i

$i$

δ_{i_{max}}

$\delta_{i_{\max}}$

γ_{1} (Z)

$\gamma_1(\mathbf{Z})$

i

$i$

γ_{2} (Z)

$\gamma_2(\mathbf{Z})$

γ_{2} (Z)

$\gamma_2(\mathbf{Z})$

Z_{i}

$Z_i$

E {δ_{i} ∣ Z_{i}}

$\text{E}\{\delta_i\mid Z_i\}$

Z_{i}

$Z_i$

\frac{d}{d z_{i}} m (z_{i})

$\frac{d}{dz_i}m(z_i)$ ซึ่งจะช่วยลดบางส่วนของอคติในเชิงบวกในZ_iแต่เราจะสรุปได้อย่างไรว่าตัวประมาณค่าของเบย์นั้นมีภูมิคุ้มกันต่อการเลือกอคติ ฉันไม่เข้าใจ

Z_{i}

$Z_i$

— Chamberlain Foncha
แหล่งที่มา

เนื่องจากคุณอ้างถึงการอ้างสิทธิ์ในวรรณคดีคุณสามารถโปรดให้สถานการณ์และการอ้างอิงหน้าเต็มเพื่อให้เราสามารถอ่านบริบททั้งหมดของการอ้างสิทธิ์นี้

— เบ็น - คืนสถานะโมนิก้า

การกำหนดตัวประมาณค่าเป็นค่าสูงสุดของตัวประมาณค่าแบบเบย์ยังคงเป็นตัวประมาณค่าแบบเบย์หรือไม่?

— ซีอาน

ตัวอย่างที่ 1 ในกระดาษ

— Chamberlain Foncha

คำตอบ:

ดังที่อธิบายไว้ข้างต้นปัญหานี้มาจากการอนุมานการวาดบนดัชนีและค่า (i⁰, μ⁰) ซึ่งเป็นค่าเฉลี่ยที่ใหญ่ที่สุดของตัวอย่าง rvs ปกติ สิ่งที่ฉันพบว่าน่าประหลาดใจในการนำเสนอของ Dawid คือการวิเคราะห์แบบเบย์ไม่ได้ฟังแบบเบย์มากนัก หากได้รับตัวอย่างทั้งหมดวิธีการแบบเบย์ควรสร้างการแจกแจงแบบหลัง (i⁰, μ⁰) แทนที่จะทำตามขั้นตอนการประมาณค่าจากการประมาณi⁰ถึงการประมาณค่าเฉลี่ยที่เกี่ยวข้อง และถ้าจำเป็นตัวประมาณควรมาจากนิยามของฟังก์ชันการสูญเสียที่เฉพาะเจาะจง เมื่อใดก็ตามที่กำหนดจุดที่ใหญ่ที่สุดในตัวอย่างและเฉพาะจุดนั้นเท่านั้นการกระจายตัวของมันก็เปลี่ยนไปดังนั้นฉันจึงค่อนข้างงงงวยกับคำแถลงว่าไม่จำเป็นต้องทำการปรับเปลี่ยน

การสร้างแบบจำลองก่อนหน้านี้ค่อนข้างน่าแปลกใจเช่นกันว่านักบวชที่ควรจะมีส่วนร่วมมากกว่าที่จะเป็นผลิตภัณฑ์ของบรรทัดฐานอิสระเนื่องจากวิธีการเหล่านี้มีการเปรียบเทียบและเปรียบเทียบได้ ตัวอย่างเช่นลำดับชั้นมาก่อนดูเหมือนจะเหมาะสมกว่าโดยมีสถานที่ตั้งและมาตราส่วนที่จะประมาณจากข้อมูลทั้งหมด การสร้างการเชื่อมต่อระหว่างหมายถึง ... การคัดค้านที่เกี่ยวข้องกับการใช้งานของนักบวชที่ไม่เหมาะสมอิสระก็คือค่าเฉลี่ยสูงสุดμ⁰นั้นจะไม่มีการวัดที่ชัดเจน อย่างไรก็ตามฉันไม่คิดว่าการวิพากษ์วิจารณ์ของนักบวชบางคนกับคนอื่นเป็นการโจมตีที่เกี่ยวข้องกับ "ความขัดแย้ง" นี้

— ซีอาน
แหล่งที่มา

ดูเหมือนกับฉันว่าการป้องกันที่จำเป็นทั้งหมดควรได้รับการเข้ารหัสไว้ก่อนหน้าซึ่งเชื่อมต่อทุกวิธีที่ไม่รู้จัก หากก่อนหน้านี้สร้างความแตกต่างอย่างมากระหว่างความหมายที่ไม่น่าจะเกิดขึ้นสิ่งนั้นจะสะท้อนให้เห็นในด้านหลังทำให้มันสมบูรณ์แบบ

— Frank Harrell

@ ซีอานคุณสามารถยกตัวอย่างของวิธีการที่คุณจะวางก่อนหน้าใน ?

(i, μ)

$(i,\mu)$

— Chamberlain Foncha

@Frank Harrel พิจารณาเช่นและ1) ประมาณการเป็นกลางของ เป็นZ_iประมาณการ Bayes ของคือZ_i) ถ้าเป็นที่ใหญ่ที่สุดเพื่อให้เป็นเพราะ Bayes ประมาณการเป็นเสียงเดียวในZ_iไม่ว่าข้อมูลก่อนหน้าจะเป็นอย่างไรข้อมูลนี้จะไม่เปลี่ยนแปลง อย่างไรก็ตามลด Bayes ในเชิงบวกใน0} แต่ถ้าเลือกผิดตัวประมาณ Bayes จะไม่สามารถแก้ไขได้

δ_{i} \sim N (a, 1)

$\delta_i \sim N(a,1)$

Z_{i} \sim N (δ_{i}, 1)

$Z_i\sim N(\delta_i,1)$

δ_{i}

$\delta_i$

Z_{i}

$Z_i$

δ_{i}

$\delta_i$

E (δ_{i} | Z_{i})

$E(\delta_i|Z_i)$

Z_{i^{0}}

$Z_{i^0}$

Z_{i}

$Z_i$

E (δ_{i^{0}} | Z_{i^{0}})

$E(\delta_{i^0}|Z_{i^0})$

Z_{i}

$Z_i$

E (δ_{i^{0}} | Z_{i^{0}})

$E(\delta_{i^0}|Z_{i^0})$

Z_{i^{0}}

$Z_{i^0}$

i^{0}

$i^0$

— Chamberlain Foncha

@ChamberlainFoncha: ตัวประมาณของ Bayes เป็นเพียงเมื่อเป็นอิสระก่อน การร่วมกันก่อนหน้าและทำให้พวกเขาพึ่งพาจริง ๆ

E [δ_{i} | Z_{i}]

$\mathbb{E}[\delta_i|Z_i]$

δ_{i}

$\delta_i$

i

$i$

μ_{i}

$\mu_i$

— ซีอาน

และก่อนหน้านี้เป็นที่ยอมรับจากมุมมองแบบเบย์เช่นเครื่องแบบกระจายดัชนีและลำดับชั้นก่อนใน 's

μ_{i}

$\mu_i$

— ซีอาน

แม้ว่าคำตอบที่เข้าใจง่ายจะเป็นเพียงคำพูดที่ถูกต้อง สมมติสำหรับการทดสอบนี้แล้วหลังสำหรับมัน2) ความจริงที่ต่อต้านการหยั่งรู้นี้ค่อนข้างคล้ายกับ Bayes ที่มีภูมิคุ้มกันต่อ (ความลับ) การหยุด แต่เนิ่น ๆ (นั่นก็เป็นเรื่องที่ต่อต้านได้ง่ายมาก) $i^*=5$ $\mu_5$ $N(x_5,\sigma^2)$

การใช้เหตุผลแบบเบย์จะนำไปสู่ข้อสรุปที่ผิดพลาดหากสำหรับการทดลองแต่ละครั้ง (ลองนึกภาพคุณซ้ำสองสามครั้ง) เฉพาะผลลัพธ์สำหรับความหลากหลายที่ดีที่สุดเท่านั้นที่จะถูกเก็บไว้ จะมีการเลือกข้อมูลและวิธีการแบบเบย์นั้นไม่ชัดเจนในการเลือกข้อมูล จริงๆแล้วไม่มีวิธีการทางสถิติใดที่สามารถป้องกันการเลือกข้อมูลได้

หากการเลือกดังกล่าวเสร็จสิ้นการใช้เหตุผลแบบเบย์อย่างสมบูรณ์ในการพิจารณาการเลือกนี้จะช่วยแก้ไขภาพลวงตาได้อย่างง่ายดาย

อย่างไรก็ตามประโยค "ตัวประมาณเบย์นั้นมีภูมิคุ้มกันต่อการเลือกอคติ" ค่อนข้างอันตราย เป็นเรื่องง่ายที่จะจินตนาการถึงสถานการณ์ที่ "การเลือก" หมายถึงอย่างอื่นเช่นการเลือกตัวแปรอธิบายหรือการเลือกข้อมูล เบย์ไม่ได้รับการยกเว้นอย่างชัดเจน

— เบอนัวต์ซานเชซ
แหล่งที่มา