ความพอเพียงแบบเบย์เกี่ยวข้องกับความพอเพียงของผู้ถี่บ่อยอย่างไร

9

ความหมายที่ง่ายที่สุดของสถิติที่เพียงพอในมุมมอง frequentist จะได้รับที่นี่ในวิกิพีเดีย อย่างไรก็ตามเมื่อเร็ว ๆ นี้ฉันเจอหนังสือ Bayesian พร้อมคำจำกัดความ $P(\theta|x,t)=P(\theta|t)$ . มันระบุไว้ในลิงค์ว่าทั้งสองจะเท่ากัน แต่ฉันไม่เห็นว่า นอกจากนี้ในหน้าเดียวกันนั้นในส่วน«ประเภทอื่น ๆ ของความพอเพียง»มันระบุไว้ว่าคำจำกัดความทั้งสองนั้นไม่เท่ากันในช่องว่างมิติ ...

นอกจากนี้ความพอเพียงเชิงทำนายยังเกี่ยวข้องกับความพอเพียงแบบดั้งเดิมอย่างไร

bayesian mathematical-statistics sufficient-statistics

— ชายชราในทะเล
แหล่งที่มา

4

หากเป็นสถิติ $T$ ก็เพียงพอแล้วในทางที่เป็นประจำแล้ว $p(\mathbf{x} \mid \theta, t) = p(\mathbf{x} \mid t)$ ดังนั้น

\begin{aligned} p (θ ∣ x, t) & = \frac{p (x ∣ t, θ) p (t ∣ θ) p (θ)}{p (x ∣ t) p (t)} \\ (freq. suff.) & = \frac{p (t ∣ θ) p (θ)}{p (t)} \\ = p (θ ∣ t) . \end{aligned}

$\begin{align*} p(\theta \mid \mathbf{x}, t) &= \frac{p(\mathbf{x}\mid t,\theta)p(t \mid \theta) p(\theta)}{p(\mathbf{x}\mid t)p(t)} \\ &= \frac{p(t \mid \theta) p(\theta)}{p(t)} \tag{freq. suff.}\\ &= p(\theta \mid t). \end{align*}$

ในทางกลับกันถ้า $T$ ก็เพียงพอแล้วในทางเบย์เซียนแล้ว

\begin{aligned} พี (x | θ, เสื้อ) & = \frac{พี (x, θ, เสื้อ)}{พี (θ, เสื้อ)} \\ = \frac{พี (θ | x, เสื้อ) พี (x, เสื้อ)}{พี (θ | เสื้อ) พี (เสื้อ)} \\ (Bayesian suff.) & = \frac{พี (x, เสื้อ)}{พี (เสื้อ)} \\ = พี (x | เสื้อ) . \end{aligned}

$\begin{align*} p(\mathbf{x} \mid \theta, t) &= \frac{p(\mathbf{x}, \theta,t)}{p(\theta,t)}\\ &= \frac{p(\theta \mid \mathbf{x},t) p(\mathbf{x},t)}{p(\theta\mid t)p(t)}\\ &= \frac{p(\mathbf{x},t)}{p(t)} \tag{Bayesian suff.}\\ &= p(\mathbf{x} \mid t). \end{align*}$

เกี่ยวกับ "ความพอเพียงเชิงทำนาย" คืออะไร

แก้ไข: หากคุณมีความพอเพียงแบบเบย์คุณจะมีความสามารถในการคาดการณ์ล่วงหน้า:

\begin{aligned} พี (x^{'} | x) & = \int พี (x^{'} | θ) พี (θ | x) d θ \\ (Bayesian suff.) & = \int พี (x^{'} | θ) พี (θ | เสื้อ) d θ \\ = พี (x^{'} | เสื้อ) . \end{aligned}

$\begin{align*} p(\mathbf{x}' \mid \mathbf{x}) &= \int p(\mathbf{x}' \mid \theta)p(\theta \mid \mathbf{x}) d\theta\\ &= \int p(\mathbf{x}' \mid \theta) p(\theta \mid t)d\theta \tag{Bayesian suff.}\\ &= p(\mathbf{x}' \mid t). \end{align*}$

— เทย์เลอร์
แหล่งที่มา

1

เทย์เลอร์มันถูกกำหนดในลิงค์เดียวกันด้านล่างในส่วนของความพอเพียงของเบย์

— ชายแก่ในทะเล

3

เราเจอปรากฏการณ์ที่น่าสนใจ เมื่อไม่กี่ปีที่ผ่านมาเมื่อตรวจสอบตัวเลือกแบบจำลองเบย์กับ ABC ซึ่งฉันคิดว่าเกี่ยวข้องกับคำถามนี้ แน่นอนว่ามีแนวคิดเรื่องความพอเพียงสำหรับตัวเลือกรูปแบบเบย์ซึ่งดูเหมือนจะไม่มีความหมายโดยเฉพาะนอกแนวทางเบย์

ให้สองรุ่น

M_{1} = {ฉ_{θ} (\cdot); θ \in Θ}

$\mathfrak{M}_1=\{f_\theta(\cdot); \theta\in\Theta\}$ และ

M_{2} = {{ก.}_{ξ} (\cdot); ξ \in Ξ}

$\mathfrak{M}_2=\{g_\xi(\cdot); \xi\in\Xi\}$ และตัวอย่าง

x = (x_{1}, \dots, x_{n})

$\mathbf{x}=(x_1,\ldots,x_n)$ จากหนึ่งในสองโมเดลนี้เป็นสถิติ

S

$S$ เพียงพอสำหรับการเลือกรุ่นหรือข้ามรุ่นหากมีการแจกแจง

X

$\mathbf{X}$ เงื่อนไข

S (X)

$S(\mathbf{X})$ ไม่ได้ขึ้นอยู่กับดัชนีรุ่น (1 หรือ 2) หรือค่าพารามิเตอร์ภายในโมเดล

เมื่อสถิติที่เพียงพอดังกล่าวมีอยู่เบย์จะพิจารณาจาก $\mathbf{X}$ เป็นเช่นเดียวกับปัจจัยของเบย์ $S(\mathbf{X})$ . แม้ว่านี่จะเป็นคำจำกัดความที่ไม่ใช่แบบเบย์ต่อผู้ใช้ แต่ฉันไม่เห็นแอปพลิเคชันโดยตรงนอกตัวเลือกตัวแบบเบย์

— ซีอาน
แหล่งที่มา