จะเกิดอะไรขึ้นกับอัตราส่วนความน่าจะเป็นเมื่อมีการรวบรวมข้อมูลมากขึ้นเรื่อย ๆ

ให้ ,และเป็นความหนาแน่นและสมมติว่าคุณมี ,{N} เกิดอะไรขึ้นกับอัตราส่วนความน่าจะเป็น เป็น ? (มันมาบรรจบกันเพื่ออะไรนะ?)$f$$g$$h$$x_i \sim h$$i \in \mathbb{N}$

$$\prod_{i=1}^n \frac{f(x_i)}{g(x_i)}$$ $n \rightarrow \infty$

ตัวอย่างเช่นเราอาจคิดกรัม กรณีทั่วไปก็เป็นที่สนใจเช่นกัน$h = g$

ถ้าใครใช้ลอการิทึมของผลิตภัณฑ์นี้ และเปลี่ยนเป็นค่าเฉลี่ย ใช้กฎจำนวนมากดังนั้นเราจะได้รับการบรรจบกันเกือบแน่ใจ สมมติว่าอินทิกรัลนี้ถูกนิยามไว้อย่างดี [ตัวนับตัวอย่างง่ายต่อการมา]ˉ r n=

$${\mathfrak{r}}=\log \prod_{i=1}^n \frac{f(x_i)}{g(x_i)} = \sum_{i=1}^n \log\frac{f(x_i)}{g(x_i)}$$ ˉ R n a.s. ⟶ Eh[บันทึกf(X $$\bar{\mathfrak{r}}_n=\frac{1}{n}\sum_{i=1}^n \log\frac{f(x_i)}{g(x_i)}$$ $$\bar{\mathfrak{r}}_n\stackrel{\text{a.s.}}{\longrightarrow}\mathbb{E}_h\left[\log \frac{f(X)}{g(X)}\right]=\int_\mathfrak{X} \log\frac{f(x)}{g(x)}\,h(x)\,\text{d}x$$

ตัวอย่างเช่นถ้า ,และเป็นความหนาแน่นสำหรับการแจกแจงแบบปกติที่มีค่าเฉลี่ย ,และศูนย์ตามลำดับทั้งหมดที่มีค่าความแปรปรวนหนึ่งค่าของ คือ g h μ 1 μ 2 ∫ Xบันทึกf ( x $f$$g$$h$$\mu_1$$\mu_2$

$$\int_\mathfrak{X} \log\frac{f(x)}{g(x)}\,h(x)\,\text{d}x$$ $$\int_\mathfrak{X} \{(x-\mu_1)^2-(x-\mu^2_2)\}\,\varphi(x)\,\text{d}x= \mu_1^2-\mu^2_2\,.$$

โปรดทราบว่าหากไม่มีค่าเฉลี่ยผลิตภัณฑ์แทบจะลู่เข้าหาศูนย์ (เมื่อ ) . ในขณะที่ผลิตภัณฑ์เกือบจะลู่เข้าหาศูนย์หรือไม่มีที่สิ้นสุดแน่นอนขึ้นอยู่กับว่าหรือใกล้เคียงกับใน Kullback-Leibler divergence (เมื่อ )

$$\prod_{i=1}^n \frac{f(x_i)}{h(x_i)}$$ $x_i\sim h(x)\,$ $$\prod_{i=1}^n \frac{f(x_i)}{g(x_i)}$$ $g$$f$$h$$x_i\sim h(x)\,$

ให้(x)} พิจารณาปริมาณ โดยกฎหมายที่แข็งแกร่ง จำนวนมาก $Z_n = \prod^n_i \frac{p(x)}{q(x)}$

$$W_n = \frac{1}{n}log(Z_n) = \frac{1}{n}\sum_i^n log(\frac{p(x)}{q(x)})$$ $$\lim_{n \rightarrow \infty} W_n = E_{q(x)}[log(\frac{p(x)}{q(x)})] = \int_\mathcal{X} log(\frac{p(x)}{q(x)})q(x)dx$$

ตั้งแต่และ ,$log(a) < a-1 \ \forall a > 0$ $a \neq 1$$\frac{p(x)}{q(x)} > 0$$p(x) \neq q(x)$

$$W_n \rightarrow \int_\mathcal{X} log(\frac{p(x)}{q(x)})q(x)dx < \int_\mathcal{X} (\frac{p(x)}{q(x)} - 1)q(x)dx = \int_\mathcal{X} p(x)dx - \int_\mathcal{X} q(x)dx = 1 - 1 = 0$$ นี่ให้เรา $$\lim_{n \rightarrow \infty} W_n < 0 \implies \lim_{n \rightarrow \infty} \frac{1}{n}log(Z_n) < 0 \implies \lim_{n \rightarrow \infty} n \cdot \frac{1}{n}log(Z_n) = -\infty \\ \implies \lim_{n \rightarrow \infty} log(Z_n) = -\infty \\ \implies \lim_{n \rightarrow \infty} Z_n = 0 \ \blacksquare$$