มีตัวอย่างความไม่เท่าเทียมแบบ Chebyshev ด้านเดียวหรือไม่?

ฉันสนใจในอสมการ Chebyshev รุ่นเดียวของ Cantelliต่อไปนี้:

P (X - E (X) \geq t) \leq \frac{V a r (X)}{V a r (X) + t^{2}} .

$\mathbb P(X - \mathbb E (X) \geq t) \leq \frac{\mathrm{Var}(X)}{\mathrm{Var}(X) + t^2} \,.$

โดยทั่วไปถ้าคุณทราบค่าเฉลี่ยและความแปรปรวนของประชากรคุณสามารถคำนวณขอบเขตบนความน่าจะเป็นในการสังเกตค่าที่แน่นอน (นั่นคือความเข้าใจของฉันอย่างน้อย)

อย่างไรก็ตามฉันต้องการใช้ค่าเฉลี่ยตัวอย่างและความแปรปรวนตัวอย่างแทนค่าเฉลี่ยและความแปรปรวนประชากรจริง

ฉันเดาว่าเนื่องจากสิ่งนี้จะทำให้เกิดความไม่แน่นอนมากขึ้นขอบเขตบนจะเพิ่มขึ้น

มีความไม่เท่าเทียมกันคล้ายกับข้างบน แต่นั่นใช้ค่าเฉลี่ยตัวอย่างและความแปรปรวนหรือไม่

แก้ไข : อะนาล็อก "ตัวอย่าง" ของความไม่เท่าเทียมกันของ Chebyshev (ไม่ใช่ด้านเดียว) ได้ถูกแก้ไขแล้ว หน้าวิกิพีเดียมีรายละเอียดบางอย่าง อย่างไรก็ตามฉันไม่แน่ใจว่ามันจะแปลไปยังกรณีด้านเดียวที่ฉันมีข้างต้นได้อย่างไร

— Casandra
แหล่งที่มา

ขอบคุณ Glen_b มันค่อนข้างเป็นปัญหาที่น่าสนใจ ฉันคิดเสมอว่าความไม่เท่าเทียมกันของ Chebyshev นั้นทรงพลัง (เพราะให้คุณอนุมานเชิงสถิติโดยไม่ต้องใช้การแจกแจงความน่าจะเป็น) ดังนั้นความสามารถในการใช้กับค่าเฉลี่ยตัวอย่างและความแปรปรวนน่าจะสวยมาก

— casandra

คำตอบ:

ใช่เราสามารถรับผลลัพธ์แบบอะนาล็อกได้โดยใช้ค่าเฉลี่ยและความแปรปรวนตัวอย่างอาจมีความประหลาดใจเล็กน้อยเกิดขึ้นในกระบวนการ

ก่อนอื่นเราต้องปรับแต่งคำสั่งคำถามเพียงเล็กน้อยและตั้งสมมติฐานบางอย่าง ที่สำคัญมันควรจะชัดเจนว่าเราไม่สามารถหวังที่จะเปลี่ยนความแปรปรวนประชากรด้วยความแปรปรวนตัวอย่างทางด้านขวามือตั้งแต่หลังเป็นแบบสุ่ม ! ดังนั้นเราจึงให้ความสนใจกับความไม่เท่าเทียม ในกรณีที่ไม่ชัดเจนว่าสิ่งเหล่านี้เทียบเท่าโปรดทราบว่าเราได้แทนที่ด้วยในความไม่เท่าเทียมเดิมโดยไม่มีการสูญเสียทั่วไป

P (X - E X \geq t σ) \leq \frac{1}{1 + t^{2}} .

$\mathbb P\left( X - \mathbb E X \geq t \sigma \right) \leq \frac{1}{1+t^2} \>.$

t

$t$

t σ

$t \sigma$

ประการที่สองเราคิดว่าเรามีตัวอย่างสุ่มและเราสนใจขอบเขตบนของปริมาณอะนา โดยที่เป็นตัวอย่าง Mean และคือค่าเบี่ยงเบนมาตรฐานตัวอย่าง $X_1,\ldots,X_n$ $\mathbb P(X_1 - \bar X \geq t S)$ $\bar X$ $S$

ก้าวไปข้างหน้าครึ่งก้าว

โปรดทราบว่าโดยการใช้อสมการ Chebyshev เดิมด้านเดียวกับเราได้รับ โดยที่ซึ่งมีขนาดเล็กกว่าทางด้านขวาของรุ่นดั้งเดิม มันสมเหตุสมผลแล้ว! การรับรู้ตัวแปรสุ่มจากตัวอย่างใด ๆ จะมีแนวโน้มที่จะใกล้เคียงกับค่าเฉลี่ยตัวอย่างมากขึ้นกว่าค่าเฉลี่ยของประชากร ดังที่เราจะเห็นด้านล่างเราจะได้รับการแทนที่โดยภายใต้สมมติฐานทั่วไปมากยิ่งขึ้น $X_1 - \bar X$

P (X_{1} - \bar{X} \geq t σ) \leq \frac{1}{1 + \frac{n}{n - 1} t^{2}}

$\mathbb P( X_1 - \bar X \geq t\sigma ) \leq \frac{1}{1 + \frac{n}{n-1}t^2}$

σ^{2} = V a r (X_{1})

$\sigma^2 = \mathrm{Var}(X_1)$

σ

$\sigma$

S

$S$

รุ่นตัวอย่างของ Chebyshev ด้านเดียว

เรียกร้อง : ให้เป็นตัวอย่างที่สุ่มดังกล่าวว่า0 จากนั้นโดยเฉพาะอย่างยิ่งรุ่นตัวอย่างของขอบเขตจะเข้มงวดกว่ารุ่นประชากรดั้งเดิม $X_1,\ldots,X_n$ $\mathbb P(S = 0) = 0$
$P (X_{1} - \bar{X} \geq t S) \leq \frac{1}{1 + \frac{n}{n - 1} t^{2}} .$ $\mathbb P(X_1 - \bar X \geq t S) \leq \frac{1}{1 + \frac{n}{n-1} t^2}\>.$

หมายเหตุ : เราไม่คิดว่ามีค่าเฉลี่ยหรือความแปรปรวนแน่นอน! $X_i$

พิสูจน์ ความคิดคือการปรับการพิสูจน์ของอสมการ Chebyshev ด้านเดียวดั้งเดิมและใช้สมมาตรในกระบวนการ ก่อนอื่นให้ตั้งค่าเพื่อความสะดวกสบาย จากนั้นสังเกตว่า $Y_i = X_i - \bar X$

P (Y_{1} \geq t S) = \frac{1}{n} \sum_{i = 1}^{n} P (Y_{i} \geq t S) = E \frac{1}{n} \sum_{i = 1}^{n} 1_{(Y_{i} \geq t S)} .

$\mathbb P( Y_1 \geq t S ) = \frac{1}{n} \sum_{i=1}^n \mathbb P( Y_i \geq t S ) = \mathbb E \frac{1}{n} \sum_{i=1}^n \mathbf 1_{(Y_i \geq t S)} \>.$

ตอนนี้สำหรับบน , $c > 0$ $\{S > 0\}$

1_{(Y_{i} \geq t S)} = 1_{(Y_{i} + t c S \geq t S (1 + c))} \leq 1_{((Y_{i} + t c S)^{2} \geq t^{2} (1 + c)^{2} S^{2})} \leq \frac{(Y_{i} + t c S)^{2}}{t^{2} (1 + c)^{2} S^{2}} .

$\newcommand{I}[1]{\mathbf{1}_{(#1)}} \I{Y_i \geq t S} = \I{Y_i + t c S \geq t S (1+c)} \leq \I{(Y_i + t c S)^2 \geq t^2 (1+c)^2 S^2} \leq \frac{(Y_i + t c S)^2}{t^2(1+c)^2 S^2}\>.$

จากนั้น เนื่องจากและ .

\frac{1}{n} \sum_{i} 1_{(Y_{i} \geq t S)} \leq \frac{1}{n} \sum_{i} \frac{(Y_{i} + t c S)^{2}}{t^{2} (1 + c)^{2} S^{2}} = \frac{(n - 1) S^{2} + n t^{2} c^{2} S^{2}}{n t^{2} (1 + c)^{2} S^{2}} = \frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}},

$\frac{1}{n} \sum_i \I{Y_i \geq t S} \leq \frac{1}{n} \sum_i \frac{(Y_i + t c S)^2}{t^2(1+c)^2 S^2} = \frac{(n-1)S^2 + n t^2 c^2 S^2}{n t^2 (1+c)^2 S^2} = \frac{(n-1) + n t^2 c^2}{n t^2 (1+c)^2} \>,$

\bar{Y} = 0

$\bar Y = 0$

\sum_{i} Y_{i}^{2} = (n - 1) S^{2}

$\sum_i Y_i^2 = (n-1)S^2$

ทางด้านขวามือเป็นค่าคงที่ ( ! ) ดังนั้นการคาดหวังจากทั้งสองฝ่ายจึงทำให้ ในที่สุดการย่อตัวลงเหนือให้ผลซึ่งหลังจากพีชคณิตตัวน้อยสร้างผลลัพธ์ขึ้นมา

P (X_{1} - \bar{X} \geq t S) \leq \frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}} .

$\mathbb P(X_1 - \bar X \geq t S) \leq \frac{(n-1) + n t^2 c^2}{n t^2 (1+c)^2} \>.$

c

$c$

c = \frac{n - 1}{n t^{2}}

$c = \frac{n-1}{n t^2}$

เงื่อนไขทางเทคนิคที่น่ารำคาญ

โปรดทราบว่าเราต้องสมมติเพื่อให้สามารถหารด้วยในการวิเคราะห์ นี่ไม่ใช่ปัญหาสำหรับการแจกแจงแบบต่อเนื่องอย่างแน่นอน แต่เป็นการวางความไม่สะดวกสำหรับการแยกแบบ สำหรับการกระจายที่ไม่ต่อเนื่องมีความน่าจะเป็นบางอย่างที่สังเกตทั้งหมดเท่ากันซึ่งในกรณีนี้สำหรับทุกและ0 $\mathbb P(S = 0) = 0$ $S^2$ $0 = Y_i = t S = 0$ $i$ $t > 0$

เราสามารถกระดิกทางของเราออกมาโดยการตั้งค่า0) จากนั้นการถกเถียงอย่างรอบคอบเกี่ยวกับการโต้แย้งแสดงให้เห็นว่าทุกอย่างต้องผ่านการเปลี่ยนแปลงอย่างแท้จริงและเราได้รับ $q = \mathbb P(S = 0)$

ข้อพิสูจน์ 1 . สำหรับกรณีเรามี $q = \mathbb P(S = 0) > 0$
$P (X_{1} - \bar{X} \geq t S) \leq (1 - q) \frac{1}{1 + \frac{n}{n - 1} t^{2}} + q .$ $\mathbb P(X_1 - \bar X \geq t S) \leq (1-q) \frac{1}{1 + \frac{n}{n-1} t^2} + q \>.$

พิสูจน์ Split ได้ที่เหตุการณ์ที่เกิดขึ้นและ\} หลักฐานก่อนหน้านี้ผ่านไปแล้วสำหรับและกรณีนั้นเล็กน้อย $\{S > 0\}$ $\{S = 0\}$ $\{S > 0\}$ $\{S = 0\}$

ผลลัพธ์ความไม่เท่าเทียมที่สะอาดกว่าเล็กน้อยหากเราแทนที่ความไม่เท่ากันแบบไม่ จำกัด ในคำแถลงความน่าจะเป็นรุ่นที่เข้มงวด

ควันหลง 2 ให้ (อาจเป็นศูนย์) จากนั้น $q = \mathbb P(S = 0)$
$P (X_{1} - \bar{X} > t S) \leq (1 - q) \frac{1}{1 + \frac{n}{n - 1} t^{2}} .$ $\mathbb P(X_1 - \bar X > t S) \leq (1-q) \frac{1}{1 + \frac{n}{n-1} t^2} \>.$

คำพูดสุดท้าย : ตัวอย่างรุ่นของความไม่เท่าเทียมกันนั้นไม่จำเป็นต้องใช้สมมติฐานบน (นอกเหนือจากนั้นก็ไม่ได้เป็นค่าคงที่เกือบแน่นอนในกรณีความไม่เสมอภาคแบบไม่ จำกัด ซึ่งเวอร์ชั่นดั้งเดิมก็ถือว่าโดยปริยาย) โดยสาระสำคัญเพราะตัวอย่างเฉลี่ยและความแปรปรวนตัวอย่างมีอยู่เสมอไม่ว่า analogs ของประชากรจะมีหรือไม่ $X$

— พระราชาคณะ
แหล่งที่มา

นี่เป็นเพียงส่วนเติมเต็มให้กับคำตอบอันชาญฉลาดของ @cardinal Samuelson Inequalityระบุว่าสำหรับตัวอย่างขนาดเมื่อเรามีค่าที่แตกต่างอย่างน้อยสามค่าของการรับรู้ของมันถือว่า เมื่อคำนวณโดยไม่มีการแก้ไขความลำเอียง,2} $n$ $x_i$

x_{i} - \bar{x} < s \sqrt{n - 1}, i = 1, . . . n

$x_i-\bar x < s\sqrt{n-1},\;\; i=1,...n$

s

$s$

s = {(\frac{1}{n} \sum_{i = 1}^{n} (x_{i} - \bar{x})^{2})}^{1 / 2}

$s= \left (\frac 1n\sum_{i=1}^n(x_i-\bar x)^2\right)^{1/2}$

จากนั้นใช้สัญลักษณ์ของคำตอบของคาร์ดินัลเราสามารถระบุได้ว่า

P (X_{1} - \bar{X} \geq S \sqrt{n - 1}) = 0 a . s . [1]

$\mathbb P\left(X_1-\bar X \ge S\sqrt{n-1}\right) =0 \;\;a.s. \qquad [1]$

เนื่องจากเราต้องการค่าที่แตกต่างกันสามค่าเราจะมีตามข้อสมมติ ดังนั้นการตั้งค่าในความไม่เท่าเทียมกันของ Cardinal (เวอร์ชั่นเริ่มต้น) ที่เราได้รับ $S\neq 0$ $t=\sqrt{n-1}$

P (X_{1} - \bar{X} \geq S \sqrt{n - 1}) \leq \frac{1}{1 + n}, [2]

$\mathbb P\left (X_1 - \bar X \geq S\sqrt{n-1}\right) \leq \frac{1}{1 + n}, \;\; \qquad [2]$

อีคิว นั้นเข้ากันได้กับ eq [1]การรวมกันของทั้งสองบอกเราว่าพระคาร์ดินัลความไม่เท่าเทียมกันจะเป็นประโยชน์เป็นความน่าจะเป็นคำสั่งสำหรับ{n-1} $[2]$ $[1]$ $0< t < \sqrt{n-1}$

ถ้าความไม่เท่าเทียมของคาร์ดินัลต้องการให้ต้องคำนวณอคติให้ถูกต้อง (เรียกสิ่งนี้ว่า ) สมการจะกลายเป็น $S$ $\tilde S$

P (X_{1} - \bar{X} \geq \tilde{S} \frac{n - 1}{\sqrt{n}}) = 0 a . s . [1 a]

$\mathbb P\left(X_1-\bar X \ge \tilde S\frac{n-1}{\sqrt{n}}\right) =0 \;\;a.s. \qquad [1a]$

และเราเลือกเพื่อให้ได้มาจากความไม่เท่าเทียมของพระคาร์ดินัล $t= \frac{n-1}{\sqrt{n}}$

P (X_{1} - \bar{X} \geq \tilde{S} \frac{n - 1}{\sqrt{n}}) \leq \frac{1}{n}, [2 a]

$\mathbb P\left (X_1 - \bar X \geq \tilde S\frac{n-1}{\sqrt{n}}\right) \leq \frac{1}{ n}, \;\; \qquad [2a]$ และช่วงเวลาที่มีความหมายน่าจะเป็นสำหรับคือ

t

$t$

0 < t < \frac{n - 1}{\sqrt{n}} .

$0< t < \frac{n-1}{\sqrt{n}}.$

— Alecos Papadopoulos
แหล่งที่มา

(+1) บังเอิญที่ฉันพิจารณาปัญหานี้เป็นครั้งแรกข้อเท็จจริงที่ว่าเป็นจริงเริ่มต้นเงื่อนงำที่ความไม่เท่าเทียมกันของตัวอย่างควรจะเข้มงวดกว่าเดิม ฉันต้องการบีบที่โพสต์ของฉัน แต่ไม่สามารถหาสถานที่ (สบาย) สำหรับมัน ฉันดีใจที่เห็นคุณพูดถึงมัน (จริง ๆ แล้วมีการปรับปรุงเล็กน้อย) ที่นี่พร้อมกับรายละเอียดเพิ่มเติมที่ดีมากของคุณ ไชโย

max_{i} | X_{i} - \bar{X} | \leq S \sqrt{n - 1}

$\max_i |X_i - \bar X| \leq S\sqrt{n-1}$

— พระคาร์ดินัล

ไชโย @ พระคาร์ดินัลคำตอบที่ดี - ให้ความกระจ่างแก่ฉัน - มันสำคัญสำหรับความไม่เท่าเทียมกันของคุณว่าใครกำหนดความแปรปรวนตัวอย่าง (แก้อคติหรือไม่)?

— Alecos Papadopoulos

เพียงเล็กน้อยเท่านั้น ฉันใช้ความแปรปรวนตัวอย่างที่แก้ไขโดยอคติ หากคุณใช้แทนเพื่อทำให้เป็นมาตรฐานคุณจะพบกับแทนซึ่งหมายถึงคำว่าในความไม่เท่าเทียมขั้นสุดท้ายจะหายไป ดังนั้นคุณจะได้รับขอบเขตเดียวกันกับในอสมการ Chebyshev ด้านเดียวดั้งเดิมในกรณีนั้น (สมมติว่าฉันได้ทำพีชคณิตอย่างถูกต้องแล้ว) :-)

n

$n$

n - 1

$n-1$

\frac{1 + t^{2} c^{2}}{t^{2} (1 + c)^{2}}

$\frac{1+t^2c^2}{t^2(1+c)^2}$

\frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}},

$\frac{(n-1) + n t^2c^2}{nt^2(1+c)^2} \,,$

n / (n - 1)

$n/(n-1)$

— พระคาร์ดินัล

@Cardinal ... ซึ่งหมายความว่าสมการที่เกี่ยวข้องในคำตอบของฉันมีและซึ่งหมายความว่าความไม่เท่าเทียมกันของคุณบอกเราว่าสำหรับเลือกที่จะเปิดใช้งานแซมวลความไม่เท่าเทียมกันน่าจะเป็นของเหตุการณ์ที่เรากำลังตรวจสอบที่ไม่สามารถมีค่ามากกว่า , คือไม่มากกว่าสุ่มเลือกใครตระหนักถึงคุณค่าจากตัวอย่าง ... ซึ่งทำให้รู้สึกหยั่งรู้สัญชาตญาณ: สิ่งที่พิสูจน์ได้ว่าเป็นไปไม่ได้อย่างแน่นอนในข้อตกลงกำหนดเมื่อเข้าหา probabilistically ความน่าจะเป็นของมันผูกพันไม่เกิน equiprobability ... ไม่ชัดเจน ในใจฉัน

1 a

$1a$

2 a

$2a$

t

$t$

1 / n

$1/n$

— Alecos Papadopoulos