ฟังก์ชันผกผันของความแปรปรวน

สำหรับค่าคงที่จำนวน (เช่น 4) เป็นไปได้หรือไม่ที่จะหาการแจกแจงความน่าจะเป็นสำหรับดังนั้นเราจึงมี ?$r$$X$$\mathrm{Var}(X)=r$

พิจารณาอย่างรอบคอบถึงกรณีสำหรับ : if ดังนั้นการแจกแจงจะลดลง แต่ อาจมีค่าเฉลี่ย นั่นคือและสำหรับใด ๆ ดังนั้นเราจึงสามารถพบกระจายเป็นไปได้มากสำหรับแต่พวกเขาจะจัดทำดัชนีโดยและระบุไว้อย่างสมบูรณ์โดย{R}$r$$r=0$$X$$\Pr(X=\mu)=1$$\Pr(X=c)=0$$c \neq \mu$$X$$\mu \in \mathbb{R}$

ถ้ากระจายไม่สามารถพบได้ตั้งแต่0$r<0$$\mathrm{Var}(X)=\mathbb{E}(X-\mu_X)^2 \geq 0$

สำหรับคำตอบจะขึ้นอยู่กับสิ่งที่ต้องการทราบข้อมูลเพิ่มเติมเกี่ยวกับการเป็นที่รู้จักกันXตัวอย่างเช่นถ้าเป็นที่รู้จักกันจะมีค่าเฉลี่ยแล้วสำหรับการใด ๆและเราสามารถหาการกระจายกับช่วงเวลาเหล่านี้โดยการR) นี่ไม่ใช่วิธีการแก้ปัญหาที่ไม่ซ้ำกันสำหรับปัญหาของการจับคู่ค่าเฉลี่ยและความแปรปรวน แต่เป็นวิธีการแก้ปัญหาแบบกระจายเท่านั้น (และของการแก้ปัญหาที่เป็นไปได้ทั้งหมดนี้เป็นวิธีที่เพิ่มเอนโทรปีให้มากที่สุดเท่าที่ Daniel ชี้ หากคุณต้องการจับคู่เช่นช่วงเวลากลางที่สามหรือสูงกว่าคุณจะต้องพิจารณาการแจกแจงความน่าจะเป็นในวงกว้าง$r>0$$X$$X$$\mu$$\mu \in \mathbb{R}$$r>0$$X \sim N(\mu, r)$

สมมติว่าเรามีข้อมูลเกี่ยวกับการกระจายของมากกว่าช่วงเวลา ตัวอย่างเช่นถ้าเรารู้ว่าต่อไปนี้การกระจาย Poisson แล้วทางออกที่ไม่ซ้ำกันจะเป็น(R) ถ้าเรารู้ว่าเป็นไปตามการแจกแจงแบบเอ็กซ์โพเนนเชียลแล้วอีกครั้งก็มีทางออกที่เป็นเอกลักษณ์ซึ่งเราได้พบพารามิเตอร์โดยการแก้2}$X$$X$$X \sim \mathrm{Poisson}(r)$$X$$X \sim \mathrm{Exponential}(\frac{1}{\sqrt{r}})$$\mathrm{Var}(X) = r = \frac{1}{\lambda^2}$

ในกรณีอื่นเราสามารถค้นหาโซลูชันทั้งหมดในตระกูล ถ้าเรารู้ว่าดังต่อไปนี้เป็นรูปสี่เหลี่ยมผืนผ้า (เครื่องแบบต่อเนื่อง) การกระจายแล้วเราสามารถค้นหาความกว้างที่ไม่ซ้ำกันสำหรับการกระจายโดยการแก้{12} แต่จะมีการแก้ปัญหาทั้งครอบครัวพารามิเตอร์ของ - การแจกแจงในชุดนี้เป็นการแปลทั้งหมดของกันและกัน ในทำนองเดียวกันถ้าเป็นเรื่องปกติการกระจายใด ๆ จะใช้งานได้ (ดังนั้นเราจึงมีวิธีแก้ปัญหาทั้งชุดที่ทำดัชนีโดยซึ่งสามารถเป็นจำนวนจริงได้อีกครั้งและทุกครอบครัวแปลทั้งหมด ของกันและกัน) ถ้า$X$$w$$\mathrm{Var}(X) = r = \frac{w^2}{12}$$X \sim U(a, a+w)$$a \in \mathbb{R}$$X$$X \sim N(\mu, r)$$\mu$$X$ตามการกระจายของแกมม่าจากนั้นโดยใช้การกำหนดพารามิเตอร์ระดับรูปร่างเราสามารถหาวิธีแก้ปัญหาทั้งครอบครัวได้พารามิเตอร์โดย0 สมาชิกในครอบครัวนี้ไม่ได้แปลจากกัน ที่จะช่วยให้เห็นภาพสิ่งที่เป็น "ครอบครัวของการแก้ปัญหา" อาจมีลักษณะเช่นนี้เป็นตัวอย่างบางส่วนของการแจกแจงปรกติดัชนีโดยแล้วแจกแจงแกมมาดัชนีโดยทั้งหมดที่มีความแปรปรวนเท่ากับสี่สอดคล้องกับตัวอย่างใน คำถามของคุณ.$X \sim \mathrm{Gamma}(\frac{r}{\theta^2}, \theta)$$\theta > 0$$\mu$$\theta$$r=4$

บนมืออื่น ๆ สำหรับการกระจายบางอย่างมันอาจหรือไม่อาจเป็นไปได้ที่จะหาทางออกขึ้นอยู่กับค่าของRตัวอย่างเช่นถ้าจะต้องเป็นตัวแปร Bernoulli แล้วมีสองแนวทางแก้ปัญหาเพราะมีสองน่าจะเป็นซึ่งการแก้สมการและในความเป็นจริงทั้งสองน่าจะประกอบเช่น1 สำหรับมีเพียงวิธีแก้ปัญหาเฉพาะและสำหรับไม่มีการแจกแจงเบอร์นูลีมีความแปรปรวนสูงพอสมควร$r$$X$$0 \leq r \lt 0.25$$X \sim \mathrm{Bernoulli}(p)$$p$$\mathrm{Var}(X) = r = p(1-p)$$p_1 + p_2 = 1$$r=0.25$$p=0.5$$r>0.25$

ผมรู้สึกว่าผมควรพูดถึงกรณีที่\ มีโซลูชั่นสำหรับกรณีนี้มีมากเกินไปตัวอย่างเช่นนักศึกษากระจายกับสององศาอิสระ$r = \infty$$t$

รหัส R สำหรับแปลง

require(ggplot2)

x.df  <- data.frame(x = rep(seq(from=-8, to=8, length=100), times=5),
    mu = rep(c(-4, -2, 0, 2, 4), each=100))
x.df$pdf <- dnorm(mean=x.df$mu, x.df$x)
ggplot(x.df, aes(x=x, y=pdf, group=factor(mu), colour=factor(mu))) + theme_bw() + 
    geom_line(size=1) + scale_colour_brewer(name=expression(mu), palette="Set1") +
    theme(legend.key = element_blank()) + ggtitle("Normal distributions with variance 4")

x.df  <- data.frame(x = rep(seq(from=0, to=20, length=1000), times=5),
    theta = rep(c(0.25, 0.5, 1, 2, 4), each=1000))
x.df$pdf <- dgamma(x.df$x, shape=4/(x.df$theta)^2, scale=x.df$theta)
ggplot(x.df, aes(x=x, y=pdf, group=factor(theta), colour=factor(theta))) + theme_bw() + 
    geom_line(size=1) + scale_colour_brewer(name=expression(theta), palette="Set1") +
    theme(legend.key = element_blank()) + ggtitle("Gamma distributions with variance 4") +
    coord_cartesian(ylim = c(0, 1)) 

สมมติว่าคุณหมายถึง "เป็นไปได้หรือไม่ที่จะหาการแจกแจงความน่าจะเป็นสำหรับ " คำตอบคือใช่เนื่องจากคุณไม่ได้ระบุเกณฑ์ใด ๆ ที่ต้องพึงพอใจ ในความเป็นจริงมีจำนวนอนันต์ของการแจกแจงที่เป็นไปได้ที่จะตอบสนองเงื่อนไขนี้ เพียงพิจารณาการกระจายปกติ2) คุณสามารถตั้งค่าและสามารถรับค่าใด ๆ ที่คุณต้องการ - จากนั้นคุณจะมีตามต้องการ$X$$X$$\mathcal{N}(x ; \mu, \sigma^2)$$\sigma^2 = r$$\mu$$Var[X] = r$

ในความเป็นจริงการแจกแจงแบบปกติค่อนข้างพิเศษในเรื่องนี้เนื่องจากเป็นการกระจายความน่าจะเป็นเอนโทรปีสูงสุดสำหรับค่าเฉลี่ยและความแปรปรวนที่กำหนด

คำถามนี้สามารถตีความได้ในวิธีที่ทำให้มันน่าสนใจและไม่น่ารำคาญเลย เมื่อพิจารณาถึงที่ดูเหมือนตัวแปรสุ่มสามารถกำหนดความน่าจะเป็นให้กับค่าของมัน (หรือเลื่อนความน่าจะเป็นที่มีอยู่ไปรอบ ๆ ) ในลักษณะที่ความแปรปรวนเท่ากับจำนวนที่กำหนดไว้ล่วงหน้า ? คำตอบก็คือทุกค่าที่เป็นไปเป็นที่อนุญาตถึงขีด จำกัด ที่กำหนดโดยช่วงของX$X$$r$$r\ge 0$$X$

ความสนใจที่อาจเกิดขึ้นในการวิเคราะห์นั้นอยู่ในแนวคิดของการเปลี่ยนการวัดความน่าจะเป็นในขณะที่รักษาตัวแปรสุ่มไว้เพื่อให้ได้จุดสิ้นสุดที่เฉพาะเจาะจง แม้ว่าแอปพลิเคชั่นนี้จะง่าย แต่ก็แสดงความคิดบางอย่างที่อยู่ภายใต้ทฤษฎีบท Girsanovซึ่งเป็นพื้นฐานของผลลัพธ์ทางการเงินทางคณิตศาสตร์

เราจะพูดซ้ำคำถามนี้ในแบบที่เข้มงวดและไม่คลุมเครือ สมมติ

เป็นฟังก์ชั่นที่สามารถวัดได้กำหนดไว้ในพื้นที่วัดกับพีชคณิตซิกมา{S} สำหรับจำนวนจริงที่กำหนดเมื่อใดจึงจะสามารถหาการวัดความน่าจะเป็นในพื้นที่นี้ซึ่ง ?$\Omega$$\mathfrak{S}$$r \gt 0$$\mathbb{P}$$\text{Var}(X) = r$

ผมเชื่อว่าคำตอบคือว่านี้เป็นไปได้เมื่อ{r} $\sup(X) - \inf(X) \gt 2\sqrt{r}$ (ความเสมอภาคสามารถเก็บได้ถ้า supremum และ infinite มีการบรรลุ: นั่นคือพวกเขาเป็นจริงสูงสุดและต่ำสุดของ ) เมื่อใดหรือเงื่อนไขนี้ กำหนดไม่ จำกัดและจากนั้นค่าที่ไม่เป็นลบทั้งหมดของความแปรปรวนเป็นไปได้$X$$\sup(X)=\infty$$\inf(X)=-\infty$$r$

หลักฐานคือโดยการก่อสร้าง เริ่มจากรุ่นง่าย ๆ เพื่อดูแลรายละเอียดและปักหมุดแนวคิดพื้นฐานแล้วย้ายไปที่การก่อสร้างจริง

1. ให้จะอยู่ในภาพของ : ที่นี้หมายถึงมีที่x กำหนดฟังก์ชั่นการตั้งค่าเป็นตัวบ่งชี้ของ : นั่นคือถ้าและเมื่อA$x$$X$$\omega_x\in\Omega$$X(\omega_x) = x$$\mathbb{P}:\mathfrak{S}\to [0,1]$$\omega_x$$\mathbb{P}(A) = 0$$\omega_x\notin A$$\mathbb{P}(A) = 1$$\omega_x\in A$

   ตั้งแต่เห็นได้ชัดน่าพอใจทั้งสองหลักการแรกของความน่าจะเป็น มีความจำเป็นต้องแสดงให้เป็นไปตามที่สาม กล่าวคือมันเป็น sigma-additive แต่นี่ก็เกือบจะเห็นได้ชัด: เมื่อใดก็ตามที่เป็นชุดที่ไม่มีที่สิ้นสุดหรือนับไม่ถ้วนของเหตุการณ์ที่ไม่เกิดร่วมกันซึ่งกันและกันแล้วก็ไม่มีใครมี - ในกรณีที่สำหรับทั้งหมด- หรือหนึ่งในนั้นมีซึ่งในกรณีนี้สำหรับบางตัวและอื่น ๆสำหรับทุกคนที่$\mathbb{P}(\Omega)=1$$\mathbb P$$\{E_i, i=1, 2, \ldots\}$$\omega_x$$\mathbb{P}(E_i)=0$$i$$\omega_x$$\mathbb{P}(E_j)=1$$j$$\mathbb{P}(E_i)=0$$i\ne j$. ไม่ว่าในกรณีใด

   $$\mathbb{P}\left(\cup_i E_i\right) = \sum_i \mathbb{P}(E_i)$$

   เพราะทั้งสองฝ่ายมีทั้งทั้งหรือทั้งสองอย่าง1$0$$1$

   เนื่องจากมุ่งเน้นความน่าจะเป็นทั้งหมดที่การกระจายของจึงเน้นที่และต้องมีความแปรปรวนเป็นศูนย์$\mathbb{P}$$\omega_x$$X$$x$$X$

2. ให้เป็นสองค่าในช่วง ; นั่นคือและx_2 ในลักษณะที่คล้ายคลึงกับขั้นตอนก่อนหน้าการกำหนดตัวชี้วัดจะเป็นถัวเฉลี่ยถ่วงน้ำหนักของตัวชี้วัดของและ\ใช้ที่ไม่ใช่เชิงลบน้ำหนักและสำหรับจะได้รับการพิจารณา ก่อนหน้านี้เราพบว่าโดยการรวมกันของตัวชี้วัดที่กล่าวถึงในข้อ (1) - เป็นตัวชี้วัดความน่าจะเป็น การกระจายตัวของเทียบกับวัดนี้คือ Bernoulli$x_1 \le x_2$$X$$X(\omega_1) = x_1$$X(\omega_2) = x_2$$\mathbb{P}$$\omega_1$$\omega_2$$1-p$$p$$p$$\mathbb{P}$$X$$(p)$การจัดจำหน่ายที่ได้รับการปรับขนาดโดยและขยับ-x_1เพราะความแปรปรวนของน Bernoulliกระจายความแปรปรวนของจะต้องเป็น(1-P)$x_2-x_1$$-x_1$$(p)$$p(1-p)$$X$$(x_2-x_1)^2p(1-p)$

ผลที่ตามมาทันทีของ (2) คือใดที่มีในช่วงของและซึ่ง$r$$x_1 \le x_2$$X$$0 \le p \lt 1$

สามารถแปรปรวนของXตั้งแต่นี่หมายถึง$X$$0 \le p(1-p) \le 1/4$

ด้วยความเสมอภาคถือถ้าและถ้ามีสูงสุดและต่ำสุด$X$

ในทางกลับกันถ้าเกินขอบเขตนี้ดังนั้นจึงไม่มีวิธีแก้ปัญหาเนื่องจากเราทราบแล้วว่าความแปรปรวนของตัวแปรสุ่มที่มีขอบเขตไม่สามารถเกินหนึ่งในสี่ กำลังสองของช่วง$r$$(\sup(X)-\inf(X))^2/4$

ใช่เป็นไปได้ที่จะหาการกระจายดังกล่าว ในความเป็นจริงคุณสามารถทำการแจกแจงใด ๆ ที่มีความแปรปรวน จำกัดและปรับขนาดให้ตรงกับสภาพของคุณเพราะ

ตัวอย่างเช่นการแจกแจงแบบสม่ำเสมอในช่วงเวลามีความแปรปรวน: ดังนั้นการกระจายแบบสม่ำเสมอในช่วงจะมีความแปรปรวนR$[0,1]$

อันที่จริงนี่เป็นวิธีทั่วไปในการเพิ่มพารามิเตอร์ให้กับการแจกแจงบางอย่างเช่น Student t มันมีเพียงหนึ่งพารามิเตอร์ - องศาอิสระ เมื่อการกระจายเข้าหามาตรฐานปกติ มันเป็นรูประฆังและมีลักษณะเหมือนปกติมาก แต่มีหางที่อ้วนขึ้น นั่นเป็นเหตุผลว่าทำไมมันจึงถูกใช้แทนการกระจายแบบปกติเมื่อหางมีไขมัน ปัญหาเดียวคือการกระจายแบบเกาส์มีสองพารามิเตอร์ ดังนั้นมารุ่นปรับขนาดของเสื้อนักศึกษาซึ่งบางครั้งเรียกว่า " ทีตั้งขนาด" กระจาย นี่เป็นการเปลี่ยนแปลงที่ง่ายมาก:โดยที่เป็นที่ตั้งและสเกล ตอนนี้คุณสามารถตั้งค่ามาตราส่วนเพื่อให้ตัวแปรใหม่$\nu$$\nu\to\infty$$\xi=\frac{t-\mu}{s}$$\mu,s$$\xi$ จะมีความแปรปรวนที่จำเป็นและจะมีรูปร่างของการกระจายนักเรียน t