ผลรวมของตัวแปรสุ่มของ Rademacher

ให้เป็นตัวแปรสุ่มอิสระที่รับค่าหรือโดยมีความน่าจะเป็น 0.5 แต่ละตัว พิจารณาผลรวมy_j ฉันต้องการที่จะผูกไว้บนน่าจะเป็นt) ขอบเขตที่ดีที่สุดที่ฉันมีตอนนี้คือโดยที่cคือค่าคงที่สากล นี่คือความสำเร็จโดยการจำกัดความน่าจะเป็นที่ต่ำกว่า(| x_1 + \ จุด + x_n | <\ sqrt {t})และPr (| y_1 + \ จุด + y_n | <\ sqrt {t})โดยการประยุกต์ใช้ขอบเขต Chernoff ง่าย ๆ ฉันหวังว่าจะได้รับสิ่งที่ดีกว่าขอบเขตนี้อย่างมากหรือไม่ อย่างน้อยฉันก็จะได้รับ$x_1 \ldots x_a,y_1 \ldots y_b$$+1$$-1$$S = \sum_{i,j} x_i\times y_j$$P(|S| > t)$$2e^{-\frac{ct}{\max(a,b)}}$$c$$Pr(|x_1 + \dots + x_n|<\sqrt{t})$$Pr(|y_1 + \dots + y_n|<\sqrt{t})$$e^{-c\frac{t}{\sqrt{ab}}}${AB}}} ถ้าฉันได้หางย่อยแบบเกาส์เซียนที่น่าจะดีที่สุด แต่เราคาดหวังได้ไหม (ฉันไม่คิดอย่างนั้น แต่ไม่สามารถคิดเรื่องโต้แย้งได้)

ความสัมพันธ์เกี่ยวกับพีชคณิต

$$S = \sum_{i,j} x_i y_j = \sum_i x_i \sum_j y_j$$

แสดงเป็นผลิตภัณฑ์ของผลรวมอิสระสองรายการ เนื่องจากและเป็นตัวแปรอิสระ Bernoulli ,เป็นตัวแปรBinomialซึ่ง ได้รับสองเท่าและเปลี่ยน ดังนั้นค่าเฉลี่ยของมันคือและความแปรปรวนของมันคือ ในทำนองเดียวกันมีค่าเฉลี่ยอยู่ที่และความแปรปรวนของขเรามาสร้างมาตรฐานพวกเขาตอนนี้ด้วยการนิยาม$S$$(x_i+1)/2$$(y_j+1)/2$$(1/2)$$X=\sum_{i=1}^a x_i$$(a, 1/2)$$0$$a$$Y=\sum_{j=1}^b y_j$$0$$b$

$$X_a = \frac{1}{\sqrt a} \sum_{i=1}^a x_i,$$

จากไหน

$$S = \sqrt{ab} X_a X_b = \sqrt{ab}Z_{ab}.$$

ถึงระดับความแม่นยำสูง (และเชิงปริมาณ) ในขณะขนาดใหญ่ที่เติบโตขึ้นใกล้กับการแจกแจงแบบปกติมาตรฐาน ดังนั้นเราจึงประมาณเป็นคูณผลคูณของมาตรฐานสองมาตรฐาน$a$$X_a$$S$$\sqrt{ab}$

ขั้นตอนต่อไปคือการสังเกตว่า

$$Z_{ab} = X_aX_b = \frac{1}{2}\left(\left(\frac{X_a+X_b}{\sqrt 2}\right)^2 - \left(\frac{X_a-X_b}{\sqrt 2}\right)^2 \right) = \frac{1}{2}\left(U^2 - V^2\right).$$

มีหลายความแตกต่างของกำลังสองของตัวแปรอิสระปกติมาตรฐานและVการกระจายตัวของสามารถคำนวณวิเคราะห์ (โดยinverting ฟังก์ชั่นลักษณะ ): รูปแบบไฟล์ PDF ที่เป็นสัดส่วนกับฟังก์ชั่นของการสั่งซื้อ Bessel ศูนย์K_0เนื่องจากฟังก์ชั่นนี้มีก้อยชี้แจงเราจึงสรุปได้ทันทีว่าสำหรับและขนาดใหญ่และคงที่จึงไม่มีการประมาณที่ดีกว่าสำหรับกว่าที่ให้ไว้ในคำถาม$U$$V$$Z_{ab}$$K_0(|z|)/\pi$$a$$b$$t$${\Pr}_{a,b}(S \gt t)$

มีห้องพักสำหรับการปรับปรุงบางยังคงอยู่เมื่อหนึ่ง (อย่างน้อย) ของและมีขนาดไม่ใหญ่หรือที่จุดในหางของใกล้กับAB การคำนวณโดยตรงของการกระจายตัวของแสดงโค้งเรียวออกจากความน่าจะเป็นที่จุดหางมีขนาดใหญ่กว่าประมาณเกินB)} บันทึกการแปลงเชิงเส้นของ CDF ของสำหรับค่าต่างๆของ (ที่ระบุในชื่อ) และ (แปรผันตามค่าเดียวกันกับ , แยกตามสีในแต่ละพล็อต) แสดงสิ่งที่เกิดขึ้น สำหรับการอ้างอิงกราฟของการ จำกัด$a$$b$$S$$\pm a b$$S$$\sqrt{ab}$$\sqrt{ab\max(a,b)}$$S$$a$$b$$a$$K_0$การกระจายจะแสดงเป็นสีดำ (เพราะมีความสมมาตรประมาณ ,ดังนั้นจึงพอมองหางเชิงลบได้)$S$$0$$\Pr(S \gt t) = \Pr(-S \lt -t)$

เมื่อโตขึ้น CDF ก็จะโตขึ้นใกล้กับบรรทัดอ้างอิง$b$

การหาลักษณะและการหาปริมาณความโค้งนี้จะต้องใช้การวิเคราะห์ที่ละเอียดยิ่งขึ้นของการประมาณปกติของตัวแปรทวินาม

คุณภาพของการประมาณฟังก์ชั่น Bessel จะชัดเจนขึ้นในส่วนที่ขยายเหล่านี้ (ของมุมขวาบนของแต่ละพล็อต) เราค่อนข้างห่างไกลจากหาง แม้ว่าขนาดแนวตั้งลอการิทึมสามารถซ่อนความแตกต่างอย่างมีนัยสำคัญอย่างชัดเจนตามเวลาที่ได้ถึงประมาณเป็นสิ่งที่ดีสำหรับ{ข}$a$$500$$|S| \lt a\sqrt{b}$

---

รหัส R เพื่อคำนวณการกระจายตัวของ$S$

ต่อไปนี้จะใช้เวลาสองสามวินาทีในการดำเนินการ (มันคำนวณความน่าจะเป็นหลายล้าน 36 การรวมกันของและ .) บนเครื่องช้าลงละเว้นขนาดใหญ่หนึ่งหรือสองค่าและและเพิ่มขีด จำกัด วางแผนที่ลดลงจากประมาณ160}$a$$b$ab$10^{-300}$$10^{-160}$

s <- function(a, b) {
  # Returns the distribution of S as a vector indexed by its support.
  products <- factor(as.vector(outer(seq(-a, a, by=2), seq(-b, b, by=2))))
  probs <- as.vector(outer(dbinom(0:a, a, 1/2), dbinom(0:b, b, 1/2)))
  tapply(probs, products, sum)
}

par(mfrow=c(2,3))
b.vec <- c(51, 101, 149, 201, 299, 501)
cols <- terrain.colors(length(b.vec)+1)
for (a in c(50, 100, 150, 200, 300, 500)) {
  plot(c(-sqrt(a*max(b.vec)),0), c(10^(-300), 1), type="n", log="y", 
       xlab="S/sqrt(ab)", ylab="CDF", main=paste(a))
  curve(besselK(abs(x), 0)/pi, lwd=2, add=TRUE)
  for (j in 1:length(b.vec)) {
    b <- b.vec[j]
    x <- s(a,b)
    n <- as.numeric(names(x))
    k <- n <= 0
    y <- cumsum(x[k])
    lines(n[k]/sqrt(a*b), y, col=cols[j], lwd=2)
  }
}

ความคิดเห็น:ฉันแก้ไขชื่อในความพยายามที่จะสะท้อนให้เห็นถึงดีกว่าชนิดของ rv ที่จะพิจารณาในคำถาม ทุกคนรู้สึกอิสระที่จะแก้ไขอีกครั้ง

แรงจูงใจ:ฉันเดาว่าไม่จำเป็นต้องยุติขอบเขตบนหากเราสามารถหาการกระจายของ. (อัปเดต :เราไม่สามารถเห็นความคิดเห็นและคำตอบของ Whuber ได้)$|S_{ab}|$

แสดงว่าkมันเป็นเรื่องง่ายที่จะตรวจสอบว่า 's มีการกระจายเช่นเดียวกับ ' s และ 's ฟังก์ชั่นสร้างช่วงเวลาคือ$Z_k = X_iY_j,\;\; k=1,...,ab$$Z$$X$$Y$

$$M_Z(t) = E[e^{zt}]=\frac 12e^{-t}+\frac 12e^t = \cosh(t)$$

นอกจากนี้ค่าเริ่มต้นของคือคู่ที่มีความเป็นอิสระ: ตัวแปร (ดัชนีอาจเป็นของหลักสูตรใดก็ได้) มีการสนับสนุนโดยมีความน่าจะเป็นที่สอดคล้องกัน\} ฟังก์ชั่นการสร้างช่วงเวลาของมันคือ$Z$$W = Z_1+Z_2$$\{-2,0,2\}$$\{1/4,1/2,1/4\}$

$$M_{W}(t) = E[e^{(z_1+z_2)t}] = \frac 14e^{-2t}+\frac 12 +\frac 14e^{2t}=\\ =\frac 14(e^{-2t}+1)+ \frac 14(e^{2t}+1) = \frac 14 2e^{-t}\cosh(t)+\frac 14 2e^{t}\cosh(t)\\ =\cosh(t)\cdot \cosh(t) = M_{Z_1}(t)M_{Z_2}(t)$$

ฉันจะพยายามที่จะสงสัยว่าเป็นอิสระเต็มที่ถือดังต่อไปนี้ (มันเป็นที่ชัดเจนกับคนที่ฉลาดหรือไม่): สำหรับส่วนนี้แสดงว่าZ_จากนั้นตามกฎลูกโซ่ $Z_{ij}=X_iY_j$

$$P[Z_{ab},...,Z_{11}] = P[Z_{ab}\mid Z_{a,b-1},...,Z_{11}]\cdot ...\cdot P[Z_{13}\mid Z_{12},Z_{11}]\cdot P[Z_{12}\mid Z_{11}]\cdot P[Z_{11}]$$

โดยอิสระคู่ฉลาดเรามี{12}] พิจารณา {11}] และเป็นเงื่อนไขแบบอิสระบนดังนั้นเราจึงมี ความเท่าเทียมกันครั้งที่สองโดยความเป็นอิสระคู่ แต่นี่ก็หมายความว่า$P[Z_{12}\mid Z_{11}] = P[Z_{12}]$
$P[Z_{13},Z_{12}\mid Z_{11}]$$Z_{13}$$Z_{12}$$Z_{11}$

$$P[Z_{13}\mid Z_{12},Z_{11}] = P[Z_{13}\mid Z_{11}] = P[Z_{13}]$$

$$P[Z_{13}\mid Z_{12},Z_{11}]\cdot P[Z_{12}\mid Z_{11}]\cdot P[Z_{11}] = P[Z_{13},\,Z_{12},\,Z_{11}] = P[Z_{13}]\cdot P[Z_{12}]\cdot P[Z_{11}]$$

ฯลฯ (ฉันคิดว่า) ( ปรับปรุง : ฉันคิดว่าผิดความเป็นอิสระอาจจะเก็บไว้สำหรับ triplet ใด ๆ แต่ไม่ใช่สำหรับทั้งกลุ่มดังนั้นสิ่งต่อไปนี้เป็นเพียงการได้มาของการกระจายของการเดินแบบสุ่มง่าย ๆ และไม่ใช่คำตอบที่ถูกต้องสำหรับคำถาม - ดู Wolfies 'และ คำตอบของ Whuber)

หากความเป็นอิสระเต็มรูปแบบถือเป็นจริงเรามีหน้าที่ในการได้รับการกระจายของผลรวมของ iid dichotomous rv ของ

$$S_{ab}=\sum_{k=1}^{ab}Z_k$$

ซึ่งดูเหมือนว่าจะเป็นการสุ่มเดินเรียบ ๆแม้ว่าจะไม่มีการตีความที่ชัดเจนของลำดับหลัง

ถ้าการสนับสนุนของจะเป็นจำนวนเต็มคู่ในรวมถึงศูนย์ในขณะที่ถ้าการสนับสนุนของจะเป็นจำนวนเต็มคี่ในโดยไม่มีศูนย์ $ab=even$$S$$[-ab,...,ab]$$ab=odd$$S$$[-ab,...,ab]$

เราปฏิบัติต่อกรณีของAB แสดงว่าจะเป็นจำนวน 's สละค่า-1จากนั้นการสนับสนุนของสามารถเขียนได้\} สำหรับการใด ๆ ที่ได้รับเราได้รับค่าไม่ซ้ำกันสำหรับSนอกจากนี้เนื่องจากความน่าจะเป็นสมมาตรและความเป็นอิสระ (หรือเพียงแค่ exchangeability?) ทุกคนเข้าใจร่วมกันเป็นไปได้ของ -variablesมี equiprobable เราจึงนับและพบว่าฟังก์ชันความน่าจะเป็นของคือ$ab=odd$
$m$$Z$$-1$$S$$S\in \{ab-2m;m\in \mathbb Z_+\cup\{0\};m\le ab\}$$m$$S$$Z$$\{Z_1=z_1,..., Z_{ab}=z_{ab}\}$$S$

$$P(S=ab-2m)={ab \choose m}\cdot \frac 1{2^{ab}}, \qquad 0\le m\le ab$$

การกำหนด , และเลขคี่โดยการสร้างและองค์ประกอบทั่วไปของการสนับสนุนของเรามี$s\equiv ab-2m$$S$

$$P(S=s)={ab \choose \frac{ab-s}{2}}\cdot \frac 1{2^{ab}}$$

ย้ายไปที่เนื่องจากถ้าการแจกแจงของนั้นมีความสมมาตรรอบศูนย์โดยไม่มีการจัดสรรความน่าจะเป็นให้เป็นศูนย์และดังนั้นการกระจายของได้มาจากการ "พับ" กราฟความหนาแน่นรอบแกนแนวตั้งโดยหลักแล้วจะเพิ่มความน่าจะเป็นสองเท่าสำหรับค่าบวก$|S|$$ab=odd$$S$$|S|$

$$P(|S|=|s|)={ab \choose \frac{ab-s}{2}}\cdot \frac 1{2^{ab-1}}$$

จากนั้นฟังก์ชั่นการกระจายคือ

$$P(|S|\le|s|)=\frac 1{2^{ab-1}}\sum_{1\le i\le s,\, i\,odd}{ab \choose \frac{ab-i}{2}}$$

ดังนั้นสำหรับจริงใด ๆ , เราได้รับความน่าจะเป็นที่ต้องการ $t$$1\le t<ab$

$$P(|S|> t) = 1- P(|S|\le t) = 1-\frac 1{2^{ab-1}}\sum_{1\le i\le t,\, i\,odd}{ab \choose {\frac{ab-i}{2}}}$$

โปรดทราบว่าการบ่งชี้รับประกันว่าผลรวมจะทำงานได้ถึงค่าที่รวมอยู่ในการสนับสนุนของ- ตัวอย่างเช่นหากเราตั้งค่า ,จะยังคงทำงานได้ถึงเนื่องจากมันถูกกำหนดให้เป็นเลขคี่ด้านบนของการเป็นจำนวนเต็ม$i=odd$$|S|$$t=10.5$$i$$9$

ไม่ใช่คำตอบ แต่เป็นความคิดเห็นเกี่ยวกับคำตอบที่น่าสนใจของ Alecos ที่ยาวเกินกว่าจะใส่ลงในกล่องความคิดเห็นได้

อนุญาตเป็นตัวแปรสุ่ม Rademacher อิสระและปล่อยให้เป็นตัวแปรสุ่ม Rademacher อิสระ Alecos ตั้งข้อสังเกตว่า:$(X_1, ..., X_a)$$(Y_1, ..., Y_b)$

$$S_{ab}=\sum_{k=1}^{ab}Z_k \qquad \text{where} \qquad Z_k = X_i Y_j$$

"... ดูเหมือนว่าเป็นการสุ่มแบบง่าย ๆ " ถ้ามันเหมือนกับการเดินแบบเรียบง่ายแบบง่ายการกระจายตัวของจะเป็น 'รูปทรงกลมเหมือนระฆัง' แบบสมมาตรรอบ ๆ 0$S$

เพื่อแสดงให้เห็นว่ามันไม่ใช่การเดินแบบสุ่มง่าย ๆ นี่คือการเปรียบเทียบ Monte Carlo อย่างรวดเร็วของ:

• จุดสามเหลี่ยม: การจำลอง Monte Carlo ของ pmf ของให้และ$S$$a = 5$$b = 7$
• จุดกลม: การจำลองแบบมอนติคาร์โลของการเดินสุ่มแบบง่ายด้วยขั้นตอน$n = 35$

เห็นได้ชัดว่าไม่ใช่การเดินสุ่มแบบง่าย ๆ โปรดทราบด้วยว่าSไม่ได้ถูกกระจายในจำนวนเต็มคู่ (หรือคี่) ทั้งหมด$S$

Monte Carlo

นี่คือรหัส (ในMathematica ) ที่ใช้ในการสร้างการวนซ้ำเดียวของผลรวมโดยกำหนดและ :$S$$a$$b$

 SumAB[a_, b_] :=  Outer[Times, RandomChoice[{-1, 1}, a], RandomChoice[{-1, 1}, b]] 
                         // Flatten // Total 

จากนั้น 500,000 เส้นทางดังกล่าวเมื่อสามารถและด้วย:$a = 5$$b = 7$

 data57 = Table[SumAB[5, 7], {500000}];

โดเมนของการสนับสนุนสำหรับการรวมกันของและคือ:$a$$b$

{-35, -25, -21, -15, -9, -7, -5, -3, -1, 1, 3, 5, 7, 9, 15, 21, 25, 35}