ลูกและการวิเคราะห์ช่องเก็บของใน

$m$ $n$ $m \gg n$ $X_i$ $i$ $X_\max$ $X_\min$ $X_{\mathrm{sec-max}}$ $X_i - X_j \sim N(0,2m/n)$ $|X_i - X_j| = \Theta(\sqrt{m/n})$ $i,j$ $X_{\max} - X_{\min} = O(\sqrt{m\log n/n})$ $n/2$ ถังขยะแยกอิสระคู่ อาร์กิวเมนต์นี้ (ไม่ใช่แบบสมบูรณ์) ทำให้เราคาดหวังว่าช่องว่างระหว่าง $X_{\max}$ และ $X_{\min}$ คือ $\Theta(\sqrt{m\log n/n})$ มีความน่าจะเป็นสูง

ฉันสนใจในช่องว่างระหว่าง $X_\max$ และ $X_{\mathrm{sec-max}}$ {วินาทีสูงสุด}} อาร์กิวเมนต์ที่แสดงด้านบนแสดงให้เห็นว่า $X_\max - X_{\mathrm{sec-max}} = O(\sqrt{m\log n/n})$ มีความน่าจะเป็นสูง แต่ปัจจัย $\sqrt{\log n}$ ดูเหมือนไม่เกี่ยวข้อง . มีอะไรที่รู้เกี่ยวกับการกระจายของ $X_\max - X_{\mathrm{sec-max}}$ ?

มากกว่าปกติสมมติว่าแต่ละลูกมีความเกี่ยวข้องกับที่ไม่ใช่เชิงลบคะแนนสำหรับแต่ละถังและเรามีความสนใจในคะแนนรวมของแต่ละถังหลังจากการขว้างปา $m$ ลูก ปกติสอดคล้องกับสถานการณ์ที่คะแนนของแบบฟอร์ม $(0,\ldots,0,1,0,\ldots,0)$ 0) สมมติว่าการกระจายความน่าจะเป็นของคะแนนคือคงอยู่ภายใต้การเปลี่ยนแปลงของถัง (ในสถานการณ์ปกติตรงนี้ความจริงที่ว่าถังขยะทั้งหมดที่มี equiprobable) ได้รับการกระจายของคะแนนที่เราสามารถใช้วิธีการของย่อหน้าแรกที่จะได้รับสิ่งที่ดีที่ถูกผูกไว้ใน $X_{\max} - X_{\min}$ นาที} ขอบเขตจะมีปัจจัย $\sqrt{\log n}$ ที่มาจากการรวมกลุ่ม (ผ่านความน่าจะเป็นหางของตัวแปรปกติ) ปัจจัยนี้จะลดลงได้ไหมถ้าเราสนใจที่จะ จำกัด ขอบเขต ? $X_{\max} - X_{\mathrm{sec-max}}$

reference-request pr.probability

— Yuval Filmus
แหล่งที่มา

แต่ละคะแนนอยู่ใน [0,1]?

— Neal Young

มันไม่ได้เรื่องจริงๆคุณก็สามารถปรับขนาดเพื่อให้มันอยู่ใน

[0, 1]

$[0,1]$ ]

— Yuval Filmus

คำตอบ:

คำตอบ: $\Theta\left(\sqrt{\frac{m}{n\log n}}\right)$ )

การประยุกต์ทฤษฎีการ จำกัด ขอบเขตแบบหลายมิติเราได้ว่าเวกเตอร์ $(X_1,\dots, X_n)$ มีการแจกแจงแบบเกาส์หลายตัวแปรแบบไม่มีเส้นกำกับด้วย และ เราจะสมมติว่าด้านล่างเป็นเวกเตอร์แบบเกาส์เซียน (และไม่เพียงประมาณเวกเตอร์เกาส์เซียน) ขอให้เราเพิ่ม Gaussian ตัวแปรสุ่มกับความแปรปรวนทุก(มีความเป็นอิสระจากทุก) นั่นคือปล่อยให้

V a r [X_{i}] = m (\frac{1}{n} - \frac{1}{n^{2}}),

$\mathrm{Var}[X_i] = m\left(\frac{1}{n} - \frac{1}{n^2}\right),$

C o v (X_{i}, X_{j}) = - m / n^{2} .

$\mathrm{Cov}(X_i, X_j) = -m/n^2.$

X

$X$

Z

$Z$

m / n^{2}

$m/n^2$

X_{i}

$X_i$

Z

$Z$

X_{i}

$X_i$

เราได้รับเวกเตอร์เสียน

)

ตอนนี้แต่ละ

มีความแปรปรวน

(\begin{matrix} Y_{1} \\ Y_{2} \\ ⋮ \\ Y_{n} \end{matrix}) = (\begin{matrix} X_{1} + Z \\ X_{2} + Z \\ ⋮ \\ X_{n} + Z \end{matrix}) .

$\begin{pmatrix} Y_1\\Y_2\\ \vdots\\Y_n \end{pmatrix} = \begin{pmatrix} X_1+Z\\X_2+Z\\ \vdots\\X_n +Z \end{pmatrix}.$

(Y_{1}, \dots, Y_{n})

$(Y_1, \dots, Y_n)$

Y_{i}

$Y_i$

m / n

$m/n$

และ

มีความเป็นอิสระ:

V a r [Y_{i}] = V a r [X_{i}] + \underset{= 0}{\underset{⏟}{2 C o v (X_{i}, Z)}} + V a r [Z] = m / n,

$\mathrm{Var}[Y_i] = \mathrm{Var}[X_i] + \underbrace{2\mathrm{Cov}(X_i,Z)}_{=\, 0}+\mathrm{Var}[Z] = m/n,$

Y_{i}

$Y_i$

C o v (Y_{i}, Y_{j}) = C o v (X_{i}, X_{j}) + \underset{= 0}{\underset{⏟}{C o v (X_{i}, Z) + C o v (X_{j}, Z)}} + C o v (Z, Z) = 0.

$\mathrm{Cov}(Y_i, Y_j) = \mathrm{Cov}(X_i, X_j) + \underbrace{\mathrm{Cov}(X_i,Z) + \mathrm{Cov}(X_j,Z)}_{=\, 0} +\mathrm{Cov}(Z, Z) = 0.$

โปรดทราบว่าเจดังนั้นปัญหาเดิมของเราเทียบเท่ากับปัญหาในการหา xขอให้เราเป็นครั้งแรกสำหรับความเรียบง่ายในการวิเคราะห์กรณีเมื่อทุกมีความแปรปรวน1 $Y_i - Y_j = X_i - X_j$ $Y_{\mathrm{max}} - Y_{\mathrm{sec-max}}$ $Y_i$ $1$

ปัญหา. เราจะได้รับ RV Gaussian อิสระมีค่าเฉลี่ยและความแปรปรวน1ประเมินความคาดหวังของ x $n$ $\gamma_1,\dots, \gamma_n$ $\mu$ $1$ $\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}$

คำตอบ: ) $\Theta\left(\frac{1}{\sqrt{\log n}}\right)$

หลักฐานทางการ นี่เป็นวิธีแก้ปัญหาอย่างไม่เป็นทางการสำหรับปัญหานี้ (ไม่ยากที่จะทำให้เป็นทางการ) ตั้งแต่คำตอบไม่ได้ขึ้นอยู่กับค่าเฉลี่ยเราคิดว่า 0ให้ที่ )เรามี (สำหรับขนาดใหญ่ปานกลาง ) $\mu = 0$ $\bar\Phi(t) = \Pr[\gamma > t]$ $\gamma\sim{\cal N}(0,1)$ $t$

\bar{Φ} (t) \approx \frac{1}{\sqrt{2 π} t} e^{- \frac{1}{2} t^{2}} .

$\bar\Phi(t)\approx \frac{1}{\sqrt{2\pi}t} e^{-\frac{1}{2}t^2}.$

สังเกตได้ว่า

มีการกระจายอย่างสม่ำเสมอและเป็นอิสระใน $\Phi(\gamma_i)$ , $[0,1]$
มีขนาดเล็กที่สุดในหมู่ $\Phi(\gamma_{\mathrm{max}})$ , $\Phi(\gamma_i)$
เป็นที่เล็กที่สุดสองในหมู่ $\Phi(\gamma_{\mathrm{sec-max})}$ ) $\Phi(\gamma_i)$

ดังนั้นอยู่ใกล้กับและอยู่ใกล้กับ (ไม่มีสมาธิ แต่ถ้าเราไม่สนใจค่าคงที่การประมาณเหล่านี้ดีพอ; อันที่จริงแล้ว พวกเขายังค่อนข้างดีถ้าเราใส่ใจค่าคงที่ - แต่นั่นต้องมีเหตุผล) โดยใช้สูตรสำหรับเราได้รับที่ $\Phi(\gamma_{\mathrm{max}})$ $1/n$ $\Phi(\gamma_{\mathrm{max}})$ $2/n$ $\bar\Phi(t)$

2 \approx \bar{Φ} (γ_{s e c - m a x}) / \bar{Φ} (γ_{m a x}) \approx e^{\frac{1}{2} (γ_{m a x}^{2} - γ_{s e c - m a x}^{2})} .

$2\approx \bar\Phi(\gamma_{\mathrm{sec-max}})\left/\bar\Phi(\gamma_{\mathrm{max}})\right. \approx e^{\frac{1}{2}\left(\gamma_{\mathrm{max}}^2 - \gamma_{\mathrm{sec-max}}^2\right)}.$

ดังนั้นเป็น WHP ทราบว่า $\gamma_{\mathrm{max}}^2 - \gamma_{\mathrm{sec-max}}^2$ $\Theta(1)$ )เรามี $\gamma_{\mathrm{max}}\approx \gamma_{\mathrm{sec-max}} = \Theta(\sqrt{\log n})$

γ_{m a x} - γ_{s e c - m a x} \approx \frac{Θ (1)}{γ_{m a x} + γ_{s e c - m a x}} \approx \frac{Θ (1)}{\sqrt{\log n}} .

$\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}\approx \frac{\Theta(1)}{\gamma_{\mathrm{max}} + \gamma_{\mathrm{sec-max}}} \approx \frac{\Theta(1)}{\sqrt{\log n}}.$

QED

เราได้รับ

\begin{aligned} E [X_{m a x} - X_{s e c - m a x}] & = E [Y_{m a x} - Y_{s e c - m a x}] \\ = \sqrt{V a r [Y_{i}]} \times E [γ_{m a x} - γ_{s e c - m a x}] = Θ (\sqrt{\frac{m}{n \log n}}) . \end{aligned}

$\begin{align} \mathbb{E}[{X_{\mathrm{max}} - X_{\mathrm{sec-max}}}] &= \mathbb{E}[{Y_{\mathrm{max}} - Y_{\mathrm{sec-max}}}] \\ &= \sqrt{\mathrm{Var}[Y_i]} \times\mathbb{E}[{\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}}] = \Theta\left(\sqrt{\frac{m}{n\log n}}\right). \end{align}$

$E [X_{m a x} - X_{s e c - m a x}] = c E [X_{m a x} - X_{m i n}] / \log n .$ $\mathbb{E}[X_{\mathrm{max}}- X_{\mathrm{sec-max}}] = c\, \left. \mathbb{E}[X_{\mathrm{max}}- X_{\mathrm{min}}]\right/\log n.$

— Yury
แหล่งที่มา

ขอบคุณ! ฉันจะจำให้ลองใช้การประมาณแบบเกาส์หลายตัวแปรในครั้งต่อไป

— Yuval Filmus

Z

$Z$

m / n^{2}

$m/n^2$

X_{i}

$X_i$

(Y_{1}, \dots, Y_{n})

$(Y_1, \dots, Y_n)$

Y_{i}

$Y_i$

m / n

$m/n$

Y_{i}

$Y_i$

Y_{i} - Y_{j} = X_{i} - X_{j}

$Y_i - Y_j = X_i - X_j$

Z_{i} = Z_{j}

$Z_i = Z_j$

X_{i}

$X_i$

Z_{i}

$Z_i$

Y_{i}

$Y_i$

X_{1}, \dots, X_{n}

$X_1,\dots,X_n$

C o v (X_{i}, X_{j})

$\mathrm{Cov}(X_i,X_j)$ new random variable

Z

$Z$ ทั้งหมด

X_{i}

$X_i$ such that the sums are independent. Also, if the variables have positive correlation and again all covariances

C o v (X_{i}, X_{j})

$\mathrm{Cov}(X_i,X_j)$ are equal then we can subtract a single r.v.

Z

$Z$ from all of them so that all the differences are independent; but now

Z

$Z$ is not independent from

X_{i}

$X_i$ but rather

Z = α (X_{1} + \dots + X_{n})

$Z=\alpha (X_1 + \dots+X_n)$ for some scaling parameter

α

$\alpha$ .

— Yury

Ah I see. at least algebraically, all it rests on is the pairwise independence of Z and each

X_{i}

$X_i$ . very cool.

— Suresh Venkat

This argument now appears (with attribution) in an EC'14 paper: dl.acm.org/citation.cfm?id=2602829.

— Yuval Filmus

For your first question, I think you can show that w.h.p. $X_{\max}-X_{\textrm{sec-max}}$ is

o (\sqrt{\frac{m}{n} \frac{\log^{2} \log n}{\log n}}) .

$o\left(\sqrt{\frac{m}{n}\frac{\log^2\log n}{\log n}}\right).$ Note that this is

o (\sqrt{m / n})

$o(\sqrt{m/n})$ .

Compare your random experiment to the following alternative: Let $X_1$ be the maximum load of any of the first $n/2$ buckets. Let $X_2$ be the maximum load of any of the last $n/2$ buckets.

On consideration, $|X_1-X_2|$ is an upper bound on $X_{\max}-X_{\mathrm{sec-max}}$ . Also, with probability at least one half, $|X_1-X_2| = X_{\max}-X_{\mathrm{sec-max}}$ . So, speaking roughly, $X_{\max}-X_{\mathrm{sec-max}}$ is distributed similarly to $|X_1-X_2|$ .

To study $|X_1-X_2|$ , note that with high probability $m/2\pm O(\sqrt m)$ balls are thrown into the first $n/2$ bins, and likewise for the last $n/2$ bins. So $X_1$ and $X_2$ are each distributed essentially like the maximum load when throwing $m' = m/2\pm o(m)$ balls into $n' = n/2$ bins.

This distribution is well-studied and, luckily for this argument, is tightly concentrated around its mean. For example, if $m' \gg n\log^3 n$ , then with high probability $X_1$ differs from its expectation by at most the quantity displayed at the top of this answer [Thm. 1]. (Note: this upper bound is, I think, loose, given Yuri's answer.) Thus, with high probability $X_1$ and $X_2$ also differ by at most this much, and so $X_{\max}$ and $X_{\mathrm{max-sec}}$ differ by at most this much.

Conversely, for a (somewhat weaker) lower bound, if, for any $t$ , say, $\Pr[|X_1-X_2| \ge t] \ge 3/4$ , then $\Pr[X_{\max}-X_{\textrm{sec-max}} \ge t]$ is at least

Pr [| X_{1} - X_{2} | \geq t \land X_{max} - X_{sec-max} = | X_{1} - X_{2} |]

$\Pr\big[|X_1-X_2| \ge t ~\wedge~ X_{\max}-X_{\textrm{sec-max}} = |X_1-X_2|\big]$ which (by the naive union bound) is at least

1 - (1 / 4) - (1 / 2) = 1 / 4.

$1 - (1/4) - (1/2) = 1/4.$ I think this should give you (for example) the expectation of

X_{max} - X_{sec-max}

$X_{\max}-X_{\textrm{sec-max}}$ within a contant factor.

— Neal Young
แหล่งที่มา

Looking at Thm. 1, the difference from the expectation is

O (\sqrt{(m / n) \log \log n})

$O(\sqrt{(m/n) \log \log n})$ , and not what you wrote. That's still much better than

O (\sqrt{(m / n) \log n})

$O(\sqrt{(m/n) \log n})$ .

— Yuval Filmus

By Thm. 1 (its 3rd case), for any

ϵ > 0

$\epsilon>0$ , with probability

1 - o (1)

$1-o(1)$ , the maximum in any bin (m balls in n bins) is

\frac{m}{n} + \sqrt{\frac{2 m \log n}{n}} \sqrt{1 - (1 \pm ϵ) \frac{\log \log n}{2 \log n}} .

$\frac{m}{n} +\sqrt{\frac{2m\log n}{n}}\sqrt{1-(1\pm\epsilon) \frac{\log\log n}{2\log n}}.$ By my math (using

\sqrt{1 - δ} = 1 - O (δ)

$\sqrt{1-\delta} = 1 - O(\delta)$ ), the

\pm ϵ

$\pm\epsilon$ term expands to an additive absolute term of

O (ϵ) \sqrt{\frac{m \log n}{n}} \frac{\log \log n}{\log n} = O (ϵ) \sqrt{\frac{m}{n} \frac{\log^{2} \log n}{\log n}} .

$O(\epsilon) \sqrt{\frac{m\log n}{n}}~\frac{\log\log n}{\log n} ~=~O(\epsilon) \sqrt{\frac{m}{n}~\frac{\log^2\log n}{\log n}}.$ What am I doing wrong?

— Neal Young

Ah - I guess you're right. I subtracted inside the square root and that's how I got my figure.

— Yuval Filmus