หลักการ Minimax ของ Yao ในอัลกอริทึม Monte Carlo

หลักการ Minimax ของ Yao ที่โด่งดังกล่าวถึงความสัมพันธ์ระหว่างความซับซ้อนในการแจกแจงและความซับซ้อนแบบสุ่ม Letจะมีปัญหากับขอบเขตของปัจจัยการผลิตและชุด จำกัดขั้นตอนวิธีการที่กำหนดในการแก้Pนอกจากนี้ยังให้หมายถึงการกระจายการป้อนข้อมูลและให้หมายถึงการกระจายความน่าจะเป็นใน{A} จากนั้นหลักการฯ $P$ $\mathcal{X}$ $\mathcal{A}$ $P$ $\mathcal{D}$ $\mathcal{R}$ $\mathcal{A}$

min_{A \in A} E c o s t (A, D) \leq max_{x \in X} E c o s t (R, x) for all D and R .

$\min_{A\in\mathcal{A}}\quad\mathbb{E} cost(A,\mathcal{D}) \leq \max_{x\in\mathcal{X}}\quad\mathbb{E} cost(\mathcal{R},x) \quad\quad\text{for all $\mathcal{D}$ and $\mathcal{R}$}.$ หลักฐานนี้โดยตรงจากทฤษฎีบท minimax ของ von Neumann สำหรับเกม zero-sum

ส่วนใหญ่เป็นข้อเสนอหลักการยาวกับลาสเวกัขั้นตอนวิธีการเพียง แต่มันสามารถทั่วไปที่จะอัลกอริทึม Monte Carloดังต่อไปนี้ ที่หมายถึงค่าใช้จ่ายของอัลกอริทึมที่ Monte Carlo errs ความน่าจะเป็นที่ที่สุด\

\frac{1}{2} min_{A \in A} E c o s t_{2 ϵ} (A, D) \leq max_{x \in X} E c o s t_{ϵ} (R, x) for all D, R and ϵ \in [0, 1 / 2]

$\frac12 \min_{A\in\mathcal{A}}\quad\mathbb{E} cost_{2\epsilon}(A,\mathcal{D}) \leq \max_{x\in\mathcal{X}}\quad\mathbb{E} cost_{\epsilon}(\mathcal{R},x)\quad\quad\text{for all $\mathcal{D}$, $\mathcal{R}$ and $\epsilon\in [0,1/2]$}$

c o s t_{ϵ} (\cdot, \cdot)

$cost_\epsilon(\cdot,\cdot)$

ϵ

$\epsilon$

ในบทความต้นฉบับของเหยาความสัมพันธ์ของอัลกอริธึม Monte Carlo นั้นถูกกำหนดไว้ในทฤษฎีบท 3 โดยไม่มีข้อพิสูจน์ คำใบ้ใด ๆ ที่พิสูจน์ได้?

randomized-algorithms

— Federico Magallanez
แหล่งที่มา

คำตอบ:

นี่เป็นเพียงความคิดเห็นเพิ่มเติมเกี่ยวกับคำตอบของมาร์กอสโดยใช้สัญลักษณ์ของเขา ฉันไม่สามารถติดตามรายละเอียดการโต้แย้งของเขาได้และสิ่งที่อยู่ด้านล่างนี้ค่อนข้างสั้นและง่าย

โดยค่าเฉลี่ย

\sum_{A} q (A) \sum_{x} d (x) ϵ (A, x) = \sum_{x} d (x) \sum_{A} q (A) ϵ (A, x) \leq λ .

$\sum_A{q(A)\sum_x{d(x)\epsilon(A, x)}} = \sum_x{d(x)\sum_A{q(A)\epsilon(A, x)}} \leq \lambda.$

ความจริงข้างต้นและความไม่เท่าเทียมกันของมาร์คอฟเปรย 2 $\sum_{A \in \beta(2\lambda)}{q(A)} \geq 1/2$

ดังนั้นเราจึงได้รับ:

\begin{aligned} max_{x} \sum_{A} q (A) r (A, x) & \geq \sum_{x} d (x) \sum_{A} q (A) r (A, x) \\ = \sum_{A} q (A) \sum_{x} d (x) r (A, x) \\ \geq \sum_{A \in β (2 λ)} q (A) \sum_{x} d (x) r (A, x) \\ \geq (\sum_{A \in β (2 λ)} q (A)) min_{A \in β (2 λ)} \sum_{x} d (x) r (A, x) \\ \geq \frac{1}{2} min_{A \in β (2 λ)} \sum_{x} d (x) r (A, x) \end{aligned}

$\begin{align*} \max_x \sum_A{q(A)r(A,x)} &\geq \sum_x{d(x)\sum_A{q(A)r(A, x)}}\\ &= \sum_A{q(A)\sum_x{d(x)r(A, x)}}\\ &\geq \sum_{A \in \beta(2\lambda)}{q(A)\sum_x{d(x)r(A, x)}}\\ &\geq \left(\sum_{A \in \beta(2\lambda)}{q(A)}\right) \min_{A \in \beta(2\lambda)}{\sum_x{d(x)r(A, x)}}\\ &\geq \frac{1}{2}\min_{A \in \beta(2\lambda)}{\sum_x{d(x)r(A, x)}} \end{align*}$

— Sasho Nikolov
แหล่งที่มา

ฉันจะลองทำสิ่งนี้ ฉันจะใช้สัญลักษณ์ดั้งเดิมของเหยา วิธีนี้จะง่ายกว่าที่จะเปรียบเทียบกับกระดาษและคำจำกัดความของเขา

ให้เป็นชุด จำกัด ของอินพุตและให้เป็นชุด จำกัด ของอัลกอริทึมกำหนดที่อาจล้มเหลวในการให้คำตอบที่ถูกต้องสำหรับอินพุตบางส่วน อนุญาตด้วยถ้าให้คำตอบที่ถูกต้องสำหรับ , และอย่างอื่น แสดงด้วยจำนวนการสืบค้นที่ทำโดยบนอินพุตหรือเทียบเท่าความลึกของ $\mathcal{I}$ $\mathcal{A}_0$ $\epsilon(A,x)=0$ $A$ $x$ $\epsilon(A,x)=1$ $r(A,x)$ $A$ $x$ $A$ ต้นไม้ตัดสินใจของ

ค่าใช้จ่ายเฉลี่ย:ได้รับการกระจายความน่าจะเป็นบนที่ค่าใช้จ่ายเฉลี่ยของอัลกอริทึมคือ ) $d$ $\mathcal{I}$ $A\in \mathcal{A}_0$ $C(A,d)=\sum_{x\in\mathcal{I}} d(x)\cdot r(A,x)$

กระจายความซับซ้อน: Let ]สำหรับการกระจายใด ๆปัจจัยให้เป็นส่วนหนึ่งของกำหนดโดย $\lambda\in[0,1]$ $d$ $\beta(\lambda)$ $\mathcal{A}_0$ $\beta(\lambda)=\{A : A\in \mathcal{A}_0, \sum_{x\in\mathcal{I}} d(x)\cdot \epsilon(A,x)\leq \lambda\}$ . ความซับซ้อนกระจายด้วยข้อผิดพลาดสำหรับการคำนวณปัญหาถูกกำหนดให้เป็น ) $\lambda$ $P$ $F_{1,\lambda}(P)=\max_{d} \min_{A\in \beta(\lambda)} C(A,d)$

-tolerance: $\lambda$ กระจายในครอบครัวเป็น -tolerant ถ้า λ $q$ $\mathcal{A}_0$ $\lambda$ $\max_{x\in \mathcal{I}} \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x)\leq \lambda$

ค่าใช้จ่ายที่คาดว่าจะมีขั้นตอนวิธีการสุ่มให้จะเป็นแจกแจงความน่าจะเป็นที่ -tolerant บน0ค่าใช้จ่ายคาดว่าของสำหรับการป้อนข้อมูลให้เป็น ) $R$ $q$ $\lambda$ $\mathcal{A}_0$ $R$ $x$ $E(R,x)=\sum_{A\in \mathcal{A}_0} q(A)\cdot r(A,x)$

สุ่มซับซ้อน: Let ]ความซับซ้อนด้วยข้อผิดพลาดแบบสุ่มคือ ) $\lambda\in[0,1]$ $\lambda$ $F_{2,\lambda}=\min_R \max_{x\in\mathcal{I}} E(R,x)$

ตอนนี้เราพร้อมที่จะทำธุรกิจ สิ่งที่เราต้องการพิสูจน์จะได้รับการแจกแจงในอินพุตและอัลกอริทึมแบบสุ่ม (เช่นการกระจายบน ) $d$ $R$ $q$ $\mathcal{A}_0$

หลักการ Minimax ของ Yao สำหรับ Montecarlo Algorithms สำหรับ]
$max_{x \in I} E (R, x) \geq \frac{1}{2} min_{A \in β (2 λ)} C (A, d)$ $\begin{equation}\max_{x\in\mathcal{I}} E(R,x)\geq \frac{1}{2}\min_{A\in \beta(2\lambda)} C(A,d) \end{equation}$ $\lambda\in[0,1/2]$

ฉันจะทำตามวิธีการที่กำหนดโดยFich, Meyer auf der Heide, Ragde และ Wigderson (ดูบทแทรก 4) วิธีการของพวกเขาไม่ได้ให้ลักษณะเฉพาะสำหรับอัลกอริทึมของ Las Vegas (เฉพาะขอบเขตล่าง) แต่ก็เพียงพอสำหรับวัตถุประสงค์ของเรา จากหลักฐานของพวกเขามันง่ายที่จะเห็นว่าสำหรับใด ๆและ $\mathcal{A}_0$ $\mathcal{I}$

เรียกร้อง 1. ) $\max_{x\in \mathcal{I}} E(R,x)\geq \min_{A\in \mathcal{A}_0} C(A,d)$

เพื่อให้ได้ตัวเลขที่ถูกต้องเราจะทำสิ่งที่คล้ายกัน ระบุว่าการกระจายความน่าได้รับจากการสุ่มอัลกอริทึมคือ -tolerant บนเรามี $q$ $R$ $\lambda$ $\mathcal{A}_0$

\begin{aligned} λ & \geq max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \\ \geq \sum_{x \in I} d (x) \sum_{A \in A_{0}} q (a) \cdot ϵ (A, x) \\ = \sum_{A \in A_{0}} q (a) \sum_{x \in I} d (x) \cdot ϵ (A, x) \\ \geq min_{A \in A_{0}} {\sum_{x \in I} d (x) \cdot ϵ (A, x)} . \end{aligned}

$\begin{align*} \lambda &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \sum_{x\in\mathcal{I}} d(x) \sum_{A\in \mathcal{A}_0} q(a)\cdot \epsilon(A,x)\\ &= \sum_{A\in \mathcal{A}_0} q(a)\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x)\\ &\geq \min_{A\in \mathcal{A}_0}\left\{ \sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}. \end{align*}$ If we replace the family

A_{0}

$\mathcal{A}_0$ with

β (2 λ)

$\beta(2\lambda)$ we see that

\begin{aligned} λ & \geq max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \\ \geq max_{x \in I} {\sum_{A \in β (2 λ)} q (A) \cdot ϵ (A, x)} \\ \geq \sum_{x \in I} d (x) \sum_{A \in β (2 λ)} q (a) \cdot ϵ (A, x) \\ = \sum_{A \in β (2 λ)} q (a) \sum_{x \in I} d (x) \cdot ϵ (A, x) \\ \geq min_{A \in β (2 λ)} {\frac{1}{2} \sum_{x \in I} d (x) \cdot ϵ (A, x)}, \end{aligned}

$\begin{align*} \lambda &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\beta(2\lambda)} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \sum_{x\in\mathcal{I}} d(x) \sum_{A\in \beta(2\lambda)} q(a)\cdot \epsilon(A,x)\\ &= \sum_{A\in \beta(2\lambda)} q(a)\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x)\\ &\geq \min_{A\in \beta(2\lambda)}\left\{ \frac{1}{2}\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}, \end{align*}$

where the second inequality follows because $\beta(2\lambda) \subseteq \mathcal{A}_0$ , and the last inequality is given by the definition of $\beta(2\lambda)$ where the summation divided by 2 cannot be greater than $\lambda$ . Hence,

max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \geq \frac{1}{2} min_{A \in β (2 λ)} {\sum_{x \in I} d (x) \cdot ϵ (A, x)} .

$\begin{equation}\max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\geq\frac{1}{2} \min_{A\in \beta(2\lambda)}\left\{ \sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}. \end{equation}$

By noting that $\epsilon$ maps to $\{0,1\}$ and $r$ maps to $\mathbb{N}$ and Claim 1 above, now we can safely replace the function $\epsilon$ in the inequality above by $r(A,x)$ to obtain the desired inequality.

— Marcos Villagra
แหล่งที่มา

Is there a short explanation for where the factor of 2 comes from?

— Robin Kothari

in short, it comes from the definition of

β (2 λ)

$\beta(2\lambda)$ . The summation in the definition divided by 2 is at most

λ

$\lambda$ .

— Marcos Villagra

something seems strange to me. by definition,

max_{A \in β (2 λ))} {\frac{1}{2} \sum_{x \in I} d (x), ϵ (A, x)} \leq λ

$\max_{A \in \beta(2\lambda))} \left\{\frac{1}{2} \sum_{x \in \mathcal{I}}{d(x), \epsilon(A,x)}\right\} \leq \lambda$ so why the min?

— Sasho Nikolov

and i don't understand the last sentence. how did you make an entire argument about

ϵ

$\epsilon$ and then replaced it with

r

$r$ ?

— Sasho Nikolov

regarding your first question, I added more details.

— Marcos Villagra