รับ

นี่คือปัญหาที่มีรสชาติคล้ายกับการเรียนรู้ juntas:

การป้อนข้อมูล:ฟังก์ชั่น , ตัวแทนจาก oracle สมาชิกคือ oracle ที่ได้รับผลตอบแทน ) $f: \{0,1\}^n \rightarrow \{-1,1\}$ $x$ $f(x)$

เป้าหมาย:ค้นหา subcube $S$ ของ $\{0,1\}^n$ ด้วยโวลุ่ม $|S|=2^{n-k}$ เช่นนั้น $\left|\mathbb{E}_{x \in S} f(x) \right| \ge 0.1$ 0.1เราสมมติว่ามี subcube อยู่

มันง่ายที่จะได้อัลกอริธึมที่ทำงานในเวลา $n^{O(k)}$ และส่งกลับคำตอบที่ถูกต้องด้วยความน่าจะเป็น $\ge 0.99$ โดยลองใช้วิธีทั้งหมด $(2n)^k$ เพื่อเลือก subcube และสุ่มตัวอย่างค่าเฉลี่ยในแต่ละอัน

ฉันสนใจในการหาอัลกอริทึมที่วิ่งในเวลา $poly(n,2^k)$ )อีกทางเลือกหนึ่งขอบเขตที่ต่ำกว่าจะดี ปัญหามีรสชาติคล้ายกับการเรียนรู้ juntas แต่ฉันไม่เห็นการเชื่อมต่อที่แท้จริงระหว่างความยากลำบากในการคำนวณของพวกเขา

ปรับปรุง: @Thomas ด้านล่างพิสูจน์ให้เห็นว่าความซับซ้อนตัวอย่างของปัญหานี้คือ )ปัญหาที่น่าสนใจก็คือความซับซ้อนของปัญหา $poly(2^k,\log n)$

แก้ไข: คุณสามารถสมมติความเรียบง่ายที่มี subcube ด้วย (สังเกตช่องว่าง: เรากำลังมองหา subcube ที่มีค่าเฉลี่ย ) ฉันค่อนข้างมั่นใจว่าการแก้ปัญหาด้วยช่องว่างนั้นจะแก้ปัญหาได้โดยไม่ต้องมีช่องว่าง $\left|\mathbb{E}_{x \in S} f(x) \right| \ge 0.2$ $\ge 0.1$

— เกี๊ยว
แหล่งที่มา

นี่คือขอบเขตที่ดีกว่าของความซับซ้อนตัวอย่าง (แม้ว่าความซับซ้อนในการคำนวณยังคงเป็น .) $n^k$

ทฤษฎีบท. สมมติว่ามี subcube ขนาดเช่นนั้น 0.12ด้วยตัวอย่างเราสามารถทำได้โดยมีความน่าจะเป็นสูงระบุ subcube ขนาดเช่นนั้น $S$ $2^{n-k}$ $|\mathbb{E}_{x \in S}[f(x)]| \geq 0.12$ $O(2^k \cdot k \cdot \log n)$ $S'$ $2^{n-k}$ $|\mathbb{E}_{x \in S'}[f(x)]| \geq 0.1$

$0.12$ $0.1$

$m$ $P \subset \{0,1\}^n$ $f$ $x \in P$

$S$ $2^{n-k}$ $\mathbb{E}[|S \cap P|]=m 2^{-k}$

P [| S \cap P | < m 2^{- k - 1}] \leq 2^{- Ω (m 2^{- k})} .

$\mathbb{P}[|S \cap P| < m 2^{-k-1}] \leq 2^{-\Omega(m 2^{-k})}.$

P [| E_{x \in S \cap P} [f (x)] - E_{x \in S} [f (x)] | > ε] \leq 2^{- Ω (| S \cap P | ε^{2})} .

$\mathbb{P}[| \mathbb{E}_{x \in S \cap P}[f(x)] - \mathbb{E}_{x \in S}[f(x)] | > \varepsilon] \leq 2^{-\Omega(|S \cap P| \varepsilon^2)}.$

ด้วยการรวมกันตัวเลือกทั้งหมดเรามีดังนั้นโดยการเลือกเราสามารถมั่นใจได้ว่าด้วยความน่าจะเป็นอย่างน้อยเราสามารถประมาณภายในสำหรับ subcubes ทั้งหมดขนาด{} ${n \choose k}2^k$ $S$

P [\forall S | E_{x \in S \cap P} [f (x)] - E_{x \in S} [f (x)] | \leq ε] \geq 1 - (\binom{n}{k}) 2^{k} 2^{- Ω (m 2^{- k} ε^{2})} .

$\mathbb{P}[\forall S ~~ | \mathbb{E}_{x \in S \cap P}[f(x)] - \mathbb{E}_{x \in S}[f(x)] | \leq \varepsilon] \geq 1 - {n \choose k} 2^k 2^{-\Omega(m 2^{-k} \varepsilon^2)}.$

m = O (2^{k} / ε^{2} \cdot k \log n)

$m = O(2^k/\varepsilon^2 \cdot k \log n)$

0.99

$0.99$

E_{x \in S} [f (x)]

$\mathbb{E}_{x \in S}[f(x)]$

ε

$\varepsilon$

S

$S$

2^{n - k}

$2^{n-k}$

การตั้งค่าเราพิสูจน์ทฤษฎีบท: การเลือก subcube ที่ใหญ่ที่สุดจะมีโอกาสสูงที่จะตอบสนองความต้องการ QED $\varepsilon=0.01$ $| \mathbb{E}_{x \in S \cap P}[f(x)]|$

— โทมัส
แหล่งที่มา

โอ้ววววข้างี่เง่ายังไง: ใช่ความคิดพื้นฐานคือถ้าคุณลองคะแนนจากนั้นคาดหวังของพวกเขาจะอยู่ในแต่ละ subcube ดังนั้นด้วยค่าที่น้อยที่สุด ขนาดของกลุ่มตัวอย่างเพียงพอที่จะแก้ปัญหาแม้กระทั่งหลังการรวมตัวกันเหนือขอบเขตทั้งหมด Chernoff นอกจากนี้ฉันค่อนข้างแน่ใจว่าโซลูชันใด ๆ ที่สามารถปรับได้เพื่อกำจัดช่องว่างระหว่าง 0.1 และ 0.12 ดังนั้นฉันจะเพิ่มนี่เป็นความคิดเห็นสำหรับคำถาม ขอบคุณ !!

C \cdot 2^{k}

$C \cdot 2^k$

C

$C$

C

$C$

n^{k}

$n^k$

— mobius dumpling

อีกวิธีหนึ่งในการดูสิ่งนี้ก็คือพื้นที่ของช่วงที่คุณอธิบายนั้นมีมิติของการแบ่งเป็นสัดส่วนและดังนั้นจึง จำกัด ขอบเขตของมิติ VC จากนั้นคุณจึงโยนทฤษฎีบท eps-Approximation ที่มัน

— Suresh Venkat