ความสำคัญของ Integrality Gap

ฉันมักจะมีปัญหาในการทำความเข้าใจความสำคัญของIntegrality Gap (IG) และขอบเขตของมัน IG คืออัตราส่วนของ (คุณภาพของ) คำตอบจำนวนเต็มที่เหมาะสมต่อ (คุณภาพของ) ทางออกที่แท้จริงที่ดีที่สุดของการผ่อนคลายของปัญหา ให้พิจารณาจุดสุดยอดปก (VC) เป็นตัวอย่าง VC สามารถระบุได้ว่าเป็นการค้นหาโซลูชันจำนวนเต็มที่ดีที่สุดของชุดสมการเชิงเส้นต่อไปนี้:

เรามีศูนย์ / หนึ่งมูลค่าตัวแปร s สำหรับแต่ละจุดสุดยอดของกราฟGสมการคือ:สำหรับและสำหรับแต่ละขอบ(G) เรากำลังมองหาคุณค่าที่จะลดx_v v ∈ V ( G ) G 0 ≤ x v ≤ 1 v ∈ V ( G ) 1 ≤ x v + x u u v ∈ E ( G ) ∑ v ∈ V ( G ) x $x_v$$v \in V(G)$$G$$0 \leq x_v \leq 1$$v\in V(G)$$1 \leq x_v+x_u$$uv \in E(G)$$\sum_{v \in V(G)} x_v$

การผ่อนคลายของปัญหานี้ช่วยให้ค่าจริงระหว่างถึงดังนั้นพื้นที่ของการแก้ปัญหามีขนาดใหญ่กว่าและทางออกที่ดีที่สุดจริงอาจมีขนาดเล็กกว่าการแก้ปัญหาจำนวนเต็มที่ดีที่สุดที่เราต้องการค้นหา ดังนั้นเราจำเป็นต้องดำเนินการ "การปัดเศษ" ในคำตอบที่แท้จริงที่ดีที่สุดที่ได้รับจากการเขียนโปรแกรมเชิงเส้นเพื่อค้นหาวิธีแก้ปัญหาจำนวนเต็ม วิธีแก้ปัญหาจำนวนเต็มที่เหมาะสมจะอยู่ระหว่างวิธีแก้ปัญหาจริงที่ดีที่สุดกับผลลัพธ์ของกระบวนการปัดเศษ IG เป็นอัตราส่วนของวิธีแก้ปัญหาจำนวนเต็มที่ดีที่สุดต่อทางออกจริงที่ดีที่สุดและไม่ได้พูดอะไรเกี่ยวกับกระบวนการปัดเศษ กระบวนการในการปัดเศษ (ในทางทฤษฎี) สามารถเพิกเฉยต่อโซลูชันที่แท้จริงและคำนวณวิธีแก้ปัญหาจำนวนเต็มที่ดีที่สุดได้โดยตรง$0$$1$

ทำไมผู้คนถึงสนใจพิสูจน์ขอบเขตของ IG?

ช่องว่างความซื่อสัตย์เป็นตัวแทนของข้อ จำกัด โดยธรรมชาติของการผ่อนคลายเชิงเส้นหรือนูนโดยเฉพาะในการประมาณโปรแกรมจำนวนเต็ม โดยทั่วไปถ้าช่องว่างด้านความเป็นหนึ่งเดียวของการผ่อนคลายคือดังนั้นอัลกอริธึมใด ๆ ที่อยู่บนพื้นฐานของการพักผ่อนนั้นจะไม่สามารถทำได้ดีกว่าการประมาณแบบดังนั้นอย่างน้อยที่สุดอินทิกรัช่องว่างน่าสนใจสำหรับนักออกแบบอัลกอริทึมเนื่องจากพวกเขาแนะนำข้อ จำกัด ในเทคนิคบางอย่าง $x$$x$

เหตุใดจึงไม่เพียงเกิดขึ้นกับการผ่อนคลาย LP อื่นหรือเปลี่ยนไปใช้เทคนิคอื่นและดำเนินการต่อไป การเขียนโปรแกรมเชิงเส้นและนูนได้พิสูจน์แล้วว่าเป็นศูนย์กลางของอัลกอริทึมการประมาณ สำหรับปัญหาต่าง ๆ ที่เกิดจากการรวมช่องว่างของธรรมชาติ LP หรือ SDP สูตรเท่ากับอัตราส่วนการประมาณของอัลกอริทึมที่ดีที่สุดเช่นเดียวกับความแข็งของอัตราส่วนการประมาณ นี่เป็นเพียงการสังเกตเชิงประจักษ์ แต่ก็หมายความว่าการพิสูจน์ช่องว่างการบูรณาการอาจบ่งบอกถึงผลกระทบที่รุนแรงกว่าของอัลกอริทึมที่ได้รับการปรับปรุงหรือขอบเขตล่าง

อาจมีเหตุผลที่ลึกซึ้งและเข้มงวดมากขึ้นสำหรับปรากฏการณ์นี้ ตัวอย่างเช่นสมมติว่าเกมที่ไม่ซ้ำกันคาดเดาว่ามันเป็นที่รู้จักกันว่าอัตราส่วนประมาณและอัตรา inapproximability สำหรับปัญหาความพึงพอใจ จำกัด เท่ากับช่องว่าง integrality ของความผ่อนคลายแบบง่ายๆ SDP (ดูผลลัพธ์ที่ดีที่สุดและอัลกอริทึม Inapproximability สำหรับทุก CSP?โดยปรา Raghavendra)

ในที่สุดช่องว่างที่เกิดจากการรวมตัวเป็นตัวแทนของขอบเขตล่างที่ไม่มีเงื่อนไข โดยปกติเราต้องพึ่งพาสมมติฐานที่ไม่ได้รับการพิสูจน์ (เช่น ) หากเราต้องการดำเนินการใด ๆ ในขอบเขตที่ต่ำกว่า แต่สำหรับการคำนวณแบบ จำกัด บางครั้งเราสามารถหนีออกไปได้โดยปราศจากมัน (ดูบันทึกการบรรยายโดย Luca Trevisan) ช่องว่างความซื่อสัตย์เป็นเรขาคณิตอย่างแท้จริงมากกว่าการคำนวณเป็นวิธีหนึ่งที่จะได้รับขอบเขตที่ต่ำกว่าที่มีประสิทธิภาพเป็นธรรมโดยไม่ต้องมีกระเป๋าของสมมติฐานพิเศษ$P \neq NP$

สมมติว่าปัญหาของคุณน่าสนใจก็คือปัญหาการลดและที่คุณได้มีการพัฒนา-approximate อัลกอริทึม หากในการป้อนข้อมูลที่กำหนดขั้นตอนวิธีการของคุณออกผลลัพธ์การแก้ปัญหาของค่าใช้จ่ายแล้วการคำนวณของขั้นตอนวิธีบวกวิเคราะห์ให้ใบรับรองว่าในการป้อนข้อมูลที่เหมาะสมเป็นอย่างน้อย c เห็นได้ชัดว่าเป็นอย่างน้อยที่สุดดังนั้นสำหรับทุกอินพุตเราสามารถรับรองขอบเขตล่างถึงค่าสูงสุดซึ่งอย่างน้อยของเศษส่วนที่เหมาะสมc a / c a 1 /$a$$c$$a/c$$a$$1/c$

ในอัลกอริทึมทั้งหมดที่อยู่บนพื้นฐานของการผ่อนคลายแบบนูน (LP และ SDP) ที่ฉันรับรู้ขอบเขตล่างที่ได้รับการรับรองที่เหมาะสมจะได้รับจากการพักผ่อนที่ดีที่สุด ถ้าการพักผ่อนมี integrity gapก็จะเป็นไปไม่ได้ที่จะได้อัตราส่วนการประมาณที่ดีกว่าเว้นแต่ว่าในการวิเคราะห์จะแนะนำเทคนิคที่มีขอบเขตต่ำกว่าเพื่อให้ได้ค่าที่ดีที่สุด$I$$I$

การรวมช่องว่างเป็นตัวบ่งชี้ที่มีประโยชน์ว่า IP สามารถประมาณได้ดีเพียงใด มันอาจจะเป็นการดีกว่าที่จะคิดในวิธีที่ไม่เป็นทางการและใช้งานง่าย ช่องว่างที่เกิดจากการรวมตัวกันสูงหมายถึงว่าวิธีการบางอย่างจะไม่ทำงาน ยกตัวอย่างเช่นวิธีแรก / คู่ขึ้นอยู่กับช่องว่างเล็ก ๆ สำหรับ LP Vertex Cover LP ดั้งเดิมแผ่น LP คู่ขอการจับคู่สูงสุด ในกรณีนี้เราสามารถทำสิ่งต่อไปนี้:

• ค้นหาวิธีแก้ไขปัญหาเศษส่วนที่เหมาะสมที่สุดกับ dual LP (การจับคู่เศษส่วนสูงสุด)$\boldsymbol{y}$
• คูณสารละลายด้วยตัวคูณ 2 (เพิ่มน้ำหนักขอบทั้งหมดเป็นสองเท่า)$\boldsymbol{y}$
• แปลงสิ่งนี้เป็น integral ที่เป็นไปได้สำหรับ Primal LP (แต่ละขอบให้ครึ่งหนึ่งของน้ำหนักจากเวกเตอร์เป็นจุดสิ้นสุดแต่ละจุดในเวกเตอร์แต่ละคือ แทนที่ด้วย )$\boldsymbol{x}$$2\boldsymbol{y}$$\boldsymbol{x}$$x_i$$\min(\lfloor x_i\rfloor, 1)$

ในกรณีนี้กลยุทธ์ง่ายๆนี้ใช้งานได้และเราสิ้นสุดด้วยวิธีแก้ปัญหาอินทิกรัลที่เป็นไปได้สำหรับ LP อันดับแรกซึ่งมีน้ำหนักไม่เกินสองเท่าของน้ำหนักของโซลูชันที่เป็นไปได้สำหรับ dual LP เนื่องจากน้ำหนักของโซลูชันที่เป็นไปได้สำหรับ dual LP นั้นมีขอบเขตที่ต่ำกว่าสำหรับ OPT นี่คืออัลกอริทึมการประมาณ 2 แบบ

ตอนนี้ช่องว่างด้านการรวมเข้ามาอยู่ที่ไหน IG เป็น 2 ในกรณีนี้ แต่เพียงอย่างเดียวไม่ได้หมายความว่าอัลกอริทึมจะทำงาน ค่อนข้างแนะนำว่ามันอาจใช้งานได้ และถ้า IG มากกว่า 2 ก็จะรับประกันได้ว่ากลยุทธ์ง่ายๆจะไม่ทำงาน อย่างน้อยที่สุดเราก็ต้องคูณโซลูชันคู่ด้วย IG ดังนั้นบางครั้งการรวมเข้าด้วยกันทำให้เรารู้ว่าอะไรจะไม่ทำงาน ช่องว่างด้านการรวมกลุ่มยังสามารถบ่งบอกถึงปัจจัยการประมาณที่เราหวังไว้ ช่องว่างในการบูรณาการขนาดเล็กแสดงให้เห็นว่าการตรวจสอบกลยุทธ์การปัดเศษเป็นต้นอาจเป็นวิธีที่คุ้มค่า

สำหรับตัวอย่างที่น่าสนใจมากขึ้นพิจารณาตีปัญหาการตั้งค่าและเทคนิคที่มีประสิทธิภาพใกล้เคียงกับของปัญหาที่เกิดขึ้นโดยใช้ -nets (Brönnimann & Goodrich, 1995) ปัญหามากมายสามารถกำหนดเป็นอินสแตนซ์ของ Hitting Set และกลยุทธ์ที่ประสบความสำเร็จสำหรับปัญหามากมายคือการทำสิ่งนี้จากนั้นเพียงแค่ค้นหา net finder ที่ดีเช่นอัลกอริทึมในการสร้าง -nets ขนาดเล็กและเหวี่ยงทุกอย่างผ่าน เมตาดาต้าอัลกอริทึมของ B&G ดังนั้นผู้คน (รวมตัวฉันเอง) พยายามค้นหา net finders สำหรับ Hitting Set ที่ จำกัด สำหรับใด ๆสามารถสร้าง net ขนาดซึ่งฟังก์ชัน$\varepsilon$$\varepsilon$$\varepsilon$$\varepsilon$$f(1/\varepsilon)$$f$ควรมีขนาดเล็กที่สุด การมีเป็นเป้าหมายทั่วไป สิ่งนี้จะทำให้ - การประมาณ$f(1/\varepsilon) = \mathcal{O}(1/\varepsilon)$$\mathcal{O}(1)$

มันจะเปิดออกที่ดีที่สุดที่เป็นไปได้ฟังก์ชั่นกระโดดจากช่องว่างของ integrality แผ่นเสียงบางอย่างสำหรับการกดปุ่มตั้งค่า(แม้ Rawitz, Shahar 2005) โดยเฉพาะหนึ่งที่ดีที่สุดและการแก้ปัญหาเศษส่วนตอบสนอง_F) สำหรับอินสแตนซ์ที่ไม่ จำกัด ของการกดปุ่มการตั้งค่าการรวมช่องว่างคือ , แต่เมื่อกำหนดปัญหาอื่นเป็น Hitting Set, IG สามารถลดลงได้ ในตัวอย่างนี้ผู้เขียนแสดงวิธีการหา -nets ขนาด$f$$\mathrm{OPT}_I \leq f(\mathrm{OPT}_f)$$\Theta(\log(m))$$\varepsilon$$\mathcal{O}((1/\varepsilon) \log \log (1/\varepsilon))$สำหรับอินสแตนซ์ที่ จำกัด ของชุดการกดปุ่มที่สอดคล้องกับปัญหาของการกดปุ่มกล่องแบบขนานแกน ด้วยวิธีนี้พวกเขาปรับปรุงตามปัจจัยการประมาณที่รู้จักกันดีที่สุดสำหรับปัญหานั้น มันเป็นปัญหาที่เปิดกว้างว่าจะปรับปรุงได้หรือไม่ หากสำหรับชุด Hitting Set ที่ จำกัด เหล่านี้ IG สำหรับ Hitting Set LP คือจะไม่สามารถออกแบบ net finder ที่รับประกันขนาดสุทธิเนื่องจากการทำเช่นนั้นจะบ่งบอกถึงการมีอยู่ของอัลกอริทึมที่รับประกันการรวมชุดของขนาดแต่ ตั้งแต่$\Theta(\log \log m)$$\varepsilon$$o((1/\varepsilon) \log \log (1/\varepsilon))$$o(\mathrm{OPT}_f \log\log \mathrm{OPT}_f)$$\mathrm{OPT}_f\leq m$นี่จะหมายถึงช่องว่างการรวมตัวที่มีขนาดเล็กลง ดังนั้นหากช่องว่างด้านการรวมกลุ่มมีขนาดใหญ่การพิสูจน์ว่าสามารถป้องกันผู้คนจากการเสียเวลาไปกับการค้นหาผู้ค้นหาเครือข่ายที่ดี

เมื่อคุณคิดอัลกอริทึมการประมาณสำหรับปัญหาการขยาย NP-hard บางอย่างมีหลายค่าที่คุณอาจสนใจ: มี OPT ซึ่งเป็นค่าที่เหมาะสมที่สุดสำหรับปัญหาของคุณซึ่งเท่ากับ OPT (IP) ค่าของการกำหนด IP ที่ถูกต้องของปัญหาของคุณ นอกจากนี้ยังมี OPT (LP) ซึ่งเป็นค่าที่ดีที่สุดของการผ่อนคลายเชิงเส้นของ IP ของคุณ

$OPT(LP) \geq OPT(IP)$

ท้ายที่สุดมี V คือมูลค่าของโซลูชันที่คุณได้รับจากการปัดเศษโซลูชัน LP คุณต้องการที่จะพิสูจน์ว่าเพื่อแสดงให้เห็นว่าอัลกอริทึมของคุณเป็นการประมาณแต่มักจะเป็นไปไม่ได้ที่จะทำเช่นนี้โดยตรงเนื่องจากคุณไม่มี ยึดมั่นในพื้นที่การแก้ปัญหา แต่สิ่งที่ได้รับการพิสูจน์เกือบตลอดเวลาก็คือ{C} แน่นอนว่านี้หมายถึงแต่แข็งแกร่งกว่า โดยเฉพาะอย่างยิ่งหากช่องว่างการรวมระบบของสูตร IP ของคุณมีขนาดใหญ่กว่าข้อความข้างต้นจะเป็นเท็จโดยทั่วไปเนื่องจากขั้นตอนการปัดเศษของคุณสิ้นสุดลงด้วยโซลูชันที่สมบูรณ์$V > \frac{OPT(IP)}{c}$$c$$V \geq \frac{OPT(LP)}{c}$$V > \frac{OPT(IP)}{c}$$c$

ดังนั้น crux จึงเป็นเช่นนี้: LP ให้ทางออกที่คุณรู้ว่าเป็น "ดี" และคุณต้องการปัดเศษมันเป็นบางสิ่งที่ "เกือบดี" หากช่องว่างการบูรณาการมีขนาดใหญ่สิ่งนี้เป็นไปไม่ได้โดยทั่วไปเนื่องจากจะไม่มีขั้นตอนที่รับประกันว่าจะได้รับการแก้ปัญหาที่สำคัญซึ่งเป็น "amost and good" เป็นโซลูชัน LP - เพราะบางครั้งสิ่งเหล่านี้ไม่มีอยู่จริง!

คุณมีสิทธิ์ในการที่ช่องว่างด้านการรวมกลุ่มของการพักผ่อนนั้นไม่มีส่วนเกี่ยวข้องกับอัลกอริทึมการปัดเศษ นี่เป็นแนวคิดที่แตกต่างกันสองประการ ช่องว่างด้านการบูรณาการเป็นคุณสมบัติของการผ่อนคลายโดยเฉพาะ นั่นคือมูลค่าของการผ่อนคลายนั้นมีค่ามากกว่าเมื่อเปรียบเทียบกับค่าอินทิกรัลที่เหมาะสมที่สุด?

ทำไมเราถึงสนใจการผ่อนคลายแบบเส้นตรง / นูน เพื่อประมาณค่าสำคัญอย่างมีประสิทธิภาพ ดังนั้นเรามักพูดคุยเกี่ยวกับการผ่อนคลายเฉพาะในกรณีที่ค่าที่เหมาะสมที่สุดยากที่จะคำนวณและเราสนใจในการประมาณค่าที่มีประสิทธิภาพ ช่องว่างความซื่อสัตย์แสดงให้เราเห็นข้อ จำกัด โดยธรรมชาติของสิ่งที่สามารถทำได้โดยเทคนิคดังกล่าว

แล้วทำไมเราถึงสนใจการปัดเศษอัลกอริธึมด้านบนของการผ่อนคลาย? เราใช้อัลกอริทึมการปัดเศษเพื่อแก้ปัญหาอัลกอริทึมในการค้นหาวิธีแก้ปัญหาที่ดีที่สุดใกล้เคียงกับการประมาณค่าของโซลูชันที่เหมาะสมที่สุด ยิ่งไปกว่านั้นอัลกอริธึมการปัดเศษมักใช้เพื่อ จำกัด ช่องว่างการรวมกลุ่มของการผ่อนคลายในตอนแรก

ในทางเทคนิคช่องว่างด้านการรวมกลุ่มมีไว้สำหรับการกำหนด IP ที่เฉพาะเจาะจงไม่ใช่ (ตามที่คุณกำหนดไว้) การปันส่วนระหว่างการผ่อนคลายเชิงเส้นที่ดีที่สุดกับการแก้ปัญหาที่ดีที่สุด

การรวมกันของช่องว่างสำคัญเพราะมันแสดงให้เห็นถึงข้อ จำกัด ของการกำหนดสูตรเฉพาะ LP ที่ใช้ ถ้าฉันรู้ว่าการพักผ่อนที่เฉพาะเจาะจงมีช่องว่างการรวมกันของแล้วฉันก็รู้ว่าถ้าฉันหวังว่าจะพิสูจน์ขอบเขตที่ดีกว่าฉันจะต้องใช้สูตรที่แตกต่างกัน$c$$c$

มีกระดาษที่น่าสนใจมาก "บนข้อดีของการเข้ารหัสเครือข่ายสำหรับการปรับปรุงทรูพุตเครือข่าย" ซึ่งแสดงให้เห็นว่าช่องว่างในการบูรณาการของ "การผ่อนคลายแบบตัดสองทิศทาง" สำหรับปัญหาต้นไม้ Steiner เท่ากับชนิดของ "ข้อดีการเข้ารหัส" ในการสื่อสารเครือข่าย ฉันไม่รู้จักเอกสารที่คล้ายกันอื่น ๆ อีกมากมาย อย่างไรก็ตามเราควรทราบด้วยว่าการผ่อนคลาย LP ที่ดูดีขึ้นสำหรับปัญหาต้นไม้ Steiner นั้นเป็นที่รู้จัก (เช่นดูอัลกอริธึมการคำนวณโดยใช้กราฟไฮเปอร์กราฟแบบใหม่ของ Byrka et al ใน STOC 2010 ฉันยังอาสาสมัครอย่างไร้ยางอายว่า LP)

คำตอบส่วนใหญ่ได้กล่าวถึงเหตุผลสำคัญในการดูแลเกี่ยวกับช่องว่างที่เกิดจากการรวมตัวกันนั่นคืออัลกอริทึมการประมาณที่อิงจากการใช้ขอบเขตที่จัดเตรียมโดยการผ่อนคลายไม่สามารถหวังที่จะพิสูจน์อัตราส่วนที่ดีกว่า ฉันขอให้เหตุผลอีกสองข้อเกี่ยวกับเมตาว่าเหตุใดช่องว่างในการบูรณาการเป็นแนวทางที่มีประโยชน์ สำหรับปัญหาการเพิ่มประสิทธิภาพ combinatorial คลาสใหญ่ความเท่าเทียมกันของการแยกและการออปติไมซ์แสดงให้เห็นว่าอัลกอริธึมที่แน่นอนนั้นมีความเกี่ยวข้องอย่างใกล้ชิดกับตัวเรือนูนของการแก้ปัญหาที่เป็นไปได้สำหรับปัญหา ดังนั้นมุมมองทางเรขาคณิตและอัลกอริทึมจึงเชื่อมโยงกันอย่างใกล้ชิด การรู้เท่ากันอย่างเป็นทางการที่คล้ายกันไม่เป็นที่รู้จักสำหรับอัลกอริทึมการประมาณ แต่มันเป็นคู่มือที่มีประโยชน์ - อัลกอริทึมไปจับมือกับการผ่อนคลายทางเรขาคณิต นวัตกรรมอัลกอริทึมเกิดขึ้นเมื่อผู้คนมีเป้าหมายที่เป็นรูปธรรมในการปรับปรุง