ทฤษฎีกราฟในรูปแบบกราฟิกอยู่ที่ไหน

29

การแนะนำตัวแบบกราฟิกอธิบายว่า "... การแต่งงานระหว่างทฤษฎีกราฟและทฤษฎีความน่าจะเป็น"

ฉันได้ทฤษฎีส่วนความน่าจะเป็น แต่ฉันมีปัญหาในการทำความเข้าใจว่าทฤษฎีกราฟตรงกับอะไรความเข้าใจเชิงลึกจากทฤษฎีกราฟได้ช่วยให้เราเข้าใจการกระจายความน่าจะเป็นและการตัดสินใจภายใต้ความไม่แน่นอนมากขึ้น

ฉันกำลังมองหาตัวอย่างที่เป็นรูปธรรมนอกเหนือจากการใช้คำศัพท์ทางทฤษฎีกราฟที่ชัดเจนใน PGM เช่นการจำแนก PGM เป็น "ต้นไม้" หรือ "bipartite" หรือ "undirected" เป็นต้น

graphical-model graph-theory distributions

— Vimal
แหล่งที่มา

33

มีทฤษฎีกราฟทางคณิตศาสตร์ที่แท้จริงน้อยมากในแบบจำลองกราฟิกความน่าจะเป็นที่ซึ่งโดยทฤษฎีกราฟทางคณิตศาสตร์ที่แท้จริงฉันหมายถึงการพิสูจน์เกี่ยวกับ cliques คำสั่งจุดสุดยอดทฤษฎีบท max-flow min-cut และอื่น ๆ แม้แต่สิ่งพื้นฐานเช่นเดียวกับทฤษฎีบทของออยเลอร์และการจับมือกันของเลมม่าก็ไม่ได้ถูกใช้ แต่ฉันคิดว่าคน ๆ หนึ่งอาจเรียกพวกมันให้ตรวจสอบคุณสมบัติของรหัสคอมพิวเตอร์ที่ใช้ในการอัปเดตประมาณการความน่าจะเป็น ยิ่งไปกว่านั้นแบบจำลองกราฟิกความน่าจะเป็นของ probabilist ไม่ค่อยใช้มากกว่าเซตย่อยของคลาสของกราฟเช่นกราฟหลายตัว ทฤษฎีเกี่ยวกับการไหลในกราฟไม่ได้ใช้ในแบบจำลองความน่าจะเป็นแบบกราฟิก

ถ้านักเรียน A เป็นผู้เชี่ยวชาญในความน่าจะเป็น แต่ไม่รู้อะไรเกี่ยวกับทฤษฎีกราฟและนักเรียน B เป็นผู้เชี่ยวชาญในทฤษฎีกราฟ แต่ไม่รู้ถึงความน่าจะเป็นดังนั้น A จะเรียนรู้และเข้าใจแบบจำลองความน่าจะเป็นแบบกราฟิกได้เร็วกว่า B

— David G. Stork
แหล่งที่มา

8

ในทางทฤษฎีทฤษฎีกราฟดูเหมือนว่าจะเชื่อมต่อกับ PGM อย่างหลวม ๆ อย่างไรก็ตามอัลกอริทึมกราฟมีประโยชน์ PGM เริ่มต้นด้วยการอนุมานการส่งผ่านข้อความซึ่งเป็นส่วนย่อยของคลาสทั่วไปของอัลกอริธึมการส่งข้อความบนกราฟ (อาจเป็นเหตุผลสำหรับคำว่า "กราฟิก" ในนั้น) อัลกอริธึมตัดกราฟใช้กันอย่างแพร่หลายสำหรับการอนุมานฟิลด์แบบสุ่มของมาร์คอฟในการมองเห็นคอมพิวเตอร์ มันขึ้นอยู่กับผลลัพธ์ที่คล้ายกับทฤษฎีบทของฟอร์ด - ฟัลเกอร์สัน (การไหลสูงสุดเท่ากับการตัดขั้นต่ำ); อัลกอริทึมที่ได้รับความนิยมมากที่สุดน่าจะเป็น Boykov – Kolmogorov และ IBFS

อ้างอิง [Murphy, 2012 , §22.6.3] ครอบคลุมการใช้งานการตัดกราฟสำหรับการอนุมาน MAP ดูเพิ่มเติม[Kolmogorom และ Zabih, 2004 ; Boykov et al., PAMI 2001]ซึ่งครอบคลุมการเพิ่มประสิทธิภาพมากกว่าการสร้างแบบจำลอง

— Roman Shapovalov
แหล่งที่มา

สิ่งที่น่าสนใจที่จะทราบว่าอัลกอริทึมตัดกราฟถูกใช้ใน MRF คุณสามารถชี้ไปที่การอ้างอิงได้หรือไม่? จากคำตอบของ David Stork ด้านบนดูเหมือนว่าอัลกอริทึมเหล่านี้เกิดขึ้นเนื่องจากความจริงที่ว่าทฤษฎีกราฟเป็นเครื่องมือสร้างแบบจำลองที่มีประโยชน์มากกว่าการเชื่อมต่อพื้นฐานระหว่างทฤษฎีกราฟและ PGM

— Vimal

ฉันได้เพิ่มการอ้างอิงตามที่คุณถาม จากแถลงการณ์ครั้งล่าสุดของคุณเราจะแยกสาเหตุได้อย่างไรเช่นบอกว่ามันเป็นพื้นฐานหรือไม่?

— Roman Shapovalov

@overrider คุณสามารถให้การอ้างอิงแบบเต็มเพื่อให้สามารถค้นหาเอกสารได้อย่างง่ายดาย .. ? Googling อาจนำผู้คนไปสู่การอ้างอิง แต่อาจจบลงด้วยการเสียเวลาเพื่อผลลัพธ์ที่ไม่เกี่ยวข้อง ดังนั้นชื่อผู้จัดพิมพ์ชื่อวารสารลิงค์ ฯลฯ เป็นสิ่งที่ดีที่จะเพิ่ม

— ทิม

2

อัลกอริธึมตัดกราฟมีประโยชน์ในการมองเห็นคอมพิวเตอร์ แต่ไม่ใช่แบบจำลองความน่าจะเป็น ปัญหาหนึ่งในการมองเห็นด้วยสเตอริโอคือปัญหาการติดต่อ: การค้นหาว่าจุดใดในภาพ A ตรงกับจุดในภาพ B เราสามารถตั้งค่ากราฟที่จุดยอดนั้นสอดคล้องกับจุดคุณลักษณะในภาพสองภาพและกราฟแสดงถึงความสอดคล้องที่เป็นไปได้ทั้งหมด จากนั้นปัญหาในการค้นหาการติดต่อที่ "เหมาะสม" สามารถถูกใช้เป็นปัญหากราฟตัดได้ ไม่มีการใช้งานดังกล่าวในโมเดลกราฟิกทั่วไปแม้ว่าฉันคิดว่าใครสามารถลองแมปปัญหาการมองเห็นคอมพิวเตอร์นี้กับโมเดลกราฟิก

— David G. Stork

2

@ DavidG.Stork มีปัญหาการมองเห็นคอมพิวเตอร์อื่น ๆ ที่ใช้การตัดกราฟในลักษณะที่คล้ายกัน: การแบ่งส่วนภาพการตัดปะ ฯลฯ ดังนั้นวิธีการจึงเป็นวิธีทั่วไป ปัญหาเหล่านั้นสามารถแสดงออกได้อย่างเป็นธรรมชาติในรูปแบบของกราฟิคแบบไม่ได้บอกทิศทาง ที่อนุญาตให้ใช้อัลกอริทึมการอนุมาน MRF ที่แตกต่างกันรวมถึงการปรับแบบจำลอง ในทางกลับกันการตัดกราฟสามารถปรับ MRF ได้ค่อนข้างใหญ่ซึ่งสามารถนำไปใช้นอกเหนือการมองเห็นเช่นการวิเคราะห์เครือข่ายสังคมออนไลน์ (แม้ว่าฉันจะไม่สามารถเรียกคืนเอกสารเฉพาะตอนนี้)

— Roman Shapovalov

4

มีงานตรวจสอบการเชื่อมโยงระหว่างความง่ายในการถอดรหัสของรหัสการตรวจสอบความหนาแน่นต่ำ (ซึ่งได้รับผลลัพธ์ที่ยอดเยี่ยมเมื่อคุณพิจารณาว่าเป็น probablistic กราฟและใช้ Loopy Belief Propagation) และเส้นรอบวงของกราฟที่เกิดจากเมทริกซ์การตรวจสอบความเท่าเทียมกัน . ลิงค์นี้สู่เส้นรอบวงไปทางกลับเมื่อถูกคิดค้น LDPCs [1] แต่มีการทำงานเพิ่มเติมในช่วงทศวรรษที่ผ่านมาหรือ [2] [3] หลังจากแยกค้นพบโดย Mackay et al [4] และคุณสมบัติของพวกเขาสังเกตเห็น .

ฉันมักจะเห็นความคิดเห็นของไข่มุกในเวลาที่การลู่เข้าของการเผยแผ่ความเชื่อขึ้นอยู่กับขนาดของกราฟที่ถูกอ้างถึง แต่ฉันไม่รู้งานใด ๆ ที่ดูที่ diameters ของกราฟในกราฟที่ไม่ใช่แผนภูมิและผลกระทบที่มี

RG Gallager รหัสตรวจสอบความหนาแน่นต่ำ กด MIT, 1963
IE Bocharova, F. Hug, R. Johannesson, BD Kudryashov และ RV Satyukov ใหม่รหัสการตรวจสอบความเท่าเทียมกันของความหนาแน่นต่ำที่มีเส้นรอบวงขนาดใหญ่ขึ้นอยู่กับกราฟไฮเปอร์ ในการดำเนินการตามทฤษฎีข้อมูล (ISIT), 2010 IEEE International Symposium on, หน้า 819 –823, 2010
SC Tatikonda การรวมกันของอัลกอริธึมผลรวมผลิตภัณฑ์ ในการประชุมเชิงปฏิบัติการทฤษฎีข้อมูล, 2003 การดำเนินการ. 2003 IEEE, หน้า 222 - 225, 2003
David JC MacKay และ RM Neal ใกล้กับแชนนอน จำกัด ประสิทธิภาพของรหัสตรวจสอบความหนาแน่นต่ำ จดหมายอิเล็กทรอนิกส์, 33 (6): 457–458, 1997

— ตบเบา ๆ
แหล่งที่มา

3

โปรแกรมหนึ่งที่ประสบความสำเร็จของขั้นตอนวิธีกราฟรูปแบบกราฟิกที่น่าจะเป็นอัลกอริทึม Chow-หลิว มันแก้ปัญหาในการหาโครงสร้างกราฟที่เหมาะสม (ต้นไม้) และขึ้นอยู่กับอัลกอริทึม Spanning trees (MST) สูงสุด

p (x | T) = \prod_{t \in V} p (x_{t}) \prod_{(s, t) \in E} \frac{p (x_{s}, x_{t})}{p (x_{s}) p (x_{t})}

$\begin{equation} p(x|T) = \prod_{t\in V} p(x_t) \prod_{(s,t) \in E} \frac{p(x_s, x_t)}{p(x_s)p(x_t)} \end{equation}$

\frac{1}{N} \log P (D | θ, T) = \sum_{t \in V} \sum_{k} p_{M L} (x_{t} = k) \log p_{M L} (x_{t} = k) + \sum_{(s, t) \in E} I (x_{s}; x_{t} | θ_{s t})

$\begin{equation} \frac{1}{N}\log P(D|\theta, T) = \sum_{t\in V}\sum_k p_{ML}(x_t=k) \log p_{ML}(x_t=k) + \sum_{(s,t)\in E} I(x_s; x_t|\theta_{st}) \end{equation}$

I (x_{s}; x_{t} | θ_{s t})

$I(x_s;x_t|\theta_{st})$

x_{s}

$x_s$

x_{t}

$x_t$

x

$x$

k

$k$

T

$T$

$I(x_s;x_t|\theta_{st})$

— Vadim Smolyakov
แหล่งที่มา

สวัสดี Vadim ขอบคุณสำหรับคำตอบของคุณ ในฐานะที่เป็นสูตรในแง่ทฤษฎีกราฟมันทำให้รู้สึก แต่ก็เห็นว่ามันเป็นปัญหาการเพิ่มประสิทธิภาพเช่นกัน จิตวิญญาณของคำถามคือเพื่อสอบถามการเชื่อมต่อพื้นฐานเพิ่มเติม ตัวอย่างเช่นหนึ่งสามารถกำหนดปัญหาการเรียงลำดับเป็นการจัดเรียงทอพอโลยีบนกราฟที่โหนดเป็นตัวเลขและลูกศรแสดงถึง <= ความสัมพันธ์ แต่นั่นไม่ได้ทำให้การเชื่อมต่อพื้นฐานระหว่างขั้นตอนวิธีการเรียงลำดับและกราฟใช่มั้ย

— Vimal