เงื่อนไขแบบเต็มสามารถกำหนดการกระจายข้อต่อได้หรือไม่?

ฉันได้ยินมาว่าเงื่อนไขทั้งหมด (ตามที่ใช้ในการสุ่มตัวอย่างกิ๊บส์) สามารถกำหนดการกระจายข้อต่อได้ แต่ฉันไม่เข้าใจว่าทำไมและอย่างไร หรือว่าฉันเข้าใจผิด? ขอบคุณ!

distributions

— ทิม
แหล่งที่มา

คำถามที่ดูเหมือนง่ายนี้เป็นคำถามที่ลึกกว่าที่นำไปสู่ทฤษฎีบทแฮมเมอร์สลีย์ - คลิฟฟอร์ด ความจริงที่ว่าเราสามารถกู้คืนการกระจายข้อต่อจากเงื่อนไขแบบเต็มคือสิ่งที่ทำให้ตัวอย่างกิ๊บส์เป็นไปได้ มันอาจถูกมองว่าเป็นผลลัพธ์ที่น่าแปลกใจถ้าเราจำได้ว่าระยะขอบไม่ได้กำหนดการกระจายตัวของข้อต่อ

มาดูกันว่าจะเกิดอะไรขึ้นถ้าเราคำนวณอย่างเป็นทางการด้วยคำจำกัดความที่รู้จักกันดีของความหนาแน่นของข้อต่อเงื่อนไขและระยะขอบ ตั้งแต่

ฉ_{X, Y} (x, Y) = ฉ_{X | Y} (x | Y) ฉ_{Y} (Y) = ฉ_{Y | X} (Y | x) ฉ_{X} (x),

$f_{X,Y}(x,y)=f_{X\mid Y}(x\mid y)\,f_Y(y)=f_{Y\mid X}(y\mid x)\,f_X(x) \, ,$ เรามี

\int \frac{ฉ_{Y | X} (Y | x)}{ฉ_{X | Y} (x | Y)} d Y = \int \frac{ฉ_{Y} (Y)}{ฉ_{X} (x)} d Y = \frac{1}{ฉ_{X} (x)},

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy = \int \frac{f_Y(y)}{f_X(x)}dy = \frac{1}{f_X(x)} \, ,$ และเราสามารถกู้คืนความหนาแน่นของรอยต่อได้อย่างเป็นทางการจากการสร้างแบบเต็มเงื่อนไข

ฉ_{X, Y} (x, Y) = \frac{ฉ_{Y | X} (Y | x)}{\int ฉ_{Y | X} (Y | x) / ฉ_{X | Y} (x | Y) d Y} . (* * * *)

$f_{X,Y}(x,y) = \frac{f_{Y\mid X}(y\mid x)}{\int f_{Y\mid X}(y\mid x)/f_{X\mid Y}(x\mid y)\,dy} \, . \qquad (*)$

ปัญหาเกี่ยวกับการคำนวณอย่างเป็นทางการนี้คือสมมติว่ามีวัตถุทั้งหมดที่เกี่ยวข้องอยู่

ตัวอย่างเช่นให้พิจารณาสิ่งที่เกิดขึ้นหากเราได้รับสิ่งนั้น

X | Y = Y ~ ประสบการณ์ (Y) และ Y | X = x ~ ประสบการณ์ (x) .

$X\mid Y=y\sim\text{Exp}(y) \qquad \text{and} \qquad Y\mid X=x\sim\text{Exp}(x) \, .$ มันติดตามว่า

f_{Y ∣ X} (y ∣ x) / f_{X ∣ Y} (x ∣ y) = x / y

$f_{Y\mid X}(y\mid x)/f_{X\mid Y}(x\mid y) = x /y$ และอินทิกรัลในส่วนของ

(*)

$(*)$ ลู่ออก

เพื่อรับประกันว่าเราสามารถกู้คืนความหนาแน่นของข้อต่อได้จากการใช้เงื่อนไขแบบเต็ม $(*)$ เราต้องการเงื่อนไขความเข้ากันได้ที่กล่าวถึงในบทความนี้:

"เงื่อนไขการแจกแจงที่เข้ากันได้", Barry C. Arnold และ S. James Press, วารสารสมาคมสถิติอเมริกัน, ฉบับที่ 84 หมายเลข 405 (1989), หน้า 152-156

ในที่สุดอ่านการสนทนาเกี่ยวกับทฤษฎีบทแฮมเมอร์สลีย์ - คลิฟฟอร์ดในหนังสือของโรเบิร์ตและคาสเซล

— เซน
แหล่งที่มา

คุณช่วยอธิบายสิ่งที่ "อินทิกรัล .... มีอยู่" ได้ไหม? ดูเหมือนจะมีสองประเด็นที่แตกต่างกันที่นี่ ได้แก่ (i) ทำอินทิกรัล

\int \frac{ฉ_{Y | X} (Y | x)}{ฉ_{X | Y} (x | Y)} d Y

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy$ มีอยู่จริงหรือไม่? และ (ii) ถ้าอินทิกรัลมีอยู่ก็คือค่าของมัน

\frac{1}{f_{X} (x)}

$\frac{1}{f_X(x)}$ ? หรือคุณกำลังพูดว่าเมื่อใดก็ตาม

X

$X$ และ

Y

$Y$ มีความหนาแน่นแบบมีเงื่อนไขเช่นนั้น

\int \frac{ฉ_{Y | X} (Y | x)}{ฉ_{X | Y} (x | Y)} d Y

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy$ มีอยู่แล้วมันจะต้องเป็นที่มูลค่าของอินทิกรัลคือ

\frac{1}{f_{X} (x)}

$\frac{1}{f_X(x)}$ ?

— Dilip Sarwate

ขอบคุณ @Zen!

f_{Y}

$f_Y$ และ

f_{X | Y}

$f_{X|Y}$ สามารถกำหนด

f_{X, Y}

$f_{X,Y}$ และ

f_{Y | X}

$f_{Y|X}$ และ

f_{X | Y}

$f_{X|Y}$ ยังสามารถกำหนด

f_{X, Y}

$f_{X,Y}$ . (1) อันไหนให้ข้อมูลเพิ่มเติม

f_{Y}

$f_Y$ หรือ

f_{Y | X}

$f_{Y|X}$ ? (2) อันไหนให้ข้อมูลซ้ำซ้อน / ทับซ้อนน้อยด้วย

f_{X | Y}

$f_{X|Y}$ ,

f_{Y}

$f_Y$ หรือ

f_{Y | X}

$f_{Y|X}$ ? (3) จาก

f_{Y}

$f_Y$ และ

f_{Y | X}

$f_{Y|X}$ หนึ่งในนั้นให้ข้อมูลของอีกฝ่ายหนึ่งแล้ว (ซึ่งฉันสงสัยเพราะนั่นจะส่งผลให้คนอื่นนำไปสู่) ฉันเดาว่ามันเป็น "จุดตัด" ระหว่างข้อมูลของ

f_{Y}

$f_Y$ และจาก

f_{Y | X}

$f_{Y|X}$ ซึ่งร่วมกับ

f_{X | Y}

$f_{X|Y}$ กำหนด

f_{X, Y}

$f_{X,Y}$ .

— ทิม

สวัสดี @ ทิม

f_{Y}

$f_Y$ แสดงถึงความไม่แน่นอนเกี่ยวกับคุณ

Y

$Y$ ในขณะที่

f_{Y ∣ X}

$f_{Y\mid X}$ แสดงถึงความไม่แน่นอนของคุณเกี่ยวกับ

Y

$Y$ เนื่องจากคุณทราบถึงคุณค่าของ

X

$X$ . "อันไหนที่มีข้อมูลเพิ่มเติม?" ไม่ใช่คำถามง่าย ๆ ถ้า

f_{X ∣ Y}

$f_{X\mid Y}$ และ

f_{Y ∣ X}

$f_{Y\mid X}$ เข้ากันได้ (ในแง่ของอาร์โนลด์และสื่อมวลชน) จากนั้นพวกเขาพิจารณา

f_{X, Y}

$f_{X,Y}$ ตลอด

(*)

$(*)$ .

— Zen

ฉันกำลังดิ้นรนกับปัญหาเดียวกัน ฉันสับสนเล็กน้อยโดยความจำเป็นในการแจกแจงตามเงื่อนไขที่เข้ากันได้เนื่องจากสิ่งเหล่านี้ไม่เคยถูกกล่าวถึงในบทนำ (อย่างน้อยที่ฉันได้อ่าน) ในการสุ่มตัวอย่างกิ๊บส์ หรือไม่จำเป็นต้องมีการแจกแจงแบบมีเงื่อนไขเข้ากันได้เท่านั้นหากมีใครพยายามกู้คืนการแจกแจงร่วมอย่างเป็นทางการเช่นโดย (*) -> ไม่ประมาณการกระจายตัวของข้อต่อโดย Gibbs Sampling ใช่ไหม

— sklingel

ในการตั้งค่าการสุ่มตัวอย่างของกิ๊บส์ที่ใช้กับปัญหาทางสถิติคุณคิดว่ามีการแจกแจงความน่าจะเป็นร่วม (ด้านหลัง) อยู่ด้วยดังนั้นการที่เงื่อนไขทั้งหมดที่ได้รับจากการแจกแจงร่วมนี้เข้ากันได้ นอกกรณีนี้การสุ่มตัวอย่างของกิ๊บส์นั้นไม่มีความหมาย

— ซีอาน