อะไรคือความแตกต่างที่สำคัญระหว่างความสัมพันธ์และข้อมูลร่วมกัน?

15

คำถามของฉันโดยเฉพาะใช้กับการสร้างเครือข่ายใหม่

correlation mutual-information

25

ความสัมพันธ์วัดความสัมพันธ์เชิงเส้น (ความสัมพันธ์ของเพียร์สัน) หรือความสัมพันธ์แบบโมโนโทนิก (ความสัมพันธ์ของ Spearman) ระหว่างสองตัวแปร X และ Y

ข้อมูลร่วมกันเป็นเรื่องทั่วไปมากขึ้นและมาตรการลดความไม่แน่นอนใน Y หลังจากสังเกต X มันเป็นระยะทาง KL ระหว่างความหนาแน่นของรอยต่อและผลผลิตของความหนาแน่นของแต่ละบุคคล ดังนั้น MI สามารถวัดความสัมพันธ์ที่ไม่ใช่แบบโมโนโทนิกและความสัมพันธ์ที่ซับซ้อนมากขึ้น

— Rob Hyndman
แหล่งที่มา

3

ความสัมพันธ์ไม่จำเป็นต้องเป็นเชิงเส้น - Rho ของ Spearman อาศัยฟังก์ชัน monotonic แต่เราเรียกมันว่า "สัมประสิทธิ์สหสัมพันธ์" ไม่ใช่ "สัมประสิทธิ์ข้อมูลร่วมกัน" และด้วยเหตุผลที่ดีมันให้ข้อมูลเกี่ยวกับความสัมพันธ์ระหว่างตัวแปรสองตัว ข้อมูลร่วมกันข้อมูลที่ซ้ำซ้อนความแปรปรวนร่วมกันความสัมพันธ์ - เงื่อนไขเหล่านี้คล้ายกันมากและคำถามนี้หมายถึงการสร้างเครือข่ายขึ้นใหม่ดังนั้นฉันจึงเดาว่าเราลงเอยในพื้นที่ที่ไม่ถูกต้องพร้อมกับคำศัพท์ที่ถูกต้อง นี่คือคำถามที่เฉพาะเจาะจงมากทีเดียว ...

— aL3xa

1

จุดดี. ฉันได้แก้ไขคำตอบเพื่อรวมความสัมพันธ์แบบโมโนโทนิก ฉันไม่รู้อะไรเลยเกี่ยวกับการสร้างเครือข่ายใหม่

— Rob Hyndman

4

เพื่อเพิ่มคำตอบของ Rob ... เกี่ยวกับวิศวกรรมย้อนกลับเครือข่าย MI อาจได้รับความนิยมมากกว่าความสัมพันธ์เมื่อคุณต้องการแยกสาเหตุมากกว่าลิงก์เชื่อมโยงในเครือข่ายของคุณ เครือข่ายความสัมพันธ์มีความสัมพันธ์อย่างหมดจด แต่สำหรับ MI คุณต้องใช้ข้อมูลและพลังในการคำนวณมากขึ้น

— ARS
แหล่งที่มา