ฉันจะศึกษา“ ความสัมพันธ์” ระหว่างตัวแปรต่อเนื่องและตัวแปรเด็ดขาดได้อย่างไร

19

การวัด "สหสัมพันธ์" ที่มีความหมายเพื่อศึกษาความสัมพันธ์ระหว่างตัวแปรทั้งสองประเภทนี้คืออะไร?

ใน R ทำอย่างไร?

r correlation categorical-data association-measure

1

ก่อนที่คุณจะถามว่า "คุณเรียนอย่างไร" คุณควรมีคำตอบว่า "คุณกำหนดได้อย่างไร" :-) BTW ถ้าคุณคาดการณ์ตัวแปรเด็ดขาดเป็นตัวเลขจำนวนเต็มคุณสามารถทำความสัมพันธ์ได้แล้ว

— อยากรู้อยากเห็น

2

@Tomas ถ้าคุณทำเช่นนั้นความแข็งแรงโดยประมาณของความสัมพันธ์ขึ้นอยู่กับวิธีการที่คุณได้ตัดสินใจที่จะติดป้ายจุดซึ่งเป็นชนิดที่น่ากลัว :)

— มาโคร

@Macro คุณพูดถูก - เป็นอีกเหตุผลที่ดีที่มีคำจำกัดความที่ดี!

— อยากรู้อยากเห็น

@Macro ยกเว้นว่าฉันเข้าใจผิดจุดของคุณไม่ได้ ความสัมพันธ์นั้นไม่มีความอ่อนไหวต่อการแปลงเชิงเส้น ดังนั้น cor (X, Y) = cor (a + bX, Y) สำหรับขอบเขต a และ b การติดฉลากใหม่ของ 0/1 เมื่อ 1/11 ไม่ได้เกี่ยวข้องกับความสัมพันธ์โดยใช้ var นั้นหรือการแปลงเชิงเส้น

— Alexis

@Curious ดูความคิดเห็นของฉันต่อมาโครด้านบน และหมายเหตุ: (1) X <- sample(c(0,1),replace=TRUE,size=100)(2) Y <- X + rnorm(100,0.5)(3) corr(Y,X)(4) X <- 1 + 10*X(5) corr(X,Y): ผลลัพธ์เดียวกันสำหรับความสัมพันธ์ทั้งสอง!

— Alexis

19

เดี๋ยวเราจะเพิกเฉยต่อปัญหาต่อเนื่อง / ไม่ต่อเนื่อง ความสัมพันธ์โดยทั่วไปวัดความแข็งแกร่งของความสัมพันธ์เชิงเส้นระหว่างตัวแปรและดูเหมือนว่าคุณกำลังขอวิธีอื่นในการวัดความแข็งแกร่งของความสัมพันธ์ คุณอาจจะสนใจในการมองที่ความคิดจากทฤษฎีสารสนเทศ โดยเฉพาะผมคิดว่าคุณอาจต้องการที่จะดูข้อมูลร่วมกัน ข้อมูลร่วมกันทำให้คุณมีวิธีการวัดปริมาณการรู้สถานะของตัวแปรหนึ่งจะบอกคุณเกี่ยวกับตัวแปรอื่น ๆ ฉันคิดว่าคำจำกัดความนี้ใกล้เคียงกับความหมายของคนส่วนใหญ่เมื่อพวกเขาคิดถึงความสัมพันธ์

สำหรับตัวแปรที่แยกกันสองตัว X และ Y การคำนวณมีดังนี้:

ผม (X; Y) = \underset{Y \in Y}{Σ} \underset{x \in X}{Σ} พี (x, Y) เข้าสู่ระบบ (\frac{พี (x, Y)}{พี (x) พี (Y)})

$I(X;Y) = \sum_{y \in Y} \sum_{x \in X} p(x,y) \log{ \left(\frac{p(x,y)}{p(x)\,p(y)} \right) }$

สำหรับตัวแปรต่อเนื่องสองตัวเรารวมเข้าด้วยกันแทนที่จะใช้ผลรวม:

ผม (X; Y) = \int_{Y} \int_{X} พี (x, Y) เข้าสู่ระบบ (\frac{พี (x, Y)}{พี (x) พี (Y)}) d x d Y

$I(X;Y) = \int_Y \int_X p(x,y) \log{ \left(\frac{p(x,y)}{p(x)\,p(y)} \right) } \; dx \,dy$

กรณีการใช้งานเฉพาะของคุณนั้นใช้แยกกันและแยกกันอย่างต่อเนื่อง ฉันคิดว่ามันจะง่ายกว่าที่จะแปลงตัวแปรตัวใดตัวหนึ่งให้เป็นประเภทอื่น วิธีโดยทั่วไปจะทำอย่างไรที่จะdiscretizeตัวแปรอย่างต่อเนื่องของคุณลงในถังขยะที่ไม่ต่อเนื่อง

มีหลายวิธีในการแยกข้อมูล (เช่นช่วงเวลาเท่ากัน) และฉันเชื่อว่าแพ็คเกจเอนโทรปีควรเป็นประโยชน์สำหรับการคำนวณ MI หากคุณต้องการใช้ R

— Michael McGowan
แหล่งที่มา

1

ขอบคุณ แต่ MI ที่เกี่ยวข้องกับ corr = 1 สูงเพียงใดและ MI ที่สอดคล้องกับ corr = 0 ต่ำเพียงใด

— Luna

MI มีค่าต่ำสุดคือ 0 และ MI = 0 หากตัวแปรนั้นมีความเป็นอิสระ MI ไม่มีขอบเขตบนคงที่ (ขอบเขตบนสัมพันธ์กับเอนโทรปีของตัวแปร) ดังนั้นคุณอาจต้องการดูหนึ่งในเวอร์ชันปกติหากเป็นสิ่งสำคัญสำหรับคุณ

— Michael McGowan

6

หากตัวแปรเด็ดขาดเป็นอันดับและคุณเก็บตัวแปรต่อเนื่องไว้ในช่วงความถี่สองสามครั้งคุณสามารถใช้แกมมาได้ นอกจากนี้ยังมีให้สำหรับข้อมูลที่จับคู่ไว้ในรูปแบบลำดับคือเอกภาพของ Kendal, Stuart's tau และ Somerset D ทั้งหมดนี้มีอยู่ใน SAS โดยใช้ Proc Freq ฉันไม่ทราบวิธีคำนวณโดยใช้รูทีน R นี่คือลิงค์ไปยังงานนำเสนอที่ให้ข้อมูลรายละเอียด: http://faculty.unlv.edu/cstream/ppts/QM722/measuresofassociation.ppt#260,5, วิธีการสมาคมสำหรับตัวแปรที่กำหนดและลำดับ

— Michael R. Chernick
แหล่งที่มา

1

ตัวแปรเด็ดขาดเป็นเพียงชุดของตัวแปรตัวบ่งชี้ มันเป็นความคิดพื้นฐานของทฤษฎีการวัดว่าตัวแปรดังกล่าวไม่แปรเปลี่ยนไปจากการจัดหมวดหมู่ใหม่ดังนั้นจึงไม่สมเหตุสมผลที่จะใช้การติดฉลากตัวเลขของหมวดหมู่ในการวัดความสัมพันธ์ระหว่างตัวแปรอื่น (เช่น 'ความสัมพันธ์') . ด้วยเหตุผลนี้และการวัดความสัมพันธ์ระหว่างตัวแปรต่อเนื่องและตัวแปรเด็ดขาดควรขึ้นอยู่กับตัวแปรตัวบ่งชี้ที่ได้มาจากหลัง

$X$ $I$ $\phi \equiv \mathbb{P}(I=1)$

ค โอ โวลต์ (ผม, X) = E (ผม X) - E (ผม) E (X) = φ [E (X | ผม = 1) - E (X)],

$\mathbb{Cov}(I,X) = \mathbb{E}(IX) - \mathbb{E}(I) \mathbb{E}(X) = \phi \left[ \mathbb{E}(X|I=1) - \mathbb{E}(X) \right] ,$

ซึ่งจะช่วยให้:

ค โอ R R (ผม, X) = \sqrt{\frac{φ}{1 - φ}} \cdot \frac{E (X | ผม = 1) - E (X)}{S (X)} .

$\mathbb{Corr}(I,X) = \sqrt{\frac{\phi}{1-\phi}} \cdot \frac{\mathbb{E}(X|I=1) - \mathbb{E}(X)}{\mathbb{S}(X)} .$

$X$ $I$ $\phi$ $X$ $I=1$

$C$ $1, ..., m$ $C=k$ $I_k \equiv \mathbb{I}(C=k)$

ค โอ R R ({ผม}_{k}, X) = \sqrt{\frac{φ_{k}}{1 - φ_{k}}} \cdot \frac{E (X | ค = k) - E (X)}{S (X)} .

$\mathbb{Corr}(I_k,X) = \sqrt{\frac{\phi_k}{1-\phi_k}} \cdot \frac{\mathbb{E}(X|C=k) - \mathbb{E}(X)}{\mathbb{S}(X)} .$

$\mathbb{Corr}(C,X) \equiv (\mathbb{Corr}(I_1,X), ..., \mathbb{Corr}(I_m,X))$

$\sum_k \mathbb{Cov}(I_k,X) = 0$ $X$ $m-1$

$(x_1, c_1), ..., (x_n, c_n)$

{\hat{φ}}_{k} \equiv \frac{1}{n} Σ_{ผม = 1}^{n} ผม (ค_{ผม} = k) .

$\hat{\phi}_k \equiv \frac{1}{n} \sum_{i=1}^n \mathbb{I}(c_i=k).$

\hat{E} (X) \equiv \bar{x} \equiv \frac{1}{n} Σ_{ผม = 1}^{n} x_{ผม} .

$\hat{\mathbb{E}}(X) \equiv \bar{x} \equiv \frac{1}{n} \sum_{i=1}^n x_i.$

\hat{E} (X | ค = k) \equiv {\bar{x}}_{k} \equiv \frac{1}{n} Σ_{ผม = 1}^{n} x_{ผม} ผม (ค_{ผม} = k) / {\hat{φ}}_{k} .

$\hat{\mathbb{E}}(X|C=k) \equiv \bar{x}_k \equiv \frac{1}{n} \sum_{i=1}^n x_i \mathbb{I}(c_i=k) \Bigg/ \hat{\phi}_k .$

\hat{S} (X) \equiv s_{X} \equiv \sqrt{\frac{1}{n - 1} Σ_{ผม = 1}^{n} (x_{ผม} - \bar{x})^{2}} .

$\hat{\mathbb{S}}(X) \equiv s_X \equiv \sqrt{\frac{1}{n-1} \sum_{i=1}^n (x_i - \bar{x})^2}.$

$X$

— Reinstate Monica
แหล่งที่มา

0

mpmi ของแพ็คเกจ R มีความสามารถในการคำนวณข้อมูลร่วมกันสำหรับตัวพิมพ์แบบผสมได้อย่างต่อเนื่องและไม่ต่อเนื่อง แม้ว่าจะมีตัวเลือกทางสถิติอื่น ๆ เช่น (จุด) สัมประสิทธิ์สหสัมพันธ์ biserial เพื่อเป็นประโยชน์ที่นี่มันจะเป็นประโยชน์และขอแนะนำอย่างยิ่งในการคำนวณข้อมูลร่วมกันเพราะมันสามารถตรวจสอบการเชื่อมโยงอื่นที่ไม่ใช่เชิงเส้นและแบบโมโนโทนิก

— siyisoy
แหล่งที่มา

0

$X$ $Y$ $X$ $Y$

$Y$
$Y$

มันควรจะสังเกตเห็นว่าจุด - polyserial สหสัมพันธ์เป็นลักษณะทั่วไปของจุด - biserial

เพื่อมุมมองที่กว้างขึ้นนี่คือตารางจาก Olsson, Drasgow & Dorans (1982) [1]

[1]: แหล่งที่มา: Olsson, U. , Drasgow, F. , & Dorans, NJ (1982) ค่าสัมประสิทธิ์สหสัมพันธ์ของพหุนาม Psychometrika, 47 (3), 337–347

— Waldir Leoncio
แหล่งที่มา