ความไม่เท่าเทียมกันของสามเหลี่ยมเป็นจริงสำหรับระยะทางตามความสัมพันธ์เหล่านี้หรือไม่?

13

สำหรับการจัดกลุ่มแบบลำดับชั้นฉันมักจะเห็น "ตัวชี้วัด" สองตัวต่อไปนี้ (พวกเขาพูดไม่ตรงกัน) สำหรับการวัดระยะห่างระหว่างตัวแปรสุ่มสองตัวและ : ทำอย่างใดอย่างหนึ่ง ตอบสนองความไม่เท่าเทียมกันของสามเหลี่ยมหรือไม่? ถ้าเป็นเช่นนั้นฉันควรจะพิสูจน์ได้อย่างไรนอกจากการคำนวณแบบ bruteforce? หากไม่ใช่ตัวชี้วัดตัวอย่างการนับง่ายๆคืออะไร $X$ $Y$ $\newcommand{\Cor}{\mathrm{Cor}}$

\begin{aligned} d_{1} (X, Y) & = 1 - | C o r (X, Y) |, \\ d_{2} (X, Y) & = 1 - (C o r (X, Y))^{2} \end{aligned}

$\begin{align} d_1(X,Y) &= 1-|\Cor(X,Y)|, \\ d_2(X,Y) &= 1-(\Cor(X,Y))^2 \end{align}$

— ลินดา
แหล่งที่มา

คุณอาจจะสนใจในการทบทวนบทความนี้: arxiv.org/pdf/1208.3145.pdf

— Chris

5

ความไม่เท่าเทียมกันสามเหลี่ยมบน $d_1$ จะให้ผลผลิต: $\newcommand{\Cov}{\mathrm{Cov}}$ $\newcommand{\Cor}{\mathrm{Cor}}$ $\newcommand{\Var}{\mathrm{Var}}$

\begin{aligned} d_{1} (X, Z) & \leq d_{1} (X, Y) + d_{1} (Y, Z) \\ 1 - | C o r (X, Z) | & \leq 1 - | C o r (X, Y) | + 1 - | C o r (Y, Z) | \\ ⟹ | C o r (X, Y) | + | C o r (Y, Z) | & \leq 1 + | C o r (X, Z) | \end{aligned}

$\begin{align*} d_1(X,Z) &\leq d_1(X,Y) + d_1(Y,Z) \\ 1 - |\Cor(X,Z)| &\leq 1 - |\Cor(X,Y)| + 1 - |\Cor(Y,Z)| \\ \implies |\Cor(X,Y)| + |\Cor(Y,Z)| &\leq 1 + |\Cor(X,Z)| \end{align*}$

ดูเหมือนว่าความไม่เท่าเทียมจะเอาชนะได้ง่าย เราสามารถทำให้ด้านขวามีขนาดเล็กที่สุดเท่าที่จะเป็นไปได้ (ตรงจุดเดียว) โดยทำให้ $X$ และ $Z$ เป็นอิสระ ถ้าอย่างนั้นเราจะหา $Y$ ที่ด้านซ้ายมีมากกว่าหนึ่งอันได้หรือไม่?

ถ้าและและมีความแปรปรวนเหมือนกันดังนั้นและในทำนองเดียวกันสำหรับดังนั้น ด้านซ้ายมือเหนือระดับใดด้านหนึ่งและความไม่เท่าเทียมนั้นถูกละเมิด ตัวอย่างการละเมิดนี้ใน R โดยที่และเป็นส่วนประกอบของตัวแปรหลายตัวแปร: $Y=X+Z$ $X$ $Z$ $\Cor(X,Y) = \frac{\sqrt{2}}{2} \approx 0.707$ $\Cor(Y,Z)$ $X$ $Z$

library(MASS)
set.seed(123)
d1 <- function(a,b) {1 - abs(cor(a,b))}

Sigma    <- matrix(c(1,0,0,1), nrow=2) # covariance matrix of X and Z
matrixXZ <- mvrnorm(n=1e3, mu=c(0,0), Sigma=Sigma, empirical=TRUE)
X <- matrixXZ[,1] # mean 0, variance 1
Z <- matrixXZ[,2] # mean 0, variance 1
cor(X,Z) # nearly zero
Y <- X + Z

d1(X,Y) 
# 0.2928932
d1(Y,Z)
# 0.2928932
d1(X,Z)
# 1
d1(X,Z) <= d1(X,Y) + d1(Y,Z)
# FALSE

แม้ว่าการก่อสร้างนี้จะไม่ทำงานกับของคุณ: $d_2$

d2 <- function(a,b) {1 - cor(a,b)^2}
d2(X,Y) 
# 0.5
d2(Y,Z)
# 0.5
d2(X,Z)
# 1
d2(X,Z) <= d2(X,Y) + d2(Y,Z)
# TRUE

แทนที่จะเปิดตัวการโจมตีทางทฤษฎีบนในขั้นตอนนี้ฉันเพิ่งพบว่าง่ายต่อการเล่นกับเมทริกซ์ความแปรปรวนร่วมใน R จนกว่าจะมีตัวอย่างที่ดีโผล่ออกมา อนุญาตให้ ,และให้: $d_2$ Sigma $\Var(X)=2$ $\Var(Z)=1$ $\Cov(X,Z)=1$

V a r (Y) = V a r (X + Y) = V a r (X) + V a r (Z) + 2 C o v (X, Z) = 2 + 1 + 2 = 5

$\Var(Y)=\Var(X+Y)=\Var(X)+\Var(Z)+2\Cov(X,Z)=2+1+2=5$

นอกจากนี้เรายังสามารถตรวจสอบความแปรปรวนร่วม:

C o v (X, Y) = C o v (X, X + Z) = C o v (X, X) + C o v (X, Z) = 2 + 1 = 3

$\Cov(X,Y)=\Cov(X,X+Z)=\Cov(X,X)+\Cov(X,Z)=2+1=3$

C o v (Y, Z) = C o v (X + Z, Z) = C o v (X, Z) + C o v (Z, Z) = 1 + 1 = 2

$\Cov(Y,Z)=\Cov(X+Z,Z)=\Cov(X,Z)+\Cov(Z,Z)=1+1=2$

ความสัมพันธ์กำลังสอง:

C o r (X, Z)^{2} = \frac{C o v (X, Z)^{2}}{V a r (X) V a r (Z)} = \frac{1^{2}}{2 \times 1} = 0.5

$\Cor(X,Z)^2 = \frac{\Cov(X,Z)^2}{\Var(X)\Var(Z)}=\frac{1^2}{2\times1}=0.5$

C o r (X, Y)^{2} = \frac{C o v (X, Y)^{2}}{V a r (X) V a r (Y)} = \frac{3^{2}}{2 \times 5} = 0.9

$\Cor(X,Y)^2 = \frac{\Cov(X,Y)^2}{\Var(X)\Var(Y)}=\frac{3^2}{2\times5}=0.9$

C o r (Y, Z)^{2} = \frac{C o v (Y, Z)^{2}}{V a r (Y) V a r (Z)} = \frac{2^{2}}{5 \times 1} = 0.8

$\Cor(Y,Z)^2 = \frac{\Cov(Y,Z)^2}{\Var(Y)\Var(Z)}=\frac{2^2}{5\times1}=0.8$

จากนั้นในขณะที่และดังนั้นความไม่เท่าเทียมกันของสามเหลี่ยมจึงถูกละเมิด $d_2(X,Z)=0.5$ $d_2(X,Y)=0.1$ $d_2(Y,Z)=0.2$

Sigma    <- matrix(c(2,1,1,1), nrow=2) # covariance matrix of X and Z
matrixXZ <- mvrnorm(n=1e3, mu=c(0,0), Sigma=Sigma, empirical=TRUE)
X <- matrixXZ[,1] # mean 0, variance 2
Z <- matrixXZ[,2] # mean 0, variance 1
cor(X,Z) # 0.707
Y  <- X + Z
d2 <- function(a,b) {1 - cor(a,b)^2}
d2(X,Y) 
# 0.1
d2(Y,Z)
# 0.2
d2(X,Z)
# 0.5
d2(X,Z) <= d2(X,Y) + d2(Y,Z)
# FALSE

— สีเงิน
แหล่งที่มา

5

ให้เรามีสามเวกเตอร์ (มันอาจจะเป็นตัวแปรหรือบุคคล) ,และZและเรากำหนดมาตรฐานให้กับแต่ละคะแนน z (ค่าเฉลี่ย = 0, ความแปรปรวน = 1) $X$ $Y$ $Z$

$\newcommand{\Cor}{\mathrm{Cor}}$

จากนั้นตามโคไซน์ทฤษฎีบท ( "กฎแห่งความผาสุก") ยืดระยะทางยุคลิดระหว่างสองเวกเตอร์มาตรฐาน (พูด, X และ Y) ถูก , โดยที่ความคล้ายคลึงกันของโคไซน์คือ Pearsonเนื่องจากมาตรฐานเวกเตอร์ของ z เราอาจละเว้นตัวคูณคงที่อย่างปลอดภัยจากการพิจารณาของเรา $d_{XY}^2 = 2(n-1)(1-\cos_{XY})$ $\cos_{XY}$ $r_{XY}$ $2(n-1)$

ดังนั้นระยะทางที่แสดงในคำถามเป็นจะเป็นระยะ euclidean กำลังสองถ้าสูตรไม่สนใจเครื่องหมายของสัมประสิทธิ์สหสัมพันธ์ $d_1(X,Y)=1-|\Cor(X,Y)|$

หากเมทริกซ์ของs เกิดขึ้นเป็น gramian (semidefinite บวก) จากนั้นรากที่สองของระยะทาง "d1" คือระยะทางแบบยุคลิดซึ่งเป็นตัวชี้วัดแน่นอน ด้วยเมทริกซ์ไม่มากของมันมักจะเป็นกรณีหรือใกล้กรณีเมื่อระยะทางไม่ไกลจากการบรรจบกันในพื้นที่ยูคลิด เนื่องจากเมตริกเป็นคลาสที่กว้างกว่าแบบยูคลิดเมทริกซ์ระยะทางที่กำหนด "sqrt (d1)" อาจคาดว่าจะปรากฏตัวชี้วัดบ่อยครั้ง $|r|$ $|r|$

สำหรับ "d1" ต่อ se ซึ่งก็คือ "เหมือน" ระยะทางแบบยุคลิดกำลังสองมันไม่แน่นอน แม้แต่ระยะทางยูคลิดที่แท้จริงกำลังสองไม่ได้เป็นตัวชี้วัด: มันละเมิดบางครั้งหลักการความไม่เท่าเทียมกันของรูปสามเหลี่ยม [ในการวิเคราะห์กลุ่มใช้ระยะทางแบบยุคลิดกำลังสองค่อนข้างบ่อย อย่างไรก็ตามกรณีดังกล่าวส่วนใหญ่บอกเป็นนัยถึงการสร้างการวิเคราะห์ระยะห่างที่ไม่ต้องถามผู้ยกกำลังสองเป็นเพียงอินพุตที่สะดวกสำหรับการคำนวณ] หากต้องการดู (ประมาณ euclidean กำลังสอง ) เราจะวาดเวกเตอร์สามตัวของเรา $d$

ป้อนคำอธิบายรูปภาพที่นี่

เวกเตอร์เป็นหน่วยความยาว (เนื่องจากเป็นมาตรฐาน) โคไซน์ของมุม ( , , ) คือ , ,ตามลำดับ มุมเหล่านี้แพร่กระจายที่สอดคล้องกันระยะทางแบบยุคลิดระหว่างเวกเตอร์: , ,{} สำหรับความเรียบง่ายเวกเตอร์สามตัวล้วนอยู่ในระนาบเดียวกัน (และมุมระหว่างและคือผลรวมของอีกสองตัว ) มันเป็นตำแหน่งที่มีการละเมิดความไม่เท่าเทียมกันของสามเหลี่ยมโดยระยะทางกำลังสองที่โดดเด่นที่สุด $\alpha$ $\beta$ $\alpha+\beta$ $r_{XY}$ $r_{XZ}$ $r_{YZ}$ $d_{XY}$ $d_{XZ}$ $d_{YZ}$ $X$ $Z$ $\alpha+\beta$

สำหรับการที่คุณสามารถมองเห็นได้ด้วยตาพื้นที่สี่เหลี่ยมสีเขียว excels ผลรวมของสองสี่เหลี่ยมสีแดง: 2 $d_{YZ}^2 > d_{XY}^2 + d_{XZ}^2$

ดังนั้นเกี่ยวกับ

$d_1(X,Y)=1-|\Cor(X,Y)|$

ระยะทางเราบอกได้ว่ามันไม่ได้เป็นตัวชี้วัด เพราะถึงแม้เมื่อ s ทั้งหมดเป็นบวก แต่เดิมระยะทางคือ euclideanซึ่งตัวมันเองไม่ได้เป็นตัวชี้วัด $r$ $d^2$

ระยะทางที่สองเป็นเท่าไหร่?

$d_2(X,Y)=1-(\Cor(X,Y))^2$

ตั้งแต่ความสัมพันธ์ในกรณีของเวกเตอร์มาตรฐานคือ ,เป็น 2 (อันที่จริงมีความถดถอยเชิงเส้นปริมาณซึ่งเป็นสหสัมพันธ์กำลังสองของตัวแปรตามด้วยบางสิ่งบางอย่างorthogonalเพื่อทำนาย) ในกรณีนี้วาดไซน์ของเวกเตอร์และทำให้พวกเขายกกำลังสอง (เพราะเรา กำลังพูดถึงระยะทางซึ่งเป็น ): $r$ $\cos$ $1-r^2$ $\sin^2$ $1-r^2$ SSerror/SStotal $\sin^2$

ป้อนคำอธิบายรูปภาพที่นี่

แม้ว่าจะไม่เห็นได้ชัดทีเดียวสายตาสีเขียวตารางเป็นอีกครั้งที่มีขนาดใหญ่กว่าผลรวมของพื้นที่สีแดง 2 $\sin_{YZ}^2$ $\sin_{XY}^2 + \sin_{XZ}^2$

มันสามารถพิสูจน์ได้ บนเครื่องบิน\ ตารางทั้งสองข้างตั้งแต่เรามีความสนใจใน 2 $\sin(\alpha+\beta) = \sin\alpha \cos\beta + \cos\alpha \sin\beta$ $\sin^2$

\begin{aligned} \sin^{2} (α + β) & = \sin^{2} α (1 - \sin^{2} β) + (1 - \sin^{2} α) \sin^{2} β + 2 \sin α \cos β \cos α \sin β \\ = \sin^{2} α + \sin^{2} β - 2 [\sin^{2} α \sin^{2} β] + 2 [\sin α \cos α \sin β \cos β] \end{aligned}

$\begin{align} \sin^2(\alpha+\beta) &= \sin^2\alpha (1-\sin^2\beta) + (1-\sin^2\alpha) \sin^2\beta + 2 \sin\alpha \cos\beta \cos\alpha \sin\beta \\ &= \sin^2\alpha + \sin^2\beta -2 [\sin^2\alpha \sin^2\beta] +2 [\sin\alpha \cos\alpha \sin\beta \cos\beta] \end{align}$

ในนิพจน์สุดท้ายคำสำคัญสองคำจะแสดงเป็นวงเล็บ ถ้าวินาทีที่สองคือ (หรืออาจใหญ่กว่าครั้งแรก)และระยะทาง "d2" ละเมิด อสมการสามเหลี่ยม และในภาพของเราที่ประมาณ 40 องศาและประมาณ 30 องศา (เทอม 1 คือและเทอม 2 คือ) "D2" ไม่ใช่ตัวชี้วัด $\sin^2(\alpha+\beta) > \sin^2\alpha + \sin^2\beta$ $\alpha$ $\beta$ .1033.2132

รากที่สองของระยะทาง "d2" - ความแตกต่างของไซน์ - เป็นตัวชี้วัด (ฉันเชื่อ) คุณสามารถเล่นกับและ angles ต่าง ๆ ในวงกลมของฉันเพื่อให้แน่ใจ ไม่ว่าจะเป็น "d2" จะแสดงเป็นตัวชี้วัดในการตั้งค่าที่ไม่ใช่ collinear (เช่นสามเวกเตอร์ไม่ได้อยู่บนเครื่องบิน) ด้วย - ฉันไม่สามารถพูดได้ในเวลานี้แม้ว่าฉันจะคิดว่ามันจะไม่แน่นอน $\alpha$ $\beta$

— ttnphns
แหล่งที่มา

3

ดูเพิ่มเติม preprint นี้ที่ผมเขียน: http://arxiv.org/abs/1208.3145 ฉันยังต้องใช้เวลาและส่งอย่างถูกต้อง นามธรรม:

เราตรวจสอบการแปลงสองชั้นของความเหมือนโคไซน์และความสัมพันธ์ของเพียร์สันและสเปียร์แมนเป็นระยะทางเมตริกโดยใช้เครื่องมือง่าย ๆ ของฟังก์ชั่นการรักษาตัวชี้วัด ชั้นแรกวางวัตถุที่มีความสัมพันธ์กันให้ห่างกันมากที่สุด การแปลงที่รู้จักก่อนหน้านี้อยู่ในคลาสนี้ คลาสที่สองเรียงวัตถุที่สัมพันธ์กันและมีความสัมพันธ์กัน ตัวอย่างของการแปลงดังกล่าวที่ให้ระยะทางเมทริกคือฟังก์ชันไซน์เมื่อใช้กับข้อมูลกึ่งกลาง

ผลที่สุดสำหรับคำถามของคุณคือd1 , d2ไม่ใช่ตัวชี้วัดและจริง ๆ แล้วสแควร์รูทของd2นั้นเป็นตัวชี้วัดที่เหมาะสม

— micans
แหล่งที่มา

2

เลขที่

ตัวอย่างเคาน์เตอร์ที่ง่ายที่สุด:

สำหรับระยะทางที่ไม่ได้กำหนดไว้ในทุกสิ่งที่คุณคือ $X=(0,0)$ $Y$

อนุกรมคงที่ใด ๆ ที่มีค่าเบี่ยงเบนมาตรฐานและทำให้เกิดการหารด้วยศูนย์ในคำจำกัดความของ ... $\sigma=0$ $Cor$

ส่วนใหญ่มันเป็นตัวชี้วัดในส่วนย่อยของพื้นที่ข้อมูลไม่รวมชุดคงที่ใด ๆ

— มี QUIT - Anony-Mousse
แหล่งที่มา

จุดดี! ฉันต้องพูดถึงสิ่งนี้ในการพิมพ์ล่วงหน้าที่กล่าวถึงที่อื่น

— micans