ตัวอย่างของค่าสัมประสิทธิ์สหสัมพันธ์ที่แข็งแกร่งกับค่า p สูง

ฉันสงสัยว่าเป็นไปได้หรือไม่ที่จะมีค่าสัมประสิทธิ์สหสัมพันธ์ที่สูงมาก (พูด. 9 หรือสูงกว่า) ด้วยค่า p สูง (พูด. 25 หรือสูงกว่า)?

นี่คือตัวอย่างของสัมประสิทธิ์สหสัมพันธ์ต่ำที่มีค่า p สูง:

set.seed(10)
y <- rnorm(100)
x <- rnorm(100)+.1*y
cor.test(x,y)

cor = 0.03908927, p = 0.6994

สัมประสิทธิ์สหสัมพันธ์สูงค่า p ต่ำ:

y <- rnorm(100)
x <- rnorm(100)+2*y
cor.test(x,y)

cor = 0.8807809, p = 2.2e-16

ค่าสัมประสิทธิ์สหสัมพันธ์ต่ำค่า p ต่ำ:

y <- rnorm(100000)
x <- rnorm(100000)+.1*y
cor.test(x,y)

cor = 0.1035018, p = 2.2e-16

สัมประสิทธิ์สหสัมพันธ์สูงค่า p สูง: ???

บรรทัดล่าง

สัมประสิทธิ์สหสัมพันธ์ตัวอย่างจำเป็นต้องปฏิเสธสมมติฐานที่ว่าสัมประสิทธิ์สหสัมพันธ์จริง (Pearson) มีค่าเป็นศูนย์จะค่อนข้างเล็กเร็วเมื่อขนาดตัวอย่างเพิ่มขึ้น ดังนั้นโดยทั่วไปไม่มีคุณจะไม่สามารถไปพร้อม ๆ กันมี (ขนาด) ค่าสัมประสิทธิ์สหสัมพันธ์ขนาดใหญ่และขนาดใหญ่พร้อมกัน$p$ -value

The Top Line (รายละเอียด)

การทดสอบที่ใช้สำหรับสัมประสิทธิ์สหสัมพันธ์ของเพียร์สันในฟังก์ชั่นเป็นวิธีที่ฉันพูดถึงด้านล่างซึ่งเป็นเวอร์ชั่นที่ได้รับการแก้ไขเล็กน้อย$R$cor.test

สมมติว่ามี IID bivariate เวกเตอร์สุ่มปกติที่มีความสัมพันธ์\เราต้องการที่จะทดสอบสมมติฐานที่ว่าเมื่อเทียบกับ0 ให้เป็นสัมประสิทธิ์สหสัมพันธ์ตัวอย่าง การใช้ทฤษฎีการถดถอยเชิงเส้นมาตรฐานนั้นไม่ยากที่จะแสดงให้เห็นว่าสถิติการทดสอบ มีการแจกแจงภายใต้สมมติฐานว่าง สำหรับขนาดใหญ่ที่กระจายแนวทางมาตรฐานปกติ ดังนั้นρ ρ = 0 ρ ≠ 0 R T = R $(X_1,Y_1), (X_2,Y_2),\ldots,(X_n,Y_n)$$\rho$$\rho = 0$$\rho \neq 0$$r$ tn-2ntn-2T2T2∼F1,n-2χ2

$$T = \frac{r \sqrt{n-2}}{\sqrt{(1-r^2)}}$$ $t_{n-2}$$n$$t_{n-2}$$T^2$ประมาณไคสแควร์กระจายด้วยระดับหนึ่งของเสรีภาพ (ภายใต้สมมติฐานที่เราได้ทำไว้ความเป็นจริง แต่การประมาณทำให้ชัดเจนยิ่งขึ้นว่าเกิดอะไรขึ้น)$T^2 \sim F_{1,n-2}$$\chi^2_1$

ดังนั้น ที่คือ quantile ของการแจกแจงแบบไคสแควร์ที่มีอิสระในระดับหนึ่งq 1 - α ( 1 - α

$$\mathbb P\left(\frac{r^2}{1-r^2} (n-2) \geq q_{1-\alpha} \right) \approx \alpha \>,$$ $q_{1-\alpha}$$(1-\alpha)$

ตอนนี้ให้สังเกตว่ากำลังเพิ่มขึ้นเมื่อเพิ่มขึ้น การจัดเรียงปริมาณใหม่ในคำชี้แจงความน่าจะเป็นเรามีสิ่งนั้นสำหรับทั้งหมด เราจะได้รับการปฏิเสธสมมติฐานที่ระดับ\เห็นได้ชัดว่าด้านขวามือลดลงด้วยnr 2 | r | ≥ $r^2/(1-r^2)$$r^2$อัลฟ่า

$$|r| \geq \frac{1}{\sqrt{1+(n-2)/q_{1-\alpha}}}$$ $\alpha$$n$

พล็อต

นี่คือพล็อตของภูมิภาคการปฏิเสธของเป็นฟังก์ชั่นของขนาดตัวอย่าง ดังนั้นสำหรับตัวอย่างเช่นเมื่อขนาดของกลุ่มตัวอย่างเกินกว่า 100, จำเป็นที่จะต้อง (แน่นอน) ความสัมพันธ์เป็นเพียงประมาณ 0.2 จะปฏิเสธ null ที่ระดับα = $|r|$$\alpha = 0.05$

การจำลอง

เราสามารถทำการจำลองอย่างง่ายเพื่อสร้างคู่ของเวกเตอร์ที่มีค่าเฉลี่ยเป็นศูนย์ที่มีสัมประสิทธิ์สหสัมพันธ์ที่แน่นอน ด้านล่างเป็นรหัส cor.testจากนี้เราสามารถมองไปที่การส่งออกของ

k <- 100
n <- 4*k

# Correlation that gives an approximate p-value of 0.05
# Change 0.05 to some other desired p-value to get a different curve
pval <- 0.05
qval <- qchisq(pval,1,lower.tail=F)
rho  <- 1/sqrt(1+(n-2)/qval)

# Zero-mean orthogonal basis vectors
b1 <- rep(c(1,-1),n/2)
b2 <- rep(c(1,1,-1,-1),n/4)

# Construct x and y vectors with mean zero and an empirical
# correlation of *exactly* rho
x <- b1
y <- rho * b1 + sqrt(1-rho^2) * b2

# Do test
ctst <- cor.test(x,y)

ตามที่ร้องขอในความคิดเห็นนี่คือรหัสในการทำซ้ำพล็อตซึ่งสามารถเรียกใช้ได้ทันทีตามรหัสด้านบน (และใช้ตัวแปรบางตัวที่กำหนดไว้ที่นั่น)

png("cortest.png", height=600, width=600)
m  <- 3:1000
yy <- 1/sqrt(1+(m-2)/qval)
plot(m, yy, type="l", lwd=3, ylim=c(0,1),
     xlab="sample size", ylab="correlation")
polygon( c(m[1],m,rev(m)[1]), c(1,yy,1), col="lightblue2", border=NA)
lines(m,yy,lwd=2)
text(500, 0.5, "p < 0.05", cex=1.5 )
dev.off()

cor.test(c(1,2,3),c(1,2,2))

cor = 0.866, p = 0.333

การประมาณค่าสูงของสัมประสิทธิ์สหสัมพันธ์กับค่า p สูงอาจเกิดขึ้นกับขนาดตัวอย่างที่เล็กมากเท่านั้น ฉันกำลังจะจัดทำภาพประกอบ แต่แอรอนเพิ่งทำเช่นนั้น!

ผมเชื่อว่าโดยฟิชเชอร์ RZ แปลงที่ arctan ผ่อนชำระความสัมพันธ์ตัวอย่างภายใต้ null เป็นประมาณปกติกับศูนย์หมายและมาตรฐานข้อผิดพลาด{n-3} ตัวอย่างเช่นเพื่อให้ได้ตัวอย่างความสัมพันธ์มีค่า p คงที่,คุณจะต้องมี ที่เป็น CDF มาตรฐานปกติและคุณกำลังดำเนินการทดสอบสองด้านสำหรับโมฆะ0ρ >0พีพี=2-2Φ ( ATANH( ρ )$1 / \sqrt{n-3}$$\hat{\rho} > 0$$p$ΦH0:ρ=

$$p = 2 - 2 \Phi\left(\operatorname{atanh}(\hat{\rho})\sqrt{n-3}\right),$$ $\Phi$$H_0: \rho = 0$

คุณสามารถเปลี่ยนให้เป็นฟังก์ชันที่ให้ค่าสำหรับค่าคงที่$n$$\hat{\rho}$$p$

 #get n for sample correlation and p-value, 2-sided test of 0 correlation
 n.size <- function(rho.hat,p.val) {
   n <- 3 + ((qnorm(1 - 0.5 * p.val)) / atanh(rho.hat))^2
 }

$\hat{\rho} = 0.5$$p = 0.2$

print(n.size(0.5,0.2))

[1] 8.443062

$n, p$$\hat{\rho}$

ใช่. ค่า p ขึ้นอยู่กับขนาดตัวอย่างดังนั้นตัวอย่างเล็ก ๆ สามารถให้ได้

สมมติว่าขนาดเอฟเฟกต์ที่แท้จริงนั้นเล็กมากและคุณวาดตัวอย่างเล็ก ๆ โชคดีที่คุณได้รับข้อมูลสองสามจุดที่มีความสัมพันธ์สูงมาก ค่า p จะสูงตามที่ควรจะเป็น ความสัมพันธ์อยู่ในระดับสูง แต่ไม่ได้ผลลัพธ์ที่น่าเชื่อถือมาก

ความสัมพันธ์ตัวอย่างจากครของ R () จะบอกคุณถึงการประมาณค่าความสัมพันธ์ที่ดีที่สุด (ให้ตัวอย่าง) ค่า p ไม่ได้วัดความแข็งแรงของสหสัมพันธ์ มันจะวัดความเป็นไปได้ที่มันจะเกิดขึ้นในกรณีที่ไม่มีผลจริงโดยพิจารณาจากขนาดของตัวอย่าง

อีกวิธีหนึ่งในการดู: หากคุณมีขนาดเอฟเฟกต์เหมือนกัน แต่รับตัวอย่างเพิ่มเติมค่า p จะเป็นศูนย์เสมอ

(หากคุณต้องการรวมแนวคิดเกี่ยวกับขนาดผลกระทบโดยประมาณและความเชื่อมั่นเกี่ยวกับค่าประมาณไว้มากขึ้นอาจเป็นการดีกว่าที่จะใช้ช่วงความมั่นใจหรือใช้เทคนิคแบบเบย์)