bootstrap ถูกมองว่าเป็น“ การรักษา” สำหรับตัวอย่างขนาดเล็กหรือไม่?

คำถามนี้ถูกกระตุ้นโดยสิ่งที่ฉันอ่านในหนังสือเรียนระดับบัณฑิตศึกษานี้และยังมีการได้ยิน (อิสระ) ระหว่างการนำเสนอนี้ในงานสัมมนาทางสถิติ ในทั้งสองกรณีคำสั่งนั้นเป็นไปตามเส้นของ "เนื่องจากขนาดตัวอย่างมีขนาดค่อนข้างเล็กเราจึงตัดสินใจทำการประมาณค่าผ่าน bootstrap แทน (หรือพร้อมกับ) วิธีการพารามิเตอร์นี้ "$X$

พวกเขาไม่ได้ลงรายละเอียด แต่อาจเหตุผลดังนี้วิธีถือว่าข้อมูลตามบางพารากระจายD ในความเป็นจริงการกระจายไม่ตรงDแต่ก็โอเคตราบใดที่ขนาดตัวอย่างใหญ่พอ เนื่องจากในกรณีนี้ขนาดตัวอย่างเล็กเกินไปลองเปลี่ยนเป็น bootstrap (ที่ไม่ใช่พารามิเตอร์) ที่ไม่ได้ตั้งสมมติฐานการกระจาย แก้ไขปัญหา!$X$$D$$D$

ในความคิดของฉันนั่นไม่ใช่สิ่งที่ bootstrap มีไว้สำหรับ นี่คือวิธีที่ฉันเห็น: bootstrap สามารถให้ขอบเมื่อเห็นได้ชัดว่ามีข้อมูลเพียงพอหรือไม่ แต่ไม่มีวิธีแก้ปัญหาแบบปิดเพื่อรับข้อผิดพลาดมาตรฐานค่า p และสถิติที่คล้ายกัน ตัวอย่างคลาสสิกคือการได้รับ CI สำหรับค่าสัมประสิทธิ์สหสัมพันธ์ที่ได้รับตัวอย่างจากการแจกแจงปกติแบบ bivariate: การแก้ปัญหาแบบปิดมีอยู่ แต่มันซับซ้อนมากที่ bootstrapping ง่าย อย่างไรก็ตามไม่มีสิ่งใดที่บ่งบอกว่า bootstrap สามารถช่วยได้ด้วยขนาดตัวอย่างที่เล็ก

การรับรู้ของฉันถูกต้องหรือไม่

หากคุณพบว่าคำถามนี้น่าสนใจมีคำถาม bootstrap ที่เฉพาะเจาะจงมากขึ้นจากฉัน:

Bootstrap: ปัญหาการ overfitting

ป.ล. ฉันไม่สามารถช่วยแบ่งปันหนึ่งตัวอย่างที่น่าเกรงขามของ "วิธีบูตสแตรป" ฉันไม่ได้เปิดเผยชื่อผู้แต่ง แต่เขาเป็นหนึ่งใน "คนรุ่นเก่า" ที่เขียนหนังสือเกี่ยวกับการเงินเชิงปริมาณในปี 2547 ตัวอย่างนี้นำมาจากที่นั่น

ลองพิจารณาปัญหาต่อไปนี้: สมมติว่าคุณมีสินทรัพย์ 4 รายการและการสังเกตผลตอบแทน 120 เดือนต่อครั้ง เป้าหมายคือการสร้าง cdf 4 มิติร่วมของผลตอบแทนรายปี แม้จะเป็นทรัพย์สินชิ้นเดียวงานก็ดูเหมือนจะบรรลุได้ยากด้วยการสังเกตเพียง 10 ปีเท่านั้นนับประสาประมาณ 4 มิติ cdf แต่ไม่ต้องกังวล“ bootstrap” จะช่วยคุณออก: นำการสังเกตแบบ 4 มิติทั้งหมดที่มีอยู่มาทำการสุ่มตัวอย่างที่ 12 ด้วยการแทนที่ ทำซ้ำ 1,000 ครั้งและแท้จริงแล้วดูเถิดคุณมี“ ตัวอย่างบูตสแตรป” ของผลตอบแทน 1,000 ครั้งต่อปี ใช้สิ่งนี้เป็นตัวอย่าง iid ขนาด 1,000 เพื่อจุดประสงค์ในการประมาณค่า cdf หรือการอนุมานอื่น ๆ ที่สามารถดึงมาจากประวัติพันปี

ฉันจำได้ว่าการอ่านว่าการใช้ช่วงความเชื่อมั่นแบบเปอร์เซนต์สำหรับการบูตสเต็ปนั้นเทียบเท่ากับการใช้ช่วงเวลา Z แทนช่วงเวลา T และใช้แทนn - 1สำหรับตัวส่วน น่าเสียดายที่ฉันจำไม่ได้ว่าอ่านตรงไหนและไม่พบข้อมูลอ้างอิงในการค้นหาด่วน ความแตกต่างเหล่านี้ไม่สำคัญมากเมื่อ n มีขนาดใหญ่ (และข้อดีของ bootstrap มีมากกว่าปัญหาเล็กน้อยเหล่านี้เมื่อnมีขนาดใหญ่) แต่ด้วยnขนาดเล็กอาจทำให้เกิดปัญหาได้ นี่คือรหัส R เพื่อจำลองและเปรียบเทียบ:$n$$n-1$$n$$n$

simfun <- function(n=5) {
    x <- rnorm(n)
    m.x <- mean(x)
    s.x <- sd(x)
    z <- m.x/(1/sqrt(n))
    t <- m.x/(s.x/sqrt(n))
    b <- replicate(10000, mean(sample(x, replace=TRUE)))
    c( t=abs(t) > qt(0.975,n-1), z=abs(z) > qnorm(0.975),
        z2 = abs(t) > qnorm(0.975), 
        b= (0 < quantile(b, 0.025)) | (0 > quantile(b, 0.975))
     )
}

out <- replicate(10000, simfun())
rowMeans(out)

ผลลัพธ์ของฉันสำหรับการวิ่งครั้งเดียวคือ:

     t      z     z2 b.2.5% 
0.0486 0.0493 0.1199 0.1631 

$\alpha$

หากคุณได้รับตัวอย่างขนาดเล็ก (เป็นไซด์ไลท์สิ่งที่ "เล็ก" ดูเหมือนจะขึ้นอยู่กับกฎจารีตประเพณีพื้นฐานบางอย่างในแต่ละสาขาการวิจัย) ไม่มี bootstrap จะทำเวทย์มนตร์ สมมติว่าฐานข้อมูลมีข้อสังเกตสามประการสำหรับแต่ละตัวแปรสองตัวที่อยู่ภายใต้การสอบสวนไม่มีข้อสรุปที่สมเหตุสมผล จากประสบการณ์ของฉัน bootstrap ที่ไม่ใช่พารามิเตอร์ (1,000 หรือ 10,000 ซ้ำ) ทำงานได้ดีในการแทนที่การทดสอบ t เมื่อการแจกแจงตัวอย่าง (อย่างน้อย 10-15 การสังเกตแต่ละครั้ง) จะเบ้และสิ่งที่จำเป็นสำหรับการทดสอบตามปกติไม่พอใจ นอกจากนี้ไม่ว่าจะมีการสังเกตจำนวนมาก bootstrap ที่ไม่ใช่พารามิเตอร์อาจเป็นตัวเลือกที่จำเป็นเมื่อข้อมูลมีการเปลี่ยนแปลงในทางบวกเนื่องจากมักจะเกิดขึ้นสำหรับค่าใช้จ่ายด้านการดูแลสุขภาพ

คำตอบอื่น ๆ วิพากษ์วิจารณ์ประสิทธิภาพการทำงานของช่วงความเชื่อมั่น bootstrap ไม่ใช่ bootstrap ตัวเอง นี่เป็นปัญหาที่แตกต่าง

หากบริบทของคุณเป็นไปตามเงื่อนไขความสม่ำเสมอสำหรับการบรรจบกันของการกระจาย bootstrap (การบรรจบกันในแง่ของจำนวนตัวอย่าง bootstrap) จากนั้นวิธีการจะทำงานถ้าคุณใช้ตัวอย่าง bootstrap ที่มีขนาดใหญ่พอ

ในกรณีที่คุณจริงๆต้องการที่จะพบปัญหาของการใช้บูตไม่อิงพารามิเตอร์ที่นี่มีสองปัญหา:

(1) ปัญหาเกี่ยวกับการปรับตัวอย่างซ้ำ

ปัญหาอย่างหนึ่งของ bootstrap สำหรับตัวอย่างขนาดเล็กหรือใหญ่คือขั้นตอนการสุ่มตัวอย่างใหม่ มันเป็นไปไม่ได้ที่จะสุ่มตัวอย่างอีกครั้งในขณะที่รักษาโครงสร้าง (การพึ่งพาอาศัยชั่วคราว ... ) ของตัวอย่าง ตัวอย่างนี้เป็นกระบวนการ superposed

สมมติว่ามีแหล่งข้อมูลอิสระจำนวนมากในแต่ละเหตุการณ์ที่เกิดขึ้นเป็นครั้งคราว ช่วงเวลาระหว่างเหตุการณ์ต่อเนื่องที่แหล่งใดแหล่งหนึ่งถือว่าเป็นตัวแปรสุ่มอิสระทั้งหมดที่มีการแจกแจงแบบเดียวกันดังนั้นแหล่งที่มาแต่ละแห่งจึงมีกระบวนการต่ออายุประเภทที่คุ้นเคย เอาท์พุทของแหล่งที่มาจะรวมกันเป็นหนึ่งในการส่งออกพู

คุณจะลองอีกครั้งในขณะที่รักษาโครงสร้างที่ไม่รู้จักพึ่งพาได้อย่างไร

(2) ตัวอย่างบูตแคบและช่วงความเชื่อมั่นบูตสำหรับตัวอย่างขนาดเล็ก

ในตัวอย่างขนาดเล็กค่าต่ำสุดและสูงสุดของตัวประมาณค่าสำหรับแต่ละชุดย่อยอาจกำหนดช่วงเวลาแคบ ๆ จากนั้นจุดด้านขวาและซ้ายของช่วงความเชื่อมั่นใด ๆ จะแคบลงมาก

$x_1,x_2\sim \text{Exp}(\lambda)$$\lambda>0$

set.seed(1)
x <- rexp(2,1)
# Maximum likelihood estimator
1/mean(x)

# Profile likelihood: provides a confidence interval with right-end point beyond the maximum inverse of the mean
Rp <- Vectorize(function(l) exp(sum(dexp(x,rate=l,log=T))-sum(dexp(x,rate=1/mean(x),log=T))))

curve(Rp,0,5)
lines(c(0,5),c(0.147,0.147),col="red")

$\lambda$$\hat{\lambda}=2/(x_1+x_2)$

library(boot)
set.seed(1)
x <- rexp(2,1)
1/mean(x)
# Bootstrap interval: limited to the maximum inverse of the mean
f.boot <- function(data,ind) 1/mean(data[ind])
b.b <- boot(data=x, statistic=f.boot, R=100000)
boot.ci(b.b, conf = 0.95, type = "all")
hist(b.b$t)

$x_1$$x_2$

Bootstrap ทำงานได้ดีในขนาดตัวอย่างขนาดเล็กโดยตรวจสอบความถูกต้องของการทดสอบ (เช่นระดับนัยสำคัญ 0.05 อยู่ใกล้กับขนาดที่แท้จริงของการทดสอบ) อย่างไรก็ตาม bootstrap ไม่ได้ให้อำนาจพิเศษอย่างน่าอัศจรรย์ หากคุณมีตัวอย่างเล็ก ๆ น้อย ๆ แสดงว่าคุณมีพลังน้อยจบเรื่อง

Parametric (โมเดลเชิงเส้น) และ semiparametric (GEE) การถดถอยมีแนวโน้มที่จะมีคุณสมบัติตัวอย่างขนาดเล็กที่ไม่ดี ... ในอดีตเป็นผลมาจากการพึ่งพาขนาดใหญ่บนสมมติฐานของพารามิเตอร์เนื่องจากการขยายตัวของการประมาณค่าความผิดพลาดมาตรฐานที่แข็งแกร่งในกลุ่มตัวอย่างขนาดเล็ก Bootstrapping (และการทดสอบที่ใช้การ resampling อื่น ๆ ) ทำงานได้ดีในสถานการณ์เหล่านั้น

สำหรับการคาดการณ์การบูตสแตรปจะช่วยให้คุณประเมินความถูกต้องภายในได้ดียิ่งขึ้น

$n$