Bootstrapping residencies: ฉันทำถูกไหม?

ก่อนอื่น: จากสิ่งที่ฉันเข้าใจส่วนที่เหลือในการบูตสแตรปทำงานได้ดังนี้:

1. ปรับโมเดลให้เหมาะสมกับข้อมูล
2. คำนวณส่วนที่เหลือ
3. ลองสุ่มดูส่วนที่เหลือแล้วเพิ่มลงใน 1
4. ปรับโมเดลให้เหมาะกับชุดข้อมูลใหม่จาก 3
5. ทำซ้ำnครั้ง แต่เพิ่มส่วนที่เหลือที่ถูก resampled ให้พอดีจาก 1 เสมอ

ถูกต้องจนถึงตอนนี้หรือไม่

สิ่งที่ฉันต้องการจะทำคือสิ่งที่แตกต่างออกไปเล็กน้อย:

ฉันต้องการประมาณค่าพารามิเตอร์และการทำนายความไม่แน่นอนสำหรับอัลกอริทึมที่ประมาณค่าตัวแปรสภาพแวดล้อม

สิ่งที่ผมมีคือปราศจากข้อผิดพลาดอนุกรมเวลา (จากการจำลอง) ของตัวแปรที่x_trueซึ่งฉันจะเพิ่มเสียงบางอย่างในการสั่งซื้อเพื่อสร้างชุดข้อมูลที่สังเคราะห์x_noise xจากนั้นฉันพยายามค้นหาพารามิเตอร์ที่เหมาะสมโดยปรับอัลกอริธึมของฉันด้วยผลรวมของกำลังสองsum((x_estimate - x_true)^2)(! ไม่x_estimate - x!) เป็นฟังก์ชันวัตถุประสงค์ เพื่อที่จะดูว่าอัลกอริทึมของฉันทำงานอย่างไรและเพื่อสร้างตัวอย่างของการแจกแจงพารามิเตอร์ของฉันฉันต้องการที่จะ resample x_noiseเพิ่มให้x_trueพอดีกับแบบจำลองของฉันอีกครั้งล้างและทำซ้ำ นั่นเป็นวิธีที่ถูกต้องในการประเมินความไม่แน่นอนของพารามิเตอร์หรือไม่ ฉันสามารถแปลความพอดีกับชุดข้อมูล bootstrapped ว่าเป็นความไม่แน่นอนในการทำนายหรือฉันต้องทำตามขั้นตอนที่ฉันโพสต์ไว้ด้านบนหรือไม่

/ แก้ไข: ฉันคิดว่าฉันยังไม่ได้ทำให้ชัดเจนว่าแบบจำลองของฉันทำอะไร คิดว่ามันเป็นสิ่งที่ต้องการวิธีลดเสียง มันไม่ใช่รูปแบบการทำนายมันเป็นอัลกอริทึมที่พยายามดึงสัญญาณต้นแบบของข้อมูลด้านสิ่งแวดล้อมที่มีเสียงดัง

/ edit ^ 2: สำหรับผู้ใช้ MATLAB ที่นั่นฉันได้เขียนตัวอย่างการถดถอยเชิงเส้นอย่างรวดเร็วและสกปรกของสิ่งที่ฉันหมายถึง

นี่คือสิ่งที่ฉันเชื่อว่าการบู๊ตแบบธรรมดา "(โปรดแก้ไขฉันหากฉันผิด): http://pastebin.com/C0CJp3d1

นี่คือสิ่งที่ฉันต้องการทำ: http://pastebin.com/mbapsz4c

นี่คืออัลกอริทึมทั่วไป (กึ่งพารามิเตอร์บูตบู๊ท) ในรายละเอียดเพิ่มเติม:

$\text{B}$ = จำนวนของ bootstraps

นางแบบ:
$y = x\beta + \epsilon$

ปล่อย $\hat{\epsilon}$ เป็นคนตกค้าง

1. เรียกใช้การถดถอยและรับการประมาณค่า $\hat\beta$ และของเหลือ $\hat\epsilon$.
2. ลองสุ่มดูส่วนที่เหลือด้วยการเปลี่ยนและหาเวกเตอร์ส่วนที่เหลือที่บูตแล้ว $\hat\epsilon_\text{B}$.
3. รับตัวแปรที่ขึ้นอยู่กับ bootstrapped โดยการคูณตัวประมาณจาก (1) กับ regressors ดั้งเดิมและเพิ่ม bootstrapped ที่เหลือ: $y_\text{B} = x\hat\beta + \hat\epsilon_\text{B}$.
4. รันการถดถอยด้วยตัวแปรที่ขึ้นอยู่กับ bootstrapped และ regressors ดั้งเดิมซึ่งทำให้ตัวประมาณ bootstrapped เช่น regress $y_B$ บน $x$สิ่งนี้จะช่วยให้ $\hat\beta_\text{B}$.
5. ทำซ้ำขั้นตอน $\text{B}$- เวลาโดยกลับไปที่ (2)

ฉันไม่แน่ใจว่าความเข้าใจของฉันถูกต้อง แต่นี่คือคำแนะนำของฉันในการแก้ไขโค้ดของคุณ ("bootstrapping ปกติที่เหลือ", บรรทัด 28-34) เป็น:

for i = 2:n_boot  
x_res_boot = x_residuals( randi(n_data,n_data,1) );  
x_boot = x_res_boot+ x_best_fit;  
p_est(:, i) = polyfit( t, x_boot, 1 );  
x_best_fit2 = polyval( p_est(:, i), t );  
x_residuals = x_best_fit2 - x_boot;
x_best_fit=x_best_fit2;
end  

แนวคิดคือทุกครั้งที่คุณใช้ส่วนที่เหลือไม่ได้มาจากการเรียกใช้ครั้งแรก แต่จาก bootstrap พอดีก่อนหน้านี้ สำหรับฉันอื่น ๆ ทั้งหมดดูเหมือนจะถูกต้อง

นี่เป็นรุ่นที่ได้รับการแก้ไขซึ่งได้รับการตรวจสอบใน MATLAB แก้ไขข้อผิดพลาดสองข้อแล้ว

หากต้องการดูวิธีการทำงานของอัลกอริทึมในแง่ของความแม่นยำในการทำนาย / ข้อผิดพลาดกำลังสองคุณอาจต้องใช้ bootstrap "มองในแง่ดี" ของ Efron-Gong สิ่งนี้ถูกนำไปใช้เพื่อให้ง่ายต่อการใช้งานในrmsแพ็คเกจR ดูการทำงานของมันols, ,validate.olscalibrate