นิยามลูกบาศก์ธรรมชาติสำหรับการถดถอย

16

ฉันกำลังเรียนรู้เกี่ยวกับเส้นโค้งจากหนังสือ "องค์ประกอบของการทำเหมืองข้อมูลการเรียนรู้เชิงสถิติการอนุมานและการทำนาย" โดย Hastie et al ฉันพบในหน้า 145 ว่าเส้นโค้งลูกบาศก์ธรรมชาติเป็นเส้นตรงเหนือขอบนอต มี $K$ นอต $\xi_1, \xi_2, ... \xi_K$ ในเส้นโค้งและได้รับสิ่งต่อไปนี้เกี่ยวกับเส้นโค้งเช่นนี้ในหนังสือ

คำถามที่ 1:เสรีภาพเพิ่มขึ้น 4 องศาอย่างไร ฉันไม่ได้รับส่วนนี้

คำถามที่ 2 : ในคำจำกัดความของเมื่อแล้ว $d_k(X)$ $k=K$ . ผู้เขียนพยายามทำอะไรในสูตรนี้ สิ่งนี้ช่วยให้แน่ใจได้อย่างไรว่าเส้นโค้งนั้นเป็นเส้นตรงมากกว่านอตขอบ $d_K(X) = \frac 0 0$

— ดูริน
แหล่งที่มา

17

มาเริ่มกันที่การพิจารณาลูกบาศก์ Splines ธรรมดา พวกมันคือลูกบาศก์ระหว่างนอตทุกคู่กับลูกบาศก์นอกนอตเขตแดน เราเริ่มต้นด้วย 4df สำหรับลูกบาศก์แรก (ซ้ายของปมขอบเขตแรก) และแต่ละปมจะเพิ่มพารามิเตอร์ใหม่หนึ่งตัว (เนื่องจากความต่อเนื่องของลูกบาศก์ Splines และอนุพันธ์และอนุพันธ์อันดับสองเพิ่มสามข้อ จำกัด ทำให้มีพารามิเตอร์อิสระหนึ่งตัว) พารามิเตอร์สำหรับ knots $K+4$ $K$

ลูกบาศก์ธรรมชาติเป็นเชิงเส้นตรงที่ปลายทั้งสอง ข้อ จำกัด นี้ส่วนลูกบาศก์และสมการกำลังสองมี 0, ลดแต่ละ DF โดย 1. นั่นเป็น 2 DF ในแต่ละปลายทั้งสองข้างของเส้นโค้งลดเพื่อK $K+4$ $K$

ลองนึกภาพคุณตัดสินใจว่าคุณสามารถใช้จำนวนองศาอิสระทั้งหมด ( , พูด) ในการประมาณเส้นโค้งที่ไม่ใช่พารามิเตอร์ของคุณ เนื่องจากการกำหนดให้อิสระในธรรมชาติใช้ 4 องศาอิสระน้อยกว่าลูกบาศก์ทั่วไป (สำหรับจำนวนนอตเดียวกัน) ด้วยพารามิเตอร์คุณสามารถมี 4 knots เพิ่มเติม (และพารามิเตอร์อื่น ๆ อีก 4) เพื่อจำลองเส้นโค้งระหว่างนอตเขตแดน . $p$ $p$
$N_{k+2}$ $k=1,2,...,K-2$ $K$ $N_{K}=d_{K-2}-d_{K-1}$ $k$ $d_k$ $k=K-1$ $d_K$

— Glen_b -Reinstate Monica
แหล่งที่มา

4

$2$ $\xi_1, \xi_2$ $]-\infty, \xi_1[$ $]\xi_1, \xi_2[$ $]\xi_2, +\infty[$ $|I|=3$ $|I|-1=2$ นอต)

สำหรับลูกบาศก์ทั่วไป (ทั่วไป)

$4|I|=12$

1 (X < ξ_{1}); 1 (X < ξ_{1}) X; 1 (X < ξ_{1}) X^{2}; 1 (X < ξ_{1}) X^{3};

$\mathbf{1}(X < \xi_1)~~;~~\mathbf{1}(X < \xi_1)X~~;~~\mathbf{1}(X < \xi_1)X^2~~;~~\mathbf{1}(X < \xi_1)X^3~~;$

1 (ξ_{1} \leq X < ξ_{2}); 1 (ξ_{1} \leq X < ξ_{2}) X; 1 (ξ_{1} \leq X < ξ_{2}) X^{2}; 1 (ξ_{1} \leq X < ξ_{2}) X^{3};

$\mathbf{1}(\xi_1 \leq X < \xi_2)~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^2~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^3~~;$

1 (ξ_{2} \leq X); 1 (ξ_{2} \leq X) X; 1 (ξ_{2} \leq X) X^{2}; 1 (ξ_{2} \leq X) X^{3} .

$\mathbf{1}(\xi_2 \leq X)~~;~~\mathbf{1}(\xi_2 \leq X)X~~;~~\mathbf{1}(\xi_2 \leq X)X^2~~;~~\mathbf{1}(\xi_2 \leq X)X^3.$

$\mathcal{C}^r$ $r=2$ $(r+1)\times(|I|-1) = 3\times(|I|-1) = 6$

$12-6=6$

สำหรับลูกบาศก์ธรรมชาติ

" ลูกบาศก์ธรรมชาติจะเพิ่มข้อ จำกัด เพิ่มเติมนั่นคือฟังก์ชันนั้นเป็นเส้นตรงมากกว่านอตเขตแดน"

$4|I|-4=12-4$ $4$ $2$

1 (X < ξ_{1}); 1 (X < ξ_{1}) X;

$\mathbf{1}(X < \xi_1)~~;~~\mathbf{1}(X < \xi_1)X~~;~~$

1 (ξ_{1} \leq X < ξ_{2}); 1 (ξ_{1} \leq X < ξ_{2}) X; 1 (ξ_{1} \leq X < ξ_{2}) X^{2}; 1 (ξ_{1} \leq X < ξ_{2}) X^{3};

$\mathbf{1}(\xi_1 \leq X < \xi_2)~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^2~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^3~~;$

1 (ξ_{2} \leq X); 1 (ξ_{2} \leq X) X .

$\mathbf{1}(\xi_2 \leq X)~~;~~\mathbf{1}(\xi_2 \leq X)X.$

$3\times(|I|-1) = 6$

$8-6=2$

— ahstat
แหล่งที่มา