วิธีการถดถอยเชิงเส้นทีละน้อยพร้อมปมที่ไม่รู้จักหลายวิธี

มีแพ็คเกจใดบ้างที่ต้องทำการถดถอยเชิงเส้นแบบทีละชิ้น ขอบคุณ เมื่อฉันใช้แพคเกจ Strucchange ฉันตรวจไม่พบจุดเปลี่ยนแปลง ฉันไม่รู้ว่ามันตรวจจับจุดเปลี่ยนได้อย่างไร จากแปลงฉันเห็นว่ามีหลายจุดที่ฉันต้องการมันช่วยให้ฉันเลือกพวกมันออกมาได้ ใครช่วยยกตัวอย่างที่นี่ได้ไหม

หากว่าMARSจะบังคับ? R มีแพ็คเกจearthที่ใช้งาน

โดยทั่วไปแล้วมันค่อนข้างแปลกที่ต้องการให้พอดีกับบางสิ่งบางอย่างเป็นเส้นตรงที่ชาญฉลาด อย่างไรก็ตามหากคุณต้องการทำเช่นนั้นจริงๆแล้วอัลกอริทึม MARS จะตรงที่สุด มันจะสร้างฟังก์ชั่นหนึ่งปมในเวลา; และโดยปกติแล้วจะตัดกลับจำนวนนอตเพื่อต่อสู้กับต้นไม้ตัดสินใจ Ala ที่เหมาะสม คุณสามารถเข้าถึง algotithm MARS ใน R ผ่านหรือearth mdaโดยทั่วไปจะเหมาะกับ GCV ซึ่งอยู่ไม่ไกลจากเกณฑ์ข้อมูลอื่น ๆ (AIC, BIC ฯลฯ )

MARS จะไม่ให้พอดี "ดีที่สุด" กับคุณเพราะปมจะเติบโตทีละครั้ง มันค่อนข้างยากที่จะใส่จำนวนปม "ดีที่สุด" อย่างแท้จริงเนื่องจากการเรียงสับเปลี่ยนตำแหน่งปมที่เป็นไปได้จะเกิดขึ้นอย่างรวดเร็ว

โดยทั่วไปนี่คือสาเหตุที่ผู้คนหันไปทางเส้นโค้งที่ราบเรียบ เส้นโค้งที่ราบเรียบส่วนใหญ่เป็นลูกบาศก์เพียงเพื่อให้คุณสามารถหลอกตามนุษย์ให้หายไปจากความไม่ต่อเนื่อง มันจะค่อนข้างเป็นไปได้ที่จะทำเส้นโค้งเรียบเชิงเส้น ข้อได้เปรียบที่สำคัญของเส้นโค้งที่ราบเรียบคือพารามิเตอร์เดียวที่จะทำให้ได้ประสิทธิภาพสูงสุด ที่ช่วยให้คุณเข้าถึงโซลูชันที่ "ดีที่สุด" อย่างแท้จริงได้อย่างรวดเร็วโดยไม่ต้องค้นหาวิธีการเปลี่ยนสับเปลี่ยน อย่างไรก็ตามหากคุณต้องการค้นหาจุดผันและคุณมีข้อมูลเพียงพอที่จะทำเช่นนั้นบางสิ่งเช่น MARS อาจเป็นทางออกที่ดีที่สุดของคุณ

ต่อไปนี้เป็นตัวอย่างโค้ดสำหรับการปรับสมูทเชิงเส้นเชิงราบใน R:

require(mgcv);data(iris);
gam.test <- gam(Sepal.Length ~ s(Petal.Width,k=6,bs='ps',m=0),data=iris)
summary(gam.test);plot(gam.test);

ปมที่แท้จริงที่ได้รับการแต่งตั้งนั้นไม่จำเป็นต้องมีความสัมพันธ์กับคะแนนการเบี่ยงเบนใด ๆ

ฉันได้ตั้งโปรแกรมนี้ตั้งแต่เริ่มต้นเมื่อไม่กี่ปีที่ผ่านมาและฉันมีไฟล์ Matlab สำหรับทำการถดถอยเชิงเส้นอย่างชาญฉลาดบนคอมพิวเตอร์ของฉัน จุดหยุดประมาณ 1 ถึง 4 สามารถคำนวณได้ประมาณ 20 จุดในการวัด จุดพัก 5 หรือ 7 จุดเริ่มมากเกินไป

วิธีการทางคณิตศาสตร์ที่บริสุทธิ์อย่างที่ฉันเห็นคือลองชุดค่าผสมที่เป็นไปได้ทั้งหมดตามที่ผู้ใช้ mbq แนะนำในคำถามที่เชื่อมโยงกับในความคิดเห็นด้านล่างคำถามของคุณ

เนื่องจากเส้นที่ติดตั้งนั้นต่อเนื่องกันและอยู่ติดกัน (ไม่มีการเหลื่อมกัน) คอมบิเนเตอร์จะตามสามเหลี่ยม Pascals หากมีการซ้อนทับกันระหว่างจุดข้อมูลที่ใช้โดยส่วนของเส้นผมเชื่อว่า combinatorics จะตามตัวเลขสเตอร์ลิงของชนิดที่สองแทน

ทางออกที่ดีที่สุดในใจของฉันคือการเลือกการรวมกันของสายการประกอบที่มีค่าเบี่ยงเบนมาตรฐานต่ำสุดของค่าความสัมพันธ์ R ^ 2 ของสายการประกอบ ฉันจะพยายามอธิบายด้วยตัวอย่าง โปรดทราบว่าการสอบถามว่ามีจุดพักจำนวนเท่าใดที่ควรพบในข้อมูลคล้ายกับการถามคำถาม "ชายฝั่งอังกฤษยาวเท่าไหร่" ในฐานะหนึ่งในเบอนัวต์แมนเดลบอต (นักคณิตศาสตร์) มีเอกสารเกี่ยวกับเศษส่วน และมีการแลกเปลี่ยนระหว่างจำนวนจุดพักและความลึกการถดถอย

ตอนนี้เป็นตัวอย่าง

$y$$x$$x$$y$

$$\begin{array}{|c|c|c|c|c|c|} \hline &x &y &R^2 line 1 &R^2 line 2 &sum of R^2 values &standard deviation of R^2 \\ \hline &1 &1 &1,000 &0,0400 &1,0400 &0,6788 \\ \hline &2 &2 &1,000 &0,0118 &1,0118 &0,6987 \\ \hline &3 &3 &1,000 &0,0004 &1,0004 &0,7067 \\ \hline &4 &4 &1,000 &0,0031 &1,0031 &0,7048 \\ \hline &5 &5 &1,000 &0,0135 &1,0135 &0,6974 \\ \hline &6 &6 &1,000 &0,0238 &1,0238 &0,6902 \\ \hline &7 &7 &1,000 &0,0277 &1,0277 &0,6874 \\ \hline &8 &8 &1,000 &0,0222 &1,0222 &0,6913 \\ \hline &9 &9 &1,000 &0,0093 &1,0093 &0,7004 \\ \hline &10 &10 &1,000 &-1,978 &1,000 &0,7071 \\ \hline &11 &9 &0,9709 &0,0271 &0,9980 &0,6673 \\ \hline &12 &8 &0,8951 &0,1139 &1,0090 &0,5523 \\ \hline &13 &7 &0,7734 &0,2558 &1,0292 &0,3659 \\ \hline &14 &6 &0,6134 &0,4321 &1,0455 &0,1281 \\ \hline &15 &5 &0,4321 &0,6134 &1,0455 &0,1282 \\ \hline &16 &4 &0,2558 &0,7733 &1,0291 &0,3659 \\ \hline &17 &3 &0,1139 &0,8951 &1,0090 &0,5523 \\ \hline &18 &2 &0,0272 &0,9708 &0,9980 &0,6672 \\ \hline &19 &1 &0 &1,000 &1,000 &0,7071 \\ \hline &20 &2 &0,0094 &1,000 &1,0094 &0,7004 \\ \hline &21 &3 &0,0222 &1,000 &1,0222 &0,6914 \\ \hline &22 &4 &0,0278 &1,000 &1,0278 &0,6874 \\ \hline &23 &5 &0,0239 &1,000 &1,0239 &0,6902 \\ \hline &24 &6 &0,0136 &1,000 &1,0136 &0,6974 \\ \hline &25 &7 &0,0032 &1,000 &1,0032 &0,7048 \\ \hline &26 &8 &0,0004 &1,000 &1,0004 &0,7068 \\ \hline &27 &9 &0,0118 &1,000 &1,0118 &0,6987 \\ \hline &28 &10 &0,04 &1,000 &1,04 &0,6788 \\ \hline \end{array}$$

ค่า y เหล่านี้มีกราฟ:

ซึ่งมีจุดแตกหักสองจุดอย่างชัดเจน เพื่อประโยชน์ในการโต้แย้งเราจะคำนวณค่าความสัมพันธ์ R ^ 2 (ด้วยสูตรเซลล์ Excel (สไตล์ดอทคอมม่าของยุโรป):

=INDEX(LINEST(B1:$B$1;A1:$A$1;TRUE;TRUE);3;1)
=INDEX(LINEST(B1:$B$28;A1:$A$28;TRUE;TRUE);3;1)

สำหรับการรวมกันที่เป็นไปได้ที่ไม่ทับซ้อนกันของสองเส้นที่ประกอบเข้าด้วยกัน คู่ที่เป็นไปได้ของค่า R ^ 2 มีกราฟ:

คำถามคือสิ่งที่เราควรเลือกคู่ค่า R ^ 2 และเราจะพูดถึงจุดพักหลายจุดตามที่ถามในชื่อเรื่องอย่างไร ทางเลือกหนึ่งคือการเลือกชุดค่าผสมที่ผลรวมของความสัมพันธ์ R-square มากที่สุด พล็อตเรื่องนี้เราได้เส้นโค้งสีน้ำเงินด้านบน:

$1,0455$

การถดถอยเชิงเส้นอย่างชาญฉลาด - Matlab - จุดพักหลายจุด

มีขั้นตอนวิธีการที่ดีงามเป็นที่อธิบายไว้ในตูเมและมิแรนดา (1984)

วิธีการที่นำเสนอใช้วิธีการกำลังสองน้อยที่สุดในการคำนวณชุดต่อเนื่องที่ดีที่สุดที่ตรงกับอนุกรมเวลาที่กำหนดภายใต้ข้อ จำกัด จำนวนหนึ่งเกี่ยวกับระยะห่างต่ำสุดระหว่างจุดพักและการเปลี่ยนแปลงแนวโน้มขั้นต่ำที่จุดพักแต่ละจุด

รหัสและ GUI มีทั้งใน Fortran และ IDL จากเว็บไซต์ของพวกเขา: http://www.dfisica.ubi.pt/~artome/linearstep.html

... ก่อนอื่นคุณต้องทำโดยทำซ้ำและอยู่ภายใต้เกณฑ์ข้อมูลบางอย่างเช่น AIC AICc BIC Cp; เพราะคุณสามารถรับพอดี "อุดมคติ" ถ้าจำนวน knots K = หมายเลข od ข้อมูลจุด N, ok ... อันดับแรกให้ใส่ K = 0; ประมาณ L = K + 1 การถดถอยคำนวณ AICc เป็นต้น จากนั้นสมมติว่ามีจุดข้อมูลจำนวนน้อยที่สุดที่ส่วนที่แยกต่างหากพูด L = 3 หรือ L = 4 ตกลงตกลง ... ใส่ K = 1; เริ่มต้นจากข้อมูล L-th เป็นปมแรกคำนวณ SS หรือ MLE, ... และดำเนินการตามขั้นตอนต่อไปจุดข้อมูลเป็นปม, SS หรือ MLE จนถึงปมสุดท้ายที่ข้อมูล N - L; เลือกการจัดเรียงที่เหมาะสมที่สุด (SS หรือ MLE) คำนวณ AICc ... ... ใส่ K = 2; ... ใช้การถดถอยก่อนหน้านี้ทั้งหมด (นั่นคือ SS หรือ MLE) แต่แบ่งทีละส่วนเป็นส่วน ๆ ทั้งหมดทีละขั้นตอน ... เลือกการจัดการที่เหมาะสมที่สุด (SS หรือ MLE) คำนวณ AICc ... ถ้า AICc ล่าสุดเกิดขึ้นมากกว่าเดิมก่อนหน้านี้: หยุดการวนซ้ำ! นี่เป็นทางออกที่ดีที่สุดภายใต้เกณฑ์ AICc

ผมเคยมาข้ามโปรแกรมที่เรียกว่าJoinpoint ในเว็บไซต์ของพวกเขาพวกเขาบอกว่ามันเหมาะกับรูปแบบของจุดเชื่อมต่อที่ "หลาย ๆ สายเชื่อมต่อกันที่" จุดเชื่อมต่อ " และเพิ่มเติม: "ผู้ใช้ให้จำนวนขั้นต่ำและจำนวนสูงสุดของจุดเชื่อมต่อโปรแกรมเริ่มต้นด้วยจำนวนขั้นต่ำของจุดเชื่อมต่อ (เช่น 0 จุดเชื่อมต่อซึ่งเป็นเส้นตรง) และทดสอบว่าจุดเชื่อมต่อนั้นมีนัยสำคัญทางสถิติหรือไม่ (ไม่เกินจำนวนสูงสุด) "

NCI ใช้สำหรับการสร้างแบบจำลองแนวโน้มของอัตราโรคมะเร็งบางทีมันอาจจะเหมาะกับความต้องการของคุณเช่นกัน

เพื่อให้พอดีกับข้อมูลฟังก์ชั่นทีละชิ้น:

$a_1 , a_2 , p_1 , q_1, p_2 , q_2 , p_3 , q_3$

ตัวอย่างเช่นด้วยข้อมูลที่ถูกต้องจาก Mats Granvik ผลลัพธ์คือ:

หากไม่มีข้อมูลที่กระจัดกระจายตัวอย่างนี้ก็ไม่มีความหมายมากนัก ตัวอย่างอื่นที่มีข้อมูลกระจัดกระจายแสดงอยู่ในเอกสารอ้างอิง

คุณสามารถใช้mcpแพ็คเกจได้หากคุณทราบจำนวนคะแนนการเปลี่ยนแปลงที่จะสรุป มันให้ความยืดหยุ่นในการสร้างแบบจำลองที่ยอดเยี่ยมและข้อมูลมากมายเกี่ยวกับจุดเปลี่ยนและพารามิเตอร์การถดถอย แต่ด้วยความเร็ว

เว็บไซต์ mcp มีตัวอย่างมากมายที่นำไปใช้เช่น

library(mcp)

# Define the model
model = list(
  response ~ 1,  # plateau (int_1)
  ~ 0 + time,    # joined slope (time_2) at cp_1
  ~ 1 + time     # disjoined slope (int_3, time_3) at cp_2
)

# Fit it. The `ex_demo` dataset is included in mcp
fit = mcp(model, data = ex_demo)

จากนั้นคุณสามารถเห็นภาพ:

plot(fit)

หรือสรุป:

summary(fit)

Family: gaussian(link = 'identity')
Iterations: 9000 from 3 chains.
Segments:
  1: response ~ 1
  2: response ~ 1 ~ 0 + time
  3: response ~ 1 ~ 1 + time

Population-level parameters:
    name match  sim  mean lower  upper Rhat n.eff
    cp_1    OK 30.0 30.27 23.19 38.760    1   384
    cp_2    OK 70.0 69.78 69.27 70.238    1  5792
   int_1    OK 10.0 10.26  8.82 11.768    1  1480
   int_3    OK  0.0  0.44 -2.49  3.428    1   810
 sigma_1    OK  4.0  4.01  3.43  4.591    1  3852
  time_2    OK  0.5  0.53  0.40  0.662    1   437
  time_3    OK -0.2 -0.22 -0.38 -0.035    1   834

ข้อจำกัดความรับผิดชอบ: ฉันเป็นผู้พัฒนาของ mcp