ข้อผิดพลาดการไล่ระดับสีเอกพจน์ใน nls ด้วยค่าเริ่มต้นที่ถูกต้อง

ฉันพยายามใส่เส้นโค้ง + เอ็กซ์โพเนนเชียลให้พอดีกับข้อมูลบางอย่าง เป็นการเริ่มต้นฉันพยายามทำสิ่งนี้กับข้อมูลเทียมบางอย่าง ฟังก์ชั่นคือ: มันเป็นเส้นโค้งเอ็กซ์โพเนนเชียลได้อย่างมีประสิทธิภาพกับส่วนเชิงเส้นเช่นเดียวกับพารามิเตอร์ shift แนวนอนเพิ่มเติม ( m ) อย่างไรก็ตามเมื่อฉันใช้ฟังก์ชั่นของ R ฉันได้รับข้อผิดพลาด " เมทริกซ์การไล่ระดับสีเอกพจน์ที่การประมาณการพารามิเตอร์เริ่มต้น " ที่น่ากลัวแม้ว่าฉันจะใช้พารามิเตอร์เดียวกันกับที่ฉันใช้ในการสร้างข้อมูลตั้งแต่แรก ฉันลองใช้อัลกอริทึมที่แตกต่างกันค่าเริ่มต้นที่แตกต่างกันและพยายามใช้

Y = a + ข \cdot R^{(x - ม.)} + ค \cdot x

$y=a+b\cdot r^{(x-m)}+c\cdot x$ nls()
optimเพื่อลดผลรวมที่เหลือของกำลังสองทั้งหมดนี้จะไม่มีประโยชน์ ฉันได้อ่านว่าสาเหตุที่เป็นไปได้สำหรับการทำเช่นนี้อาจเป็นการทำให้เกินขอบเขตของสูตร แต่ฉันไม่คิดว่ามันจะเป็น (คืออะไร)
มีใครมีข้อเสนอแนะสำหรับปัญหานี้หรือไม่? หรือนี่เป็นเพียงโมเดลที่น่าอึดอัดใจ?

ตัวอย่างสั้น ๆ :

#parameters used to generate the data
reala=-3
realb=5
realc=0.5
realr=0.7
realm=1
x=1:11 #x values - I have 11 timepoint data
#linear+exponential function
y=reala + realb*realr^(x-realm) + realc*x
#add a bit of noise to avoid zero-residual data
jitter_y = jitter(y,amount=0.2)
testdat=data.frame(x,jitter_y)

#try the regression with similar starting values to the the real parameters
linexp=nls(jitter_y~a+b*r^(x-m)+c*x, data=testdat, start=list(a=-3, b=5, c=0.5, r=0.7, m=1), trace=T)

ขอบคุณ!

r nonlinear-regression nls

— steiny
แหล่งที่มา

คำแนะนำ: ดูค่าสัมประสิทธิ์ของ (สำหรับค่าคงที่ ) และทราบว่ามีการแก้ปัญหาในตระกูลเดียวกับ{คง}

r^{x}

$r^x$

r

$r$

b r^{- m} = constant

$b r^{-m} = \text{constant}$

(b, m)

$(b,m)$

b = r^{m} \cdot constant

$b = r^m \cdot \text{constant}$

— whuber

นี่ไม่ใช่โมเดลที่ระบุยกเว้นว่าหรือมีข้อ จำกัด อย่างใด ฉันคิดว่าการต้องการจะทำงานได้

b

$b$

r

$r$

r \in (0, 1)

$r \in (0,1)$

— มาโคร

คำตอบ:

ฉันเพิ่งถูกมันกัด ความตั้งใจของฉันเหมือนกันสร้างแบบจำลองเทียมและทดสอบ เหตุผลหลักคือเหตุผลที่ได้รับจาก @whuber และ @marco รูปแบบดังกล่าวไม่ได้ระบุ หากต้องการดูว่าโปรดจำไว้ว่า NLS ย่อขนาดฟังก์ชัน:

Σ_{ผม = 1}^{n} (Y_{ผม} - a - ข R^{x_{ผม} - ม.} - ค x_{ผม})^{2}

$\sum_{i=1}^n(y_i-a-br^{x_i-m}-cx_i)^2$

บอกว่ามันจะลดลงโดยชุดของพารามิเตอร์c) ไม่ยากที่จะเห็นว่าชุดของพารามิเตอร์จะให้ค่าเดียวกันของฟังก์ชันที่จะย่อเล็กสุด ดังนั้นจึงไม่มีการระบุตัวแบบนั่นคือไม่มีวิธีแก้ปัญหาเฉพาะ $(a,b,m,r,c)$ $(a,br^{-m},0,r,c)$

นอกจากนี้ยังไม่ยากที่จะเห็นว่าทำไมการไล่ระดับสีเป็นเอกพจน์ แสดงว่า

ฉ (a, ข, R, ม., ค, x) = a + ข R^{x - ม.} + ค x

$f(a,b,r,m,c,x)=a+br^{x-m}+cx$

แล้วก็

\frac{\partial ฉ}{\partial ข} = R^{x - ม.}

$\frac{\partial f}{\partial b}=r^{x-m}$

\frac{\partial ฉ}{\partial ม.} = - ข LN R R^{x - ม.}

$\frac{\partial f}{\partial m}=-b\ln rr^{x-m}$

และเราได้มันมาทั้งหมด $x$

ข LN R \frac{\partial ฉ}{\partial ข} + \frac{\partial ฉ}{\partial ม.} = 0

$b\ln r\frac{\partial f}{\partial b}+\frac{\partial f}{\partial m}=0.$

ดังนั้นเมทริกซ์

\begin{aligned} (\begin{matrix} \nabla ฉ (x_{1}) \\ ⋮ \\ \nabla ฉ (x_{n}) \end{matrix}) \end{aligned}

$\begin{align} \begin{pmatrix} \nabla f(x_1)\\\\ \vdots\\\\ \nabla f(x_n) \end{pmatrix} \end{align}$

จะไม่อยู่ในตำแหน่งเต็มและนี่คือเหตุผลที่nlsจะให้ข้อความการไล่ระดับสีเอกพจน์

ฉันใช้เวลากว่าหนึ่งสัปดาห์เพื่อหาจุดบกพร่องในรหัสของฉันที่อื่นจนกว่าฉันจะสังเกตเห็นว่าจุดบกพร่องหลักอยู่ในรูปแบบ :)

— mpiktas
แหล่งที่มา

นี่คืออายุที่ฉันรู้ แต่เพิ่งสงสัยว่านี่หมายความว่า nls ไม่สามารถใช้กับรุ่นที่ไม่สามารถระบุตัวตนได้หรือไม่? ตัวอย่างเช่นโครงข่ายประสาทเทียม?

— นับศูนย์

ฉันรู้ว่ามีโอกาสอ้วน แต่คุณสามารถแยกแยะสิ่งนี้ออกจากกลุ่มคนที่คิดถึงความจำน้อยได้หรือไม่? :) อะไรคือวิธีแก้ปัญหาของ OP แล้ว? ยอมแพ้และกลับบ้าน?

— theestestecologist

วิธีการแก้ปัญหา OP คือการใช้พารามิเตอร์หนึ่งแทนของทั้งสองคือแทนใช้ x พารามิเตอร์ superflous เพราะมันผสานเข้าไปในคือm}

b \cdot r^{x - m}

$b\cdot r^{x-m}$

β \cdot r^{x}

$\beta \cdot r^x$

m

$m$

β

$\beta$

β = b \cdot r^{- m}

$\beta = b\cdot r^{-m}$

— mpiktas

@CountZero โดยทั่วไปใช่วิธีการปรับให้เหมาะสมตามปกติจะล้มเหลวหากไม่ได้ระบุพารามิเตอร์ โครงข่ายประสาทเทียมก้าวเท้าเลี่ยงปัญหานี้อย่างไรก็ตามโดยการเพิ่มข้อ จำกัด เพิ่มเติมและใช้เทคนิคที่น่าสนใจอื่น ๆ

— mpiktas

ฉันคิดว่า ? มีคำตอบที่ขาดหายไปหรือไม่

\frac{\partial f}{\partial m} = - b \ln r r^{x - m}

$\frac {\partial f}{\partial m} = -b \ln{r}\ r^{x-m}$

— Wiswit

แน่นอนคำตอบข้างต้นถูกต้องแน่นอน สำหรับสิ่งที่มีค่านอกเหนือไปจากคำอธิบายที่ได้รับหากคุณกำลังพยายามทำสิ่งนี้ในชุดข้อมูลเทียมตามหน้าช่วยเหลือของ nls พบได้ที่: http://stat.ethz.ch/R-manual/R-patched/ ห้องสมุด / สถิติ / html / nls.html

Nls ของ R จะไม่สามารถจัดการกับมันได้ หน้าช่วยเหลือระบุโดยเฉพาะ:

คำเตือน

อย่าใช้ nls กับข้อมูล "ศูนย์เหลือ" ประดิษฐ์

ฟังก์ชั่น nls ใช้เกณฑ์การลู่เข้าแบบสัมพัทธ์ชดเชยที่เปรียบเทียบความไม่ชัดเจนของตัวเลขที่ประมาณพารามิเตอร์ปัจจุบันกับผลรวมที่เหลือของสแควร์ส สิ่งนี้ทำงานได้ดีกับข้อมูลของแบบฟอร์ม

y = f (x, θ) + eps

(พร้อม var (eps)> 0) มันล้มเหลวในการบ่งบอกถึงการบรรจบกับข้อมูลของฟอร์ม

y = f (x, θ)

เนื่องจากเกณฑ์มีจำนวนเท่ากับการเปรียบเทียบสององค์ประกอบของข้อผิดพลาดในการปัดเศษ หากคุณต้องการทดสอบข้อมูลเทียมโปรดเพิ่มองค์ประกอบเสียงดังที่แสดงในตัวอย่างด้านล่าง

ดังนั้นจึงไม่มีเสียงรบกวน == ไม่ดีสำหรับ Rls

— B_D_Dubbya
แหล่งที่มา

ยินดีต้อนรับสู่เว็บไซต์ @B_D_Dubbya ฉันใช้เสรีภาพในการจัดรูปแบบคำตอบของคุณฉันหวังว่าคุณจะไม่รังเกียจ คุณสามารถค้นหาข้อมูลเพิ่มเติมเกี่ยวกับการแก้ไขคำตอบของคุณใน CV ของที่นี่

— gung - Reinstate Monica

ฉันตระหนักถึงปัญหานี้ - ดังนั้นการใช้ฟังก์ชั่น "กระวนกระวายใจ" เพื่อเพิ่มเสียงรบกวน

— steiny