การถดถอยของกระบวนการแบบเกาส์ที่เพิ่มขึ้น

ฉันต้องการใช้การถดถอยแบบเกาส์แบบขั้นตอนแบบเพิ่มโดยใช้หน้าต่างแบบเลื่อนผ่านจุดข้อมูลที่มาถึงแบบทีละรายการผ่านสตรีม

ให้แทนมิติของพื้นที่อินพุต ดังนั้นทุกจุดข้อมูลมีองค์ประกอบจำนวน$d$$x_i$$d$

ให้เป็นขนาดของหน้าต่างเลื่อน$n$

ในการคาดคะเนฉันต้องคำนวณค่าผกผันของแกรมเมทริกซ์โดยที่และ k เป็นเคอร์เนลเอ็กซ์เชียลกำลังสอง$K$$K_{ij} = k(x_i, x_j)$

เพื่อหลีกเลี่ยงการเพิ่มขึ้นของ K กับจุดข้อมูลใหม่ทุกจุดฉันคิดว่าฉันสามารถลบจุดข้อมูลที่เก่าที่สุดก่อนที่จะเพิ่มจุดใหม่และด้วยวิธีนี้ฉันจะป้องกันไม่ให้กรัมเติบโตขึ้น ยกตัวอย่างเช่นปล่อยให้โดยที่คือความแปรปรวนร่วมของน้ำหนักและเป็นฟังก์ชันการทำแผนที่โดยปริยายโดยเคอร์เนล exponential กำลังสอง$K = \phi(X)^{T}\Sigma\phi(X)$$\Sigma$$\phi$

ตอนนี้ให้ ] และโดยที่คือคูณคอลัมน์เมทริกซ์$X=[x_{t-n+1}|x_{t-n+2}|...|x_{t}$$X_{new}=[x_{t-n+2}|...|x_{t}|x_{t+1}]$$x$$d$$1$

ฉันจำเป็นต้องใช้วิธีที่มีประสิทธิภาพเพื่อหาสิ่งที่อาจใช้Kสิ่งนี้ดูเหมือนจะไม่ตรงกันข้ามกับปัญหาเมทริกซ์ที่ได้รับการปรับปรุงอันดับ 1 ที่สามารถจัดการกับสูตร Sherman-Morrison ได้อย่างมีประสิทธิภาพ$K_{new}^{-1}$$K$

มีขั้นตอนวิธีแบบเรียกซ้ำหลายครั้งสำหรับการทำเช่นนี้ คุณควรดูที่อัลกอริทึมเคอร์เนลกำลังสองน้อยที่สุดแบบเรียกซ้ำ (KRLS) และอัลกอริทึม GP ออนไลน์ที่เกี่ยวข้อง

• Van Vaerenbergh, S. , Santamaria, I. , Liu, W. , and Principe, JC (2010) คงงบประมาณเคอร์เนล recursive อย่างน้อยสี่เหลี่ยม ในระบบเสียงพูดและการประมวลผลสัญญาณ (ICASSP), การประชุมนานาชาติ IEEE 2010 บน, หน้า 1882-1885 IEEE
• Lazaro-Gredilla, M. , Van Vaerenbergh, S. และ Santamaria, I. (2011) แนวทางแบบเบย์เพื่อติดตามกับเคอร์เนล recursive อย่างน้อยสี่เหลี่ยม ในการเรียนรู้ของเครื่องสำหรับการประมวลผลสัญญาณ (MLSP), 2011 IEEE International Workshop on, หน้า 1-6 IEEE
• Perez-Cruz, F. , Van Vaerenbergh, S. , Murillo-Fuentes, JJ, Lazaro-Gredilla, M. , และ Santamaria, I. (2013) กระบวนการแบบเกาส์สำหรับการประมวลผลสัญญาณแบบไม่เชิงเส้น: ภาพรวมของความก้าวหน้าล่าสุด นิตยสารการประมวลผลสัญญาณ IEEE, 30 (4): 40-50

การประมาณแบบขั้นตอนของแบบจำลอง GP ได้รับการศึกษาเป็นอย่างดีในงานวรรณกรรม แนวคิดพื้นฐานแทนการปรับเงื่อนไขในการสังเกตใหม่ทั้งหมดที่คุณต้องการคาดการณ์กำหนดจุดล่วงหน้าหนึ่งขั้นและทำสิ่งนี้ซ้ำ ๆ วิธีนี้จะใกล้เคียงกับตัวกรองคาลมาน