สถิติและข้อมูลขนาดใหญ่

ฉันกำลังประสบปัญหาในปัญหาการมอบหมายการเรียนรู้อย่างลึกของ Stanford NLP http://cs224d.stanford.edu/assignment1/assignment1_soln ฉันพยายามที่จะเข้าใจคำตอบของ 3a ที่พวกเขากำลังหาอนุพันธ์ของเวกเตอร์สำหรับคำกลาง สมมติว่าคุณได้คำทำนายเวกเตอร์ตรงกับคำกลางcสำหรับ skipgram และการคาดคะเนคำจะทำกับฟังก์ชัน softmax ที่พบในรุ่น word2vecvcvcv_{c} y^o=p(o|c)=exp(uTovc)∑Ww=1exp(uTwvc)y^o=p(o|c)=exp(uoTvc)∑w=1Wexp(uwTvc)\hat{y}^{o} = p(o | c) = \frac {exp(u_{o}^{T} v_{c})}{\sum_{w=1}^{W}exp(u_{w}^{T} v_{c})} โดยที่wหมายถึงคำ w-th และ (w = 1,..., W) คือเวกเตอร์คำว่า "เอาท์พุท" สำหรับคำทั้งหมดในคำศัพท์ สมมติว่าค่าใช้จ่ายข้ามเอนโทรปีถูกนำไปใช้กับการทำนายนี้และคำoเป็นคำที่คาดหวังuwuwu_w โดยที่คือเมทริกซ์ของเวกเตอร์เอาต์พุตทั้งหมดและให้เป็นเวกเตอร์คอลัมน์ของการคาดคะเนคำ softmax และyเป็นป้ายกำกับที่ร้อนแรงที่สุดซึ่ง ยังเป็นเวกเตอร์คอลัมน์U=[u1,u2,⋅⋅⋅,uW]U=[u1,u2,···,uW]U = [u_1,u_2, · · · ,u_W ]y^y^\hat{y} ที่เอนโทรปีของการข้ามคือCE(y,y^)=−∑iyilog(y^i)CE(y,y^)=−∑iyilog⁡(y^i)CE(y, \hat{y}) = − \sum_iy_i\log(\hat{y}_i) …

9 self-study  neural-networks  backpropagation  word2vec 

ฉันพยายามสร้างแบบจำลองที่ลดลงเพื่อทำนายตัวแปรตามจำนวนมาก (DV) (~ 450) ที่มีความสัมพันธ์สูง ตัวแปรอิสระของฉัน (IV) ก็มีมากมาย (~ 2000) และมีความสัมพันธ์สูง หากฉันใช้ Lasso เพื่อเลือกรูปแบบการลดลงสำหรับแต่ละเอาต์พุตแยกกันฉันไม่รับประกันว่าจะได้รับชุดย่อยของตัวแปรอิสระแบบเดียวกับที่ฉันวนลูปมากกว่าตัวแปรตามแต่ละตัว มีการถดถอยเชิงเส้นหลายตัวแปรที่ใช้เชือกใน R หรือไม่? นี่ไม่ใช่กลุ่มบ่วงบาศ กลุ่ม lasso กลุ่ม IV ฉันต้องการการถดถอยเชิงเส้นหลายตัวแปร (หมายถึง DV เป็นเมทริกซ์ไม่ใช่เวกเตอร์สเกลาร์) ที่ใช้บ่วงบาศ (หมายเหตุ: ตาม NRH ชี้ว่าสิ่งนี้ไม่เป็นความจริงกลุ่ม lasso เป็นคำทั่วไปที่มีกลยุทธ์ที่จัดกลุ่ม IV แต่รวมถึงกลยุทธ์ที่จัดกลุ่มพารามิเตอร์อื่น ๆ เช่น DV) ฉันพบบทความนี้ที่กลายเป็นสิ่งที่เรียกว่าSparse Overlapping Sets Lasso นี่คือรหัสบางอย่างที่ทำให้การถดถอยเชิงเส้นหลายตัวแปร > dim(target) [1] 6060 441 > dim(dictionary) …

9 r  lasso  multivariate-regression 

ฉันเหมาะสมกับโมเดลเอฟเฟกต์ผสมกับคำที่เป็นอิสระในแอปพลิเคชันซึ่งมีแนวโน้มว่าเมื่อเวลาผ่านไปเป็นเส้นโค้งเชิงเส้น อย่างไรก็ตามสิ่งที่ฉันต้องการประเมินคือแนวโน้มของเส้นโค้งเชิงเส้นเกิดขึ้นเนื่องจากความเบี่ยงเบนของแต่ละบุคคลจากเส้นตรงหรือเป็นผลกระทบในระดับกลุ่มที่ทำให้ระดับกลุ่มพอดีปรากฏเป็นเส้นโค้ง ฉันให้ตัวอย่างที่ทำซ้ำได้ซึ่งน่าเบื่อชุดข้อมูลจากแพ็คเกจ JM library(nlme) library(JM) data(pbc2) fitLME1 <- lme(log(serBilir) ~ ns(year, 2), random = ~ year | id, data = pbc2) fitLME2 <- lme(log(serBilir) ~ year, random = ~ ns(year, 2) | id, data = pbc2) โดยพื้นฐานแล้วฉันต้องการทราบว่าหนึ่งในสิ่งเหล่านี้เหมาะกับข้อมูลของฉัน อย่างไรก็ตามการเปรียบเทียบโดยanovaให้คำเตือนเป็นลางไม่ดี: Model df AIC BIC logLik Test L.Ratio p-value fitLME1 1 7 …

9 r  splines  lme4-nlme 

อะไรคือความแตกต่างระหว่างการเรียนรู้ที่หลากหลายและการลดมิติที่ไม่ใช่เชิงเส้น ? ฉันได้เห็นคำสองคำนี้ถูกใช้แทนกันได้ ตัวอย่างเช่น: http://www.cs.cornell.edu/~kilian/research/manifold/manifold.html : การเรียนรู้ Manifold (มักเรียกว่าการลดมิติที่ไม่เป็นเชิงเส้น) แสวงหาเป้าหมายเพื่อฝังข้อมูลที่เดิมอยู่ในพื้นที่มิติสูงในพื้นที่มิติต่ำกว่าในขณะที่รักษาคุณสมบัติของลักษณะ http://www.stat.washington.edu/courses/stat539/spring14/Resources/tutorial_nonlin-dim-red.pdf : ในบทช่วยสอนนี้ 'การเรียนรู้ที่หลากหลาย' และ 'การลดมิติ' ที่ใช้แทนกันได้ https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3337666/ : วิธีการลดขนาดเป็นคลาสของอัลกอริทึมที่ใช้ทางคณิตศาสตร์ที่กำหนดไว้สำหรับการสุ่มตัวอย่างทางสถิติของคลาสหลายมิติเพื่อสร้างกฎการเลือกปฏิบัติที่รับประกันความถูกต้องทางสถิติ อย่างไรก็ตามhttp://scikit-learn.org/stable/modules/manifold.htmlมีความเหมาะสมยิ่งขึ้น: การเรียนรู้ที่หลากหลายเป็นวิธีการลดมิติที่ไม่เป็นเชิงเส้น หนึ่งความแตกต่างครั้งแรกที่ฉันสามารถดูว่าท่อสามารถเป็นเชิงเส้นหนึ่งจึงควรเปรียบเทียบที่ไม่ใช่เชิงเส้นการเรียนรู้ต่าง ๆ นานาและการลดมิติที่ไม่ใช่เชิงเส้น

9 terminology  dimensionality-reduction  manifold-learning 

ฉันเรียนรู้เกี่ยวกับการบูตสแตรปเป็นวิธีการประมาณความแปรปรวนของสถิติตัวอย่าง ฉันมีข้อสงสัยพื้นฐานหนึ่งข้อ ข้อความจากhttp://web.stanford.edu/class/psych252/tutorials/doBootstrapPrimer.pdf : •เราควรลองสังเกตซ้ำอีกครั้ง คำแนะนำที่ดีคือขนาดตัวอย่างดั้งเดิม เราจะสุ่มตัวอย่างการสังเกตได้มากเท่าในตัวอย่างดั้งเดิมได้อย่างไร ถ้าฉันมีขนาดตัวอย่าง 100 และฉันพยายามประเมินความแปรปรวนของค่าเฉลี่ย ฉันจะขอรับตัวอย่าง bootstrap หลายขนาด 100 จากขนาดตัวอย่างทั้งหมด 100 ได้อย่างไร ตัวอย่าง bootstrap เพียง 1 ตัวเท่านั้นที่เป็นไปได้ในกรณีนี้ซึ่งจะเทียบเท่ากับตัวอย่างดั้งเดิมใช่ไหม เห็นได้ชัดว่าฉันเข้าใจอะไรบางอย่างที่ธรรมดามาก ๆ ผมเข้าใจว่าจำนวนของที่เหมาะตัวอย่างบูตอยู่เสมอไม่มีที่สิ้นสุดและเพื่อกำหนดจำนวนตัวอย่างบูตที่จำเป็นสำหรับข้อมูลของฉันฉันต้องทดสอบลู่รักษาความแม่นยำที่จำเป็นของฉันในใจ แต่ฉันสับสนจริง ๆ เกี่ยวกับสิ่งที่ควรเป็นขนาดของตัวอย่างบูตแต่ละอัน

9 sampling  bootstrap  resampling 

ฉันกำลังอ่านบทความนี้และฉันมีปัญหาในการติดตามสมการสำหรับการถดถอยแบบเกาส์กระบวนการ พวกเขาใช้การตั้งค่าและสัญกรณ์ของรัสมุสและวิลเลียมส์ ดังนั้นสารเติมแต่งศูนย์เฉลี่ยนิ่งและกระจายตามปกติเสียงที่มีความแปรปรวนจะสันนิษฐาน:σ2noiseσnoise2\sigma^2_{noise} y=f(x)+ϵ,ϵ∼N(0,σ2noise)y=f(x)+ϵ,ϵ∼N(0,σnoise2)y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise}) GP ก่อนที่มีค่าเฉลี่ยศูนย์จะถือว่าเป็นซึ่งหมายความว่า ,เป็นเวกเตอร์แบบเกาส์ที่มีค่าเฉลี่ย 0 และเมทริกซ์ความแปรปรวนร่วมf(x)f(x)f(\mathbf{x})∀ d∈N∀ d∈N\forall \ d\in Nf={f(x1),…,f(xd)}f={f(x1),…,f(xd)}\mathbf{f}=\{f(\mathbf{x_1}),\dots,f(\mathbf{x_d})\} Σd=⎛⎝⎜⎜k(x1,x1)k(xd,x1)⋱k(x1,xd)k(xd,xd)⎞⎠⎟⎟Σd=(k(x1,x1)k(x1,xd)⋱k(xd,x1)k(xd,xd))\Sigma_d=\pmatrix{k(\mathbf{x_1},\mathbf{x_1})& & k(\mathbf{x_1},\mathbf{x_d}) \\ & \ddots & \\k(\mathbf{x_d},\mathbf{x_1})& & k(\mathbf{x_d},\mathbf{x_d}) } จากนี้ไปเราจะสันนิษฐานว่าเป็นที่รู้จักกันในนามพารามิเตอร์ จากนั้นเห็นได้ชัดว่า Eq. (4) ของกระดาษ: p(f,f∗)=N(0,(Kf,fKf∗,fKf∗,fKf∗,f∗))p(f,f∗)=N(0,(Kf,fKf∗,fKf∗,fKf∗,f∗))p(\mathbf{f},\mathbf{f^*})=N\left(0,\pmatrix { K_{\mathbf{f},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f}} \\K_{\mathbf{f^*},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f^*}}} \right) มาที่นี่ข้อสงสัย: สมการ (5): p(y|f)=N(f,σ2noiseI)p(y|f)=N(f,σnoise2I)p(\mathbf{y}|\mathbf{f})=N\left(\mathbf{f},\sigma^2_{noise}I \right) E[f]=0E[f]=0E[\mathbf{f}]=0แต่ฉันเดา เพราะเมื่อฉันมีเงื่อนไขในแล้ว โดยที่เป็นเวกเตอร์คงที่และมีเพียง …

9 regression  bayesian  gaussian-process 

ฉันมีชุดข้อมูลที่มีรูปแบบต่อไปนี้ มีมะเร็งผลไบนารี / ไม่มีมะเร็ง แพทย์ทุกคนในชุดข้อมูลได้เห็นผู้ป่วยทุกรายและตัดสินอย่างอิสระว่าผู้ป่วยเป็นมะเร็งหรือไม่ จากนั้นแพทย์จะให้ระดับความเชื่อมั่นของพวกเขาจาก 5 ที่การวินิจฉัยของพวกเขาถูกต้องและระดับความมั่นใจจะปรากฏในวงเล็บ ฉันได้ลองหลายวิธีเพื่อให้ได้การคาดการณ์ที่ดีจากชุดข้อมูลนี้ มันใช้งานได้ดีสำหรับฉันโดยเฉลี่ยทั่วทั้งหมอโดยไม่สนใจระดับความมั่นใจ ในตารางด้านบนที่มีการวินิจฉัยที่ถูกต้องสำหรับผู้ป่วย 1 และผู้ป่วย 2 แม้ว่าจะมีการกล่าวอย่างไม่ถูกต้องว่าผู้ป่วย 3 เป็นมะเร็งตั้งแต่ 2-1 คนส่วนใหญ่แพทย์คิดว่าผู้ป่วย 3 เป็นมะเร็ง ฉันยังลองวิธีที่เราสุ่มตัวอย่างหมอสองคนและถ้าพวกเขาไม่เห็นด้วยกันการลงคะแนนการตัดสินใจจะขึ้นอยู่กับว่าหมอคนไหนมีความมั่นใจมากขึ้น วิธีการนี้ประหยัดได้โดยที่เราไม่ต้องปรึกษาแพทย์จำนวนมาก แต่มันก็ช่วยเพิ่มอัตราความผิดพลาดได้อีกเล็กน้อย ฉันลองวิธีการที่เกี่ยวข้องซึ่งเราสุ่มเลือกหมอสองคนและถ้าพวกเขาไม่เห็นด้วยกันเราสุ่มเลือกอีกสองคน หากการวินิจฉัยอย่างใดอย่างหนึ่งข้างหน้าอย่างน้อยสองคะแนนโหวตแล้วเราจะแก้ไขสิ่งที่เป็นประโยชน์ในการวินิจฉัยว่า ถ้าไม่เราจะสุ่มตัวอย่างแพทย์เพิ่มขึ้นเรื่อย ๆ วิธีนี้ค่อนข้างประหยัดและไม่ทำผิดพลาดมากเกินไป ฉันไม่สามารถรู้สึกได้ว่าฉันขาดวิธีการที่ซับซ้อนกว่านี้ในการทำสิ่งต่าง ๆ ตัวอย่างเช่นฉันสงสัยว่ามีวิธีใดบ้างที่ฉันสามารถแบ่งชุดข้อมูลออกเป็นชุดฝึกอบรมและชุดทดสอบและหาวิธีที่เหมาะสมที่สุดในการรวมการวินิจฉัยและดูว่าน้ำหนักเหล่านั้นทำงานบนชุดทดสอบอย่างไร ความเป็นไปได้อย่างหนึ่งคือวิธีการบางอย่างที่ทำให้ฉันมีน้ำหนักตัวลดลงที่ทำผิดพลาดในชุดทดลองและอาจมีการวินิจฉัยที่มีความมั่นใจสูง (ความเชื่อมั่นมีความสัมพันธ์กับความถูกต้องในชุดข้อมูลนี้) ฉันมีชุดข้อมูลหลายชุดที่ตรงกับคำอธิบายทั่วไปนี้ดังนั้นขนาดของกลุ่มตัวอย่างจึงแตกต่างกันไปและชุดข้อมูลทั้งหมดไม่เกี่ยวข้องกับแพทย์ / ผู้ป่วย อย่างไรก็ตามในชุดข้อมูลนี้มีแพทย์ 40 คนที่แต่ละคนเห็นผู้ป่วย 108 คน แก้ไข: นี่คือลิงค์ไปยังน้ำหนักบางส่วนที่เป็นผลมาจากการอ่านคำตอบของ @ jeremy-miles ของฉัน ผลลัพธ์ที่ไม่ได้ถ่วงน้ำหนักอยู่ในคอลัมน์แรก จริงๆแล้วในชุดข้อมูลนี้ค่าความเชื่อมั่นสูงสุดคือ 4 …

9 forecasting  binary-data  psychometrics 

ปิด. คำถามนี้เป็นคำถามปิดหัวข้อ ไม่ยอมรับคำตอบในขณะนี้ ต้องการปรับปรุงคำถามนี้หรือไม่ อัปเดตคำถามดังนั้นจึงเป็นหัวข้อสำหรับการตรวจสอบข้าม ปิดให้บริการในวันที่ 11 เดือนที่ผ่านมา ฉันจำเป็นต้องใช้ฟังก์ชั่นการเปิดใช้งาน Softmax กับ Perceptron หลายเลเยอร์ใน scikit Scikit documantationในหัวข้อของ Neural network models (ภายใต้การดูแล) กล่าวว่า"MLPClassifier รองรับการจำแนกประเภทหลายคลาสโดยใช้ Softmax เป็นฟังก์ชันเอาต์พุต" คำถามคือวิธีการใช้ฟังก์ชั่น? ในโค้ด snip ด้านล่างเมื่อฉันเพิ่ม Softmax ภายใต้พารามิเตอร์การเปิดใช้งานมันไม่ยอมรับ MLPClassifier(activation='Softmax', alpha=1e-05, batch_size='auto', beta_1=0.9, beta_2=0.999, early_stopping=False, epsilon=1e-08, hidden_layer_sizes=(15,), learning_rate='constant', learning_rate_init=0.001, max_iter=200, momentum=0.9, nesterovs_momentum=True, power_t=0.5, random_state=1, shuffle=True, solver='lbfgs', tol=0.0001, validation_fraction=0.1, verbose=False, …

9 neural-networks  scikit-learn  multi-class  softmax 

ฉันกำลังพยายามใช้โมเดล Gaussian Mixture ด้วยการอนุมานแปรปรวนแบบสุ่มต่อจากบทความนี้ นี่คือ pgm ของส่วนผสมแบบเกาส์เซียน ตามที่กระดาษ, อัลกอริทึมเต็มรูปแบบของการอนุมานสุ่มแปรผันคือ: และฉันยังคงสับสนอย่างมากเกี่ยวกับวิธีการขยายสู่ GMM ก่อนอื่นฉันคิดว่าพารามิเตอร์ความแปรปรวนในท้องถิ่นเป็นเพียงและอื่น ๆ เป็นพารามิเตอร์ระดับโลกทั้งหมด โปรดแก้ไขฉันหากฉันผิด ขั้นตอนที่ 6 หมายถึงอะไร ฉันควรทำอย่างไรเพื่อให้บรรลุเป้าหมายนี้QZqzq_zas though Xi is replicated by N times คุณช่วยฉันด้วยเรื่องนี้ได้ไหม ขอบคุณล่วงหน้า!

9 machine-learning  bayesian  clustering  gaussian-mixture  variational-bayes 

สถิติแบบเบย์ยืนยันว่า "สถิติแบบเบย์สามารถประมาณค่าพารามิเตอร์ที่มีความท้าทายมากในการประมาณค่าด้วยวิธีการที่ใช้บ่อย" ข้อความต่อไปนี้นำมาจากเอกสาร SAS นี้บอกว่าเหมือนกันหรือไม่ มันให้การอนุมานที่มีเงื่อนไขกับข้อมูลและเป็นที่แน่นอนโดยไม่ต้องพึ่งพาการประมาณเชิงเส้นกำกับ การอนุมานตัวอย่างขนาดเล็กดำเนินไปในลักษณะเดียวกับที่มีตัวอย่างขนาดใหญ่ การวิเคราะห์แบบเบย์ยังสามารถประมาณฟังก์ชั่นของพารามิเตอร์ได้โดยตรงโดยไม่ต้องใช้วิธี "ปลั๊กอิน" (วิธีการประมาณฟังก์ชั่นโดยการเสียบพารามิเตอร์ที่ประมาณไว้ในฟังก์ชั่น) ฉันเห็นข้อความที่คล้ายกันในหนังสือเรียนบางเล่ม แต่ไม่จำที่ มีใครช่วยอธิบายสิ่งนี้ให้ฉันฟังได้ไหม

9 bayesian  inference  sas  frequentist 

ฉันมีชุดภาพกว้าง: 1760x128 ฉันได้อ่านทั้งแบบฝึกหัดและหนังสือแล้วและส่วนใหญ่ระบุว่าภาพอินพุตควรเป็นสี่เหลี่ยมจัตุรัสและหากไม่เป็นเช่นนั้นภาพเหล่านั้นจะถูกแปลงเป็นรูปสี่เหลี่ยมจัตุรัสเพื่อฝึกฝนในซีเอ็นเอ็น มีวิธีการฝึกอบรม cnn สำหรับภาพที่ไม่ใช่ตารางสี่เหลี่ยมหรือฉันควรมองหาตัวเลือกอื่นเป็นช่องว่างภายใน?

9 conv-neural-network 

หนึ่งในสมมติฐานของการถดถอยเชิงเส้นคือควรมีความแปรปรวนคงที่ในข้อผิดพลาดและว่าช่วงความเชื่อมั่นและการทดสอบสมมติฐานที่เกี่ยวข้องกับรูปแบบขึ้นอยู่กับสมมติฐานนี้ จะเกิดอะไรขึ้นเมื่อเงื่อนไขข้อผิดพลาดไม่มีความแปรปรวนคงที่

9 regression  heteroscedasticity  assumptions  robust-standard-error 

สมมติสัมพันธ์เชิงเส้นต่อไปนี้: โดยที่เป็นตัวแปรที่ขึ้นต่อกันเป็นตัวแปรอิสระเดี่ยวและเป็นคำผิดพลาดYi=β0+β1Xi+uiYi=β0+β1Xi+uiY_i = \beta_0 + \beta_1 X_i + u_iYiYiY_iXผมXiX_iยูผมuiu_i ตาม Stock &amp; Watson (Introduction to Econometrics; บทที่ 4 ) ข้อสมมติฐานกำลังสองน้อยที่สามคือช่วงเวลาที่สี่ของและนั้นไม่ใช่ศูนย์และ จำกัดinfty)XผมXiX_iยูผมuiu_i( 0 &lt; E(X4ผม) &lt; ∞ และ 0 &lt; E(ยู4ผม) &lt; ∞ )(0&lt;E(Xi4)&lt;∞ and 0&lt;E(ui4)&lt;∞)(0<E(X_i^4)<\infty \text{ and } 0<E(u_i^4)<\infty) ฉันมีสามคำถาม: ฉันไม่เข้าใจบทบาทของสมมติฐานนี้อย่างเต็มที่ OLS ลำเอียงและไม่สอดคล้องกันหรือไม่หากสมมติฐานนี้ไม่ถือหรือเราต้องการสมมติฐานนี้ในการอนุมาน การเขียนสต็อคและวัตสัน "สมมติฐานนี้จำกัดความน่าจะเป็นของการวาดภาพการสังเกตด้วยค่าขนาดใหญ่มากของหรือ " อย่างไรก็ตามสัญชาตญาณของฉันก็คือสมมติฐานนี้มาก เรามีปัญหาหรือไม่ถ้าเรามีค่าผิดปกติจำนวนมาก (เช่นช่วงเวลาที่สี่มีขนาดใหญ่) แต่ถ้าค่าเหล่านี้ยังคง …

9 regression  least-squares  assumptions  bias  consistency 

ในองค์ประกอบของการเรียนรู้ทางสถิติฉันพบคำสั่งต่อไปนี้: มีคุณสมบัติหนึ่งประการ: ขั้นตอนการคัดกรองเบื้องต้นที่ไม่มีผู้ดูแลสามารถทำได้ก่อนที่จะปล่อยตัวอย่าง ตัวอย่างเช่นเราสามารถเลือกตัวทำนาย 1,000 รายการที่มีความแปรปรวนสูงสุดในตัวอย่าง 50 ทั้งหมดก่อนเริ่มการตรวจสอบความถูกต้องข้าม เนื่องจากตัวกรองนี้ไม่เกี่ยวข้องกับป้ายกำกับของชั้นเรียนจึงไม่ได้ให้ข้อได้เปรียบที่ไม่เป็นธรรม มันถูกต้องจริงเหรอ? ฉันหมายถึงโดยการกรองคุณลักษณะไว้ก่อนหน้านี้เราไม่ได้เลียนแบบข้อมูลการฝึกอบรม / สภาพแวดล้อมข้อมูลใหม่ - ดังนั้นเรื่องนี้ที่การกรองที่เราดำเนินการอยู่จะไม่ได้รับการดูแลหรือไม่? การทำกระบวนการpreprocessing ทั้งหมดในกระบวนการตรวจสอบข้ามจริง ๆ ดีกว่าหรือไม่ หากไม่ใช่กรณีดังกล่าวหมายความว่าการดำเนินการประมวลผลล่วงหน้าที่ไม่ได้รับการจัดการทั้งหมดสามารถทำได้ล่วงหน้ารวมถึงคุณสมบัติการทำให้เป็นมาตรฐาน / PCA เป็นต้น แต่ด้วยการทำสิ่งเหล่านี้ในชุดฝึกอบรมทั้งหมดเราจะรั่วข้อมูลบางส่วนไปยังชุดฝึกอบรม ฉันเห็นด้วยกับชุดข้อมูลที่ค่อนข้างคงที่ความแตกต่างเหล่านี้น่าจะเล็กมาก - แต่ไม่ได้หมายความว่ามันไม่มีอยู่ใช่ไหม? วิธีที่ถูกต้องในการคิดเกี่ยวกับเรื่องนี้คืออะไร?

9 machine-learning  cross-validation  feature-selection 

ฉันใช้ไลบรารี่ VAR ของ Python ในการสร้างแบบจำลองข้อมูลอนุกรมเวลาการเงินและผลลัพธ์บางอย่างทำให้ฉันงงงวย ฉันรู้ว่าแบบจำลอง VAR ถือว่าข้อมูลอนุกรมเวลาอยู่กับที่ ฉันบังเอิญใส่ราคาล็อกที่ไม่คงที่สำหรับหลักทรัพย์สองชุดที่แตกต่างกันโดยไม่ตั้งใจและน่าประหลาดใจที่ค่าติดตั้งและการคาดการณ์ในตัวอย่างนั้นมีความแม่นยำมาก R2R2R^2 ในการพยากรณ์ในตัวอย่างคือ 99% และค่าเบี่ยงเบนมาตรฐานของซีรีส์ส่วนที่เหลือที่คาดการณ์อยู่ที่ประมาณ 10% ของค่าการคาดการณ์ อย่างไรก็ตามเมื่อฉันแตกต่างราคาบันทึกและปรับให้พอดีกับอนุกรมเวลานั้นกับรุ่น VAR ค่าติดตั้งและการคาดการณ์จะอยู่ไกลจากเครื่องหมายซึ่งอยู่ในระยะที่แคบโดยรอบค่าเฉลี่ย เป็นผลให้ส่วนที่เหลือทำการคาดการณ์งานได้ดีกว่าค่าที่ติดตั้งพร้อมกับส่วนเบี่ยงเบนมาตรฐานของส่วนที่เหลือที่คาดการณ์ 15X ที่ใหญ่กว่าชุดข้อมูลที่ติดตั้งแล้วเป็น. 007R2R2R^2 ค่าสำหรับชุดการคาดการณ์ ฉันตีความผิดกับสิ่งที่ติดอยู่กับรุ่น VAR หรือทำให้เกิดข้อผิดพลาดอื่น ๆ หรือไม่? เหตุใดอนุกรมเวลาที่ไม่หยุดนิ่งจะส่งผลให้การคาดการณ์มีความแม่นยำมากขึ้นกว่าอนุกรมที่อยู่กับที่โดยอ้างอิงจากข้อมูลพื้นฐานเดียวกัน ฉันทำงานได้ดีกับรุ่น ARMA จากคลังหลามเดียวกันและไม่เห็นอะไรเหมือนการสร้างแบบจำลองข้อมูลชุดเดียว

9 time-series  forecasting  r-squared  var  stationarity