สถิติและข้อมูลขนาดใหญ่

ในส่วนที่ 7 ของกระดาษป่าสุ่ม (Breiman, 1999) ผู้เขียนระบุการคาดเดาต่อไปนี้: "Adaboost เป็นป่าสุ่ม" มีใครพิสูจน์หรือหักล้างสิ่งนี้หรือไม่? สิ่งที่ทำเพื่อพิสูจน์หรือหักล้างโพสต์นี้ 1999?

10 machine-learning  random-forest  boosting 

ฉันขอโทษสำหรับการละเมิดคำศัพท์เล็กน้อย ฉันหวังว่ามันจะชัดเจนว่าฉันหมายถึงด้านล่าง พิจารณาตัวแปรสุ่มXทั้งค่าเฉลี่ยและค่ามัธยฐานสามารถลักษณะเกณฑ์ optimality: ค่าเฉลี่ยเป็นตัวเลขที่μที่ช่วยลดE ( ( X - μ ) 2 )และค่ามัธยฐานว่าจำนวนซึ่งช่วยลดE ( | X - μ | ) ในมุมมองนี้ความแตกต่างระหว่างค่าเฉลี่ยและค่ามัธยฐานคือทางเลือกของ "ตัวชี้วัด" สำหรับการประเมินการเบี่ยงเบนสี่เหลี่ยมหรือค่าสัมบูรณ์XXXμμ\muE ((X- μ )2)E((X−μ)2)\mathrm E((X - \mu)^2)E ( | X- μ | )E(|X−μ|)\mathrm E(|X - \mu|) บนมืออื่น ๆ , ค่าเฉลี่ยเป็นตัวเลขที่ที่ (สมมติต่อเนื่องแน่นอน) คือคำนิยามนี้ขึ้นอยู่กับความสามารถในการสั่งซื้อค่าของXและเป็นอิสระจากเท่าใดพวกเขาแตกต่าง เป็นผลมาจากสิ่งนี้คือว่าสำหรับทุกฟังก์ชั่นที่เพิ่มขึ้นอย่างเข้มงวดf(x),medฉันan(f(X))=f(medฉันan(X)), หมายถึงมันเป็น "ทอพอโลยี" ใน ความรู้สึกของความไม่แปรเปลี่ยนภายใต้การเปลี่ยนแปลงหน้าr (X)≤ …

10 mean  median 

ฉันเข้าใจว่าการเตรียมการล่วงหน้านั้นใช้เพื่อหลีกเลี่ยงปัญหาบางอย่างด้วยการฝึกอบรมทั่วไป ถ้าฉันใช้ backpropagation ด้วยพูด autoencoder ฉันรู้ว่าฉันกำลังจะเจอปัญหาเวลาเพราะ backpropagation ช้าและฉันสามารถติดอยู่ใน optima ท้องถิ่นและไม่ได้เรียนรู้คุณสมบัติบางอย่าง สิ่งที่ฉันไม่เข้าใจคือวิธีที่เราฝึกฝนเครือข่ายและสิ่งที่เราทำเพื่อฝึกฝน ตัวอย่างเช่นหากเราได้รับเครื่อง Boltzmann ที่มีการ จำกัด จำนวนมากเราจะจัดการเครือข่ายนี้ได้อย่างไร

10 machine-learning  neural-networks  backpropagation  rbm  pre-training 

ลองนึกภาพสถานการณ์: เรามีบันทึกทางประวัติศาสตร์ (20 ปี) จากเหมืองสามแห่ง การมีเงินอยู่เพิ่มความน่าจะเป็นในการค้นหาทองคำในปีหน้าหรือไม่? วิธีทดสอบคำถามดังกล่าว นี่คือข้อมูลตัวอย่าง: mine_A <- c("silver","rock","gold","gold","gold","gold","gold", "rock","rock","rock","rock","silver","rock","rock", "rock","rock","rock","silver","rock","rock") mine_B <- c("rock","rock","rock","rock","silver","rock","rock", "silver","gold","gold","gold","gold","gold","rock", "silver","rock","rock","rock","rock","rock") mine_C <- c("rock","rock","silver","rock","rock","rock","rock", "rock","silver","rock","rock","rock","rock","silver", "gold","gold","gold","gold","gold","gold") time <- seq(from = 1, to = 20, by = 1)

10 r  time-series  hypothesis-testing  stochastic-processes 

ฉันเป็นนักวิเคราะห์ในสาขาการเงินและการประกันภัยและเมื่อใดก็ตามที่ฉันพยายามปรับให้เข้ากับแบบจำลองความผันผวนฉันได้รับผลลัพธ์ที่น่ากลัว: ส่วนที่เหลือมักจะไม่คงที่ (ในแง่ของหน่วย) และ heteroskedastic รุ่น ARCH / GARCH ทำงานกับข้อมูลประเภทอื่นได้หรือไม่? แก้ไขเมื่อวันที่ 17/4/2558 15:07 เพื่อชี้แจงบางประเด็น

10 time-series  garch  volatility-forecasting  arch 

ฉันมีเมทริกซ์Xที่มีN = 20ตัวอย่างในD = 100มิติมิติ ตอนนี้ฉันต้องการเขียนรหัสการวิเคราะห์องค์ประกอบหลักของตัวเอง (PCA) ใน Matlab ฉันดูถูกXถึงX 0ก่อน20×10020×10020\times100XXXN=20ยังไม่มีข้อความ=20N=20D=100D=100D=100XXXX0X0X_0 ฉันอ่านจากรหัสของใครบางคนซึ่งในสถานการณ์เช่นนี้ที่เรามีมิติมากกว่าการสังเกตเราไม่ได้สลายตัวค่าความแปรปรวนร่วมของอีกต่อไป แต่เราย่อยสลายไอเก็น1X0X0X_0 0 ทำไมมันถูกต้อง?1N−1X0XT01N−1X0X0T\frac{1}{N-1}X_0X_0^T เมทริกซ์ความแปรปรวนร่วมปกติมีขนาดแต่ละองค์ประกอบที่บอกความแปรปรวนร่วมระหว่างสองมิติกับเรา สำหรับฉัน1D×DD×DD\times Dไม่ได้เป็นขนาดที่ถูกต้อง! มันเป็นN×Nเมทริกซ์เพื่อให้สิ่งที่มันจะบอกเรา? ความแปรปรวนระหว่างการสังเกตสองครั้ง!1N−1X0XT01N−1X0X0T\frac{1}{N-1}X_0X_0^TN×NN×NN\times N

10 pca 

ฉันกำลังทำการทดสอบแบบโพสต์เฉพาะกิจในโมเดลผสมผลกระทบเชิงเส้นในR( lme4แพ็คเกจ) ฉันใช้multcompแพคเกจ ( glht()ฟังก์ชั่น) เพื่อทำการทดสอบหลังการทำงาน การออกแบบการทดลองของฉันคือการวัดซ้ำพร้อมเอฟเฟกต์บล็อกแบบสุ่ม รูปแบบที่ระบุไว้เป็น: mymod <- lmer(variable ~ treatment * time + (1|block), data = mydata, REML = TRUE) แทนที่จะแนบข้อมูลของฉันที่นี่ฉันกำลังทำงานของข้อมูลที่เรียกว่าwarpbreaksภายในmultcompแพ็คเกจ data <- warpbreaks warpbreaks$rand <- NA ฉันได้เพิ่มตัวแปรสุ่มพิเศษเพื่อเลียนแบบเอฟเฟกต์ "บล็อก" ของฉัน: warpbreaks$rand <- rep(c("foo", "bar", "bee"), nrow(warpbreaks)/3) นี่เป็นการเลียนแบบโมเดลของฉัน: mod <- lmer(breaks ~ tension * wool + (1|rand), data …

10 mixed-model  post-hoc  lsmeans  lme4-nlme 

ตามที่แนะนำในชื่อ สมมติว่าอย่างต่อเนื่องตัวแปรสุ่ม IID กับไฟล์ PDF ฉพิจารณาเหตุการณ์ที่ ,ดังนั้นคือเมื่อลำดับลดลงเป็นครั้งแรก แล้วค่าของคืออะไร?X1,X2,…,XnX1,X2,…,XnX_1, X_2, \dotsc, X_nfffX1≤X2…≤XN−1>XNX1≤X2…≤XN−1>XNX_1 \leq X_2 \dotsc \leq X_{N-1} > X_NN≥2N≥2N \geq 2NNNE[N]E[N]E[N] ฉันพยายามประเมินก่อน ฉันมี ในทำนองเดียวกันผมได้{8} เมื่อมีขนาดใหญ่การคำนวณจะซับซ้อนมากขึ้นและฉันไม่สามารถหารูปแบบได้ ใครช่วยแนะนำฉันควรดำเนินการต่อP[N=i]P[N=i]P[N = i]P[N=2]P[N=3]=∫∞−∞f(x)F(x)dx=F(x)22|∞−∞=12=∫∞−∞f(x)∫∞xf(y)F(y)dydx=∫∞−∞f(x)1−F(x)22dx=F(x)−F(x)3/32|∞−∞=13P[N=2]=∫−∞∞f(x)F(x)dx=F(x)22|−∞∞=12P[N=3]=∫−∞∞f(x)∫x∞f(y)F(y)dydx=∫−∞∞f(x)1−F(x)22dx=F(x)−F(x)3/32|−∞∞=13\begin{align*} P[N = 2] & = \int_{-\infty}^{\infty} f(x)F(x)dx \\ & = \frac{F(x)^2}{2}\Large|_{-\infty}^{\infty} \\ & = \frac{1}{2} \\ P[N = 3] & = \int_{-\infty}^{\infty} f(x)\int_x^{\infty}f(y)F(y)dydx …

10 probability  self-study  iid 

ฉันเป็นผู้มาใหม่ในปัญหาของการเปรียบเทียบหลาย ๆ ฉันสงสัยว่าจะคำนวณช่วงความมั่นใจสำหรับวิธี Holm-Bonferroni ได้อย่างไร ฉันรู้ว่าสำหรับวิธีการ Bonferroni เราก็สามารถเปลี่ยนระดับความเชื่อมั่นจากเพื่อ{m}1−α1−α1-\alpha1−αm1−αm1-\frac{\alpha}{m} วิธีนี้ใช้ได้กับ Holm-Bonferroni หรือไม่ Edit:Edit:\bf{Edit}:ดูเหมือนว่าวิธี HB ไม่ได้มีขั้นตอนในการแก้ไข conf ระยะห่าง แต่คุณจะแสดงความคิดเห็นในฉันสามารถใช้วิธีหนึ่งสำหรับการแก้ไขค่า p และวิธีอื่นสำหรับการแก้ไขช่วงเวลา?

10 multiple-comparisons  bonferroni 

พิสูจน์หรือระบุตัวอย่าง: ถ้าดังนั้นXnXnX_n →a.s.→a.s.\,{\buildrel a.s. \over \rightarrow}\, XXX(∏ni=1Xi)1/n(∏i=1nXi)1/n(\prod_{i=1}^{n}X_i)^{1/n} →a.s.→a.s.\,{\buildrel a.s. \over \rightarrow}\, XXX ความพยายามของฉัน : เท็จ: สมมติว่าสามารถรับเฉพาะค่าลบและสมมติว่าXXXXn≡XXn≡XX_n \equiv X ∀∀\forall nnn จากนั้นอย่างไรก็ตามสำหรับ ,ไม่ได้เป็นลบอย่างเด็ดขาด แต่จะสลับเป็นค่าลบกับศูนย์และลบ ดังนั้นไม่ได้มาบรรจบเกือบแน่นอนXXnXnX_n →a.s.→a.s.\,{\buildrel a.s. \over \rightarrow}\, XXXnnn(∏ni=1Xi)1/n(∏i=1nXi)1/n(\prod_{i=1}^{n}X_i)^{1/n}(∏ni=1Xi)1/n(∏i=1nXi)1/n(\prod_{i=1}^{n}X_i)^{1/n}XXX นี่เป็นคำตอบที่สมเหตุสมผลหรือไม่? ถ้าไม่ฉันจะปรับปรุงคำตอบของฉันได้อย่างไร

10 self-study  convergence  geometric-mean 

ฉันได้เรียนรู้เมื่อเร็ว ๆ นี้เกี่ยวกับ PCA ที่ยอดเยี่ยมและผมเคยทำตัวอย่างที่ระบุไว้ในscikit เรียนรู้เอกสาร ฉันสนใจที่จะทราบว่าฉันสามารถใช้ PCA กับจุดข้อมูลใหม่เพื่อการจำแนกประเภทได้อย่างไร หลังจากแสดงภาพ PCA ในระนาบ 2 มิติ (แกน x, y) ฉันเห็นว่าฉันสามารถวาดเส้นเพื่อแยกจุดข้อมูลเพื่อว่าด้านหนึ่งจะเป็นประเภทหนึ่งและอีกประเภทหนึ่ง ฉันจะวาด "ขอบเขต" นี้และนำไปใช้กับจุดข้อมูลใหม่ได้อย่างไร

10 classification  pca  scikit-learn 

ขณะนี้ฉันกำลังทำงานกับการวิเคราะห์เมตาดาต้าซึ่งฉันจำเป็นต้องวิเคราะห์ขนาดของเอฟเฟกต์หลายขนาดซ้อนกันภายในกลุ่มตัวอย่าง ฉันเป็นส่วนหนึ่งของวิธีการวิเคราะห์อภิมานสามระดับของ Cheung (2014) เพื่อการวิเคราะห์อภิมานขนาดต่างกันเมื่อเทียบกับกลยุทธ์อื่น ๆ ที่เป็นไปได้ (เช่นการไม่สนใจการพึ่งพาขนาดเฉลี่ยของผลกระทบภายในการศึกษาเลือกขนาดผลหนึ่งขนาดหรือ เปลี่ยนหน่วยของการวิเคราะห์) ขนาดของเอฟเฟ็กต์ขึ้นอยู่กับฉันมีความสัมพันธ์เกี่ยวข้องกับตัวแปรที่ค่อนข้างโดดเด่น (แต่เกี่ยวข้องกับ topically) ดังนั้นค่าเฉลี่ยของพวกมันจึงไม่สมเหตุสมผลทางความคิดและถึงแม้ว่ามันจะเป็นเช่นนั้น อย่างไรก็ตามในเวลาเดียวกันฉันก็สนใจที่จะใช้วิธีของ Stanley & Doucouliagos (2014) ในการจัดการกับอคติการตีพิมพ์ในหลักสูตรการประมาณผลกระทบจากการวิเคราะห์ สรุปอย่างใดอย่างหนึ่งอย่างใดอย่างหนึ่งเหมาะกับรูปแบบการถดถอยเมตาทำนายขนาดผลการศึกษาโดยความแปรปรวนตามลำดับของพวกเขา (การทดสอบผลกระทบที่มีความแม่นยำหรือ PET) หรือข้อผิดพลาดมาตรฐานตามลำดับของพวกเขา ขึ้นอยู่กับความสำคัญของการสกัดกั้นในแบบจำลอง PET หนึ่งอาจใช้การสกัดกั้นจากแบบจำลอง PET (ถ้าการสกัดกั้น PET p > .05) หรือแบบจำลอง PEESE (ถ้าการสกัดกั้น PET p <.05) เป็นสิ่งพิมพ์โดยประมาณ - ขนาดเอฟเฟ็กต์เฉลี่ยที่ปราศจากอคติ อย่างไรก็ตามปัญหาของฉันเกิดจากข้อความที่ตัดตอนมาจาก Stanley & Doucouliagos (2014): ในการจำลองของเรารวมความหลากหลายที่ไม่ได้อธิบายไว้รวมอยู่เสมอ; ดังนั้นโดยทั่วไปแล้วควรใช้ REE [ตัวประมาณผลกระทบแบบสุ่ม] …

10 multilevel-analysis  meta-analysis  meta-regression  publication-bias 

ให้สามตัวแปรyและxซึ่งเป็นบวกอย่างต่อเนื่องและzซึ่งเป็นเด็ดขาดฉันมีสองรูปแบบผู้สมัครที่กำหนดโดย: fit.me <- lmer( y ~ 1 + x + ( 1 + x | factor(z) ) ) และ fit.fe <- lm( y ~ 1 + x ) ฉันหวังว่าจะเปรียบเทียบแบบจำลองเหล่านี้เพื่อพิจารณาว่าแบบจำลองใดเหมาะสมกว่า ดูเหมือนว่าผมว่าในความรู้สึกบางอย่างฝังอยู่ในfit.fe fit.meโดยทั่วไปเมื่อสถานการณ์ทั่วไปนี้มีการทดสอบแบบไคสแควร์สามารถทำได้ ในRเราสามารถทำการทดสอบนี้ด้วยคำสั่งดังต่อไปนี้ anova(fit.fe,fit.me) เมื่อทั้งสองรุ่นมีเอฟเฟกต์แบบสุ่ม (สร้างโดยlmerจากlme4แพ็คเกจ) anova()คำสั่งทำงานได้ดี เนื่องจากโดยทั่วไปแล้วจะแนะนำให้ทดสอบสถิติ Chi-Square ผ่านการจำลองอย่างไรก็ตามเรายังสามารถใช้สถิติในขั้นตอนการจำลองได้ เมื่อทั้งสองรุ่นมีเอฟเฟกต์ถาวรเท่านั้นวิธีการนี้ --- และanova()คำสั่งที่เกี่ยวข้อง--- ทำงานได้ดี แต่เมื่อรุ่นหนึ่งที่มีผลกระทบสุ่มและรูปแบบที่ลดลงมีเพียงผลกระทบคงที่ในขณะที่สถานการณ์ข้างต้นanova()คำสั่งไม่ทำงาน โดยเฉพาะอย่างยิ่งฉันได้รับข้อผิดพลาดต่อไปนี้: > anova(fit.fe, fit.me) Error: $ …

10 r  hypothesis-testing  mixed-model  lme4-nlme 

เมื่อฉันประเมินการเดินแบบสุ่มด้วย AR (1) สัมประสิทธิ์ใกล้เคียงกับ 1 มาก แต่น้อยกว่าเสมอ อะไรคือเหตุผลทางคณิตศาสตร์ที่สัมประสิทธิ์ไม่มากกว่าหนึ่ง?

10 regression  autoregressive  random-walk 

ฉันพยายามเรียกใช้การถดถอยอย่างง่าย แต่พบว่าตัวแปร Y ของฉันเป็นความถี่รายเดือนและตัวแปร x ถูกพบในความถี่รายปี ฉันจะขอบคุณคำแนะนำบางอย่างเกี่ยวกับวิธีการที่เหมาะสมซึ่งอาจใช้สำหรับการถดถอยด้วยความถี่ที่แตกต่างกัน ขอบคุณมาก

10 regression  time-series