สถิติและข้อมูลขนาดใหญ่

ขณะนี้ฉันกำลังทำงานเพื่อสร้างแบบจำลองการทำนายผลเลขฐานสองบนชุดข้อมูลที่มีตัวแปร ~ 300 และ 800 ข้อสังเกต ฉันได้อ่านมากเกี่ยวกับปัญหาที่เกี่ยวข้องกับการถดถอยแบบขั้นตอนและทำไมไม่ใช้มัน ฉันอ่านเกี่ยวกับการถดถอยของ LASSO และความสามารถในการเลือกคุณสมบัติและประสบความสำเร็จในการนำไปใช้งานด้วยการใช้แพ็คเกจ "caret" และ "glmnet" ฉันสามารถดึงค่าสัมประสิทธิ์ของแบบจำลองด้วยค่าที่ดีที่สุดlambdaและalphaจาก "caret"; อย่างไรก็ตามฉันไม่คุ้นเคยกับวิธีตีความค่าสัมประสิทธิ์ สัมประสิทธิ์ LASSO ตีความในวิธีเดียวกันกับการถดถอยโลจิสติกหรือไม่? มันจะเหมาะสมที่จะใช้คุณสมบัติที่เลือกจาก LASSO ในการถดถอยโลจิสติก? แก้ไข การตีความของค่าสัมประสิทธิ์เช่นเดียวกับค่าสัมประสิทธิ์แทนจากการถดถอย LASSO เป็นอัตราต่อรองสำหรับการเปลี่ยนแปลง 1 หน่วยในสัมประสิทธิ์ในขณะที่ค่าคงที่สัมประสิทธิ์อื่น ๆ ทั้งหมด https://stats.idre.ucla.edu/other/mult-pkg/faq/general/faq-how-do-i-interpret-odds-ratios-in-logistic-regression/

12 multiple-regression  predictive-models  interpretation  regression-coefficients  lasso 

ฉันเริ่มเรียนรู้เกี่ยวกับเครือข่ายประสาทด้วยการสอนเกี่ยวกับโครงข่ายประสาทเทียมและคำแนะนำ dot com โดยเฉพาะอย่างยิ่งในบทที่ 3มีส่วนที่เกี่ยวกับฟังก์ชั่นเอนโทรปีของการข้ามและกำหนดการสูญเสียเอนโทรปีของครอสเป็น: C=−1n∑x∑j(yjlnaLj+(1−yj)ln(1−aLj))C=−1n∑x∑j(yjln⁡ajL+(1−yj)ln⁡(1−ajL))C = -\frac{1}{n} \sum\limits_x \sum\limits_j (y_j \ln a^L_j + (1-y_j) \ln (1 - a^L_j)) อย่างไรก็ตามการอ่านการแนะนำ Tensorflowการสูญเสียเอนโทรปีถูกกำหนดเป็น: C=−1n∑x∑j(yjlnaLj)C=−1n∑x∑j(yjln⁡ajL)C = -\frac{1}{n} \sum\limits_x \sum\limits_j (y_j \ln a^L_j) (เมื่อใช้สัญลักษณ์เดียวกันกับด้านบน) จากนั้นค้นหาไปรอบ ๆ เพื่อค้นหาว่าเกิดอะไรขึ้นฉันพบบันทึกอีกชุดหนึ่ง: ( https://cs231n.github.io/linear-classify/#softmax-classifier ) ซึ่งใช้คำจำกัดความที่แตกต่างกันโดยสิ้นเชิงของการสูญเสียเอนโทรปีของการข้าม เวลาสำหรับตัวจําแนก softmax แทนเครือข่ายประสาท บางคนสามารถอธิบายให้ฉันฟังได้ว่าเกิดอะไรขึ้นที่นี่ ทำไมถึงมีข้อแตกต่าง btw สิ่งที่ผู้คนกำหนดการสูญเสียข้ามเอนโทรปีเป็น? มีเพียงหลักการบางอย่างที่ครอบคลุมอยู่หรือไม่

12 neural-networks  loss-functions  softmax  cross-entropy 

ฉันต้องการใช้ bootstrapping เพื่อประเมินช่วงความมั่นใจสำหรับพารามิเตอร์โดยประมาณจากชุดข้อมูลพาเนลที่มี บริษัท = N 250 บริษัท และ T = 50 เดือน การประมาณค่าพารามิเตอร์มีราคาแพง (ไม่กี่วันของการคำนวณ) เนื่องจากการใช้ตัวกรองคาลมานและการประเมินแบบไม่เชิงเส้นที่ซับซ้อน ดังนั้นการวาด (แทนที่) B (เป็นร้อยหรือมากกว่า) ตัวอย่างของ M = N = 250 บริษัท จากตัวอย่างดั้งเดิมและการประมาณค่าพารามิเตอร์ B ครั้งนั้นเป็นไปไม่ได้ที่คำนวณได้แม้ว่านี่จะเป็นวิธีพื้นฐานสำหรับการบูต ดังนั้นฉันกำลังพิจารณาใช้ M ขนาดเล็กกว่า (เช่น 10) สำหรับตัวอย่าง bootstrap (แทนที่จะเป็นขนาดเต็มของ N = 250) วาดแบบสุ่มด้วยการแทนที่จาก บริษัท ดั้งเดิมจากนั้นปรับขนาดเมทริกซ์ความแปรปรวนร่วมประมาณ bootstrap ของพารามิเตอร์โมเดลด้วย (ในตัวอย่างข้างต้นด้วย 1/25) เพื่อคำนวณเมทริกซ์ความแปรปรวนร่วมสำหรับพารามิเตอร์ตัวแบบที่ประมาณไว้ในตัวอย่างเต็ม1ยังไม่มีข้อความM1NM\frac{1}{\frac{N}{M}} ช่วงความเชื่อมั่นที่ต้องการนั้นสามารถประมาณขึ้นอยู่กับสมมติฐานของภาวะปกติหรือเชิงประจักษ์สำหรับตัวอย่างขนาดเล็กโดยใช้กระบวนการที่คล้ายกัน …

12 confidence-interval  bootstrap  nonlinear-regression  kalman-filter 

เมื่อไม่นานมานี้ฉันได้รับการฟื้นฟูความรู้ที่คาดการณ์ของฉันในขณะที่ทำงานกับการคาดการณ์รายเดือนในที่ทำงานและการอ่านหนังสือของ Rob Hyndman แต่ที่เดียวที่ฉันกำลังดิ้นรนคือเมื่อใช้แบบจำลองการทำให้เรียบชี้แจงแทน มีกฎง่ายๆที่คุณควรใช้วิธีการหนึ่งเทียบกับวิธีอื่นหรือไม่ นอกจากนี้เนื่องจากคุณไม่สามารถใช้ AIC เพื่อเปรียบเทียบทั้งสองคุณเพียงแค่ต้องไปโดย RMSE, MAE เป็นต้น? ขณะนี้ฉันเพิ่งสร้างแต่ละไม่กี่และเปรียบเทียบมาตรการข้อผิดพลาด แต่ฉันไม่แน่ใจว่ามีวิธีที่ดีกว่าที่จะใช้

12 forecasting  arima  exponential-smoothing 

ฉันจะถามคำถามที่เกี่ยวข้องกับคนนี้ ฉันพบตัวอย่างของการเขียนฟังก์ชันการสูญเสียที่กำหนดเองสำหรับ xgboost ที่นี่ : loglossobj <- function(preds, dtrain) { # dtrain is the internal format of the training data # We extract the labels from the training data labels <- getinfo(dtrain, "label") # We compute the 1st and 2nd gradient, as grad and hess preds <- 1/(1 + exp(-preds)) …

12 r  machine-learning  gradient-descent  boosting  loss-functions 

สมมติว่าฉันมีความแปรปรวนเมทริกซ์และYตัวเลือกใดในตัวเลือกเหล่านี้คือเมทริกซ์ความแปรปรวนร่วมเช่นกันYXXXYYY X+YX+YX+Y X2X2X^2 XYXYXY ฉันมีปัญหานิดหน่อยที่จะเข้าใจว่าอะไรคือสิ่งที่จำเป็นสำหรับเมทริกซ์ความแปรปรวนร่วม ฉันคิดว่ามันมีความหมายว่าเช่นถ้าและที่ 1 จริงถือเราควรมีโดยที่และเป็นตัวแปรสุ่มอื่น ๆ อย่างไรก็ตามฉันไม่สามารถมองเห็นสาเหตุที่จะถือเป็นจริงสำหรับหนึ่งในสามตัวเลือก ข้อมูลเชิงลึกใด ๆ จะได้รับการพิจารณาY = cov ( Y 1 , Y 2 ) cov ( X 1 , X 2 ) + cov ( Y 1 , Y 2 ) = cov ( Z 1 , Z 2 ) Z 1 …

12 covariance  covariance-matrix 

แต่ละคนหมายความถึงกันและกันหรือไม่? ถ้าไม่เป็นเช่นนั้น ทำไม / ทำไมไม่ ปัญหานี้ขึ้นมาเพื่อตอบสนองต่อความคิดเห็นในคำตอบที่ผมโพสต์ที่นี่ แม้ว่า google การค้นหาคำที่เกี่ยวข้องไม่ได้ผลิตอะไรที่ดูเหมือนมีประโยชน์เป็นพิเศษ แต่ฉันก็สังเกตเห็นคำตอบในการคำนวณทางคณิตศาสตร์ อย่างไรก็ตามฉันคิดว่าคำถามนี้เหมาะสำหรับไซต์นี้ด้วย แก้ไขหลังจากอ่านความคิดเห็น เทียบกับคำตอบ math.stackexchange ผมหลังจากที่บางสิ่งบางอย่างเพิ่มเติมในเชิงลึกครอบคลุมบางส่วนของปัญหาการจัดการใน@whuber ด้ายความคิดเห็นที่เชื่อมโยง นอกจากนี้ตามที่ฉันเห็นมันคำถาม math.stackexchange แสดงให้เห็นว่าความสอดคล้องไม่ได้หมายความถึงความเป็นกลางทาง asymptotically แต่ไม่ได้อธิบายอะไรมากหากเกิดอะไรขึ้น OP ที่นั่นยังยอมรับว่าความเป็นกลางทางซีมโทติคนั้นไม่ได้บ่งบอกถึงความมั่นคงและดังนั้นผู้ตอบคำถามเพียงคนเดียวไม่ได้อธิบายว่าทำไมถึงเป็นเช่นนี้

12 mathematical-statistics  bias  unbiased-estimator  estimators  consistency 

ฉันได้รับการสอนเสมอว่า CLT ทำงานได้เมื่อคุณสุ่มตัวอย่างซ้ำโดยแต่ละตัวอย่างมีขนาดใหญ่พอ ตัวอย่างเช่นสมมติว่าฉันมีประเทศที่มีประชากร 1,000,000 คน ความเข้าใจของฉันเกี่ยวกับ CLT คือแม้ว่าการแจกแจงความสูงของพวกเขาไม่ปกติถ้าฉันเอาตัวอย่าง 1,000 คนจาก 50 คน (เช่นทำการสำรวจ 1,000 คนจาก 50 คนต่อคน) จากนั้นคำนวณความสูงเฉลี่ยของพวกเขาสำหรับตัวอย่างแต่ละตัวอย่าง หมายถึงจะเป็นเรื่องปกติ อย่างไรก็ตามฉันไม่เคยเห็นกรณีโลกแห่งความจริงที่นักวิจัยได้ทำการสุ่มตัวอย่างซ้ำ แต่พวกเขาใช้ตัวอย่างใหญ่หนึ่งตัวอย่าง (เช่นสำรวจประชากร 50,000 คนเกี่ยวกับความสูงของพวกเขา) และทำงานจากนั้น เพราะเหตุใดหนังสือสถิติสอนการสุ่มตัวอย่างซ้ำ ๆ และในนักวิจัยในโลกแห่งความเป็นจริงจึงทำการสุ่มตัวอย่างเพียงครั้งเดียว แก้ไข: กรณีโลกแห่งความจริงที่ฉันกำลังคิดจะทำสถิติในชุดข้อมูลของผู้ใช้ twitter 50,000 คน ชุดข้อมูลนั้นไม่ได้เป็นตัวอย่างซ้ำ ๆ แต่เป็นเพียงตัวอย่างใหญ่หนึ่ง 50,000

12 sampling  central-limit-theorem 

ฉันอยากรู้เกี่ยวกับระบบการตั้งชื่อ: ทำไมเบ้ซ้ายเรียกว่าเบ้เชิงลบและเบ้ขวาเรียกว่าเบ้บวก

12 terminology  skewness 

กำลังพยายามคำนวณจำนวนการเข้าชมจากข้อมูลประชากรและบริการ ข้อมูลเบ้มาก histograms: แปลง qq (ซ้ายคือบันทึก): m <- lm(d$Visits~d$Age+d$Gender+city+service) m <- lm(log(d$Visits)~d$Age+d$Gender+city+service) cityและserviceเป็นตัวแปรปัจจัย ฉันได้ค่า p ต่ำ *** สำหรับตัวแปรทั้งหมด แต่ฉันยังได้ค่า r-squared ต่ำที่ 0.05 ด้วย ฉันควรทำอย่างไรดี? รุ่นอื่นจะทำงานเช่นเลขชี้กำลังหรืออะไรบางอย่าง

12 regression  multiple-regression  predictive-models  exponential  qq-plot 

ขณะนี้มีวิธีการต่าง ๆ ในการทำการวิเคราะห์อภิมานเครือข่ายหรือเปรียบเทียบการรักษาแบบผสม รายการที่ใช้บ่อยที่สุดและเข้าถึงได้อาจเป็นสิ่งต่อไปนี้: ในกรอบ Bayesian : วิธีการปฏิสัมพันธ์ออกแบบโดยการรักษาใน WinBUGS (เช่นJackson et al ); การสร้างแบบจำลอง Bayesian แบบแขนตามลำดับชั้นใน WinBUGS (เช่นZhao et al ); การแยกแบบลำดับขั้น (เช่นการแยกโหนด) การสร้างแบบจำลองแบบเบย์โดยใช้ WinBUGS หรือผ่านgemtcและrjagsใน R (เช่นDias et alหรือvan Valkenhoef et al ); การประมาณ Laplace ซ้อนกัน (INLA) ใน WinBUGS (เช่นSauter et al ); ในกรอบบ่อย : การวิเคราะห์ความแปรปรวนแบบแฟคทอเรียลใน SAS (เช่นPiepho ); …

12 r  stata  sas  winbugs  network-meta-analysis 

วิธีเข้ารหัสวันที่และเวลาของเหตุการณ์สำหรับเครือข่ายประสาทเทียม ฉันไม่มีอนุกรมเวลาต่อเนื่อง แต่มีบางเหตุการณ์ที่มีวันที่และเวลาและฉันวิเคราะห์ความสนใจบางอย่าง ความสนใจนี้แตกต่างกันระหว่างเช้าและเย็นและแตกต่างระหว่างวันธรรมดาและระหว่างฤดูร้อนและฤดูหนาวและก่อนคริสต์มาสและอีสเตอร์เป็นต้น และเหตุการณ์ต่าง ๆ ก็มีการกระจายตัวที่ไม่สม่ำเสมอตลอดเวลา (มากกว่าในตอนกลางคืนมากกว่ากลางคืนในบางประเภทในช่วงสัปดาห์ ฉันพยายามเข้ารหัสเป็นจำนวนสัปดาห์ในปีเช่นวันธรรมดา 1-7 และชั่วโมงของวัน แต่การเล่นโดยใช้ตัวกระจายสัญญาณอัตโนมัติทำให้ฉันรู้สึกว่าข้อมูลของฉันไม่สมเหตุสมผลกับเครือข่ายประสาทเทียมมันไม่สามารถทำซ้ำสิ่งใดก็ได้ที่อยู่ใกล้กับอินพุตแม้จะมีเลเยอร์ที่ซ่อนอยู่ขนาดใหญ่ ไม่ว่าจะเป็น categorial 0-1 หรือเป็นค่าปกติ แต่การค้นหาการเข้ารหัสเวลาสำหรับเครือข่ายประสาทส่วนใหญ่จะให้ข้อมูลเกี่ยวกับอนุกรมเวลาดังนั้นฉันจึงปิดตาเล็กน้อย แต่มองหาต้นไม้ แน่นอนฉันสามารถดูข้อมูลและจัดหมวดหมู่คร่าวๆได้ไม่มากก็น้อย แต่แนวคิดของการเรียนรู้อย่างลึกซึ้งดูเหมือนว่าจะแยกการสกัดคุณลักษณะด้วยมือที่สร้างขึ้นด้วยมือทั้งหมด และการจัดหมวดหมู่จะแทรกการกระโดดครั้งใหญ่ในตัวแปรอินพุตต่อเนื่องตามธรรมชาติ "การเข้ารหัสตามธรรมชาติ" ในสมองของฉันเป็นเหมือนสมาชิกฟัซซี่ในบางประเภทเช่น "กลางคืน", "เช้า", "วันธรรมดา" เป็นต้น เพื่อทำให้สิ่งทั้งหมดน่าสนใจยิ่งขึ้นนอกจากนี้ตัวแปรที่ขึ้นอยู่กับยังประกอบด้วยข้อมูลวันที่ / เวลา แต่นั่นเป็นคำถามที่แตกต่าง แก้ไข: อย่างใดที่เกี่ยวข้องกับชนิดของข้อมูลเป็นคำถามล่าสุดเช่น การทดสอบทางสถิติใดที่เหมาะสมกับชุดข้อมูลเวลานี้

12 neural-networks  deep-learning 

นั่นคือการวิเคราะห์ตามลำดับ (คุณไม่ทราบล่วงหน้าว่าจะเก็บรวบรวมข้อมูลจำนวนเท่าใด) ด้วยวิธีการที่ต้องทำบ่อยๆต้องใช้ความระมัดระวังเป็นพิเศษ คุณไม่สามารถรวบรวมข้อมูลได้จนกว่าค่า p จะมีขนาดเล็กเพียงพอหรือช่วงความเชื่อมั่นนั้นสั้นพอ แต่เมื่อทำการวิเคราะห์แบบเบย์นี่เป็นข้อกังวลหรือไม่? เราสามารถทำสิ่งต่าง ๆ ได้อย่างอิสระเช่นรวบรวมข้อมูลจนกว่าช่วงเวลาที่เชื่อถือได้จะมีขนาดเล็กเพียงพอหรือไม่?

12 bayesian  inference  philosophical  sequential-analysis 

สมมติว่าฉันมีการติดตามอนุกรมเวลาที่ไม่เป็นระยะ เห็นได้ชัดว่าแนวโน้มกำลังลดลงและฉันต้องการพิสูจน์ด้วยการทดสอบบางอย่าง (พร้อมค่า p ) ฉันไม่สามารถใช้การถดถอยเชิงเส้นแบบคลาสสิกได้เนื่องจากความสัมพันธ์เชิงสัมพันธ์ระหว่างค่าอัตโนมัติ library(forecast) my.ts <- ts(c(10,11,11.5,10,10.1,9,11,10,8,9,9, 6,5,5,4,3,3,2,1,2,4,4,2,1,1,0.5,1), start = 1, end = 27,frequency = 1) plot(my.ts, col = "black", type = "p", pch = 20, cex = 1.2, ylim = c(0,13)) # line of moving averages lines(ma(my.ts,3),col="red", lty = 2, lwd = 2) ตัวเลือกของฉันคืออะไร?

12 r  time-series 

การอ่านลึกลงไปด้วยความเชื่อมั่นฉันได้พบกับเลเยอร์DepthConcatซึ่งเป็นหน่วยการสร้างของโมดูลการลงทะเบียนที่เสนอซึ่งรวมเอาท์พุทของเทนเซอร์หลายขนาดที่แตกต่างกัน ผู้เขียนเรียกสิ่งนี้ว่า "Concatenation Filter" ดูเหมือนจะมีการนำไปใช้งานสำหรับ Torchแต่ฉันไม่เข้าใจจริงๆ บางคนสามารถอธิบายด้วยคำพูดง่าย ๆ ได้ไหม

12 neural-networks  torch  conv-neural-network