สถิติและข้อมูลขนาดใหญ่

ฉันต้องการฝึกอบรม SVM เพื่อจำแนกกรณีและปัญหา (TRUE / FALSE) ตาม 20 คุณลักษณะ ฉันรู้ว่าคุณลักษณะเหล่านั้นบางอย่างมีความสัมพันธ์สูง ดังนั้นคำถามของฉันคือ: SVM มีความไวต่อความสัมพันธ์หรือความซ้ำซ้อนระหว่างคุณสมบัติหรือไม่ การอ้างอิงใด ๆ

11 svm  multicollinearity  kernel-trick 

ลูกโซ่มาร์คอฟมีเหตุผลสำหรับฉันฉันสามารถใช้มันเพื่อจำลองการเปลี่ยนแปลงสถานะความน่าจะเป็นในปัญหาชีวิตจริง จากนั้น HMM ก็มาถึง HMM ได้รับการกล่าวถึงว่าเหมาะสมกับโมเดลปัญหามากกว่า MCs อย่างไรก็ตามปัญหาที่คนพูดถึงค่อนข้างซับซ้อนที่จะเข้าใจเช่นการพูด ดังนั้นคำถามของฉันคือคุณสามารถอธิบายปัญหา "จริงและเรียบง่าย" สำหรับ HMM ใดที่เหมาะสมกว่า MC และอธิบายว่าทำไม ขอบคุณ

11 hidden-markov-model 

ฉันพล็อตด้วยรหัสต่อไปนี้พร้อมฟังก์ชั่น stl (การสลายตามฤดูกาลของ Time Series by Loess): plot(stl(ts(rnorm(144), frequency=12), s.window="periodic")) มันแสดงให้เห็นถึงการเปลี่ยนแปลงตามฤดูกาลที่สำคัญกับข้อมูลสุ่มที่ใส่ไว้ในโค้ดด้านบน (ฟังก์ชัน rnorm) รูปแบบ Signficant จะเห็นทุกครั้งที่มีการเรียกใช้แม้ว่ารูปแบบจะแตกต่างกัน สองรูปแบบดังกล่าวจะแสดงด้านล่าง: เราจะพึ่งพาฟังก์ชั่น stl ในข้อมูลบางอย่างได้อย่างไรเมื่อมันแสดงการเปลี่ยนแปลงตามฤดูกาล ความแปรปรวนตามฤดูกาลนี้จำเป็นต้องเห็นในมุมมองของพารามิเตอร์อื่นหรือไม่? ขอบคุณสำหรับความเข้าใจของคุณ รหัสถูกนำมาจากหน้านี้: นี่เป็นวิธีที่เหมาะสมในการทดสอบผลกระทบตามฤดูกาลในข้อมูลการนับการฆ่าตัวตายหรือไม่?

11 time-series  seasonality  loess 

เมื่อติดตั้ง autoencoder กับโครงข่ายประสาทเทียมคนส่วนใหญ่จะใช้ sigmoid เป็นฟังก์ชั่นการเปิดใช้งาน เราสามารถใช้ ReLU แทนได้หรือไม่? (เนื่องจาก ReLU ไม่มีขีด จำกัด บนขอบเขตโดยทั่วไปหมายถึงภาพอินพุตสามารถมีพิกเซลใหญ่กว่า 1 ซึ่งแตกต่างจากเกณฑ์ที่ จำกัด สำหรับ autoencoder เมื่อใช้ sigmoid)

11 machine-learning  neural-networks  deep-learning  autoencoders 

ฉันมีชื่อไฟล์ซึ่งมีค่าใน 4 คอลัมน์: ตัวอย่างเช่น: ID, price, click count,rating สิ่งที่ฉันอยากทำคือ "แบ่ง" ดาต้าเบสนี้เป็น N กลุ่มที่แตกต่างกันซึ่งแต่ละกลุ่มจะมีจำนวนแถวเท่ากันโดยมีการกระจายราคาเดียวกันคลิกนับและแอตทริบิวต์การให้คะแนน คำแนะนำใด ๆ ที่ชื่นชมอย่างมากเนื่องจากฉันไม่มีความคิดเพียงเล็กน้อยเกี่ยวกับวิธีการแก้ไขปัญหานี้!

11 r  distributions 

เราจะประเมินความคาดหวังของ CDF ปกติที่ยกกำลังสองในรูปแบบปิดได้อย่างไร? E [ Φ ( a Z)+ b )2] = ∫∞- ∞Φ ( a z+ b )2ϕ ( z)dZE[Φ(aZ+b)2]=∫−∞∞Φ(az+b)2ϕ(z)dz\mathbb{E}\left[\Phi\left(aZ+b\right)^{2}\right] = \int_{-\infty}^{\infty}\Phi\left(az+b\right)^{2}\phi(z)\,dz ที่นี่ ,คือจำนวนจริงและและเป็นฟังก์ชันความหนาแน่นและการกระจายของตัวแปรสุ่มมาตรฐานแบบปกติ ตามลำดับb Z ∼ N ( 0 , 1 ) ϕ ( ⋅ ) Φ ( ⋅ )aaaขbbZ∼ N( 0 , 1 )Z∼N(0,1)Z\sim\mathcal{N}(0,1)ϕ ( ⋅ )ϕ(⋅)\phi(\cdot)Φ …

11 mathematical-statistics 

ฉันมีปัญหาในการเข้าใจประโยคนี้: สถาปัตยกรรมที่เสนอครั้งแรกคล้ายกับ NNLM ของ feedforward โดยที่เลเยอร์ที่ไม่ใช่เชิงเส้นจะถูกลบออกและเลเยอร์การฉายจะใช้ร่วมกันสำหรับทุกคำ (ไม่ใช่แค่เมทริกซ์การฉาย); ดังนั้นคำทั้งหมดจึงถูกฉายในตำแหน่งเดียวกัน (เวกเตอร์ของพวกมันมีค่าเฉลี่ย) ชั้นฉายภาพกับเมทริกซ์การฉายคืออะไร? มันหมายความว่าอย่างไรที่คำทุกคำจะถูกฉายในตำแหน่งเดียวกัน แล้วทำไมเวกเตอร์ของพวกมันจึงมีค่าเฉลี่ย? ประโยคที่เป็นครั้งแรกของส่วนที่ 3.1 ของการประมาณค่าที่มีประสิทธิภาพของการแสดงคำในปริภูมิเวกเตอร์ (Mikolov et al. 2013)

11 machine-learning  neural-networks  natural-language  word-embeddings  language-models 

ฉันกำลังทำงานกับปัญหาการจำแนกเลขฐานสองซึ่งมันสำคัญมากกว่าที่จะไม่มีผลบวกปลอม ข้อผิดพลาดเชิงลบค่อนข้างมากก็โอเค ฉันใช้ตัวแยกประเภทจำนวนมากใน sklearn แต่ฉันคิดว่าไม่มีตัวใดที่สามารถปรับความแม่นยำในการจำคืนได้อย่างชัดเจน (พวกมันให้ผลลัพธ์ที่ดี แต่ไม่สามารถปรับได้) ตัวแยกประเภทใดที่สามารถปรับความแม่นยำ / เรียกคืนได้ มีวิธีใดบ้างที่จะส่งผลต่อความแม่นยำ / การเรียกคืนการแลกเปลี่ยนกับตัวแยกประเภทมาตรฐานเช่น Random Forest หรือ AdaBoost?

11 classification  precision-recall 

ขณะทำงานกับอนุกรมเวลาบางครั้งเราตรวจจับและลบฤดูกาลตามการวิเคราะห์สเปกตรัม ฉันเป็นผู้เริ่มต้นที่แท้จริงในซีรีย์ไทม์และฉันก็สับสนว่าทำไมคนเราต้องการที่จะลบฤดูกาลออกจากซีรีย์ดั้งเดิม ไม่ได้ลบฤดูกาลที่บิดเบือนข้อมูลต้นฉบับหรือไม่ เราได้ประโยชน์อะไรบ้างจากการสร้างอนุกรมเวลาโดยการลบฤดูกาล

11 time-series  seasonality 

ในงานของฉันฉันได้เห็นการทดสอบที่แม่นยำของฟิชเชอร์หลายครั้งและฉันสงสัยว่ามันเหมาะกับข้อมูลของฉันมากแค่ไหน เมื่อดูที่หลายแหล่งฉันเข้าใจวิธีคำนวณสถิติ แต่ไม่เคยเห็นคำอธิบายที่ชัดเจนและเป็นทางการของสมมติฐานว่าง ใครสามารถช่วยอธิบายหรือแนะนำฉันให้อธิบายอย่างเป็นทางการเกี่ยวกับการแจกแจงที่สันนิษฐานได้? จะขอบคุณสำหรับคำอธิบายในแง่ของค่าในตารางฉุกเฉิน

11 hypothesis-testing  chi-squared  multinomial  contingency-tables  fishers-exact 

ฉันอ่านบิตเกี่ยวกับการเพิ่มอัลกอริทึมสำหรับงานการจัดหมวดหมู่และ Adaboost โดยเฉพาะ ฉันเข้าใจว่าจุดประสงค์ของ Adaboost คือการใช้ "ผู้เรียนที่อ่อนแอ" หลายครั้งและผ่านการทำซ้ำในข้อมูลการฝึกอบรมให้ผู้จัดหมวดหมู่เรียนรู้ที่จะทำนายชั้นเรียนที่ตัวแบบทำผิดซ้ำ ๆ อย่างไรก็ตามฉันสงสัยว่าทำไมการอ่านจำนวนมากของฉันจึงได้ใช้ต้นไม้ตัดสินใจเป็นตัวจําแนกอ่อนแอ มีเหตุผลพิเศษสำหรับเรื่องนี้หรือไม่? มีตัวจําแนกบางอย่างที่ทําให้ผู้สมัครดีหรือไม่ดีกับ Adaboost โดยเฉพาะหรือไม่?

11 machine-learning  classification  algorithms  boosting 

ดังนั้นฉันรู้ว่าถ้าเราต้องการหาการแจกแจงความน่าจะเป็นของผลรวมของตัวแปรสุ่มอิสระX+YX+YX + Yเราสามารถคำนวณได้จากการแจกแจงความน่าจะเป็นของXXXและYYYโดยการพูดว่า fX+Y(a)=∫∞x=−∞fX,Y(X=x,Y=a−x) dx=∫∞x=−∞fX(x)fY(a−x) dxfX+Y(a)=∫x=−∞∞fX,Y(X=x,Y=a−x) dx=∫x=−∞∞fX(x)fY(a−x) dxf_{X + Y}(a) = \int_{x = -\infty}^{\infty} f_{X, Y}(X = x, Y = a - x)~dx = \int_{x = -\infty}^{\infty} f_X(x) f_Y(a - x)~dx สังหรณ์ใจนี้ทำให้รู้สึกเพราะถ้าเราต้องการที่จะหาโอกาสที่สองตัวแปรสุ่มรวมไปก็พื้นผลรวมของความน่าจะเป็นของเหตุการณ์ทั้งหมดที่นำไปสู่ข้อสรุปตัวแปรเหล่านั้นไป แต่ฉันจะพิสูจน์ข้อความนี้อย่างเป็นทางการได้อย่างไร?aaaaaa

11 probability 

ในเอกสารนี้เกี่ยวข้องกับคำสั่ง "set seed" คน Stata พูดถึงปัญหาที่เกี่ยวข้องกับการตั้งค่าของเมล็ดเมื่อสร้างตัวเลขสุ่มหลอก สิ่งที่น่าสังเกตคือ"ไม่"คือ "อย่าใช้ลำดับของตัวเลขธรรมชาติเป็นเมล็ดเนื่องจากลำดับนี้มีรูปแบบและเป็นอันตรายต่อการสุ่มหลอก" "do" ที่น่าสนใจเพียงหนึ่งในสี่คือการตั้งค่าเพียงหนึ่งเมล็ดในช่วงชีวิตของคุณแล้วบันทึก "สถานะ" ของกระบวนการที่สร้างขึ้นในตอนท้ายของการทดสอบแต่ละครั้งเพื่อให้การทดสอบครั้งต่อไปจะดำเนินต่อไปที่จุด ที่กระบวนการหยุดทำงาน เห็นได้ชัดว่าคำแนะนำข้างต้นขึ้นอยู่กับจำนวนที่คาดหวังของการสุ่มหลอกจำนวนหนึ่งที่จะสร้างในเวลาชีวิตการวิจัยของเขา บางทีTwers Mersenneอาจครอบคลุมความต้องการตลอดชีวิตของนักวิจัยหลายคน ... ตอนนี้ฉันไม่มีประสบการณ์อย่างมากเกี่ยวกับ PRNG ในทางทฤษฎีหรือในทางปฏิบัติดังนั้นฉันจึงไม่สามารถโต้แย้งเกี่ยวกับคำแนะนำเหล่านี้ได้ - พวกเขาควรได้รับการพิสูจน์ว่าใช้ได้จริงหรือไม่ถูกต้องบนพื้นฐานทางทฤษฎีและสถิติทางคณิตศาสตร์ ดังนั้นคำถามของฉันคือ 1) คุณสามารถช่วยอธิบายหรือยกเลิกคำแนะนำที่ให้ไว้ข้างต้นหรือชี้ไปที่การอ้างอิงที่เกี่ยวข้องกับปัญหาดังกล่าวได้หรือไม่? 2) คุณสามารถให้การอ้างอิงที่เสนอ "แนวปฏิบัติที่ดีที่สุด" ในการตั้งค่าเมล็ดพันธุ์ได้หรือไม่? 3) คุณทำงานเกี่ยวกับเรื่องนี้อย่างไรและทำไม? เป็นตัวอย่างสำหรับคำถาม 3) สมมติว่าสำหรับการศึกษา Monte Carlo, คุณต้องการสร้างตัวอย่างแต่ละขนาดและที่คุณมีระยะเวลาเพียงพอที่มีขนาดใหญ่กว่าล้านคุณจะสร้างตัวเลขสุ่มหลอกทั้งหมดด้วยหนึ่งเมล็ดหรือคุณมีนิสัยเปลี่ยนเมล็ดพูดตัวอย่างต่อ (แต่เป็นเพียงภาพประกอบเท่านั้น - ฉันเชื่อว่าคำตอบทั่วไปมีค่ามากกว่าที่นี่) ม.ม.mnnnPRNGPRNG\text{PRNG}มnม.nmnมnม.nmn เธรดที่เกี่ยวข้อง (แม้ว่าจะเน้นมากขึ้น) คือการ ตั้งค่า seed ก่อนแต่ละบล็อคโค้ดหรือหนึ่งครั้งต่อโปรเจ็กต์? ฉันมีความรู้สึกว่านี่น่าจะเป็นวิกิของชุมชนผู้ดัดแปลงโปรดตัดสินใจด้วยสิ่งนั้น

11 random-generation 

ฉันกำลังอ่านหนังสือเกี่ยวกับการเรียนรู้ของเครื่อง (Data Mining โดย Witten, et al., 2011) และพบกับข้อความนี้: ... ยิ่งไปกว่านั้นสามารถใช้การแจกแจงต่าง ๆ ได้ แม้ว่าการแจกแจงแบบปกติมักจะเป็นตัวเลือกที่ดีสำหรับคุณลักษณะตัวเลข แต่ก็ไม่เหมาะสำหรับคุณลักษณะที่มีค่าต่ำสุดที่กำหนดไว้ล่วงหน้า แต่ไม่มีข้อ จำกัด ด้านบน ในกรณีนี้การกระจาย "บันทึกปกติ" เหมาะสมกว่า แอ็ตทริบิวต์ตัวเลขที่ถูกล้อมรอบด้านบนและด้านล่างสามารถสร้างแบบจำลองโดยการกระจาย"ล็อก - ค่าต่อรอง" ฉันไม่เคยได้ยินเรื่องการกระจายตัวนี้ ฉัน googled สำหรับ "การกระจายอัตราต่อรองแบบล็อกออน" แต่ไม่พบการจับคู่แบบตรงทั้งหมดที่เกี่ยวข้อง มีคนช่วยฉันได้ไหม การกระจายตัวนี้คืออะไรและทำไมมันถึงช่วยให้มีตัวเลขที่ถูกล้อมรอบด้านบนและด้านล่าง? ป.ล. ฉันเป็นวิศวกรซอฟต์แวร์ไม่ใช่นักสถิติ

11 machine-learning  distributions 

ฉันกำลังดำเนินการถดถอยเชิงเส้นหลายครั้งด้านล่างใน R เพื่อทำนายผลตอบแทนของกองทุนที่จัดการ reg <- lm(formula=RET~GRI+SAT+MBA+AGE+TEN, data=rawdata) GRI & MBA เท่านั้นที่นี่เป็นตัวทำนายแบบไบนารี / สองขั้ว ตัวพยากรณ์ที่เหลืออยู่จะต่อเนื่อง ฉันใช้รหัสนี้เพื่อสร้างแปลงที่เหลือสำหรับตัวแปรไบนารี plot(rawdata$GRI, reg$residuals) abline(lm(reg$residuals~rawdata$GRI, data=rawdata), col="red") # regression line (y~x) plot(rawdata$MBA, reg$residuals) abline(lm(reg$residuals~rawdata$MBA, data=rawdata), col="red") # regression line (y~x) คำถามของฉัน: ฉันรู้วิธีตรวจพล็อตที่เหลือสำหรับตัวทำนายอย่างต่อเนื่อง แต่คุณจะทดสอบสมมติฐานของการถดถอยเชิงเส้นเช่น homoscedasticity อย่างไรเมื่อตัวแปรอิสระเป็นไบนารี แปลงที่เหลือ:

11 r  multiple-regression  categorical-data  heteroscedasticity  residuals