สถิติและข้อมูลขนาดใหญ่

ในขณะที่ฉันชอบคิดว่าฉันมีความเข้าใจอย่างดีเกี่ยวกับแนวคิดของข้อมูลก่อนหน้านี้ในการวิเคราะห์ทางสถิติแบบเบย์และการตัดสินใจ ฉันมีสถานการณ์สองสามอย่างที่เป็นตัวอย่างการต่อสู้ของฉันและฉันรู้สึกว่าพวกเขาไม่ได้รับการกล่าวถึงอย่างถูกต้องในตำราทางสถิติแบบเบย์ที่ฉันได้อ่าน: สมมติว่าฉันทำแบบสำรวจไม่กี่ปีที่ผ่านมาที่บอกว่า 68% ของผู้คนจะสนใจซื้อผลิตภัณฑ์ ACME ฉันตัดสินใจที่จะเรียกใช้แบบสำรวจอีกครั้ง ในขณะที่ฉันจะใช้ขนาดตัวอย่างเดียวกับครั้งที่แล้ว (พูด, n = 400) ความคิดเห็นของผู้คนมีการเปลี่ยนแปลงตั้งแต่นั้นมา อย่างไรก็ตามหากฉันใช้เป็นรุ่นก่อนหน้ากับการแจกแจงแบบเบต้าซึ่งผู้ตอบแบบสอบถาม 272 จาก 400 คนตอบว่า "ใช่" ฉันจะให้น้ำหนักเท่ากันกับแบบสำรวจที่ฉันวิ่งไปเมื่อสองสามปีก่อน มีกฎง่ายๆที่จะสร้างความไม่แน่นอนที่ยิ่งใหญ่กว่าที่ฉันต้องการก่อนหน้านี้โดยอาศัยอำนาจของข้อมูลที่มีอายุไม่กี่ปี? ฉันเข้าใจว่าฉันสามารถลดค่าก่อนหน้านี้จาก 272/400 เป็น 136/200 แต่สิ่งนี้ให้ความรู้สึกโดยพลการมากและฉันสงสัยว่ามีรูปแบบของการให้เหตุผลบางอย่างหรืออาจเป็นในวรรณกรรม อีกตัวอย่างหนึ่งสมมติว่าเรากำลังจะทำการทดลองทางคลินิก ก่อนที่จะเริ่มการทดลองเราทำการวิจัยระดับทุติยภูมิซึ่งเราสามารถใช้เป็นข้อมูลก่อนหน้านี้รวมถึงความคิดเห็นของผู้เชี่ยวชาญผลจากการทดลองทางคลินิกก่อนหน้านี้ (จากความเกี่ยวข้องที่แตกต่างกัน) ข้อเท็จจริงทางวิทยาศาสตร์พื้นฐานอื่น ๆ (บางอันไม่ใช่เชิงปริมาณโดยธรรมชาติ) ไปสู่การแจกแจงความน่าจะเป็นก่อนหน้า? เป็นกรณีของการตัดสินใจที่จะเลือกครอบครัวและทำให้ครอบครัวกระจายข้อมูลมากพอที่จะทำให้แน่ใจว่าข้อมูลถูกครอบงำหรือมีงานจำนวนมากเพื่อสร้างการเผยแพร่ก่อนหน้าอย่างเป็นธรรมหรือไม่?

9 bayesian  prior  rule-of-thumb  elicitation 

ค่าทั่วไปของ AIC ที่ฉันเห็นสำหรับโมเดลโลจิสติกอยู่ในหลักพันเป็นอย่างน้อยเป็นร้อย เช่นในhttp://www.r-bloggers.com/how-to-perform-a-logistic-regression-in-r/ AIC คือ 727.39 แม้ว่าจะมีการกล่าวเสมอว่าควรใช้ AIC เพื่อเปรียบเทียบแบบจำลองเท่านั้น แต่ฉันต้องการเข้าใจว่าค่า AIC นั้นหมายถึงอะไร ตามสูตร A Iค= - 2 บันทึก( L ) + 2 KAIC=−2log⁡(L)+2KAIC= -2 \log(L)+ 2K โดยที่ L = ความเป็นไปได้สูงสุดจากตัวประมาณ MLE K คือจำนวนพารามิเตอร์ ในตัวอย่างด้านบน K = 8 ดังนั้นด้วยเลขคณิตอย่างง่าย: 727.9 = -2*log(L)+ 2*8 Hence, 711.39 = -2*log(L) Hence, log (L)= …

9 regression  model-selection  aic  accuracy 

ฉันได้รับการดิ้นรนค่อนข้างน้อยด้วยการปรับความเข้าใจที่เข้าใจง่ายของการแจกแจงความน่าจะเป็นกับคุณสมบัติแปลก ๆ ที่ทอพอโลยีเกือบทั้งหมดเกี่ยวกับการแจกแจงความน่าจะเป็นมี ตัวอย่างเช่นลองพิจารณาตัวแปรสุ่มแบบผสม : เลือกแบบเกาส์ที่กึ่งกลางที่ 0 ด้วยความแปรปรวน 1 และด้วยความน่าจะเป็นเพิ่มในผลลัพธ์ ลำดับของตัวแปรสุ่มดังกล่าวจะมาบรรจบกัน (อย่างอ่อนและในรูปแบบทั้งหมด) ไปยังเกาส์เป็นศูนย์กลางที่ 0 กับความแปรปรวน 1 แต่ค่าเฉลี่ยของเสมอและผลต่างมาบรรจบกันที่จะ+ฉันไม่ชอบบอกว่าลำดับนี้มาบรรจบกันเพราะสิ่งนั้นXnXnX_n1n1n\frac{1}{n}nnnXnXnX_n111+ ∞+∞+\infty ฉันใช้เวลาพอสมควรที่จะจำทุกสิ่งที่ฉันลืมเกี่ยวกับทอพอโลยี แต่ในที่สุดฉันก็พบว่าอะไรที่ทำให้ฉันไม่พอใจกับตัวอย่างเช่น: ขีด จำกัด ของลำดับไม่ใช่การแจกแจงแบบเดิม ในตัวอย่างข้างต้นขีด จำกัด คือ "Gaussian ของค่าเฉลี่ย 1 และค่าความแปรปรวนอนันต์" แปลก ในแง่ทอพอโลยีชุดการแจกแจงความน่าจะเป็นยังไม่สมบูรณ์ภายใต้จุดอ่อน (และทีวีและทอพอโลยีอื่น ๆ ทั้งหมดที่ฉันเคยดู) จากนั้นฉันก็พบกับคำถามต่อไปนี้: โทโพโลยีมีอยู่ไหมว่าชุดการกระจายความน่าจะเป็นเสร็จสมบูรณ์หรือไม่ ถ้าไม่การขาดนั้นสะท้อนถึงคุณสมบัติที่น่าสนใจของการแจกแจงความน่าจะเป็นทั้งหมดหรือไม่? หรือมันน่าเบื่อ? หมายเหตุ: ฉันได้เขียนคำถามเกี่ยวกับ "การแจกแจงความน่าจะเป็น" แล้ว สิ่งเหล่านี้ไม่สามารถปิดได้เพราะพวกเขาสามารถรวมเข้ากับ Dirac และสิ่งต่าง ๆ เช่นที่ไม่มี pdf แต่มาตรการยังไม่ปิดภายใต้ทอพอโลยีที่อ่อนแอดังนั้นคำถามของฉันยังคงอยู่ …

9 mathematical-statistics  convergence  central-limit-theorem  topologies 

สมมติลำดับ 1 มิติต่อไปนี้: A, B, C, Z, B, B, #, C, C, C, V, $, W, A, % ... ตัวอักษรA, B, C, ..ที่นี่เป็นตัวแทนของเหตุการณ์ 'ธรรมดา' สัญลักษณ์#, $, %, ...ที่นี่แสดงถึงกิจกรรม 'พิเศษ' การเว้นวรรคชั่วคราวระหว่างเหตุการณ์ทั้งหมดนั้นไม่เหมือนกัน (ทุกอย่างจากไม่กี่วินาทีไปจนถึงหลายวัน) แม้ว่าเหตุการณ์ในอดีตที่ผ่านมามีความเป็นไปได้น้อยที่จะมีอิทธิพลต่อเหตุการณ์ในอนาคต เป็นการดีที่ฉันสามารถคำนึงถึงความล่าช้าเหล่านี้อย่างชัดเจน มีคำสั่งของประเภทเหตุการณ์ปกติ 10,000 ประเภทและลำดับเหตุการณ์พิเศษ 100 ชนิด จำนวนของกิจกรรมทั่วไปก่อนหน้ากิจกรรมพิเศษจะแตกต่างกันไป แต่ไม่น่าจะมากกว่า 100-300 โดยพื้นฐานฉันสนใจที่จะมองหารูปแบบในลำดับเหตุการณ์ปกติที่จบลงด้วยการทำนายเหตุการณ์พิเศษ ตอนนี้คุณสามารถเข้าถึงสิ่งนี้ได้หลายวิธี: การสร้างคุณสมบัติเวกเตอร์ + การจำแนกมาตรฐานการเรียนรู้กฎการเชื่อมโยง HMM ฯลฯ ในกรณีนี้ฉันอยากรู้ว่าเครือข่ายที่ใช้ LSTM …

9 time-series  deep-learning  rare-events  lstm  sequential-pattern-mining 

นี่ไม่ใช่การบ้าน ให้XXXเป็นตัวแปรสุ่ม ถ้าE[X]=k∈RE[X]=k∈R\mathbb{E}[X] = k \in \mathbb{R}และVar[X]=0Var[X]=0\text{Var}[X] = 0มันเป็นไปตามที่Pr(X=k)=1Pr(X=k)=1\Pr\left(X = k\right) = 1หรือไม่? อย่างสังหรณ์ใจดูเหมือนว่าชัดเจน แต่ฉันไม่แน่ใจว่าฉันจะพิสูจน์มันได้อย่างไร ฉันรู้สำหรับข้อเท็จจริงที่ว่าจากสมมติฐานที่มันตามที่E[X2]=k2E[X2]=k2\mathbb{E}[X^2] = k^2 2 ดังนั้น (∫Rx dF(x))2=∫Rx2 dF(x).(∫Rx dF(x))2=∫Rx2 dF(x).\left(\int_{\mathbb{R}}x\text{ d}F(x)\right)^2 = \int_{\mathbb{R}}x^2\text{ d}F(x)\text{.} นี่ดูเหมือนจะไม่นำฉันไปทุกที่ ฉันลอง Var[X]=E[(X−k)2].Var[X]=E[(X−k)2].\text{Var}[X] = \mathbb{E}\left[\left(X - k\right)^2\right]\text{.} ตั้งแต่นี้(X−k)2≥0(X−k)2≥0\left(X - k\right)^2 \geq 0ตามด้วยE[(X−k)2]≥0E[(X−k)2]≥0\mathbb{E}\left[\left(X - k\right)^2\right] \geq 0เช่นกัน แต่ถ้าฉันต้องใช้ความเท่าเทียม E[(X−k)2]=0E[(X−k)2]=0\mathbb{E}\left[\left(X - k\right)^2\right] = …

9 probability 

หลังจากอ่านบทความการเรียนรู้ลึก ๆ แล้วความรู้สึกคร่าวๆคือมีเทคนิคมากมายในการฝึกอบรมเครือข่ายเพื่อให้ได้ประสิทธิภาพที่ดีกว่าปกติ จากมุมมองของแอปพลิเคชันอุตสาหกรรมมันยากมากที่จะพัฒนาเทคนิคนี้ยกเว้นกลุ่มการวิจัยชั้นยอดใน บริษัท เทคโนโลยีขนาดใหญ่เช่น google หรือ facebook แล้ววิธีที่ดีที่สุดในการใช้อัลกอริทึมการเรียนรู้เชิงลึกในทางปฏิบัติคืออะไร ความคิดและข้อเสนอแนะใด ๆ จะได้รับการชื่นชมอย่างมาก

9 machine-learning  deep-learning  deep-belief-networks 

สมมติว่าตัวแปรสุ่มและเป็นอิสระและกระจาย แสดงว่ามี\ การแจกแจงข้อความ {Exp} (1)X1, . . . ,XnX1,...,XnX_1, ... , X_nY1, . . . ,YnY1,...,YnY_1, ..., Y_nยู( 0 , a )ยู(0,a)U(0,a)Zn=nlogmax(Y(n),X(n))min(Y(n),X(n))Zn=nlog⁡max(Y(n),X(n))min(Y(n),X(n))Z_n= n\log\frac{\max(Y_{(n)},X_{(n)})}{\min(Y_{(n)},X_{(n)})}Exp(1)Exp(1)\text{Exp}(1) ฉันได้เริ่มต้นปัญหานี้ด้วยการตั้งค่า{X1,...,Xn,Y1,...Yn}={Z1,...,Zn}{X1,...,Xn,Y1,...Yn}={Z1,...,Zn}\{X_1,...,X_n,Y_1,...Y_n\} = \{Z_1,...,Z_n\}แล้วmax(Yn,Xn)=Z(2n)max(Yn,Xn)=Z(2n)\max(Y_n,X_n)= Z_{(2n)}จะกระจายเป็น(za)2n(za)2n(\frac{z}{a})^{2n}และmin(Yn,Xn)=Z(1)min(Yn,Xn)=Z(1)\min(Y_n,X_n)= Z_{(1)}จะกระจายเป็น1−(1−za)2n1−(1−za)2n1 - (1 - \frac{z}{a})^{2n} ความหนาแน่นสามารถพบได้ง่ายเหมือนกับfZ1(z)=(2n)(1−za)2n−11afZ1(z)=(2n)(1−za)2n−11af_{Z_{1}}(z) = (2n)(1-\frac{z}{a})^{2n-1}\frac{1}{a}และfZ(2n)(z)=(2n)(za)2n−11afZ(2n)(z)=(2n)(za)2n−11af_{Z_{(2n)}}(z) = (2n)(\frac{z}{a})^{2n-1} \frac{1}{a} นี่คือที่ฉันมีเวลายากที่จะรู้ว่าจะไปที่ไหนต่อไปตอนนี้สิ่งเหล่านี้จะถูกคำนวณ ฉันคิดว่ามันต้องทำอะไรบางอย่างกับการเปลี่ยนแปลง แต่ฉันไม่แน่ใจ ...

9 self-study  data-transformation  order-statistics 

พื้นหลัง: ฉันมีตัวอย่างที่ฉันต้องการสร้างแบบจำลองที่มีการกระจายแบบเทลด์อย่างหนัก ฉันมีค่ามากเช่นการแพร่กระจายของการสังเกตมีขนาดค่อนข้างใหญ่ ความคิดของฉันคือทำแบบนี้ด้วยการแจกแจงแบบพาเรโตทั่วไปและฉันก็ทำไปแล้ว ตอนนี้ quantile 0.975 ของข้อมูลเชิงประจักษ์ของฉัน (ประมาณ 100 datapoints) ต่ำกว่า 0.975 quantile ของการแจกแจง Generalized Pareto ที่ฉันพอดีกับข้อมูลของฉัน ตอนนี้ฉันคิดว่ามีวิธีตรวจสอบว่าความแตกต่างนี้เป็นสิ่งที่ต้องกังวลหรือไม่ เรารู้ว่าการแจกแจงเชิงเส้นกำกับของควอนไทล์จะได้รับเป็น: ดังนั้นฉันจึงคิดว่ามันเป็นความคิดที่ดีที่จะสร้างความบันเทิงด้วยความอยากรู้อยากเห็นของฉันโดยพยายามพล็อตแถบความเชื่อมั่น 95% รอบ ๆ 0.975 ควอไทล์ของการแจกแจงแบบพาเรโตทั่วไปด้วยพารามิเตอร์เดียวกับที่ฉันได้รับ อย่างที่คุณเห็นเรากำลังทำงานกับค่าที่สุดยอดบางอย่างที่นี่ และเนื่องจากการแพร่กระจายมีขนาดใหญ่มากฟังก์ชั่นความหนาแน่นมีค่าน้อยมากทำให้วงความเชื่อมั่นไปที่คำสั่งของโดยใช้ความแปรปรวนของสูตรเชิงบรรทัดฐานเชิงเส้นกำกับด้านบน:±1012±1012\pm 10^{12} ± 1.960.975 ∗ 0.025n (ฉจีพีD(Q0.975))2±1.960.975* * * *0.025n(ฉGPD(Q0.975))2\pm 1.96\frac{0.975*0.025}{n({f_{GPD}(q_{0.975})})^2} ดังนั้นนี่ไม่สมเหตุสมผลเลย ฉันมีการแจกจ่ายที่มีผลลัพธ์เชิงบวกเท่านั้นและช่วงความมั่นใจรวมถึงค่าลบ มีบางอย่างเกิดขึ้นที่นี่ ถ้าผมคำนวณวงรอบ 0.5 quantile, วงดนตรีที่จะไม่ว่าขนาดใหญ่ แต่ยังคงขนาดใหญ่ ผมดำเนินการต่อเพื่อดูวิธีการนี้ไปกับการกระจายอีกคือกระจาย จำลองการสังเกตจากการแจกแจงและตรวจสอบว่า quantiles อยู่ในช่วงความเชื่อมั่นหรือไม่ …

9 confidence-interval  quantiles  asymptotics  order-statistics 

มีแหล่งข้อมูลที่รู้จักกันดีมากมายซึ่งให้คำแนะนำเกี่ยวกับการสร้างภาพข้อมูล (เช่น Tufte, Stephen Few และ al , Nathan Yau .) แต่สำหรับสาขาใดที่เราอาจหันไปหาคำตอบของคำถามเช่นนี้ การวิจารณ์แผนภูมิวงกลมเกี่ยวข้องกับการปฏิบัติจริงหรือไม่? คนที่ตีความความยาวสเกลเชิงเส้นได้ดีกว่าความยาวส่วนโค้งมากหรือไม่? ว่าฉันสร้างสรุปดัชนีของชุดของตัวแปรพื้นฐานและอธิบายให้ผู้ชมทั่วไปทราบว่าสหรัฐอเมริกามีค่า 100 ในปี 2010 และ 110 ในปี 2015 คนส่วนใหญ่จะตีความตัวเลขเหล่านี้ได้อย่างไร มีนิสัยทางความคิดตามธรรมชาติที่ฉันควรพิจารณาเมื่อฉันนำเสนอตัวชี้วัดนี้เพื่อยกระดับคำอธิบายที่ดีขึ้นหรือเพื่อป้องกันการตีความที่ผิด? กล่าวอีกนัยหนึ่งว่าเขตข้อมูลทางวิทยาศาสตร์ใดที่สามารถนำเสนอข้อมูลเชิงปริมาณเพื่อค้นหาหลักการที่ชัดเจนและผ่านการทดสอบซึ่งช่วยในการจัดเรียงภาพข้อมูลและคำแนะนำการออกแบบที่มีอยู่มากมายในปัจจุบัน จุดมุ่งหมายไม่ใช่เพื่อหาคำแนะนำความคิดหรือฉันทามติในปัจจุบันเกี่ยวกับวิธีที่ดีที่สุดในการมองเห็นข้อมูลหรือเข้าหาปัญหาการสร้างภาพข้อมูลใหม่ แต่เพื่อเรียนรู้ที่จะมองหาวิทยาศาสตร์ของวิธีการที่คนตีความข้อมูลเชิงปริมาณและ / หรือภาพ (เครดิตพิเศษสำหรับการอ้างอิงวารสารการประชุมและนักวิชาการของสาขา)

9 data-visualization  interpretation  terminology  presentation 

ผมอยากจะได้อย่างมีประสิทธิภาพวาดตัวอย่างจากภายใต้ข้อ จำกัด ที่|| x || _2 = 1x∈Rdx∈Rdx \in \mathbb{R}^dN(μ,Σ)N(μ,Σ)\mathcal{N}(\mu, \Sigma)||x||2=1||x||2=1||x||_2 = 1

9 distributions  normal-distribution  sampling  multivariate-normal  importance-sampling 

ฉันถือว่าการตั้งค่าทั่วไปของการถดถอยนั่นคือฟังก์ชันต่อเนื่องถูกเลือกจากครอบครัวเพื่อให้พอดีกับข้อมูลที่ได้รับ (สามารถเป็นพื้นที่ใด ๆ เช่นลูกบาศก์หรือในความเป็นจริงใด ๆ ที่ทอพอโลยีพื้นที่เหมาะสม) ตามเกณฑ์ธรรมชาติบางอย่างhθ:X→Rnhθ:X→Rnh_\theta:X\to \mathbb R^n{hθ}θ{hθ}θ\{h_\theta\}_\theta(xi,yi)∈X×Rn,i=1,…,k(xi,yi)∈X×Rn,i=1,…,k(x_i,y_i)\in X\times \mathbb R^n, i=1,\ldots, kXXX[0,1]m[0,1]m[0,1]^m มีแอปพลิเคชันของการถดถอยหรือไม่ที่ใครสนใจในรูปร่าง h−1(y)h−1(y)h^{-1}(y) ของ hhh สำหรับบางจุด y∈Rny∈Rny\in \mathbb R^n - เช่นชุดศูนย์ h−1(0)h−1(0)h^{-1}(0)? คำอธิบายความสนใจของฉันมีดังต่อไปนี้: เนื่องจากในหลาย ๆ สถานการณ์มีความไม่แน่นอนเกิดขึ้นกับผู้เรียน hθhθh_\theta (ไม่แม่นยำหรือขาดข้อมูล) หนึ่งอาจต้องการวิเคราะห์ชุดศูนย์ h−1(0)h−1(0)h^{-1}(0)"ทนทาน" กล่าวคือศึกษาคุณลักษณะของชุดศูนย์ซึ่งเป็นเรื่องปกติสำหรับ "การก่อกวน" ทั้งหมดของhhh. ความเข้าใจที่ดีมากได้รับการพัฒนาเมื่อเร็ว ๆ นี้ในสภาพแวดล้อมที่ก่อกวนfff สามารถเป็นแผนที่ต่อเนื่องโดยพลการใกล้กับ hhh ใน ℓ∞ℓ∞\ell_\inftyบรรทัดฐาน หรืออย่างเท่าเทียมกันเป็นหลักfff มีความต่อเนื่องตามอำเภอใจเช่นนั้นสำหรับทุกคน x∈Xx∈Xx\in X เรามี |f(x)−h(x)|≤c(x)|f(x)−h(x)|≤c(x)|f(x)-h(x)|\le c(x) …

9 regression  machine-learning  multiple-regression 

ฉันถูกขอให้เสนอหลักสูตรในการออกแบบการทดลองสำหรับนักศึกษาระดับบัณฑิตศึกษาขั้นสูงด้านพืชไร่และนิเวศวิทยา ฉันไม่เคยเรียนหลักสูตรนี้มาก่อนและรู้สึกประหลาดใจที่พบว่าหลักสูตรนี้อาจมีชื่อว่า "Beyond one-way ANOVA" มากกว่าและมันครอบคลุมเนื้อหาที่ฉันได้เรียนในหลักสูตรระดับบัณฑิตศึกษาขั้นสูงเกี่ยวกับสถิติสำหรับการทดลองทางการเกษตร (เช่น RCBD, ละตินสแควร์, ความคมชัด, การวัดซ้ำและ covariates) บางทีฉันอาจสับสนด้วยชื่อ "การออกแบบการทดลอง" มากกว่า "การวิเคราะห์ผลลัพธ์การทดลอง" ฉันมีความคิดบางอย่างเกี่ยวกับสิ่งที่หลักสูตรดังกล่าวควรมีและขอขอบคุณข้อเสนอแนะเกี่ยวกับวิธีการนี้อาจรวมเข้ากับหลักสูตรสถิติที่ตรงกับความต้องการของนักเรียนในขณะที่นำเสนอทางเลือกที่ทันสมัย ตัวอย่างเช่นฉันไม่สามารถจินตนาการการสอนให้นักเรียนใช้ความแตกต่างเชิงเส้นและสมการกำลังสองกับ ANOVA ที่บังคับให้จัดประเภทของตัวแปรต่อเนื่องเมื่อฉันสามารถสอนพวกเขาเพื่อเปรียบเทียบแบบจำลองการถดถอยกับฟังก์ชันเชิงเส้นและกำลังสอง ในกรณีที่สองพวกเขาจะได้เรียนรู้วิธีจัดการกับปัจจัยที่ไม่ได้กำหนดค่าโดยสิ้นเชิงแบบทดลอง ถ้ามีอะไรฉันอาจเปรียบเทียบทั้งสองแนวทาง ถ้าฉันจะสอนหลักสูตรใน "การออกแบบการทดลอง" ฉันอยากจะเน้นแนวคิดพื้นฐานที่เป็นอิสระจากแบบจำลองทางสถิติที่นำไปใช้และนั่นจะแปลปัญหาอื่น ๆ ให้กว้างขึ้น สิ่งนี้จะช่วยให้นักเรียนมีความยืดหยุ่นในการใช้วิธีการทางสถิติที่ทันสมัย แนวคิดที่เกี่ยวข้องบางอย่างที่ไม่ปรากฏในหลักสูตรที่มีอยู่ ได้แก่ : แบบลำดับชั้นและแบบผสม (ซึ่งฉันเข้าใจ ANOVA และญาติเป็นตัวอย่าง) การเปรียบเทียบแบบจำลอง (เช่นเพื่อแทนที่ความแตกต่าง) ใช้โมเดลเชิงพื้นที่แทนบล็อกเป็น 'ปัจจัย' การจำลองแบบการสุ่มและ IID ความแตกต่างระหว่างการทดสอบสมมติฐานการแฮ็ก p และการจดจำรูปแบบ การวิเคราะห์พลังงานผ่านการจำลอง (เช่นการกู้คืนพารามิเตอร์จากชุดข้อมูลจำลอง) ลงทะเบียนล่วงหน้า การใช้ความรู้เดิมจากการศึกษาที่ตีพิมพ์และหลักการทางวิทยาศาสตร์ มีหลักสูตรที่ใช้แนวทางดังกล่าวหรือไม่? ตำราตำราเล่มใดที่มีจุดสนใจเช่นนี้?

9 references  experiment-design  teaching 

นี่เป็นหนึ่งในปัญหาในBasic Econometricsรุ่นที่ 4 (Q3.11) ของ Gujarati และกล่าวว่าสัมประสิทธิ์สหสัมพันธ์นั้นมีค่าคงที่เมื่อเทียบกับการเปลี่ยนแปลงของต้นกำเนิดและมาตราส่วนนั่นคือโดยที่ , , ,เป็นค่าคงที่โดยพลการcorr ( a X)+ b , c Y+ d) = corr ( X, วาย)corr(aX+b,cY+d)=corr(X,Y)\text{corr}(aX+b, cY+d) = \text{corr}(X,Y)aaaขbbคccddd แต่คำถามหลักของฉันคือต่อไปนี้: Letและจะจับคู่สังเกตและคิดว่าและมีความสัมพันธ์ในเชิงบวกคือ 0 ฉันรู้ว่าจะเป็นลบตามสัญชาตญาณ อย่างไรก็ตามถ้าเราใช้ , มันจะตามมาว่าซึ่งทำ ไม่สมเหตุสมผลXXXYYYXXXYYYcorr ( X), วาย) > 0corr(X,Y)>0\text{corr}(X,Y)>0corr ( - X, วาย)corr(-X,Y)\text{corr}(-X,Y)a = - 1 , b = 0 …

9 self-study  correlation  linear-algebra  mathematical-statistics 

ฉันคิดที่จะแก้ Lasso ผ่านวิธีการ subgradient วานิลลา แต่ฉันได้อ่านคนที่แนะนำให้ใช้การไล่ระดับสีแบบ Proximal บางคนสามารถเน้นว่าทำไม GD GD ใกล้เคียงแทนที่จะใช้วิธีการ subgradient วานิลลาสำหรับ Lasso?

9 machine-learning  optimization  lasso  gradient-descent 

ฉันกำลังพยายามจัดกลุ่มชุดข้อมูลที่แตกต่างกันโดยใช้อัลกอริทึมที่ไม่ได้รับการสำรอง (การจัดกลุ่ม) ปัญหาคือฉันมีคุณสมบัติหลายอย่าง (~ 500) และจำนวนคดีเล็กน้อย (200-300) จนถึงตอนนี้ฉันเคยทำเฉพาะปัญหาการจำแนกซึ่งฉันมักจะมีข้อมูลที่ระบุว่าเป็นชุดฝึกอบรม ที่นั่นฉันใช้เกณฑ์บางอย่าง (เช่น random.forest.importance หรือ information.gain) สำหรับการเลือกคุณสมบัติล่วงหน้าจากนั้นฉันใช้การเลือกไปข้างหน้าตามลำดับสำหรับผู้เรียนที่แตกต่างกันเพื่อค้นหาคุณลักษณะที่เกี่ยวข้อง ตอนนี้ฉันเห็นว่าในกรณีของการเรียนรู้ที่ไม่มีผู้ดูแลฉันไม่มีเกณฑ์สำหรับการเลือกล่วงหน้าและฉันไม่สามารถใช้การเลือกไปข้างหน้าตามลำดับ (อย่างน้อยไม่ได้อยู่ในแพ็คเกจ MLR) ฉันสงสัยว่าฉันสามารถทำการวิเคราะห์องค์ประกอบหลักก่อนที่จะค้นหาคุณลักษณะจำนวนเล็กน้อยเพื่อนำไปใช้กับอัลกอริทึมการจัดกลุ่มของฉันหรือไม่ หรือคุณมีความคิดอื่น ๆ ขอบคุณ แก้ไข: ตกลงดังนั้นหลังจากการวิจัยออนไลน์ฉันสามารถอัปเดตคำถามของฉันได้นิดหน่อย: ก่อนอื่นฉันได้อ่านบางบทความที่ไม่สนับสนุนการใช้ PCA ก่อนอัลกอริทึมการจัดกลุ่มเนื่องจากเหตุผลสองประการ: พีซีเป็นฟังก์ชั่นของฟีเจอร์ทั้งหมดดังนั้นจึงยากที่จะสัมพันธ์กับผลลัพธ์ของชุดข้อมูล inital และทำให้ยากต่อการตีความ ยิ่งไปกว่านั้นถ้าคุณมีปัญหาที่จริงแล้วคุณสมบัติเพียงเล็กน้อยของคุณมีประโยชน์ในการทำคลัสเตอร์ก็ไม่ได้กล่าวว่าคุณสมบัติเหล่านี้ยังอธิบายถึงความแปรปรวนที่ใหญ่ที่สุดในกลุ่มตัวอย่าง (ซึ่งเป็นสิ่งที่พีซีทำ) PCA อยู่นอกโต๊ะ ... ตอนนี้ฉันกลับไปที่แนวคิดเริ่มต้นของฉันเพื่อทำการเลือกการส่งต่อตามลำดับสำหรับการทำคลัสเตอร์ คุณต้องการแนะนำการวัดประสิทธิภาพแบบใด? (ฉันคิดเกี่ยวกับ Dunn-Index) อัลกอริทึมการจัดกลุ่มใดที่จะนำไปสู่กลุ่มที่มีขนาดเท่ากันหรือมากกว่า (สำหรับการจัดกลุ่มแบบลำดับชั้นฉันมักจะได้รับหนึ่งคลัสเตอร์ที่มีค่าผิดปกติเดียวและอีกส่วนที่เหลือทั้งหมด -> ดังนั้นฉันจะต้องการบางสิ่งที่ป้องกันอย่างใดต่อผู้ผิด) หวังว่าพวกคุณจะช่วยฉัน ...

9 r  clustering  feature-selection  unsupervised-learning