สถิติและข้อมูลขนาดใหญ่

ขณะนี้ฉันพยายามเข้าใจหลักการความน่าจะเป็นและฉันก็ไม่เข้าใจเลย ดังนั้นฉันจะเขียนคำถามทั้งหมดเป็นรายการแม้ว่าคำถามเหล่านั้นอาจเป็นคำถามพื้นฐาน วลี "ข้อมูลทั้งหมด" หมายความว่าอะไรในบริบทของหลักการนี้ (เช่นเดียวกับข้อมูลทั้งหมดในตัวอย่างมีอยู่ในฟังก์ชันความน่าจะเป็น) หลักการเชื่อมโยงกับข้อเท็จจริงที่พิสูจน์ได้อย่างใดนั่นคือ ? "ความน่าจะเป็น" ในหลักการเป็นสิ่งเดียวกันเช่นหรือไม่?p(x|y)∝p(y|x)p(x)p(x|y)∝p(y|x)p(x)p(x|y)\propto p(y|x)p(x)p(y|x)p(y|x)p(y|x) ทฤษฎีทางคณิตศาสตร์สามารถ "แย้ง" ได้อย่างไร? ความเข้าใจทางคณิตศาสตร์ของฉัน (อ่อน) คือทฤษฎีบทพิสูจน์แล้วหรือไม่ได้รับการพิสูจน์ หลักการความน่าจะเป็นอยู่ในประเภทใด หลักการความน่าจะเป็นมีความสำคัญอย่างไรสำหรับการอนุมานแบบเบย์ซึ่งอิงจากสูตร?p(x|y)∝p(y|x)p(x)p(x|y)∝p(y|x)p(x)p(x|y)\propto p(y|x)p(x)

17 bayesian  likelihood  likelihood-principle 

ฉันสนใจว่า "ความสัมพันธ์" ของตัวแปรสามตัวเป็นอะไรหรือไม่และถ้าเป็นเช่นนั้นจะเป็นอย่างไร ค่าสัมประสิทธิ์สหสัมพันธ์ของเพียร์สัน E{(X−μX)(Y−μY)}Var(X)Var(Y)−−−−−−−−−−−−√E{(X−μX)(Y−μY)}Var(X)Var(Y)\frac{\mathrm{E}\{(X-\mu_X)(Y-\mu_Y)\}}{\sqrt{\mathrm{Var}(X)\mathrm{Var}(Y)}} ตอนนี้คำถามสำหรับ 3 ตัวแปร: คือ E{(X−μX)(Y−μY)(Z−μZ)}Var(X)Var(Y)Var(Z)−−−−−−−−−−−−−−−−−−√E{(X−μX)(Y−μY)(Z−μZ)}Var(X)Var(Y)Var(Z)\frac{\mathrm{E}\{(X-\mu_X)(Y-\mu_Y)(Z-\mu_Z)\}} {\sqrt{\mathrm{Var}(X)\mathrm{Var}(Y)\mathrm{Var}(Z)}} อะไร? ใน R ดูเหมือนว่าสิ่งที่ตีความได้: > a <- rnorm(100); b <- rnorm(100); c <- rnorm(100) > mean((a-mean(a)) * (b-mean(b)) * (c-mean(c))) / (sd(a) * sd(b) * sd(c)) [1] -0.3476942 ปกติแล้วเราจะดูความสัมพันธ์ระหว่าง 2 ตัวแปรที่กำหนดค่าคงที่ของตัวแปรที่สาม มีคนอธิบายไหม

17 correlation  pearson-r 

สาระสำคัญของคำถามของฉันคือ: Letเป็นหลายตัวแปรตัวแปรสุ่มปกติที่มีค่าเฉลี่ยและความแปรปรวนเมทริกซ์\ให้Z = \ ล็อก (Y)คือZ_i = \ ล็อก (Y_i) ผม \ in \ {1 \ ldots, n \} ฉันจะเปรียบเทียบ AIC ของแบบจำลองที่เหมาะกับการรับรู้ของYกับแบบจำลองที่ตรงกับการรับรู้ของZ ที่สังเกตได้อย่างไร μ Σ Z : = บันทึก( Y ) Z ฉัน = บันทึก( Y ฉัน ) , ฉัน∈ { 1 , ... , n } Y ZY∈RnY∈RnY \in …

17 data-transformation  aic  likelihood 

ฉันสงสัยว่าความแตกต่างระหว่างการแจกแจงแบบปกติแบบหลายตัวแปรมาตรฐานและโคคูล่าแบบเกาส์คืออะไรเพราะเมื่อฉันดูฟังก์ชันความหนาแน่นพวกมันดูเหมือนกันกับฉัน ปัญหาของฉันคือเหตุผลที่ว่าทำไม Copula Copula ถูกนำมาใช้หรือสิ่งที่เป็นประโยชน์ต่อ Copula Gaussian สร้างขึ้นหรือสิ่งที่เหนือกว่าของมันคือเมื่อ Copula Gaussian ไม่มีอะไรเลยนอกจากฟังก์ชั่นมาตรฐานหลายตัวแปรตัวเอง แนวคิดที่อยู่เบื้องหลังการแปลงความน่าจะเป็นรวมในโคคูล่าคืออะไร? ฉันหมายความว่าเรารู้ว่า copula เป็นฟังก์ชันที่มีตัวแปรสม่ำเสมอ ทำไมต้องเป็นชุด? ทำไมไม่ใช้ข้อมูลจริงเช่นการแจกแจงปกติหลายตัวแปรและหาเมทริกซ์สหสัมพันธ์ (โดยปกติเราจะพล็อตสินทรัพย์สองรายการเพื่อพิจารณาความสัมพันธ์ของพวกเขา แต่เมื่อมันเป็นโคคูลาเราจะพล็อตเราซึ่งเป็นความน่าจะเป็นแทน) คำถามอื่น ฉันยังสงสัยว่าเมทริกซ์สหสัมพันธ์จาก MVN อาจไม่ใช่แบบพารามิเตอร์หรือกึ่งพาราเมตริกเหมือนของโคคูล่า (สำหรับพารามิเตอร์โคคูลาสามารถเป็นเอกภาพของเคนดัลล์เป็นต้น) ฉันจะขอบคุณมากสำหรับความช่วยเหลือของคุณตั้งแต่ฉันใหม่ในพื้นที่นี้ (แต่ฉันได้อ่านบทความมากมายและนี่เป็นสิ่งเดียวที่ฉันไม่เข้าใจ)

17 normal-distribution  copula 

ในปัญหาการจัดหมวดหมู่ข้อความเล็ก ๆ ที่ฉันกำลังดู Naive Bayes แสดงผลงานที่คล้ายหรือมากกว่า SVM และฉันสับสนมาก ฉันสงสัยว่าปัจจัยใดเป็นตัวตัดสินชัยชนะของอัลกอริทึมหนึ่งเหนืออีกอัน มีสถานการณ์ที่ไม่มีจุดในการใช้ Naive Bayes เหนือ SVM หรือไม่? ใครบางคนสามารถให้แสงสว่างกับเรื่องนี้ได้หรือไม่?

17 machine-learning  classification  svm  naive-bayes 

ฉันรู้ว่า และนี่คือสิ่งที่ฉันได้รับเมื่อคำนวณความแปรปรวน:β0^=y¯−β1^x¯β0^=y¯−β1^x¯\hat{\beta_0}=\bar{y}-\hat{\beta_1}\bar{x} Var(β0^)=Var(y¯−β1^x¯)=Var((−x¯)β1^+y¯)=Var((−x¯)β1^)+Var(y¯)=(−x¯)2Var(β1^)+0=(x¯)2Var(β1^)+0=σ2(x¯)2∑i=1n(xi−x¯)2Var(β0^)=Var(y¯−β1^x¯)=Var((−x¯)β1^+y¯)=Var((−x¯)β1^)+Var(y¯)=(−x¯)2Var(β1^)+0=(x¯)2Var(β1^)+0=σ2(x¯)2∑i=1n(xi−x¯)2\begin{align*} Var(\hat{\beta_0}) &= Var(\bar{y} - \hat{\beta_1}\bar{x}) \\ &= Var((-\bar{x})\hat{\beta_1}+\bar{y}) \\ &= Var((-\bar{x})\hat{\beta_1})+Var(\bar{y}) \\ &= (-\bar{x})^2 Var(\hat{\beta_1}) + 0 \\ &= (\bar{x})^2 Var(\hat{\beta_1}) + 0 \\ &= \frac{\sigma^2 (\bar{x})^2}{\displaystyle\sum\limits_{i=1}^n (x_i - \bar{x})^2} \end{align*} แต่เท่าที่ฉันได้รับ สูตรสุดท้ายที่ฉันพยายามจะคำนวณคือ Var(β0^)=σ2n−1∑i=1nx2i∑i=1n(xi−x¯)2Var(β0^)=σ2n−1∑i=1nxi2∑i=1n(xi−x¯)2\begin{align*} Var(\hat{\beta_0}) &= \frac{\sigma^2 n^{-1}\displaystyle\sum\limits_{i=1}^n x_i^2}{\displaystyle\sum\limits_{i=1}^n (x_i - \bar{x})^2} \end{align*} ฉันไม่แน่ใจว่าจะได้รับอย่างไรสมมติว่าคณิตศาสตร์ของฉันถูกต้องตรงนั้น .(x¯)2=1n∑i=1nx2i(x¯)2=1n∑i=1nxi2(\bar{x})^2 = \frac{1}{n}\displaystyle\sum\limits_{i=1}^n …

17 regression  self-study 

ฉันจะเข้าใจว่า RBF Kernel ใน SVM ทำอะไรได้บ้าง? ฉันหมายถึงฉันเข้าใจคณิตศาสตร์ แต่มีวิธีรับความรู้สึกเมื่อเคอร์เนลนี้จะมีประโยชน์หรือไม่ ผลลัพธ์จาก kNN เกี่ยวข้องกับ SVM / RBF หรือไม่เนื่องจาก RBF มีระยะห่างของเวกเตอร์ มีวิธีรับความรู้สึกสำหรับเคอร์เนลพหุนามหรือไม่? ฉันรู้มิติที่สูงขึ้น แต่ฉันต้องการได้สัญชาตญาณว่าเมล็ดทำอะไรมากกว่าลองใช้เมล็ดที่เป็นไปได้ทั้งหมดและเลือกประสบความสำเร็จมากที่สุด

17 svm  kernel-trick 

ก่อนที่ฉันจะถามคำถามของฉันขอให้ฉันเล่าข้อมูลบางอย่างเกี่ยวกับสิ่งที่ฉันรู้เกี่ยวกับสถิติเพื่อให้คุณมีความเข้าใจที่ดีขึ้นเกี่ยวกับประเภทของทรัพยากรที่ฉันกำลังมองหา ฉันเป็นนักศึกษาระดับบัณฑิตศึกษาด้านจิตวิทยาและด้วยเหตุนี้ฉันจึงใช้สถิติเกือบทุกวัน ตอนนี้ฉันคุ้นเคยกับเทคนิคที่หลากหลายอย่างกว้างขวางซึ่งส่วนใหญ่เป็นการนำไปใช้ในกรอบการสร้างแบบจำลองสมการโครงสร้างทั่วไป อย่างไรก็ตามการฝึกอบรมของฉันใช้เทคนิคเหล่านี้และการตีความผลลัพธ์ - ฉันไม่มีความรู้พื้นฐานทางคณิตศาสตร์อย่างเป็นทางการของเทคนิคเหล่านี้ อย่างไรก็ตามยิ่งขึ้นฉันต้องอ่านเอกสารจากสถิติที่เหมาะสม ฉันพบว่าเอกสารเหล่านี้มักจะมีความรู้ในการทำงานเกี่ยวกับแนวคิดทางคณิตศาสตร์ที่ฉันไม่รู้จักมากเช่นพีชคณิตเชิงเส้น ดังนั้นฉันจึงเชื่อมั่นว่าหากฉันต้องการใช้เครื่องมือที่ฉันสอนมากกว่าสุ่มสี่สุ่มห้ามันจะมีประโยชน์สำหรับฉันที่จะเรียนรู้พื้นฐานทางคณิตศาสตร์ของสถิติ ดังนั้นฉันมีสองคำถามที่เกี่ยวข้อง: เทคนิคทางคณิตศาสตร์อะไรบ้างที่จะเป็นประโยชน์สำหรับฉันที่จะรู้ว่าถ้าฉันต้องการที่จะแปรงบนพื้นฐานทางคณิตศาสตร์ของสถิติ? ฉันพบพีชคณิตเชิงเส้นค่อนข้างบ่อยและฉันแน่ใจว่าการเรียนรู้เกี่ยวกับทฤษฎีความน่าจะเป็นมีประโยชน์ แต่มีประเด็นทางคณิตศาสตร์อื่น ๆ ที่จะเป็นประโยชน์สำหรับฉันที่จะเรียนรู้หรือไม่? คุณสามารถแนะนำทรัพยากรใด (ออนไลน์หรือในรูปแบบหนังสือ) ให้ฉันในฐานะคนที่ต้องการทราบข้อมูลเพิ่มเติมเกี่ยวกับรากฐานทางคณิตศาสตร์ของสถิติ

17 mathematical-statistics  references 

ในหนังสือของบิชอป "การจำแนกรูปแบบและการเรียนรู้ของเครื่อง" ในหนังสือของบิชอปมันอธิบายถึงเทคนิคสำหรับการทำให้เป็นมาตรฐานในบริบทของเครือข่ายประสาท อย่างไรก็ตามฉันไม่เข้าใจย่อหน้าที่อธิบายว่าในระหว่างกระบวนการฝึกอบรมจำนวนองศาอิสระเพิ่มขึ้นพร้อมกับความซับซ้อนของแบบจำลอง คำพูดที่เกี่ยวข้องมีดังต่อไปนี้: ทางเลือกในการทำให้เป็นมาตรฐานในฐานะวิธีการควบคุมความซับซ้อนที่มีประสิทธิภาพของเครือข่ายคือขั้นตอนการหยุดก่อน การฝึกอบรมรูปแบบเครือข่ายที่ไม่เชิงเส้นนั้นสอดคล้องกับการลดฟังก์ชั่นข้อผิดพลาดซ้ำ ๆ ที่กำหนดตามส่วนของชุดข้อมูลการฝึกอบรม สำหรับอัลกอริธึมการปรับให้เหมาะสมจำนวนมากที่ใช้สำหรับการฝึกอบรมเครือข่ายเช่นการไล่ระดับสีแบบคอนจูเกตข้อผิดพลาดเป็นฟังก์ชันที่ไม่เพิ่มขึ้นของดัชนีการวนซ้ำ อย่างไรก็ตามข้อผิดพลาดที่วัดได้ด้วยความเคารพต่อข้อมูลอิสระโดยทั่วไปเรียกว่าชุดการตรวจสอบความถูกต้องมักจะแสดงการลดลงในตอนแรกตามด้วยการเพิ่มขึ้นเมื่อเครือข่ายเริ่มทำงานมากเกินไป การฝึกอบรมสามารถหยุดได้ที่จุดที่มีข้อผิดพลาดน้อยที่สุดในส่วนของชุดข้อมูลการตรวจสอบความถูกต้องตามที่ระบุในรูปที่ 5.12 เพื่อให้เครือข่ายมีประสิทธิภาพการทำงานที่ดีพฤติกรรมของเครือข่ายในกรณีนี้บางครั้งมีการอธิบายเชิงคุณภาพในแง่ของจำนวนองศาความมีประสิทธิภาพในเครือข่ายซึ่งจำนวนนี้เริ่มจากเล็กและเติบโตในระหว่างกระบวนการฝึกอบรมซึ่งสอดคล้องกับการเพิ่มขึ้นอย่างต่อเนื่องในประสิทธิภาพ ความซับซ้อนของรูปแบบ นอกจากนี้ยังกล่าวว่าจำนวนพารามิเตอร์เพิ่มขึ้นในระหว่างการฝึกอบรม ฉันสันนิษฐานว่าโดย "พารามิเตอร์" มันหมายถึงจำนวนน้ำหนักที่ควบคุมโดยหน่วยที่ซ่อนอยู่ของเครือข่าย บางทีฉันผิดเพราะน้ำหนักถูกป้องกันเพื่อเพิ่มขนาดโดยกระบวนการ normalization แต่พวกเขาไม่เปลี่ยนจำนวน มันอาจหมายถึงกระบวนการค้นหาหน่วยที่ซ่อนอยู่จำนวนมากหรือไม่? เสรีภาพในเครือข่ายประสาทคืออะไร พารามิเตอร์ใดเพิ่มขึ้นในระหว่างการฝึก?

17 machine-learning  neural-networks  regularization  degrees-of-freedom 

เมื่อพิจารณาก่อนหน้านี้ค่า ML (ความถี่ - ความเป็นไปได้สูงสุด) และ MAP (Bayesian - ค่าสูงสุดด้านหลัง) จะตรงกัน อย่างไรก็ตามโดยทั่วไปแล้วฉันกำลังพูดถึงตัวประมาณค่าที่ได้จากการเพิ่มประสิทธิภาพของฟังก์ชันการสูญเสีย กล่าวคือ x^(.)=argminE(L(X−x^(y))|y) (Bayesian) x^(.)=argminE(L(X−x^(y))|y) (Bayesian) \hat x(\,. ) = \text{argmin} \; \mathbb{E} \left( L(X-\hat x(y)) \; | \; y \right) \qquad \; \,\text{ (Bayesian) } x^(.)=argminE(L(x−x^(Y))|x)(Frequentist)x^(.)=argminE(L(x−x^(Y))|x)(Frequentist) \hat x(\,. ) = \text{argmin} \; \mathbb{E} \left( L(x-\hat x(Y)) \; | …

17 bayesian  estimation  loss-functions  frequentist  decision-theory 

ความแปรปรวนแบบถ่วงน้ำหนักที่ไม่เอนเอียงได้ถูกกล่าวถึงแล้วที่นี่และที่อื่น ๆแต่ก็ยังมีความสับสนอย่างน่าประหลาด มีปรากฏเป็นฉันทามติต่อการสูตรที่นำเสนอในลิงค์แรกเช่นเดียวกับในบทความวิกิพีเดีย ดูเหมือนว่าสูตรที่ใช้โดย R, Mathematica และ GSL (แต่ไม่ใช่ MATLAB) อย่างไรก็ตามบทความ Wikipedia ยังมีบรรทัดต่อไปนี้ซึ่งดูเหมือนว่ามีสติที่ดีสำหรับการดำเนินการแปรปรวนน้ำหนัก: ตัวอย่างเช่นหากค่า {2,2,4,5,5,5} ถูกดึงมาจากการแจกแจงแบบเดียวกันเราสามารถถือว่าชุดนี้เป็นตัวอย่างที่ไม่ได้ถ่วงน้ำหนักหรือเราสามารถถือว่าเป็นตัวอย่างที่มีน้ำหนัก {2,4 5} ด้วยน้ำหนักที่สอดคล้องกัน {2,1,3} และเราควรได้ผลลัพธ์เดียวกัน การคำนวณของฉันให้ค่า 2.1667 สำหรับความแปรปรวนของค่าดั้งเดิมและ 2.9545 สำหรับความแปรปรวนแบบถ่วงน้ำหนัก ฉันควรคาดหวังให้พวกเขาเหมือนกันหรือไม่? ทำไมหรือทำไมไม่?

17 variance  weighted-mean  weighted-data 

ฉันต้องการทำการวิเคราะห์ ANCOVA ของข้อมูลที่เกี่ยวข้องกับความหนาแน่นของ epiphytes ของพืช ตอนแรกฉันอยากจะรู้ว่ามีความแตกต่างของความหนาแน่นของพืชระหว่างสองลาดหนึ่ง N และหนึ่ง S แต่ฉันมีข้อมูลอื่น ๆ เช่นระดับความสูงการเปิดกว้างของหลังคาและความสูงของพืชโฮสต์ ฉันรู้ว่าโควาเรียตของฉันจะต้องเป็นเนินเขาทั้งสอง (N และ S) ฉันสร้างแบบจำลองนี้ที่ทำงานใน R และแม้ว่าฉันจะไม่รู้ว่ามันทำงานได้ดีหรือไม่ นอกจากนี้ผมอยากจะรู้ว่าสิ่งที่แตกต่างคือถ้าผมใช้สัญลักษณ์หรือ+* model1 <- aov(density~slope+altitude+canopy+height) summary(model1) model1

17 r  ancova 

สมมติว่าคุณอยู่ในห้องสมุดของแผนกสถิติของคุณและคุณเจอหนังสือที่มีรูปภาพต่อไปนี้ในหน้าแรก คุณอาจจะคิดว่านี่เป็นหนังสือเกี่ยวกับเรื่องการถดถอยเชิงเส้น ภาพที่จะทำให้คุณคิดเกี่ยวกับโมเดลเชิงเส้นผสมเป็นอย่างไร

17 mixed-model 

ใครสามารถบอกฉันได้ว่าการวิเคราะห์การตรวจสอบความถูกต้องเป็นสิ่งที่ให้ผลลัพธ์ มันเป็นเพียงความแม่นยำเฉลี่ยหรือให้รุ่นใด ๆ ที่มีการปรับพารามิเตอร์? เพราะฉันได้ยินบางที่การตรวจสอบความถูกต้องไขว้ใช้สำหรับการปรับพารามิเตอร์

17 cross-validation 

ฉันมีชุดข้อมูลเกี่ยวกับการทดลองทางการเกษตร ตัวแปรตอบกลับของฉันคืออัตราส่วนการตอบสนอง: บันทึก (การรักษา / การควบคุม) ฉันสนใจในสิ่งที่เป็นสื่อกลางความแตกต่างดังนั้นฉันจึงเรียกใช้ RE-meta-regressions (ไม่ถ่วงน้ำหนักเนื่องจากดูเหมือนชัดเจนว่าขนาดของเอฟเฟกต์นั้นไม่มีความสัมพันธ์กับความแปรปรวนของการประมาณ) การศึกษาแต่ละครั้งจะรายงานถึงผลผลิตของข้าว, ชีวมวลหรือทั้งสองอย่าง ฉันไม่สามารถแยกแยะผลผลิตข้าวจากการศึกษาที่รายงานผลผลิตชีวมวลเพียงอย่างเดียวเพราะไม่ใช่พืชที่ศึกษาทั้งหมดมีประโยชน์สำหรับเมล็ดพืช (เช่นอ้อยรวมอยู่ด้วย) แต่พืชแต่ละชนิดที่ผลิตธัญพืชก็มีชีวมวลด้วยเช่นกัน สำหรับเพื่อนร่วมงานที่ขาดหายไปฉันใช้การใส่คำซ้ำซ้ำ (ตามบทตำราของ Andrew Gelman) ดูเหมือนว่าจะให้ผลลัพธ์ที่สมเหตุสมผลและโดยทั่วไปกระบวนการทั้งหมดนั้นใช้งานง่าย โดยทั่วไปฉันคาดการณ์ค่าที่หายไปและใช้ค่าที่คาดการณ์เหล่านั้นเพื่อคาดการณ์ค่าที่หายไปและวนซ้ำแต่ละตัวแปรจนกว่าแต่ละตัวแปรจะมาบรรจบกัน (ในการแจกแจง) มีเหตุผลใดบ้างที่ฉันไม่สามารถใช้กระบวนการเดียวกันเพื่อใส่ข้อมูลผลลัพธ์ที่ขาดหายไป ฉันอาจจะสร้างแบบจำลองการให้ข้อมูลที่ค่อนข้างมีความหมายสำหรับอัตราส่วนการตอบสนองของสิ่งมีชีวิตต่อหน่วยพื้นที่โดยพิจารณาจากอัตราส่วนการตอบสนองของธัญพืชชนิดของพืชและ covariates อื่น ๆ ที่ฉันมี จากนั้นฉันจะเฉลี่ยค่าสัมประสิทธิ์และ VCV ของและเพิ่มการแก้ไข MI ตามการปฏิบัติมาตรฐาน แต่สัมประสิทธิ์เหล่านี้วัดได้อย่างไรเมื่อผลลัพธ์ของตัวเองถูกกำหนดไว้? การตีความสัมประสิทธิ์นั้นแตกต่างจาก MI มาตรฐานสำหรับ covariates หรือไม่? เมื่อคิดถึงเรื่องนี้ฉันไม่สามารถโน้มน้าวตัวเองได้ว่าสิ่งนี้ไม่ได้ผล แต่ฉันก็ไม่แน่ใจ ยินดีต้อนรับความคิดและข้อเสนอแนะสำหรับการอ่านเนื้อหา

17 missing-data  meta-analysis  multiple-imputation  meta-regression