คำถามติดแท็ก inference

ความเข้าใจของฉันคือเมื่อใช้วิธีการแบบเบย์เพื่อประเมินค่าพารามิเตอร์: การกระจายหลังคือการรวมกันของการกระจายก่อนหน้าและการกระจายโอกาส เราจำลองสิ่งนี้โดยการสร้างตัวอย่างจากการแจกแจงด้านหลัง (เช่นการใช้อัลกอริทึม Metropolis-Hasting เพื่อสร้างค่าและยอมรับถ้าพวกเขาอยู่เหนือขีดจำกัดความน่าจะเป็นที่แน่นอนที่จะเป็นของการแจกแจงหลัง) เมื่อเราสร้างตัวอย่างนี้เราจะใช้มันเพื่อประมาณการกระจายตัวของหลังและสิ่งต่าง ๆ เช่นค่าเฉลี่ย แต่ฉันรู้สึกว่าฉันต้องเข้าใจผิดบางอย่าง ดูเหมือนว่าเรามีการแจกแจงด้านหลังแล้วสุ่มตัวอย่างจากนั้นใช้ตัวอย่างนั้นเป็นค่าประมาณของการแจกแจงหลัง แต่ถ้าเรามีการกระจายด้านหลังเพื่อเริ่มต้นด้วยเหตุใดเราจึงต้องสุ่มตัวอย่างจากมันถึงค่าประมาณ

19 bayesian  inference  simulation  mcmc  posterior 

ฉันรู้เกี่ยวกับประโยชน์ของการทำให้เป็นปกติเมื่อสร้างแบบจำลองการทำนาย (อคติกับความแปรปรวนป้องกันการโอเวอร์) แต่ฉันสงสัยว่ามันเป็นความคิดที่ดีหรือไม่ที่จะทำการทำให้เป็นมาตรฐาน (lasso, ridge, elastic net) เมื่อจุดประสงค์หลักของแบบจำลองการถดถอยนั้นอนุมานถึงสัมประสิทธิ์ ฉันชอบที่จะได้ยินความคิดของผู้คนรวมถึงลิงก์ไปยังวารสารทางวิชาการหรือบทความที่ไม่ใช่ด้านวิชาการที่กล่าวถึงเรื่องนี้

18 inference  lasso  ridge-regression  elastic-net  selectiveinference 

ฉันกำลังติดตาม AW van der Vaart, สถิติแบบอะซิติกติก (1998) เขาพูดถึงการทดลองทางสถิติโดยอ้างว่าพวกเขาแตกต่างจากแบบจำลองทางสถิติ แต่เขาไม่ได้กำหนด คำถามของฉัน: (1) การทดลองทางสถิติคืออะไร (2) แบบจำลองทางสถิติและ (3) ส่วนประกอบสำคัญที่มักจะทำให้การทดลองทางสถิติแตกต่างจากแบบจำลองทางสถิติใด ๆ เสมอ?

17 mathematical-statistics  inference  experiment-design  descriptive-statistics  model 

ฉันถูกขอให้ค้นหาค่า p สำหรับสถิติเชิงพรรณนา อย่างไรก็ตามฉันเข้าใจว่าค่า p ใช้สำหรับสถิติการทดสอบ ถ้าฉันไม่เข้าใจผิดค่า p คือความน่าจะเป็นในการสังเกตค่ามากที่สุดเท่าที่สถิติการทดสอบหากสมมติฐานว่างเป็นจริง

17 hypothesis-testing  descriptive-statistics  inference 

pdf และ pmf และ cdf มีข้อมูลเหมือนกันหรือไม่? สำหรับฉัน pdf ให้ความน่าจะเป็นทั้งหมดจนถึงจุดหนึ่ง (โดยทั่วไปคือพื้นที่ภายใต้ความน่าจะเป็น) pmf ให้ความน่าจะเป็นของบางจุด cdf ให้ความน่าจะเป็นภายใต้จุดหนึ่ง ดังนั้นสำหรับฉันไฟล์ PDF และ cdf มีข้อมูลเหมือนกัน แต่ pmf ไม่ได้เพราะมันให้ความน่าจะเป็นสำหรับxการแจกแจง

17 probability  distributions  pdf  inference  cdf 

ในRฉันใช้ldaฟังก์ชั่นจากห้องสมุดMASSเพื่อจัดหมวดหมู่ ตามที่ฉันเข้าใจ LDA แล้วอินพุตxxxจะได้รับการกำหนดเลเบลyyyซึ่งเพิ่มp(y|x)p(y|x)p(y|x)ได้สูงสุดใช่ไหม แต่เมื่อผมเหมาะสมกับรูปแบบซึ่งในx=(Lag1,Lag2)x=(Lag1,Lag2)x=(Lag1,Lag2)y=Direction,y=Direction,y=Direction,ฉันไม่เข้าใจเอาท์พุทจากlda, แก้ไข:เพื่อทำซ้ำผลลัพธ์ด้านล่างให้เรียกใช้ครั้งแรก: library(MASS) library(ISLR) train = subset(Smarket, Year < 2005) lda.fit = lda(Direction ~ Lag1 + Lag2, data = train) > lda.fit Call: lda(Direction ~ Lag1 + Lag2, data = train) Prior probabilities of groups: Down Up 0.491984 0.508016 Group means: Lag1 Lag2 Down 0.04279022 0.03389409 …

17 r  discriminant-analysis  inference 

ฉันคิดว่ามันยุติธรรมที่จะบอกว่าสถิติเป็นวิทยาศาสตร์ประยุกต์ดังนั้นเมื่อมีการคำนวณค่าเฉลี่ยและส่วนเบี่ยงเบนมาตรฐานมันเป็นเพราะมีใครบางคนกำลังมองหาการตัดสินใจบางอย่างขึ้นอยู่กับตัวเลขเหล่านั้น ส่วนหนึ่งของการเป็นนักสถิติที่ดีฉันก็หวังว่าจะสามารถ "รับรู้" ได้เมื่อข้อมูลตัวอย่างสามารถเชื่อถือได้และเมื่อการทดสอบทางสถิติบางอย่างบิดเบือนความจริงในข้อมูลจริงที่เราสนใจเป็นโปรแกรมเมอร์ที่สนใจในการวิเคราะห์ ชุดข้อมูลขนาดใหญ่ฉันกำลังเรียนรู้สถิติและทฤษฎีความน่าจะเป็นบางอย่าง แต่ฉันไม่สามารถสั่นคลอนความรู้สึกที่ดุด่าว่าหนังสือทุกเล่มที่ฉันดูเป็นเหมือนนักการเมืองที่ลุกขึ้นมาบนเวทีและพูดสิ่งต่าง ๆ ทั้งหมดแล้วต่อท้าย ข้อจำกัดความรับผิดชอบต่อไปนี้ในตอนท้ายของคำพูดของพวกเขา: ตอนนี้ฉันไม่ได้พูดว่ามันดีหรือไม่ดี แต่ตัวเลขบอกว่ามันดีดังนั้นคุณควรโหวตให้ฉัน บางทีคุณอาจได้รับสิ่งนั้น แต่บางทีคุณอาจไม่ได้คำถามนี้ ฉันจะไปหาเรื่องราวสงครามโดยนักสถิติที่การตัดสินใจบางอย่างอยู่บนพื้นฐานของข้อมูลทางสถิติที่ภายหลังกลายเป็นผิดอย่างสมบูรณ์?

16 references  inference  descriptive-statistics  history  fallacy 

ฉันกำลังวิเคราะห์ชุดข้อมูลโดยใช้โมเดลเอฟเฟกต์ผสมกับเอฟเฟ็กต์คงที่หนึ่งรายการ (เงื่อนไข) และเอฟเฟกต์แบบสุ่มสองรายการ (ผู้เข้าร่วมเนื่องจากการออกแบบภายในและคู่ของเรื่อง) รูปแบบที่ถูกสร้างขึ้นด้วยแพคเกจ:lme4exp.model<-lmer(outcome~condition+(1|participant)+(1|pair),data=exp) ต่อไปฉันทำการทดสอบอัตราส่วนความน่าจะเป็นของโมเดลนี้เทียบกับโมเดลโดยไม่มีผลกระทบคงที่ (เงื่อนไข) และมีความแตกต่างอย่างมีนัยสำคัญ ชุดข้อมูลของฉันมี 3 เงื่อนไขดังนั้นฉันจึงต้องการเปรียบเทียบหลายรายการ แต่ฉันไม่แน่ใจว่าจะใช้วิธีใด ฉันพบคำถามที่คล้ายกันจำนวนหนึ่งใน CrossValidated และฟอรัมอื่น ๆ แต่ฉันยังสับสนอยู่ จากสิ่งที่ฉันเห็นผู้คนแนะนำให้ใช้ 1.lsmeansแพคเกจ - lsmeans(exp.model,pairwise~condition)ซึ่งทำให้ผมส่งออกต่อไปนี้: condition lsmean SE df lower.CL upper.CL Condition1 0.6538060 0.03272705 47.98 0.5880030 0.7196089 Condition2 0.7027413 0.03272705 47.98 0.6369384 0.7685443 Condition3 0.7580522 0.03272705 47.98 0.6922493 0.8238552 Confidence level used: 0.95 $contrasts …

16 r  repeated-measures  multiple-comparisons  post-hoc  lsmeans  bayesian  posterior  marginal  integral  anova  time-series  regularization  machine-learning  pca  computational-statistics  references  inference  regression  cross-validation  python  random-forest  chi-squared  spearman-rho  r  machine-learning  confidence-interval  bagging  clustering  feature-selection  model-selection  bic  hypothesis-testing  kurtosis  r  regression  residuals  terminology 

สำหรับปัญหาการอนุมานที่กำหนดเรารู้ว่าวิธีการแบบเบย์มักจะแตกต่างกันทั้งในรูปแบบและผลที่ได้จากวิธี fequentist ผู้ใช้บ่อย (มักจะรวมถึงฉัน) มักจะชี้ให้เห็นว่าวิธีการของพวกเขาไม่จำเป็นต้องมีก่อนและด้วยเหตุนี้ "ข้อมูลที่ขับเคลื่อน" มากกว่า "การตัดสินใจที่ขับเคลื่อน" แน่นอนว่า Bayesian สามารถชี้ไปที่นักบวชที่ไม่ให้ข้อมูลหรือใช้ประโยชน์ได้เพียงแค่ใช้การกระจายก่อนหน้านี้จริงๆ ความกังวลของฉันโดยเฉพาะอย่างยิ่งหลังจากที่รู้สึกถึงความอับอายขายหน้าในความเป็นกลางของฉันนั่นอาจเป็นวิธีการ "วัตถุประสงค์" ของฉันที่อ้างว่าเป็นสูตรในกรอบของ Bayesian แม้ว่าจะมีรูปแบบข้อมูลและรูปแบบแปลก ๆ ในกรณีนั้นฉันเพิ่งรู้ตัวถึงความอลหม่านก่อนหน้านี้อย่างมีความสุขและแบบจำลองวิธีการที่ใช้บ่อยของฉันบอกเป็นนัย ๆ ? ถ้าชาวเบย์ชี้ให้เห็นการกำหนดเช่นนี้ฉันคิดว่าปฏิกิริยาแรกของฉันคือการพูดว่า "ก็ดีที่คุณสามารถทำได้ แต่นั่นไม่ใช่วิธีที่ฉันคิดเกี่ยวกับปัญหา!" อย่างไรก็ตามใครสนใจว่าฉันคิดอย่างไรหรือฉันกำหนดมันอย่างไร หากกระบวนการของฉันมีค่าทางสถิติ / เชิงคณิตศาสตร์เทียบเท่ากับแบบจำลอง Bayesian บางรุ่นฉันก็จะอนุมาน Bayesian โดยไม่เจตนา ( โดยไม่เจตนา !) คำถามจริงด้านล่าง การตระหนักถึงสิ่งนี้ได้ทำลายสิ่งล่อใจใด ๆ แต่ผมไม่แน่ใจว่าถ้าเป็นความจริงที่ว่ากระบวนทัศน์แบบเบย์สามารถรองรับขั้นตอนการ frequentist ทั้งหมด (อีกครั้งให้คชกรรมเลือกที่เหมาะสมน่าจะเป็นก่อน) ฉันรู้ว่าการสนทนาเป็นเท็จ ฉันถามสิ่งนี้เพราะฉันเพิ่งโพสต์คำถามเกี่ยวกับการอนุมานตามเงื่อนไขซึ่งนำฉันไปสู่บทความต่อไปนี้: ที่นี่ (ดู 3.9.5,3.9.6) พวกเขาชี้ให้เห็นผลลัพธ์ที่เป็นที่รู้จักกันดีของบาซึว่าสามารถมีได้มากกว่าหนึ่งสถิติขึ้นทะเบียนขอร้องคำถามที่ "ส่วนย่อยที่เกี่ยวข้อง" มีความเกี่ยวข้องมากที่สุด ยิ่งแย่ไปกว่านั้นพวกเขาแสดงตัวอย่างที่สองถึงแม้ว่าคุณจะมีสถิติพิเศษที่ไม่ซ้ำกัน …

15 bayesian  inference  likelihood  likelihood-ratio  frequentist 

ฉันมีปัญหาในการทำความเข้าใจว่าเหตุใดการอนุมานแบบเบย์นำไปสู่ปัญหาที่ยากลำบาก ปัญหามักได้รับการอธิบายเช่นนี้: สิ่งที่ฉันไม่เข้าใจคือสาเหตุที่อินทิกรัลนี้ต้องถูกประเมินในตอนแรกดูเหมือนว่าสำหรับฉันที่ผลลัพธ์ของอินทิกรัลนั้นเป็นแค่ค่าคงที่การทำให้เป็นมาตรฐาน (ตามที่ชุดข้อมูล D มอบให้) เหตุใดจึงไม่สามารถคำนวณการกระจายหลังเป็นตัวเศษทางด้านขวาแล้วอนุมานค่าคงที่การทำให้เป็นมาตรฐานนี้โดยกำหนดให้อินทิกรัลเหนือการแจกแจงหลังต้องเป็น 1? ฉันกำลังคิดถึงอะไร ขอบคุณ!

15 bayesian  inference 

ฉันเรียนสถิติจากหนังสือหลายเล่มในช่วง 3 ปีที่ผ่านมาและขอบคุณเว็บไซต์นี้ที่ฉันได้เรียนรู้มากมาย อย่างไรก็ตามคำถามพื้นฐานหนึ่งข้อยังคงไม่ได้รับคำตอบสำหรับฉัน อาจมีคำตอบที่ง่ายหรือยากมาก แต่ฉันรู้ว่าต้องใช้ความเข้าใจอย่างลึกซึ้งเกี่ยวกับสถิติ เมื่อปรับแบบจำลองให้สอดคล้องกับข้อมูลไม่ว่าจะเป็นวิธีการแบบประจำหรือแบบเบย์เราขอเสนอแบบจำลองซึ่งอาจประกอบด้วยรูปแบบการทำงานสำหรับความน่าจะเป็นรูปแบบก่อนหน้าหรือเคอร์เนล (ไม่ใช่พารามิเตอร์) เป็นต้นปัญหาคือโมเดลใด ๆ เหมาะกับตัวอย่างที่มีระดับดี เราสามารถค้นหาแบบจำลองที่ดีกว่าหรือแย่กว่าเสมอเมื่อเทียบกับสิ่งที่อยู่ในมือ ในบางจุดที่เราหยุดและเริ่มต้นการสรุปสรุปพารามิเตอร์ของประชากรรายงานช่วงความเชื่อมั่นคำนวณความเสี่ยง ฯลฯ ดังนั้นไม่ว่าข้อสรุปใดที่เราวาดจะมีเงื่อนไขตามแบบจำลองที่เราตัดสินใจเลือกเสมอ แม้ว่าเราจะใช้เครื่องมือในการประมาณระยะทาง KL ที่คาดหวังเช่น AIC, MDL เป็นต้น แต่ก็ไม่ได้พูดอะไรเกี่ยวกับตำแหน่งที่เรายืนอยู่บนพื้นฐานแบบสัมบูรณ์ แต่เพียงปรับปรุงการประมาณค่าแบบสัมพันธ์ ตอนนี้สมมติว่าเราต้องการกำหนดขั้นตอนตามขั้นตอนเพื่อนำไปใช้กับชุดข้อมูลใด ๆ เมื่อสร้างแบบจำลอง เราควรระบุอะไรเป็นกฏการหยุด? อย่างน้อยเราสามารถผูกข้อผิดพลาดของแบบจำลองซึ่งจะทำให้เรามีจุดหยุดตามวัตถุประสงค์ (ซึ่งแตกต่างจากการหยุดการฝึกอบรมโดยใช้ตัวอย่างการตรวจสอบความถูกต้องเนื่องจากมันให้จุดหยุดภายในคลาสโมเดลที่ประเมินมากกว่า wrt DGP จริง)

15 modeling  inference  aic 

Bayesians บางคนโจมตีการอนุมานบ่อยครั้งที่ระบุว่า "ไม่มีการกระจายตัวอย่างที่ไม่ซ้ำ" เพราะมันขึ้นอยู่กับความตั้งใจของนักวิจัย (Kruschke, Aguinis, & Joo, 2012, p. 733) ตัวอย่างเช่นสมมติว่านักวิจัยเริ่มเก็บข้อมูล แต่เงินทุนของเขาลดลงอย่างไม่คาดคิดหลังจากมีผู้เข้าร่วม 40 คน การแจกแจงการสุ่มตัวอย่าง (และ CIs ที่ตามมาและค่า p) จะถูกกำหนดที่นี่ได้อย่างไร เราจะสมมติว่ากลุ่มตัวอย่างแต่ละชุดมี N = 40 หรือไม่ หรือมันจะประกอบไปด้วยตัวอย่างที่มี N ที่แตกต่างกันโดยแต่ละขนาดจะพิจารณาจากเวลาสุ่มอื่น ๆ ที่เงินทุนของเขาอาจถูกตัด? t, F, chi-square (ฯลฯ ), การแจกแจงโมฆะที่พบในตำราเรียนทั้งหมดสันนิษฐานว่า N ได้รับการแก้ไขและคงที่สำหรับตัวอย่างที่เป็นส่วนประกอบทั้งหมด แต่สิ่งนี้อาจไม่เป็นจริงในทางปฏิบัติ ด้วยขั้นตอนการหยุดที่แตกต่างกันทุกครั้ง (เช่นหลังจากช่วงเวลาหนึ่งหรือจนกว่าผู้ช่วยของฉันจะเหนื่อย) ดูเหมือนจะมีการแจกแจงตัวอย่างที่แตกต่างกันและการใช้การแจกแจงคงที่ N แบบลองและจริงเหล่านี้ไม่เหมาะสม การวิพากษ์วิจารณ์นี้สร้างความเสียหายต่อความถูกต้องตามกฎหมายของ CIs บ่อยและค่า p อย่างไร …

15 distributions  inference  frequentist 

นี้อ้างอิงคำถาม Galit Shmueli กระดาษ"ที่จะอธิบายหรือทำนาย" โดยเฉพาะอย่างยิ่งในหัวข้อ 1.5 "การอธิบายและการทำนายต่างกัน" ศาสตราจารย์ Shmueli เขียน: ในการอธิบายแบบจำลองการมุ่งเน้นไปที่การลดอคติเพื่อให้ได้การแสดงที่ถูกต้องที่สุดของทฤษฎีพื้นฐาน นี่ทำให้ฉันงงทุกครั้งที่ฉันอ่านกระดาษ การลดอคติในการประมาณการให้ความหมายที่ถูกต้องที่สุดในการแสดงถึงทฤษฎีพื้นฐานได้อย่างไร? ฉันได้ดูการพูดคุยของศาสตราจารย์ Shmueli ที่นี่ด้วยซึ่งจัดส่งที่ JMP Discovery Summit 2017 และเธอกล่าวว่า: ... สิ่งต่าง ๆ ที่เหมือนกับนางแบบหดตัวตระการตาคุณจะไม่มีวันได้เห็น เนื่องจากรูปแบบเหล่านั้นโดยการออกแบบแนะนำความเอนเอียงเพื่อลดอคติ / ความแปรปรวนโดยรวม นั่นเป็นเหตุผลที่พวกเขาจะไม่อยู่ที่นั่นมันไม่มีเหตุผลใด ๆ ที่จะทำเช่นนั้น ทำไมคุณต้องทำให้แบบจำลองของคุณลำเอียงโดยมีจุดประสงค์ นี่ไม่ใช่คำถามของฉันที่ชัดเจนเพียงแค่ปรับการอ้างสิทธิ์ที่ฉันไม่เข้าใจ หากทฤษฏีมีพารามิเตอร์มากมายและเรามีข้อมูลไม่เพียงพอที่จะประมาณค่าเหล่านั้นข้อผิดพลาดในการประมาณจะถูกควบคุมโดยความแปรปรวน เหตุใดจึงไม่เหมาะสมที่จะใช้ขั้นตอนการประเมินแบบเอนเอียงเช่นการถดถอยสัน (ส่งผลให้การประเมินแบบเอนเอียงของความแปรปรวนต่ำกว่า) ในสถานการณ์นี้

15 predictive-models  inference  bias  unbiased-estimator  explanatory-models 

ฉันเข้าใจว่าหมายความว่าแบบจำลองนั้นไม่ดีในการทำนายจุดข้อมูลแต่ละจุด แต่ได้สร้างแนวโน้มที่มั่นคง (เช่น y ขึ้นไปเมื่อ x เพิ่มขึ้น)

14 regression  inference  r-squared  linear 

ฉันเพิ่งดูการบรรยายเรื่องการอนุมานเชิงสถิติ ("การเปรียบเทียบสัดส่วนและความหมาย") ซึ่งเป็นส่วนหนึ่งของคำแนะนำเกี่ยวกับสถิติหลักสูตรออนไลน์ วัสดุที่ทำให้ฉันรู้สึกเหมือนมันเป็นเรื่องเล็กน้อยเสมอ (โดยตอนนี้ฉันต้องเห็นสิ่งนี้หลายสิบครั้งกระจายออกไปในช่วงสามทศวรรษที่ผ่านมา) ฉันกำลังมองหาหนังสือเกี่ยวกับ "basic Stats-101" (การประมาณจุด, การประเมินแบบประเมิน, การอนุมานเชิงสถิติ, การทดสอบสมมติฐาน, การออกแบบการศึกษา) ที่จริงจังกับปัญหาในการโน้มน้าวผู้อ่านที่สงสัย ... ด้านล่างฉันให้ตัวอย่างของ ประเภทของคำถามที่ผู้เขียนที่ฉันค้นหาจะใช้เวลาอย่างจริงจังและรู้วิธีการพูดอย่างมั่นใจ แต่ก่อนอื่นให้ฉันใช้เวลาสักครู่เพื่อเน้นว่าในโพสต์นี้ฉันไม่ได้ถามคำถามเหล่านี้ ได้โปรดอย่าตอบพวกเขา! ฉันให้พวกเขาเป็นเพียงตัวอย่างและผ่าน "การทดสอบสารสีน้ำเงิน" (สำหรับประเภทของผู้แต่งที่กำลังค้นหา) หาก "สัดส่วน" เป็นเพียงค่าเฉลี่ยของตัวแปรบูลีน (เช่นหนึ่งที่รับเฉพาะค่า 0 และ 1) ทำไมโพรซีเดอร์ที่แตกต่างกันจึงสอนให้ทำการอนุมานเชิงสถิติด้วย "สัดส่วน" และกับ "หมายถึง"? หากการแจกแจงแบบปกตินั้นแข็งแกร่งมากซึ่งสมมติว่า normality ให้ผลลัพธ์ที่ดีแม้ในกรณีที่ข้อมูลนั้นไม่ได้ถูกกระจายตามปกติและหากการแจกแจงแบบปกตินั้นดูธรรมดามากทำไมเอะอะทั้งหมดเกี่ยวกับการใช้การแจกแจงแบบ t แทน ปกติ? สิ่งที่ว่าคือ "องศาความเป็นอิสระ" และทำไมเราต้องกังวลเกี่ยวกับพวกเขา? การพูดถึงค่า "จริง" ของพารามิเตอร์หมายความว่าอย่างไรเมื่อเราเพิ่งใช้การแจกแจงที่เกิดขึ้นเพื่อให้ดูเหมือนกับข้อมูล "การวิเคราะห์ข้อมูลเชิงสำรวจ" ทำไมเป็นสิ่งที่ดีในขณะที่ "การสอดแนมข้อมูล" เป็นสิ่งที่ชั่วร้าย? ดังที่ฉันได้กล่าวไปแล้วฉันถูกเลื่อนออกไปจากทัศนคติที่บอกเป็นนัยจากการละเลยคำถามดังกล่าว …

14 references  inference  point-estimation