คำถามติดแท็ก mathematical-statistics

ฉันกำลังมองหาอสมการความน่าจะเป็นบางอย่างสำหรับผลรวมของตัวแปรสุ่มที่ไม่มีขอบเขต ฉันจะซาบซึ้งจริงๆถ้าใครสามารถให้ความคิดกับฉัน ปัญหาของฉันคือการหาขอบเขตบนเอ็กซ์โพเนนเชียลเหนือความน่าจะเป็นที่ผลรวมของตัวแปรสุ่มแบบไม่ จำกัด จำนวน iid ซึ่งอันที่จริงแล้วการคูณของสอง iid Gaussian มีค่าเกินกว่าค่าที่แน่นอนเช่นPr[X≥ϵσ2N]≤exp(?)Pr[X≥ϵσ2N]≤exp⁡(?)\mathrm{Pr}[ X \geq \epsilon\sigma^2 N] \leq \exp(?)ที่X=∑Ni=1wiviX=∑i=1NwiviX = \sum_{i=1}^{N} w_iv_i , wiwiw_iและviviv_iถูกสร้างขึ้นจาก IID N(0,σ)N(0,σ)\mathcal{N}(0, \sigma) ) ฉันพยายามใช้ Chernoff ผูกโดยใช้โมเมนต์สร้างฟังก์ชัน (MGF) ขอบเขตที่ได้รับมาจาก: Pr[X≥ϵσ2N]≤=minsexp(−sϵσ2N)gX(s)exp(−N2(1+4ϵ2−−−−−−√−1+log(1+4ϵ2−−−−−−√−1)−log(2ϵ2)))Pr[X≥ϵσ2N]≤minsexp⁡(−sϵσ2N)gX(s)=exp⁡(−N2(1+4ϵ2−1+log⁡(1+4ϵ2−1)−log⁡(2ϵ2)))\begin{eqnarray} \mathrm{Pr}[ X \geq \epsilon\sigma^2 N] &\leq& \min\limits_s \exp(-s\epsilon\sigma^2 N)g_X(s) \\ &=& \exp\left(-\frac{N}{2}\left(\sqrt{1+4\epsilon^2} -1 + \log(\sqrt{1+4\epsilon^2}-1) - \log(2\epsilon^2)\right)\right) \end{eqnarray} ที่เป็น …

37 probability  mathematical-statistics  probability-inequalities  mgf 

ฉันหวังว่าบางคนสามารถอธิบายได้ว่าในแง่ของคนธรรมดาหน้าที่ของคุณลักษณะคืออะไรและใช้ในทางปฏิบัติอย่างไร ฉันอ่านว่ามันคือการแปลงฟูริเยร์ของ pdf ดังนั้นฉันเดาว่าฉันรู้ว่ามันคืออะไรแต่ฉันก็ยังไม่เข้าใจวัตถุประสงค์ของมัน หากใครบางคนสามารถให้คำอธิบายที่เข้าใจง่ายเกี่ยวกับจุดประสงค์ของมันและอาจเป็นตัวอย่างของวิธีการใช้โดยทั่วไปนั่นจะยอดเยี่ยม! เพียงหนึ่งบันทึกล่าสุด: ฉันได้เห็นหน้า Wikipediaแต่เห็นได้ชัดว่าหนาแน่นเกินไปที่จะเข้าใจสิ่งที่เกิดขึ้น สิ่งที่ฉันกำลังมองหาคือคำอธิบายว่าบางคนไม่ได้หมกมุ่นอยู่กับสิ่งมหัศจรรย์ของทฤษฎีความน่าจะเป็นนักวิทยาศาสตร์คอมพิวเตอร์สามารถเข้าใจได้

37 probability  mathematical-statistics  characteristic-function 

ในการถดถอยเชิงเส้นอย่างง่ายเรามีที่2) ฉันได้รับตัวประมาณ: ที่และเป็นวิธีการที่เป็นตัวอย่างของและy ที่y=β0+β1x+uy=β0+β1x+uy = \beta_0 + \beta_1 x + uu∼iidN(0,σ2)u∼iidN(0,σ2)u \sim iid\;\mathcal N(0,\sigma^2)β1^=∑i(xi−x¯)(yi−y¯)∑i(xi−x¯)2 ,β1^=∑i(xi−x¯)(yi−y¯)∑i(xi−x¯)2 , \hat{\beta_1} = \frac{\sum_i (x_i - \bar{x})(y_i - \bar{y})}{\sum_i (x_i - \bar{x})^2}\ , x¯x¯\bar{x}y¯y¯\bar{y}xxxyyy ตอนนี้ผมต้องการที่จะหาแปรปรวนของ\ฉันได้รับสิ่งต่อไปนี้: β^1β^1\hat\beta_1Var(β1^)=σ2(1−1n)∑i(xi−x¯)2 .Var(β1^)=σ2(1−1n)∑i(xi−x¯)2 . \text{Var}(\hat{\beta_1}) = \frac{\sigma^2(1 - \frac{1}{n})}{\sum_i (x_i - \bar{x})^2}\ . รากศัพท์มีดังต่อไปนี้: Var(β1^)=Var(∑i(xi−x¯)(yi−y¯)∑i(xi−x¯)2)=1(∑i(xi−x¯)2)2Var(∑i(xi−x¯)(β0+β1xi+ui−1n∑j(β0+β1xj+uj)))=1(∑i(xi−x¯)2)2Var(β1∑i(xi−x¯)2+∑i(xi−x¯)(ui−∑jujn))=1(∑i(xi−x¯)2)2Var(∑i(xi−x¯)(ui−∑jujn))=1(∑i(xi−x¯)2)2×E⎡⎣⎢⎢⎢⎢⎢⎢⎛⎝⎜⎜⎜⎜⎜∑i(xi−x¯)(ui−∑jujn)−E[∑i(xi−x¯)(ui−∑jujn)]=0⎞⎠⎟⎟⎟⎟⎟2⎤⎦⎥⎥⎥⎥⎥⎥=1(∑i(xi−x¯)2)2E⎡⎣(∑i(xi−x¯)(ui−∑jujn))2⎤⎦=1(∑i(xi−x¯)2)2E[∑i(xi−x¯)2(ui−∑jujn)2] , since ui 's are iid=1(∑i(xi−x¯)2)2∑i(xi−x¯)2E(ui−∑jujn)2=1(∑i(xi−x¯)2)2∑i(xi−x¯)2⎛⎝E(u2i)−2×E(ui×(∑jujn))+E(∑jujn)2⎞⎠=1(∑i(xi−x¯)2)2∑i(xi−x¯)2(σ2−2nσ2+σ2n)=σ2∑i(xi−x¯)2(1−1n)Var(β1^)=Var(∑i(xi−x¯)(yi−y¯)∑i(xi−x¯)2)=1(∑i(xi−x¯)2)2Var(∑i(xi−x¯)(β0+β1xi+ui−1n∑j(β0+β1xj+uj)))=1(∑i(xi−x¯)2)2Var(β1∑i(xi−x¯)2+∑i(xi−x¯)(ui−∑jujn))=1(∑i(xi−x¯)2)2Var(∑i(xi−x¯)(ui−∑jujn))=1(∑i(xi−x¯)2)2×E[(∑i(xi−x¯)(ui−∑jujn)−E[∑i(xi−x¯)(ui−∑jujn)]⏟=0)2]=1(∑i(xi−x¯)2)2E[(∑i(xi−x¯)(ui−∑jujn))2]=1(∑i(xi−x¯)2)2E[∑i(xi−x¯)2(ui−∑jujn)2] …

37 regression  mathematical-statistics  variance  linear-model  regression-coefficients 

ในบทความปัจจุบันในวิทยาศาสตร์นี้มีการเสนอต่อไปนี้: สมมติว่าคุณแบ่งรายได้ 500 ล้านคนจาก 10,000 คน มีทางเดียวเท่านั้นที่จะให้ทุกคนมีส่วนร่วมได้ 50,000 หุ้น ดังนั้นหากคุณกำลังหารายได้แบบสุ่มความเท่าเทียมนั้นเป็นไปได้ยากมาก แต่มีวิธีนับไม่ถ้วนที่จะมอบเงินจำนวนมากให้กับคนจำนวนน้อยและคนจำนวนมากมีน้อยหรือไม่มีเลย ตามจริงแล้วทุกวิธีที่คุณสามารถแบ่งรายได้ส่วนใหญ่ผลิตรายได้แบบเอ็กซ์โปเนนเชียล ฉันทำสิ่งนี้ด้วยรหัส R ต่อไปนี้ซึ่งดูเหมือนว่าจะยืนยันผล: library(MASS) w <- 500000000 #wealth p <- 10000 #people d <- diff(c(0,sort(runif(p-1,max=w)),w)) #wealth-distribution h <- hist(d, col="red", main="Exponential decline", freq = FALSE, breaks = 45, xlim = c(0, quantile(d, 0.99))) fit <- fitdistr(d,"exponential") curve(dexp(x, rate …

36 distributions  mathematical-statistics  exponential 

เป็นฤดูกาลรับสมัครนักศึกษาระดับบัณฑิตศึกษา ฉัน (และนักเรียนหลายคนอย่างฉัน) กำลังพยายามตัดสินใจเลือกโปรแกรมสถิติที่จะเลือก ผู้ที่ทำงานกับสถิติแนะนำอะไรเราแนะนำให้คุณพิจารณาเกี่ยวกับโปรแกรมปริญญาโทในสถิติ มีข้อผิดพลาดหรือข้อผิดพลาดทั่วไปที่นักเรียนทำ (อาจเกี่ยวกับชื่อเสียงของโรงเรียน) หรือไม่? สำหรับการจ้างงานเราควรมองที่จะมุ่งเน้นไปที่สถิติที่นำไปใช้หรือการผสมผสานของสถิติที่นำมาใช้และทางทฤษฎี แก้ไข:นี่คือข้อมูลเพิ่มเติมบางอย่างเกี่ยวกับสถานการณ์ส่วนบุคคลของฉัน: โปรแกรมทั้งหมดที่ฉันกำลังพิจารณาอยู่ในสหรัฐอเมริกา บางคนมุ่งเน้นไปที่การประยุกต์ใช้มากขึ้นและให้ปริญญาโทใน "สถิติที่ใช้" ในขณะที่คนอื่นมีการเรียนการสอนเชิงทฤษฎีมากขึ้นและให้องศาใน "สถิติ" โดยส่วนตัวแล้วฉันไม่ได้ตั้งใจที่จะทำงานในอุตสาหกรรมเดียวกัน ฉันมีพื้นหลังการเขียนโปรแกรมบางส่วนและรู้ว่าอุตสาหกรรมเทคโนโลยีดีขึ้นกว่าเดิมเล็กน้อยเช่นอุตสาหกรรมจีโนมิกหรือชีวสารสนเทศศาสตร์ อย่างไรก็ตามฉันกำลังมองหาอาชีพที่มีปัญหาที่น่าสนใจเป็นหลัก แก้ไข : พยายามทำให้คำถามมีผลบังคับใช้มากกว่าปกติ

36 machine-learning  mathematical-statistics  careers 

ถ้ากระจายN ( μ X , σ 2 X ) , YกระจายN ( μ Y , σ 2 Y ) และZ = X + Y , ฉันรู้ว่าZกระจายN ( μ X + μ Y , σ 2 X + σ 2 Y )ถ้า X และ Y เป็นอิสระXXXยังไม่มีข้อความ( μX, σ2X)N(μX,σX2)N(\mu_X, \sigma^2_X)YYYยังไม่มีข้อความ( μY, σ2Y)N(μY,σY2)N(\mu_Y, …

36 normal-distribution  mathematical-statistics 

ฉันกำลังมองหาคำอธิบายที่ใช้งานง่ายสำหรับคำถามต่อไปนี้: ในสถิติและทฤษฎีข้อมูลความแตกต่างระหว่างระยะทาง Bhattacharyya และความแตกต่างของ KL เป็นมาตรการของความแตกต่างระหว่างการแจกแจงความน่าจะเป็นแบบแยกสองอันคืออะไร พวกเขาไม่มีความสัมพันธ์อย่างแท้จริงและวัดระยะห่างระหว่างการแจกแจงความน่าจะเป็นสองแบบในลักษณะที่แตกต่างกันโดยสิ้นเชิงหรือไม่?

33 mathematical-statistics  information-theory  kullback-leibler  bhattacharyya 

Wikipedia พูดว่า - ในทฤษฎีความน่าจะเป็นทฤษฎีขีด จำกัด กลาง (CLT) กำหนดว่าในสถานการณ์ส่วนใหญ่เมื่อมีการเพิ่มตัวแปรสุ่มแบบอิสระผลรวมปกติที่ถูกต้องของพวกมันมีแนวโน้มไปสู่การแจกแจงแบบปกติ (อย่างไม่เป็นทางการว่า กระจายตามปกติ ... เมื่อมีข้อความว่า "ในสถานการณ์ส่วนใหญ่" ทฤษฎีบทขีด จำกัด กลางในสถานการณ์ใดไม่ทำงาน

32 probability  mathematical-statistics  normal-distribution  central-limit-theorem 

ฉันสนใจในอสมการ Chebyshev รุ่นเดียวของ Cantelliต่อไปนี้: P(X−E(X)≥t)≤Var(X)Var(X)+t2.P(X−E(X)≥t)≤Var(X)Var(X)+t2. \mathbb P(X - \mathbb E (X) \geq t) \leq \frac{\mathrm{Var}(X)}{\mathrm{Var}(X) + t^2} \,. โดยทั่วไปถ้าคุณทราบค่าเฉลี่ยและความแปรปรวนของประชากรคุณสามารถคำนวณขอบเขตบนความน่าจะเป็นในการสังเกตค่าที่แน่นอน (นั่นคือความเข้าใจของฉันอย่างน้อย) อย่างไรก็ตามฉันต้องการใช้ค่าเฉลี่ยตัวอย่างและความแปรปรวนตัวอย่างแทนค่าเฉลี่ยและความแปรปรวนประชากรจริง ฉันเดาว่าเนื่องจากสิ่งนี้จะทำให้เกิดความไม่แน่นอนมากขึ้นขอบเขตบนจะเพิ่มขึ้น มีความไม่เท่าเทียมกันคล้ายกับข้างบน แต่นั่นใช้ค่าเฉลี่ยตัวอย่างและความแปรปรวนหรือไม่ แก้ไข : อะนาล็อก "ตัวอย่าง" ของความไม่เท่าเทียมกันของ Chebyshev (ไม่ใช่ด้านเดียว) ได้ถูกแก้ไขแล้ว หน้าวิกิพีเดียมีรายละเอียดบางอย่าง อย่างไรก็ตามฉันไม่แน่ใจว่ามันจะแปลไปยังกรณีด้านเดียวที่ฉันมีข้างต้นได้อย่างไร

32 probability  mathematical-statistics  probability-inequalities  mean 

ผมเข้าใจว่าความสัมพันธ์ไม่ได้เป็นสาเหตุ สมมติว่าเรามีความสัมพันธ์สูงระหว่างตัวแปรสองตัว คุณจะตรวจสอบว่าความสัมพันธ์นี้เป็นเพราะสาเหตุได้อย่างไร? หรือภายใต้เงื่อนไขใดที่เราสามารถใช้ข้อมูลทดลองเพื่ออนุมานความสัมพันธ์เชิงสาเหตุระหว่างตัวแปรสองตัวหรือมากกว่าได้

30 correlation  mathematical-statistics  causality 

โอกาสที่สามารถกำหนดได้หลายวิธีตัวอย่างเช่น: ฟังก์ชั่นจากซึ่งแผนที่เพื่อเช่น{R}LLLΘ×XΘ×X\Theta\times{\cal X}(θ,x)(θ,x)(\theta,x)L(θ∣x)L(θ∣x)L(\theta \mid x)L:Θ×X→RL:Θ×X→RL:\Theta\times{\cal X} \rightarrow \mathbb{R} ฟังก์ชั่นแบบสุ่มL(⋅∣X)L(⋅∣X)L(\cdot \mid X) เราอาจพิจารณาได้ว่าความน่าจะเป็นเป็นเพียงโอกาส "สังเกต"L(⋅∣xobs)L(⋅∣xobs)L(\cdot \mid x^{\text{obs}}) ในทางปฏิบัติความน่าจะเป็นที่นำข้อมูลไปสู่ขึ้นอยู่กับค่าคงที่แบบ multiplicative เท่านั้นดังนั้นเราจึงสามารถพิจารณาความเป็นไปได้ว่าเป็นคลาสเทียบเท่าของฟังก์ชันแทนที่จะเป็นฟังก์ชันθθ\theta อีกคำถามที่เกิดขึ้นเมื่อพิจารณาการเปลี่ยนแปลงของ parametrization: ถ้าเป็น parameterization ใหม่ที่เรามักจะแสดงโดยโอกาสในและนี่ไม่ใช่การประเมินฟังก์ชั่นก่อนหน้าที่แต่ในพี} นี่คือเครื่องหมายที่ไม่เหมาะสม แต่มีประโยชน์ซึ่งอาจทำให้เกิดความยุ่งยากสำหรับผู้เริ่มต้นหากไม่ได้เน้นϕ=θ2ϕ=θ2\phi=\theta^2L(ϕ∣x)L(ϕ∣x)L(\phi \mid x)ϕϕ\phiL(⋅∣x)L(⋅∣x)L(\cdot \mid x)θ2θ2\theta^2ϕ−−√ϕ\sqrt{\phi} คำจำกัดความที่คุณชื่นชอบอย่างเข้มงวดของความน่าจะเป็นคืออะไร? นอกจากนี้คุณจะเรียกอย่างไร ฉันมักจะพูดว่า "ความน่าจะเป็นในเมื่อสังเกต "L(θ∣x)L(θ∣x)L(\theta \mid x)θθ\thetaxxx แก้ไข: ในมุมมองของความคิดเห็นด้านล่างฉันรู้ว่าฉันควรจะมีบริบท ฉันพิจารณาแบบจำลองทางสถิติที่กำหนดโดยตระกูลพารามิเตอร์ของความหนาแน่นที่เกี่ยวกับการวัดที่มีอิทธิพลเหนือแต่ละอันที่มีกำหนดไว้ในพื้นที่สังเกตX} ดังนั้นเราจึงกำหนดและคำถามคือ "คืออะไร?" (คำถามไม่ได้เกี่ยวกับความหมายทั่วไปของความน่าจะเป็น)ฉ( ⋅ | θ ) X L ( θ …

30 mathematical-statistics  likelihood  likelihood-ratio  parametric 

เมื่อคุณทำนายค่าที่ติดตั้งจากตัวแบบการถดถอยโลจิสติกจะคำนวณข้อผิดพลาดมาตรฐานอย่างไร ฉันหมายถึงค่าติดตั้งไม่ใช่สำหรับค่าสัมประสิทธิ์ (ซึ่งเกี่ยวข้องกับเมทริกซ์ข้อมูลฟิชเชอร์) ฉันค้นพบวิธีรับตัวเลขด้วยเท่านั้นR(เช่นที่นี่ในวิธีใช้ r-help หรือที่นี่ใน Stack Overflow) แต่ฉันไม่สามารถหาสูตรได้ pred <- predict(y.glm, newdata= something, se.fit=TRUE) หากคุณสามารถให้แหล่งข้อมูลออนไลน์ (ควรอยู่บนเว็บไซต์มหาวิทยาลัย) นั่นจะเป็นสิ่งที่ยอดเยี่ยม

29 r  regression  logistic  mathematical-statistics  references 

ความน่าจะเป็นประยุกต์เป็นสาขาที่สำคัญในความน่าจะเป็นรวมถึงความน่าจะเป็นในการคำนวณ เนื่องจากสถิติใช้ทฤษฎีความน่าจะเป็นในการสร้างแบบจำลองเพื่อจัดการกับข้อมูลเป็นความเข้าใจของฉันฉันจึงสงสัยว่าอะไรคือความแตกต่างที่สำคัญระหว่างตัวแบบเชิงสถิติและตัวแบบความน่าจะเป็น รูปแบบความน่าจะเป็นไม่ต้องการข้อมูลจริงหรือ? ขอบคุณ

29 probability  mathematical-statistics 

พิจารณากลุ่มที่เป็นอิสระที่ได้รับจากตัวแปรสุ่มที่จะถือว่าเป็นไปตามการกระจายตัดทอน (เช่นตัดทอนกระจายปกติ ) รู้จักขั้นต่ำ ( จำกัด ) และค่าสูงสุดและแต่ของพารามิเตอร์ที่ไม่รู้จักและ 2 ถ้าตามการกระจายที่ไม่ถูกตัดทอนตัวประมาณค่าความน่าจะเป็นสูงสุดและสำหรับและจากจะเป็นค่าเฉลี่ยตัวอย่างNNNSSSXXXaaabbbμμ\mu X μ σ 2 μ σ 2 S μ = 1σ2σ2\sigma^2XXXμˆμ^\widehat\muσˆ2σ^2\widehat\sigma^2μμ\muσ2σ2\sigma^2SSS σ 2=1μˆ=1N∑iSiμ^=1N∑iSi\widehat\mu = \frac{1}{N} \sum_i S_iและตัวอย่างแปรปรวน 2 อย่างไรก็ตามสำหรับการแจกแจงที่ถูกตัดทอนตัวอย่างความแปรปรวนที่กำหนดในลักษณะนี้จะถูก จำกัด ด้วยดังนั้นจึงไม่ใช่ตัวประมาณที่สอดคล้องกันเสมอ: สำหรับมันไม่สามารถรวมกันในความน่าจะเป็นเมื่อไปที่อนันต์ ดังนั้นดูเหมือนว่าและไม่ใช่ตัวประมาณโอกาสสูงสุดของและสำหรับการแจกแจงที่ถูกตัดทอน แน่นอนว่าต้องมีการคาดการณ์ตั้งแต่และ(ข-)2σ2>(ข-)2σ2N μ σ 2μσ2μσ2σˆ2=1N∑i(Si−μˆ)2σ^2=1N∑i(Si−μ^)2\widehat\sigma^2 = \frac{1}{N} \sum_i (S_i - \widehat\mu)^2(b−a)2(b−a)2(b-a)^2σ2>(b−a)2σ2>(b−a)2\sigma^2 > (b-a)^2σ2σ2\sigma^2NNNμˆμ^\widehat\muσˆ2σ^2\widehat\sigma^2μμ\muσ2σ2\sigma^2μμ\muσ2σ2\sigma^2 พารามิเตอร์ของการแจกแจงแบบปกติที่ถูกตัดทอนไม่ได้เป็นค่าเฉลี่ยและความแปรปรวน ดังนั้นตัวประมาณค่าความน่าจะเป็นสูงสุดของพารามิเตอร์และของการแจกแจงแบบตัดทอนของค่าต่ำสุดและค่าสูงสุดที่ทราบคืออะไรσμμ\muσσ\sigma

28 distributions  estimation  mathematical-statistics  maximum-likelihood  truncation 

ผมทำงานกับสองการแจกแจงปรกติอิสระและYมีวิธี\ mu_xและ\ mu_yและความแปรปรวน\ ^ ซิก 2_xและ\ ^ ซิก 2_yY μ x μ y σ 2 x σ 2 yXXXYYYμxμx\mu_xμyμy\mu_yσ2xσx2\sigma^2_xσ2yσy2\sigma^2_y ฉันสนใจในการกระจายของอัตราส่วนของพวกเขาZ=X/YZ=X/YZ=X/Y Y ทั้งXXXหรือYYYมีค่าเฉลี่ยอยู่ที่ศูนย์ดังนั้นZZZไม่ได้กระจายเป็น Cauchy ฉันต้องการหา CDF ของZZZ , และจากนั้นใช้อนุพันธ์ของ CDF ด้วยความเคารพμxμx\mu_x , μyμy\mu_y , σ2xσx2\sigma^2_xและ\σ2yσy2\sigma^2_y ใครบ้างที่รู้กระดาษที่คำนวณเหล่านี้แล้ว? หรือจะทำสิ่งนี้ด้วยตัวเองได้อย่างไร? ฉันค้นพบสูตรสำหรับ CDF ในเอกสารปี 1969แต่การจดอนุพันธ์เหล่านี้จะเป็นความเจ็บปวดอย่างมาก อาจมีบางคนทำไปแล้วหรือรู้วิธีที่จะทำได้ง่าย ๆ ? ฉันต้องการทราบสัญญาณของตราสารอนุพันธ์เป็นส่วนใหญ่ กระดาษนี้ยังมีการประมาณที่ง่ายขึ้นในการวิเคราะห์ถ้าYYYเป็นบวกส่วนใหญ่ ฉันไม่มีข้อ จำกัด อย่างไรก็ตามการประมาณอาจมีสัญลักษณ์เดียวกับอนุพันธ์ที่แท้จริงแม้จะอยู่นอกช่วงพารามิเตอร์

28 distributions  normal-distribution  references  mathematical-statistics  cdf