คำถามติดแท็ก asymptotics

ผลลัพธ์เชิงสถิติส่วนใหญ่พิสูจน์ว่าn→∞n→∞n \rightarrow \inftyตัวประมาณ (เช่น MLE) มาบรรจบกับการแจกแจงแบบปกติตามการขยายตัวของเทย์เลอร์อันดับสองของฟังก์ชันความน่าจะเป็น ฉันเชื่อว่ามีผลคล้ายกันในวรรณกรรม Bayesian, "ทฤษฎีบท Bayesian Central Limit" ซึ่งแสดงให้เห็นว่าด้านหลังบรรจบกันแบบอะซิมทีโทรติกกลับมาเป็นปกติเหมือนn→∞n→∞n \rightarrow \infty คำถามของฉันคือ - การกระจายเข้าหากันกับบางสิ่งบางอย่าง "ก่อนหน้า" จะกลายเป็นเรื่องปกติหรือไม่ขึ้นอยู่กับเทอมที่สามในซีรีส์ของ Taylor หรือเป็นไปไม่ได้ที่จะทำโดยทั่วไป?

14 mathematical-statistics  asymptotics  saddlepoint-approximation 

มีการตีความแบบเบย์ของ REML หรือไม่ สำหรับสัญชาตญาณของฉัน REML มีความคล้ายคลึงกันอย่างมากกับกระบวนการประมาณค่าเบย์เชิงประจักษ์และฉันสงสัยว่ามีการแสดงความเท่าเทียมเชิงซีมโทติค (ภายใต้คลาสของนักบวชชั้นสูงที่เหมาะสม) ทั้งเชิงประจักษ์ Bayes และ REML ดูเหมือนว่าวิธีการประมาณค่าแบบ 'ประนีประนอม' ที่ดำเนินการในการเผชิญกับพารามิเตอร์ที่สร้างความรำคาญเช่น ส่วนใหญ่สิ่งที่ฉันค้นหาด้วยคำถามนี้คือความเข้าใจในระดับสูงที่การโต้แย้งประเภทนี้มักจะให้ผล แน่นอนหากการโต้เถียงในลักษณะนี้ด้วยเหตุผลบางอย่างไม่สามารถถูกนำไปใช้อย่างมีประสิทธิภาพสำหรับ REML คำอธิบายว่าทำไมสิ่งนี้จึงส่งผลให้เกิดความเข้าใจอย่างลึกซึ้ง!

14 bayesian  asymptotics  reml 

ฉันพยายามที่จะเข้าใจและรู้สึกถึงความแตกต่างและความแตกต่างระหว่างคำที่สอดคล้องและไม่เอนเอียง ฉันรู้ว่าคำจำกัดความทางคณิตศาสตร์ / สถิติของพวกเขา แต่ฉันกำลังมองหาบางอย่างที่ใช้งานง่าย สำหรับฉันการดูคำจำกัดความของแต่ละคนพวกเขาเกือบจะเหมือนกัน ฉันตระหนักถึงความแตกต่างจะต้องบอบบาง แต่ฉันไม่เห็นมัน ฉันพยายามนึกภาพความแตกต่าง แต่ทำไม่ได้ ใครช่วยได้บ้าง

14 bias  convergence  unbiased-estimator  asymptotics  intuition 

มันเป็นที่รู้จักกันดีว่าประสิทธิภาพญาติ asymptotic (เป็น) ของ Wilcoxon ลงนามในการทดสอบยศเป็นเมื่อเทียบกับนักศึกษาของT -test ถ้าข้อมูลจะถูกดึงออกมาจากประชากรกระจายตามปกติ สิ่งนี้เป็นจริงสำหรับทั้งการทดสอบหนึ่งตัวอย่างขั้นพื้นฐานและตัวแปรสำหรับสองตัวอย่างอิสระ (Wilcoxon-Mann-Whitney U) นอกจากนี้ยังเป็นส่วนของการทดสอบ Kruskal-Wallis เมื่อเทียบกับ ANOVA F -test สำหรับข้อมูลปกติ3π≈ 0.9553π≈0.955\frac{3}{\pi} \approx 0.955 สิ่งนี้น่าทึ่ง (สำหรับฉันซึ่งเป็นหนึ่งใน " ลักษณะที่ไม่คาดคิดที่สุดของππ\pi ") และผลลัพธ์ที่เรียบง่ายอย่างน่าทึ่งมีหลักฐานที่ลึกซึ้งน่าทึ่งหรือเรียบง่าย

13 nonparametric  wilcoxon-mann-whitney  asymptotics  efficiency  wilcoxon-signed-rank 

ฉันหวังว่าคำถามนี้จะไม่ถูกทำเครื่องหมายว่า "กว้างเกินไป" และหวังว่าการอภิปรายจะเริ่มต้นขึ้นซึ่งจะเป็นประโยชน์ต่อทุกคน ในสถิติเราใช้เวลามากมายในการเรียนรู้ทฤษฎีตัวอย่างขนาดใหญ่ เราสนใจอย่างยิ่งในการประเมินคุณสมบัติของซีมโทติคของผู้ประมาณของเรารวมถึงว่าพวกมันไม่เอนเอียง, มีประสิทธิภาพ, การกระจายของซีมโทติคและอื่น ๆ asymptotic คำจะเชื่อมโยงอย่างมากกับสมมติฐานที่ว่า\n→∞n→∞n \rightarrow \infty ในความเป็นจริง แต่เรามักจะจัดการกับการ จำกัดnคำถามของฉันคือ:nnn 1) เราหมายถึงอะไรโดยกลุ่มตัวอย่างขนาดใหญ่? เราจะแยกความแตกต่างระหว่างตัวอย่างขนาดเล็กและขนาดใหญ่ได้อย่างไร 2) เมื่อเราพูดว่าเราหมายถึงว่าควรไปที่หรือไม่?n→∞n→∞n \rightarrow \inftynnn∞∞\infty ตัวอย่างสำหรับการแจกแจงทวินามต้องการประมาณ n = 30 เพื่อรวมเข้ากับการแจกแจงแบบปกติภายใต้ CLT เราควรมีหรือในกรณีนี้โดยเราหมายถึง 30 หรือมากกว่า!X¯X¯\bar{X}n→∞n→∞n \rightarrow \infty∞∞\infty 3) สมมติว่าเรามีตัวอย่างที่ จำกัด และสมมติว่าเรารู้ทุกอย่างเกี่ยวกับพฤติกรรมเชิงเส้นกำกับของตัวประมาณของเรา แล้วอะไรล่ะ สมมติว่าตัวประมาณของเราเป็นแบบไม่เชิงเส้นกำกับจากนั้นเรามีการประมาณแบบไม่เอนเอียงสำหรับพารามิเตอร์ที่เราสนใจในตัวอย่าง จำกัด ของเราหรือหมายความว่าถ้าเรามีแล้วเราก็จะไม่เอนเอียง?n→∞n→∞n \rightarrow \infty อย่างที่คุณเห็นจากคำถามข้างต้นฉันพยายามทำความเข้าใจปรัชญาเบื้องหลัง "Asymptotics ตัวอย่างขนาดใหญ่" และเรียนรู้ว่าทำไมเราถึงสนใจ ฉันต้องได้รับสัญชาติญาณสำหรับทฤษฎีบทที่ฉันเรียนรู้

13 sample  asymptotics 

คำถามนี้เป็นแรงบันดาลใจโดยหนึ่งในนี้ ฉันค้นหาสองแหล่งและนี่คือสิ่งที่ฉันพบ A. van der Vaart, สถิติ Assymptotic: มันเป็นไปไม่ได้ที่จะคำนวณความเป็นไปได้ของโพรไฟล์อย่างชัดเจน แต่การประเมินเชิงตัวเลขมักเป็นไปได้ จากนั้นความน่าจะเป็นของโปรไฟล์อาจช่วยลดมิติของฟังก์ชันความน่าจะเป็นได้ ฟังก์ชั่นความน่าจะเป็นโพรไฟล์มักจะใช้ในลักษณะเดียวกับฟังก์ชั่นความน่าจะเป็น (ธรรมดา) ของโมเดลพาราเมตริก นอกเหนือจากการจุดของพวกเขาสูงสุดประมาณθ , อนุพันธ์ที่สองที่θจะใช้เป็นประมาณการลบผกผันของเมทริกซ์ความแปรปรวน asymptotic ของ e ๆ การวิจัยล่าสุดดูเหมือนจะตรวจสอบการปฏิบัตินี้θ^θ^\hat\thetaθ^θ^\hat\theta J. Wooldridge การวิเคราะห์ทางเศรษฐมิติของข้อมูลส่วนและข้อมูลพาเนล (เหมือนกันทั้งสองรุ่น): ในฐานะที่เป็นอุปกรณ์สำหรับการศึกษาคุณสมบัติเชิงซีเอ็นซีฟังก์ชันความเข้มข้นของวัตถุประสงค์มีค่า จำกัด เนื่องจากขึ้นอยู่กับค่าของWทั้งหมดซึ่งในกรณีนี้ฟังก์ชั่นวัตถุประสงค์ไม่สามารถเขียนเป็นผลรวมของคำสั่งสรุปอิสระแบบกระจาย การตั้งค่าหนึ่งที่สมการ (12.89) คือผลรวมของฟังก์ชั่น iid เกิดขึ้นเมื่อเราตั้งสมาธิกับเอฟเฟกต์เฉพาะของแต่ละบุคคลจากแบบจำลองข้อมูลแผงบางแบบไม่เชิงเส้น นอกจากนี้ฟังก์ชั่นวัตถุประสงค์ที่เข้มข้นยังมีประโยชน์ในการสร้างความเท่าเทียมของวิธีการประมาณที่แตกต่างกันg(W,β)g(W,β)g(W,\beta)WWW Wooldridge กล่าวถึงปัญหาในบริบทที่กว้างขึ้นของตัวประมาณ M ดังนั้นมันจึงใช้กับตัวประมาณความเป็นไปได้สูงสุดเช่นกัน ดังนั้นเราจึงได้คำตอบสองข้อสำหรับคำถามเดียวกัน มารในความคิดของฉันอยู่ในรายละเอียด สำหรับบางรุ่นเราสามารถใช้ hessian ของความน่าจะเป็นของโปรไฟล์ได้อย่างปลอดภัยสำหรับบางรุ่นที่ไม่ มีผลลัพธ์ทั่วไปใดบ้างที่ให้เงื่อนไขเมื่อเราสามารถทำได้ (หรือไม่สามารถทำได้)?

13 estimation  maximum-likelihood  likelihood  asymptotics  profile-likelihood 

สถานที่ตั้ง: นี่อาจเป็นคำถามที่โง่ ฉันรู้เพียงคำแถลงเกี่ยวกับคุณสมบัติของ asymptotic ของ MLE แต่ฉันไม่เคยศึกษาหลักฐานเลย ถ้าฉันทำฉันอาจจะไม่ถามคำถามเหล่านี้หรือฉันอาจรู้ว่าคำถามเหล่านี้ไม่สมเหตุสมผล ... ดังนั้นโปรดไปที่ฉันเถอะ :) ฉันมักจะเห็นข้อความที่บอกว่าตัวประมาณค่า MLE ของพารามิเตอร์ของโมเดลนั้นเป็นเรื่องปกติและมีประสิทธิภาพ คำสั่งมักจะเขียนเป็น N→∞θ^→dN(θ0,I(θ0)−1)θ^→dN(θ0,I(θ0)−1)\hat{\theta}\xrightarrow[]{d}\mathcal{N}(\theta_0,\mathbf{I}(\theta_0)^{-1})เป็นN→∞N→∞N\to\infty ที่คือจำนวนของกลุ่มตัวอย่างที่เป็นข้อมูลที่ฟิชเชอร์และเป็นพารามิเตอร์ (เวกเตอร์) มูลค่าที่แท้จริง ตอนนี้เนื่องจากมีการอ้างอิงถึงโมเดลจริงนี่หมายความว่าผลลัพธ์จะไม่ถูกเก็บไว้หากโมเดลไม่เป็นจริงหรือไม่?ฉันθ 0NNNII\mathbf{I}θ0θ0\theta_0 ตัวอย่าง: สมมติว่าฉันเป็นแบบจำลองกำลังไฟฟ้าออกจากกังหันลม เป็นฟังก์ชั่นของความเร็วลมบวกกับเสียงรบกวนแบบเกาส์เพิ่มเติม5PPPVVV P=β0+β1V+β2V2+ϵP=β0+β1V+β2V2+ϵP=\beta_0+\beta_1V+\beta_2V^2+\epsilon ฉันรู้ว่าแบบจำลองนั้นผิดด้วยเหตุผลอย่างน้อยสองประการ: 1)เป็นสัดส่วนจริง ๆ กับกำลังสามของและ 2) ข้อผิดพลาดนั้นไม่ได้เป็นสารเติมแต่งเพราะฉันละเลยตัวทำนายอื่น ๆ ซึ่งไม่ได้เกี่ยวข้องกับความเร็วลม ที่ควรเป็น 0 เพราะที่ 0 ความเร็วลมไม่มีอำนาจจะถูกสร้างขึ้น แต่ที่ไม่เกี่ยวข้องที่นี่) ทีนี้สมมติว่าฉันมีฐานข้อมูลพลังงานและความเร็วลมที่ไม่มีที่สิ้นสุดจากกังหันลมของฉัน ฉันสามารถวาดตัวอย่างได้มากเท่าที่ต้องการขนาดใดก็ได้ สมมติว่าฉันดึงตัวอย่าง 1,000 ตัวอย่างแต่ละขนาด 100 และคำนวณ\ hat {\ boldsymbol {\ …

13 maximum-likelihood  model  asymptotics 

ปล่อยเป็นลำดับของตัวแปรสุ่ม stในความเป็นไปได้โดยที่เป็นค่าคงที่คงที่ ฉันพยายามที่จะแสดงต่อไปนี้: และ ทั้งคู่ในความน่าจะเป็น ฉันมาที่นี่เพื่อดูว่าตรรกะของฉันเป็นเสียงหรือไม่ นี่คืองานของฉัน{Xn}n≥1{Xn}n≥1\{X_n\}_{n\geq 1}Xn→aXn→aX_n \to aa&gt;0a&gt;0a>0Xn−−−√→a−−√Xn→a\sqrt{X_n} \to \sqrt{a}aXn→1aXn→1\frac{a}{X_n}\to 1 พยายาม สำหรับส่วนแรกเรามี สังเกตว่า หลังจากนั้น |Xn−−−√−a−−√|&lt;ϵ⟸|Xn−a|&lt;ϵ|Xn−−−√+a−−√|=ϵ|(Xn−−−√−sqrta)+2a−−√||Xn−a|&lt;ϵ⟸|Xn−a|&lt;ϵ|Xn+a|=ϵ|(Xn−sqrta)+2a||\sqrt{X_n}-\sqrt{a}|<\epsilon \impliedby |X_n-a|<\epsilon|\sqrt{X_n}+\sqrt{a}|=\epsilon|(\sqrt{X_n}-sqrt{a})+2\sqrt{a}| ≤ϵ|Xn−−−√−a−−√|+2ϵa−−√&lt;ϵ2+2ϵa−−√≤ϵ|Xn−a|+2ϵa&lt;ϵ2+2ϵa\leq \epsilon|\sqrt{X_n}-\sqrt{a}|+2\epsilon\sqrt{a}<\epsilon^2+2\epsilon\sqrt{a}ϵ2+2ϵa−−√&gt;ϵa−−√ϵ2+2ϵa&gt;ϵa\epsilon^2+2\epsilon\sqrt{a}>\epsilon\sqrt{a}P(|Xn−−−√−a−−√|≤ϵ)≥P(|Xn−a|≤ϵa−−√)→1asn→∞P(|Xn−a|≤ϵ)≥P(|Xn−a|≤ϵa)→1asn→∞P(|\sqrt{X_n}-\sqrt{a}|\leq \epsilon)\geq P(|X_n-a|\leq \epsilon\sqrt{a})\to 1 \;\;as\;n\to\infty ⟹Xn−−−√→a−−√inprobability⟹Xn→ainprobability\implies \sqrt{X_n}\to\sqrt{a} \;\;in\;probability สำหรับส่วนที่สองเรามี ตอนนี้เนื่องจากเป็นเรามีเป็นลำดับล้อมรอบ ในคำอื่น ๆ ที่มีอยู่เป็นจำนวนจริง STM ดังนั้น ดูที่ความน่าจะเป็นเรามี |aXn−1|=|Xn−aXn|&lt;ϵ⟸|Xn−a|&lt;ϵ|Xn||aXn−1|=|Xn−aXn|&lt;ϵ⟸|Xn−a|&lt;ϵ|Xn||\frac{a}{X_n}-1|=|\frac{X_n-a}{X_n}|<\epsilon \impliedby |X_n-a|<\epsilon|X_n|Xn→aXn→aX_n \to an→∞n→∞n \to \inftyXnXnX_nM&lt;∞M&lt;∞M<\infty|Xn|≤M|Xn|≤M|X_n|\leq M|Xn−a|&lt;ϵ|Xn|⟸|Xn−a|&lt;ϵM|Xn−a|&lt;ϵ|Xn|⟸|Xn−a|&lt;ϵM|X_n-a|<\epsilon|X_n|\impliedby |X_n-a|<\epsilon MP(|aXn−1|&gt;ϵ)=P(|Xn−a|&gt;ϵ|Xn|)≤P(|Xn−a|&gt;ϵM)→0asn→∞P(|aXn−1|&gt;ϵ)=P(|Xn−a|&gt;ϵ|Xn|)≤P(|Xn−a|&gt;ϵM)→0asn→∞P(|\frac{a}{X_n}-1|>\epsilon)=P(|X_n-a|>\epsilon|X_n|)\leq P(|X_n-a|>\epsilon M)\to …

12 random-variable  convergence  asymptotics  probability-inequalities  coverage-probability 

รับ iid X n ≈ N ( μ X , σ 2 X ) , และμ X ≈ 0 , ค้นหา:ยังไม่มีข้อความ≥ 30N≥30N\geq30Xn≈ N( μX, σ2X)Xn≈N(μX,σX2)X_n\approx\mathcal{N}(\mu_X,\sigma_X^2)μX≈ 0μX≈0\mu_X \approx 0 การประมาณการแจกแจงแบบฟอร์มปิดที่แม่นยำของ Yยังไม่มีข้อความ= ∏1ยังไม่มีข้อความXnYN=∏1NXnY_N=\prod\limits_{1}^{N}{X_n} asymptotic ( exponential ?) การประมาณของผลิตภัณฑ์เดียวกัน นี้เป็นกรณีพิเศษของขึ้นคำถามทั่วไปμX≈ 0μX≈0\mu_X \approx 0

12 distributions  normal-distribution  asymptotics  approximation 

โปรดช่วยฉันค้นหาการ จำกัด การกระจาย (ดัง ) ของสิ่งต่อไปนี้: ที่จะ IID(0,1)n→∞n→∞n \rightarrow \inftyUn=X1+X2+…+XnX31+X32+…X3n,Un=X1+X2+…+XnX13+X23+…Xn3, U_n = \frac{X_1 + X_2 + \ldots + X_n}{X_1^3 + X_2^3 + \ldots X_n^3},XiXiX_iN(0,1)N(0,1)N(0,1)

12 distributions  normal-distribution  asymptotics 

ใครช่วยกรุณาบอกฉันว่าเงื่อนไขปกติสำหรับการกระจาย asymptotic ของการทดสอบอัตราส่วนความน่าจะเป็นคืออะไร? ทุกที่ที่ฉันมองมันเขียนว่า 'ภายใต้เงื่อนไขของระเบียบ' หรือ 'ภายใต้ระเบียบที่น่าจะเป็น' เงื่อนไขอะไรกันแน่? มีอนุพันธ์ของความน่าจะเป็นบันทึกแรกและตัวที่สองและเมทริกซ์ข้อมูลไม่เป็นศูนย์หรือไม่? หรืออย่างอื่นอย่างสิ้นเชิง?

12 maximum-likelihood  likelihood-ratio  asymptotics 

Letเป็นเวกเตอร์สุ่มมาจากPพิจารณาตัวอย่างP กำหนดและ^ ปล่อย\ boldsymbol {\ mu}: = \ mathbb {E} _ {\ mathbf {x} \ sim P} [\ mathbf {x}]และC: = \ mathrm {cov} _ {\ mathbf {x} \ sim P} [\ mathbf {x} \ mathbf {x}]xx\mathbf{x}PPP{xi}ni=1∼i.i.d.P{xi}i=1n∼i.i.d.P\{ \mathbf{x}_i \}_{i=1}^n \stackrel{i.i.d.}{\sim} Px¯n:=1n∑ni=1xix¯n:=1n∑i=1nxi\bar{\mathbf{x}}_n := \frac{1}{n} \sum_{i=1}^n \mathbf{x}_iC^:=1n∑ni=1(xi−x¯n)(xi−x¯n)⊤C^:=1n∑i=1n(xi−x¯n)(xi−x¯n)⊤\hat{C} := \frac{1}{n} \sum_{i=1}^n (\mathbf{x}_i - …

11 normality-assumption  central-limit-theorem  asymptotics  quadratic-form 

ให้ ,และเป็นความหนาแน่นและสมมติว่าคุณมี ,{N} เกิดอะไรขึ้นกับอัตราส่วนความน่าจะเป็น เป็น ? (มันมาบรรจบกันเพื่ออะไรนะ?)fffggghhhxi∼hxi∼hx_i \sim hi∈Ni∈Ni \in \mathbb{N}∏i=1nf(xi)g(xi)∏i=1nf(xi)g(xi) \prod_{i=1}^n \frac{f(x_i)}{g(x_i)} n→∞n→∞n \rightarrow \infty ตัวอย่างเช่นเราอาจคิดกรัม กรณีทั่วไปก็เป็นที่สนใจเช่นกันh=gh=gh = g

11 convergence  asymptotics  likelihood-ratio 

ฉันกำลังพยายามสร้างหลักฐานสำหรับปัญหาที่ฉันกำลังทำอยู่และหนึ่งในข้อสมมติที่ฉันทำคือชุดของจุดที่ฉันสุ่มตัวอย่างจากนั้นหนาแน่นทั่วทั้งพื้นที่ ในทางปฏิบัติฉันใช้การสุ่มตัวอย่าง hypercube แบบละตินเพื่อให้ได้คะแนนจากพื้นที่ตัวอย่างทั้งหมด สิ่งที่ฉันอยากรู้คือถ้าตัวอย่าง hypercube ละตินมีความหนาแน่นมากกว่าพื้นที่ทั้งหมดถ้าคุณปล่อยให้ขนาดตัวอย่างของคุณมีแนวโน้มที่จะ ? ถ้าเป็นเช่นนั้นการอ้างอิงสำหรับความจริงนี้จะได้รับการชื่นชมอย่างมาก∞∞\infty

11 sampling  asymptotics  latin-square  latin-hypercube 

พิจารณา โดยที่X_1, \ ldots, X_Nคือ iid และ CLT ถือ จำนวนคำศัพท์ที่ใหญ่ที่สุดนั้นรวมกันได้ทั้งหมดครึ่งหนึ่งหรือไม่ ตัวอย่างเช่น 10 + 9 + 8 \ ประมาณ (10 + 9 + 8 \ จุด + 1) / 2: 30% ของคำศัพท์เข้าถึงประมาณครึ่งหนึ่งของทั้งหมด∑Ni=1|Xi|∑i=1N|Xi|\sum_{i=1}^N |X_i|X1,…,XNX1,…,XNX_1, \ldots, X_N≈≈\approx……\dots กำหนด sumbiggest( j;X1…XN)≡sum of the j biggest of |X1|…|XN|sumbiggest( j;X1…XN)≡sum of the j biggest of |X1|…|XN| …

11 central-limit-theorem  asymptotics