เงื่อนไขสำหรับ M-estimator เพื่อรวมเข้ากับค่าเฉลี่ยจริง

10

ตัวอย่าง iid ที่ได้รับจากการแจกแจงแบบเกาส์และตัวประมาณค่า M,คุณสมบัติใดในเพียงพอที่จะรับประกันในความน่าจะเป็น? คือเป็นนูนอย่างเคร่งครัดอย่างเคร่งครัดและเพิ่มขึ้นเพียงพอ? $X_1,...,X_n \sim N(\mu,\sigma)$ $\mu_m = \underset{a}{\operatorname{argmin}} \sum\rho(|X_i-a|)$ $\rho$ $\mu_m \rightarrow \mu$ $\rho$

estimation

— หนอนผีเสื้อ
แหล่งที่มา

เนื่องจากคุณอาจใช้จากนั้นคือค่าเฉลี่ยตัวอย่างนั่นหมายความว่ามันอาจจะไม่นูนอย่างแน่นอน แต่เพิ่มขึ้นอย่างเข้มงวดใช่ดังนั้น ... ฉันจะวางนูนหรือเพิ่มขึ้นอย่างเข้มงวดทั้งคู่ ดูเหมือนจะเพียงพอแล้ว แต่ยังต้องพิสูจน์สิ่งนี้ ความนูนที่เข้มงวดอย่างสังหรณ์ใจช่วยให้มั่นใจว่ามีจำนวนขั้นต่ำที่ไม่ซ้ำใครในโลก

ρ (x) = x

$\rho(x) = x$

μ_{m}

$\mu_m$

— Dmitrij Celov

1

บทความเรื่องAsymptotics สำหรับ minimisers ของกระบวนการนูนโดย Hjort และ Pollard อาจช่วยได้ที่นี่แม้ว่ามันจะไม่เชี่ยวชาญในการแจกแจงแบบเกาส์และมันก็ถือว่าฟังก์ชั่นความคมชัดทั่วไปคือแม้ว่าสัญกรณ์ของพวกมันคือt) นอกจากความนูนของในพวกเขาต้องการการขยายตัวของในประมาณในแง่หนึ่งที่เกี่ยวข้องกับการกระจายข้อมูล ดังนั้นไม่ใช่แค่ง่าย ๆ เพียงแค่บอกว่านูนหรือเพิ่มขึ้น แต่บางทีถ้าคุณจำกัดความเชื่อของการแจกแจงแบบเกาส์และ $\rho(x,a)$ $g(y,t)$ $g$ $t$ $g$ $t$ $\theta_0$ $\rho$ $g$ หากต้องการมีแบบฟอร์มที่คุณระบุคุณจะได้รับชุดเงื่อนไขแบบต่อเนื่อง ฉันจะเขียนทฤษฎีบทของพวกเขาใหม่ที่นี่เพื่อความสมบูรณ์ถอดความเล็กน้อย:

สมมติว่าเรามี

$Y,Y_{1},Y_{2},\ldots$ iid จากการแจกจ่าย $F$
พารามิเตอร์ที่น่าสนใจ $\theta_{0}=\theta(F)\in\cal{R}^{p}$
$\theta_{0}\in\arg\min_{t\in\cal{R}^{p}}\mathbb{E} g(Y,t)$ ที่เป็นนูนที $g(y,t)$ $t$
เรามี "การขยายตัวอ่อน" ของในประมาณ : สำหรับโดยมีค่าเฉลี่ยเป็นศูนย์ภายใต้และ สำหรับบวกเมทริกซ์แน่นอนJ $g(y,t)$ $t$ $\theta_{0}$ $g (y, θ_{0} + t) - g (y, θ_{0}) = D (y)^{T} t + R (y, t),$ $g(y,\theta_{0}+t)-g(y,\theta_{0})=D(y)^{T}t+R(y,t),$ $D(y)$ $F$ $E R (Y, t) = \frac{1}{2} t^{T} J t + o ({| t |}^{2}), as t \to 0$ $\mathbb{E} R(Y,t)=\frac{1}{2}t^{T}Jt+o(\left|t\right|^{2}),\mbox{ as }t\to0$ $J$
$\mbox{Var}[ R(Y,t) ]=o(\left|t\right|^{2})$ เป็นเสื้อ $t\to0$
$D(Y)$ มี จำกัด แปรปรวนเมทริกซ์(y) $K=\int D(y)D(y)^{T}\, dF(y)$

จากนั้นประมาณ คือรองรับสำหรับ , และไม่แสดงปกติด้วย $\hat{\theta}_{n}\in\arg\min_{\theta\in\cal{R}^{p}}\sum_{i=1}^{n}g(Y_{i},t)$ $\sqrt{n}$ $\theta_{0}$

\sqrt{n} ({\hat{θ}}_{n} - θ_{0}) \overset{d}{\to} N_{p} (0, J^{- 1} K J^{- 1}) .

$\sqrt{n}\left(\hat{\theta}_{n}-\theta_{0}\right)\stackrel{d}{\rightarrow}\mathcal{N}_{p}(0,J^{-1} K J^{-1}).$

— DavidR
แหล่งที่มา

0

นี่จะไม่ใช่คำตอบเพราะมันจะช่วยลดปัญหาของคุณไปอีกอันหนึ่ง แต่ฉันคิดว่ามันอาจมีประโยชน์ คำถามของคุณนั้นเกี่ยวกับความสอดคล้องของ M-estimator ดังนั้นก่อนอื่นเราสามารถดูผลลัพธ์ทั่วไป นี่คือผลลัพธ์จากหนังสือ van der Vaart (ทฤษฎีบท 5.7, หน้า 45):

ทฤษฎีบท Letเป็นฟังก์ชั่นแบบสุ่มและให้เป็นฟังก์ชันคงที่ของเช่นนั้นสำหรับทุก ๆ $M_n$ $M$ $\theta$ $\varepsilon>0$

sup_{θ \in Θ} | M_{n} (θ) - M (θ) | \overset{P}{\to} 0,

$\sup_{\theta\in\Theta}|M_n(\theta)-M(\theta)|\xrightarrow{P}0,$

sup_{θ : d (θ, θ_{0}) \geq ε} M (θ) < M (θ_{0}) .

$\sup_{\theta:d(\theta,\theta_0)\ge\varepsilon} M(\theta)<M(\theta_0).$

จากนั้นลำดับใด ๆ ของตัวประมาณกับลู่เข้าหา $\hat\theta_n$ $M_n(\hat\theta_n)\ge M_n(\theta_0)-o_P(1)$ $\theta_0$

ในกรณีของคุณ ,และ $\theta_0=\mu$ $M(\theta)=E\rho(|X-\theta|)$ $M_n(\theta)=\frac{1}{n}\sum \rho(|X_i-\theta|)$

เงื่อนไขที่สำคัญที่นี่คือการบรรจบกันอย่างสม่ำเสมอ ในหน้า 46 van der Vaart พูดว่า

สำหรับค่าเฉลี่ยซึ่งเป็นกรณีของคุณเงื่อนไขนี้เทียบเท่ากับชุดของฟังก์ชั่น (ในกรณีของคุณ) กำลัง Glivenko -Canteli ชุดของเงื่อนไขที่เพียงพออย่างง่ายคือจะกะทัดรัดซึ่งฟังก์ชั่นนั้นต่อเนื่องสำหรับทุก ๆและ> พวกมันถูกครอบงำโดยฟังก์ชันที่รวมได้ $\{m_\theta, \theta\in\Theta\}$ $m_\theta=\rho(|x-\theta|)$ $\Theta$ $\theta\to m_\theta(x)$ $x$

ในWooldridgeผลลัพธ์นี้ถูกกำหนดเป็นทฤษฎีบทที่เรียกว่า Uniform Weak Law of Large Numbers หน้า 347 (ฉบับพิมพ์ครั้งแรก) ทฤษฎีบท 12.1 มันเพิ่มข้อกำหนดในการวัดค่าให้กับสิ่งที่ van der Vaart ระบุเท่านั้น

ในกรณีของคุณคุณสามารถเลือกสำหรับบางตัวดังนั้นคุณต้องแสดงว่ามีฟังก์ชันเช่นนั้น $\Theta=[\mu-C,\mu+C]$ $C$ $b$

| ρ (| x - θ |) | \leq b (x)

$|\rho(|x-\theta|)|\le b(x)$

สำหรับทุกเช่นว่าEbทฤษฎีฟังก์ชั่นนูนอาจช่วยได้ที่นี่เนื่องจากคุณสามารถใช้ขั้นพื้นฐานได้ $\theta\in\Theta$ $Eb(X)<\infty$

b (x) = sup_{θ \in Θ} | ρ (| x - θ |) | .

$b(x)=\sup_{\theta\in\Theta}|\rho(|x-\theta|)|.$

หากฟังก์ชั่นนี้มีคุณสมบัติที่ดีแล้วคุณก็พร้อมที่จะไป

— mpiktas
แหล่งที่มา