ทฤษฎีทั่วไปเกี่ยวกับความมั่นคงและความเป็นไปได้เชิงเส้นกำกับของความเป็นไปได้สูงสุด


10

ฉันสนใจในการอ้างอิงที่ดีสำหรับผลลัพธ์ที่เกี่ยวข้องกับคุณสมบัติเชิงเส้นกำกับของตัวประมาณความน่าจะเป็นสูงสุด พิจารณารูปแบบที่n ( x | θ )เป็นnหนาแน่นมิติและθ nเป็น MLE ตามกลุ่มตัวอย่างX 1 , ... , X nจากf n ( θ{fn(θ):θΘ,nN}fn(xθ)nθ^nX1,,Xnfn(θ0) where θ0 is the "true" value of θ. There are two irregularities I'm interested in.

  1. The data X1,,Xn are not iid and, as a result, the Fisher information about θ accrues at a rate slower than n.
  2. Θ is a bounded set, and with positive probability θ^n lies on the boundary. The boundary corresponds to a "simpler" model, and so there is particular interest in whether or not θ0 lies on the boundary.

My particular questions are

  1. ปล่อยให้แสดงข้อมูลฟิชเชอร์ที่สังเกตสอดคล้องกับθและคิดว่าθ 0โกหกในการตกแต่งภายในของΘ ภายใต้เงื่อนไขว่าเป็น[ J n ( θ n ) ] 1 / 2 ( θ n - θ 0 )ปกติ asymptotically เป็นn →การ ? โดยเฉพาะอย่างยิ่งเป็นเงื่อนไขปกติที่คล้ายกับสภาพปกติโดยมีการปรับเปลี่ยนที่เกี่ยวข้องเป็นJ n (Jn(θ)θθ0Θ

    [Jn(θ^n)]1/2(θ^nθ0)
    nJn(θ^n)
  2. θ0θ^n=θ0Yij=μ+βi+ϵijσ^β2=0θ^nθ0θ^n=θ0 eventually (this probably fails for the mixed effects model, but corresponds to "oracle" properties for the LASSO and related estimators, so perhaps it is too much to ask for general results)?

Again, just a pointer to a text with results at this level of generality would be greatly appreciated.


คำตอบ:


7

ดูที่การสนทนาที่นี่: andrewgelman.com/2012/07/05/…
kjetil b halvorsen

1
(+1) ฉันใช้ประโยชน์จากข้อมูลอ้างอิงเหล่านี้ได้ดี มันอาจจะมีประโยชน์ที่จะรวมถึง Andrews, 1987 ( jstor.org/stable/1913568 ) โดยเฉพาะอย่างยิ่งมัน "... ชี้ให้เห็นว่าเครื่องแบบ LLN ที่ใช้บ่อยเนื่องจาก Hoadley (1971, Theorem A.5) ใช้เฉพาะกับตัวแปรสุ่มที่มีขอบเขตเท่านั้น"
ekvall
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.