ทำไมตัวประมาณ James-Stein จึงเรียกตัวประมาณว่า

ฉันได้อ่านเกี่ยวกับตัวประมาณ James-Stein มันถูกกำหนดไว้ในบันทึกนี้เป็น

\hat{θ} = (1 - \frac{p - 2}{‖ X ‖^{2}}) X

$\hat{\theta}=\left(1 - \frac{p-2}{\|X\|^2}\right)X$

ฉันได้อ่านหลักฐานแล้ว แต่ฉันไม่เข้าใจข้อความต่อไปนี้:

ตัวประเมินเจมส์ - สไตน์ย่อตัวส่วนประกอบแต่ละส่วนของเข้าหาจุดกำเนิด ... $X$

"ย่อส่วนแต่ละส่วนของไปทางต้นกำเนิด" หมายความว่าอย่างไร ฉันกำลังคิดว่าจะชอบ ซึ่งเป็นจริงในกรณีนี้ตราบใดที่ตั้งแต่ $X$

‖ \hat{θ} - 0 ‖^{2} < ‖ X - 0 ‖^{2},

$\|\hat{\theta} - 0\|^2 < \|X - 0\|^2,$

(p + 2) < ‖ X ‖^{2}

$(p+2) < \|X\|^2$

‖ \hat{θ} ‖ = \frac{‖ X ‖^{2} - (p + 2)}{‖ X ‖^{2}} ‖ X ‖ .

$\|\hat{\theta}\| = \frac{\|X\|^2 - (p+2)}{\|X\|^2} \|X\|.$

นี่คือสิ่งที่ผู้คนหมายถึงเมื่อพวกเขาพูดว่า "ลดลงสู่ศูนย์" เพราะในความรู้สึกปกติของ $L^2$ ตัวประมาณค่า JS ใกล้เคียงกับศูนย์มากกว่า $X$ หรือไม่?

อัปเดตตั้งแต่วันที่22/09/2017 : วันนี้ฉันรู้ว่าบางทีฉันอาจจะเป็นเรื่องยุ่งยากเกินไป ดูเหมือนว่าผู้คนหมายถึงจริงๆว่าเมื่อคุณคูณ $X$ ด้วยสิ่งที่เล็กกว่า $1$ กล่าวคือคำว่า $\frac{\|X\|^2 - (p + 2)}{\|X\|^2}$ , แต่ละองค์ประกอบของ $X$ จะเล็กกว่าที่เคยเป็น

— 3x89g2
แหล่งที่มา

บางครั้งรูปภาพมีค่าหนึ่งพันคำดังนั้นให้ฉันแบ่งปันกับคุณ ด้านล่างนี้คุณสามารถดูภาพประกอบที่มาจากแบรดลีย์ Efron ของ (1977) กระดาษความขัดแย้งของสไตน์ในสถิติ อย่างที่คุณเห็นสิ่งที่ตัวประมาณสไตน์ทำคือเคลื่อนย้ายค่าแต่ละค่าให้ใกล้เคียงกับค่าเฉลี่ยยิ่งใหญ่ มันทำให้ค่ามากกว่าค่าเฉลี่ยยิ่งใหญ่เล็กลงและค่าเล็กกว่าค่าเฉลี่ยยิ่งใหญ่มากขึ้น โดยการหดตัวเราหมายถึงการย้ายค่าไปยังค่าเฉลี่ยหรือไปยังศูนย์ในบางกรณี - เช่นการถดถอยปกติ - ซึ่งจะลดขนาดพารามิเตอร์ไปทางศูนย์

แน่นอนว่ามันไม่เพียง แต่เกี่ยวกับการหดตัวเท่านั้น แต่สิ่งที่สไตน์ (1956)และเจมส์และสไตน์ (1961)ได้พิสูจน์ก็คือตัวประมาณของสไตน์เป็นผู้ประเมินความน่าจะเป็นสูงสุดในแง่ของความคลาดเคลื่อนกำลังสองทั้งหมด

E_{μ} (‖ {\hat{μ}}^{J S} - μ ‖^{2}) < E_{μ} (‖ {\hat{μ}}^{M L E} - μ ‖^{2})

$E_\mu(\| \boldsymbol{\hat\mu}^{JS} - \boldsymbol{\mu} \|^2) < E_\mu(\| \boldsymbol{\hat\mu}^{MLE} - \boldsymbol{\mu} \|^2)$

โดยที่ ,เป็นผู้ประเมินของสไตน์และ , โดยที่ ทั้งตัวประมาณอยู่ที่ประมาณในตัวอย่าง หลักฐานจะได้รับในเอกสารต้นฉบับและภาคผนวกของกระดาษที่คุณอ้างถึง ในภาษาอังกฤษธรรมดา ๆ สิ่งที่พวกเขาแสดงคือถ้าคุณทำการเดาพร้อมกันแล้วในแง่ของข้อผิดพลาดกำลังสองรวมคุณจะทำได้ดีกว่าโดยลดขนาดลงเมื่อเทียบกับการคาดเดาเริ่มต้นของคุณ $\boldsymbol{\mu} = (\mu_1,\mu_2,\dots,\mu_p)'$ $\hat\mu^{JS}_i$ $\hat\mu^{MLE}_i = x_i$ $x_1,x_2,\dots,x_p$ $p > 2$

ในที่สุดตัวประมาณสไตน์ไม่ได้เป็นตัวประมาณเท่านั้นที่ให้ผลการหดตัว สำหรับตัวอย่างอื่นคุณสามารถตรวจสอบรายการบล็อกนี้หรือหนังสือวิเคราะห์ข้อมูลแบบเบย์ที่อ้างถึงโดย Gelman et al นอกจากนี้คุณยังสามารถตรวจสอบหัวข้อเกี่ยวกับการถดถอยปกติเช่นวิธีการหดตัวแก้ไขปัญหาอะไร หรือเมื่อใดที่จะใช้วิธีการทำให้เป็นมาตรฐานสำหรับการถดถอย สำหรับการใช้งานจริงอื่น ๆ ของเอฟเฟกต์นี้

— ทิม
แหล่งที่มา

บทความดูเหมือนว่ามีประโยชน์และฉันจะอ่าน ฉันได้อัปเดตคำถามเพื่ออธิบายความคิดของฉันเพิ่มเติม คุณช่วยดูหน่อยได้ไหม? ขอบคุณ!

— 3x89g2

@ ฉันคิดว่าอาร์กิวเมนต์ Misakov นั้นถูกต้องตามกฎหมายซึ่งตัวประมาณ James-Stein นำตัวประมาณเข้าใกล้ศูนย์มากกว่า MLE Zero มีบทบาทเป็นศูนย์กลางและเป็นศูนย์กลางในตัวประมาณนี้และตัวประมาณของ James-Stein สามารถสร้างขึ้นได้ซึ่งจะหดตัวลงไปสู่ศูนย์กลางอื่นหรือแม้แต่พื้นที่ย่อย (เช่นใน George, 1986) ตัวอย่างเช่น Efron และ Morris (1973) หดตัวลงไปสู่ค่าเฉลี่ยทั่วไปซึ่งมีจำนวนเท่ากับพื้นที่ย่อยแนวทแยง

θ

$\theta$

— ซีอาน