การหดตัวคืออะไร?

13

การหดตัวของคำถูกโยนลงไปมากในบางวงการ แต่สิ่งที่หดตัวดูเหมือนจะไม่มีคำจำกัดความที่ชัดเจน หากฉันมีอนุกรมเวลา (หรือการรวบรวมการสังเกตของกระบวนการบางอย่าง) อะไรคือวิธีการที่แตกต่างกันที่ฉันสามารถวัดการหดตัวเชิงประจักษ์บางประเภทในซีรีย์ การหดตัวเชิงทฤษฎีประเภทต่างๆที่ฉันสามารถพูดคุยเกี่ยวกับคืออะไร? การหดตัวสามารถช่วยในการทำนายได้อย่างไร ผู้คนสามารถให้ข้อมูลเชิงลึกหรือการอ้างอิงที่ดีได้หรือไม่?

estimation predictive-models shrinkage

— Wintermute
แหล่งที่มา

1

Steyergerg: การประยุกต์ใช้เทคนิคการหดตัวในการวิเคราะห์การถดถอยโลจิสติก: กรณีศึกษาและการหดตัวและโอกาสที่ถูกลงโทษเนื่องจากวิธีการปรับปรุงความแม่นยำในการทำนายเป็นจุดเริ่มต้นที่ดี ไม่เป็นโอเพ่นซอร์ส (ฉันคิดว่า) แต่ Google จะค้นหาบทความต้นฉบับ

— charles

3

รูปแบบใด ๆ ของ normalization ของตัวประมาณที่ย้าย (ลดขนาด) การประมาณ (โดยทั่วไปไปที่ 0 หรือค่า 'null' / ค่าอื่น ๆ ที่รู้จัก); จริง ๆ แล้วการทำให้เป็นปกติที่ย้ายชุดของการประมาณการต่อกันก็เป็นชนิดของการหดตัวเช่นกัน (มันย้ายพารามิเตอร์ที่แสดงถึงความแตกต่างของพวกเขาไปยัง 0) หากคุณยังไม่เคยเห็นบทความ Wikipedia อาจมีประโยชน์

— Glen_b -Reinstate Monica

สิ่งที่เกี่ยวกับการหดตัวเชิงประจักษ์ สมมติว่าฉันมีซีรีย์เวลา ฉันสามารถพูดคุยเกี่ยวกับการหดตัวบางประเภทระหว่างตัวอย่างพอดีกับประสิทธิภาพออกมาได้หรือไม่?

— Wintermute

2

ในปี 1961 เจมส์และสไตน์ตีพิมพ์บทความที่เรียกว่า "การประมาณค่ากับการสูญเสียกำลังสอง" https://projecteuclid.org/download/pdf_1/euclid.bsmsp/1200512173 ในขณะที่มันไม่ได้เหรียญเฉพาะคำหดตัวพวกเขาหารือ minimax ประมาณสำหรับมิติสูง (อันที่จริงแม้สำหรับตำแหน่งพารามิเตอร์ 3) ที่มีความเสี่ยงน้อยกว่า (การสูญเสียที่คาดหวัง) กว่า MLE ปกติ (แต่ละองค์ประกอบค่าเฉลี่ยตัวอย่าง) สำหรับข้อมูลปกติ . Bradley Efron เรียกค้นพบของพวกเขา "ทฤษฎีบททางคณิตศาสตร์หลังสงครามที่โดดเด่นที่สุด" บทความนี้ได้รับการอ้างถึง 3,310 ครั้ง

Copas ในปี 1983 เขียนบทความแรกการถดถอยการทำนายและการหดตัวเพื่อเหรียญคำว่า "การหดตัว" มันถูกนิยามโดยนัยในนามธรรม:

ความพอดีของตัวพยากรณ์การถดถอยกับข้อมูลใหม่เกือบจะแย่กว่าความพอดีกับข้อมูลต้นฉบับ การคาดการณ์การหดตัวนี้จะนำไปสู่การทำนายชนิดของสไตน์ซึ่งภายใต้สมมติฐานบางประการให้การทำนายที่ต่ำกว่าสม่ำเสมอหมายถึงข้อผิดพลาดกำลังสองน้อยกว่ากำลังสองน้อยที่สุด

และในการวิจัยต่อเนื่องทุกครั้งดูเหมือนว่าการหดตัวหมายถึงลักษณะการดำเนินงาน (และการประเมินดังกล่าว) สำหรับความถูกต้องนอกการคาดการณ์และการประมาณค่าในบริบทของการหาตัวประมาณค่าที่ยอมรับได้และ / หรือ minimax

— Adamo
แหล่งที่มา

2

นี่เป็นเรื่องเกี่ยวกับการทำให้เป็นปกติ สมมติว่าคุณต้องการให้พอดีกับเส้นโค้งและคุณใช้ฟังก์ชั่นการสูญเสียสแควร์ (คุณสามารถเลือกที่แตกต่างกัน) โดยfitคุณต้องการกู้คืนพารามิเตอร์ที่ควบคุมกระบวนการซึ่งสร้างเส้นโค้งนั้น ทีนี้ลองนึกภาพว่าคุณต้องการใส่เส้นโค้งนี้โดยใช้พหุนามลำดับที่ 100 (ยกตัวอย่าง) คุณมีแนวโน้มที่จะมีน้ำหนักเกินหรือจับได้ทุกเส้นโค้งและเสียงของเส้นโค้ง นอกจากนี้ความสามารถในการทำนายของคุณที่อยู่นอกช่วงข้อมูลการฝึกอบรมที่ได้รับอาจจะแย่มาก ดังนั้นการทำให้เป็นมาตรฐานจะถูกเพิ่มเข้าไปในฟังก์ชันวัตถุประสงค์โดยมีน้ำหนักบางส่วนคูณด้วยปัจจัยการทำให้เป็นมาตรฐาน - l_1, l_2 หรือกำหนดเอง ในกรณีของ l_2 ซึ่งเข้าใจได้ง่ายกว่า arbuably นี่จะมีผลกระทบที่ค่าพารามิเตอร์ขนาดใหญ่จะถูกบังคับให้ลดการหดตัว aka คุณสามารถนึกถึงการทำให้เป็นปกติหรือหดตัวเป็นตัวขับเคลื่อนอัลกอริทึมของคุณไปยังโซลูชันซึ่งอาจเป็นทางออกที่ดีกว่า

— Vladislavs Dovgalecs
แหล่งที่มา