การทำให้เป็นมาตรฐานจะมีประโยชน์หรือไม่ถ้าเราสนใจเฉพาะการสร้างแบบจำลองไม่ใช่ในการคาดการณ์?

การทำให้เป็นมาตรฐานจะมีประโยชน์ถ้าเราสนใจเพียงการประมาณ (และการตีความ) พารามิเตอร์โมเดลไม่ใช่การพยากรณ์หรือการทำนาย?

ฉันเห็นว่าการทำให้เป็นปกติ / การตรวจสอบข้ามมีประโยชน์มากเพียงใดหากเป้าหมายของคุณคือการคาดการณ์ที่ดีเกี่ยวกับข้อมูลใหม่ แต่ถ้าคุณทำเศรษฐศาสตร์แบบดั้งเดิมและสิ่งที่คุณสนใจก็คือการประมาณ ? การตรวจสอบข้ามจะมีประโยชน์ในบริบทนั้นได้หรือไม่ ความยากลำบากทางแนวคิดที่ฉันต่อสู้คือเราสามารถคำนวณจากข้อมูลการทดสอบ แต่เราไม่สามารถคำนวณเพราะจริง\ betaเป็นไปตามคำนิยามที่ไม่เคยสังเกต (รับตามข้อสันนิษฐานที่ว่าแม้จะมีจริง\ betaนั่นคือเรารู้ว่าครอบครัวของแบบจำลองที่สร้างข้อมูล)$\beta$$\mathcal{L}\left(Y, \hat{Y}\right)$$\mathcal{L}\left(\beta, \hat{\beta}\right)$$\beta$$\beta$

สมมติว่าสูญเสียของคุณคือ$\mathcal{L}\left(\beta, \hat{\beta}\right) = \lVert \beta - \hat{\beta} \rVert$\ คุณเผชิญกับการแลกเปลี่ยนอคติแปรปรวนใช่ไหม? ดังนั้นในทางทฤษฎีคุณน่าจะใช้การปรับให้เป็นมาตรฐานได้ดีกว่า แต่คุณจะเลือกพารามิเตอร์การทำให้เป็นมาตรฐานได้อย่างไร?

ฉันยินดีที่จะเห็นตัวอย่างเชิงตัวเลขอย่างง่ายของตัวแบบการถดถอยเชิงเส้นพร้อมค่าสัมประสิทธิ์$\beta \equiv (\beta_1, \beta_2, \ldots, \beta_k)$ซึ่งฟังก์ชันการสูญเสียของนักวิจัยคือ$\lVert \beta - \hat{\beta} \rVert$หรือแม้เพียงแค่$(\beta_1 - \hat{\beta}_1)^2$ 2 ในทางปฏิบัติเราสามารถใช้การตรวจสอบข้ามเพื่อปรับปรุงการสูญเสียที่คาดหวังในตัวอย่างเหล่านั้นได้อย่างไร

แก้ไข : DJohnson ชี้ให้ฉันเห็นhttps://www.cs.cornell.edu/home/kleinber/aer15-prediction.pdfซึ่งเกี่ยวข้องกับคำถามนี้ ผู้เขียนเขียนว่า

เทคนิคการเรียนรู้ของเครื่อง ... เป็นวิธีที่มีระเบียบวินัยในการทำนาย $\hat{Y}$ซึ่ง (i) ใช้ข้อมูลของตัวเองในการตัดสินใจว่าจะทำการแลกเปลี่ยนความแปรปรวนอคติและ (ii) ช่วยให้สามารถค้นหาชุดที่สมบูรณ์มาก ตัวแปรและรูปแบบการทำงาน แต่ทุกอย่างมาในราคาที่หนึ่งจะต้องเก็บไว้ในใจว่าเพราะพวกเขามีความคืบหน้าสำหรับ$\hat{Y}$ พวกเขาไม่ได้ (โดยสมมติฐานอื่น ๆ อีกมากมาย) ให้การค้ำประกันประโยชน์มากสำหรับ$\hat{\beta}$เบต้า}

กระดาษอื่นที่เกี่ยวข้องอีกครั้งขอบคุณที่ DJohnson: http://arxiv.org/pdf/1504.01132v3.pdf บทความนี้ตอบคำถามที่ฉันต้องดิ้นรนกับสิ่งที่กล่าวมาข้างต้น:

ก. ... ความท้าทายขั้นพื้นฐานในการประยุกต์ใช้วิธีการเรียนรู้ของเครื่องเช่นต้นไม้ถดถอยออกจากชั้นวางของปัญหาการอนุมานเชิงสาเหตุคือวิธีการทำให้เป็นมาตรฐานบนพื้นฐานของการตรวจสอบข้ามโดยทั่วไปนั้นขึ้นอยู่กับการสังเกต "ความจริงพื้นฐาน" นั่นคือผลลัพธ์จริง ในตัวอย่างการตรวจสอบข้าม อย่างไรก็ตามหากเป้าหมายของเราคือลดข้อผิดพลาดกำลังสองเฉลี่ยของผลการรักษาเราพบสิ่งที่ [11] เรียกว่า "ปัญหาพื้นฐานของการอนุมานเชิงสาเหตุ": ไม่พบผลกระทบเชิงสาเหตุสำหรับแต่ละหน่วยและดังนั้นเราจึงไม่ได้โดยตรง มีความจริงพื้นดิน เราพูดถึงเรื่องนี้โดยเสนอวิธีการในการสร้างการประมาณการแบบไม่ลำเอียงของความคลาดเคลื่อนเฉลี่ยกำลังสองของผลกระทบเชิงสาเหตุของการรักษา

ใช่เมื่อเราต้องการการประมาณค่าความแปรปรวนต่ำแบบเอนเอียง ฉันชอบโพสต์ของ gung โดยเฉพาะที่นี่วิธีการหดตัวมีปัญหาอะไรแก้ได้บ้าง โปรดอนุญาตให้ฉันวางร่างของ gung ที่นี่ ...

หากคุณตรวจสอบพล็อต gung ที่ทำคุณจะชัดเจนว่าทำไมเราถึงต้องทำให้เป็นมาตรฐาน / การหดตัว ตอนแรกฉันรู้สึกแปลก ๆ ว่าทำไมเราต้องมีการประเมินแบบเอนเอียง? แต่เมื่อดูจากรูปนั้นฉันรู้ว่ามีรูปแบบความแปรปรวนต่ำมีข้อได้เปรียบมากมาย: ตัวอย่างเช่นมีความเสถียรมากกว่าในการใช้งานจริง

การตรวจสอบข้ามจะมีประโยชน์หรือไม่หากเราสนใจในการสร้างแบบจำลองเท่านั้น (เช่นการประมาณค่าพารามิเตอร์) ไม่ใช่การพยากรณ์

ใช่มันสามารถ ตัวอย่างเช่นเมื่อวันก่อนฉันใช้การประมาณค่าความสำคัญของพารามิเตอร์ผ่านต้นไม้การตัดสินใจ ทุกครั้งที่ฉันสร้างต้นไม้ฉันจะตรวจสอบข้อผิดพลาดในการตรวจสอบข้าม ฉันพยายามลดข้อผิดพลาดให้ได้มากที่สุดจากนั้นฉันจะไปยังขั้นตอนต่อไปในการประเมินความสำคัญของพารามิเตอร์ เป็นไปได้ว่าถ้าต้นไม้แรกที่คุณสร้างไม่ดีมากและคุณไม่ตรวจสอบข้อผิดพลาดคุณจะมีคำตอบที่แม่นยำน้อยลง (ถ้าไม่ผิด)

เหตุผลหลักที่ฉันเชื่อว่าเกิดจากตัวแปรควบคุมจำนวนมากที่แต่ละเทคนิคมี แม้การเปลี่ยนแปลงเล็กน้อยในตัวแปรควบคุมเดียวจะให้ผลลัพธ์ที่แตกต่าง

วิธีการปรับปรุงแบบจำลองของคุณหลังจากที่คุณตรวจสอบข้อผิดพลาดการตรวจสอบข้าม มันขึ้นอยู่กับรุ่นของคุณ หวังว่าหลังจากลองสองสามครั้งคุณจะได้รับแนวคิดเกี่ยวกับตัวแปรควบคุมที่สำคัญที่สุดและสามารถจัดการกับมันเพื่อหาข้อผิดพลาดต่ำ