ความประหยัดควรเป็นมาตรฐานทองคำหรือไม่

แค่ความคิด:

แบบจำลองทางเลือกมักเป็นตัวเลือกเริ่มต้นในการเลือกรุ่น แต่วิธีนี้ล้าสมัยไปมากแค่ไหน? ฉันอยากรู้ว่าแนวโน้มของเราที่มีต่อช่วงเวลาที่เป็น parsimony นั้นเป็นเพียงช่วงเวลาหนึ่งของกฎ abaci และสไลด์ (หรือคอมพิวเตอร์ที่ไม่ทันสมัยอย่างจริงจังมากขึ้น) พลังการคำนวณของวันนี้ทำให้เราสามารถสร้างแบบจำลองที่ซับซ้อนมากขึ้นพร้อมความสามารถในการทำนายที่มากขึ้น จากผลของเพดานที่เพิ่มขึ้นในพลังการคำนวณนี้เรายังคงต้องหันเหความสนใจไปยังความเรียบง่ายหรือไม่

แน่นอนว่าโมเดลที่เรียบง่ายนั้นง่ายต่อการเข้าใจและตีความ แต่ในยุคของชุดข้อมูลที่มีจำนวนเพิ่มขึ้นเรื่อย ๆ พร้อมกับจำนวนตัวแปรที่มากขึ้นและการเปลี่ยนไปสู่การมุ่งเน้นที่ความสามารถในการทำนายมากขึ้น

คิด?

คำตอบเริ่มแรกของ @ Matt นั้นเป็นงานที่ยอดเยี่ยมในการอธิบายถึงหนึ่งในประโยชน์ของการประหยัดเงิน แต่ฉันไม่คิดว่ามันจะตอบคำถามของคุณได้จริง ในความเป็นจริง parsimony ไม่ใช่มาตรฐานทองคำ ไม่ใช่ตอนนี้หรือไม่เคยเป็นมาก่อน "มาตรฐานทองคำ" ที่เกี่ยวข้องกับ parsimony เป็นข้อผิดพลาดทั่วไป เราต้องการพัฒนาแบบจำลองที่ไม่เหมาะสม ที่มีประโยชน์สำหรับการคาดการณ์ (หรือตีความได้หรือมีข้อผิดพลาดน้อยที่สุด) จากตัวอย่างตามที่อยู่ในตัวอย่าง ปรากฎ (เพราะสิ่งที่วางไว้ด้านบน) ที่จริง parsimony เป็นพร็อกซีที่ดีสำหรับข้อผิดพลาดในการวางนัยทั่วไป

จริงๆลองคิดดูว่าทำไมเราถึงใช้การตรวจสอบความถูกต้องหรือความไม่สอดคล้องกัน เป้าหมายคือการสร้างแบบจำลองที่มีความแม่นยำในการวางนัยทั่วไปที่ดี หลายครั้งที่วิธีการประมาณประสิทธิภาพตัวอย่างเหล่านี้ทำให้เลือกรุ่นที่มีความซับซ้อนลดลง แต่ไม่เสมอไป ในฐานะที่เป็นตัวอย่างที่ยอดเยี่ยมจินตนาการว่า oracle ส่งแบบจำลองที่แท้จริง แต่ซับซ้อนอย่างยิ่งให้กับเรา ถ้า parsimony เป็นเป้าหมายของเราจริงๆแล้วเราจะเลือกอันดับที่สอง แต่ในความเป็นจริงอันดับแรกคือสิ่งที่เราต้องการเรียนรู้หากทำได้ น่าเสียดายที่หลายครั้งที่ประโยคสุดท้ายคือนักเตะ "ถ้าเราทำได้"

แบบจำลองที่มีคุณสมบัติเป็นที่พึงปรารถนาไม่เพียง แต่เกิดจากความต้องการด้านการประมวลผลเท่านั้น แต่ยังรวมถึงประสิทธิภาพทั่วไป มันเป็นไปไม่ได้ที่จะบรรลุถึงอุดมคติของข้อมูลที่ไม่มีที่สิ้นสุดซึ่งครอบคลุมพื้นที่ตัวอย่างอย่างสมบูรณ์และถูกต้องซึ่งหมายความว่าแบบจำลองที่ไม่มีการให้คะแนนมีศักยภาพที่จะทำให้เกิดสัญญาณรบกวนมากเกินไป

แน่นอนว่ามีความเป็นไปได้ที่จะสร้างแบบจำลองที่มีตัวแปรนับล้าน แต่คุณจะใช้ตัวแปรที่ไม่มีผลกระทบต่อผลลัพธ์ในการสร้างแบบจำลองระบบ คุณสามารถบรรลุผลการทำนายที่ยอดเยี่ยมในชุดข้อมูลการฝึกอบรมของคุณ แต่ตัวแปรที่ไม่เกี่ยวข้องเหล่านั้นจะลดประสิทธิภาพของคุณลงในชุดทดสอบที่มองไม่เห็น

หากตัวแปรการส่งออกอย่างแท้จริงเป็นผลมาจากตัวแปรล้านแล้วคุณจะทำอย่างไรดีที่จะนำพวกเขาทั้งหมดในรูปแบบการทำนายของคุณ แต่ถ้าคุณมีข้อมูลเพียงพอ หากต้องการสร้างแบบจำลองขนาดนี้อย่างถูกต้องคุณต้องมีจุดข้อมูลหลายล้านจุดอย่างน้อยที่สุด แบบจำลองทางด้านจิตใจนั้นเป็นสิ่งที่ดีเพราะในหลาย ๆ ระบบในโลกแห่งความจริงชุดข้อมูลขนาดนี้ก็ไม่สามารถใช้งานได้และนอกจากนี้ผลลัพธ์ยังถูกกำหนดโดยตัวแปรจำนวนเล็กน้อย

ฉันคิดว่าคำตอบก่อนหน้านี้ทำงานได้ดีในการทำประเด็นสำคัญ:

• แบบจำลองทางการเงินมักจะมีลักษณะทั่วไปที่ดีกว่า
• Parsimony ไม่ได้เป็นมาตรฐานทองคำอย่างแท้จริง แต่เป็นเพียงการพิจารณา

ฉันต้องการที่จะเพิ่มความคิดเห็นบางส่วนที่มาจากประสบการณ์การทำงานแบบวันต่อวัน

การวางหลักเกณฑ์การโต้แย้งความถูกต้องแม่นยำโดยทั่วไปนั้นมีความแข็งแกร่ง แต่มีอคติเชิงวิชาการในการมุ่งเน้น โดยทั่วไปเมื่อสร้างแบบจำลองทางสถิติเศรษฐกิจไม่ได้เป็นเช่นนั้นว่าประสิทธิภาพการทำนายเป็นการพิจารณาที่โดดเด่นอย่างสมบูรณ์ บ่อยครั้งที่มีข้อ จำกัด จากภายนอกขนาดใหญ่ว่าโมเดลที่มีประโยชน์มีลักษณะอย่างไรสำหรับแอปพลิเคชันที่ระบุ:

• โมเดลต้องสามารถนำไปใช้งานได้ภายในกรอบงานหรือระบบที่มีอยู่
• โมเดลต้องเข้าใจได้โดยนิติบุคคลที่ไม่ใช่ด้านเทคนิค
• ตัวแบบต้องมีประสิทธิภาพในการคำนวณ
• รูปแบบจะต้องdocumentable
• รูปแบบจะต้องผ่านข้อ จำกัด ของกฎระเบียบ

ในโดเมนแอปพลิเคชันจริงจำนวนมากถ้าไม่ใช่ทั้งหมดของการพิจารณาเหล่านี้มาก่อนไม่ใช่หลังประสิทธิภาพการทำนาย - และการเพิ่มประสิทธิภาพของแบบฟอร์มและพารามิเตอร์ถูกจำกัดโดยความต้องการเหล่านี้ ข้อ จำกัด เหล่านี้ทำให้นักวิทยาศาสตร์มีอคติต่ออคติ

อาจเป็นจริงว่าในหลายโดเมนข้อ จำกัด เหล่านี้จะถูกยกขึ้นอย่างค่อยเป็นค่อยไป แต่เป็นนักวิทยาศาสตร์ที่โชคดีที่ได้รับการเพิกเฉยพวกเขาจะมุ่งเน้นไปที่การลดข้อผิดพลาดทั่วไป

สิ่งนี้น่าหงุดหงิดมากสำหรับนักวิทยาศาสตร์ครั้งแรกที่เพิ่งออกจากโรงเรียน (มันแน่นอนสำหรับฉันและยังคงเป็นเมื่อฉันรู้สึกว่าข้อ จำกัด ในการทำงานของฉันไม่ได้เป็นธรรม) แต่ในที่สุดการทำงานอย่างหนักเพื่อผลิตผลิตภัณฑ์ที่ไม่สามารถยอมรับได้ก็คือของเสียและนั่นทำให้รู้สึกแย่ไปกว่าความภาคภูมิใจทางวิทยาศาสตร์ของคุณ

ฉันคิดว่านี่เป็นคำถามที่ดีมาก ในความคิดของฉัน parsimony overrated ธรรมชาตินั้นไม่ค่อยให้ความสำคัญและดังนั้นเราไม่ควรคาดหวังว่าแบบจำลองการทำนายหรือแบบพรรณนาที่แม่นยำจะเป็นเช่นนั้น เกี่ยวกับคำถามเกี่ยวกับการตีความถ้าคุณเลือกรูปแบบที่เรียบง่ายกว่าที่สอดคล้องกับความเป็นจริงเพียงเพราะคุณสามารถเข้าใจได้สิ่งที่คุณเข้าใจคืออะไร? สมมติว่าแบบจำลองที่ซับซ้อนยิ่งกว่านั้นมีพลังการทำนายที่ดีกว่ามันก็จะปรากฏขึ้นใกล้กับข้อเท็จจริงที่แท้จริงอย่างไรก็ตาม

Parsimony ไม่ใช่จุดเริ่มต้นที่เป็นสีทอง มันเป็นมุมมองในการสร้างแบบจำลอง การสร้างแบบจำลองและการพยากรณ์โดยเฉพาะไม่สามารถเขียนสคริปต์ได้เช่นคุณไม่สามารถส่งสคริปต์ไปยังผู้สร้างโมเดลเพื่อติดตามได้ คุณควรกำหนดหลักการที่กระบวนการสร้างแบบจำลองจะต้องใช้ ดังนั้น parsimony เป็นหนึ่งในหลักการเหล่านี้การประยุกต์ใช้ซึ่งไม่สามารถสคริปต์ (อีกครั้ง!) ผู้สร้างแบบจำลองจะพิจารณาความซับซ้อนเมื่อเลือกรุ่น

พลังการคำนวณมีส่วนเกี่ยวข้องกับสิ่งนี้เพียงเล็กน้อย หากคุณอยู่ในอุตสาหกรรมโมเดลของคุณจะถูกใช้โดยกลุ่มธุรกิจคนผลิตภัณฑ์หรือใครก็ตามที่คุณโทรหาพวกเขา คุณต้องอธิบายรูปแบบของพวกเขาก็ควรให้ความรู้สึกให้กับพวกเขา การมีแบบจำลองทางการเงินช่วยในเรื่องนี้

ตัวอย่างเช่นคุณคาดการณ์ยอดขายผลิตภัณฑ์ คุณควรจะสามารถอธิบายสิ่งที่เป็นแรงผลักดันการขายและวิธีการทำงาน สิ่งเหล่านี้ต้องเกี่ยวข้องกับแนวคิดที่ดำเนินธุรกิจและความสัมพันธ์จะต้องเข้าใจและยอมรับโดยธุรกิจ ด้วยแบบจำลองที่ซับซ้อนอาจเป็นเรื่องยากมากที่จะตีความผลลัพธ์ของแบบจำลองหรือแอตทริบิวต์ความแตกต่างกับของจริง หากคุณไม่สามารถอธิบายแบบจำลองของคุณกับธุรกิจคุณจะไม่ได้รับความสนใจ

อีกสิ่งหนึ่งที่สำคัญอย่างยิ่งสำหรับการพยากรณ์ สมมติว่าแบบจำลองของคุณขึ้นอยู่กับตัวแปรภายนอก ซึ่งหมายความว่าคุณต้องรับการคาดการณ์ของตัวแปรเหล่านี้ก่อนเพื่อคาดการณ์ตัวแปรตาม การมี N ที่เล็กกว่าจะทำให้ชีวิตของคุณง่ายขึ้นดังนั้นโมเดลที่ง่ายกว่าจึงใช้งานได้ง่ายกว่า

บางทีอาจมีการทบทวนAkaike Information Criterionซึ่งเป็นแนวคิดที่ฉันค้นพบโดยบังเอิญเมื่อวานนี้เท่านั้น AIC พยายามที่จะระบุว่าตัวแบบใดและพารามิเตอร์จำนวนมากที่สุดคือคำอธิบายที่ดีที่สุดสำหรับการสังเกตการณ์ที่อยู่ในมือแทนที่จะเป็น Razor พื้นฐานของ Occam