อะไรคือเหตุผลที่การเปลี่ยนแปลงการบันทึกใช้กับการแจกแจงแบบเบ้ขวา?

ฉันเคยได้ยินว่า

การแปลงท่อนซุงเป็นที่นิยมกันมากที่สุดสำหรับการแจกแจงแบบเบ้ด้านขวาในการถดถอยเชิงเส้นหรือการถดถอยเชิงปริมาณ

ฉันต้องการทราบว่ามีเหตุผลใดบ้างที่อยู่ภายใต้ข้อความนี้? ทำไมการแปลงบันทึกจึงเหมาะสมสำหรับการแจกแจงเบ้ที่ถูกต้อง

วิธีการกระจายซ้ายเอียง?

นักเศรษฐศาสตร์ (เช่นฉัน) รักการเปลี่ยนแปลงบันทึก เรารักมันโดยเฉพาะในแบบจำลองการถดถอยเช่นนี้:

ทำไมเราถึงรักมันมาก นี่คือรายการของเหตุผลที่ฉันให้นักเรียนเมื่อฉันบรรยายมัน:

1. มันเคารพ positivity ของYหลายครั้งในการใช้งานจริงในทางเศรษฐศาสตร์และที่อื่น ๆYคือโดยธรรมชาติเป็นจำนวนบวก มันอาจจะเป็นราคาอัตราภาษีปริมาณการผลิตต้นทุนการผลิตการใช้จ่ายในสินค้าบางประเภท ฯลฯ ค่าที่คาดการณ์จากการถดถอยเชิงเส้นที่ไม่แปลรูปอาจเป็นค่าลบ ค่าที่คาดการณ์จากการถดถอยที่บันทึกการแปลงไม่สามารถเป็นค่าลบได้ พวกเขาเป็นY J = ประสบการณ์( β 1 + β 2 LN X J ) ⋅ $Y$$Y$(ดูคำตอบก่อนหน้านี้ของฉันสำหรับการสืบทอด)$\widehat{Y}_j=\exp{\left(\beta_1 + \beta_2 \ln{X_j}\right)} \cdot \frac{1}{N} \sum \exp{\left(e_i\right)}$
2. รูปแบบการทำงานของบันทึกการทำงานนั้นยืดหยุ่นอย่างน่าประหลาดใจ ประกาศ: ซึ่งให้เรา: นั่นเป็นรูปทรงที่แตกต่างกันมาก เส้น (ซึ่งความชันจะถูกกำหนดโดยexp ( β 1 ) , ซึ่งอาจมีความชันเป็นบวก), ไฮเพอร์โบลา, พาราโบลาและรูปร่าง "สแควร์รูทเหมือน" ฉันวาดมันด้วยβ1=0และϵ=0แต่ในแอปพลิเคชันจริงทั้งสองนี้จะไม่เป็นจริงดังนั้นความชันและความสูงของเส้นโค้งที่X $$\begin{align} \ln{Y_i} &= \beta_1 + \beta_2 \ln{X_i} + \epsilon_i \\ Y_i &= \exp{\left(\beta_1 + \beta_2 \ln{X_i}\right)}\cdot\exp{\left(\epsilon_i\right)}\\ Y_i &= \left(X_i\right)^{\beta_2}\exp{\left(\beta_1\right)}\cdot\exp{\left(\epsilon_i\right)}\\ \end{align}$$ $\exp{\left(\beta_1\right)}$$\beta_1=0$$\epsilon=0$จะถูกควบคุมโดยสิ่งเหล่านั้นแทนที่จะตั้งไว้ที่ 1$X=1$
3. ดังที่ TrynnaDoStat กล่าวถึงรูปแบบบันทึกการใช้งาน "ดึง" ค่าขนาดใหญ่ซึ่งมักจะทำให้ข้อมูลดูง่ายขึ้นและบางครั้งทำให้ความแปรปรวนของการสังเกตเป็นปกติ
4. สัมประสิทธิ์ถูกตีความว่าเป็นความยืดหยุ่น มันเป็นเปอร์เซ็นต์การเพิ่มYจากการเพิ่มขึ้นร้อยละหนึ่งในX$\beta_2$$Y$$X$
5. ถ้าเป็นตัวแปรจำลองคุณรวมไว้โดยไม่ทำการบันทึก ในกรณีนี้β 2คือความแตกต่างร้อยละYระหว่างX = 1หมวดหมู่และX = 0หมวดหมู่$X$$\beta_2$$Y$$X=1$$X=0$
6. ถ้าเป็นเวลาคุณต้องรวมอีกครั้งโดยไม่ต้องบันทึก ในกรณีนี้β 2คืออัตราการเติบโตในY - วัดในหน่วยเวลาใดก็ตามที่Xถูกวัดถ้าหากXคือปีค่าสัมประสิทธิ์คืออัตราการเติบโตประจำปีในYเป็นต้น$X$$\beta_2$$Y$$X$$X$$Y$
7. ค่าสัมประสิทธิ์ความชัน, , กลายเป็นค่าคงที่ ซึ่งหมายความว่าในแง่หนึ่งว่ามันไม่มีหน่วยและในทางกลับกันถ้าคุณปรับมาตราส่วน (เช่นเปลี่ยนหน่วยของ) XหรือYมันจะไม่มีผลกับค่าโดยประมาณของβ 2 . อย่างน้อยก็กับ OLS และตัวประมาณอื่น ๆ ที่เกี่ยวข้อง$\beta_2$$X$$Y$$\beta_2$
8. หากข้อมูลของคุณมีการกระจายโดยทั่วไปบันทึกการเปลี่ยนแปลงการบันทึกจะทำให้พวกเขากระจายตามปกติ ข้อมูลที่กระจายตามปกติจะมีจำนวนมากสำหรับพวกเขา

นักสถิติพบว่านักเศรษฐศาสตร์มีความกระตือรือร้นอย่างมากเกี่ยวกับการเปลี่ยนแปลงข้อมูลนี้โดยเฉพาะ ฉันคิดว่านี่เป็นเพราะพวกเขาตัดสินจุดที่ 8 ของฉันและช่วงครึ่งหลังของจุดที่ 3 ของฉันมีความสำคัญมาก ดังนั้นในกรณีที่ข้อมูลไม่กระจายตามปกติหรือการบันทึกข้อมูลไม่ส่งผลให้ข้อมูลที่ถูกแปลงมีความแปรปรวนเท่ากันตลอดการสังเกตสถิติจะไม่ชอบการเปลี่ยนแปลงมากนัก นักเศรษฐศาสตร์มีแนวโน้มที่จะกระโดดไปข้างหน้าต่อไปเนื่องจากสิ่งที่เราชอบเกี่ยวกับการเปลี่ยนแปลงคือคะแนน 1,2 และ 4-7

ก่อนอื่นเรามาดูกันว่าเกิดอะไรขึ้นเมื่อเราบันทึกสิ่งที่เอียง

แถวบนสุดมีฮิสโทแกรมสำหรับตัวอย่างจากการแจกแจงที่ต่างกันสามแบบ

แถวด้านล่างมีฮิสโทแกรมสำหรับบันทึกของพวกเขา

$y$$x$$z$ ) ยังคงเอียงเล็กน้อย (แม้) เล็กน้อยแม้หลังจากบันทึกแล้วก็ตาม

ถ้าเราต้องการให้การกระจายของเราดูเป็นปกติยิ่งขึ้นการแปลงจะปรับปรุงกรณีที่สองและสามอย่างแน่นอน เราเห็นได้ว่าสิ่งนี้อาจช่วยได้

แล้วทำไมมันถึงได้ผล

โปรดทราบว่าเมื่อเราดูรูปภาพของรูปร่างการกระจายเราไม่ได้พิจารณาค่าเฉลี่ยหรือส่วนเบี่ยงเบนมาตรฐานซึ่งจะมีผลกับฉลากบนแกน

ดังนั้นเราสามารถจินตนาการถึงการมองหาตัวแปร "มาตรฐาน" บางประเภท (ในขณะที่ยังคงเป็นบวกทุกคนมีที่ตั้งและการแพร่กระจายที่คล้ายกันพูด)

การบันทึก "ดึง" ค่าสุดขีดมากขึ้นทางด้านขวา (ค่าสูง) สัมพันธ์กับค่ามัธยฐานในขณะที่ค่าที่ด้านซ้ายสุด (ค่าต่ำ) มีแนวโน้มที่จะยืดกลับห่างจากค่ามัธยฐาน

$x$$y$$z$

$y$มันคือ 5 ควอไทล์ควอเทอร์ช่วงเหนือค่ามัธยฐาน

แต่เมื่อเรานำท่อนซุงมันจะถูกดึงกลับไปยังค่ามัธยฐาน หลังจากบันทึกมันเป็นเพียงประมาณ2 interquartile ช่วงเหนือค่ามัธยฐาน

$y$

ไม่มีอุบัติเหตุที่อัตราส่วนของ 750/150 และ 150/30 เป็น 5 ทั้งเมื่อ log (750) และ log (30) จบลงด้วยระยะทางที่ห่างจากค่ามัธยฐานของ log (y) นั่นเป็นวิธีที่บันทึกการทำงาน - การแปลงอัตราส่วนคงที่เป็นความแตกต่างคงที่

ไม่ใช่กรณีที่บันทึกจะช่วยได้อย่างชัดเจน ตัวอย่างเช่นถ้าคุณพูดว่าตัวแปรสุ่ม lognormal แล้วเลื่อนไปทางขวาอย่างมีนัยสำคัญ (เช่นเพิ่มค่าคงที่ที่มีขนาดใหญ่ลงไป) เพื่อให้ค่าเฉลี่ยกลายเป็นใหญ่เมื่อเทียบกับค่าเบี่ยงเบนมาตรฐานจากนั้นการบันทึกของมันจะสร้างความแตกต่าง รูปร่าง. มันจะเบ้น้อยกว่า - แต่แทบจะไม่

แต่การแปลงอื่น ๆ - สแควร์รูทจะบอกว่าจะดึงค่าที่มากเช่นนั้น เหตุใดบันทึกจึงได้รับความนิยมมากกว่า

$-0.162$ในบันทึกธรรมชาติคือการลดลง 15% ในหมายเลขเดิมไม่ว่าหมายเลขเดิมจะใหญ่แค่ไหน

ข้อมูลทางเศรษฐกิจและการเงินจำนวนมากมีลักษณะเช่นนี้ (ผลกระทบคงที่หรือใกล้คงที่ในระดับเปอร์เซ็นต์) สเกลบันทึกนั้นสมเหตุสมผลมากในกรณีนี้ ยิ่งกว่านั้นอันเป็นผลมาจากเอฟเฟกต์เปอร์เซ็นต์ การแพร่กระจายของค่ามีแนวโน้มที่จะมีขนาดใหญ่ขึ้นเมื่อค่าเฉลี่ยเพิ่มขึ้น - และการบันทึกยังมีแนวโน้มที่จะรักษาเสถียรภาพของการแพร่กระจาย ซึ่งมักมีความสำคัญมากกว่าปกติ แน่นอนว่าการแจกแจงทั้งสามในแผนภาพดั้งเดิมนั้นมาจากครอบครัวซึ่งค่าเบี่ยงเบนมาตรฐานจะเพิ่มขึ้นตามค่าเฉลี่ยและในแต่ละกรณีการบันทึกจะทำให้เกิดความแปรปรวน [สิ่งนี้ไม่ได้เกิดขึ้นกับข้อมูลที่บิดเบือนทั้งหมด เป็นเรื่องธรรมดามากในการเรียงลำดับข้อมูลที่ปลูกในพื้นที่เฉพาะของแอปพลิเคชัน]

นอกจากนี้ยังมีบางครั้งที่สแควร์รูทจะทำให้สิ่งต่าง ๆ สมมาตรมากขึ้น แต่มันมีแนวโน้มที่จะเกิดขึ้นกับการแจกแจงแบบเบ้น้อยกว่าที่ฉันใช้ในตัวอย่างของฉันที่นี่

เราสามารถสร้างตัวอย่างเอียงขวาอย่างอ่อนโยนอีกสามชุดได้โดยที่รากที่สองทำมุมเอียงซ้ายหนึ่งสมมาตรและอีกอันหนึ่งยังเอียงขวา (แต่เอียงน้อยกว่าเดิมเล็กน้อย)

แล้วการแจกแจงแบบเบ้ซ้ายล่ะ?

หากคุณใช้การเปลี่ยนแปลงเข้าสู่ระบบเพื่อกระจายสมมาตรก็จะมีแนวโน้มที่จะทำให้มันเอียงซ้ายด้วยเหตุผลเดียวกันมันมักจะทำให้แก่ลาดหนึ่งสมมาตรมากขึ้น - เห็นการอภิปรายที่เกี่ยวข้องกันที่นี่

ตามลําดับหากคุณใช้การแปลงการบันทึกกับสิ่งที่เหลืออยู่แล้วมันจะมีแนวโน้มที่จะทำให้เอียงไปทางซ้ายมากขึ้นดึงสิ่งที่อยู่เหนือค่ามัธยฐานให้แน่นยิ่งขึ้น

ดังนั้นการแปลงบันทึกจึงไม่มีประโยชน์

ดูการเปลี่ยนแปลงพลังงาน / บันไดของ Tukey การแจกแจงที่เอียงซ้ายอาจทำให้สมมาตรได้มากกว่าโดยการใช้กำลัง (มากกว่า 1 กำลังสองบอกว่า) หรือโดยการยกกำลัง หากมีขอบเขตบนที่เห็นได้ชัดใคร ๆ ก็อาจลบการสังเกตออกจากขอบบน (ให้ผลการเบ้ที่ถูกต้อง) และจากนั้นพยายามแปลงมัน

$y = ln(x)$$x$

ตอนนี้ในการแจกแจงแบบเบ้ด้านขวาคุณมีค่าที่น้อยมาก การแปลงบันทึกเป็นหลักทำให้ค่าเหล่านี้กลายเป็นศูนย์กลางของการแจกแจงทำให้ดูคล้ายกับการแจกแจงแบบปกติ

คำตอบทั้งหมดเหล่านี้เป็นยอดขายสำหรับการแปลงสภาพธรรมชาติ มีข้อแม้เพื่อการใช้งาน, คำเตือนที่ปรับเปลี่ยนได้ทั่วไปและการแปลงใด ๆ ตามกฎทั่วไปการแปลงทางคณิตศาสตร์ทั้งหมดจะช่วยปรับเปลี่ยน PDF ของตัวแปรดิบพื้นฐานไม่ว่าจะเป็นการบีบอัดขยายขยายกลับลดขนาดหรืออะไรก็ตาม ความท้าทายที่ยิ่งใหญ่ที่สุดที่นำเสนอจากมุมมองเชิงปฏิบัติอย่างแท้จริงคือเมื่อใช้ในแบบจำลองการถดถอยซึ่งการทำนายเป็นผลลัพธ์ของตัวแบบหลักการแปลงของตัวแปรตาม Y-hatอาจมีความลำเอียงการส่งผ่านข้อมูลซ้ำที่สำคัญ โปรดทราบว่าการแปลงบันทึกตามธรรมชาติจะไม่ได้รับการยกเว้นจากความลำเอียงนี้พวกเขาไม่ได้รับผลกระทบจากการเปลี่ยนแปลงการแสดงอื่น ๆ ที่คล้ายกัน มีเอกสารเสนอวิธีแก้ปัญหาสำหรับอคตินี้ แต่พวกเขาทำงานได้ไม่ดีนัก ในความคิดของฉันคุณอยู่ในพื้นที่ปลอดภัยกว่ามากไม่ยุ่งกับการพยายามแปลงYเลยและหารูปแบบการทำงานที่แข็งแกร่งซึ่งช่วยให้คุณรักษาเมตริกเดิมได้ ตัวอย่างเช่นนอกเหนือจากบันทึกธรรมชาติมีการแปลงอื่น ๆ ที่บีบหางของตัวแปรเบ้และ kurtotic เช่น inverse hyperbolic sine หรือ Lambert's W. ทั้งสองของการเปลี่ยนแปลงเหล่านี้ทำงานได้เป็นอย่างดีในการสร้างไฟล์ PDF สมมาตรและดังนั้น Gaussian เหมือนข้อผิดพลาดจากข้อมูลที่หนักเทลด์ แต่ระวังอคติเมื่อคุณพยายามที่จะนำการคาดการณ์กลับเข้ามาในขนาดเดิมสำหรับ DV, Y มันอาจจะน่าเกลียด

มีการทำคะแนนที่น่าสนใจมากมาย อีกไม่กี่?

1) ฉันขอแนะนำว่าปัญหาอื่นที่มีการถดถอยเชิงเส้นคือ 'ด้านซ้ายมือ' ของสมการถดถอยคือ E (y): ค่าที่คาดหวัง หากการแจกแจงข้อผิดพลาดไม่สมมาตรการทำบุญเพื่อการศึกษาค่าที่คาดหวังจะอ่อน ค่าที่คาดหวังไม่ใช่ความสนใจส่วนกลางเมื่อเกิดข้อผิดพลาดแบบอสมมาตร เราสามารถสำรวจการถดถอยแบบควอไทล์แทน จากนั้นการศึกษาพูดค่ามัธยฐานหรือคะแนนร้อยละอื่น ๆ อาจมีค่าแม้ว่าข้อผิดพลาดจะไม่สมดุล

2) ถ้ามีคนเลือกที่จะเปลี่ยนตัวแปรการตอบสนองจากนั้นหนึ่งคนอาจต้องการที่จะแปลงตัวแปรอธิบายอย่างใดอย่างหนึ่งมากกว่าด้วยฟังก์ชั่นเดียวกัน ตัวอย่างเช่นหากมีผลลัพธ์ 'สุดท้าย' เป็นการตอบสนองหนึ่งอาจมีผลลัพธ์ 'พื้นฐาน' เป็นตัวแปรอธิบาย สำหรับการตีความมันทำให้การแปลง 'สุดท้าย' และ 'พื้นฐาน' ด้วยฟังก์ชั่นเดียวกัน

3) อาร์กิวเมนต์หลักสำหรับการเปลี่ยนตัวแปรอธิบายมักจะอยู่รอบเส้นตรงของการตอบสนอง - ความสัมพันธ์อธิบาย วันนี้เราสามารถพิจารณาตัวเลือกอื่น ๆ เช่นเส้นโค้งลูกบาศก์ จำกัด หรือชื่อพหุนามเศษส่วนสำหรับตัวแปรอธิบาย มักจะมีความชัดเจนบางอย่างแน่นอนหากพบว่ามีความเป็นเส้นตรง