ความแตกต่างระหว่างการวิเคราะห์การถดถอยและการวิเคราะห์ความแปรปรวน?

ฉันกำลังเรียนรู้เกี่ยวกับการวิเคราะห์การถดถอยและการวิเคราะห์ความแปรปรวน

ในการวิเคราะห์การถดถอยคุณมีตัวแปรหนึ่งคงที่และคุณต้องการทราบว่าตัวแปรนั้นไปกับตัวแปรอื่นได้อย่างไร

ในการวิเคราะห์ความแปรปรวนที่คุณต้องการทราบเช่น: หากอาหารสัตว์นี้มีผลต่อน้ำหนักของสัตว์ ... ดังนั้นหนึ่ง var คงที่และอิทธิพลต่อคนอื่น ...

ถูกหรือผิดกรุณาช่วยด้วย ...

สมมติว่าชุดข้อมูลประกอบด้วยชุดสำหรับและคุณต้องการที่จะมองไปที่การพึ่งพาอาศัยกันของบนx$(x_i,y_i)$$i=1,\ldots,n$$y$$x$

สมมติว่าคุณพบค่าและของและที่ลดผลรวมที่เหลือของกำลังสอง จากนั้นคุณใช้เป็นค่าคาดการณ์ไว้สำหรับค่าใด ๆ (ไม่จำเป็นต้องสังเกตไว้แล้ว) -value นั่นคือการถดถอยเชิงเส้น β αβ n Σฉัน=1(Yฉัน-(α+βxฉัน))2 Y = α + β xY$\hat\alpha$$\hat\beta$$\alpha$$\beta$

$$\sum_{i=1}^n (y_i - (\alpha+\beta x_i))^2.$$ $\hat y = \hat\alpha+ \hat\beta x$$y$$x$

ตอนนี้ให้พิจารณาการแยกย่อยผลรวมของกำลังสอง ด้วยองศาอิสระเข้าสู่ "อธิบาย" และ "อธิบาย" ส่วน: ด้วยและองศาอิสระตามลำดับ นั่นคือการวิเคราะห์ความแปรปรวนจากนั้นจึงพิจารณาสิ่งต่าง ๆ เช่น F-stats นี้ n-1 n Σฉัน= 1 ( ( α + β x ฉัน ) - ˉ Y ) 2 ⏟อธิบาย+ n Σฉัน= 1 ( Y ฉัน - ( α + β x ฉัน ) ) 2 ⏟ไม่ได้อธิบาย 1n-2F=∑ n i

$$\sum_{i=1}^n (y_i - \bar y)^2 \qquad\text{where }\bar y = \frac{y_1+\cdots+y_n}{n}$$ $n-1$ $$\underbrace{\sum_{i=1}^n ((\hat\alpha+\hat\beta x_i) - \bar y)^2}_{\text{explained}}\ +\ \underbrace{\sum_{i=1}^n (y_i - (\hat\alpha+\hat\beta x_i))^2}_{\text{unexplained}}.$$ $1$$n-2$ $$F = \frac{\sum_{i=1}^n ((\hat\alpha+\hat\beta x_i) - \bar y)^2/1}{\sum_{i=1}^n (y_i - (\hat\alpha+\hat\beta x_i))^2/(n-2)}.$$ การทดสอบ F-สถิติสมมติฐาน 0$\beta=0$

หนึ่งมักจะพบคำว่า "การวิเคราะห์ความแปรปรวน" เป็นครั้งแรกเมื่อตัวทำนายเป็นหมวดหมู่ดังนั้นคุณจึงปรับโมเดล โดยที่ระบุว่าหมวดใดเป็นค่าของตัวทำนาย หากมีหมวดหมู่คุณจะได้องศาอิสระในตัวเศษในสถิติ F และโดยทั่วไปแล้วองศาอิสระในตัวส่วน แต่ความแตกต่างระหว่างการถดถอยและการวิเคราะห์ความแปรปรวนยังคงเหมือนเดิมสำหรับรุ่นนี้

$$y = \alpha + \beta_i$$ $i$$k$$k-1$$n-k$

คะแนนเพิ่มเติมสองสามข้อ:

• สำหรับนักคณิตศาสตร์บางคนบัญชีด้านบนอาจทำให้ปรากฏว่าฟิลด์ทั้งหมดเป็นเพียงสิ่งที่เห็นด้านบนดังนั้นจึงอาจดูเหมือนลึกลับว่าทั้งการถดถอยและการวิเคราะห์ความแปรปรวนเป็นพื้นที่การวิจัยเชิงรุก มีหลายสิ่งที่ไม่เหมาะสมกับคำตอบที่เหมาะสมสำหรับการโพสต์ที่นี่
• มีข้อผิดพลาดที่เป็นที่นิยมและดึงดูดซึ่งเรียกว่า "เชิงเส้น" เนื่องจากกราฟของเป็นเส้น นั่นเป็นเท็จ หนึ่งในคำตอบก่อนหน้าของฉันอธิบายว่าทำไมมันยังคงเรียกว่า "การถดถอยเชิงเส้น" เมื่อคุณปรับพหุนามด้วยกำลังสองน้อยที่สุด$y=\alpha+\beta x$

ความแตกต่างที่สำคัญคือตัวแปรตอบสนอง ในขณะที่การถดถอยโลจิสติกเกี่ยวข้องกับการตอบสนองแบบไบนารีในการวิเคราะห์การถดถอยเชิงเส้นและการถดถอยแบบไม่เชิงเส้นตัวแปรการตอบสนองจะต่อเนื่อง คุณมีตัวแปร (หรือที่รู้จักว่า covariate (s) ที่มีความสัมพันธ์ในการทำงานกับตัวแปรตอบสนองต่อเนื่อง ในการวิเคราะห์ความแปรปรวนการตอบสนองเป็นไปอย่างต่อเนื่อง แต่เป็นของประเภทที่แตกต่างกันไม่กี่ (เช่นกลุ่มการรักษาและกลุ่มควบคุม) ในการวิเคราะห์ความแปรปรวนคุณมองหาความแตกต่างในการตอบสนองเฉลี่ยระหว่างกลุ่ม ในการถดถอยเชิงเส้นคุณจะเห็นว่าการตอบสนองเปลี่ยนแปลงไปอย่างไรเมื่อตัวแปรร่วมเปลี่ยนแปลง อีกวิธีหนึ่งในการดูความแตกต่างคือการบอกว่าในการถดถอย covariates นั้นมีความต่อเนื่องในขณะที่การวิเคราะห์ความแปรปรวนพวกมันเป็นกลุ่มที่แยกกัน

การวิเคราะห์ความแปรปรวน (ANOVA) เป็นร่างกายของวิธีการทางสถิติในการวิเคราะห์การสังเกตที่คิดว่าเป็นของโครงสร้าง

$y_i=\beta_1x_{i1}+\beta_2x_{i2}+\dots+\beta_px_{ip}+e_i,~i=1(1)n$ซึ่งจะประกอบด้วยการผสมเชิงเส้นของปริมาณที่ไม่รู้จักบวกข้อผิดพลาดและ { } เป็นที่ทราบกันว่าค่าสัมประสิทธิ์คงที่กับ rv ของ { } นั้นไม่เกี่ยวข้องกันและมีค่าเฉลี่ยและความแปรปรวน (ไม่ทราบ) .$p$$\beta_1,\beta_2,\dots,\beta_p$$e_1,e_2,\dots,e_n$$x_{ij}$$e_i$$0$$\sigma^2$

คือ โดยที่ Dคือเมทริกซ์การกระจายหรือเมทริกซ์ความแปรปรวนร่วม - ความแปรปรวนร่วม$E(y^{n \times 1})=X\beta,D(y)=\sigma^2I_n$

โดยที่ค่าสัมประสิทธิ์ { } เป็นค่าของตัวนับตัวแปรหรือตัวแปรตัวบ่งชี้ที่อ้างถึงการมีอยู่หรือไม่มีผลกระทบ { } ในเงื่อนไขภายใต้การสังเกต: { } คือ จำนวนครั้งที่เกิดขึ้นในที่ iสังเกตและนี้มักจะหรือ1โดยทั่วไปในการวิเคราะห์ความแปรปรวนปัจจัยทั้งหมดจะได้รับการปฏิบัติในเชิงคุณภาพ β j x i j β j 0 $x_{ij}$$\beta_j$$x_{ij}$$\beta_j$$0$$1$

หาก { } เป็นค่าที่ใช้ในการสังเกตไม่ใช่โดยตัวแปรเคาน์เตอร์ แต่โดยตัวแปรต่อเนื่องเช่น = เวลา, = อุณหภูมิ, , ฯลฯ เรามีกรณี ของการวิเคราะห์การถดถอย * โดยทั่วไปในการวิเคราะห์การถดถอยปัจจัยทั้งหมดเป็นเชิงปริมาณและเชิงปริมาณ t T t 2 , e - $x_{ij}$$t$$T$$t^2,e^{-T}$

ส่วนใหญ่สองคนนี้เป็นสองประเภทของการวิเคราะห์

ในการวิเคราะห์การถดถอยคุณมีตัวแปรหนึ่งคงที่และคุณต้องการทราบว่าตัวแปรนั้นไปกับตัวแปรอื่นได้อย่างไร

ในการวิเคราะห์ความแปรปรวนที่คุณต้องการทราบเช่น: หากอาหารสัตว์นี้มีผลต่อน้ำหนักของสัตว์ ... ดังนั้นหนึ่ง var คงที่และอิทธิพลอื่น ๆ