พหุนามหลายมิติแบบหลายตัวแปรตามที่คำนวณใน R คืออะไร

พหุนามมุมฉากในชุดจุดที่มีหลายตัวแปรคือพหุนามที่สร้างค่าบนจุดนั้นในลักษณะที่ผลคูณดอทและสหสัมพันธ์แบบคู่เป็นศูนย์ R สามารถผลิต polynomials มุมฉากกับฟังก์ชั่นโพลี

ฟังก์ชั่นเดียวกันนี้มีโพลีเมอร์แบบแปรผันที่สร้างพหุนามแบบฉากฉากในจุดหลายตัวแปร อย่างไรก็ตามชื่อพหุนามที่เกิดขึ้นนั้นไม่ได้เป็นมุมฉากในแง่ของการมีความสัมพันธ์แบบคู่กับศูนย์ ในความเป็นจริงเนื่องจากชื่อพหุนามอันดับแรกควรเป็นเพียงตัวแปรดั้งเดิมพหุนามลำดับที่หนึ่งจะไม่เป็นแบบมุมฉากเว้นแต่ว่าตัวแปรดั้งเดิมจะไม่ถูกแยกส่วน

จากนั้นคำถามของฉันคือ:

• พหุนามหลายมุมฉากหลายตัวแปรคำนวณโดย polym ใน R คืออะไร? พวกเขาเป็นเพียงผลิตภัณฑ์ของชื่อพหุนามแบบหลายมิติแบบมุมฉากหรือไม่? พวกมันใช้ทำอะไร?
• ชื่อพหุนามหลายมุมฉากแบบหลายตัวแปรมีอยู่จริงหรือไม่? มีวิธีง่าย ๆ ในการผลิตพวกเขา? ใน R พวกเขาใช้จริงในการถดถอยหรือไม่?

ปรับปรุง

เพื่อตอบสนองต่อความคิดเห็นของ Superpronker ฉันได้ยกตัวอย่างหนึ่งของสิ่งที่ฉันหมายถึงด้วยชื่อพหุนามที่ไม่เกี่ยวข้อง:

> x<-rnorm(10000)
> cor(cbind(poly(x,degree=3)))
              1             2             3
1  1.000000e+00 -6.809725e-17  2.253577e-18
2 -6.809725e-17  1.000000e+00 -2.765115e-17
3  2.253577e-18 -2.765115e-17  1.000000e+00

ฟังก์ชั่นโพลีส่งคืนพหุนามมุมฉากซึ่งประเมินในคะแนน x (ที่นี่ 10,000 คะแนนสำหรับพหุนามแต่ละอัน) ความสัมพันธ์ระหว่างค่าในพหุนามที่แตกต่างกันเป็นศูนย์ (มีข้อผิดพลาดตัวเลข)

เมื่อใช้พหุนามหลายตัวแปรความสัมพันธ์จะแตกต่างจากศูนย์:

> x<-rnorm(1000)
> y<-rnorm(1000)
> cor(cbind(polym(x,y,degree=2)))
              1.0           2.0           0.1         1.1           0.2
1.0  1.000000e+00  2.351107e-17  2.803716e-02 -0.02838553  3.802363e-02
2.0  2.351107e-17  1.000000e+00 -1.899282e-02  0.10336693 -8.205039e-04
0.1  2.803716e-02 -1.899282e-02  1.000000e+00  0.05426440  5.974827e-17
1.1 -2.838553e-02  1.033669e-01  5.426440e-02  1.00000000  8.415630e-02
0.2  3.802363e-02 -8.205039e-04  5.974827e-17  0.08415630  1.000000e+00

ดังนั้นฉันไม่เข้าใจในความหมายของชื่อพหุนามแบบ bivariate ที่มีมุมฉาก

อัปเดต 2

ฉันต้องการที่จะอธิบายความหมายของ "ชื่อฉากหลายชื่อ" ที่ใช้ในการถดถอยเพราะบริบทนี้สามารถทำให้เข้าใจผิดเมื่อใช้ความคิดจากชื่อฉากที่ประกอบด้วยหลายคำในช่วงเวลาที่เชื่อมต่อกัน - เช่นเดียวกับในความคิดเห็นล่าสุดของ Superpronker

ฉันพูดถึงการถดถอยเชิงปฏิบัติของ Julian J. Faraway และ Anova โดยใช้ R Pages 101 และ 102:

พหุนามแบบแก้ไขปัญหานี้ได้ด้วยการกำหนด ฯลฯ ซึ่งค่าสัมประสิทธิ์ a, b, c ... เพื่อให้เมื่อเจ z เรียกว่าพหุนามแบบฉากมุมฉาก

$$z_1=a_1+b_1x$$ $$z_2= a_2+b_2x+c_2x^2$$ $$z_3= a_3+b_3x+c_3x^2+d_3x^3$$ $z_i^T·z_j=0$$i \neq j$

โดยการละเมิดเล็กน้อยของภาษาที่นี่ใช้ผู้เขียนทั้งพหุนาม (ในขณะที่ฟังก์ชั่น) และสำหรับเวกเตอร์ของค่าพหุนามจะใช้เวลาในจุดของชุดxหรืออาจจะไม่ใช่แม้แต่การใช้ภาษาในทางที่ผิดเพราะตั้งแต่เริ่มต้นของหนังสือเล่มเป็นตัวทำนาย (เช่นชุดของค่าที่ใช้โดยผู้ทำนาย)$z_i$$x$$x$

ความหมายของชื่อพหุนามแบบมุมฉากนี้ไม่ได้แตกต่างจากชื่อพหุนามแบบมุมฉากในช่วงเวลาหนึ่ง เราสามารถกำหนดชื่อพหุนามแบบมุมฉากได้ตามปกติ (โดยใช้อินทิกรัล) เหนือชุดที่วัดได้ด้วยฟังก์ชันการวัดใด ๆ ที่นี่เรามีเซต จำกัด ( ) และเรากำลังใช้ดอทโปรดัคแทนอินทิกรัล แต่นั่นยังคงเป็นพหุนามแบบมุมฉากถ้าเราใช้ฟังก์ชั่นการวัดของเราในฐานะเดลต้า Dirac ที่จุด จำกัด ของเรา$x$

และสัมพันธ์กับความสัมพันธ์: ดอทโปรดัคของเวกเตอร์มุมฉากใน (เป็นภาพเวกเตอร์ออร์โธนอนในชุด จำกัด ) ถ้าดอทโปรดัคของเวกเตอร์สองตัวคือศูนย์ความแปรปรวนร่วมเป็นศูนย์และถ้าความแปรปรวนร่วมเป็นศูนย์ความสัมพันธ์เป็นศูนย์ ในบริบทของแบบจำลองเชิงเส้นมีประโยชน์อย่างมากในการเชื่อมโยง "orthogonal" และ "uncorrelated" เช่นเดียวกับใน "orthogonal design of ทดลอง"$R^n$

ลองสำรวจสิ่งที่เกิดขึ้น ฉันแน่ใจว่าคุณรู้เนื้อหาส่วนใหญ่ต่อไปนี้แล้ว แต่เพื่อสร้างสัญกรณ์และคำจำกัดความและเพื่อให้ความคิดชัดเจนฉันจะครอบคลุมพื้นฐานของการถดถอยพหุนามก่อนที่จะตอบคำถาม หากคุณต้องการข้ามไปที่หัวข้อ "มีอะไรR" ประมาณสองในสามของวิธีการในโพสต์นี้จากนั้นข้ามกลับไปสำหรับคำจำกัดความที่คุณอาจต้องการ

การตั้งค่า

เรากำลังพิจารณาเมทริกซ์โมเดลของตัวแปรอธิบายที่เป็นไปได้ในการถดถอยบางชนิด นั่นหมายความว่าเรากำลังคิดถึงคอลัมน์ของว่าเป็น -vectorและเราจะสร้างชุดค่าผสมเชิงเส้นของพวกมันพยากรณ์หรือคาดการณ์การตอบสนอง $n\times k$$\mathbb X$$\mathbb X$$n$$X_1, X_2, \ldots, X_k$$\beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_k X_k,$

บางครั้งการถดถอยสามารถปรับปรุงได้โดยการแนะนำคอลัมน์เพิ่มเติมที่สร้างขึ้นโดยการคูณคอลัมน์ต่าง ๆ ของโดยค่าสัมประสิทธิ์โดยสัมประสิทธิ์ ผลิตภัณฑ์ดังกล่าวเรียกว่า "monomials" และสามารถเขียนได้เช่น$X$

$$X_1^{d_1} X_2^{d_2} \cdots X_k^{d_k}$$

โดยที่ "พลังงาน"มีค่าเป็นศูนย์หรือมากกว่าแสดงถึงจำนวนครั้งที่แต่ละตัวปรากฏในผลิตภัณฑ์ ขอให้สังเกตว่าเป็น -vector ของสัมประสิทธิ์คงที่ ( ) และเอง ดังนั้น monomials (เป็นเวกเตอร์) สร้างพื้นที่เวกเตอร์ที่มีพื้นที่คอลัมน์ดั้งเดิมของ ความเป็นไปได้ที่มันอาจเป็นพื้นที่เวกเตอร์ขนาดใหญ่ให้ขั้นตอนนี้ขอบเขตที่มากขึ้นในการจำลองการตอบสนองด้วยการรวมกันเชิงเส้น$d_i$$X_1$$X^0$$n$$1$$X^1=X$$\mathbb X.$

เราตั้งใจจะแทนที่เมทริกซ์โมเดลต้นฉบับโดยชุดค่าผสมเชิงเส้นของ monomials เมื่อระดับอย่างน้อยหนึ่ง monomials เหล่านี้มีค่าเกินจะเรียกว่าการถดถอยแบบพหุนาม$\mathbb X$$1,$

ลำดับขั้นของพหุนาม

ศึกษาระดับปริญญาของ monomial เป็นผลรวมของอำนาจของตน ระดับของการรวมกันเชิงเส้นของ monomials ("พหุนาม") เป็นระดับที่ใหญ่ที่สุดในข้อตกลง monomial กับสัมประสิทธิ์ที่ไม่ใช่ศูนย์ การศึกษาระดับปริญญามีความหมายที่แท้จริงเพราะเมื่อคุณเปลี่ยนพื้นฐานของพื้นที่เวกเตอร์ดั้งเดิมเวกเตอร์แต่ละตัวจะถูกแสดงด้วยการรวมเชิงเส้นของเวกเตอร์ทั้งหมด monomialsจึงกลายเป็นพหุนามในระดับเดียวกัน และดังนั้นระดับของพหุนามใด ๆ จึงไม่เปลี่ยนแปลง$d_1+d_2+\ldots+d_k.$$X_i$$X_1^{d_1} X_2^{d_2} \cdots X_k^{d_k}$

การศึกษาระดับปริญญาให้ธรรมชาติ "ให้คะแนน" เพื่อพีชคณิตพหุนามนี้: ปริภูมิเวกเตอร์ที่สร้างขึ้นโดยผลรวมเชิงเส้นทั้งหมดของ monomials ในปริญญาและรวมถึงเรียกว่า "พหุนามของ [หรือเพิ่มขึ้นถึง] ระดับใน "ขยายปริภูมิเวกเตอร์ของชื่อพหุนามจนถึงองศาใน$X$$d+1,$$d+1$$X,$$d$$X.$

การใช้การถดถอยพหุนาม

บ่อยครั้งที่การถดถอยพหุนามมีการสำรวจในแง่ที่เราไม่ทราบตั้งแต่เริ่มแรก กระบวนการในการสร้างเมทริกซ์โมเดลใหม่จาก monomials และปรับความถดถอยให้เหมาะสมอาจต้องทำซ้ำหลายครั้งบางทีอาจจะเป็นจำนวนครั้งทางดาราศาสตร์ในการตั้งค่าการเรียนรู้ของเครื่อง

ปัญหาหัวหน้าด้วยวิธีนี้คือ

1. Monomials มักจะแนะนำ "multicollinearity" จำนวนมากที่มีปัญหาในเมทริกซ์โมเดลใหม่ส่วนใหญ่เป็นเพราะพลังของตัวแปรเดียวมีแนวโน้มที่จะ collinear สูง (การจับคู่กันระหว่างพลังของสองตัวแปรที่แตกต่างกันนั้นไม่สามารถคาดเดาได้เพราะมันขึ้นอยู่กับความสัมพันธ์ของตัวแปรเหล่านั้นและดังนั้นจึงคาดเดาได้น้อยกว่า)

2. การเปลี่ยนเพียงคอลัมน์เดียวของเมทริกซ์โมเดลหรือการแนะนำคอลัมน์ใหม่หรือการลบคอลัมน์อาจต้องใช้ "การรีสตาร์ทแบบเย็น" ของขั้นตอนการถดถอยซึ่งอาจใช้เวลานานในการคำนวณ

การไล่ระดับของพีชคณิตแบบพหุนามให้วิธีการเอาชนะปัญหาทั้งสอง

พหุนามแบบหลายมุมในตัวแปรเดียว

รับคอลัมน์เดี่ยวเวกเตอร์ชุด "orthogonal polynomials" สำหรับคือลำดับของคอลัมน์เวกเตอร์เกิดขึ้นเป็นชุดเชิงเส้นของ monomials ในเดียว - นั่นคือเป็นพลังของ - ด้วยคุณสมบัติดังต่อไปนี้:$X,$$X$$p_0(X), p_1(X), p_2(X),\ldots$$X$$X$

1. สำหรับแต่ละระดับเวกเตอร์สร้างพื้นที่เวกเตอร์เดียวกับ (ขอให้สังเกตว่าคือ -vector ของตัวคนและเป็นเพียงตัวเอง)$d=0, 1, 2, \ldots,$$p_0(X), p_1(X), \ldots, p_d(X)$$X^0, X^1, \ldots, X^d.$$X^0$$n$$X^1$$X$

2. มีร่วมกันมุมฉากในแง่ที่ว่าสำหรับ$p_i(X)$$i\ne j,$

   $$p_i(X)^\prime p_j(X) = 0.$$

โดยปกติรูปแบบการเปลี่ยนเมทริกซ์เกิดขึ้นจาก monomials เหล่านี้จะได้รับการแต่งตั้งให้เป็นorthonormalโดย normalizing คอลัมน์ไปยังหน่วยความยาว: เนื่องจากการผกผันของปรากฏในสมการการถดถอยส่วนใหญ่และการผกผันของเมทริกซ์เอกลักษณ์เป็นตัวเองสิ่งนี้แสดงให้เห็นถึงการคำนวณขนาดใหญ่

$$\mathbb{P} = \pmatrix{p_0(X) & p_1(X) & \cdots & p_d(X)}$$ $$\mathbb{P}^\prime \mathbb{P} = \mathbb{I}_{d+1}.$$ $\mathbb{P}^\prime \mathbb{P}$$\mathbb{I}_{d+1}$

Orthonormality เป็นตัวกำหนด คุณสามารถดูสิ่งนี้ได้จากการก่อสร้าง:$p_i(X).$

• พหุนามแรก,ต้องเป็นพหุคูณของ -vectorของความยาวของหน่วย มีเพียงสองตัวเลือกคือ มันเป็นเรื่องธรรมดาที่จะเลือกรากที่สองที่เป็นบวก$p_0(X),$$n$$\mathbf{1}=(1,1,\ldots,1)^\prime$$\pm \sqrt{1/n}\mathbf{1}.$

• พหุนามที่สอง,ต้องเป็นมุมฉากถึง มันสามารถทำได้โดยการถอยหลังเทียบกับซึ่งวิธีแก้ปัญหาคือเวกเตอร์ของค่าเฉลี่ย หากส่วนที่เหลือไม่เหมือนกันพวกเขาให้ทางออกที่เป็นไปได้เพียงสองทางเท่านั้นคือ$p_1(X),$$\mathbf{1}.$$X$$\mathbf{1},$$\hat X = \bar{X}\mathbf{1}.$$\epsilon = X - \hat X$$p_1(X) = \pm \left(1/||\epsilon||\right)\,\epsilon.$

...

• โดยทั่วไปแล้วได้มาจากการถดถอยเทียบกับและ rescaling ส่วนที่เหลือให้เป็นเวกเตอร์ของหน่วย ความยาว. มีสองทางเลือกของสัญญาณเมื่อส่วนที่เหลือไม่เป็นศูนย์ทั้งหมด มิฉะนั้นกระบวนการจะสิ้นสุดลง: มันจะไร้ผลหากมองไปที่พลังที่สูงกว่าของ (นี่คือทฤษฎีบทที่ดี แต่การพิสูจน์มันไม่จำเป็นต้องเบี่ยงเบนความสนใจเราที่นี่)$p_{d+1}(X)$$X^{d+1}$$p_0(X), p_1(X), \ldots, p_d(X)$$X.$

นี่เป็นกระบวนการแกรม - ชมิดต์ที่ใช้กับลำดับที่แท้จริงของเวกเตอร์ โดยปกติจะคำนวณโดยใช้การสลายตัว QRซึ่งเกือบจะเหมือนกันมาก แต่คำนวณในลักษณะที่มีเสถียรภาพตัวเลข$X^0, X^1, \ldots, X_d, \ldots.$

การก่อสร้างนี้ให้ลำดับของคอลัมน์เพิ่มเติมเพื่อพิจารณารวมอยู่ในเมทริกซ์โมเดล การถดถอยพหุนามในหนึ่งตัวแปรจึงมักจะดำเนินการโดยการเพิ่มองค์ประกอบของลำดับนี้ทีละหนึ่งตามลำดับจนกว่าจะไม่ได้รับการปรับปรุงเพิ่มเติมในการถดถอย เนื่องจากคอลัมน์ใหม่แต่ละคอลัมน์เป็นมุมฉากกับคอลัมน์ก่อนหน้ารวมถึงไม่เปลี่ยนแปลงค่าสัมประสิทธิ์ก่อนหน้าใด ๆ ทำให้กระบวนการมีประสิทธิภาพและสามารถตีความได้อย่างง่ายดาย

พหุนามในหลายตัวแปร

การถดถอยเชิงสำรวจ (รวมถึงการปรับแบบจำลอง) โดยปกติจะดำเนินการโดยพิจารณาจากตัวแปร (ต้นฉบับ) ที่จะรวมไว้ในแบบจำลองก่อน จากนั้นประเมินว่าตัวแปรเหล่านั้นสามารถเพิ่มขึ้นได้หรือไม่โดยการรวมการแปลงรูปแบบต่าง ๆ ของพวกมันเช่น monomials; จากนั้นแนะนำ "การโต้ตอบ" ที่เกิดขึ้นจากผลิตภัณฑ์ของตัวแปรเหล่านี้และการแสดงออกอีกครั้ง

การดำเนินการโครงการดังกล่าวแล้วจะเริ่มต้นด้วยการขึ้นรูปunivariate polynomials มุมฉากในคอลัมน์ของแยกต่างหาก $\mathbb X$ หลังจากเลือกระดับที่เหมาะสมสำหรับแต่ละคอลัมน์แล้วคุณจะแนะนำการโต้ตอบ

ณ จุดนี้บางส่วนของโปรแกรม univariate จะพังลงมา คุณจะใช้ลำดับของการโต้ตอบลำดับใดจนกว่าจะมีการระบุรุ่นที่เหมาะสม ยิ่งไปกว่านั้นตอนนี้เราได้เข้าสู่อาณาจักรของการวิเคราะห์หลายตัวแปรจำนวนตัวเลือกที่มีอยู่และความซับซ้อนที่เพิ่มขึ้นของพวกเขาแนะนำว่าอาจมีผลตอบแทนลดลงในการสร้างลำดับของพหุนามหลายมิติแบบหลายตัวแปร อย่างไรก็ตามหากคุณมีลำดับดังกล่าวอยู่ในใจคุณสามารถคำนวณได้โดยใช้การย่อยสลาย QR

---

สิ่งที่Rไม่

ซอฟแวร์สำหรับการถดถอยพหุนามจึงมีแนวโน้มที่จะมุ่งเน้นไปที่การคำนวณunivariateมุมฉากพหุนามลำดับ มันเป็นลักษณะของRการขยายการสนับสนุนดังกล่าวโดยอัตโนมัติที่สุดเท่าที่จะเป็นไปได้สำหรับกลุ่มของพหุนามแบบหลายตัวแปร นี้สิ่งที่polyไม่ (คู่หูของมันpolymคือรหัสเดียวกันโดยมีเสียงระฆังและเสียงนกหวีดน้อยลง; ทั้งสองฟังก์ชั่นทำสิ่งเดียวกัน)

โดยเฉพาะpolyจะคำนวณลำดับของพหุนาม orthogonal แบบหลายตัวแปรเมื่อได้รับเวกเตอร์หยุดที่องศาที่ระบุ (ถ้าใหญ่เกินไป - และมันอาจเป็นเรื่องยากที่จะคาดการณ์ว่ามีขนาดใหญ่เกินไป - มันน่าเสียดายที่เกิดข้อผิดพลาด) เมื่อได้เซตเวกเตอร์ในรูปของเมทริกซ์มันจะกลับมา$X,$$d.$$d$$X_1, \ldots, X_k$$\mathbb X,$

1. ลำดับของพหุนาม orthonormalสำหรับแต่ละออกไปถึงระดับสูงสุดที่ร้องขอ (เนื่องจากค่าคงที่ของเวกเตอร์เป็นเรื่องปกติของตัวแปรทั้งหมดและเป็นเรื่องง่ายมาก - โดยปกติแล้วจะมีการสกัดกั้นโดยการสกัดกั้นในการถดถอย - ไม่รำคาญที่จะรวมไว้)$p_1(X_j), p_2(X_j), \ldots, p_d(X_j)$$j$$d.$$p_0(X_i)$R

2. ปฏิกิริยาทั้งหมดของพหุนามแบบฉากมุมฉากเหล่านั้นจนถึงและรวมถึงระดับ$d.$

ขั้นตอน (2) เกี่ยวข้องกับรายละเอียดปลีกย่อยหลายอย่าง โดยปกติแล้วจะเป็น "ปฏิสัมพันธ์" ระหว่างตัวแปรเราหมายถึง "ผลิตภัณฑ์ที่เป็นไปได้ทั้งหมด" แต่ผลิตภัณฑ์ที่เป็นไปได้บางส่วนจะมีองศามากกว่า ตัวอย่างเช่นมีตัวแปรและคำนวณ$d.$$2$$d=2,$ R

$$p_1(X_1),\quad p_2(X_1),\quad p_1(X_2),\quad p_1(X_1)p_1(X_2),\quad p_2(X_2).$$

Rไม่ได้รวมถึงการมีปฏิสัมพันธ์-ระดับที่สูงขึ้น (พหุนามของระดับ 3) หรือ (พหุนามของระดับ 4) (นี่ไม่ใช่ข้อ จำกัด ที่ร้ายแรงเพราะคุณสามารถคำนวณผลิตภัณฑ์เหล่านี้ได้ด้วยตนเองหรือระบุไว้ในวัตถุการถดถอย)$p_2(X_1)p_1(X_2),$ $p_1(X_1)p_2(X_2)$$p_1(X_2)p_2(X_2)$formula

ความละเอียดอ่อนก็คือว่าไม่มีชนิดของการฟื้นฟูถูกนำไปใช้ใด ๆ ของผลิตภัณฑ์หลายตัวแปร ในตัวอย่างผลิตภัณฑ์เดียวเท่านั้นคือ อย่างไรก็ตามไม่มีการรับประกันใด ๆ แม้ค่าเฉลี่ยจะเป็นศูนย์และแน่นอนเกือบจะไม่มีมาตรฐานของหน่วย ในแง่นี้มันเป็น "ปฏิสัมพันธ์" ที่แท้จริงระหว่างและและสามารถตีความได้ว่าการโต้ตอบมักจะอยู่ในรูปแบบการถดถอย$p_1(X_1)p_1(X_2).$$p_1(X_1)$$p_1(X_2)$

ตัวอย่าง

ลองดูตัวอย่าง ฉันสุ่มสร้าง matrix เพื่อให้การคำนวณง่ายขึ้นทุกอย่างจะถูกปัดเป็นตัวเลขสองตัวที่สำคัญสำหรับแสดงผล

$$\mathbb{X} = \pmatrix{1 & 3 \\ 5 & 6 \\ 2 & 4}.$$

ลำดับพหุนาม orthonormal สำหรับคอลัมน์แรกเริ่มต้นด้วยการทำให้ปกติกับความยาวหน่วยทำให้ขั้นตอนต่อไปรวมถึงเอง หากต้องการทำให้เป็นมุมฉากเป็นถอยเทียบกับและตั้งค่าเท่ากับส่วนที่เหลือของการถดถอยนั้นโดยลดขนาดหน่วยความยาว ผลที่ได้คือมาตรฐานปกติของได้จากการใส่เข้าไปใหม่และหารด้วยส่วนเบี่ยงเบนมาตรฐาน$X_1 = (1,5,2)^\prime$$X_1^0= (1,1,1)^\prime$$p_0(X_1) = (1,1,1)^\prime/\sqrt{3} \approx(0.58,0.58,0.58)^\prime.$$X_1^1 = X_1$$p_0(X_1),$$X_1$$p_0(X_1)$$p_1(X_1)$$X_1$$p_1(X_1) = (-0.57,0.79,-0.23)^\prime.$ สุดท้ายจะถูกกับและและส่วนที่เหลือจะถูกลดขนาดให้เหลือความยาวหน่วย เราไม่สามารถไปได้อีกเพราะพลังของไม่สามารถสร้างพื้นที่เวคเตอร์มากกว่ามิติ (เราได้มาไกลขนาดนี้เพราะพหุนามน้อยที่สุดของสัมประสิทธิ์ของคือมีองศาแสดงให้เห็นว่า monomials ทั้งหมดของระดับหรือใหญ่กว่านั้น พลังและพลังที่ต่ำกว่านั้นมีความเป็นอิสระเชิงเส้น)$X_1^2 = (1,25,4)$$p_0(X_1)$$p_1(X_1)$$X_1$$n=3$$X_1,$$(t-1)(t-5)(t-4),$$3,$$3$

เมทริกซ์ที่ได้นั้นแสดงถึงลำดับพหุนาม orthonormal สำหรับคือ$X_1$

$$\mathbb{P_1} = \pmatrix{0.58 & -0.57 & 0.59 \\ 0.58 & 0.79 & 0.20 \\ 0.58 & -0.23 & -0.78}$$

(ตัวเลขสองตัวที่สำคัญ)

ในแบบเดียวกันเมทริกซ์พหุนาม orthonormal สำหรับคือ$X_2$

$$\mathbb{P_2} = \pmatrix{0.58 & -0.62 & 0.53 \\ 0.58 & 0.77 & 0.27 \\ 0.58 & -0.15 & -0.80}.$$

เทอมการโต้ตอบคือผลผลิตของคอลัมน์กลางของเมทริกซ์เหล่านี้เท่ากับ เมทริกซ์เต็มรูปแบบที่สร้างขึ้นโดยหรือคือ$(0.35, 0.61, 0.035)^\prime.$polypolym

$$\mathbb{P} = \pmatrix{-0.57 & 0.59 & -0.62 & 0.35 & 0.53 \\ 0.79 & 0.20&0.77& 0.61& 0.27 \\ -0.23 & -0.78 & -0.15 & 0.035 & -0.80}.$$

สังเกตุลำดับของคอลัมน์ที่มีการจัดวาง: พหุนาม orthonormal แบบไม่คงที่สำหรับอยู่ในคอลัมน์ 1 และ 2 ในขณะที่คอลัมน์สำหรับอยู่ในคอลัมน์ 3 และ 5 ดังนั้นจึงมีเพียง orthogonality ที่รับประกันในผลลัพธ์นี้อยู่ระหว่างผลลัพธ์เหล่านี้ คอลัมน์สองคู่ สิ่งนี้สะท้อนให้เห็นในการคำนวณซึ่งจะมีศูนย์อยู่ในตำแหน่งและ (แสดงเป็นสีแดงด้านล่าง), * แต่อาจไม่ใช่ศูนย์ที่ใดก็ได้และจะมีตำแหน่งในตำแหน่งและ (แสดงเป็นสีน้ำเงิน ด้านล่าง) แต่มีแนวโน้มว่าจะไม่มีหนึ่งในตำแหน่งแนวทแยงอื่น ๆ ($X_1$$X_2$$\mathbb{P}^\prime\mathbb{P},$$(1,2), (2,1), (3,5),$$(5,3)$$(1,1), (2,2), (3,3),$$(5,5)$$(4,4)$ในตัวอย่างนี้) อันที่จริง

$$\mathbb{P}^\prime\,\mathbb{P} = \pmatrix{\color{blue}{\bf 1} & \color{red}{\bf 0} & 1 & 0.28 & 0.091 \\ \color{red}{\bf 0} & \color{blue}{\bf 1} & -0.091 & 0.3 & 1 \\ 1 & -0.091 & \color{blue}{\bf 1} & 0.25 & \color{red}{\bf 0} \\ 0.28 & 0.3 & 0.25 & 0.5 & 0.32 \\ 0.091 & 1 & \color{red}{\bf 0} & 0.32 & \color{blue}{\bf 1}}.$$

เมื่อคุณตรวจสอบเมทริกซ์ที่แสดงในคำถามและรับรู้ว่าทวีคูณของเป็นศูนย์จริง ๆ คุณจะสังเกตเห็นว่ารูปแบบของศูนย์ในตำแหน่งสีแดงนั้นคงอยู่ นี่คือความรู้สึกที่คำพหุนาม bivariate เป็น "orthogonal"$\mathbb P$$10^{-17}$