วิธีการทดสอบว่าเมทริกซ์ความแปรปรวนร่วมเป็นศูนย์หรือไม่?

พื้นหลังของการศึกษาของฉัน :

ในการสุ่มตัวอย่างกิ๊บส์เมื่อเราสุ่มตัวอย่าง (ตัวแปรที่สนใจ) และจากและตามลำดับโดยที่และเป็นเวกเตอร์สุ่มมิติ เรารู้ว่ากระบวนการนั้นมักจะแบ่งออกเป็นสองขั้นตอน: $X$ $Y$ $P(X|Y)$ $P(Y|X)$ $X$ $Y$ $k$

ระยะเวลาการเผาไหม้ที่เราทิ้งตัวอย่างทั้งหมด แสดงว่ากลุ่มตัวอย่างเป็นและY_t $X_1\sim X_t$ $Y_1\sim Y_t$
"After-Burn-in" ประจำเดือนซึ่งเราทำการหาค่าเฉลี่ยตัวอย่างเป็นผลลัพธ์สุดท้ายที่เราต้องการ $\bar{X} = \frac{1}{k}\sum_{i=1}^k X_{t+i}$

อย่างไรก็ตามตัวอย่างในลำดับ "after-burn-in"ไม่ได้ถูกแจกจ่ายอย่างอิสระ ดังนั้นหากฉันต้องการตรวจสอบความแปรปรวนของผลลัพธ์สุดท้ายมันก็จะกลายเป็น $X_{t+1}\sim X_{t+k}$

Var [\bar{X}] = Var [\sum_{i = 1}^{k} X_{t + i}] = \frac{1}{k^{2}} (\sum_{i = 1}^{k} Var [X_{t + i}] + \sum_{i = 1}^{k - 1} \sum_{j = i + 1}^{k} Cov [X_{t + i}, X_{t + j}])

$\operatorname{Var}[\bar{X}] = \operatorname{Var}\left[\sum_{i=1}^k X_{t+i}\right] = \frac{1}{k^2}\left(\sum_{i=1}^k\operatorname{Var}[X_{t+i}] + \sum_{i=1}^{k-1} \sum_{j=i+1}^k \operatorname{Cov}[X_{t+i},X_{t+j}]\right)$

ที่นี่มีคำ $\operatorname{Cov}[X_{t+i},X_{t+j}]$ เป็น $k\times k$ ข้ามแปรปรวนเมทริกซ์ใช้กับใด ๆ $(i,j)$ กับ $i<j$ <J

ตัวอย่างเช่นฉันมี

X_{t + 1} = (1, 2, 1)^{'} X_{t + 2} = (1, 0, 2)^{'} X_{t + 3} = (1, 0, 0)^{'} X_{t + 4} = (5, 0, - 1)^{'}

$X_{t+1} = (1,2,1)'\\ X_{t+2} = (1,0,2)'\\ X_{t+3} = (1,0,0)'\\ X_{t+4} = (5,0,-1)'$

จากนั้นฉันสามารถประมาณเมทริกซ์ความแปรปรวนร่วมด้วย $\operatorname{Cov}[X_{t+i}, X_{t+i+1}]$

\frac{1}{3} \sum_{i = 1}^{3} (X_{t + i} - μ_{t + i}) (X_{t + i + 1} - μ_{t + i + 1})^{'}

$\frac{1}{3}\sum_{i=1}^3 (X_{t+i}-\mu_{t+i})(X_{t+i+1}-\mu_{t+i+1})'$

ตอนนี้ผมกำลังสนใจในการประมาณค่าถ้าส่งผลอย่างมีนัยสำคัญที่ไม่ใช่ศูนย์เพื่อที่ฉันจำเป็นต้องใส่มันลงไปในการประมาณค่าความแปรปรวนของฉัน{X}] $\operatorname{Var}[\bar{X}]$

ดังนั้นคำถามของฉันมาที่นี่ :

เราตัวอย่างจากi}) เนื่องจากกำลังเปลี่ยนแปลงฉันคิดว่าและไม่ได้มาจากการกระจายเดียวกันดังนั้นไม่ได้เป็นเช่นเดียวกับi}] คำสั่งนี้ถูกต้องหรือไม่ $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$ $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$
สมมติว่าฉันมีข้อมูลเพียงพอที่จะประมาณ (ตัวอย่างข้างเคียงตามลำดับ) จะมีวิธีทดสอบว่าเมทริกซ์ความแปรปรวนร่วมมีนัยสำคัญหรือไม่ เมทริกซ์ที่ไม่เป็นศูนย์? พูดอย่างกว้าง ๆ ฉันสนใจในตัวบ่งชี้ที่ชี้แนะฉันไปยังเมทริกซ์การแปรปรวนร่วมที่มีความหมายซึ่งควรรวมอยู่ในการประมาณค่าความแปรปรวนสุดท้าย $\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

— TomHall
แหล่งที่มา

จริงๆแล้วตอนนี้ดูเหมือนคำถามที่ค่อนข้างดี ฉันคิดว่าคนอื่นจะได้รับคำตอบที่ดีกว่าฉันดังนั้นฉันจึงอยากจะโปรโมตสิ่งนี้ (ให้ความสำคัญกับมัน) เมื่อมีสิทธิ์ในไม่ช้า [คำตอบสั้น ๆ : 1. โควาเรียสสองคนนั้นต่างกัน 2. คุณไม่จำเป็นต้องทดสอบว่าตัวแปรที่อยู่ติดกันนั้นมีความสัมพันธ์กันหรือไม่ (ในทุกกรณี แต่เป็นกรณีที่น่ารำคาญที่สุดนั่นคืออัลกอริธึมทำงานโดยการสร้างตัวแปรตาม) - น่าสนใจกว่าในการวัดความสัมพันธ์มากกว่าทดสอบ;] ... ถ้า คำตอบที่ดีจะไม่ปรากฏขึ้นฉันจะขยายความคิดเห็นสั้น ๆ เหล่านั้นเป็นคำตอบแบบเต็ม

— Glen_b

ดูเหมือนว่าคำถามของคุณจะกว้างกว่าคำถามของคุณ โดยเฉพาะการตอบคำถามชื่อของคุณมีการทดสอบ sphericity ของ Bartlett ที่ช่วยให้ทดสอบว่าเมทริกซ์ความแปรปรวนร่วมตัวอย่างเป็นแนวทแยง คุณอาจจำเป็นต้องปรับให้เข้ากับสถานการณ์ความแปรปรวนร่วมของคุณ ("เมทริกซ์ความแปรปรวนร่วม" ของคุณไม่ใช่เมทริกซ์ความแปรปรวนร่วมจริง ๆ , มันคือเมทริกซ์ความแปรปรวนร่วมข้าม, มันเป็นบล็อกนอกแนวขวางของเมทริกซ์ความแปรปรวนร่วมทั้ง X_t และ X_ { t + 1} พร้อมกัน) CC ถึง @Glen_b

— อะมีบา

ฉันจะเพิ่มว่าความแปรปรวนร่วมมีแนวโน้มที่จะสลายตัวทางเรขาคณิตมากขึ้นหรือน้อยลง (มากขึ้นเพื่อที่คุณจะย้ายออกไปไกลกว่า); ค่าที่ห่างกันในเวลามีแนวโน้มที่จะมีความสัมพันธ์ที่ต่ำมาก ( ไม่เป็นศูนย์ แต่ส่วนใหญ่จะไม่สนใจ) ในขณะที่ค่าที่อยู่ใกล้กันอาจจะต้องพึ่งพากัน

— Glen_b -Reinstate Monica

@Tom 1. อย่างไรก็ตามด้วยชุดเครื่องเขียนที่ความล่าช้ามาก (4 ไม่ไกล!) จะเกิดอะไรขึ้นกับ ACF 2. คุณจะรู้ว่าบางสิ่งบางอย่างเกี่ยวกับค่าวิธีการที่สร้างขึ้นจาก MCMC ทำงานที่คุณไม่สามารถพูดเกี่ยวกับอนุกรมเวลาโดยพล ... พวกเขากำลังMarkovian คุณจะทราบว่าความคิดเห็นก่อนหน้าของฉันไม่ได้อ้างว่าความล่าช้าที่ใกล้ที่สุดจะต้องแสดงการสลายตัวทางเรขาคณิต (เช่นฉันไม่ได้บอกว่ามันเป็นไปไม่ได้ที่จะเห็นความสัมพันธ์ที่สูงขึ้นเมื่อล่าช้า 4 กว่า 3) คุณจะยังคงได้รับ (หากมีเงื่อนไขบางอย่าง) แนวโน้มที่จะเกิดการสลายตัวทางเรขาคณิตใน ACF ขณะที่คุณเคลื่อนที่ห่างกัน

$\quad$

— Glen_b -Reinstate Monica

หากระยะเวลาการสุ่มตัวอย่างของคุณสั้นเกินไปคุณไม่มีการประมาณการความแปรปรวนร่วมที่แม่นยำสูงคุณอาจต้องจัดการกับข้อเท็จจริงที่ว่าการประมาณค่าข้อกำหนดความแปรปรวนร่วมของคุณมีข้อผิดพลาดมาตรฐานขนาดใหญ่ ด้วยความเข้าใจในปัจจุบันของฉันฉันยิ่งขอยืนยันคำคัดค้านของฉันเพื่อทดสอบความสัมพันธ์ การทดสอบสมมติฐานสำหรับความสัมพันธ์ที่เป็นศูนย์เทียบกับที่ไม่เป็นศูนย์ไม่ได้ช่วยแก้ปัญหาของคุณที่นี่

— Glen_b -Reinstate Monica

เราตัวอย่างจากi}) เนื่องจากกำลังเปลี่ยนแปลงฉันคิดว่าและไม่ได้มาจากการกระจายแบบเดียวกัน [... ] $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$

คุณกำลังสับสนกับการแจกแจงแบบมีเงื่อนไขและไม่มีเงื่อนไขที่นี่ดูคำพูดของฉันต่อไป มีเงื่อนไขในและ ,y_2) แต่จุดทั้งการสร้างตัวอย่างกิ๊บส์ของคุณคือการตัวอย่างจากการกระจายนิ่งของและYถ้าคุณใช้สายโซ่ของคุณนานพอและติดตามการกระจายแบบคงที่คุณสามารถพูดว่า หมายความว่าการกระจายไม่มีเงื่อนไขนั้นก็คงที่เช่นกัน ในคำอื่น ๆ เช่น $Y_{t+i} = y_1$ $Y_{t+i+1} = y_2$ $P(X_{t+i}|Y_{t+i} = y_1) \neq P(X_{t+i+1}|Y_{t+i+1} = y_2)$ $X$ $Y$ $\{Y_t\}$

\begin{aligned} P (X_{t}) = \int_{Y} P (X_{t} | Y_{t}) d P (Y_{t}), \end{aligned}

$\begin{align} P(X_t) = \int_{\mathcal{Y}}P(X_t|Y_t)dP(Y_t), \end{align}$

X_{t}

$X_t$

t \to \infty

$t \to \infty$ และเรามารวมกันกับการแจกแจงแบบคงที่,ตั้งแต่และจะ asymptotically จะมาจาก (คน! เดียวกัน) กระจายนิ่ง(Y_t) ในทางตรงกันข้ามและเป็นมาก่อนเมื่อเราเงื่อนไขการและนี้จะไม่ถืออีกต่อไปโดยไม่คำนึงถึงวิธีการที่มีขนาดใหญ่เป็น

P (X_{t + i} | Y_{t + i}) = P (X_{t + i + 1} | Y_{t + i + 1})

$P(X_{t+i}|Y_{t+i}) = P(X_{t+i+1}|Y_{t+i+1})$

Y_{t + i}

$Y_{t+i}$

Y_{t + i + 1}

$Y_{t+i+1}$

P (Y_{t})

$P(Y_t)$

Y_{t + i} = y_{1}

$Y_{t+i} = y_1$

Y_{t + i + 1} = y_{2}

$Y_{t+i+1} = y_2$

t

$t$

[... ] ดังนั้นไม่เหมือนกับ . คำสั่งนี้ถูกต้องหรือไม่ $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$

ใช่มันถูกต้อง - แม้ว่าคือและมีการแจกแจงแบบคงที่เหมือนกัน ฉันรู้ว่านี่อาจทำให้เกิดความสับสน แต่ทนกับฉัน กำหนดกับ(0,1) จากการแทนที่ซ้ำเราสามารถแสดงให้เห็นว่าและเนื่องจาก (จำนวนอนันต์) ของบรรทัดฐานยังคงเป็นปกติมันถือว่าและ2}) เห็นได้ชัดว่าและ $X_{t+1} \sim X_{t}$ $X_t$ $X_{t+1}$ $Y_t = 0.8\cdot Y_{t-1} + \varepsilon_t$ $\varepsilon_t \overset{iid}{\sim} N(0,1)$ $Y_t = \sum_{i=0}^t0.8^i \varepsilon_{t-i}$ $\text{Var}(Y_t) = \sum_{i=0}^t0.8^{2i} = \dfrac{1}{1-0.8^2}$ $Y_t \overset{iid}{\sim} N(0, \dfrac{1}{1-0.8^2})$ $Y_t$ $Y_{t+1}$ จะยังคงมีความสัมพันธ์กัน แต่จะมาจากการแจกแจงแบบเดียวกัน ( ) สถานการณ์คล้ายกันถือสำหรับคุณX_t $Y_{t+1} \sim Y_{t}$ $X_t$

สมมติว่าฉันมีข้อมูลเพียงพอที่จะประมาณ (ตัวอย่างข้างเคียงตามลำดับ) จะมีวิธีทดสอบว่าเมทริกซ์ความแปรปรวนร่วมมีนัยสำคัญหรือไม่ เมทริกซ์ที่ไม่เป็นศูนย์? พูดอย่างกว้าง ๆ ฉันสนใจในตัวบ่งชี้ที่ชี้แนะฉันไปยังเมทริกซ์การแปรปรวนร่วมที่มีความหมายซึ่งควรรวมอยู่ในการประมาณค่าความแปรปรวนสุดท้าย $\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

ถ้าคุณสังเกตอย่างมากมายไม่สิ้นสุดพวกเขาทั้งหมดจะมีความหมายในที่สุด เห็นได้ชัดว่าคุณไม่สามารถทำสิ่งนี้ได้ในทางปฏิบัติ แต่มีวิธีการ 'ตัดออก' การขยายหลังจากคำศัพท์บางคำดูคำตอบที่ยอดเยี่ยมที่ยอมรับได้ที่นี่ โดยทั่วไปคุณจะกำหนดเคอร์เนลที่สลายตัวเป็นและกำหนดน้ำหนักให้กับเมทริกซ์ความแปรปรวนร่วมแรกที่คุณสามารถคำนวณได้ หากคุณต้องการเลือกมีหลักการคุณจะต้องขุดลงไปในวรรณกรรม แต่โพสต์ที่ฉันเชื่อมโยงจะให้การอ้างอิงที่ดีเพื่อให้คุณทำอย่างนั้น $k(\cdot)$ $0$ $l_T$ $l_T$

— Jeremias K
แหล่งที่มา