แนวคิดแบบผสมและวิธีเบย์

10

ในรูปแบบผสมเราถือว่าผลกระทบแบบสุ่ม (พารามิเตอร์) เป็นตัวแปรสุ่มที่เป็นไปตามการแจกแจงปกติ มันดูคล้ายกับวิธีเบย์ซึ่งมีการสันนิษฐานว่าพารามิเตอร์ทั้งหมดเป็นแบบสุ่ม

ดังนั้นแบบจำลองลักษณะพิเศษแบบสุ่มของกรณีพิเศษของวิธีการแบบเบย์?

bayesian mixed-model

— askming
แหล่งที่มา

7

นี่เป็นคำถามที่ดี พูดอย่างเคร่งครัดโดยใช้แบบผสมไม่ได้ทำให้คุณ Bayesian ลองจินตนาการถึงการประเมินเอฟเฟกต์แบบสุ่มแยกกัน (ถือว่าเป็นเอฟเฟกต์คงที่) จากนั้นดูการกระจายที่เกิดขึ้น นี่คือ "สกปรก" แต่ตามหลักการแล้วคุณมีการแจกแจงความน่าจะเป็นเหนือเอฟเฟกต์แบบสุ่มตามแนวคิดความถี่สัมพัทธ์

แต่ถ้าในฐานะนักประดาน้ำคุณเป็นนายแบบคุณโดยใช้ความเป็นไปได้สูงสุดอย่างเต็มที่และต้องการที่จะ "ประเมิน" เอฟเฟกต์แบบสุ่มคุณจะมีอาการแทรกซ้อนเล็กน้อย ปริมาณเหล่านี้ไม่ได้รับการแก้ไขเหมือนกับพารามิเตอร์การถดถอยทั่วไปของคุณดังนั้นคำที่ดีกว่า "การประมาณค่า" อาจเป็น "การคาดการณ์" หากคุณต้องการทำนายผลแบบสุ่มสำหรับหัวเรื่องที่กำหนดคุณจะต้องใช้ข้อมูลของหัวเรื่องนั้น คุณจะต้องรีสอร์ทเพื่อกฎ Bayes' หรืออย่างน้อยความคิดที่ว่า

ฉ (β_{ผม} | Y_{ผม}) α ฉ (Y_{ผม} | β_{ผม}) ก. (β_{ผม}) .

$f(\beta_i | \mathbf{y}_i) \propto f(\mathbf{y}_i | \beta_i) g(\beta_i).$

ทำงานเป็นหลักเหมือนก่อน และฉันคิดว่า ณ จุดนี้หลายคนอาจเรียกสิ่งนี้ว่า "เบย์เชิงประจักษ์"

g ()

$g()$

ในการเป็น Bayesian ที่แท้จริงคุณจะไม่เพียง แต่ต้องระบุการกระจายสำหรับเอฟเฟกต์แบบสุ่มของคุณ แต่การแจกแจง (Priors) สำหรับแต่ละพารามิเตอร์ที่กำหนดการกระจายนั้นรวมถึงการแจกแจงสำหรับพารามิเตอร์เอฟเฟกต์คงที่ทั้งหมด มันค่อนข้างรุนแรง!

— เบ็นโอโกเร็ก
แหล่งที่มา

คำตอบที่ชัดเจนและตรงไปตรงมาจริงๆ

— DL Dahly

@ baogorek - ค่าเริ่มต้นที่แข็งแกร่งพอสมควรคือ Cauchy priors สำหรับเอฟเฟกต์คงที่และครึ่ง cauchy สำหรับพารามิเตอร์ความแปรปรวน - ไม่ใช่ว่า "รุนแรง" - ดูเหมือนว่ามีแนวโน้มถูกลงโทษ

— ความน่าจะเป็นทาง

4

เอฟเฟกต์แบบสุ่มเป็นวิธีการระบุข้อสันนิษฐานการกระจายโดยใช้การแจกแจงแบบมีเงื่อนไข ตัวอย่างเช่นการวิเคราะห์ความแปรปรวนแบบทางเดียวแบบสุ่มคือ: และสมมติฐานการกระจายแบบนี้เทียบเท่ากับ

(Y_{ผม J} | μ_{ผม}) ~_{IID} ยังไม่มีข้อความ (μ_{ผม}, σ_{W}^{2}), J = 1, ..., J, μ_{ผม} ~_{IID} ยังไม่มีข้อความ (μ, σ_{ข}^{2}), ผม = 1, ..., ผม .

$(y_{ij} \mid \mu_i) \sim_{\text{iid}} {\cal N}(\mu_i, \sigma^2_w), \quad j=1,\ldots,J, \qquad \mu_i \sim_{\text{iid}} {\cal N}(\mu, \sigma^2_b), \quad i=1,\ldots,I.$

where ที่

มีโครงสร้างที่แลกเปลี่ยนได้ (มีเส้นทแยงมุม

และความแปรปรวนร่วม

) เพื่อ Bayesianify รูปแบบที่คุณต้องกำหนดแจกแจงก่อนใน

และΣ

(\begin{matrix} Y_{ผม 1} \\ ⋮ \\ Y_{ผม J} \end{matrix}) ~_{IID} ยังไม่มีข้อความ ((\begin{matrix} μ \\ ⋮ \\ μ \end{matrix}), Σ), ผม = 1, ..., ผม

$\begin{pmatrix} y_{i1} \\ \vdots \\ y_{iJ} \end{pmatrix} \sim_{\text{iid}} {\cal N}\left(\begin{pmatrix} \mu \\ \vdots \\ \mu \end{pmatrix}, \Sigma\right), \quad i=1,\ldots,I$

Σ

$\Sigma$

σ_{b}^{2} + σ_{w}^{2}

$\sigma^2_b+\sigma^2_w$

σ_{b}^{2}

$\sigma^2_b$

μ

$\mu$

Σ

$\Sigma$

— Stéphane Laurent
แหล่งที่มา

3

หากคุณกำลังพูดในแง่ของการทำซ้ำคำตอบเดียวกันแล้วคำตอบคือใช่ วิธีการคำนวณ INLA (google "inla bayesian") สำหรับ Bayesian GLMMs รวมกับเครื่องแบบก่อนหน้าสำหรับเอฟเฟกต์คงที่และพารามิเตอร์ความแปรปรวนโดยทั่วไปจะทำซ้ำเอาต์พุต EBLUP / EBLUE ภายใต้การประมาณแบบ "gaussian" โดยประมาณ ผ่าน REML

— probabilityislogic
แหล่งที่มา

1

ฉันไม่คิดอย่างนั้นฉันคิดว่ามันเป็นส่วนหนึ่งของฟังก์ชั่นความน่าจะเป็น มันคล้ายกับการระบุคำผิดพลาดดังต่อไปนี้การแจกแจงแบบปกติในรูปแบบการถดถอยหรือกระบวนการไบนารีบางอย่างสามารถสร้างแบบจำลองโดยใช้ความสัมพันธ์โลจิสติกใน GLM

เนื่องจากไม่มีข้อมูลหรือการแจกแจงก่อนหน้าฉันจึงไม่ถือว่า Bayesian

— หุบเขาแคบ ๆ
แหล่งที่มา

3

ไม่มีข้อมูลก่อนใช้ใช่ไหม คุณระบุรูปแบบการทำงานสำหรับฟังก์ชั่นโอกาสได้อย่างไร :-D

— ความน่าจะเป็นทาง

บางคนแย้งว่าความแตกต่างระหว่างความน่าจะเป็นและความก่อนหน้านั้นค่อนข้างจะเป็นเรื่องประดิษฐ์

— Christoph Hanck