ควรใช้แบบผสมเอฟเฟกต์เมื่อใด?

ตัวแบบผสมผลกระทบเชิงเส้นเป็นส่วนขยายของตัวแบบการถดถอยเชิงเส้นสำหรับข้อมูลที่รวบรวมและสรุปในกลุ่ม ข้อได้เปรียบที่สำคัญคือสัมประสิทธิ์อาจแตกต่างกันไปตามตัวแปรของกลุ่มหนึ่งตัวหรือมากกว่า

อย่างไรก็ตามฉันกำลังดิ้นรนกับเวลาที่จะใช้รูปแบบผสมแบบผสม? ฉันจะทำอย่างละเอียดคำถามของฉันโดยใช้ตัวอย่างของเล่นกับกรณีที่รุนแรง

สมมติว่าเราต้องการสร้างแบบจำลองความสูงและน้ำหนักสำหรับสัตว์และเราใช้สปีชีส์เป็นตัวแปรในการจัดกลุ่ม

• หากกลุ่ม / สายพันธุ์ที่แตกต่างกันแตกต่างกันจริงๆ พูดสุนัขและช้าง ฉันคิดว่าไม่มีจุดใช้โมเดลเอฟเฟกต์แบบผสมเราควรสร้างแบบจำลองสำหรับแต่ละกลุ่ม

• หากกลุ่ม / สปีชีส์ต่างกันมีความคล้ายคลึงกันจริงๆ พูดว่าสุนัขตัวเมียกับหมาตัวผู้ ฉันคิดว่าเราอาจต้องการใช้เพศเป็นตัวแปรเด็ดขาดในโมเดล

ดังนั้นฉันคิดว่าเราควรใช้โมเดลเอฟเฟกต์ผสมในกรณีกลาง? บอกเด็ก ๆ ว่ากลุ่มคือแมวสุนัขกระต่ายพวกมันเป็นสัตว์ขนาดใกล้เคียงกัน แต่ต่างกัน

มีข้อโต้แย้งอย่างเป็นทางการใด ๆ ที่จะแนะนำเมื่อใช้โมเดลเอฟเฟกต์แบบผสมเช่นวิธีการวาดเส้น

1. แบบจำลองอาคารสำหรับแต่ละกลุ่ม
2. แบบผสมลักษณะพิเศษ
3. ใช้กลุ่มเป็นตัวแปรเด็ดขาดในการถดถอย

ความพยายามของฉัน: วิธีที่ 1 เป็น "รูปแบบที่ซับซ้อน" ที่สุด / มีระดับความเป็นอิสระน้อยลงและวิธีที่ 3 คือรูปแบบที่ง่ายที่สุด "/ ระดับที่อิสระมากขึ้น และโมเดลเอฟเฟกต์ผสมอยู่ตรงกลาง เราอาจพิจารณาจำนวนข้อมูลและข้อมูลที่ซับซ้อนที่เราต้องเลือกแบบจำลองที่เหมาะสมตาม Bais Variance Trade Off

ฉันเกรงว่าฉันอาจมีคำตอบที่เหมาะสมและอาจไม่เป็นที่พอใจว่ามันเป็นทางเลือกส่วนตัวโดยนักวิจัยหรือนักวิเคราะห์ข้อมูล ดังที่กล่าวไว้ที่อื่นในหัวข้อนี้มันไม่เพียงพอที่จะพูดง่ายๆว่าข้อมูลมี "โครงสร้างซ้อนกัน" ถึงจะยุติธรรม แต่นี่เป็นวิธีที่หนังสือหลายเล่มอธิบายว่าควรใช้โมเดลหลายระดับเมื่อใด ตัวอย่างเช่นฉันเพิ่งดึงหนังสือMultilevel AnalysisของJoop Hox ออกจากชั้นหนังสือซึ่งให้คำจำกัดความนี้:

ปัญหาหลายระดับเกี่ยวข้องกับประชากรที่มีโครงสร้างแบบลำดับชั้น

แม้ในตำราเรียนที่ดีงามคำนิยามเริ่มต้นดูเหมือนจะเป็นวงกลม ฉันคิดว่านี่เป็นบางส่วนเนื่องจากผู้กระทำในการตัดสินใจว่าจะใช้โมเดลแบบไหน (รวมถึงโมเดลหลายระดับ)

หนังสืออีกเล่มหนึ่งเวสต์เวลช์และโมเดลผสม Linearของ Galecki กล่าวว่าโมเดลเหล่านี้มีไว้สำหรับ:

ตัวแปรผลลัพธ์ซึ่งโดยทั่วไปจะมีการกระจายส่วนที่เหลือ แต่อาจไม่อิสระหรือมีความแปรปรวนคงที่ การออกแบบการศึกษาที่นำไปสู่ชุดข้อมูลที่อาจวิเคราะห์อย่างเหมาะสมโดยใช้ LMM ได้แก่ (1) การศึกษากับข้อมูลกลุ่มเช่นนักเรียนในห้องเรียนหรือการออกแบบการทดลองด้วยบล็อกแบบสุ่มเช่นชุดของวัตถุดิบสำหรับกระบวนการอุตสาหกรรมและ (2) การศึกษาระยะยาวหรือการวัดซ้ำซึ่งเป็นเรื่องที่วัดซ้ำแล้วซ้ำอีกในช่วงเวลาหรือภายใต้เงื่อนไขที่แตกต่างกัน

Finch, Bolin, & Kelley's Multilevel Modeling ใน Rยังพูดถึงการละเมิดข้อสันนิษฐานของ iid และค่าตกค้างที่สัมพันธ์กัน:

สิ่งที่มีความสำคัญเป็นพิเศษในบริบทของการสร้างแบบจำลองหลายระดับคือสมมติฐาน [ในการถดถอยมาตรฐาน] ของเงื่อนไขข้อผิดพลาดแบบกระจายอย่างอิสระสำหรับการสังเกตการณ์แต่ละครั้งภายในตัวอย่าง สมมติฐานนี้เป็นหลักหมายความว่าไม่มีความสัมพันธ์ระหว่างบุคคลในกลุ่มตัวอย่างสำหรับตัวแปรตามเมื่อตัวแปรอิสระในการวิเคราะห์ถูกนำมาใช้

ฉันเชื่อว่าแบบจำลองหลายระดับเหมาะสมเมื่อมีเหตุผลที่เชื่อได้ว่าการสังเกตไม่จำเป็นต้องเป็นอิสระจากกัน ไม่ว่าจะเป็น "คลัสเตอร์" บัญชีใดสำหรับการไม่ขึ้นกับความเป็นอิสระสามารถทำแบบจำลองได้

ตัวอย่างที่ชัดเจนคือเด็ก ๆ ในห้องเรียน - พวกเขาทุกคนมีปฏิสัมพันธ์ซึ่งกันและกันซึ่งอาจทำให้คะแนนการทดสอบของพวกเขาไม่เป็นอิสระ ถ้าห้องเรียนหนึ่งมีใครบางคนที่ถามคำถามที่นำไปสู่การครอบคลุมเนื้อหาในชั้นเรียนนั้นซึ่งไม่ครอบคลุมในชั้นเรียนอื่น ถ้าครูตื่นตัวในชั้นเรียนมากกว่าชั้นอื่น ๆ ในกรณีนี้จะมีข้อมูลบางอย่างที่ไม่เป็นอิสระ ในคำหลายระดับเราสามารถคาดหวังความแปรปรวนบางอย่างในตัวแปรตามที่จะเป็นเพราะกลุ่ม (เช่นชั้น)

ตัวอย่างสุนัขของคุณกับช้างนั้นขึ้นอยู่กับตัวแปรอิสระและตัวแปรตามความสนใจฉันคิดว่า ตัวอย่างเช่นสมมติว่าเราถามว่าคาเฟอีนมีผลต่อระดับกิจกรรมหรือไม่ สัตว์จากทั่วสวนสัตว์ได้รับการสุ่มให้รับเครื่องดื่มที่มีคาเฟอีนหรือเครื่องดื่มควบคุม

หากเราเป็นนักวิจัยที่สนใจคาเฟอีนเราอาจระบุรูปแบบหลายระดับเพราะเราสนใจผลของคาเฟอีนจริงๆ โมเดลนี้จะถูกระบุเป็น:

activity ~ condition + (1+condition|species)

สิ่งนี้มีประโยชน์อย่างยิ่งหากมีสายพันธุ์จำนวนมากที่เราทำการทดสอบสมมติฐานนี้ อย่างไรก็ตามนักวิจัยอาจสนใจผลของคาเฟอีนเฉพาะชนิด ในกรณีนั้นพวกเขาสามารถระบุสปีชีส์เป็นเอฟเฟกต์คงที่:

activity ~ condition + species + condition*species

เห็นได้ชัดว่านี่เป็นปัญหาถ้ามีพูด 30 สปีชีส์สร้างแบบ 2 x 30 เทอะทะ อย่างไรก็ตามคุณสามารถสร้างความคิดสร้างสรรค์ได้ด้วยวิธีการสร้างแบบจำลองความสัมพันธ์เหล่านี้

ตัวอย่างเช่นนักวิจัยบางคนโต้เถียงกับการใช้แบบจำลองหลายระดับที่กว้างขึ้น Gelman, Hill, & Yajima (2012)ให้เหตุผลว่าการสร้างแบบจำลองหลายระดับสามารถใช้ในการแก้ไขสำหรับการเปรียบเทียบหลาย ๆ อย่าง - แม้ในการวิจัยเชิงทดลองที่โครงสร้างของข้อมูลนั้นไม่ชัดเจนตามลำดับชั้นในธรรมชาติ:

ปัญหาที่ยากขึ้นเกิดขึ้นเมื่อสร้างแบบจำลองการเปรียบเทียบหลายรายการที่มีโครงสร้างมากขึ้น ตัวอย่างเช่นสมมติว่าเรามีห้ามาตรการผลลัพธ์สามประเภทของการรักษาและกลุ่มย่อยจำแนกตามสองเพศและสี่กลุ่มเชื้อชาติ เราไม่ต้องการจำลองโครงสร้าง 2 × 3 × 4 × 5 นี้เป็น 120 กลุ่มที่แลกเปลี่ยนได้ แม้ในสถานการณ์ที่ซับซ้อนกว่านี้เราคิดว่าการสร้างแบบจำลองหลายระดับควรและในที่สุดจะเข้าแทนที่ขั้นตอนการเปรียบเทียบหลายแบบแบบดั้งเดิม

สามารถจำลองปัญหาได้หลายวิธีและในกรณีที่คลุมเครืออาจมีหลายวิธีที่น่าสนใจ ฉันคิดว่างานของเราคือการเลือกวิธีการที่สมเหตุสมผลและมีข้อมูลและทำอย่างโปร่งใส

แน่นอนคุณสามารถสร้างแบบจำลองสำหรับแต่ละกลุ่มที่แตกต่างกันไม่มีอะไรผิดปกติกับที่ อย่างไรก็ตามคุณต้องมีขนาดตัวอย่างที่ใหญ่ขึ้นและจำเป็นต้องจัดการหลายรุ่น

ด้วยการใช้ตัวแบบผสมคุณรวมกลุ่ม (และแบ่งปัน) ข้อมูลเข้าด้วยกันและต้องการขนาดตัวอย่างที่เล็กลง

ในการทำเช่นนี้เรากำลังแบ่งปันความแข็งแกร่งทางสถิติ แนวคิดนี้คือสิ่งที่เราสามารถอนุมานได้ดีในกลุ่มข้อมูลหนึ่งสามารถช่วยเราในสิ่งที่เราไม่สามารถอนุมานได้ดีในอีกกลุ่มหนึ่ง

แบบผสมยังช่วยป้องกันกลุ่มที่มีกลุ่มตัวอย่างมากเกินไปจากการอนุมานที่ไม่เป็นธรรม

ประเด็นของฉันคือถ้าคุณต้องการสร้างแบบจำลองโครงสร้างแบบลำดับขั้นในภายหลังคุณควรเพิ่มเอฟเฟกต์แบบสุ่มให้กับแบบจำลองของคุณ มิฉะนั้นถ้าคุณไม่สนใจในโมเดลของคุณไม่ได้ใช้งาน

https://www.dropbox.com/s/rzi2rsou6h817zz/Datascience%20Presentation.pdf?dl=0

ให้การอภิปรายที่เกี่ยวข้อง ผู้เขียนกล่าวถึงสาเหตุที่เขาไม่ต้องการเรียกใช้แบบจำลองการถดถอยแยกต่างหาก

ในโมเดลเอฟเฟกต์แบบผสมคุณเพิ่มคำสุ่ม (ข้อผิดพลาด) ในโมเดลของคุณเพื่อให้คุณ "ผสม" เอฟเฟกต์แบบคงที่และแบบสุ่ม ดังนั้นอีกวิธีที่ควรพิจารณาเมื่อใช้โมเดลเอฟเฟกต์แบบผสมอาจจะดูว่า "เอฟเฟ็กต์แบบสุ่ม" คืออะไร ดังนั้นนอกเหนือจากคำตอบที่ได้รับก่อนหน้านี้ฉันยังพบความแตกต่างระหว่างคำว่า "คงที่" และ "สุ่ม" เอฟเฟ็กต์จากคำแนะนำของBates (2010) , ส่วนที่ 1.1 (เฉพาะหน้า 2)

พารามิเตอร์ที่เกี่ยวข้องกับระดับของ covariate บางครั้งเรียกว่า "ผลกระทบ" ของระดับ หากชุดของระดับ covariate ที่เป็นไปได้ได้รับการแก้ไขและทำซ้ำได้เราจำลอง covariate โดยใช้พารามิเตอร์ผลกระทบคงที่ หากระดับที่เราสังเกตเห็นแสดงถึงกลุ่มตัวอย่างแบบสุ่มจากชุดของระดับที่เป็นไปได้ทั้งหมด เราจะรวมเอฟเฟกต์แบบสุ่มในโมเดล มีสองสิ่งที่ต้องสังเกตเกี่ยวกับความแตกต่างระหว่างพารามิเตอร์เอฟเฟกต์คงที่และเอฟเฟกต์แบบสุ่ม อย่างแรกชื่อต่าง ๆ ทำให้เข้าใจผิดเพราะความแตกต่างระหว่างค่าคงที่และแบบสุ่มนั้นเป็นคุณสมบัติของระดับของตัวแปรโควาเรียตมากกว่าสมบัติของเอฟเฟกต์ที่เกี่ยวข้อง

คำจำกัดความนี้มักใช้กับโครงสร้างเชิงลำดับชั้นบางอย่างเช่นประเทศหรือห้องเรียนเนื่องจากคุณมีตัวอย่างแบบสุ่มของประเทศหรือห้องเรียนข้อมูลจะไม่ถูกรวบรวมจากประเทศหรือห้องเรียนที่เป็นไปได้ทั้งหมด

อย่างไรก็ตามเพศนั้นได้รับการแก้ไขแล้ว (หรืออย่างน้อยก็ถือว่าเป็นการแก้ไข) หากคุณมีเพศชายหรือเพศหญิงไม่มีระดับเพศอื่น ๆ เหลืออยู่ (อาจมีข้อยกเว้นเรื่องเพศ แต่มีบางอย่างที่ไม่สนใจ)

หรือพูดในระดับการศึกษา: ถ้าคุณถามว่าคนที่มีการศึกษาต่ำกว่ากลางหรือสูงกว่าไม่มีระดับเหลือดังนั้นคุณยังไม่ได้รับตัวอย่าง "สุ่ม" ของระดับการศึกษาที่เป็นไปได้ทั้งหมด (ดังนั้นนี่คือผลคงที่)

คุณใช้รูปแบบผสมเมื่อมีสมมติฐานบางอย่างที่เหมาะสมสามารถทำได้ตามการออกแบบการศึกษาเกี่ยวกับธรรมชาติของความสัมพันธ์ระหว่างการสังเกตและการอนุมานที่ต้องการในระดับบุคคลหรือผลตามเงื่อนไข แบบจำลองผสมอนุญาตให้ใช้ข้อกำหนดของเอฟเฟกต์แบบสุ่มซึ่งเป็นการแสดงความสะดวกของโครงสร้างสหสัมพันธ์ที่เกิดขึ้นตามธรรมชาติในการรวบรวมข้อมูล

รูปแบบผสมที่พบมากที่สุดคือโมเดลดักจับแบบสุ่มซึ่งประเมินการกระจายตัวแฝงของค่าคงที่ทั่วไปที่มีการแจกแจงปกติ 0 ค่าเฉลี่ยความแปรปรวน จำกัด ภายในกลุ่มของบุคคลที่ระบุในชุดข้อมูล วิธีการนี้อธิบายถึงปัจจัยที่อาจทำให้เกิดความสับสนหลายร้อยอย่างซึ่งอาจพบได้ทั่วไปในกลุ่มการสังเกตหรือกลุ่ม แต่แตกต่างกันระหว่างกลุ่ม

แบบผสมทั่วไปประเภทที่สองคือแบบจำลองความลาดชันแบบสุ่มซึ่งคล้ายกับแบบจำลองการสกัดกั้นแบบสุ่มประเมินการกระจายตัวของการโต้ตอบแบบทำนายเวลาซึ่งแฝงอยู่อีกครั้งซึ่งมาจากการกระจายแบบปกติ 0 ค่าเฉลี่ยความแปรปรวน จำกัด ภายในการศึกษาแบบพาเนล ของการสังเกตวัดในทันทีหรือในแนวยาว

$cor(Y_1, Y_2) = \rho$$Y_1, Y_2$$cor(Y_t, Y_s) = \rho^{|t-s|}$$Y_t, Y_s$$t, s$และ 0 เป็นอย่างอื่น ผลลัพธ์ไม่เหมือนกันเนื่องจากการสกัดกั้นแบบสุ่มบังคับให้การสังเกตภายในกลุ่มสัมพันธ์มีความสัมพันธ์เชิงบวกซึ่งเกือบจะเป็นสมมติฐานที่สมเหตุสมผลเสมอ

ระดับบุคคลหรือผลตามเงื่อนไขสามารถเปรียบเทียบกับระดับประชากรหรือผลกระทบเล็กน้อย ผลกระทบเล็กน้อยแสดงถึงผลกระทบในประชากรจากการแทรกแซงหรือคัดกรอง ตัวอย่างเช่นการแทรกแซงเพื่อเพิ่มการปฏิบัติตามในการฟื้นฟูสมรรถภาพสารเสพติดอาจดูที่การเข้าร่วมมากกว่า 3 เดือนในคณะผู้ป่วยที่ยอมรับเงื่อนไขต่าง ๆ ระยะเวลาในการใช้งานอาจแตกต่างกันระหว่างผู้ป่วยและคาดการณ์อย่างมากว่าจะต้องปฏิบัติตามเวิร์กช็อปด้วยการใช้ผู้เข้าร่วมที่มีแนวโน้มมากขึ้นและหลีกเลี่ยงการเสพติดมากขึ้น การวิเคราะห์ระดับบุคคลอาจเปิดเผยว่าการศึกษามีประสิทธิภาพแม้ข้อเท็จจริงที่ว่าผู้เข้าร่วมที่ติดยาเสพติดอีกต่อไปไม่ได้เข้าร่วมก่อนที่จะได้รับการแทรกแซงและยังคงไม่เข้าร่วมหลังจากได้รับการแทรกแซง

ผลกระทบเล็กน้อยมีการอนุมานที่แม่นยำน้อยลงเนื่องจากไม่สนใจความเป็นเนื้อเดียวกันระหว่างกลุ่มในเวลาหรือพื้นที่ พวกเขาสามารถประมาณด้วยสมการการประมาณทั่วไปหรือโดยการทำให้โมเดลผสม

ควรใช้เอฟเฟกต์แบบผสมเมื่อข้อมูลมีโครงสร้างซ้อนกันหรือเป็นลำดับชั้น สิ่งนี้เป็นการละเมิดสมมติฐานของความเป็นอิสระของการวัดเนื่องจากการวัดทั้งหมดภายในกลุ่ม / ระดับเดียวกันนั้นมีความสัมพันธ์กัน ในกรณีที่

"ถ้ากลุ่ม / สปีชีส์ต่างกันมีความคล้ายคลึงกันจริง ๆ พูดสุนัขตัวเมียกับหมาตัวผู้ฉันคิดว่าเราอาจต้องการใช้เพศเป็นตัวแปรเด็ดขาดในตัวแบบ"

เพศจะเป็นตัวแปรปัจจัยและผลกระทบคงที่ในขณะที่ความแปรปรวนของขนาดสุนัขในเพศเป็นแบบสุ่มผล แบบจำลองของฉันจะเป็น

response ~ sex + (1|size), data=data

สังหรณ์ใจ, rabits, สุนัขและ cates ควรเป็นรูปแบบแยกต่างหากเนื่องจากขนาดของสุนัขและแมวไม่ได้มีความสัมพันธ์กัน แต่ขนาดของสุนัขสองตัวเป็นชนิดของความแปรปรวน "ภายในสายพันธุ์"