การสร้างแบบจำลองและการเลือกโดยใช้ Hosmer และคณะ 2013. การประยุกต์ใช้การถดถอยโลจิสติกใน R

นี่เป็นโพสต์แรกของฉันใน StackExchange แต่ฉันได้ใช้มันเป็นทรัพยากรมาระยะหนึ่งแล้วฉันจะพยายามอย่างดีที่สุดที่จะใช้รูปแบบที่เหมาะสมและทำการแก้ไขที่เหมาะสม นอกจากนี้ยังเป็นคำถามที่มีหลายส่วน ฉันไม่แน่ใจว่าฉันควรแยกคำถามออกเป็นหลายกระทู้หรือกระทู้เดียว เนื่องจากคำถามมาจากส่วนหนึ่งในข้อความเดียวกันฉันคิดว่ามันจะเกี่ยวข้องกับการโพสต์เป็นคำถามเดียว

ฉันกำลังค้นคว้าการใช้ถิ่นที่อยู่ของสัตว์เลี้ยงลูกด้วยนมขนาดใหญ่เพื่อทำวิทยานิพนธ์ปริญญาโท เป้าหมายของโครงการนี้คือเพื่อให้ผู้จัดการป่าไม้ (ซึ่งน่าจะไม่ใช่นักสถิติ) ที่มีกรอบการปฏิบัติเพื่อประเมินคุณภาพของที่อยู่อาศัยในดินแดนที่พวกเขาจัดการเกี่ยวกับสายพันธุ์นี้ สัตว์ตัวนี้ค่อนข้างเข้าใจยากผู้เชี่ยวชาญด้านที่อยู่อาศัยและมักจะอยู่ในพื้นที่ห่างไกล มีการศึกษาค่อนข้างน้อยเกี่ยวกับการกระจายของสายพันธุ์โดยเฉพาะฤดูกาล สัตว์หลายตัวติดตั้งปลอกคอ GPS เป็นระยะเวลาหนึ่งปี หนึ่งร้อยสถานที่ (50 ฤดูร้อนและ 50 ฤดูหนาว) ได้รับการสุ่มเลือกจากข้อมูลปลอกคอ GPS ของสัตว์แต่ละตัว นอกจากนี้ 50 คะแนนถูกสร้างแบบสุ่มภายในบ้านของสัตว์แต่ละตัวเพื่อทำหน้าที่เป็นตำแหน่ง "ว่าง" หรือ "หลอก"

สำหรับที่ตั้งแต่ละแห่งตัวแปรที่อยู่อาศัยหลายแห่งถูกสุ่มตัวอย่างในฟิลด์ (ขนาดเส้นผ่าศูนย์กลางต้นไม้, แนวนอน, เศษไม้หยาบ ฯลฯ ) และตัวอย่างจำนวนมากถูกสุ่มตัวอย่างจากระยะไกลผ่าน GIS (ระดับความสูง, ระยะห่างจากถนน, ความทนทาน ฯลฯ ) ตัวแปรส่วนใหญ่จะต่อเนื่องยกเว้นตัวแปรเด็ดขาด 1 อันที่มี 7 ระดับ

เป้าหมายของฉันคือใช้การสร้างแบบจำลองการถดถอยเพื่อสร้างฟังก์ชั่นการเลือกทรัพยากร (RSF) เพื่อสร้างแบบจำลองความน่าจะเป็นสัมพัทธ์ของการใช้หน่วยทรัพยากร ฉันต้องการสร้าง RSF (ฤดูหนาวและฤดูร้อน) ตามฤดูกาลสำหรับประชากรของสัตว์ (ประเภทการออกแบบ I) รวมถึงสัตว์แต่ละตัว (การออกแบบประเภท III)

ฉันใช้ R เพื่อทำการวิเคราะห์ทางสถิติ

ข้อความหลักของฉันได้ใช้เป็น ...

• "Hosmer, DW, Lemeshow, S. , & Sturdivant, RX 2013. การถดถอยโลจิสติกประยุกต์, Wiley, Chicester"

ตัวอย่างส่วนใหญ่ใน Hosmer และคณะ ใช้เดินทางเข้ามายัง, ฉันได้รับยังใช้ต่อไปนี้ 2 ตำราสำหรับการอ้างอิงกับ R

• "Crawley, MJ 2005. สถิติ: บทนำโดยใช้ RJ Wiley, Chichester, West Sussex, England"
• "Plant, RE 2012 การวิเคราะห์ข้อมูลเชิงพื้นที่ในนิเวศวิทยาและการเกษตรโดยใช้ R. CRC Press, London, GBR"

ฉันกำลังทำตามขั้นตอนในบทที่ 4 ของ Hosmer และคณะ สำหรับ "การเลือกแบบมีจุดหมายอย่างมีจุดหมาย"และมีคำถามสองสามข้อเกี่ยวกับกระบวนการ ฉันได้อธิบายขั้นตอนแรกในข้อความด้านล่างเพื่อช่วยตอบคำถามของฉัน

1. ขั้นตอนที่ 1: การวิเคราะห์ตัวแปรอิสระแต่ละตัวแปรที่ไม่สามารถเปลี่ยนแปลงได้ (ฉันใช้การถดถอยโลจิสติกที่ไม่สามารถเปลี่ยนแปลงได้) ตัวแปรใด ๆ ที่มีการทดสอบที่ไม่สามารถเปลี่ยนแปลงได้มีค่า p น้อยกว่า 0.25 ควรรวมไว้ในโมเดลหลายตัวแปรแรก
2. ขั้นตอนที่ 2: ติดตั้งโมเดลหลายตัวแปรที่มี covariates ทั้งหมดที่ระบุไว้เพื่อรวมไว้ในขั้นตอนที่ 1 และเพื่อประเมินความสำคัญของ covariate แต่ละรายการโดยใช้ p-value ของสถิติ Wald ควรกำจัดตัวแปรที่ไม่ได้มีส่วนร่วมในระดับความสำคัญดั้งเดิมและแบบจำลองใหม่ให้พอดี รุ่นที่ใหม่กว่าและมีขนาดเล็กกว่าควรเปรียบเทียบกับรุ่นเก่าที่มีขนาดใหญ่กว่าโดยใช้การทดสอบอัตราส่วนความน่าจะเป็นบางส่วน
3. ขั้นตอนที่ 3: เปรียบเทียบค่าของสัมประสิทธิ์โดยประมาณในโมเดลขนาดเล็กกับค่าที่เกี่ยวข้องจากโมเดลขนาดใหญ่ ตัวแปรใด ๆ ที่มีค่าสัมประสิทธิ์เปลี่ยนไปอย่างเด่นชัดในขนาดควรเพิ่มกลับเข้าไปในตัวแบบเนื่องจากมีความสำคัญในแง่ของการให้การปรับเปลี่ยนที่จำเป็นของผลกระทบของตัวแปรที่ยังคงอยู่ในตัวแบบ วนรอบในขั้นตอนที่ 2 และ 3 จนกระทั่งปรากฏว่าตัวแปรสำคัญทั้งหมดรวมอยู่ในโมเดลและสิ่งที่ยกเว้นนั้นเป็นข้อมูลทางการแพทย์และ / หรือไม่สำคัญทางสถิติ Hosmer และคณะ ใช้ " delta-beta-hat-percent " เป็นตัวชี้วัดการเปลี่ยนแปลงขนาดของสัมประสิทธิ์ พวกเขาแนะนำให้มีการเปลี่ยนแปลงที่สำคัญในฐานะเดลต้า - เบต้า - หมวก - เปอร์เซ็นต์ของ> 20% Hosmer และคณะ กำหนดdelta-beta-hat-percentเป็น 1 ที่ไหนθ1เป็นค่าสัมประสิทธิ์จากรูปแบบที่มีขนาดเล็กและβ1เป็นค่าสัมประสิทธิ์จากแบบจำลองขนาดใหญ่$\Delta\hat{\beta}\%=100\frac{\hat{\theta}_{1}-\hat{\beta}_{1}}{\hat{\beta}_{1}}$$\hat{\theta}_{1}$$\hat{\beta}_{1}$
4. ขั้นตอนที่ 4: เพิ่มตัวแปรแต่ละตัวที่ไม่ได้เลือกในขั้นตอนที่ 1 เข้ากับโมเดลที่ได้รับในตอนท้ายของขั้นตอนที่ 3 ครั้งละหนึ่งรายการและตรวจสอบความสำคัญของตัวแปรนั้นโดยค่าสถิติ Wald Wald p-value หรือการทดสอบอัตราส่วนความน่าจะเป็นบางส่วน ตัวแปรที่มีมากกว่า 2 ระดับ ขั้นตอนนี้มีความสำคัญสำหรับการระบุตัวแปรที่ตัวเองไม่ได้เกี่ยวข้องอย่างมีนัยสำคัญกับผล แต่ให้มีส่วนร่วมที่สำคัญในการปรากฏตัวของตัวแปรอื่น ๆ เราหมายถึงรูปแบบในตอนท้ายของขั้นตอนที่ 4 เป็นที่เบื้องต้นรูปแบบผลกระทบหลัก
5. ขั้นตอนที่ 5-7: ฉันยังไม่ได้ไปถึงจุดนี้ดังนั้นฉันจะออกจากขั้นตอนเหล่านี้ตอนนี้หรือบันทึกไว้สำหรับคำถามอื่น

คำถามของฉัน:

1. ในขั้นตอนที่ 2 สิ่งที่จะเหมาะสมในระดับนัยสำคัญแบบดั้งเดิมค่า p ของ <0.05 บางอย่างที่ใหญ่กว่าเช่น <.25
2. ในขั้นตอนที่ 2 อีกครั้งฉันต้องการตรวจสอบให้แน่ใจว่ารหัส R ที่ฉันใช้สำหรับการทดสอบความน่าจะเป็นบางส่วนนั้นถูกต้องและฉันต้องการตรวจสอบให้แน่ใจว่าฉันกำลังตีความผลลัพธ์อย่างถูกต้อง นี่คือสิ่งที่ฉันได้ทำ ... anova(smallmodel,largemodel,test='Chisq')หาก p-value มีความสำคัญ (<0.05) ฉันเพิ่มตัวแปรกลับไปที่โมเดลถ้ามันไม่มีนัยสำคัญฉันดำเนินการลบต่อไปหรือไม่
3. $\Delta\hat{\beta}\%$$\Delta\hat{\beta}\%$

4. $\Delta\hat{\beta}\%$

   100*((smallmodel$coef[2]-largemodel$coef[2])/largemodel$coef[2])

$P$$\beta$

วิธีการที่ระบุไว้สำหรับการเลือกตัวแปรโดยใช้สถิติเช่น P การถดถอยแบบขั้นตอนในข้อความคลาสสิก Hosmer et al ควรหลีกเลี่ยงค่าใช้จ่ายทั้งหมด

เร็ว ๆ นี้ผมเจอบทความที่ตีพิมพ์ในวารสารนานาชาติของการพยากรณ์มีสิทธิออกเสียง " ภาพลวงตาของการคาดการณ์ " และ commentory ในบทความนี้โดยคี ธ อ๊อด ฉันขอแนะนำทั้งสองบทความนี้เนื่องจากพวกเขาแสดงให้เห็นอย่างชัดเจนว่าการใช้สถิติการถดถอยมักทำให้เข้าใจผิด Follwoing เป็นสกรีนช็อตของบทความของ Keith Ord ที่แสดงโดยการจำลองว่าเหตุใดการถดถอยแบบชาญฉลาดขั้นตอน (ใช้สถิติ p) สำหรับการเลือกตัวแปรไม่ถูกต้อง

บทความที่ยอดเยี่ยมอีกชิ้นหนึ่งของScott Armstrongที่ปรากฏในวารสารฉบับเดียวกันแสดงให้เห็นว่าทำไมเราจึงต้องระมัดระวังในการใช้การวิเคราะห์การถดถอยกับข้อมูลที่ไม่ได้ทดลองกับกรณีศึกษา นับตั้งแต่ฉันอ่านบทความเหล่านี้ฉันหลีกเลี่ยงการใช้การวิเคราะห์การถดถอยเพื่อวาดการอนุมานเชิงสาเหตุของข้อมูลที่ไม่ใช่การทดลอง ในฐานะผู้ประกอบการฉันหวังว่าฉันจะได้อ่านบทความเช่นนี้มาหลายปีซึ่งจะช่วยให้ฉันตัดสินใจผิดพลาดและหลีกเลี่ยงข้อผิดพลาดที่มีราคาแพง

สำหรับปัญหาเฉพาะของคุณฉันไม่คิดว่าการทดลองแบบสุ่มเป็นไปได้ในกรณีของคุณดังนั้นฉันขอแนะนำให้คุณใช้การตรวจสอบความถูกต้องข้ามเพื่อเลือกตัวแปร ตัวอย่างผลงานที่ดีมีอยู่ในหนังสือออนไลน์ฟรีเล่มนี้ว่าคุณจะใช้ความแม่นยำในการทำนายเพื่อเลือกตัวแปรอย่างไร นอกจากนี้ยังมีวิธีการ selction อื่น ๆ อีกมากมาย แต่ฉันก็ จำกัด การตรวจสอบข้าม

โดยส่วนตัวแล้วฉันชอบคำพูดจากอาร์มสตรอง "ที่ไหนสักแห่งที่ฉันพบความคิดที่ว่าสถิติควรจะช่วยสื่อสารวิธีการถดถอยที่ซับซ้อนและฝูงของสถิติการวินิจฉัยได้พาเราไปในทิศทางอื่น"

ด้านล่างเป็นความคิดเห็นของฉันเอง ฉันไม่ใช่นักสถิติ

• ในฐานะนักชีววิทยาฉันคิดว่าคุณคงพอใจในประเด็นนี้ ธรรมชาติมีความซับซ้อนมากสมมติว่าเป็นฟังก์ชันลอจิสติกและไม่มีปฏิสัมพันธ์ระหว่างตัวแปรในธรรมชาติ นอกจากนี้การถดถอยโลจิสติกมีสมมติฐานดังต่อไปนี้:

• ความน่าจะเป็นตามเงื่อนไขที่แท้จริงคือฟังก์ชันลอจิสติกของตัวแปรอิสระ

• ไม่มีการละเว้นตัวแปรสำคัญ ไม่มีตัวแปรภายนอก

• ตัวแปรอิสระถูกวัดโดยไม่มีข้อผิดพลาด
• การสังเกตมีความเป็นอิสระ
• ตัวแปรอิสระไม่ใช่ชุดค่าผสมเชิงเส้นซึ่งกันและกัน

ฉันขอแนะนำการจำแนกและต้นไม้การถดถอย (CART (r)) เพื่อเป็นทางเลือกแทนการถดถอยแบบลอจิสติกสำหรับการวิเคราะห์ประเภทนี้เพราะมันไม่มีสมมติฐาน:

1. Non-Parametric / Data Driven / ไม่มีข้อสันนิษฐานว่าผลลัพธ์ของคุณเป็นไปตามฟังก์ชันลอจิสติก
2. ไม่ใช่เชิงเส้น
3. ช่วยให้การโต้ตอบตัวแปรที่ซับซ้อน
4. จัดทำแผนผังต้นไม้ที่สามารถตีความได้สูงซึ่งนักสถิติที่ไม่ใช่ผู้จัดการป่าชอบที่จะชื่นชม
5. จัดการกับค่าที่หายไปได้อย่างง่ายดาย
6. ไม่จำเป็นต้องเป็นนักสถิติเพื่อใช้รถเข็น !!
7. เลือกตัวแปรโดยอัตโนมัติโดยใช้การตรวจสอบข้าม

CART เป็นเครื่องหมายการค้าของ Salford Systems ดูวิดีโอนี้สำหรับการแนะนำและประวัติของรถเข็น นอกจากนี้ยังมีวิดีโออื่น ๆ เช่นลูกผสม regrssion regrssion ในเว็บไซต์เดียวกัน ฉันจะตรวจสอบมันออกมา โอเพ่นซอร์สโอเพนซอร์สใน R เรียกว่าTreeและมีแพ็คเกจอื่น ๆ อีกมากมายเช่น rattle ที่มีใน R หากฉันหาเวลาฉันจะโพสต์ตัวอย่างแรกในข้อความของ Homser โดยใช้ CART หากคุณยืนยันในการใช้การถดถอยโลจิสติกอย่างน้อยฉันก็จะใช้วิธีการเช่น CART เพื่อเลือกตัวแปรแล้วใช้การถดถอยโลจิสติก

ฉันชอบรถเข็นมากกว่าการถดถอยโลจิสติกเนื่องจากข้อดีดังกล่าวข้างต้น แต่ถึงกระนั้นฉันจะลองใช้ทั้งการถดถอยโลจิสติกและ CART หรือ CART-Logistc Regression Hybrid และดูว่าการทำนายที่แม่นยำและที่ดีกว่าการแปลข้อมูลที่สำคัญและเลือกสิ่งที่คุณรู้สึกว่า "สื่อสาร" ข้อมูลได้ชัดเจนยิ่งขึ้น

นอกจากนี้รถเข็น FYI ก็ถูกปฏิเสธโดยวารสารทางสถิติที่สำคัญและในที่สุดนักประดิษฐ์ของ CART ก็มีเอกสาร รถเข็นปูทางไปสู่อัลกอริทึมการเรียนรู้ของเครื่องจักรที่ทันสมัยและประสบความสำเร็จอย่าง Random Forest (r), Gradient Boosting Machines (GBM), Multivariate Adaptive Regression Splines ทั้งหมดเกิดขึ้น ป่าสุ่มและ GBM นั้นแม่นยำกว่า CART แต่มีความหมายน้อยกว่า (เช่นกล่องดำ) มากกว่า CART

หวังว่านี่จะเป็นประโยชน์ แจ้งให้เราทราบหากคุณพบว่าโพสต์นี้มีประโยชน์หรือไม่

ฉันคิดว่าคุณกำลังพยายามทำนายการมีอยู่ของสปีชีส์ด้วยวิธีการแสดงตน / เบื้องหลังซึ่งมีการบันทึกไว้อย่างดีในวารสารเช่นวิธีการทางนิเวศวิทยาและวิวัฒนาการนิเวศวิทยา ฯลฯ บางทีแพ็คเกจ R อาจเป็นประโยชน์สำหรับปัญหาของคุณ มันรวมบทความสั้น ๆ การใช้ดิสโมหรือแพ็คเกจอื่น ๆ ที่คล้ายคลึงกันนั้นหมายถึงการเปลี่ยนวิธีการของคุณเป็นปัญหา แต่ฉันเชื่อว่ามันคุ้มค่าที่จะดู