Fisher Scoring v / s พิกัดโคตรสำหรับ MLE ใน R


11

ฟังก์ชันฐาน R glm()ใช้การให้คะแนน Fishers สำหรับ MLE ในขณะที่วิธีการglmnetดูเหมือนจะใช้พิกัดโคตรเพื่อแก้สมการเดียวกัน โคตรประสานงานนั้นใช้เวลาได้อย่างมีประสิทธิภาพมากกว่า Fisher Scoring เนื่องจาก Fisher Scoring คำนวณเมทริกซ์อนุพันธ์ลำดับที่สองนอกเหนือจากการดำเนินการเมทริกซ์อื่น ๆ ซึ่งทำให้มีราคาแพงในการปฏิบัติในขณะที่โคตรประสานงานสามารถทำงานเดียวกันในเวลา O (np)

ทำไมฟังก์ชั่นพื้นฐานของ R จึงใช้ Fisher Scoring? วิธีนี้มีความได้เปรียบเหนือวิธีการเพิ่มประสิทธิภาพอื่น ๆ หรือไม่? การประสานงานทางสายเลือดและการให้คะแนนของชาวประมงเปรียบเทียบกันอย่างไร ฉันค่อนข้างใหม่ในการทำฟิลด์นี้ดังนั้นความช่วยเหลือหรือทรัพยากรใด ๆ จะเป็นประโยชน์

คำตอบ:


1

วิธีเดียวที่จะตรวจสอบให้แน่ใจคือการเปรียบเทียบ แต่สำหรับการให้คะแนน GLM Fisher ควรเร็วกว่าการประสานงานแบบโคตร ฟิชเชอร์ให้คะแนนเป็นกรณีพิเศษของ Newton Raphson ซึ่งมีอัตราการบรรจบกันเร็วกว่าพิกัดโคตร (Newton-Raphson เป็นคอนเวอร์เจนท์แบบจตุรัสในขณะที่พิกัดโคตรคือคอนเวอร์เจนซ์เชิงเส้น) ในขณะที่การคำนวณของข้อมูลอนุพันธ์ที่สองหมายถึง เวลามันอาจต้องใช้ขั้นตอนน้อยกว่าประสานงานสืบเชื้อสาย

สำหรับบ่วงบาศรูปแบบพิเศษของบทลงโทษทำให้เป็นกรณีพิเศษมาก (และในความเป็นจริงแล้วค่าสัมบูรณ์ไม่แตกต่างกันอยู่ดี สำหรับปัญหาพิเศษนี้การประสานงานของผู้สืบเชื้อสายพิสูจน์ว่ารวดเร็วเป็นพิเศษ มีปัญหาการเพิ่มประสิทธิภาพอื่น ๆ อีกมากมายที่ในทางปฏิบัติ Newton-Raphson เร็วขึ้น

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.