การค้นหาความเข้าใจเชิงทฤษฎีของการถดถอยโลจิสติก Firth

ฉันกำลังพยายามที่จะเข้าใจการถดถอยโลจิสติกของเฟิร์สต์ (วิธีการจัดการการแยกแบบสมบูรณ์ / สมบูรณ์หรือแบบกึ่งสมบูรณ์ในการถดถอยโลจิสติก) เพื่อให้ฉันสามารถอธิบายให้ผู้อื่นทราบในแง่ง่าย มีใครบ้างที่มีคำอธิบายแบบหล่นลงของการปรับเปลี่ยนการประเมิน Firth ใดที่ทำให้ MLE

ฉันได้อ่านอย่างดีที่สุดแล้ว Firth (1993) และฉันเข้าใจว่าการแก้ไขนั้นถูกนำไปใช้กับฟังก์ชันคะแนน ฉันคลุมเครือเกี่ยวกับที่มาและเหตุผลของการแก้ไขและบทบาทของฟังก์ชันคะแนนใน MLE

ขออภัยถ้านี่เป็นความรู้เบื้องต้น วรรณกรรมที่ฉันตรวจสอบดูเหมือนจะต้องการความเข้าใจที่ลึกซึ้งมากขึ้นเกี่ยวกับ MLE ที่ฉันมี

logistic maximum-likelihood separation

— ESmith5988
แหล่งที่มา

การแก้ไขของเฟิร์ ธ นั้นเทียบเท่ากับการระบุก่อนหน้าของเจฟฟรีย์และค้นหาโหมดการกระจายหลัง โดยประมาณเพิ่มครึ่งหนึ่งของการสังเกตลงในชุดข้อมูลโดยสมมติว่าค่าที่แท้จริงของพารามิเตอร์การถดถอยเท่ากับศูนย์

$\hat \theta_n \approx \theta_0$ $\theta_0$ $\theta_n = \theta_0 + O(n^{-1/2}) = \theta_0 + v_1 n^{-1/2} + o(n^{-1/2})$ $v_1$ $\sigma_1^2$ $n(\hat\theta_n - \theta_0)^2/\sigma_1^2 \sim \chi^2_1$

$o(n^{-1/2})$ $O(n^{-1})$ $1/n$ $\frac12 \ln \det I(\theta)$ $1/n$

— StasK
แหล่งที่มา

ขออภัยที่ฉันขาดความเข้าใจ แต่ฉันไม่ได้ติดตามอย่างสมบูรณ์ เมื่อคุณพูดว่า "Roughly จะเป็นการเพิ่มการสังเกตลงครึ่งหนึ่งในชุดข้อมูลโดยสมมติว่าค่าที่แท้จริงของพารามิเตอร์การถดถอยเท่ากับศูนย์" ทำไมคุณคิดว่าค่าจริงของพารามิเตอร์การถดถอยเท่ากับศูนย์ นอกจากนี้มันจะเพิ่มการสังเกตลงครึ่งหนึ่งให้กับชุดข้อมูลอย่างไร

— ESmith5988

จากคำอธิบายที่เหลือของคุณดูเหมือนว่าฟังก์ชันความน่าจะเป็นจะถูกปรับโดยปริมาณคงที่ซึ่งจะลดอคติเชิงบวกของกลุ่มตัวอย่างขนาดเล็ก ปริมาณคงที่คือฟังก์ชันของข้อมูลที่มีค่าเป็นศูนย์เมื่อขนาดของตัวอย่างเพิ่มขึ้นถูกต้องหรือไม่

— ESmith5988

ในความคิดเห็นแรกของคุณ - การแก้ไขครั้งแรกของ Firth นั้นเป็นค่าที่คาดหวังจากการมีส่วนร่วมในความน่าจะเป็นที่จะเพิ่มเข้ามาโดยการสังเกตที่จะมีน้ำหนัก 1/2 นี่ไม่ใช่คำอธิบายที่ถูกต้องโดยไม่ต้องใช้สัญชาตญาณว่าทำไมคุณถึงต้องการทำสิ่งนี้ มันแค่ช่วยให้คุณมีรสชาติ คุณตั้งค่าสัมประสิทธิ์เป็นศูนย์เพราะคุณไม่มีความคิดที่ดีกว่าว่าตัวเลขจะเป็นเท่าใด ในความคิดเห็นที่สองของคุณ - ถูกต้อง

— StasK