การถดถอยโลจิสติกจะเอนเอียงเมื่อตัวแปรผลลัพธ์ถูกแบ่ง 5% - 95% หรือไม่

ฉันกำลังสร้างแบบจำลองความโน้มเอียงโดยใช้การถดถอยโลจิสติกสำหรับไคลเอนต์ยูทิลิตี้ ความกังวลของฉันคือจากตัวอย่างทั้งหมดบัญชี 'ไม่ดี' ของฉันมีเพียง 5% และส่วนที่เหลือดีทั้งหมด ฉันทำนายว่า 'ไม่ดี'

• ผลที่ได้จะเป็นแบบ Biassed หรือไม่?
• อะไรคือสิ่งที่ดีที่สุด 'ไม่ดีกับสัดส่วนที่ดี' เพื่อสร้างแบบจำลองที่ดี?

ฉันไม่เห็นด้วยกับคำตอบอื่น ๆ ในความคิดเห็นดังนั้นฉันจึงให้ความยุติธรรมกับตัวเองเท่านั้น ให้เป็นการตอบสนอง (บัญชีดี / ไม่ดี) และเป็นผู้แปรสภาพ$Y$$X$

สำหรับการถดถอยโลจิสติกแบบจำลองมีดังต่อไปนี้:

$\log\left(\frac{p(Y=1|X=x)}{p(Y=0|X=x)}\right)= \alpha + \sum_{i=1}^k x_i \beta_i$

คิดเกี่ยวกับวิธีการรวบรวมข้อมูล:

• คุณสามารถเลือกการสังเกตแบบสุ่มจาก "ประชากร" สมมุติฐานบางอย่าง
• คุณสามารถเลือกข้อมูลตามและดูว่าค่าเกิดขึ้น$X$$Y$

ทั้งสองอย่างนี้โอเคสำหรับโมเดลด้านบนเนื่องจากคุณเป็นแบบจำลองการกระจายของเท่านั้น เหล่านี้จะถูกเรียกว่าการศึกษาในอนาคต$Y|X$

อีกวิธีหนึ่งคือ:

• คุณสามารถเลือกการสังเกตตาม (พูดได้ 100 ข้อ) และดูความชุกสัมพัทธ์ของ (เช่นคุณกำลังแบ่งชั้นบนY ) นี้เรียกว่าย้อนหลังหรือกรณีศึกษาการควบคุม$Y$$X$$Y$

(คุณสามารถเลือกข้อมูลจากและตัวแปรบางตัวของX : นี่เป็นการศึกษาแบบแบ่งชั้นและมีความซับซ้อนมากในการทำงานด้วยดังนั้นฉันจะไม่เข้าไปที่นี่)$Y$$X$

มีผลลัพธ์ที่ดีจากการระบาดวิทยา (ดูPrentice and Pyke (1979) ) ว่าสำหรับการศึกษาแบบควบคุมกรณีการประเมินความน่าจะเป็นสูงสุดสำหรับสามารถพบได้โดยการถดถอยโลจิสติกซึ่งใช้แบบจำลองที่คาดหวังสำหรับข้อมูลย้อนหลัง$\beta$

ดังนั้นสิ่งนี้เกี่ยวข้องกับปัญหาของคุณอย่างไร

ดีก็หมายความว่าถ้าคุณมีความสามารถในการเก็บรวบรวมข้อมูลเพิ่มเติมได้ที่คุณก็สามารถมองไปที่บัญชีที่ไม่ดีและยังคงใช้การถดถอยโลจิสติกในการประมาณ 's ( แต่คุณจะต้องปรับαไปยังบัญชีสำหรับมากกว่าการเป็นตัวแทน ) สมมติว่ามีค่าใช้จ่าย $ 1 สำหรับบัญชีพิเศษแต่ละบัญชีจากนั้นอาจมีประสิทธิภาพมากกว่าและเพียงแค่ดูบัญชีทั้งหมด$\beta_i$$\alpha$

แต่ในทางกลับกันถ้าคุณมีข้อมูลที่เป็นไปได้ทั้งหมดแล้วมีจุดที่จะ stratifying ไม่มีคุณก็จะถูกทิ้งข้อมูล (ประมาณการให้แย่ลง) และจากนั้นจะเหลือกับปัญหาของการพยายามที่จะประเมินα$\alpha$

Asymptotically อัตราส่วนของรูปแบบการบวกกับการลบจะไม่เกี่ยวข้องเป็นหลัก ปัญหาเกิดขึ้นเป็นหลักเมื่อคุณมีกลุ่มตัวอย่างน้อยเกินไปที่จะอธิบายการกระจายทางสถิติอย่างเพียงพอ การทำให้ชุดข้อมูลมีขนาดใหญ่ขึ้นจะช่วยแก้ปัญหาได้

ถ้าสิ่งนี้เป็นไปไม่ได้สิ่งที่ดีที่สุดที่ควรทำคือการสุ่มตัวอย่างข้อมูลใหม่เพื่อให้ได้ชุดข้อมูลที่สมดุลจากนั้นใช้การปรับแบบทวีคูณกับเอาต์พุตของตัวจําแนกเพื่อชดเชยความแตกต่างระหว่างชุดการฝึกอบรม ในขณะที่คุณสามารถคำนวณ (asymptotically) ปัจจัยการปรับที่ดีที่สุดในทางปฏิบัติมันเป็นวิธีที่ดีที่สุดในการปรับการปรับใช้การตรวจสอบข้าม (ในขณะที่เรากำลังจัดการกับกรณีการปฏิบัติแน่นอน จำกัด มากกว่าหนึ่ง asymptotic

ในสถานการณ์แบบนี้ฉันมักจะใช้คณะกรรมการของแบบจำลองที่แต่ละคนได้รับการฝึกฝนในรูปแบบของชนกลุ่มน้อยทั้งหมดและสุ่มตัวอย่างที่แตกต่างกันของรูปแบบส่วนใหญ่ที่มีขนาดเดียวกันกับรูปแบบของชนกลุ่มน้อย นี่เป็นการป้องกันโชคร้ายในการเลือกเซ็ตย่อยของรูปแบบส่วนใหญ่

ในทางทฤษฎีคุณจะสามารถแยกแยะได้ดีขึ้นหากสัดส่วนของ "ดี" และ "ไม่ดี" มีขนาดใกล้เคียงกัน คุณอาจสามารถย้ายไปยังสิ่งนี้ได้โดยการสุ่มตัวอย่างแบบแบ่งชั้น, oversampling กรณีที่ไม่ดีจากนั้นทำการชั่งน้ำหนักใหม่เพื่อกลับไปที่สัดส่วนที่แท้จริงในภายหลัง

สิ่งนี้มีความเสี่ยง โดยเฉพาะอย่างยิ่งโมเดลของคุณมีแนวโน้มที่จะติดป้ายบุคคลว่า "อาจไม่ดี" - สันนิษฐานว่าผู้ที่ไม่จ่ายค่าสาธารณูปโภคเมื่อถึงกำหนด เป็นสิ่งสำคัญที่ผลกระทบของข้อผิดพลาดเมื่อทำเช่นนี้จะได้รับการยอมรับอย่างถูกต้อง: โดยเฉพาะจำนวน "ลูกค้าที่ดี" จะถูกระบุว่า "อาจไม่ดี" โดยรุ่นและคุณมีโอกาสน้อยที่จะได้รับน้ำหนักผิดถ้าคุณไม่บิดเบือน แบบจำลองโดยการสุ่มแบบแบ่งชั้น.

$y_i$$p_i$$p_i$

ตอนนี้มันสำคัญไหมว่าคุณมีสัดส่วนของความล้มเหลวต่ำ (บัญชีไม่ดี)? ไม่จริงตราบใดที่ข้อมูลตัวอย่างของคุณมีความสมดุลตามที่บางคนชี้ไปแล้ว อย่างไรก็ตามหากข้อมูลของคุณไม่สมดุลการรับข้อมูลมากขึ้นอาจไร้ประโยชน์หากมีเอฟเฟกต์การเลือกบางอย่างที่คุณไม่ได้คำนึงถึง ในกรณีนี้คุณควรใช้การจับคู่ แต่การขาดสมดุลอาจทำให้การจับคู่นั้นไม่มีประโยชน์เลย กลยุทธ์อื่นกำลังพยายามค้นหาการทดลองตามธรรมชาติดังนั้นคุณสามารถใช้ตัวแปรเครื่องมือหรือการออกแบบความไม่ลงรอยกันการถดถอย

สุดท้าย แต่ไม่ท้ายสุดถ้าคุณมีตัวอย่างที่สมดุลหรือไม่มีอคติในการเลือกคุณอาจกังวลกับความจริงที่ว่าบัญชีไม่ดีนั้นหายาก ฉันไม่คิดว่า 5% นั้นหายาก แต่ในกรณีนี้ลองดูที่กระดาษโดย Gary Kingเกี่ยวกับการใช้งาน logistic ที่หายาก ในแพ็คเกจ Zelig ใน R คุณสามารถเรียกใช้โลจิสติกเหตุการณ์ที่หายาก

โอเคดังนั้นฉันทำงานในการตรวจจับการฉ้อโกงดังนั้นปัญหาแบบนี้ไม่ใช่เรื่องใหม่สำหรับฉัน ฉันคิดว่าชุมชนการเรียนรู้ของเครื่องนั้นค่อนข้างจะพูดถึงข้อมูลที่ไม่สมดุลกัน ดังนั้นจึงมีกลยุทธ์ตายง่าย ๆ สองสามข้อที่ฉันคิดว่าได้ถูกกล่าวถึงไปแล้วและความคิดที่ประณีตสองสามอย่างและวิธีการบางอย่างที่นั่น ฉันไม่ได้แสร้งทำเป็นรู้ว่าสิ่งนี้มีความหมายอย่างไรสำหรับปัญหาของคุณ แต่มันดูเหมือนจะให้ผลลัพธ์ที่สมเหตุสมผลในการถดถอยโลจิสติก อาจมีกระดาษอยู่ตรงนั้นไม่แน่ใจ

นี่คือตัวเลือกของคุณตามที่ฉันเห็น:

1. ดูตัวอย่างชนชั้นน้อย จำนวนนี้เพื่อสุ่มตัวอย่างกลุ่มชนกลุ่มน้อยที่มีการเปลี่ยนจนกว่าคุณจะมีจำนวนการสังเกตเท่ากันกับกลุ่มเสียงข้างมาก มีวิธีแฟนซีในการทำเช่นนี้เพื่อให้คุณทำสิ่งต่าง ๆ เช่นการเขย่าค่าการสังเกตเพื่อให้คุณมีค่าใกล้เคียงกับต้นฉบับ แต่ไม่ใช่สำเนาที่สมบูรณ์แบบ ฯลฯ
2. ตัวอย่างที่นี่คือที่ที่คุณใช้ตัวอย่างย่อยของคนส่วนใหญ่ วิธีแฟนซีอีกวิธีในการทำเช่นนี้เพื่อให้คุณลบตัวอย่างส่วนใหญ่ที่ใกล้เคียงกับตัวอย่างส่วนน้อยโดยใช้อัลกอริทึมเพื่อนบ้านที่ใกล้ที่สุดและอื่น ๆ
3. Reweight ชั้นเรียน สำหรับการถดถอยโลจิสติกนี่คือสิ่งที่ฉันทำ โดยพื้นฐานแล้วคุณกำลังเปลี่ยนฟังก์ชั่นการสูญเสียเพื่อลงโทษกรณีชนกลุ่มน้อยที่ไม่ได้จัดประเภทมากยิ่งกว่าชั้นเรียนส่วนใหญ่ที่ผิดประเภท แต่แล้วอีกครั้งคุณเทคนิคไม่ได้ทำโอกาสสูงสุด
4. จำลองข้อมูล ไอเดียที่ประณีตที่ฉันเคยเล่นที่นี่มีมากมาย คุณสามารถใช้ SMOTE เพื่อสร้างข้อมูล, Generative Adversarial Networks, Autoencoders โดยใช้ส่วนกำเนิด, การประมาณความหนาแน่นของเคอร์เนลเพื่อดึงตัวอย่างใหม่

อย่างไรก็ตามฉันได้ใช้วิธีการเหล่านี้ทั้งหมด แต่ฉันพบว่าวิธีที่ง่ายที่สุดคือการลดปัญหาการถดถอยโลจิสติกส์อีกครั้ง สิ่งหนึ่งที่คุณสามารถทำได้เพื่อตรวจสอบแบบจำลองของคุณคือ:

-Intercept/beta

ที่ควรจะเป็นขอบเขตการตัดสินใจ (50% น่าจะเป็นของการอยู่ในระดับใดอย่างหนึ่ง) บนที่กำหนดตัวแปรparibus ceteris ถ้ามันไม่สมเหตุสมผลเช่นขอบเขตการตัดสินใจคือจำนวนลบของตัวแปรที่เป็นค่าบวกอย่างเคร่งครัดแสดงว่าคุณมีอคติในการถดถอยโลจิสติกที่ต้องได้รับการแก้ไข