เกณฑ์การตัดสินใจเป็นพารามิเตอร์ในการถดถอยโลจิสติกหรือไม่

คลาสที่ถูกทำนายจากการถดถอยโลจิสติก (ไบนารี) ถูกกำหนดโดยใช้ขีด จำกัด บนความน่าจะเป็นสมาชิกคลาสที่สร้างโดยโมเดล ตามที่เข้าใจแล้วปกติแล้ว 0.5 จะถูกใช้เป็นค่าเริ่มต้น

แต่การเปลี่ยนเกณฑ์จะเปลี่ยนการจำแนกประเภทที่คาดการณ์ไว้ สิ่งนี้หมายความว่าขีด จำกัด คือพารามิเตอร์มากเกินไปหรือไม่ หากเป็นเช่นนั้นเหตุใดจึงไม่สามารถค้นหากริดเกณฑ์ได้อย่างง่ายดายโดยใช้วิธีการของ scikit-Learn GridSearchCV(เช่นเดียวกับที่คุณทำกับพารามิเตอร์การทำให้เป็นมาตรฐานC)

เกณฑ์การตัดสินใจสร้างการแลกเปลี่ยนระหว่างจำนวนของผลบวกที่คุณคาดการณ์และจำนวนเชิงลบที่คุณทำนาย - เนื่องจากการเพิ่มขีด จำกัด การตัดสินใจจะเป็นการลดจำนวนของผลบวกที่คุณคาดการณ์และจำนวนลบ คุณทำนาย

เกณฑ์การตัดสินใจไม่ใช่พารามิเตอร์ไฮเปอร์ในแง่ของการปรับแต่งโมเดลเนื่องจากไม่ได้เปลี่ยนความยืดหยุ่นของโมเดล

วิธีที่คุณคิดเกี่ยวกับคำว่า "ปรับ" ในบริบทของเกณฑ์การตัดสินใจแตกต่างจากวิธีปรับค่าพารามิเตอร์มากเกินไป การเปลี่ยนและพารามิเตอร์ไฮเปอร์โมเดลอื่น ๆ จะเปลี่ยนโมเดล$C$(เช่นสัมประสิทธิ์การถดถอยโลจิสติกจะแตกต่างกัน) ในขณะที่การปรับเกณฑ์สามารถทำได้สองสิ่งเท่านั้น: แลกเปลี่ยน TP สำหรับ FN และ FP สำหรับ TN อย่างไรก็ตามโมเดลยังคงเหมือนเดิมเพราะนี่จะไม่เปลี่ยนค่าสัมประสิทธิ์ (เช่นเดียวกับโมเดลที่ไม่มีสัมประสิทธิ์เช่นฟอเรสต์แบบสุ่ม: การเปลี่ยนขีด จำกัด ไม่เปลี่ยนแปลงอะไรเลยเกี่ยวกับต้นไม้) ดังนั้นในแง่ที่แคบคุณถูกต้องแล้วที่จะหาการแลกเปลี่ยนที่ดีที่สุดท่ามกลางข้อผิดพลาด คือ "จูน" แต่คุณไม่ถูกต้องอยู่ในความคิดว่าการเปลี่ยนเกณฑ์มีการเชื่อมโยงกับรูปแบบไฮเปอร์พารามิเตอร์อื่น ๆ GridSearchCVในลักษณะที่มีการเพิ่มประสิทธิภาพโดย

ระบุอีกวิธีหนึ่งการเปลี่ยนเกณฑ์การตัดสินใจสะท้อนถึงตัวเลือกในส่วนของคุณเกี่ยวกับจำนวนบวกและลบที่คุณต้องการ พิจารณาสมมติฐานที่คุณตั้งค่าเกณฑ์การตัดสินใจเป็นค่าที่ไม่น่าเชื่ออย่างสมบูรณ์เช่น -1 ความน่าจะเป็นทั้งหมดนั้นไม่เป็นลบดังนั้นด้วยเกณฑ์นี้คุณจะคาดการณ์ "เชิงบวก" สำหรับการสังเกตทุกครั้ง จากมุมมองที่กำหนดนี่เป็นสิ่งที่ดีมากเพราะอัตราลบติดลบของคุณคือ 0.0 อย่างไรก็ตามอัตราบวกที่ผิดพลาดของคุณนั้นอยู่ที่ระดับรุนแรงมากถึง 1.0 ดังนั้นในแง่นั้นการเลือกเกณฑ์ที่ -1 นั้นแย่มาก

แน่นอนว่าอุดมคติคือการมี TPR เท่ากับ 1.0 และ FPR ที่ 0.0 และ FNR ที่ 0.0 แต่โดยปกติจะเป็นไปไม่ได้ในแอปพลิเคชันในโลกแห่งความเป็นจริงดังนั้นคำถามจึงกลายเป็น "ฉันยินดีรับ FPR เท่าไหร่สำหรับ FPR" และนี่คือแรงจูงใจของเส้นโค้งroc

แต่การเปลี่ยนเกณฑ์จะเปลี่ยนการจำแนกประเภทที่คาดการณ์ไว้ สิ่งนี้หมายความว่าขีด จำกัด คือพารามิเตอร์มากเกินไปหรือไม่

ใช่มันทำ sorta มันเป็นพารามิเตอร์หลายมิติของกฎการตัดสินใจของคุณแต่ไม่ใช่การถดถอยพื้นฐาน

หากเป็นเช่นนั้นเหตุใดจึงไม่สามารถค้นหากริดเกณฑ์ได้อย่างง่ายดายโดยใช้วิธี GridSearchCV ของ scikit-learn (เช่นเดียวกับที่คุณทำกับพารามิเตอร์การทำให้เป็นมาตรฐาน C)

นี่เป็นข้อผิดพลาดในการออกแบบใน sklearn แนวปฏิบัติที่ดีที่สุดสำหรับสถานการณ์การจำแนกประเภทส่วนใหญ่คือเพื่อให้เหมาะสมกับตัวแบบต้นแบบ (ซึ่งทำนายความน่าจะเป็น) โดยใช้การวัดคุณภาพของความน่าจะเป็นเหล่านี้ (เช่นการสูญเสียบันทึกในการถดถอยโลจิสติก) หลังจากนั้นเกณฑ์การตัดสินใจเกี่ยวกับความน่าจะเป็นเหล่านี้ควรได้รับการปรับแต่งเพื่อเพิ่มประสิทธิภาพวัตถุประสงค์ทางธุรกิจของกฎการจัดหมวดหมู่ของคุณ ห้องสมุดควรทำให้ง่ายต่อการปรับเกณฑ์การตัดสินใจให้เหมาะสมตามการวัดคุณภาพ แต่ฉันไม่เชื่อว่าจะทำได้ดี

ฉันคิดว่านี่เป็นหนึ่งในสถานที่ที่เข้าใจผิด ห้องสมุดรวมถึงวิธีการในรูปแบบการจัดหมวดหมู่ทั้งหมดที่เกณฑ์ที่predict 0.5วิธีนี้ไม่มีประโยชน์และฉันขอแนะนำอย่างมากว่าไม่ต้องเรียกใช้ เป็นเรื่องน่าเสียดายที่ sklearn ไม่สนับสนุนกระบวนการทำงานที่ดีขึ้น