วิธีการรวมผลลัพธ์ของการถดถอยโลจิสติกและฟอเรสต์แบบสุ่ม

ฉันยังใหม่กับการเรียนรู้ของเครื่อง ฉันใช้การถดถอยโลจิสติกและฟอเรสต์แบบสุ่มบนชุดข้อมูลเดียวกัน ดังนั้นฉันจึงได้รับความสำคัญของตัวแปร (สัมประสิทธิ์สัมบูรณ์สำหรับการถดถอยโลจิสติกและความสำคัญของตัวแปรสำหรับฟอเรสต์แบบสุ่ม) ฉันกำลังคิดที่จะรวมสองสิ่งนี้เข้าด้วยกันเพื่อให้ได้ตัวแปรที่มีความสำคัญขั้นสุดท้าย ใครสามารถแบ่งปันประสบการณ์ของเขา / เธอ? ฉันได้ตรวจสอบการบรรจุถุงการส่งเสริมการสร้างแบบจำลองชุด แต่ไม่ใช่สิ่งที่ฉันต้องการ พวกเขารวมข้อมูลสำหรับรุ่นเดียวกันในแบบจำลองมากกว่า สิ่งที่ฉันกำลังมองหาคือการรวมผลของหลายรุ่น

อาจขึ้นอยู่กับสิ่งที่คุณต้องการใช้ตัวแปรสำคัญสำหรับ มันจะใช้เป็นเกณฑ์สำหรับการเลือกคุณสมบัติสำหรับรูปแบบการจำแนกประเภทที่สามหรือไม่? ในกรณีนี้คุณสามารถลองคำนวณค่าเฉลี่ยถ่วงน้ำหนักนำเข้าตัวแปร (บางทีหลังจากปรับเวกเตอร์ที่มีความสำคัญของตัวแปรแต่ละตัวให้เป็นความยาวหน่วย) สำหรับค่าต่าง ๆ และน้ำหนักเฉลี่ยแล้วทำการเบิกค่าที่ให้คะแนนคะแนนสอบผ่านที่ดีที่สุดสำหรับรอบสุดท้าย แบบ

สำหรับการรวมผลลัพธ์ของโมเดลการถดถอยโลจิสติกและโมเดลฟอเรสต์แบบสุ่ม (โดยไม่พิจารณาถึงความสำคัญของตัวแปร) บล็อกโพสต์ต่อไปนี้เป็นข้อมูลที่ดีมากและแสดงให้เห็นว่าค่าเฉลี่ยของเอาต์พุตเพียงอย่างเดียว

(แสดงความคิดเห็นในการตอบสนองและข้อเสนอแนะข้างต้น)

ขอบคุณที่อ่านบล็อก!

ฟังก์ชั่นข้อผิดพลาดข้ามเอนโทรปีมีการโกงเล็กน้อยโดยตัดค่าที่คาดการณ์ไว้เป็น [1e-10, 1-1e-10] เป็นวิธีที่ประหยัดและง่ายต่อการป้องกันข้อผิดพลาดในฟังก์ชั่นบันทึก มิฉะนั้นนี่คือสูตรมาตรฐาน

สำหรับชุดข้อมูลเป็นไปได้มากที่จะมีชุดข้อมูลที่ฟอเรสต์แบบสุ่มอยู่เหนือกว่าบันทึก reg และบันทึก reg เพิ่มอะไรให้กับวงดนตรี ตรวจสอบให้แน่ใจว่าคุณกำลังใช้ข้อมูลที่ระงับไว้ - ฟอเรสต์แบบสุ่มเกือบทุกครั้งจะมีผลลัพธ์ที่ยอดเยี่ยมในข้อมูลการฝึกอบรมเนื่องจากมีพารามิเตอร์ที่มีประสิทธิภาพมากกว่า