มีวิธีใดที่จะอธิบายการทำนายจากแบบจำลองฟอเรสต์แบบสุ่มหรือไม่?

สมมติว่าฉันมีรูปแบบการจำแนกการคาดการณ์ตามป่าสุ่ม (ใช้แพ็คเกจสุ่มป่าไม้ใน R) ฉันต้องการตั้งค่าเพื่อให้ผู้ใช้ปลายทางสามารถระบุรายการที่จะสร้างการทำนายสำหรับและมันจะส่งออกโอกาสในการจัดหมวดหมู่ จนถึงตอนนี้ก็ไม่มีปัญหา

แต่มันจะมีประโยชน์ / เจ๋งมากที่จะสามารถแสดงผลออกมาเช่นกราฟความสำคัญของตัวแปร แต่สำหรับรายการเฉพาะที่ถูกทำนายไม่ใช่สำหรับชุดฝึก สิ่งที่ต้องการ:

รายการ X ถูกคาดการณ์ว่าจะเป็นสุนัข (มีโอกาส 73%)
เนื่องจาก:
ขา = 4
ลมหายใจ =
ขนที่ไม่ดี=
อาหารสั้น= น่ารังเกียจ

คุณได้รับจุด มีวิธีมาตรฐานหรืออย่างน้อยก็สมควรในการดึงข้อมูลนี้จากป่าสุ่มที่ได้รับการฝึกอบรมแล้ว? ถ้ามีใครมีรหัสที่จะใช้สำหรับแพ็คเกจสุ่มป่าไม้หรือไม่?

ความคิดแรกคือการเลียนแบบกลยุทธ์ที่น่าพิศวงจากความสำคัญของตัวแปรและทดสอบว่าการผสมแต่ละคุณลักษณะจะทำให้ความเชื่อมั่นของป่าลดลงในการจำแนกวัตถุ (บน OOB และมีการทำซ้ำบางอย่างชัดเจน) ต้องใช้การเข้ารหัสบางอย่าง แต่สามารถทำได้อย่างแน่นอน

อย่างไรก็ตามฉันรู้สึกว่ามันเป็นความคิดที่ไม่ดีผลที่ได้อาจแปรปรวนอย่างนรก (โดยไม่กระทบต่อการเฉลี่ยวัตถุ) เสียงดัง (สำหรับวัตถุที่ไม่มั่นใจดังนั้นคุณลักษณะไร้สาระอาจมีผลกระทบมาก) และยากที่จะ ตีความ (กฎความร่วมมือสองแอตทริบิวต์ขึ้นไปอาจส่งผลให้เกิดการสุ่มของแต่ละแอตทริบิวต์ที่มีส่วนร่วม)

เพื่อไม่ให้คุณมีคำตอบเชิงลบฉันอยากลองดูเมทริกซ์ความใกล้เคียงและต้นแบบที่เป็นไปได้ที่อาจเปิดเผย - นี่ดูเหมือนจะเสถียรและตรงไปตรงมามากขึ้น

ฉันจะลองกับกรอบมะนาว

ใช้งานได้กับหลายรุ่น (รวมถึงฟอเรสต์แบบสุ่ม) มันสามารถใช้สำหรับการตีความในท้องถิ่น (นั่นคือการอธิบายคำทำนายเดียว) หรือสำหรับการตีความทั่วโลก (นั่นคือการอธิบายแบบจำลองทั้งหมด)

อ้างจาก asbtract

ในงานนี้เราเสนอ LIME ซึ่งเป็นเทคนิคการอธิบายแบบใหม่ที่อธิบายการทำนายของตัวจําแนกใด ๆ ในลักษณะที่สามารถตีความและซื่อสัตย์ได้ นอกจากนี้เรายังเสนอวิธีการอธิบายแบบจำลองโดยการนำเสนอการคาดการณ์รายบุคคลของตัวแทนและคำอธิบายของพวกเขาในลักษณะที่ไม่ซ้ำซ้อนทำให้งานเป็นปัญหาการเพิ่มประสิทธิภาพแบบ submodular

มันมีแพ็คเกจสำหรับRและpythonและอีกหลายตัวอย่างถ้าคุณ google มัน