ต้นไม้การตัดสินใจและการถดถอย - ค่าที่ทำนายได้นั้นอาจอยู่นอกช่วงของข้อมูลการฝึกอบรมหรือไม่?

เมื่อพูดถึงต้นไม้ตัดสินใจค่าที่ทำนายได้จะอยู่นอกขอบเขตของข้อมูลการฝึกอบรมหรือไม่?

ตัวอย่างเช่นหากช่วงชุดข้อมูลการฝึกอบรมของตัวแปรเป้าหมายคือ 0-100 เมื่อฉันสร้างแบบจำลองของฉันและนำไปใช้กับสิ่งอื่นค่าของฉันจะเป็น -5 หรือไม่ หรือ 150

เนื่องจากความเข้าใจของฉันเกี่ยวกับการตัดสินใจต้นไม้ถดถอยก็ยังคงเป็นกฎพื้นฐาน - ความก้าวหน้าทางซ้าย / ขวาและที่ด้านล่างของต้นไม้ในชุดฝึกอบรมไม่สามารถมองเห็นคุณค่านอกช่วงที่กำหนดได้มันจะไม่สามารถทำได้ ทำนายมันได้หรือ

คุณมีสิทธิ์อย่างสมบูรณ์: ต้นไม้การตัดสินใจแบบคลาสสิกไม่สามารถคาดการณ์ค่านอกช่วงที่สังเกตได้ พวกเขาจะไม่คาดการณ์

เช่นเดียวกับป่าสุ่ม

ในทางทฤษฎีบางครั้งคุณเห็นการอภิปรายของสถาปัตยกรรมที่ซับซ้อนมากขึ้น (botanies?) ซึ่งใบของต้นไม้ไม่ให้ค่าเดียวแต่มีการถดถอยง่าย ๆเช่นการถดถอยตัวแปรตามในตัวแปรอิสระตัวเลข การนำทางผ่านต้นไม้จะทำให้คุณมีกฎกำหนดว่าจะใช้ค่าตัวเลข IV เพื่อถอยหลังค่า DV ในกรณีใด ในกรณีเช่นนี้การถดถอย "ระดับล่าง" นี้อาจถูกประเมินเพื่อให้ได้ค่าที่ยังไม่ได้สังเกต

อย่างไรก็ตามฉันไม่คิดว่าไลบรารีการเรียนรู้ของเครื่องมาตรฐานจะมีโครงสร้างที่ค่อนข้างซับซ้อนกว่านี้ (เมื่อเร็ว ๆ นี้ฉันค้นหาสิ่งนี้ผ่าน CRAN Task Views สำหรับ R) แต่ก็ไม่ควรจะซับซ้อนอะไรเลย คุณอาจใช้ต้นไม้ของคุณเองที่มีการถดถอยในใบไม้

ตรวจสอบcubistในแพ็คเกจ caret ด้วย มันสร้างการถดถอยเชิงเส้นในโหนดขั้วและสามารถคาดการณ์การคาดการณ์ด้านบนและด้านล่างช่วงของค่าการตอบสนองในข้อมูลการฝึกอบรม โหนดเทอร์มินัลยังสามารถหาค่าเฉลี่ยได้จากเพื่อนบ้านที่ใกล้ที่สุดซึ่งมีให้เป็นพารามิเตอร์หลายตัวดังนั้นจึงมีความเป็นไปได้ที่จะให้การทำนายที่ผ่านการตรวจสอบความถูกต้องสมบูรณ์