การตัดสินใจเป็นตอแบบจำลองเชิงเส้นหรือไม่?

ตอการตัดสินใจเป็นต้นไม้การตัดสินใจที่มีเพียงหนึ่งแยก นอกจากนี้ยังสามารถเขียนเป็นฟังก์ชั่นตามเข็มนาฬิกา

ตัวอย่างเช่นสมมติว่าเป็นเวกเตอร์และเป็นองค์ประกอบแรกของในการตั้งค่าการถดถอยการตัดสินใจบางอย่างอาจทำให้ตอ $x$ $x_1$ $x$

$f(x)= \begin{cases} 3& x_1\leq 2 \\ 5 & x_1 > 2 \\ \end{cases}$

แต่มันเป็นโมเดลเชิงเส้นหรือไม่? สามารถเขียนเป็นที่ไหน คำถามนี้อาจฟังดูแปลกเพราะดังที่ได้กล่าวไว้ในคำตอบและความคิดเห็นหากเราพล็อตฟังก์ชั่นตามลำดับมันไม่ใช่เส้น โปรดดูหัวข้อถัดไปสำหรับสาเหตุที่ฉันถามคำถามนี้ $f(x)=\beta^T x$

แก้ไข:

เหตุผลที่ฉันถามคำถามนี้คือการถดถอยโลจิสติกเป็นโมเดลเชิงเส้น (ทั่วไป) และขอบเขตการตัดสินใจเป็นเส้นเช่นกันสำหรับตอการตัดสินใจ หมายเหตุเรามีคำถามนี้ด้วย: เหตุใดการถดถอยแบบลอจิสติกจึงเป็นโมเดลเชิงเส้น . ในทางกลับกันดูเหมือนว่าไม่เป็นความจริงที่ตอการตัดสินใจเป็นแบบจำลองเชิงเส้น

อีกเหตุผลที่ฉันถามนี้เนื่องจากคำถามนี้: ในการส่งเสริมหากผู้เรียนพื้นฐานเป็นแบบจำลองเชิงเส้นแบบจำลองสุดท้ายเป็นเพียงแบบจำลองเชิงเส้นอย่างง่ายหรือไม่? โดยที่ถ้าเราใช้โมเดลเชิงเส้นเป็นผู้เรียนพื้นฐานเราจะไม่ได้อะไรมากไปกว่าการถดถอยเชิงเส้น แต่ถ้าเราเลือกผู้เรียนพื้นฐานเป็นตอการตัดสินใจเราจะได้แบบจำลองที่น่าสนใจมาก

นี่คือตัวอย่างหนึ่งของการตัดสินใจตอการส่งเสริมการถดถอยด้วย 2 คุณสมบัติและ 1 การตอบสนองอย่างต่อเนื่อง

— ไห่เทาดู
แหล่งที่มา

ทำไมคุณถึงคิดว่ามันเป็นเส้นตรง ..

— ทิม

@ hxd1011 สำคัญที่ต้องแยกแยะระหว่างขอบเขตการตัดสินใจและฟังก์ชันการตัดสินใจที่นี่

— shadowtalker

ฉันสามารถเรียกมันว่าพหุนามลำดับที่ 1,000 พร้อมคำสั่งทั้งหมดตั้งแต่ 1 ถึง 1,000 เท่ากับศูนย์ ฉันสามารถเรียกมันว่าแบบจำลองศูนย์ (หรือที่เรียกว่าคงที่) และจะสื่อสารคุณสมบัติหลักอย่างกระชับยิ่งขึ้น ต้นไม้คลาสสิกคงที่เป็นชิ้น ๆ ตอต้นไม้เล็ก ๆ น้อย ๆ เป็นตอหนึ่งแยกในพื้นที่ที่แบบจำลองในด้านหนึ่งเป็นค่าคงที่และอื่น ๆ เป็นค่าคงที่ที่แตกต่างกัน มันไม่คงที่ทั่วโลก แต่ก็ไม่ได้เป็น poly1 เช่นกัน ไลบรารี "cubist" ใน R เหมาะกับโมเดลเชิงเส้น (poly1) จริงแทนที่จะเป็นโมเดลคงที่ คุณอาจลองสิ่งนั้น

— EngrStudent - Reinstate Monica

ถ้าคุณวาดเส้นในระนาบ (พูด y = 0) และใช้ใด ๆฟังก์ชั่น

แล้ว

จะมีเส้นชั้นความสูงซึ่งเป็นเส้นที่เกิดขึ้นจริง (ขนานไปกับ

แกน ) แต่มันจะไม่เป็นฟังก์ชันเชิงเส้น

f (x)

$f(x)$

g (x, y) = f (x)

$g(x, y) = f(x)$

y

$y$

— Matthew Drury

นี่เป็นคำถามที่แปลก คุณสามารถพล็อตฟังก์ชั่นได้จากตัวอย่างของคุณ (ซึ่งเท่ากับ 3 สำหรับ x <2 และ 5 สำหรับ x> 2) ดูมัน - มันเป็นเส้นตรงหรือไม่? หากไม่ใช่เส้นตรงแสดงว่าไม่ใช่ฟังก์ชันเชิงเส้น

— อะมีบาพูดว่า Reinstate Monica

คำตอบ:

ไม่เว้นแต่คุณจะแปลงข้อมูล

มันเป็นโมเดลเชิงเส้นหากคุณแปลงโดยใช้ฟังก์ชันตัวบ่งชี้: $x$

x^{'} = ผม ({x > 2}) = {\begin{cases} \begin{aligned} 0 & x \leq 2 \\ 1 & x > 2 \end{aligned} \end{cases}

$x' = \mathbb I \left(\{x>2\}\right) = \begin{cases}\begin{align} 0 \quad &x\leq 2\\ 1 \quad &x>2 \end{align}\end{cases}$

จากนั้น $f(x) = 2x' + 3 = \left(\matrix{3 \\2}\right)^T \left(\matrix{1 \\x'}\right)$

แก้ไข: ถูกกล่าวถึงในความคิดเห็น แต่ฉันต้องการเน้นที่นี่เช่นกัน ฟังก์ชันใด ๆที่แบ่งพาร์ติชันข้อมูลออกเป็นสองส่วนสามารถแปลงเป็นแบบจำลองเชิงเส้นของแบบฟอร์มนี้โดยมีจุดตัดและอินพุตเดี่ยว (ตัวบ่งชี้ที่ "ด้าน" ของพาร์ติชั่นจุดข้อมูลอยู่) มันเป็นสิ่งสำคัญที่จะทราบความแตกต่างระหว่างการตัดสินใจที่ฟังก์ชั่นและการตัดสินใจเขตแดน

— shadowtalker
แหล่งที่มา

"เปลี่ยน" เป็นเรื่องยุ่งยากผมคิดว่าเครือข่ายประสาท (MLP) เป็นที่ไม่ใช่เชิงเส้น แต่หลังจากเปลี่ยนมันเป็นเส้นตรง ..

— ไฮเทาดู

มันเป็นโมเดลเชิงเส้นในพารามิเตอร์ และมันก็เป็นเชิงเส้นเลียนแบบในหุ่น

x^{'}

$x'$

— Michael M

@MichaelM มันเป็นเส้นตรงในพารามิเตอร์อย่างไร ฉันถือว่าด้วย "พารามิเตอร์" คุณหมายถึงตัวเลือกของ

x \leq 2

$x \leq 2$

— shadowtalker

@ hxd1011 คำตอบคือ "ไม่เว้นแต่คุณจะเปลี่ยนข้อมูล"

— shadowtalker

ฉันขอแนะนำให้คุณแก้ไขคำตอบเพื่อรวม "ไม่เว้นเสียแต่ว่าคุณจะแปลงข้อมูล" (จากความคิดเห็นล่าสุดของคุณ) ให้เป็นคำตอบ ขณะนี้คำที่เปิดของคุณคือ "มันเป็นโมเดลเชิงเส้น" และผู้คนอาจสับสนได้

— อะมีบาพูดว่า Reinstate Monica

คำตอบสำหรับคำถามของคุณ:

ตอการตัดสินใจไม่ใช่แบบเชิงเส้น
ขอบเขตการตัดสินใจสามารถเป็นบรรทัดได้แม้ว่าตัวแบบจะไม่ใช่เชิงเส้นก็ตาม การถดถอยโลจิสติกเป็นตัวอย่าง
แบบจำลองที่ได้รับการส่งเสริมไม่จำเป็นต้องเป็นแบบเดียวกันกับผู้เรียนพื้นฐาน หากคุณคิดเกี่ยวกับมันตัวอย่างของการส่งเสริมพร้อมกับคำถามที่คุณเชื่อมโยงพิสูจน์ว่าตอการตัดสินใจไม่ใช่แบบเชิงเส้น

— Flounderer
แหล่งที่มา

คำตอบนี้มีความละเอียดมากกว่าที่จำเป็นเพียงแค่ตอบคำถาม ฉันหวังว่าจะกระตุ้นความคิดเห็นจากผู้เชี่ยวชาญจริง

ฉันเคยอยู่ในห้องพิจารณาคดีและผู้พิพากษาถาม (ด้วยเหตุผลที่ดีในบริบท) ถ้าเราเรียกขาของสุนัขนั่นหมายความว่าสุนัขมี 5 ขาหรือไม่? โมเดลเชิงเส้นคืออะไร?

$f_1, f_2, \ldots, f_n$ $y = \sum a_i f_i$ ด้วยข้อ จำกัด ที่สำคัญที่ข้อผิดพลาดเป็นอิสระและกระจายตามปกติ ด้วยคำจำกัดความดังกล่าวไม่มีใครบอกได้ว่าแบบจำลองของคุณเป็นแบบเชิงเส้นเพราะคุณไม่ได้ให้ข้อมูลเกี่ยวกับคำผิด หากมีข้อ จำกัด เทอมข้อผิดพลาดมันจะเป็นเชิงเส้นในฟังก์ชันที่คุณให้หรือในฟังก์ชัน ssdecontrol อย่างไรก็ตามไร้เดียงสาในบริบทของคำถามนี้อาจไม่เป็นที่น่าพอใจ ฟังก์ชั่นใด ๆ ถือได้ว่าเป็นพื้นฐานของเส้นตรงในความหมายนั้น นั่นเป็นเพราะพื้นที่ใด ๆ ของฟังก์ชั่นสามารถเปลี่ยนเป็นพื้นที่เวกเตอร์ของฟังก์ชั่น

$\beta$ $f(x) = \beta^{T} x$

$f(x+y) = f(x) + f(y)$ $x$ $y$ $f(1.5) = 3$ $f(3) = 5$ $f(3) \neq f(1.5) + f(1.5)$ $f(x) = \beta^T x$

— Meh
แหล่งที่มา

ลิเนียริตี้ไม่เกี่ยวข้องกับคำที่เป็นข้อผิดพลาด มันจะทำอย่างไรกับความจริงที่ว่ามันประกอบด้วยการรวมกันเชิงเส้นของพารามิเตอร์ สิ่งนี้แสดงถึงเส้นตรงในพื้นที่ 2 มิติ (แต่โดยทั่วไปหมายถึงเครื่องบิน)

— shadowtalker

f (x) = 0

$f(x) = 0$

f (x) = a_{0} + \sum_{i = 1}^{i = N} a_{i} x_{i}

$f(x) = a_0 + \sum_{i=1}^{i=N} a_ix_i$ . อย่างไรก็ตามฟังก์ชั่นจะเป็นแบบเชิงเส้น

⟺ a_{0} = 0

$\iff a_0 = 0$

f (x + y) = f (x) + f (y)

$f(x+y) = f(x) + f(y)$

ถ้านั่นคือสิ่งที่เขายืนยันนั่นคือความคิดเห็นของเขาและไม่ใช่ความจริงที่ยาก เท่าที่ฉันทราบไม่มีคำจำกัดความที่ยอมรับอย่างเข้มงวดสำหรับ "โมเดลเชิงเส้น" และไม่จำเป็นต้องมีในใจของฉัน สำหรับฉันความจริงที่ว่ามีข้อผิดพลาดที่เกี่ยวข้องเพียงแค่เปลี่ยนโมเดลจาก "โมเดลเชิงเส้น" เป็น "โมเดลเชิงเส้นเชิงสถิติ" ฉันไม่เห็นอะไรเลยเกี่ยวกับคำของเธออย่างเป็นเส้นตรงและฉันไม่เห็นอะไรที่เกี่ยวกับสถิติเชิงเส้นเกี่ยวกับตัวแบบเชิงเส้น

— shadowtalker

IMO ยืนกรานที่จะมีข้อผิดพลาดเพียงลดสิ่งที่พูดและวิศวกรรมหรือนักฟิสิกส์อาจคิดว่า "แบบจำลองเชิงเส้น" ของกระบวนการทางกายภาพที่กำหนดขึ้น

— shadowtalker