ในการสัมมนาที่ผ่านมาบทคัดย่อของผู้พูดอ้างว่าพวกเขาใช้การเรียนรู้ของเครื่อง ในระหว่างการพูดคุยสิ่งเดียวที่เกี่ยวข้องกับการเรียนรู้ของเครื่องคือพวกเขาทำการถดถอยเชิงเส้นในข้อมูลของพวกเขา หลังจากการคำนวณค่าสัมประสิทธิ์ที่เหมาะสมที่สุดในพื้นที่พารามิเตอร์ 5D พวกเขาเปรียบเทียบค่าสัมประสิทธิ์เหล่านี้ในระบบหนึ่งกับค่าสัมประสิทธิ์ที่เหมาะสมที่สุดของระบบอื่น ๆ

เมื่อใดที่การเรียนรู้ของเครื่องถดถอยเชิงเส้นตรงข้ามกับการหาเส้นที่เหมาะสมที่สุด (บทคัดย่อของผู้วิจัยทำให้เข้าใจผิดหรือไม่)

ด้วยการเรียนรู้ด้วยความสนใจทั้งหมดได้รับการรวบรวมเมื่อเร็ว ๆ นี้ดูเหมือนว่าสิ่งสำคัญที่จะทำให้ความแตกต่างดังกล่าว

คำถามของฉันเป็นแบบนี้ยกเว้นคำถามนั้นถามถึงคำจำกัดความของ "การถดถอยเชิงเส้น" ในขณะที่ฉันถามเมื่อการถดถอยเชิงเส้น (ซึ่งมีแอปพลิเคชันจำนวนมาก) อาจถูกเรียกว่า "การเรียนรู้ด้วยเครื่อง" อย่างเหมาะสม

ชี้แจง

ฉันไม่ได้ถามเมื่อการถดถอยเชิงเส้นเหมือนกับการเรียนรู้ของเครื่อง ตามที่บางคนได้ชี้ให้เห็นอัลกอริทึมเดียวไม่ได้เป็นสาขาของการศึกษา ฉันถามว่าถูกต้องหรือไม่ที่จะบอกว่าสิ่งหนึ่งกำลังทำการเรียนรู้ของเครื่องเมื่ออัลกอริทึมที่ใช้อยู่นั้นเป็นเพียงการถดถอยเชิงเส้น

เรื่องตลกทั้งหมด (ดูความคิดเห็น) หนึ่งในเหตุผลที่ฉันถามเรื่องนี้ก็เพราะมันผิดจรรยาบรรณที่จะบอกว่าหนึ่งคือการเรียนรู้ของเครื่องเพื่อเพิ่มดาวสีทองสองสามชื่อของคุณถ้าพวกเขาไม่ได้เรียนรู้ด้วยเครื่องจริงๆ (นักวิทยาศาสตร์หลายคนคำนวณชนิดของสายที่ดีที่สุดเหมาะสำหรับการทำงานของพวกเขาบางส่วน แต่นี้ไม่ได้หมายความว่าพวกเขากำลังทำกลไกการเรียนรู้.) บนมืออื่น ๆ ที่มีอย่างชัดเจนสถานการณ์เมื่อการถดถอยเชิงเส้นจะถูกนำมาใช้เป็นส่วนหนึ่งของการเรียนรู้เครื่อง ฉันกำลังมองหาผู้เชี่ยวชาญเพื่อช่วยจำแนกสถานการณ์เหล่านี้ ;-)

ตอบคำถามของคุณด้วยคำถาม: การเรียนรู้ของเครื่องคืออะไร เทรเวอร์ Hastie, โรเบิร์ตทิบชิรา นี และเจอโรมฟรีดแมนในองค์ประกอบของการเรียนรู้ทางสถิติ , เควินพีเมอร์ฟี่ในเครื่องการเรียนรู้น่าจะเป็นมุมมองของคริสโตบิชอปในรูปแบบการรับรู้และการเรียนรู้เครื่องเอียน Goodfellow, โยชัวเบนจิโอและอาโรน Courville ในการเรียนรู้ลึกและจำนวนของ การเรียนรู้ของเครื่องอื่น ๆ "พระคัมภีร์" พูดถึงการถดถอยเชิงเส้นเป็นหนึ่งในการเรียนรู้ของเครื่อง "อัลกอริทึม" การเรียนรู้ของเครื่องเป็นส่วนหนึ่งของคำศัพท์สำหรับสถิติที่ใช้และความแตกต่างระหว่างสถิติและการเรียนรู้ของเครื่องมักจะพร่ามัว

การถดถอยเชิงเส้นเป็นวิธีที่แน่นอนที่สามารถใช้ในการเรียนรู้ของเครื่อง แต่reductio น่าหัวเราะ : ทุกคนที่มีสำเนาของ Excel สามารถพอดีกับรูปแบบเชิงเส้น

แม้แต่การ จำกัด ตัวเราเองให้อยู่ในรูปแบบเชิงเส้นมีอีกหลายสิ่งที่ต้องพิจารณาเมื่อคุยเรื่องการเรียนรู้ของเครื่อง:

• การเรียนรู้ของเครื่องเกี่ยวกับปัญหาทางธุรกิจอาจเกี่ยวข้องกับข้อมูลมากขึ้น " ข้อมูลขนาดใหญ่ " ถ้าคุณต้องการใช้ buzzword การทำความสะอาดและการเตรียมข้อมูลอาจใช้เวลามากกว่างานจริง และเมื่อปริมาณข้อมูลเกินขีดความสามารถของเครื่องเดียวในการประมวลผลความท้าทายด้านวิศวกรรมก็มีความสำคัญเท่ากับความท้าทายทางสถิติ (Rule of thumb: ถ้ามันพอดีกับหน่วยความจำหลักไม่ใช่ข้อมูลขนาดใหญ่)
• การเรียนรู้ของเครื่องมักจะเกี่ยวข้องกับตัวแปรอธิบาย (คุณสมบัติ) มากกว่าแบบจำลองสถิติดั้งเดิม บางทีหลายสิบคนบางทีอาจเป็นหลายร้อยคนซึ่งบางส่วนจะเป็นตัวแปรเด็ดขาดที่มีหลายระดับ เมื่อคุณสมบัติเหล่านี้สามารถโต้ตอบ (เช่นในรูปแบบข้ามผลกระทบ) จำนวนของแบบจำลองที่มีศักยภาพเพื่อให้พอดีกับการเติบโตอย่างรวดเร็ว
• ผู้ปฏิบัติงานการเรียนรู้ของเครื่องจักรมักจะเกี่ยวข้องกับความสำคัญของคุณลักษณะแต่ละอย่างน้อยกว่าและเกี่ยวข้องกับการบีบพลังการทำนายให้ได้มากที่สุดเท่าที่จะเป็นไปได้จากแบบจำลอง (ค่า P เกี่ยวข้องกับคำอธิบายไม่ใช่การทำนาย)
• ด้วยคุณสมบัติจำนวนมากและวิธีการต่าง ๆ ของคุณสมบัติเหล่านั้นการเลือกรุ่นด้วยมือจึงเป็นไปไม่ได้ ในความคิดของฉันความท้าทายที่แท้จริงในการเรียนรู้ของเครื่องคือการเลือกคุณสมบัติโดยอัตโนมัติ (คุณสมบัติวิศวกรรม) และด้านอื่น ๆ ของข้อกำหนดรุ่น ด้วยโมเดลเชิงเส้นมีวิธีการต่าง ๆ ในการทำเช่นนี้ซึ่งโดยปกติจะเป็นตัวแปรของแรงเดรัจฉาน รวมถึงการถดถอยขั้นตอนการกำจัดหลังเป็นต้นซึ่งทั้งหมดนี้ต้องการพลังการประมวลผลที่สำคัญอีกครั้ง (กฎข้อที่สองง่ายๆ: ถ้าคุณเลือกคุณสมบัติด้วยมือคุณกำลังทำสถิติไม่ใช่การเรียนรู้ของเครื่อง)
• เมื่อคุณติดตั้งหลายรุ่นโดยอัตโนมัติด้วยคุณสมบัติมากมายการปรับขนาดที่เหมาะสมเป็นปัญหาที่ร้ายแรง การจัดการกับปัญหานี้มักจะเกี่ยวข้องกับการตรวจสอบความถูกต้องของรูปแบบ: คือการคำนวณแรงเดรัจฉานมากขึ้น!

คำตอบสั้น ๆ จากมุมมองของฉันคือที่การเรียนรู้เครื่องเบี่ยงเบนจากการสร้างแบบจำลองทางสถิติแบบดั้งเดิมในการประยุกต์ใช้กำลังดุร้ายและวิธีการเชิงตัวเลขเพื่อเลือกรูปแบบโดยเฉพาะในโดเมนที่มีข้อมูลจำนวนมากและตัวแปรอธิบายจำนวนมาก โดยให้ความสำคัญกับพลังการทำนายแล้วตามด้วยกำลังดุร้ายมากขึ้นสำหรับการตรวจสอบความถูกต้องของแบบจำลอง

ฉันคิดว่าคำจำกัดความของมิตเชลล์ให้วิธีที่เป็นประโยชน์ในการอภิปรายการเรียนรู้ของเครื่องซึ่งเป็นหลักการแรก ตามที่เผยแพร่บนWikipedia :

โปรแกรมคอมพิวเตอร์ได้รับการกล่าวเพื่อเรียนรู้จากประสบการณ์ E เกี่ยวกับงานบางประเภท T และการวัดประสิทธิภาพ P หากประสิทธิภาพการทำงานที่งานใน T ตามที่วัดโดย P ปรับปรุงด้วยประสบการณ์ E

สิ่งนี้มีประโยชน์ในหลายวิธี ข้อแรกสำหรับคำถามเร่งด่วนของคุณ: การถดถอยคือการเรียนรู้ของเครื่องเมื่อหน้าที่ของมันคือการให้คุณค่าโดยประมาณจากคุณสมบัติการทำนายในบางแอปพลิเคชัน ประสิทธิภาพควรเพิ่มขึ้นตามที่วัดโดยค่าเฉลี่ยกำลังสอง (หรือสัมบูรณ์เป็นต้น) ยื่นข้อผิดพลาดเนื่องจากมีข้อมูลมากขึ้น

ประการที่สองมันช่วยอธิบายการเรียนรู้ของเครื่องจากคำศัพท์ที่เกี่ยวข้องและการใช้เป็นคำศัพท์ทางการตลาด เปรียบเทียบงานข้างต้นกับการถดถอยมาตรฐานที่อนุมานซึ่งนักวิเคราะห์ตีความค่าสัมประสิทธิ์สำหรับความสัมพันธ์ที่สำคัญ ที่นี่โปรแกรมจะส่งคืนข้อสรุป: ค่าสัมประสิทธิ์ค่า p เป็นต้นโปรแกรมไม่สามารถพูดได้ว่าจะปรับปรุงประสิทธิภาพการทำงานด้วยประสบการณ์ งานคือการคำนวณที่ซับซ้อน

ในที่สุดมันจะช่วยรวมฟิลด์ย่อยการเรียนรู้ของเครื่องทั้งสองที่ใช้กันทั่วไปในงานแสดงสินค้าเบื้องต้น (แบบมีผู้ดูแลไม่ได้ดูแล) กับผู้อื่นเช่นการเรียนรู้การเสริมแรงหรือการประมาณความหนาแน่น (แต่ละคนมีภารกิจการวัดประสิทธิภาพและแนวคิดเกี่ยวกับประสบการณ์ถ้าคุณคิดกับพวกเขามากพอ) ฉันคิดว่ามันเป็นคำจำกัดความที่สมบูรณ์ยิ่งขึ้นซึ่งจะช่วยวิเคราะห์สองฟิลด์โดยไม่ลดลงโดยไม่จำเป็น ตัวอย่างเช่น "ML สำหรับการคาดการณ์สถิติสำหรับการอนุมาน" จะไม่สนใจทั้งเทคนิคการเรียนรู้ของเครื่องนอกการเรียนรู้ภายใต้การดูแลและเทคนิคทางสถิติที่มุ่งเน้นไปที่การทำนาย

ไม่มีกฎหมายที่บอกว่าผู้ผลิตตู้ไม่สามารถใช้เลื่อยของผู้ผลิตบาร์เรล

การเรียนรู้ของเครื่องและสถิติเป็นป้ายกำกับที่คลุมเครือ แต่หากกำหนดชัดเจนจะมีการทับซ้อนกันระหว่างสถิติและการเรียนรู้ของเครื่องเป็นจำนวนมาก และนี่จะเป็นวิธีการของสองพื้นที่นี้รวมถึง (และแยกกัน) สำหรับผู้ที่ติดป้ายตัวเองด้วยสองพื้นที่นี้ แต่เท่าที่ไปคณิตศาสตร์การเรียนรู้ของเครื่องทั้งหมดภายในเขตของสถิติ

การถดถอยเชิงเส้นเป็นกระบวนการทางคณิตศาสตร์ที่กำหนดไว้อย่างดี ฉันมักจะเชื่อมโยงกับพื้นที่ของสถิติและผู้ที่เรียกตัวเองว่า 'สถิติ' และผู้ที่ออกมาจากโปรแกรมการศึกษาที่มีป้ายกำกับเช่น 'สถิติ' SVM (Support Vector Machines) เป็นกระบวนการทางคณิตศาสตร์ที่กำหนดไว้อย่างดีเช่นกันซึ่งมีอินพุตและเอาต์พุตเหมือนกันทุกตัวและแก้ไขปัญหาที่คล้ายกัน แต่ฉันมักจะเชื่อมโยงกับมัน แต่กับพื้นที่ของการเรียนรู้ของเครื่องและผู้ที่เรียกตัวเองว่านักวิทยาศาสตร์คอมพิวเตอร์หรือผู้ที่ทำงานในด้านปัญญาประดิษฐ์หรือการเรียนรู้ของเครื่องซึ่งมีแนวโน้มที่จะถือเป็นส่วนหนึ่งของวิทยาศาสตร์คอมพิวเตอร์เป็นวินัย

แต่นักสถิติบางคนอาจใช้ SVM และคน AI บางคนใช้การถดถอยโลจิสติก ชัดเจนว่ามีแนวโน้มที่นักสถิติหรือนักวิจัย AI จะพัฒนาวิธีการมากกว่าที่จะนำไปใช้จริง

ฉันวางวิธีการทั้งหมดของการเรียนรู้ของเครื่องจักรอย่างละเอียดภายในขอบเขตของสถิติ แม้แต่สิ่งใหม่ ๆ เช่น Deep Learning, RNNs, CNNs, LSTMs, CRFs นักสถิติศาสตร์ประยุกต์ (ชีวสถิติ, นักปฐพีวิทยา) อาจไม่คุ้นเคยกับพวกเขา นั่นคือวิธีการสร้างแบบจำลองการคาดการณ์ทั้งหมดมักจะระบุด้วย 'การเรียนรู้ของเครื่อง' และไม่ค่อยเกี่ยวข้องกับสถิติ แต่เป็นแบบจำลองการทำนายด้วยค่าเผื่อที่พวกเขาสามารถตัดสินโดยใช้วิธีการทางสถิติ

ในที่สุดการถดถอยโลจิสติกจะต้องได้รับการพิจารณาเป็นส่วนหนึ่งของการเรียนรู้ของเครื่อง

แต่ใช่ฉันเห็นและมักจะแบ่งปันความไม่ชอบของคุณสำหรับการใช้คำที่ผิดเหล่านี้ การถดถอยเชิงเส้นดังกล่าวเป็นส่วนพื้นฐานของสิ่งที่เรียกว่าสถิติที่มันรู้สึกแปลกมากและทำให้เข้าใจผิดที่จะเรียกใช้ 'การเรียนรู้เครื่อง'

เพื่อแสดงให้เห็นว่า Logistic regression นั้นเหมือนกันในเชิงคณิตศาสตร์กับเครือข่าย Deep Learning ที่ไม่มีโหนดที่ซ่อนอยู่และฟังก์ชั่น logistic เป็นฟังก์ชั่นการเปิดใช้งานสำหรับโหนดเอาต์พุตเดี่ยว ฉันจะไม่เรียกการถดถอยโลจิสติกเป็นวิธีการเรียนรู้ของเครื่อง แต่มันถูกใช้ในบริบทการเรียนรู้ของเครื่องอย่างแน่นอน

มันเป็นเรื่องของความคาดหวัง

A: "ฉันใช้การเรียนรู้ของเครื่องเพื่อทำนายการกลับเข้ารักษาซ้ำในโรงพยาบาลหลังการผ่าตัดหัวใจ"

B: "ใช่แล้วการเรียนรู้ลึกป่าสุ่ม? !!"

A: "โอ้ไม่ไม่มีอะไรน่าประหลาดใจเพียงแค่ Logistic Regression"

B: ดูผิดหวังมาก

มันก็เหมือนกับการพูดว่าเมื่อล้างหน้าต่างด้วยน้ำที่คุณใช้เคมีควอนตัม ใช่แน่นอนว่านั่นไม่ใช่เทคนิคที่ผิด แต่คุณหมายถึงมากกว่าสิ่งที่จำเป็น

แต่จริงๆนั่นคือว่าความแตกต่างทางวัฒนธรรมกับความแตกต่างสาร ความหมายของคำศัพท์และการเชื่อมโยงกับกลุ่มคน (LR ไม่ใช่ ML!) เทียบกับคณิตศาสตร์และแอปพลิเคชัน (LR คือ ML โดยสิ้นเชิง!)

มุมมองทั่วไปคือการเรียนรู้ของเครื่องประกอบด้วย 4 ส่วนคือ

1) การลดขนาด

2) การจัดกลุ่ม

3) การจำแนกประเภท

4) การถดถอย

การถดถอยเชิงเส้นคือการถดถอย เมื่อแบบจำลองได้รับการฝึกฝนแล้วมันสามารถใช้สำหรับการทำนายเช่นเดียวกับคนอื่น ๆ พูดการถดถอยป่าแบบสุ่ม

การถดถอยเชิงเส้นเป็นเทคนิคในขณะที่การเรียนรู้ของเครื่องเป็นเป้าหมายที่สามารถทำได้ด้วยวิธีการและเทคนิคที่แตกต่างกัน

ดังนั้นประสิทธิภาพการถดถอยจึงวัดได้จากความใกล้เคียงกับเส้น / เส้นโค้งที่คาดหวังในขณะที่การเรียนรู้ของเครื่องวัดได้ว่ามันสามารถแก้ปัญหาได้ดีเพียงใดโดยใช้วิธีใดก็ได้ที่จำเป็น

ฉันจะยืนยันว่าความแตกต่างระหว่างการเรียนรู้ของเครื่องและการอนุมานเชิงสถิตินั้นชัดเจน ในระยะสั้นการเรียนรู้ของเครื่อง = การทำนายการสังเกตการณ์ในอนาคต สถิติ = คำอธิบาย

นี่คือตัวอย่างจากสาขาวิชาที่ฉันสนใจ (ยา): เมื่อพัฒนายาเราค้นหายีนที่อธิบายสภาวะโรคได้ดีที่สุดโดยมีเป้าหมายในการกำหนดเป้าหมายยา / พวกเขาด้วยยา เราใช้สถิติเพื่อสิ่งนั้น ในทางตรงกันข้ามเมื่อพัฒนาการทดสอบการวินิจฉัยเช่นการทำนายว่ายาเสพติดจะช่วยผู้ป่วยหรือไม่เป้าหมายคือการค้นหาตัวทำนายที่ดีที่สุดของผลลัพธ์ในอนาคตอย่างเคร่งครัดแม้ว่าจะประกอบด้วยยีนจำนวนมากและซับซ้อนเกินกว่าจะเข้าใจได้ เราใช้การเรียนรู้ของเครื่องเพื่อจุดประสงค์นี้ มีหลายตัวอย่างที่ตีพิมพ์ [1], [2], [3], [4] แสดงให้เห็นว่าเป้าหมายของยาเสพติดไม่ใช่ตัวทำนายผลการรักษาที่ดีดังนั้นจึงมีความแตกต่าง

จากสิ่งนี้มันยุติธรรมที่จะบอกว่ามีใครเรียนรู้ด้วยเครื่องเมื่อเป้าหมายคือการทำนายผลของการสังเกตในอนาคต / ที่ไม่เคยเห็นมาก่อนอย่างเคร่งครัด หากเป้าหมายคือการเข้าใจปรากฏการณ์เฉพาะนั่นก็คือการอนุมานเชิงสถิติไม่ใช่การเรียนรู้ด้วยเครื่อง ดังที่คนอื่น ๆ ชี้ว่าสิ่งนี้เป็นจริงโดยไม่คำนึงถึงวิธีการที่เกี่ยวข้อง

เพื่อตอบคำถามของคุณ: ในการวิจัยเฉพาะที่คุณอธิบายนักวิทยาศาสตร์ได้เปรียบเทียบบทบาทปัจจัย (น้ำหนัก) ในตัวแบบการถดถอยเชิงเส้นที่แตกต่างกันไม่ใช่การเปรียบเทียบความแม่นยำของแบบจำลอง ดังนั้นจึงไม่ถูกต้องที่จะเรียกการเรียนรู้ของเครื่องอนุมาน

[1] Messersmith WA, Ahnen DJ การกำหนดเป้าหมาย EGFR ในมะเร็งลำไส้ใหญ่ วารสารการแพทย์นิวอิงแลนด์; 2008 359; 17

[2] Pogue-Geile KL และคณะ การทำนายระดับของผลประโยชน์จาก Adjuvant Trastuzumab ในการทดลอง NSABP B-31 J Natl Cancer Inst; 2013; 105: 1782-1788

[3] Pazdur R. การอนุมัติ FDA สำหรับ Vemurafenib https://www.cancer.gov/about-cancer/treatment/drugs/fda-vemurafenib อัปเดต 3 กรกฎาคม 2556

[4] Ray T. การศึกษา ASCO สองครั้งแสดงให้เห็นถึงความท้าทายในการใช้สัญญาณ MET เป็นเครื่องหมายบ่งชี้ในการทดลองใช้ยา NSCLC GenomeWeb, 11 มิถุนายน 2014

มันจะมีประโยชน์ในการเรียกการเรียนรู้เครื่องถดถอยเชิงเส้นเพราะการทำเช่นนั้นโดยทั่วไปแสดงถึงสิ่งสำคัญสองสามอย่างเกี่ยวกับวิธีการที่คุณแก้ไขปัญหาของคุณ:

1. คุณตัดสินใจว่าไม่จำเป็นต้องตรวจสอบสมมติฐานเชิงสาเหตุและทฤษฎีก่อนหน้านี้ที่อยู่เบื้องหลังตัวแปรอธิบายของคุณ มันเป็นสัญญาณว่าแบบจำลองของคุณไม่ได้ตั้งใจจะอธิบาย แต่เพื่อทำนาย สิ่งนี้มีความสมเหตุสมผลอย่างสมบูรณ์แบบในการตั้งค่าจำนวนมากตัวอย่างเช่นการทำนายอีเมลขยะตามคำหลัก มีวรรณคดีจำนวนมากที่คำทำนายสแปมและมีคำมากมายที่ไม่เหมาะสมที่จะคิดผ่านความสำคัญทางทฤษฎีของแต่ละคำ
2. คุณไม่ได้ตรวจสอบความสำคัญของตัวแปรหรือใช้ค่า p แต่เลือกที่จะเลือกชุดโฮลด์หรือการตรวจสอบข้ามเพื่อประเมินประสิทธิภาพการทำนายนอกตัวอย่าง สิ่งนี้สามารถใช้งานได้อย่างสมบูรณ์แบบหาก - กลับไปที่ตัวอย่างอีเมลสแปม - หากสิ่งที่คุณใส่ใจจริงๆคือการสร้างแบบจำลองที่ทำนายสแปมได้อย่างมีประสิทธิภาพแม้ว่าจะมีค่าใช้จ่ายในการรวมตัวแปรที่อาจไม่ผ่านการทดสอบความสำคัญดั้งเดิม

อย่างไรก็ตามหากแบบจำลองของคุณมีจุดประสงค์ที่จะอธิบายมากกว่าการคาดการณ์และคุณตรวจสอบสมมติฐานเชิงสาเหตุเชิงทฤษฎีของแบบจำลองอย่างเข้มงวด ฯลฯ ใช่แล้วมันค่อนข้างโง่ที่จะเรียกมันว่าการเรียนรู้ของเครื่อง

ยอมรับคำตอบสำหรับคำถามนี้เป็นความเห็นมากกว่าความเป็นจริงวัตถุประสงค์ แต่ฉันจะพยายามที่จะออกวางตรรกะของฉันทำไมฉันคิดว่าคำตอบคือไม่ สิ่งที่เรียกว่าผู้เชี่ยวชาญด้านการเรียนรู้ของเครื่องหรือผู้สอนเท่านั้นที่จะเปิดเผยความไม่รู้ของพวกเขาโดยเป็นตัวแทนของการถดถอยเชิงเส้นเช่นนี้

การกำหนดสาขาวิชาทางวิชาการเป็นเรื่องเกี่ยวกับการกำหนดชุมชนมากกว่าวิธีการ สาขาวิชาวิทยาศาสตร์ยืมวิธีการข้ามสาขาตลอดเวลา ยิ่งไปกว่านั้นในศตวรรษที่ 19 (เมื่อการถดถอยเชิงเส้นได้รับการพัฒนา) และก่อนหน้านั้นสาขาวิชาวิทยาศาสตร์ไม่ได้ถูกวิเคราะห์อย่างชัดเจนเหมือนในปัจจุบัน ดังนั้นโดยเฉพาะอย่างยิ่งเมื่อมีการพัฒนาวิธีการในศตวรรษที่ 19 หรือก่อนหน้านี้เราควรระมัดระวังในการกำหนดให้มีระเบียบวินัยโดยเฉพาะ

ที่ถูกกล่าวว่าหนึ่งสามารถดูประวัติของวินัยและเหตุผลที่สรุปได้ว่าวิธีการเฉพาะ "เป็น" หนึ่งในวินัยหรืออื่น ๆ ไม่มีใครจะพูดในวันนี้ว่าแคลคูลัสเป็นของสาขาฟิสิกส์แม้ว่านิวตันซึ่งเป็นหนึ่งในนักประดิษฐ์ของแคลคูลัสก็พยายามใช้สิ่งนี้กับฟิสิกส์อย่างแน่นอน แคลคูลัสเป็นของคณิตศาสตร์อย่างชัดเจนไม่ใช่ฟิสิกส์ นี่เป็นเพราะแคลคูลัสเป็นวิธีการทางคณิตศาสตร์ทั่วไปที่สามารถใช้ได้อย่างสมบูรณ์นอกบริบททางฟิสิกส์

ด้วยเหตุผลเดียวกันการถดถอยเชิงเส้นเป็นวินัยของสถิติแม้ว่ามันจะถูกใช้เป็นตัวอย่างง่ายๆของการปรับข้อมูลให้เหมาะกับรูปแบบในบริบทของการเรียนรู้ของเครื่อง เช่นเดียวกับแคลคูลัสที่สามารถใช้นอกบริบทของฟิสิกส์การถดถอยเชิงเส้นสามารถ (และเป็น) ที่ใช้ภายนอกบริบทของการเรียนรู้ของเครื่อง

ผู้สอนการเรียนรู้ด้วยเครื่องควรจะชี้ให้เห็นว่าการถดถอยเชิงเส้นนั้นมีการใช้มาตั้งแต่ปลายศตวรรษที่ 19นานก่อนที่ความคิดสมัยใหม่ของการเรียนรู้ของเครื่องจะเกิดขึ้น พวกเขาควรเน้นด้วยว่าการเรียนรู้ของเครื่องใช้ประโยชน์จากแนวคิดที่น่าจะเป็นและสถิติรวมถึงสาขาวิชาอื่น ๆ (เช่นทฤษฎีสารสนเทศ) อย่างไรก็ตามแนวคิดเหล่านี้ไม่ได้แสดงถึงการเรียนรู้ของเครื่องหรือ "อัลกอริทึม" ของการเรียนรู้ของเครื่อง

มันคือเครื่องจักรโง่!

ฉันไม่ใช่ผู้เชี่ยวชาญด้านสถิติหรือผู้เชี่ยวชาญด้าน Big Data (TM) อย่างไรก็ตามฉันจะบอกว่าความแตกต่างที่สำคัญคือ "การเรียนรู้ของเครื่อง" ต้องมี "เครื่อง" โดยเฉพาะอย่างยิ่งมันหมายถึงหน่วยงาน ผลจะไม่ถูกบริโภคโดยมนุษย์ แต่ผลลัพธ์จะเป็นอินพุตของรอบปิดซึ่งระบบอัตโนมัติจะปรับปรุงประสิทธิภาพของมัน

ระบบปิด

นี้เป็นอย่างมากในแนวเดียวกันกับคำตอบของฌอนอีสเตอร์ แต่ผมแค่อยากจะเน้นว่าในการใช้งานในเชิงพาณิชย์เครื่องกำลังมองหาที่ผลและทำหน้าที่เกี่ยวกับพวกเขา ตัวอย่างคลาสสิกคืออัลกอริทึม CineMatch ซึ่งเป็นเป้าหมายของรางวัล Netflix มนุษย์สามารถดูผลลัพธ์ของ CineMatch และเรียนรู้คุณสมบัติที่น่าสนใจเกี่ยวกับผู้ชมภาพยนตร์ แต่นั่นไม่ใช่เหตุผลที่มีอยู่ วัตถุประสงค์ของ CineMatch คือการจัดเตรียมกลไกที่เซิร์ฟเวอร์ Netflix สามารถแนะนำภาพยนตร์ให้กับลูกค้าที่พวกเขาจะได้เพลิดเพลิน ผลลัพธ์ของแบบจำลองทางสถิติจะเข้าสู่บริการผู้แนะนำซึ่งท้ายที่สุดจะสร้างข้อมูลให้มากขึ้นในขณะที่ภาพยนตร์ให้คะแนนลูกค้าซึ่งบางเรื่องได้รับการคัดเลือกตามคำแนะนำของ CineMatch

ระบบเปิด

ในทางตรงกันข้ามถ้าเป็นนักวิจัยใช้วิธีการที่จะก่อให้เกิดผลทางสถิติซึ่งจะแสดงในงานนำเสนอให้กับมนุษย์อื่น ๆ จากนั้นนักวิจัยที่เป็นส่วนใหญ่เด็ดไม่ได้มีส่วนร่วมในการเรียนรู้เครื่อง นี่คือค่อนข้างเห็นได้ชัดกับผมว่าการเรียนรู้ของมนุษย์ การวิเคราะห์ดำเนินการโดยเครื่อง แต่ไม่ใช่เครื่องที่ทำการเรียนรู้ตามลำดับ ตอนนี้มันเป็น "การเรียนรู้ของเครื่อง" ในระดับที่สมองมนุษย์ไม่ได้สัมผัสกับตัวอย่างทั้งหมดและรับผลลัพธ์ทางสถิติ "ทางชีวภาพ" แต่ฉันจะเรียกมันว่า "สถิติ" เพราะนี่คือสิ่งที่นักสถิติได้ทำมาตั้งแต่มีการคิดค้นฟิลด์

ข้อสรุป

ดังนั้นฉันจะตอบคำถามนี้โดยถามว่า: "ใครบริโภคผลลัพธ์?" หากคำตอบคือ: "มนุษย์" แสดงว่าเป็น "สถิติ" หากคำตอบคือ: "ซอฟต์แวร์" แสดงว่า "การเรียนรู้ของเครื่อง" และเมื่อเราพูดว่า "ซอฟต์แวร์สิ้นเปลืองผลลัพธ์" เราไม่ได้หมายความว่ามันเก็บไว้ที่ใดที่หนึ่งเพื่อเรียกคืนในภายหลัง เราหมายถึงว่ามันมีประสิทธิภาพพฤติกรรมซึ่งจะถูกกำหนดโดยผลในวงปิด

ในความคิดของฉันหนึ่งสามารถพูดถึงการเรียนรู้ของเครื่องเมื่อเครื่องถูกตั้งโปรแกรมให้อนุมานพารามิเตอร์ของบางรุ่นโดยใช้ข้อมูลบางอย่าง

หากการถดถอยเชิงเส้นกระทำโดยเครื่องดังนั้นจึงมีคุณสมบัติ

ถ้าทำด้วยมือแล้วมันไม่ได้

คำจำกัดความที่ขึ้นอยู่กับความชุกของตัวแทน (เช่น Excel) หรือการปรับปรุงซ้ำ (เช่น Sean Easter แนะนำด้านบน) พยายามแยกมันออกจากสถิติหรือขึ้นอยู่กับว่าจะทำอย่างไรกับผลลัพธ์ที่ได้จะไม่สอดคล้องกันในความคิดของฉัน