ทักษะยากที่จะหาในผู้เรียนรู้เครื่องจักร?

ดูเหมือนว่าการขุดข้อมูลและการเรียนรู้ของเครื่องจักรกลายเป็นที่นิยมจนตอนนี้นักเรียน CS เกือบทุกคนรู้เรื่องตัวแยกประเภทการจัดกลุ่มการ NLP เชิงสถิติ ฯลฯ ดังนั้นดูเหมือนว่าการค้นหาตัวขุดข้อมูลไม่ใช่เรื่องยากในปัจจุบัน

คำถามของฉันคืออะไรทักษะที่นักขุดข้อมูลสามารถเรียนรู้ที่จะทำให้เขาแตกต่างจากคนอื่น ๆ คืออะไร? ที่จะทำให้เขาเป็นคนที่ไม่เหมือนใครง่ายๆ

ฉันเคยเห็นนักพัฒนาหลายครั้งใช้เทคนิค ML นี่เป็นรูปแบบปกติ:

1. ดาวน์โหลดไลบรารี่ที่มีชื่อแฟนซี;
2. ใช้เวลา 10 นาทีเพื่ออ่านวิธีการใช้งาน (ข้ามสถิติ, คณิตศาสตร์, ฯลฯ );
3. ป้อนข้อมูลด้วย (ไม่มีการประมวลผลล่วงหน้า);
4. ประสิทธิภาพของการวัด (เช่นความแม่นยำแม้ว่าคลาสจะไม่สมดุลทั้งหมด) และบอกทุกคนว่ามันยอดเยี่ยมแค่ไหนกับความแม่นยำ 99%
5. ปรับใช้ในการผลิตด้วยผลลัพธ์ความล้มเหลวที่ยิ่งใหญ่;
6. ค้นหาคนที่เข้าใจว่าเกิดอะไรขึ้นเพื่อช่วยพวกเขาออกมาเพราะคู่มือการใช้งานไม่มีความหมาย

คำตอบง่ายๆคือวิศวกรซอฟต์แวร์ส่วนใหญ่มีความอ่อนแอในด้านสถิติและคณิตศาสตร์ นี่คือข้อดีของทุกคนที่ต้องการแข่งขันกับพวกเขา แน่นอนว่าผู้คนไม่อยู่ในโซนสบาย ๆ หากพวกเขาจำเป็นต้องเขียนรหัสการผลิต ประเภทของบทบาทที่กลายเป็นของหายากจริงๆคือของ Data Scientist เป็นคนที่สามารถเขียนโค้ดเพื่อเข้าถึงและเล่นกับข้อมูลจำนวนมหาศาลและค้นหาคุณค่าในพวกเขา

มันเกี่ยวกับอะไร

เพียงแค่รู้เกี่ยวกับเทคนิคก็เหมือนกับการรู้จักสัตว์ในสวนสัตว์ - คุณสามารถบอกชื่อพวกเขาอธิบายคุณสมบัติของพวกเขา

การทำความเข้าใจว่าเมื่อใดที่จะใช้พวกเขากำหนดสร้างทดสอบและปรับใช้แบบจำลองทางคณิตศาสตร์ที่ใช้งานได้ในพื้นที่แอปพลิเคชันขณะที่หลีกเลี่ยงข้อผิดพลาดซึ่งเป็นทักษะที่แยกแยะได้ในความคิดของฉัน

ควรเน้นวิทยาศาสตร์การประยุกต์ใช้วิธีการทางวิทยาศาสตร์เพื่อธุรกิจปัญหาอุตสาหกรรมและเชิงพาณิชย์ แต่ตอนนี้ต้องใช้ทักษะกว้างกว่าการทำเหมืองข้อมูลและการเรียนรู้เครื่องขณะที่โรบินบลอร์ระบุเชิญชวนใน"วิทยาศาสตร์ข้อมูลพูดจาโผงผาง"

ดังนั้นเราจะทำอะไรได้บ้าง

พื้นที่การใช้งาน : เรียนรู้เกี่ยวกับพื้นที่การใช้งานต่างๆที่ใกล้เคียงกับความสนใจของคุณหรือที่นายจ้างของคุณ พื้นที่มักมีความสำคัญน้อยกว่าการทำความเข้าใจวิธีสร้างแบบจำลองและวิธีการใช้เพื่อเพิ่มมูลค่าให้กับพื้นที่นั้น แบบจำลองที่ประสบความสำเร็จในพื้นที่หนึ่งมักจะสามารถปลูกถ่ายและนำไปใช้กับพื้นที่ต่าง ๆ ที่ทำงานในลักษณะที่คล้ายกัน

การแข่งขัน : ลองใช้ไซต์การแข่งขันขุดข้อมูลKaggleโดยควรเข้าร่วมทีมของผู้อื่น (Kaggle: แพลตฟอร์มสำหรับการแข่งขันการสร้างแบบจำลองการทำนาย บริษัท รัฐบาลและนักวิจัยนำเสนอชุดข้อมูลและปัญหาและนักวิทยาศาสตร์ข้อมูลที่ดีที่สุดในโลกแข่งขันกันเพื่อผลิตโซลูชั่นที่ดีที่สุด)

พื้นฐาน : มีสี่: (1) ดินแข็งในสถิติ (2) ทักษะการเขียนโปรแกรมที่ดีพอสมควร (3) ทำความเข้าใจวิธีโครงสร้างแบบสอบถามข้อมูลที่ซับซ้อน (4) การสร้างแบบจำลองข้อมูล หากมีผู้อ่อนแอแสดงว่าเป็นจุดเริ่มต้นที่สำคัญ

คำพูดเล็กน้อยในส่วนนี้:

`` ฉันเรียนรู้ความแตกต่างระหว่างการรู้ชื่อของบางสิ่งและรู้อะไรบางอย่างตั้งแต่ต้น คุณสามารถรู้ชื่อของนกในทุกภาษาของโลก แต่เมื่อคุณทำเสร็จแล้วคุณจะไม่รู้อะไรเลยเกี่ยวกับนก ... ดังนั้นลองมาดูนกและดูว่ามันกำลังทำอะไรอยู่ - นั่นคือ สิ่งที่สำคัญ '' - ริชาร์ดไฟน์แมน "การสร้างนักวิทยาศาสตร์" หน้า 14 ในสิ่งที่คุณสนใจสิ่งที่คนอื่นคิด 2531

โปรดทราบ:

`` การรวมกันของทักษะที่จำเป็นในการดำเนินโครงการวิทยาศาสตร์ทางธุรกิจเหล่านี้ ( วิทยาศาสตร์ข้อมูล) ไม่ค่อยมีคนอาศัยอยู่ในคนคนเดียว บางคนอาจมีความรู้อย่างกว้างขวางในสามด้านของ (i) สิ่งที่ธุรกิจทำ (ii) วิธีใช้สถิติและ (iii) วิธีจัดการข้อมูลและการไหลของข้อมูล ถ้าเป็นเช่นนั้นเขาหรือเธออาจอ้างได้ว่าเป็นนักวิทยาศาสตร์ธุรกิจ (หรือที่รู้จักว่า“ นักวิทยาศาสตร์ข้อมูล”) ในภาคที่กำหนด แต่บุคคลดังกล่าวเกือบจะหายากเหมือนฟันของไก่ '' - Robin Bloor นักวิทยาศาสตร์ด้านข้อมูล , ส.ค. 2013, การวิเคราะห์ภายใน

และในที่สุดก็:

`` แผนที่ไม่ใช่ดินแดน '' - Alfred Korzybski, 1933, วิทยาศาสตร์และความมีสติ

ปัญหาที่แท้จริงและนำไปใช้จริงส่วนใหญ่ไม่สามารถเข้าถึงได้จาก `` แผนที่ 'เท่านั้น ในการทำสิ่งต่าง ๆ ด้วยการสร้างแบบจำลองทางคณิตศาสตร์เราต้องยอมให้มีรายละเอียดย่อย ๆ และข้อยกเว้น ไม่มีสิ่งใดสามารถทดแทนการรู้อาณาเขตด้วยตนเอง

ฉันเห็นด้วยกับทุกสิ่งที่กล่าวมา สิ่งที่โดดเด่นสำหรับฉันคือ:

1. "ผู้เชี่ยวชาญ" การเรียนรู้ด้วยเครื่องมีความสนใจเพียงเล็กน้อยในเรื่องที่พวกเขาต้องการสมัคร ML
2. มีเพียงกี่คนเท่านั้นที่เข้าใจความแม่นยำในการทำนายและกฎการให้คะแนนที่เหมาะสม
3. เข้าใจหลักการตรวจสอบความถูกต้องเพียงไม่กี่วิธี
4. มีน้อยคนที่รู้ว่าจะใช้กล่องดำเทียบกับแบบจำลองการถดถอยแบบดั้งเดิมอย่างไร
5. ดูเหมือนว่าไม่มี "ผู้เชี่ยวชาญ" ที่เคยศึกษา Bayes การตัดสินใจที่เหมาะสมหรือการสูญเสีย / อรรถประโยชน์ / ต้นทุน / ฟังก์ชั่น [การขาดความเข้าใจนี้จะปรากฏขึ้นเกือบทุกครั้งที่มีคนใช้การจำแนกประเภทแทนความเสี่ยงที่คาดการณ์ไว้]

นี่คือสองสิ่งที่จะทำให้คุณโดดเด่นจากฝูงชน:

• ทำความเข้าใจเกี่ยวกับโดเมนแอปพลิเคชันหรือโดเมน นั่นคือสภาพแวดล้อมทางธุรกิจหรือบริบทอื่น ๆ
• เข้าใจภาพรวม สิ่งนี้สำคัญมาก! ผู้ที่เรียนการเรียนรู้ด้วยเครื่องมักจะหลงทางในรายละเอียด คิดเกี่ยวกับภาพรวมว่ารุ่น ML ของคุณจะพอดี บ่อยครั้งที่ส่วน ML เป็นเพียงส่วนเล็ก ๆ ของระบบที่ใหญ่กว่ามาก ทำความเข้าใจระบบทั้งหมด
• ศึกษาทฤษฎียูทิลิตี้และการตัดสินใจและการอนุมานแบบเบย์ การอนุมานแบบเบย์เป็นเพียงวิธีหนึ่งในการทำให้ความคิดของการนำข้อมูลเชิงบริบททั้งหมดเป็นปัญหา ทฤษฎียูทิลิตี้และการตัดสินใจเกี่ยวกับการนำคุณค่าเข้ามาในภาพ

ข้อความโดยรวมที่ใช้กับทั้งสามจุด: ดูภาพใหญ่อย่าทำรายละเอียดหาย

ทักษะที่กำหนด data miner แยกจากตัวอื่นคือความสามารถในการตีความโมเดลการเรียนรู้ของเครื่อง ส่วนใหญ่สร้างเครื่องรายงานข้อผิดพลาดแล้วหยุด ความสัมพันธ์ทางคณิตศาสตร์ระหว่างคุณสมบัติคืออะไร มีผลกระทบสารเติมแต่งหรือไม่ใช่สารเติมแต่งหรือทั้งสองอย่าง? มีคุณสมบัติใดที่ไม่เกี่ยวข้องหรือไม่? เครื่องคาดหวังภายใต้สมมติฐานว่างว่ามีเพียงรูปแบบโอกาสในข้อมูลหรือไม่ รูปแบบทั่วไปของข้อมูลที่เป็นอิสระหรือไม่? รูปแบบเหล่านี้มีความหมายอย่างไรต่อปัญหาที่กำลังศึกษาอยู่ การอนุมานคืออะไร ข้อมูลเชิงลึกคืออะไร? เหตุใดผู้เชี่ยวชาญด้านโดเมนจึงรู้สึกตื่นเต้น เครื่องจะนำไปสู่ผู้เชี่ยวชาญด้านโดเมนเพื่อถามคำถามใหม่และออกแบบการทดสอบใหม่หรือไม่ Data miner สามารถสื่อสารรูปแบบและผลกระทบของมันกับโลกได้อย่างมีประสิทธิภาพหรือไม่?

ฉันจะเอาความคิดของ "ทักษะอ่อน" ออกไปที่นั่น

• รับรู้ว่าใคร "ผู้เชี่ยวชาญ" สำหรับวิธีการ X และสามารถที่จะเจาะลึกความรู้ของพวกเขา (คุณไม่สามารถหรือคาดหวังที่จะรู้ทุกอย่างเกี่ยวกับสิ่งมีชีวิต) ความสามารถและความตั้งใจที่จะร่วมมือกับผู้อื่น

• ความสามารถในการแปลหรือเป็นตัวแทน "โลกแห่งความจริง" กับคณิตศาสตร์ที่ใช้ใน ML

• ความสามารถในการอธิบายวิธีการของคุณในรูปแบบที่แตกต่างกันสำหรับผู้ชมที่แตกต่างกัน - รู้ว่าเมื่อใดที่ต้องให้ความสำคัญกับรายละเอียดและเมื่อต้องถอยกลับและดูบริบทที่กว้างขึ้น

• การคิดแบบระบบสามารถเห็นได้ว่าบทบาทของคุณป้อนเข้าสู่ส่วนอื่น ๆ ของธุรกิจอย่างไรและพื้นที่เหล่านี้ดึงข้อมูลกลับเข้ามาทำงานของคุณอย่างไร

• ความซาบซึ้งและความเข้าใจในความไม่แน่นอนและมีวิธีการที่มีโครงสร้างเพื่อจัดการ ความสามารถในการระบุอย่างชัดเจนว่าสมมติฐานของคุณคืออะไร

ความสามารถในการพูดคุยทั่วไปได้ดี

นี่คือสาระสำคัญของแบบจำลองที่ดี และมันเป็นสาระสำคัญของสิ่งที่ทำให้ผู้ปฏิบัติงานศิลปะที่ดีที่สุดในการเรียนรู้ของเครื่องจักรโดดเด่นจากฝูงชน

เข้าใจว่าเป้าหมายคือการเพิ่มประสิทธิภาพการทำงานของข้อมูลที่มองไม่เห็นเพื่อลดการสูญเสียการฝึกอบรม รู้วิธีที่จะหลีกเลี่ยงทั้งข้อต่อที่มากเกินไปและที่ไม่เหมาะสม การหาโมเดลที่ไม่ซับซ้อนเกินไป แต่ไม่ง่ายเกินไปในการอธิบายปัญหา แยกส่วนสำคัญของชุดฝึกอบรมแทนที่จะเป็นค่าสูงสุดที่เป็นไปได้

เป็นเรื่องน่าประหลาดใจที่ผู้ฝึกเรียนรู้ด้วยเครื่องจักรที่มีประสบการณ์บ่อยครั้งล้มเหลวในการทำตามหลักการนี้ เหตุผลหนึ่งก็คือมนุษย์ไม่สามารถชื่นชมความแตกต่างของขนาดระหว่างทฤษฎีและการปฏิบัติที่ กว้างใหญ่สองประการ:

• พื้นที่ของตัวอย่างที่เป็นไปได้ทั้งหมดมีขนาดใหญ่กว่าเท่าใดเมื่อเปรียบเทียบกับข้อมูลการฝึกอบรมถึงแม้ว่าข้อมูลการฝึกอบรมจะมีขนาดใหญ่มาก
• ขนาดพื้นที่สมมติเต็มรูปแบบมีขนาดใหญ่กว่าเท่าใด: จำนวนโมเดลที่เป็นไปได้สำหรับปัญหาเปรียบเทียบกับ "พื้นที่โซลูชัน" ที่ใช้งานได้จริง: ทุกสิ่งที่คุณนึกออกและซอฟต์แวร์ / เครื่องมือของคุณมีความสามารถในการแสดง

$N$$2^N$$2^N$

นอกจากนี้ยังเป็นสิ่งที่คำตอบข้างต้นส่วนใหญ่พูดด้วยวิธีที่เฉพาะเจาะจงและเป็นรูปธรรมมากขึ้น การพูดคุยกันโดยทั่วไปเป็นเพียงวิธีที่สั้นที่สุดที่ฉันสามารถนึกได้

ฉันเห็นว่ามีสองส่วนขณะจัดการการเรียนรู้ของเครื่องในทางปฏิบัติ

1. วิศวกรรม (ซึ่งครอบคลุมอัลกอริธึมทั้งหมดเรียนรู้แพ็คเกจต่าง ๆ เขียนโปรแกรม)

2. ความอยากรู้อยากเห็น / การใช้เหตุผล (ความสามารถในการถามคำถามที่ดีกว่ากับข้อมูล)

ฉันคิดว่า 'ความอยากรู้อยากเห็น / การใช้เหตุผล' เป็นทักษะที่แตกต่างจากที่อื่น ตัวอย่างเช่นหากคุณเห็นกระดานผู้นำของการเติมเต็ม kaggle หลายคนอาจใช้อัลกอริทึม (คล้ายกัน) ทั่วไปสิ่งที่ทำให้เกิดความแตกต่างคือวิธีการตั้งคำถามแบบตรรกะและข้อมูล