วิทยาศาสตร์ข้อมูลกับการวิจัยการปฏิบัติการ

คำถามทั่วไปตามที่ชื่อแนะนำคือ:

• DS และ OR / การปรับให้เหมาะสมต่างกันอย่างไร

ในระดับแนวคิดฉันเข้าใจว่า DS พยายามดึงความรู้จากข้อมูลที่มีอยู่และใช้เทคนิคการเรียนรู้ของเครื่องเป็นส่วนใหญ่ ในทางกลับกันหรือใช้ข้อมูลเพื่อตัดสินใจบนพื้นฐานของข้อมูลตัวอย่างเช่นโดยการปรับฟังก์ชั่นวัตถุประสงค์ (เกณฑ์) ให้เหมาะสมกับข้อมูล (อินพุต)

ฉันสงสัยว่ากระบวนทัศน์ทั้งสองนี้เปรียบเทียบกันอย่างไร

• เป็นหนึ่งส่วนย่อยของอื่น ๆ ?
• พวกเขากำลังพิจารณาสาขาเสริมหรือไม่?
• มีตัวอย่างที่ฟิลด์หนึ่งเติมเต็มฟิลด์อื่นหรือใช้ในการร่วม

โดยเฉพาะอย่างยิ่งฉันสนใจในสิ่งต่อไปนี้:

มีตัวอย่างใดบ้างที่ใช้เทคนิค OR ในการแก้คำถาม / ปัญหาด้าน Data Science?

ในขณะที่ทั้งการวิจัยการดำเนินงานและวิทยาศาสตร์ข้อมูลครอบคลุมหัวข้อและพื้นที่จำนวนมากฉันจะพยายามให้มุมมองของฉันเกี่ยวกับสิ่งที่ฉันเห็นว่าเป็นตัวแทนมากที่สุด

ดังที่คนอื่น ๆ ได้ชี้ให้เห็นการวิจัยการดำเนินงานส่วนใหญ่เกี่ยวข้องกับการตัดสินใจเป็นหลัก ในขณะที่มีหลายวิธีในการกำหนดวิธีการตัดสินใจส่วนที่สำคัญที่สุดของ OR (ในความคิดของฉัน) จะเน้นไปที่การสร้างแบบจำลองปัญหาการตัดสินใจในกรอบการเขียนโปรแกรมทางคณิตศาสตร์ ในกรอบการทำงานประเภทนี้โดยทั่วไปคุณจะมีชุดของตัวแปรการตัดสินใจข้อ จำกัด เหนือตัวแปรเหล่านี้และฟังก์ชันวัตถุประสงค์ขึ้นอยู่กับตัวแปรการตัดสินใจของคุณที่คุณพยายามลดหรือขยายให้ใหญ่สุด เมื่อตัวแปรการตัดสินใจสามารถรับค่าใน$\mathbb{R}$ข้อ จำกัด คือความไม่เท่าเทียมกันเชิงเส้นมากกว่าตัวแปรการตัดสินใจของคุณและฟังก์ชันวัตถุประสงค์คือฟังก์ชันเชิงเส้นของตัวแปรการตัดสินใจแล้วคุณมีโปรแกรมเชิงเส้น- ผู้ทำหน้าที่หลักของ OR ในช่วงหกสิบปีที่ผ่านมา ถ้าคุณมีชนิดอื่น ๆ ของฟังก์ชั่นวัตถุประสงค์หรือข้อ จำกัด ที่คุณพบว่าตัวเองอยู่ในขอบเขตของการเขียนโปรแกรมจำนวนเต็ม , การเขียนโปรแกรมกำลังสอง , การเขียนโปรแกรมกึ่งชัดเจนฯลฯ ...

ในทางกลับกันวิทยาศาสตร์ข้อมูลนั้นส่วนใหญ่เกี่ยวข้องกับการอนุมาน. ที่นี่คุณมักจะเริ่มต้นด้วยกองข้อมูลขนาดใหญ่และคุณต้องการอนุมานบางอย่างเกี่ยวกับข้อมูลที่คุณยังไม่ได้เห็นในกองใหญ่ของคุณ สิ่งต่าง ๆ ที่คุณเห็นอยู่ทั่วไปคือ: 1) กองข้อมูลขนาดใหญ่แสดงถึงผลลัพธ์ที่ผ่านมาของสองตัวเลือกที่แตกต่างกันและคุณต้องการทราบว่าตัวเลือกใดที่จะให้ผลลัพธ์ที่ดีที่สุด 2) กองข้อมูลขนาดใหญ่แสดงเวลา ชุดข้อมูลและคุณต้องการทราบว่าชุดเวลานั้นจะขยายไปสู่อนาคตอย่างไร 3) กองข้อมูลขนาดใหญ่แสดงชุดการสังเกตที่มีป้ายกำกับและคุณต้องการระบุป้ายกำกับสำหรับการสังเกตใหม่ที่ไม่มีป้ายกำกับ ตัวอย่างสองตัวอย่างแรกตกอยู่ในพื้นที่ทางสถิติแบบคลาสสิก (การทดสอบสมมติฐานและการพยากรณ์อนุกรมเวลาตามลำดับ) ในขณะที่ตัวอย่างที่สามที่ฉันคิดว่ามีความสัมพันธ์อย่างใกล้ชิดกับหัวข้อการเรียนรู้ของเครื่องที่ทันสมัย

ดังนั้นในความคิดของฉันการวิจัยการปฏิบัติการและวิทยาศาสตร์ข้อมูลนั้นส่วนใหญ่เป็นฉากฉากแม้ว่าจะมีบางส่วนที่ทับซ้อนกัน โดยเฉพาะอย่างยิ่งฉันคิดว่าการคาดการณ์อนุกรมเวลาจะปรากฏขึ้นในจำนวนที่ไม่สำคัญใน OR; เป็นหนึ่งในส่วนที่ไม่สำคัญกับการเขียนโปรแกรมของ OR การวิจัยการดำเนินงานเป็นที่ที่คุณจะเปิดหากคุณมีความสัมพันธ์ที่รู้จักระหว่างอินพุตและเอาต์พุต วิทยาศาสตร์ข้อมูลเป็นจุดที่คุณตัดสินใจหากคุณพยายามที่จะหาความสัมพันธ์นั้น (สำหรับคำจำกัดความของอินพุตและเอาต์พุต)

นี่ไม่ใช่คำตอบที่สมบูรณ์เนื่องจาก mhum ค่อนข้างดีในการเปรียบเทียบจุดประสงค์ที่แตกต่างกันของ OR กับ DS

แต่ฉันต้องการพูดถึงความคิดเห็นของคุณนี้:

ฉันสงสัยว่าตัวอย่างสามารถใช้เทคนิค OR เพื่อแก้ปัญหา DS ได้หรือไม่

คำตอบคือใช่ ตัวอย่างที่ชัดเจนที่มาถึงใจคือการสนับสนุนเวกเตอร์เครื่อง (SVMs)

ในการ "พอดี" โมเดล SVM กับข้อมูลบางอย่าง (ซึ่งต้องทำก่อนที่คุณจะสามารถใช้เพื่ออนุมานการคาดการณ์) ปัญหาการปรับให้เหมาะสมต่อไปนี้จะต้องแก้ไข:

ขยายใหญ่สุด

$$g(a) = \sum_{i=1}^{m} \alpha_i - \frac{1}{2} \sum_{i=1}^{m} \sum_{j=1}^{m} \alpha_i \alpha_j y_i y_j x_i^T x_j,$$

ภายใต้ข้อ จำกัด

$$0 \leq \alpha_i \leq C, \qquad \sum_{i=1}^n y_i \alpha_i = 0$$

นี่เป็นปัญหาการปรับให้เหมาะสมแบบ จำกัด เช่นเดียวกับหลาย ๆ อย่างในฟิลด์ OR และมันถูกแก้ไขโดยใช้วิธีการเขียนโปรแกรมกำลังสอง โดยทั่วไปแล้วสิ่งเหล่านี้เกี่ยวข้องกับฟิลด์ของ OR มากกว่า DS แต่นี่เป็นตัวอย่างของการบังคับใช้ที่กว้างขึ้น

โดยทั่วไปแล้วการปรับให้เหมาะสมเป็นกุญแจสำคัญของโมเดลการเรียนรู้เชิงสถิติและเครื่องจักรที่ใช้ในด้าน DS เนื่องจากกระบวนการฝึกอบรมแบบจำลองเหล่านี้มักจะสามารถกำหนดเป็นปัญหาการย่อเล็กสุดที่เกี่ยวข้องกับฟังก์ชั่นการสูญเสีย / เสียใจจากศตวรรษที่ต่ำต้อย แบบจำลองการถดถอยเชิงเส้นสู่เครือข่ายประสาทการเรียนรู้ที่ล้ำลึกมากล่าสุด

การอ้างอิงที่ดีในการจำแนกเป็นบิชอป

ในฐานะนักยุทธศาสตร์ฉันมีโอกาสได้ทำงานกับทั้งสองด้านของวินัย ในการพยายามอธิบายว่า OR และ DS คืออะไรสำหรับผู้บริหาร MBA ที่มีคุณภาพการแนะนำบรรทัดเดียวของฉัน (สุดเหวี่ยง) สำหรับแต่ละบรรทัด

หรือ: นักเศรษฐศาสตร์ที่รู้วิธีการรหัส
DS: นักสถิติที่รู้วิธีการรหัส

ในทางปฏิบัติแล้ววิธีการที่ทั้งสองกลุ่มมารวมกัน: ด้าน OR พัฒนารูปแบบการตัดสินใจและฝั่ง DS แสดงการใช้ข้อมูลที่เหมาะสมเพื่อป้อนข้อมูลแบบจำลอง

แต่ละคนจะต้องพึ่งพาประเพณีทางทฤษฎีของสาขาวิชาของพวกเขา - พวกเขาทำการทดลองเพื่อจัดโครงสร้างข้อมูลและปรับแต่งโมเดลเพื่อให้ได้ข้อมูลเชิงลึกที่แท้จริงที่จำเป็นสำหรับการตัดสินใจที่ดีที่สุด เมื่อแต่ละคนรู้จักกันมากขึ้นความคิดและภาษาของพวกเขามักจะมาบรรจบกัน

วิทยาศาสตร์ข้อมูลเป็นสาขาวิชาที่เกี่ยวข้องกับข้อมูลโดยทั่วไป ถ้าฟังดูคลุมเครือมันเป็นเรื่องปกติเพราะมันเป็นเรื่องจริง มันเป็นคำที่มีข่าวลือมาหลายปีแล้ว โดยพื้นฐานแล้วมันพยายามหาวิธีที่จะใช้ประโยชน์จากข้อมูล: ฉันจะทำอย่างไรกับข้อมูลของฉัน (ฉันจะได้รับข้อมูลเชิงลึกอะไรบ้าง)

การวิจัยการดำเนินงานเป็นศาสตร์แห่งการเพิ่มประสิทธิภาพทางคณิตศาสตร์: คุณจำลองปัญหาเป็น“ สมการ” แก้ปัญหาแบบจำลองทางคณิตศาสตร์นี้และแปลการแก้ปัญหากลับสู่การตั้งค่าปัญหาเริ่มต้นของคุณ มันเป็นเครื่องมือในการช่วยในการตัดสินใจ: ฉันควรทำอย่างไร / จะได้รับสิ่งนี้หรือสิ่งนั้น

ปัญหาทางธุรกิจจำนวนมากสามารถดูได้ว่าเป็นปัญหาการเพิ่มประสิทธิภาพ เนื่องจากฉันพยายามเพิ่มรายได้ให้มากที่สุดเนื่องจากข้อ จำกัด ด้านทรัพยากรฉันจะดำเนินธุรกิจของฉันอย่างไรฉันควรตั้งค่าสำหรับตัวแปรการตัดสินใจอย่างไร ปัญหาเช่นการตั้งเวลาการวางแผนสิ่งอำนวยความสะดวกการจัดการห่วงโซ่อุปทาน ... และอื่น ๆ ทั้งหมดเทคนิคการเพิ่มประสิทธิภาพการใช้ประโยชน์

การเพิ่มประสิทธิภาพพอร์ตเป็นตัวอย่างคลาสสิกที่ใช้การเพิ่มประสิทธิภาพ สมมติว่าฉันสามารถลงทุนในสินทรัพย์ต่าง ๆ ในพอร์ตโฟลิโอของฉันแต่ละอันมีผลตอบแทนที่ไม่ได้กำหนดไว้ฉันจะสร้างความสมดุลให้พอร์ตโฟลิโอของฉันอย่างไรเพื่อลดความเสี่ยงของพอร์ตการลงทุนโดยรวม ในการตั้งค่านี้ฟังก์ชันวัตถุประสงค์มักจะกลายเป็นความเสี่ยง / ความแปรปรวนของพอร์ตโฟลิโอและข้อ จำกัด คืออัตราผลตอบแทนที่ต้องการจากการลงทุนเช่นเดียวกับจำนวนเงินที่คุณมี

ถ้าคุณนับ ML และ AI ที่ขับเคลื่อนโดย ML เป็นส่วนหนึ่งของ Data Science (ซึ่งบางคนทำและบางคนไม่ได้ตามประสบการณ์ของฉันตัวอย่างเช่นโปรแกรมมืออาชีพของ Microsoft ใน AI ประกอบด้วยประเด็นสำคัญของการเรียนรู้วิทยาศาสตร์ข้อมูล + เครื่องจักร (ทั้ง DL และ RL ) ในขณะที่ High School of Economics นำเสนอชิ้นส่วนขั้นสูงที่เหมือนกันกับ Microsoft cuuriculum เหมือนกับ Advanced Machine Learning) จากนั้นก็มีความคล้ายคลึงกันมากมายในคณิตศาสตร์ที่ใช้ในทั้งสองสาขา ตัวอย่างเช่น: การเขียนโปรแกรมแบบไม่เชิงเส้น (ตัวคูณลากรองจ์, เงื่อนไข KKT ... ) -> ใช้สำหรับการสืบทอดของ Vector Vector Machines ... เศรษฐมิติซึ่งขึ้นอยู่กับ Regressions ---> Regressions เป็นส่วนสำคัญของ Data Scinece ทั้งโดยทั่วไปและ การเรียนรู้แบบมีผู้ควบคุมมากขึ้น ... สถิติ (โดยปกติจะอยู่ใน OR หลักสูตร) ​​---> กุญแจสำหรับวิทยาศาสตร์ข้อมูลและการเรียนรู้ของเครื่องเช่นกัน ... Stochastic Processes ---> สำคัญมากในการเรียนรู้การเสริมกำลัง ... การเขียนโปรแกรมแบบไดนามิก ---> พบอีกครั้งในการเรียนรู้การเสริมแรง ... ดังนั้นฉันจะบอกว่ามีความคล้ายคลึงกันบางอย่างกับ Data Science โดยทั่วไปและคล้ายคลึงกันมากกับ ML แน่นอนว่าเป้าหมายของสาขาวิชาเหล่านี้แตกต่างกันไป แต่มีความคล้ายคลึงกันในวิชาคณิตศาสตร์ที่ใช้กันในสาขาวิชาเหล่านี้