การประยุกต์ใช้เทคนิคการเรียนรู้ของเครื่องในการศึกษาทางคลินิกตัวอย่างขนาดเล็ก

คุณคิดอย่างไรเกี่ยวกับการใช้เทคนิคการเรียนรู้ของเครื่องเช่นป่าสุ่มหรือการลงโทษที่ถูกลงโทษ (ด้วยการลงโทษ L1 หรือ L2 หรือการรวมกัน) ในการศึกษาทางคลินิกตัวอย่างขนาดเล็กเมื่อมีวัตถุประสงค์เพื่อแยกตัวทำนายที่น่าสนใจในบริบทการจำแนกประเภท ไม่ใช่คำถามเกี่ยวกับการเลือกแบบจำลองและฉันไม่ถามเกี่ยวกับวิธีการหาค่าประมาณที่เหมาะสมที่สุดของเอฟเฟกต์ / ความสำคัญของตัวแปร ฉันไม่ได้วางแผนที่จะทำการอนุมานที่แข็งแกร่ง แต่ใช้การสร้างแบบจำลองหลายตัวแปรดังนั้นหลีกเลี่ยงการทดสอบตัวทำนายแต่ละตัวต่อผลลัพธ์ที่น่าสนใจในแต่ละครั้งและคำนึงถึงความสัมพันธ์ของพวกเขาด้วย

ฉันแค่สงสัยว่าวิธีการดังกล่าวถูกนำไปใช้แล้วในกรณีที่รุนแรงนี้โดยเฉพาะพูด 20-30 วิชาที่มีข้อมูลเกี่ยวกับ 10-15 หมวดหมู่หรือตัวแปรต่อเนื่อง มันไม่ได้ตรงกรณีและฉันคิดว่านี่คือปัญหาที่เกี่ยวข้องกับจำนวนของชั้นเรียนที่เราพยายามที่จะอธิบาย (ซึ่งมักจะไม่สมดุลกัน) และ (มาก) n ขนาดเล็ก ฉันตระหนักถึงวรรณกรรมจำนวนมากในหัวข้อนี้ในบริบทของชีวสารสนเทศศาสตร์ แต่ฉันไม่พบการอ้างอิงใด ๆ ที่เกี่ยวข้องกับการศึกษาทางชีวการแพทย์ที่มีฟีโนไทป์ที่วัดทางจิตวิทยา (เช่นตลอดแบบสอบถามทางประสาทวิทยา)$n\ll p$

คำแนะนำหรือพอยน์เตอร์ไปยังเอกสารที่เกี่ยวข้อง?

ปรับปรุง

ฉันเปิดให้โซลูชั่นอื่น ๆ สำหรับการวิเคราะห์ข้อมูลประเภทนี้เช่นอัลกอริทึม C4.5 หรืออนุพันธ์วิธีการกฎการเชื่อมโยงและเทคนิคการขุดข้อมูลสำหรับการจำแนกประเภทแบบมีผู้ควบคุมหรือกึ่งมีผู้ดูแล

ฉันไม่เคยเห็นสิ่งนี้ใช้ในด้านนอกของชีวสารสนเทศศาสตร์ / การเรียนรู้ของเครื่องจักรเช่นกัน แต่บางทีคุณอาจเป็นคนแรก :)

ในฐานะที่เป็นตัวแทนที่ดีของวิธีการตัวอย่างขนาดเล็กจากชีวสารสนเทศศาสตร์การถดถอยโลจิสติกด้วยการทำให้เป็นมาตรฐาน L1 สามารถให้ความพอดีได้ดีเมื่อจำนวนของพารามิเตอร์เป็นเลขชี้กำลังในจำนวนของการสังเกต ตัวอย่างเช่นDudik, (2004) ) Trevor Hastie ทำงานบางอย่างโดยใช้วิธีการเหล่านี้เพื่อระบุปฏิกิริยาของยีน ในกระดาษด้านล่างเขาใช้เพื่อระบุผลกระทบที่สำคัญจากแบบจำลองที่มีพารามิเตอร์ที่ปรับได้ 310,637 พอดีกับตัวอย่างของการสังเกต 2,400

"การวิเคราะห์ความสัมพันธ์ทั่วทั้งจีโนมโดย Lasso ลงโทษการถดถอยโลจิสติก" ผู้แต่ง: Hastie, T; Sobel, E; วูต. ที; เฉิน, วาย. F; Lange, K Bioinformatics Vol: 25 ปัญหา: 6 ISSN: 1367-4803 วันที่: 03/2009 หน้า: 714 - 721

การนำเสนอที่เกี่ยวข้องโดย Victoria Stodden ( การเลือกรุ่นที่มีตัวแปรมากกว่าการสังเกต )

ฉันจะมีความมั่นใจน้อยมากในความสามารถทั่วไปของผลลัพธ์ของการวิเคราะห์เชิงสำรวจด้วยตัวทำนาย 15 ตัวและขนาดตัวอย่าง 20

• ช่วงความเชื่อมั่นของการประมาณค่าพารามิเตอร์จะมีขนาดใหญ่ เช่นช่วงความมั่นใจ 95% ของ r = .30 และ n = 20 คือ -0.17 ถึง 0.66
• ปัญหามีแนวโน้มที่จะรวมกันเมื่อคุณมีตัวทำนายหลายตัวที่ใช้ในการสำรวจและวิธีการขับเคลื่อนข้อมูล

ในสถานการณ์เช่นนี้คำแนะนำของฉันโดยทั่วไปคือการ จำกัด การวิเคราะห์ความสัมพันธ์แบบ bivariate ถ้าคุณใช้มุมมองแบบเบย์ฉันจะบอกว่าความคาดหวังก่อนหน้าของคุณนั้นเท่ากันถ้าไม่สำคัญกว่าข้อมูล

กฎทั่วไปข้อหนึ่งคือต้องมีอย่างน้อย 10 เท่าของจำนวนข้อมูลอินสแตนซ์การฝึกอบรม (ไม่พูดถึงข้อมูลการทดสอบ / การตรวจสอบความถูกต้อง ฯลฯ ) เนื่องจากมีพารามิเตอร์ที่ปรับได้ในตัวจําแนก โปรดทราบว่าคุณมีปัญหาที่คุณต้องการไม่เพียง แต่มีข้อมูลที่เพียงพอแต่ยังรวมถึงข้อมูลที่เป็นตัวแทน ในท้ายที่สุดไม่มีกฎเกณฑ์ที่เป็นระบบเพราะมีตัวแปรมากมายเมื่อทำการตัดสินใจนี้ ดังที่ Hastie, Tibshirani และ Friedman กล่าวในองค์ประกอบของการเรียนรู้ทางสถิติ (ดูบทที่ 7):

มันยากเกินไปที่จะให้กฎทั่วไปว่ามีข้อมูลการฝึกอบรมเพียงพอหรือไม่ เหนือสิ่งอื่นใดสิ่งนี้ขึ้นอยู่กับอัตราส่วนสัญญาณต่อสัญญาณรบกวนของฟังก์ชั่นพื้นฐานและความซับซ้อนของแบบจำลองที่เหมาะสมกับข้อมูล

ถ้าคุณยังใหม่กับฟิลด์นี้ฉันขอแนะนำให้อ่านกระดาษสั้น"การจดจำรูปแบบ"นี้จากสารานุกรมวิศวกรรมชีวการแพทย์ซึ่งให้ข้อมูลโดยย่อเกี่ยวกับปัญหาข้อมูลบางอย่าง

ฉันรับรองกับคุณได้ว่า RF จะทำงานในกรณีนั้นและการวัดความสำคัญของมันจะค่อนข้างฉลาด (เพราะจะไม่มีหางขนาดใหญ่ของคุณลักษณะที่ไม่สำคัญที่ทำให้เข้าใจผิดเช่นในมาตรฐาน (n << p) ฉันจำไม่ได้ว่าตอนนี้มีกระดาษที่เกี่ยวข้องกับปัญหาที่คล้ายกัน แต่ฉันจะมองหามัน

หากคุณมีอินพุตไม่ต่อเนื่องฉันจะเขียนโปรแกรมเพื่อทำนายค่าที่ขาดหายไปของอินพุตไบนารี่ที่ได้รับจากอินพุตก่อนหน้า หมวดหมู่ใด ๆ เช่น "1 จาก 6" สามารถแปลงเป็นบิตไบนารี่ได้และมันก็ใช้ได้ดี มันจะไม่ส่งผลกระทบ

วัตถุประสงค์ของอัลกอริทึมที่ฉันเขียนคือการเรียนรู้ให้เร็วที่สุดเท่าที่จะเป็นไปได้ทางคณิตศาสตร์ ดังนั้นมันจึงมีเวลาและความซับซ้อนของพื้นที่ที่ต่ำมาก (ความซับซ้อนของพื้นที่เกี่ยวกับ O (4 ^ N)!

แต่สำหรับการที่คุณได้รับการเรียนรู้แบบ 1 ครั้งเป็นหลักสำหรับระบบใด ๆ ที่สถานะสามารถแสดงเป็นบิตเวกเตอร์ได้ ตัวอย่างเช่นตัวบวกมี 8 สถานะอินพุตที่แตกต่างกัน อัลกอริทึมจะเรียนรู้บวกทั้งหมดอย่างสมบูรณ์หลังจากเพียง 8 ตัวอย่างการฝึกอบรมที่แตกต่างกัน ไม่เพียงแค่นั้น แต่คุณสามารถให้คำตอบและให้มันคาดเดาคำถามหรือให้คำตอบและเป็นส่วนหนึ่งของคำถามและให้มันเติมในส่วนที่เหลือ

ถ้าข้อมูลอินพุตมีบิตจำนวนมากมันจะเป็นการคำนวณและความจำที่เข้มข้น แต่ถ้าคุณมีตัวอย่างน้อยมาก - หรือดังนั้นเป้าหมายการออกแบบคือ - มันจะทำให้คุณได้คำทำนายที่ดีที่สุด

คุณแค่ฝึกมันด้วยบิตเวกเตอร์รวมถึงบิตเวกเตอร์ซึ่งไม่ทราบบิต ในการรับการคาดคะเนคุณก็แค่ป้อนเวกเตอร์บิตซึ่งไม่ทราบบิตและบิตที่คุณต้องการคาดเดา

มีซอร์สโค้ดที่นี่: https://sourceforge.net/p/aithroughlogiccompression/code/HEAD/tree/BayesianInferenceEngine/src/_version2/