สถิติและข้อมูลขนาดใหญ่

ถามตอบสำหรับผู้ที่สนใจในสถิติการเรียนรู้ของเครื่องจักรการวิเคราะห์ข้อมูลการขุดข้อมูล

1
ทางเลือกสำหรับการทดสอบแบบไคสแควร์เพื่อความเป็นอิสระสำหรับตารางที่มากกว่า 2 x 2
มีทางเลือกอะไรบ้างในการทดสอบแบบไคสแควร์สำหรับตัวแปรเด็ดขาดที่มีตารางใหญ่กว่า 2 x 2 และเซลล์ที่มีจำนวนน้อยกว่า 5 ถ้าฉันไม่ต้องการรวมคลาส?

1
การประมาณแบบจำลองการถดถอยโลจิสติกหลายระดับ
โมเดลโลจิสติกหลายระดับต่อไปนี้ที่มีตัวแปรอธิบายหนึ่งตัวที่ระดับ 1 (ระดับบุคคล) และตัวแปรอธิบายหนึ่งตัวที่ระดับ 2 (ระดับกลุ่ม): logit(pij)=π0j+π1jxij…(1)logit(pij)=π0j+π1jxij…(1)\text{logit}(p_{ij})=\pi_{0j}+\pi_{1j}x_{ij}\ldots (1) π0j=γ00+γ01zj+u0j…(2)π0j=γ00+γ01zj+u0j…(2)\pi_{0j}=\gamma_{00}+\gamma_{01}z_j+u_{0j}\ldots (2) π1j=γ10+γ11zj+u1j…(3)π1j=γ10+γ11zj+u1j…(3)\pi_{1j}=\gamma_{10}+\gamma_{11}z_j+u_{1j}\ldots (3) โดยที่ค่าคงที่ระดับกลุ่มและถูกสันนิษฐานว่ามีการแจกแจงปกติหลายตัวแปรที่มีค่าความคาดหวังเป็นศูนย์ ความแปรปรวนของข้อผิดพลาดที่เหลือ ถูกระบุเป็นและความแปรปรวนของข้อผิดพลาดที่เหลือ ถูกระบุเป็น\u0ju0ju_{0j}u1ju1ju_{1j}u0ju0ju_{0j}σ20σ02\sigma^2_0u1ju1ju_{1j}σ21σ12\sigma^2_1 ฉันต้องการที่จะประเมินค่าพารามิเตอร์ของรูปแบบและฉันชอบที่จะใช้ คำสั่งRglmmPQL สมการแทน (2) และ (3) ในสมการ (1) ผลตอบแทน logit(pij)=γ00+γ10xij+γ01zj+γ11xijzj+u0j+u1jxij…(4)logit(pij)=γ00+γ10xij+γ01zj+γ11xijzj+u0j+u1jxij…(4)\text{logit}(p_{ij})=\gamma_{00}+\gamma_{10}x_{ij}+\gamma_{01}z_j+\gamma_{11}x_{ij}z_j+u_{0j}+u_{1j}x_{ij}\ldots (4) มี 30 กลุ่มและ 5 คนในแต่ละกลุ่ม(j=1,...,30)(j=1,...,30)(j=1,...,30) รหัส R: #Simulating data from multilevel logistic distribution library(mvtnorm) set.seed(1234) J <- 30 ## number of groups n_j …

7
หากผู้ป่วยทดสอบ 1,000 รายไม่ได้รับการรักษาให้หายขาดเราไม่สามารถพูดได้ว่าเรายอมรับสมมติฐานว่างหรือไม่
ในหลาย ๆ ที่ฉันได้อ่านว่าเราไม่สามารถพูดได้ว่าเรา "ยอมรับ" สมมติฐานว่าง แต่เราต้องบอกว่าเรา "ไม่สามารถปฏิเสธ" สมมติฐานว่างได้ แต่ฉันไม่เห็นว่าสแควร์สกับตัวอย่างง่ายๆนี้: สมมติว่าเรากำลังทดสอบยาที่ควรรักษาโรคเบาหวานได้อย่างสมบูรณ์ภายใน 24 ชั่วโมง เราลองใช้กับคนไข้ 1,000 คนและพวกเขาทั้งหมดยังเป็นเบาหวานหลังจากทานยา เห็นได้ชัดหรือไม่ว่ายานี้ไม่รักษาโรคเบาหวาน? นั่นคือเรายอมรับสมมติฐานว่างหรือไม่ แน่นอนฉันจะไม่เชื่อในยานี้ สมมติฐานที่ว่างเปล่า: ยาเสพติดไม่มีผลกระทบต่อผู้ป่วย สมมติฐานทางเลือก: ยารักษาโรคเบาหวาน

1
จะใช้การถดถอยกับองค์ประกอบหลักเพื่อทำนายตัวแปรเอาต์พุตได้อย่างไร
ผมอ่านเกี่ยวกับพื้นฐานของการวิเคราะห์องค์ประกอบหลักจากtutorial1 , link1และlink2 ฉันมีชุดข้อมูลของตัวแปร 100 ตัว (รวมถึงตัวแปรเอาต์พุต Y) ฉันต้องการลดตัวแปรเป็น 40 โดย PCA แล้วทำนายตัวแปร Y โดยใช้ตัวแปร 40 ตัว ปัญหาที่ 1:หลังจากได้รับส่วนประกอบหลักและเลือก 40 องค์ประกอบแรกถ้าฉันใช้การถดถอยบนฉันได้รับฟังก์ชั่นบางอย่างที่เหมาะกับข้อมูล แต่จะคาดเดาตัวแปร Y จากข้อมูลต้นฉบับได้อย่างไร? ในการทำนายตัวแปร YI มีตัวแปร (100-1) ที่อินพุตและฉันจะรู้ได้อย่างไรว่ามีตัวแปร 40 ตัวที่เลือกตัวแปร 100-1 ดั้งเดิมของฉันได้อย่างไร ปัญหาที่ 2:ฉันกลับ PCA และรับข้อมูลกลับมาจากองค์ประกอบหลัก 40 รายการ แต่ข้อมูลมีการเปลี่ยนแปลงเพราะฉันเลือกเพียง 40 องค์ประกอบแรก การใช้การถดถอยกับข้อมูลเหล่านี้สมเหตุสมผลหรือไม่? ฉันใช้ Matlab / Octave
9 regression  pca 

1
แพคเกจ Metafor: การวินิจฉัยอคติและความไว
ฉันกำลังทำการวิเคราะห์เมตาหลายระดับซึ่งรวมบทความบางส่วนที่มีผลลัพธ์หลายรายการ ดังนั้นฉันใช้rma.mv()ฟังก์ชั่น รหัสตัวอย่าง: test.main = rma.mv(yi,vi,random = ~1|ID, data = data) ฉันมีสองคำถาม: ฉันอ่านข้อความค้นหาก่อนหน้านี้ว่าเมื่อใช้rma.mv()งานranktest()ไม่ใช่การทดสอบความน่าเชื่อถือของช่องทางที่ไม่สมมาตร อย่างไรก็ตามหากมีการเพิ่มความแปรปรวนตัวอย่างในโมเดลดั้งเดิมในฐานะผู้ดูแลโมเดลนี้จะคล้ายกับการทดสอบของ Egger: test.egger = rma.mv(yi,vi, mod = vi, random = ~1|ID, data = data) รหัสนี้เป็นการตีความที่ถูกต้องของคำแนะนำนั้นหรือไม่? นอกจากนี้แผนการแปลงยังใช้ประโยชน์ไม่ได้กับเครื่องมือ (มากหรือน้อย) ในrma.mv()แบบจำลองหรือไม่? ทั้งleave1out()มิได้trimfill()ทำงานร่วมกับrma.mv()เพื่อประเมินความไวของผลรุ่น ขณะนี้มีเครื่องมือการวิเคราะห์ความไวอื่น ๆ สำหรับrma.mv()รุ่นที่ไม่เกี่ยวข้องกับความเข้าใจใน R หรือไม่?

2
แผนการถ่วงน้ำหนักทางเลือกสำหรับการวิเคราะห์อภิมานผลแบบสุ่ม: การเบี่ยงเบนมาตรฐานหายไป
ฉันกำลังทำงานกับการวิเคราะห์อภิมานผลแบบสุ่มซึ่งครอบคลุมการศึกษาจำนวนหนึ่งซึ่งไม่ได้รายงานความเบี่ยงเบนมาตรฐาน การศึกษาทั้งหมดทำรายงานขนาดตัวอย่าง ฉันไม่เชื่อว่ามีความเป็นไปได้ที่จะประมาณหรือลบล้างข้อมูลที่หายไปของ SD meta-analysis ที่ใช้ raw (ไม่เป็นมาตรฐาน) หมายถึงความแตกต่างในขณะที่ขนาดของเอฟเฟกต์นั้นมีน้ำหนักเมื่อไม่มีการเบี่ยงเบนมาตรฐานสำหรับการศึกษาทั้งหมดหรือไม่ แน่นอนว่าฉันสามารถประมาณค่า tau-squared และต้องการที่จะรวมการวัดความแปรปรวนระหว่างการศึกษาในรูปแบบน้ำหนักใด ๆ ที่ฉันใช้อยู่ในกรอบสุ่มผลกระทบ ข้อมูลเพิ่มเติมเล็กน้อยรวมอยู่ด้านล่าง: เหตุใดความแตกต่างของค่าเฉลี่ยดิบจึงยังคงมีประโยชน์: ข้อมูลถูกรายงานในระดับที่มีความหมายอย่างแท้จริง: ดอลลาร์สหรัฐต่อหน่วย ดังนั้นการวิเคราะห์เมตาของความแตกต่างเฉลี่ยจะตีความได้ทันที เหตุใดฉันจึงไม่สามารถประมาณค่าหรือเบี่ยงเบนข้อมูล SD ได้: การศึกษาข้อมูลเบี่ยงเบนมาตรฐานที่ขาดหายไปนั้นไม่ได้มีข้อมูลเพียงพอที่จะประมาณค่าเบี่ยงเบนมาตรฐาน (เช่นค่ามัธยฐานและช่วงไม่ได้ถูกรายงานในวรรณคดี) การใส่ข้อมูลที่ขาดหายไปดูเหมือนว่าไม่เหมาะสมเนื่องจากการศึกษาส่วนใหญ่ขาด SD และเนื่องจากการศึกษาแตกต่างกันอย่างมากในแง่ของพื้นที่ทางภูมิศาสตร์ที่ครอบคลุมและโปรโตคอลการสำรวจ โดยทั่วไปแล้วจะทำอะไรกับความแตกต่างของค่าเฉลี่ยในการวิเคราะห์อภิมาน: ตุ้มน้ำหนักการศึกษาจะขึ้นอยู่กับข้อผิดพลาดมาตรฐานของความแตกต่างเฉลี่ย (โดยทั่วไปจะคำนวณด้วยคำศัพท์ขนาดตัวอย่าง ฉันไม่มีสิ่งนี้ ในการวิเคราะห์อภิมานผลกระทบแบบสุ่มน้ำหนักการศึกษายังรวมถึงคำศัพท์สำหรับความแปรปรวนระหว่างการศึกษาด้วย ฉันมีสิ่งนี้ สามารถใช้การถ่วงน้ำหนักขนาดตัวอย่างแบบง่ายๆในบริบทนี้ได้หรือไม่? ฉันจะรวมการประมาณค่า tau-squared (หรือการวัดอื่นของการกระจายระหว่างการศึกษา) เข้ากับน้ำหนักได้อย่างไร

2
เมื่อใช้ SVM ทำไมฉันต้องขยายขนาดคุณสมบัติ
ตามเอกสารของStandardScalerวัตถุใน scikit-learn: เช่นองค์ประกอบหลายอย่างที่ใช้ในฟังก์ชันวัตถุประสงค์ของอัลกอริทึมการเรียนรู้ (เช่นเคอร์เนล RBF ของ Support Vector Machines หรือ L1 และ L1 normalizers โมเดลเชิงเส้น) สมมติว่าคุณลักษณะทั้งหมดอยู่กึ่งกลางรอบ 0 และมีความแปรปรวนในลำดับเดียวกัน หากคุณลักษณะมีความแปรปรวนที่เป็นลำดับความสำคัญมากกว่าที่อื่น ๆ มันอาจครอบงำฟังก์ชันวัตถุประสงค์และทำให้ตัวประมาณไม่สามารถเรียนรู้จากคุณลักษณะอื่นได้อย่างถูกต้องตามที่คาดไว้ ฉันควรปรับขนาดคุณสมบัติของฉันก่อนจัดประเภท มีวิธีง่าย ๆ ที่จะแสดงว่าทำไมฉันควรทำเช่นนี้? การอ้างอิงบทความทางวิทยาศาสตร์จะดียิ่งขึ้น ฉันได้พบหนึ่งแต่อาจมีอื่น ๆ อีกมากมาย

1
ทำไมการกำจัดย้อนหลังจึงมีเหตุผลเมื่อทำการถดถอยหลายครั้ง?
มันไม่ได้ส่งผลให้กระชับหรือไม่? ผลลัพธ์ของฉันจะเชื่อถือได้มากขึ้นหรือไม่ถ้าฉันเพิ่มขั้นตอนแจ็คมีดหรือ bootstrap เป็นส่วนหนึ่งของการวิเคราะห์

1
วิธีการใช้ anova สำหรับการเปรียบเทียบทั้งสองรุ่น?
ฉันจะเข้าใจanovaผลลัพธ์ได้อย่างไรเมื่อเปรียบเทียบสองรุ่น ตัวอย่าง: Res.Df RSS Df Sum of Sq F Pr(>F) 1 9 54.032 2 7 4.632 2 49.4 37.329 0.0001844 *** สถานะ manpage: "คำนวณการวิเคราะห์ความแปรปรวน (หรือความเบี่ยงเบน) ตารางสำหรับวัตถุจำลองรุ่นหนึ่งหรือมากกว่านั้น" อย่างไรก็ตามศาสตราจารย์บอกว่ามันอาจจะใช้สำหรับการเปรียบเทียบแบบจำลอง - นั่นคือสิ่งที่ฉันตั้งใจจะทำ ดังนั้นฉันคิดว่าฉันสามารถใช้anova(model1, model2)และรับค่า p ซึ่งบอกฉันว่าฉันควรปฏิเสธสมมติฐานว่าง: "แบบจำลองเหมือนกัน" ฉันขอกล่าวว่าถ้าค่า p น้อยกว่า (สมมุติว่า) 0.05 แบบจำลองแตกต่างกันอย่างมีนัยสำคัญหรือไม่
9 r  regression  anova 

1
การกระทบยอดต้นไม้เพิ่มความถดถอย (BRT), รุ่นเพิ่มทั่วไป (GBM), และเครื่องเพิ่มความลาดชัน (GBM)
คำถาม: อะไรคือความแตกต่างระหว่างต้นไม้ถดถอยที่ได้รับการส่งเสริม (BRT) และรุ่นที่ได้รับการส่งเสริมทั่วไป (GBM)? พวกเขาสามารถใช้แทนกันได้? เป็นรูปแบบเฉพาะของอื่น ๆ ? ทำไมริดจ์เวย์ใช้วลีที่ว่า "Generalized Boosted Regression Models" (GBM) เพื่ออธิบายสิ่งที่ Friedman เคยเสนอให้เป็น "Gradient Boosting Machine" (GBM) มาก่อน? คำย่อสองตัวนี้เหมือนกันอธิบายสิ่งเดียวกัน แต่มาจากวลีที่แตกต่างกัน พื้นหลัง: ฉันมีปัญหาในการพิจารณาว่าข้อกำหนด BRT และ GBM แตกต่างกันอย่างไร จากสิ่งที่ฉันเข้าใจทั้งสองเป็นคำศัพท์เพื่ออธิบายการจัดหมวดหมู่และต้นไม้การถดถอยที่มีการสุ่มรวมอยู่ด้วยการส่งเสริมบางอย่าง (เช่นการบรรจุถุง bootstrapping การตรวจสอบข้าม) นอกจากนี้จากสิ่งที่ฉันรวบรวมคำศัพท์ GBM ได้รับการประกาศเกียรติคุณเป็นครั้งแรกโดย Friedman (2001) ในกระดาษของเขา "การประมาณฟังก์ชั่นโลภ: เครื่องเร่งการไล่ระดับสี" ริดจ์เวย์ได้ดำเนินการตามขั้นตอนที่อธิบายโดยฟรีดแมนในปี 2549 ในแพ็คเกจของเขา "Generalized Boosted Regression Models" …

1
เมื่อพิจารณาจากโซ่มาร์คอฟสองอันที่ดูดซับได้ความน่าจะเป็นที่จะสิ้นสุดก่อนที่อื่นจะเป็นเท่าไหร่
ฉันมีโซ่มาร์คอฟที่แตกต่างกันสองโซ่แต่ละอันมีสถานะการดูดซับที่หนึ่งและตำแหน่งเริ่มต้นที่รู้จัก ฉันต้องการกำหนดความน่าจะเป็นที่เชน 1 จะถึงสถานะดูดซับในขั้นตอนน้อยกว่าเชน 2 ฉันคิดว่าฉันสามารถคำนวณความน่าจะเป็นในการเข้าถึงสถานะการดูดซับในห่วงโซ่หนึ่งหลังจากขั้นตอน n: เนื่องจากเมทริกซ์การเปลี่ยนแปลงความน่าจะเป็นที่จะถูกดูดซึมหลังจากขั้นตอนคือโดยที่คือสถานะเริ่มต้นและคือ รัฐดูดซับPPPnnnPnijPijnP^n_{ij}iiijjj ฉันไม่แน่ใจว่าจะไปจากที่นี่ ปัญหาที่คล้ายคลึงกันที่ฉันเคยเห็นเกี่ยวข้องกับลูกเต๋า (เช่นการหมุนผลรวมของ 7 ก่อนผลรวมของ 8) แต่นั่นง่ายกว่าที่จะแก้เพราะความน่าจะเป็นในการกลิ้งผลรวมนั้นคงที่และไม่ขึ้นกับจำนวนขั้นตอนที่ดำเนินการ

2
การประมาณความผิดพลาดนอกถุงเพื่อเพิ่ม?
ในฟอเรสต์ฟอเรสต์ต้นไม้แต่ละต้นจะเติบโตขนานกันบนตัวอย่าง Boostrap ที่เป็นเอกลักษณ์ของข้อมูล เนื่องจากตัวอย่าง Boostrap แต่ละอันคาดว่าจะมีการสังเกตการณ์ที่เป็นเอกลักษณ์ประมาณ 63% ทำให้มีการสำรวจประมาณ 37% ของการสังเกตออกซึ่งสามารถใช้สำหรับการทดสอบต้นไม้ ตอนนี้ดูเหมือนว่าใน Stochastic Gradient Boosting ยังมีการคล้ายกับค่าใน RF:ต. ตBe r r o rOOBอีRRโอROOB_{error} หาก bag.fraction ถูกตั้งค่าเป็นมากกว่า 0 (แนะนำให้ 0.5) gbm จะคำนวณการประมาณค่าแบบไม่อยู่ในถุงเพื่อปรับปรุงประสิทธิภาพการทำนาย มันประเมินการลดความเบี่ยงเบนของข้อสังเกตเหล่านั้นที่ไม่ได้ใช้ในการเลือกแผนผังการถดถอยถัดไป แหล่งที่มา: Ridgeway (2007) , ส่วน 3.3 (หน้า 8) ฉันมีปัญหาในการเข้าใจวิธีการทำงาน / ใช้ได้ สมมติว่าฉันกำลังเพิ่มต้นไม้ในลำดับ ฉันกำลังปลูกต้นไม้นี้ในกลุ่มย่อยสุ่มของชุดข้อมูลดั้งเดิม ฉันสามารถทดสอบต้นไม้ต้นเดียวนี้ได้จากการสังเกตที่ไม่ได้นำมาปลูก ตกลง แต่เนื่องจากการส่งเสริมเป็นลำดับฉันจึงค่อนข้างใช้ลำดับของต้นไม้ทั้งหมดที่สร้างขึ้นเพื่อให้การคาดการณ์สำหรับการสังเกตจากซ้ายเหล่านั้น และมีโอกาสสูงที่ต้นไม้ก่อนหน้านี้จำนวนมากได้เห็นการสังเกตเหล่านี้แล้ว ดังนั้นรูปแบบนั้นไม่ได้ถูกทดสอบจริง ๆ ในแต่ละรอบจากการสังเกตการณ์ที่มองไม่เห็นเช่นเดียวกับ …

2
การทดสอบย้อนกลับหรือการตรวจสอบความถูกต้องข้ามเมื่อกระบวนการสร้างแบบจำลองเป็นแบบโต้ตอบ
ฉันมีตัวแบบทำนายผลซึ่งฉันต้องการทดสอบกลับ (เช่นนำชุดข้อมูลของฉัน "ย้อนกลับ" ไปยังจุดก่อนหน้าในเวลาและดูว่าตัวแบบนั้นจะทำแบบมุ่งหวังได้อย่างไร) ปัญหาคือว่าบางรุ่นของฉันถูกสร้างขึ้นผ่านกระบวนการโต้ตอบ ตัวอย่างเช่นทำตามคำแนะนำในกลยุทธ์การสร้างแบบจำลองการถดถอยของ Frank Harrell ในแบบจำลองหนึ่งฉันใช้ splines ลูกบาศก์แบบ จำกัด เพื่อจัดการความสัมพันธ์แบบไม่เชิงเส้นที่เป็นไปได้ระหว่างคุณลักษณะและการตอบสนอง ฉันจัดสรรระดับความเป็นอิสระของแต่ละอิสระขึ้นอยู่กับการรวมกันของความรู้ในโดเมนและการวัดความแข็งแกร่งของสมาคม แต่องศาอิสระที่ฉันต้องการอนุญาตให้แบบจำลองของฉันขึ้นอยู่กับขนาดของชุดข้อมูลซึ่งแตกต่างกันอย่างมากเมื่อทำการทดสอบย้อนหลัง หากฉันไม่ต้องการแยกองศาอิสระแยกจากกันในแต่ละครั้งที่รุ่นถูกทดสอบซ้ำตัวเลือกอื่นของฉันคืออะไร สำหรับตัวอย่างอื่นฉันกำลังตรวจจับค่าผิดปกติผ่านการหาจุดที่มีเลเวอเรจสูง ถ้าฉันมีความสุขที่จะทำสิ่งนี้ด้วยมือฉันจะดูที่จุดข้อมูลที่มีประโยชน์สูงแต่ละจุดตรวจสอบอย่างมีเหตุผลว่าข้อมูลนั้นสะอาดและกรองออกหรือทำความสะอาดด้วยมือ แต่สิ่งนี้ขึ้นอยู่กับความรู้เกี่ยวกับโดเมนจำนวนมากดังนั้นฉันจึงไม่ทราบวิธีการดำเนินการอัตโนมัติ ฉันขอขอบคุณคำแนะนำและวิธีแก้ปัญหาทั้งสอง (ก) ถึงปัญหาทั่วไปของการสร้างส่วนโต้ตอบอัตโนมัติของกระบวนการสร้างแบบจำลองหรือ (ข) คำแนะนำเฉพาะสำหรับสองกรณีนี้ ขอบคุณ!

1
จะค้นหาและประเมิน discretization ที่เหมาะสมที่สุดสำหรับตัวแปรต่อเนื่องที่มีเกณฑ์อย่างไร
ฉันมีชุดข้อมูลที่มีตัวแปรต่อเนื่องและตัวแปรเป้าหมายไบนารี (0 และ 1) ฉันต้องจำแนกตัวแปรต่อเนื่อง (สำหรับการถดถอยโลจิสติก) ด้วยความเคารพต่อตัวแปรเป้าหมายและด้วยข้อ จำกัด ที่ความถี่ของการสังเกตในแต่ละช่วงเวลาควรมีความสมดุล ฉันลองใช้กลไกการเรียนรู้ของเครื่องอย่าง Chi Merge ต้นไม้ตัดสินใจ การรวมกันของชี่ทำให้ฉันมีช่วงเวลาที่มีจำนวนไม่สมดุลมากในแต่ละช่วงเวลา (ช่วงเวลาที่มีการสังเกต 3 ครั้งและอีกช่วงหนึ่งมี 1,000 ครั้ง) ต้นไม้ตัดสินใจยากที่จะตีความ ฉันได้ข้อสรุปว่าการแยกส่วนที่ดีที่สุดควรเพิ่มค่าสถิติระหว่างตัวแปรที่แยกส่วนกับตัวแปรเป้าหมายและควรมีช่วงเวลาที่มีจำนวนการสังเกตประมาณเท่ากันχ2χ2\chi^2 มีอัลกอริทึมสำหรับการแก้ปัญหานี้หรือไม่? นี่มันมีลักษณะอย่างไรใน R (def คือตัวแปรเป้าหมายและ x เป็นตัวแปรที่จะแยกส่วน) ฉันคำนวณของ Tschuprow เพื่อประเมิน "สหสัมพันธ์" ระหว่างการแปลงและตัวแปรเป้าหมายเนื่องจากสถิติมีแนวโน้มที่จะเพิ่มขึ้นตามจำนวนช่วงเวลา ฉันไม่แน่ใจว่านี่เป็นวิธีที่ถูกต้องหรือไม่TTTχ2χ2\chi^2 มีวิธีอื่นในการประเมินหรือไม่หาก discretization ของฉันนั้นดีที่สุดนอกเหนือจาก Tschuprow (เพิ่มขึ้นเมื่อจำนวนคลาสลดลง)?TTT chitest <- function(x){ interv <- cut(x, c(0, 1.6,1.9, 2.3, 2.9, max(x)), …

2
วิธีหาน้ำหนักสำหรับมาตรการที่ไม่คุ้นเคย
ฉันต้องการเรียนรู้คุณลักษณะน้ำหนัก (อนุมาน) สำหรับการวัดความแตกต่างของฉันที่ฉันสามารถใช้สำหรับการจัดกลุ่ม ฉันมีตัวอย่างของคู่ของวัตถุที่ "คล้ายกัน" (ควรอยู่ในกลุ่มเดียวกัน) รวมถึงตัวอย่างบางส่วนของคู่ของวัตถุที่ "ไม่เหมือนกัน" (ไม่ควรเหมือนกัน อยู่ในกลุ่มเดียวกัน) แต่ละวัตถุมีจำนวนคุณลักษณะ: ถ้าคุณต้องการเราสามารถคิดว่าแต่ละวัตถุเป็นเวกเตอร์ -dimensional ของคุณลักษณะโดยที่แต่ละคุณลักษณะนั้นเป็นจำนวนเต็มไม่เป็นลบ มีเทคนิคในการใช้ตัวอย่างของวัตถุที่คล้ายกัน / แตกต่างกันเพื่อประเมินจากน้ำหนักคุณลักษณะที่เหมาะสมที่สุดสำหรับการวัดที่แตกต่างกันหรือไม่?(aผม,ขผม)(ai,bi)(a_i,b_i)(คผม,dผม)(ci,di)(c_i,d_i)ddd ถ้ามันช่วยได้ในแอปพลิเคชันของฉันมันอาจจะสมเหตุสมผลที่จะมุ่งเน้นไปที่การเรียนรู้การวัดที่แตกต่างซึ่งเป็นมาตรฐาน L2 แบบถ่วงน้ำหนัก d( x , y) =ΣJαJ( x [ j ] - y[ j ])2.d(x,y)=∑jαj(x[j]−y[j])2.d(x,y) = \sum_j \alpha_j (x[j] - y[j])^2. ที่ไม่รู้จักน้ำหนักและควรเรียนรู้ (หรือการวัดความคล้ายคลึงโคไซน์แบบถ่วงน้ำหนักบางชนิดก็มีเหตุผลเช่นกัน) มีอัลกอริทึมที่ดีในการเรียนรู้น้ำหนักสำหรับการวัดเช่นนี้หรือไม่ หรือมีวิธีอื่นในการเรียนรู้วิธีวัดความเหมือน / ความแตกต่างที่ฉันควรพิจารณาαJαj\alpha_jαJαj\alpha_j จำนวนมิติมีขนาดใหญ่มาก (เป็นพันหรือสูงกว่านั้นมาจากคุณสมบัติถุงคำ) อย่างไรก็ตามฉันมีตัวอย่างเป็นหมื่น ๆ ตัวอย่าง …

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.