สถิติและข้อมูลขนาดใหญ่

ถามตอบสำหรับผู้ที่สนใจในสถิติการเรียนรู้ของเครื่องจักรการวิเคราะห์ข้อมูลการขุดข้อมูล

2
ต้นไม้ CART จับการโต้ตอบระหว่างผู้ทำนายหรือไม่?
บทความนี้อ้างว่าใน CART เนื่องจากมีการดำเนินการแยกแบบไบนารีใน covariate เดียวในแต่ละขั้นตอนการแยกทั้งหมดเป็นแบบมุมฉากดังนั้นจึงไม่ถือว่าการมีปฏิสัมพันธ์ระหว่าง covariates อย่างไรก็ตามมีการอ้างอิงที่จริงจังมากที่อ้างว่าโครงสร้างแบบลำดับชั้นของต้นไม้รับประกันได้ว่าการโต้ตอบระหว่างตัวทำนายจะถูกสร้างแบบจำลองโดยอัตโนมัติ (เช่นเอกสารนี้และแน่นอน Hastie) ถูกต้องใคร ต้นไม้ที่ปลูกในรถเข็นสามารถจับการโต้ตอบระหว่างตัวแปรอินพุตได้ไหม

4
ฟิชเชอร์ทดสอบที่ถูกต้องกับข้อมูลที่จับคู่
ป.ร. ให้ไว้ 404040 ผู้ป่วยมะเร็งปอดและ 404040การควบคุมที่จับคู่ (ไม่มีมะเร็งปอด) (การจับคู่ขึ้นอยู่กับอายุเพศ ฯลฯ ) เพื่อพยายามหาหลักฐานระหว่างผลของการสูบบุหรี่ต่อโรคมะเร็งปอดฉันใช้การทดสอบที่แน่นอนของฟิชเชอร์ในตารางฉุกเฉิน อย่างไรก็ตามเรื่องนี้ไม่ได้คำนึงถึงว่าการควบคุมและกรณีถูกจับคู่ ดังนั้นฉันสงสัยว่ามีวิธีใช้การทดสอบที่แน่นอนของฟิชเชอร์ที่คำนึงถึงการจับคู่ระหว่างสองกลุ่มหรือไม่?

2
ฉันจะใช้ข้อมูลนี้เพื่อปรับเทียบเครื่องหมายที่มีระดับความเอื้ออาทรต่าง ๆ ในการให้คะแนนนักเรียนได้อย่างไร
อาจารย์ 12 คนกำลังสอนนักเรียน 600 คน 12 กลุ่มที่สอนโดยครูเหล่านี้มีขนาดตั้งแต่ 40 ถึง 90 นักเรียนและเราคาดหวังความแตกต่างอย่างเป็นระบบระหว่างกลุ่มเพื่อนเนื่องจากนักศึกษาระดับบัณฑิตศึกษาได้รับการจัดสรรอย่างไม่เป็นสัดส่วนกับกลุ่มเพื่อนโดยเฉพาะและประสบการณ์ก่อนหน้านี้แสดงให้เห็นว่า นักศึกษาระดับปริญญาตรี ครูได้ให้คะแนนเอกสารทั้งหมดในการศึกษาของพวกเขาและมอบหมายให้พวกเขาทำเครื่องหมายจาก 100 ครูแต่ละคนก็ดูกระดาษหนึ่งแผ่นที่สุ่มเลือกจากครูคนอื่นอีกสามคนและให้คะแนนจาก 100 ครูแต่ละคนมีเอกสารสามฉบับที่ครูอื่นทำเครื่องหมายไว้ กระดาษ 36 ชนิดที่แตกต่างกันได้ถูกทำเครื่องหมายด้วยวิธีนี้และฉันเรียกสิ่งนี้ว่าข้อมูลการสอบเทียบของฉัน ฉันยังสามารถดูจำนวนนักศึกษาระดับบัณฑิตศึกษาในแต่ละกลุ่ม คำถามของฉันคือ: A) ฉันจะใช้ข้อมูลการสอบเทียบนี้เพื่อปรับเครื่องหมายต้นฉบับได้อย่างไรเพื่อให้มีความยุติธรรม โดยเฉพาะอย่างยิ่งฉันต้องการล้างออกให้มากที่สุดเท่าที่เป็นไปได้ผลกระทบของผู้ผลิตที่ใจกว้าง / ไม่สุภาพมากเกินไป B) ข้อมูลการสอบเทียบของฉันมีความเหมาะสมเพียงใด ฉันไม่มีทางเลือกในจุดข้อมูลการสอบเทียบที่ค่อนข้าง จำกัด จำนวน 36 จุดที่ฉันได้รับในหลักสูตรนี้และไม่มีตัวเลือกในการรวบรวมเพิ่มเติมในระหว่างภาคการศึกษาปัจจุบัน อย่างไรก็ตามหากสถานการณ์นี้เกิดขึ้นอีกฉันอาจรวบรวมข้อมูลการสอบเทียบเพิ่มเติมหรือรวบรวมข้อมูลการสอบเทียบประเภทต่างๆ คำถามนี้สัมพันธ์กับคำถามยอดนิยมที่ฉันถามที่: ฉันจะจัดการกับผลกระทบของเครื่องหมายที่มีระดับความเอื้ออาทรแตกต่างกันในเอกสารการให้เกรดของนักเรียนได้อย่างไร . อย่างไรก็ตามมันเป็นหลักสูตรที่แตกต่างกันและฉันไม่แน่ใจว่าการอ่านคำถามนั้นมีประโยชน์เพียงใดสำหรับพื้นหลังปัจจุบันนี้เนื่องจากปัญหาหลักที่เกิดขึ้นคือฉันไม่มีข้อมูลการสอบเทียบ

2
การรวมกันเชิงเส้นของสองแบบที่ไม่ใช่บรรทัดฐานแบบสุ่มที่ยังคงเป็นสมาชิกของตระกูลเดียวกัน
เป็นที่ทราบกันดีว่าการรวมกันเชิงเส้นของตัวแปรปกติแบบสุ่ม 2 ตัวนั้นก็เป็นตัวแปรแบบสุ่มด้วยเช่นกัน มีตระกูลการแจกจ่ายที่ไม่ธรรมดาทั่วไป (เช่น Weibull) ที่ใช้คุณสมบัตินี้ด้วยหรือไม่ ดูเหมือนจะมีตัวอย่างมากมาย ตัวอย่างเช่นการรวมกันเชิงเส้นของเครื่องแบบมักไม่เหมือนกัน โดยเฉพาะมีตระกูลการกระจายที่ไม่ปกติซึ่งทั้งสองอย่างต่อไปนี้เป็นจริง: การรวมกันเชิงเส้นของตัวแปรสุ่มสองตัวจากตระกูลนั้นเทียบเท่ากับการกระจายตัวบางอย่างในตระกูลนั้น พารามิเตอร์ผลลัพธ์สามารถระบุได้ว่าเป็นฟังก์ชันของพารามิเตอร์ดั้งเดิมและค่าคงที่ในชุดค่าผสมเชิงเส้น ฉันสนใจชุดค่าผสมเชิงเส้นนี้เป็นพิเศษ: Y=X1⋅ w +X2⋅( 1 -W2)-------√Y=X1⋅W+X2⋅(1-W2)Y = X_1 \cdot w + X_2 \cdot \sqrt{(1-w^2)} ที่ไหน X1X1X_1 และ X2X2X_2 ถูกสุ่มตัวอย่างจากบางตระกูลที่ไม่ปกติโดยมีพารามิเตอร์ θ1θ1\theta_1 และ θ2θ2\theta_2และ YYY มาจากตระกูลเดียวกันที่ไม่ปกติพร้อมพารามิเตอร์ θY= f(θ1,θ2, w )θY=ฉ(θ1,θ2,W)\theta_Y = f(\theta_1, \theta_2, w). ฉันกำลังอธิบายตระกูลการแจกจ่ายด้วยพารามิเตอร์ 1 ตัวเพื่อความง่าย แต่ฉันเปิดให้ตระกูลการแจกจ่ายที่มีพารามิเตอร์หลายตัว นอกจากนี้ฉันกำลังมองหาตัวอย่างที่มีพื้นที่พารามิเตอร์มากมาย θ1θ1\theta_1 …

2
วิธีแสดงการใช้งาน kWh เป็นรายปีเทียบกับอุณหภูมิเฉลี่ย?
เพียงเพื่อความสนุกฉันต้องการจัดทำแผนภูมิการใช้พลังงานในครัวเรือนรายเดือนของฉันทุกปี อย่างไรก็ตามฉันต้องการรวมการอ้างอิงถึงอุณหภูมิรายเดือนเพื่อให้ฉันสามารถตรวจสอบว่าบ้านหรือพฤติกรรมของฉันดีขึ้นแย่ลงหรือคงที่เกี่ยวกับการใช้งาน kWh ข้อมูลที่ฉันทำงานด้วย: +----------+--------+-----------+----------------+----------+-----------+------------+ | Month | # Days | kWh Usage | Daily kWh Avg. | Avg. Low | Avg. High | Avg. Temp. | +----------+--------+-----------+----------------+----------+-----------+------------+ | Mar 2015 | 32 | 1048 | 33 | 40 | 60 | 50 | | Feb 2015 | 29 | …

1
การใช้ทฤษฎีสารสนเทศในศาสตร์ข้อมูลประยุกต์
วันนี้ฉันวิ่งข้ามหนังสือ"ทฤษฎีข้อมูล: บทแนะนำการสอน"โดย James Stone และคิดสักครู่หรือสองครั้งเกี่ยวกับขอบเขตของการใช้ทฤษฎีข้อมูลในวิทยาศาสตร์ข้อมูลประยุกต์ (ถ้าคุณไม่พอใจกับคำนี้ค่อนข้างคลุมเครือ คิดว่าการวิเคราะห์ข้อมูลซึ่งวิทยาศาสตร์ข้อมูลของ IMHO เป็นรุ่นที่ได้รับเกียรติ) ฉันตระหนักดีถึงการใช้งานที่สำคัญของทฤษฎีสารสนเทศ -based วิธี , วิธีการและมาตรการโดยเฉพาะอย่างยิ่งเอนโทรปี , ภายใต้ประทุนเทคนิคทางสถิติและวิธีการต่างๆในการวิเคราะห์ข้อมูล อย่างไรก็ตามฉันอยากรู้เกี่ยวกับขอบเขต / ระดับความรู้ที่จำเป็นสำหรับนักวิทยาศาสตร์สังคมประยุกต์ที่ประสบความสำเร็จในการเลือกและใช้แนวคิดมาตรการและเครื่องมือเหล่านั้นโดยไม่ต้องดำลึกเข้าไปในจุดกำเนิดทางคณิตศาสตร์ของทฤษฎี ฉันหวังว่าจะได้คำตอบของคุณซึ่งอาจกล่าวถึงข้อกังวลของฉันภายในบริบทของหนังสือที่กล่าวถึงข้างต้น (หรือหนังสือที่คล้ายคลึงกันอื่น ๆ - อย่าลังเลที่จะแนะนำ) หรือโดยทั่วไป ฉันขอขอบคุณข้อเสนอแนะบางอย่างสำหรับแหล่งข้อมูลการพิมพ์หรือออนไลน์ที่กล่าวถึงทฤษฎีข้อมูลและแนวคิดแนวทางวิธีการและมาตรการในบริบทของ ( เปรียบเทียบกับ) วิธีการทางสถิติแบบดั้งเดิมอื่น ๆ (เพิ่มเติม) (ผู้ใช้บ่อยและBayesian )

5
การทดสอบสมมติฐานปัวซองสำหรับสองพารามิเตอร์
ดังนั้นเพื่อความสนุกฉันกำลังรับข้อมูลการโทรจาก call center ที่ฉันทำงานและพยายามทำการทดสอบสมมติฐานกับพวกเขาโดยเฉพาะจำนวนการโทรที่ได้รับในหนึ่งสัปดาห์และใช้การกระจาย Poisson เพื่อให้เหมาะสม เนื่องจากหัวข้อของงานของฉันมีสองประเภทของสัปดาห์ให้เรียกหนึ่งของพวกเขาในสัปดาห์ที่ฉันตั้งสมมติฐานว่ามีการโทรมากขึ้นและนอกสัปดาห์ที่ฉันตั้งสมมติฐานมีน้อย ฉันมีทฤษฎีที่จากเมื่อสัปดาห์ที่แล้ว (เรียกมันว่า ) มีขนาดใหญ่กว่าของหนึ่งในช่วงนอกสัปดาห์ (เรียกว่า )λλ\lambdaλ1λ1\lambda_1λ2λ2\lambda_2 สมมติฐานที่ฉันต้องการทดสอบคือH0:λ1>λ2,H1:λ1≤λ2H0:λ1>λ2,H1:λ1≤λ2H_0: \lambda_1 > \lambda_2, H_1: \lambda_1 \leq \lambda_2 ฉันรู้วิธีทดสอบพารามิเตอร์หนึ่งตัว (เช่น ) แต่ก็ไม่แน่ใจว่าจะทำอย่างไร 2 เมื่อได้รับชุดข้อมูล สมมติว่าฉันใช้ข้อมูลสองสัปดาห์จากแต่ละและสำหรับนอกสัปดาห์และและสำหรับสัปดาห์ มีใครช่วยฉันหน่อยได้ไหมว่ารุ่นที่ง่ายกว่านี้ซึ่งฉันสามารถนำไปใช้กับชุดข้อมูลที่ใหญ่กว่าได้ ความช่วยเหลือใด ๆ ที่ชื่นชมขอบคุณH0:λ1> 1 ,H1:λ1≤ 1H0:λ1>1,H1:λ1≤1H_0: \lambda_1 > 1, H_1: \lambda_1 \leq 1 X1= 2X1=2X_1 = 2X2= 3X2=3X_2 = 3Y1= 2Y1=2Y_1 …

4
จำนวนที่คาดหวังของการทอยลูกเต๋าต้องทำให้ผลรวมมากกว่าหรือเท่ากับ K?
6 ด้านรีดตายซ้ำแล้วซ้ำอีก จำนวนม้วนที่คาดหวังจำเป็นต้องมีเพื่อให้ผลรวมมากกว่าหรือเท่ากับ K คืออะไร ก่อนที่จะแก้ไข P(Sum>=1 in exactly 1 roll)=1 P(Sum>=2 in exactly 1 roll)=5/6 P(Sum>=2 in exactly 2 rolls)=1/6 P(Sum>=3 in exactly 1 roll)=5/6 P(Sum>=3 in exactly 2 rolls)=2/6 P(Sum>=3 in exactly 3 rolls)=1/36 P(Sum>=4 in exactly 1 roll)=3/6 P(Sum>=4 in exactly 2 rolls)=3/6 P(Sum>=4 in exactly 3 …

1
X, Y คือ iid จาก N (0,1) ความน่าจะเป็นที่ X> 2Y เป็นเท่าไหร่
ฉันคิดตั้งแต่มาจากและพวกเขามีความเป็นอิสระแล้วX, วายX,YX, Yยังไม่มีข้อความ( 0 , 1 )N(0,1)N(0,1) X- 2 YX−2YX - 2Yมีการกระจายของ5) แล้วมีความน่าจะเป็นของ1/2ยังไม่มีข้อความ( 0 , 5 )N(0,5)N(0, 5)X- 2 Y> 0X−2Y>0X-2Y > 01 / 21/21/2 ดังกล่าวข้างต้นดูเหมือนว่าถูกต้องให้ฉันแม้ว่ามันจะดูเหมือนว่าแล้ว จะมีความน่าจะเป็นของ1/2ดูเหมือนว่าผิดเล็กน้อย ฉันทำอะไรผิดหรือเปล่า?X> n YX>nYX>nY1 / 21/21/2

1
อะไรคือความแตกต่างระหว่างการปรับสภาพของ regressors กับการรักษามันให้คงที่?
บางครั้งเราคิดว่า regressors ได้รับการแก้ไขนั่นคือมันไม่ได้สุ่ม ฉันคิดว่านั่นหมายถึงตัวทำนายของเราการประมาณค่าพารามิเตอร์และอื่น ๆ ทั้งหมดนั้นไม่มีเงื่อนไขใช่ไหม? ฉันอาจไปได้ไกลขนาดนั้นว่าพวกเขาจะไม่เป็นตัวแปรสุ่มอีกต่อไป? หากในอีกทางหนึ่งเรายอมรับว่าผู้ถดถอยส่วนใหญ่ในสาขาเศรษฐศาสตร์พูดว่าสุ่มเพราะไม่มีแรงภายนอกกำหนดพวกเขาด้วยการทดลองในใจ จากนั้นนักเศรษฐศาสตร์ก็ให้ความสำคัญกับการถดถอยแบบสุ่ม สิ่งนี้แตกต่างจากการปฎิบัติตามที่ได้รับการแก้ไขอย่างไร ฉันเข้าใจว่าการปรับสภาพคืออะไร ศาสตร์มันหมายความว่าเราให้ข้อสังเกตและเงื่อนไขในการอนุมานว่าชุดใดชุดหนึ่งของ regressors และมีความทะเยอทะยานที่จะบอกว่าการหาข้อสรุปที่ประมาณการพารามิเตอร์ประมาณการแปรปรวน ฯลฯ ไม่มีจะได้รับเหมือนกันได้เราเห็นแตกต่างกันของการก่อให้เกิด regressors ของเรา (เช่นมี crux ในอนุกรมเวลาซึ่งแต่ละชุดเวลาจะเห็นเพียงครั้งเดียว) อย่างไรก็ตามเพื่อให้เข้าใจถึงความแตกต่างระหว่าง regressors คงที่และการปรับเงื่อนไขในการถดถอยแบบสุ่มฉันสงสัยว่าถ้าใครที่นี่รู้จักตัวอย่างของการประมาณค่าหรือขั้นตอนการอนุมานที่ถูกต้องสำหรับการพูดคง regressors แต่แตกสลายเมื่อพวกเขาสุ่ม เปิดรับ) ฉันรอคอยที่จะเห็นตัวอย่างเหล่านั้น!

2
ข้อสรุปจากผลลัพธ์ของการวิเคราะห์องค์ประกอบหลัก
ฉันพยายามเข้าใจผลลัพธ์ของการวิเคราะห์องค์ประกอบหลักที่ดำเนินการดังนี้ > head(iris) Sepal.Length Sepal.Width Petal.Length Petal.Width Species 1 5.1 3.5 1.4 0.2 setosa 2 4.9 3.0 1.4 0.2 setosa 3 4.7 3.2 1.3 0.2 setosa 4 4.6 3.1 1.5 0.2 setosa 5 5.0 3.6 1.4 0.2 setosa 6 5.4 3.9 1.7 0.4 setosa > res = prcomp(iris[1:4], scale=T) > …
9 r  pca  interpretation 

1
LASSO สำหรับรุ่นอธิบาย: พารามิเตอร์ที่หดตัวหรือไม่?
ฉันกำลังทำการวิเคราะห์ที่เป้าหมายหลักคือการเข้าใจข้อมูล ชุดข้อมูลมีขนาดใหญ่พอสำหรับการตรวจสอบข้าม (10k) และตัวทำนายรวมทั้งตัวแปรต่อเนื่องและดัมมี่และผลลัพธ์นั้นต่อเนื่อง เป้าหมายหลักคือการดูว่าเหมาะสมหรือไม่ที่จะใช้ตัวทำนายบางตัวเพื่อให้แบบจำลองตีความได้ง่ายขึ้น คำถาม: คำถามของฉันคือ "ซึ่ง vars อธิบายผลลัพธ์และเป็นส่วน 'แข็งแรงพอ' ของคำอธิบายนั้น" แต่หากต้องการเลือกพารามิเตอร์ lambda สำหรับ lasso คุณต้องใช้การตรวจสอบความถูกต้องข้ามเช่นความถูกต้องเชิงทำนายเป็นเกณฑ์ เมื่อทำการอนุมานความถูกต้องตามการคาดการณ์เป็นพร็อกซีที่ดีพอสำหรับคำถามทั่วไปที่ฉันถามหรือไม่ สมมติว่า LASSO เก็บเครื่องมือทำนาย 3 ตัวจาก 8 ตัว และตอนนี้ฉันถามตัวเองว่า: "สิ่งเหล่านี้มีผลต่อผลลัพธ์อย่างไร" ตัวอย่างเช่นฉันพบความแตกต่างทางเพศ หลังการหดตัวของบ่วงบาศค่าสัมประสิทธิ์บ่งชี้ว่าผู้หญิงให้คะแนนสูงกว่าผู้ชาย 1 คะแนน แต่ไม่มีการหดตัว (เช่นบนชุดข้อมูลจริง) พวกเขาได้คะแนน 2.5 คะแนนสูงขึ้น ฉันจะเลือกอันไหนเป็นเอฟเฟกต์เพศ "ของจริง" ของฉัน ไปโดยความถูกต้องทำนายก็จะเป็นค่าสัมประสิทธิ์หด หรือในบริบทบอกว่าฉันเขียนรายงานสำหรับคนที่ไม่รอบรู้ในสถิติ ฉันจะรายงานค่าสัมประสิทธิ์ใดให้พวกเขาบ้าง

2
OLS มีประสิทธิภาพแบบ Asymptotically ภายใต้ Heteroscedasticity หรือไม่
ฉันรู้ว่า OLS นั้นไม่เอนเอียง แต่ไม่มีประสิทธิภาพภายใต้ heteroscedasticity ในการตั้งค่าการถดถอยเชิงเส้น ในวิกิพีเดีย http://en.wikipedia.org/wiki/Minimum_mean_square_error ตัวประมาณ MMSE นั้นไม่เอนเอียงและไม่มีส่วนร่วมและกระจายไปสู่การแจกแจงแบบปกติ: โดยที่ I (x) เป็นข้อมูลชาวประมงของ x ดังนั้นตัวประมาณ MMSE จึงมีประสิทธิภาพแบบไม่แสดงอาการn−−√(x^−x)→dN(0,I−1(x))n(x^−x)→dN(0,I−1(x))\sqrt{n}(\hat{x} - x) \xrightarrow{d} \mathcal{N}\left(0 , I^{-1}(x)\right) MMSE อ้างว่ามีประสิทธิภาพแบบไม่แสดงอาการ ฉันสับสนเล็กน้อยที่นี่ นี่หมายความว่า OLS ไม่ได้มีประสิทธิภาพในตัวอย่าง จำกัด แต่มีประสิทธิภาพแบบไม่เชิงเส้นภายใต้ heteroscedasticity คำติชมของคำตอบปัจจุบัน: จนถึงขณะนี้คำตอบที่เสนอไม่ได้อยู่ที่การกระจายการ จำกัด ขอบคุณล่วงหน้า

1
วิธีการสร้างเมทริกซ์มุมฉากแบบสุ่มของดีเทอร์มิแนนต์ดี?
ฉันอาจมีคำถามโง่ ๆ เกี่ยวกับสิ่งที่ฉันต้องยอมรับฉันสับสน ลองนึกภาพที่ก่อให้เกิดซ้ำของการกระจายอย่างสม่ำเสมอสุ่มมุมฉาก (orthonormal) เมทริกซ์ที่มีขนาดบางหนบางครั้งเมทริกซ์ที่สร้างขึ้นมีปัจจัยที่และบางครั้งก็มีปัจจัย-1(มีเพียงสองค่าที่เป็นไปได้จากมุมมองของการหมุนมุมฉากหมายความว่ามีการสะท้อนเพิ่มอีกหนึ่งนอกเหนือจากการหมุน)ppp111−1−1-1det=−1det=−1\det=-1 เราสามารถเปลี่ยนสัญลักษณ์ของdetdet\detของเมทริกซ์มุมฉากจากลบเป็นบวกได้โดยเปลี่ยนสัญลักษณ์ของคอลัมน์ใดคอลัมน์หนึ่ง (หรือโดยทั่วไปคอลัมน์ใด ๆ ที่มีเลขคี่) คำถามของฉันคือ: เมื่อเราสร้างเมทริกซ์แบบสุ่มซ้ำแล้วซ้ำอีกเราจะแนะนำอคติบางอย่างในลักษณะการสุ่มแบบสม่ำเสมอหรือไม่หากทุกครั้งที่เราเลือกที่จะเปลี่ยนสัญญาณของคอลัมน์ที่ระบุเฉพาะ (พูดเสมอที่ 1 หรือตลอดไป) หรือเราควรจะมีการเลือกคอลัมน์สุ่มเพื่อให้การฝึกอบรมแทนการสุ่มคอลเลกชันกระจายเหมือนกัน?

1
ข้อ จำกัด MCMC / EM MCMC มากกว่า EM?
ขณะนี้ฉันเรียนรู้โมเดลเบย์แบบลำดับชั้นโดยใช้ JAGS จาก R และ pymc โดยใช้ Python ( "วิธีเบส์สำหรับแฮกเกอร์" ) ฉันสามารถรับปรีชาจากโพสต์นี้ : "คุณจะจบลงด้วยจำนวนของตัวเลขที่มีลักษณะ" ราวกับว่า "คุณมีการจัดการอย่างใดที่จะนำตัวอย่างอิสระจากการกระจายที่ซับซ้อนที่คุณต้องการรู้" มันเป็นสิ่งที่ฉันสามารถให้ความน่าจะเป็นแบบมีเงื่อนไขจากนั้นฉันสามารถสร้างกระบวนการที่ไม่มีหน่วยความจำขึ้นอยู่กับความน่าจะเป็นแบบมีเงื่อนไข เมื่อฉันสร้างกระบวนการนานพอแล้วความน่าจะเป็นร่วมจะมาบรรจบกันและจากนั้นฉันก็สามารถนำจำนวนตัวเลขมารวมกันที่ส่วนท้ายของลำดับที่สร้างขึ้น มันเหมือนกับว่าฉันเอาตัวอย่างอิสระจากการกระจายข้อต่อที่ซับซ้อน ตัวอย่างเช่นฉันสามารถสร้างฮิสโตแกรมและสามารถประมาณฟังก์ชันการแจกแจง จากนั้นปัญหาของฉันคือฉันต้องพิสูจน์ว่า MCMC มาบรรจบกันสำหรับรุ่นใดรุ่นหนึ่งหรือไม่ ฉันมีแรงจูงใจที่จะรู้สิ่งนี้เพราะก่อนหน้านี้ฉันได้เรียนรู้อัลกอริทึม EM สำหรับ GMM และ LDA (โมเดลกราฟิก) ถ้าฉันสามารถใช้อัลกอริทึม MCMC โดยไม่ต้องพิสูจน์ว่ามันมาบรรจบกันแล้วมันสามารถประหยัดเวลาได้มากกว่า EM เนื่องจากฉันจะต้องคำนวณฟังก์ชั่นโอกาสในการบันทึกที่คาดหวัง (จะต้องคำนวณความน่าจะเป็นหลัง) แล้วจึงเพิ่มโอกาสในการบันทึกที่คาดหวัง เห็นได้ชัดว่ามันยุ่งยากกว่า MCMC (ฉันแค่ต้องกำหนดความน่าจะเป็นแบบมีเงื่อนไข) ฉันยังสงสัยด้วยว่าฟังก์ชันความน่าจะเป็นและการกระจายก่อนหน้านั้นเป็นแบบคอนจูเกตหรือไม่ มันหมายความว่า MCMC ต้องมาบรรจบกัน? ฉันสงสัยเกี่ยวกับข้อ จำกัด ของ MCMC และ EM

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.