สถิติและข้อมูลขนาดใหญ่

ถามตอบสำหรับผู้ที่สนใจในสถิติการเรียนรู้ของเครื่องจักรการวิเคราะห์ข้อมูลการขุดข้อมูล

3
MAP เป็นวิธีการแก้ปัญหา
ฉันเจอสไลด์เหล่านี้ (สไลด์ # 16 & # 17) ในหนึ่งในหลักสูตรออนไลน์ ผู้สอนพยายามอธิบายถึงวิธีการประมาณค่าสูงสุดหลัง (MAP) เป็นวิธีการแก้ปัญหาL(θ)=I[θ≠θ∗]L(θ)=I[θ≠θ∗]L(\theta) = \mathcal{I}[\theta \ne \theta^{*}]โดยที่θ∗θ∗\theta^{*}เป็นพารามิเตอร์จริง ใครช่วยกรุณาอธิบายวิธีการดังต่อไปนี้? แก้ไข: เพิ่มสไลด์ในกรณีที่ลิงก์เสีย

3
ปรีชาหลังสูตรสำหรับความแปรปรวนของผลรวมของสองตัวแปร
ฉันรู้จากการศึกษาก่อนหน้าว่า Var(A+B)=Var(A)+Var(B)+2Cov(A,B)Var(A+B)=Var(A)+Var(B)+2Cov(A,B)Var(A+B) = Var(A) + Var(B) + 2 Cov (A,B) อย่างไรก็ตามฉันไม่เข้าใจว่าทำไม ฉันสามารถเห็นได้ว่าเอฟเฟกต์จะ 'ผลักดัน' ความแปรปรวนเมื่อ A และ B มีโควารีสูง ทำให้รู้สึกว่าเมื่อคุณสร้างคอมโพสิตจากสองตัวแปรที่มีความสัมพันธ์สูงคุณจะมีแนวโน้มที่จะเพิ่มการสังเกตที่สูงจาก A ด้วยการสังเกตที่สูงจาก B และการสังเกตที่ต่ำจาก A กับการสังเกตที่ต่ำจาก B นี้จะมีแนวโน้มที่ สร้างค่าสูงสุดและต่ำสุดในตัวแปรคอมโพสิตเพิ่มความแปรปรวนของคอมโพสิต แต่ทำไมมันไม่ทำงานคูณแปรปรวนโดยตรง 2?

2
UMVUE จากในขณะที่สุ่มตัวอย่างจากประชากร
ปล่อยเป็นตัวอย่างแบบสุ่มจากความหนาแน่น(X1,X2,…,Xn)(X1,X2,…,Xn)(X_1,X_2,\ldots,X_n)fθ(x)=θxθ−110<x<1,θ>0fθ(x)=θxθ−110<x<1,θ>0f_{\theta}(x)=\theta x^{\theta-1}\mathbf1_{00 ฉันกำลังพยายามที่จะหา UMVUE ของtheta}θ1+θθ1+θ\frac{\theta}{1+\theta} ความหนาแน่นรอยต่อของคือ(X1,…,Xn)(X1,…,Xn)(X_1,\ldots,X_n) fθ(x1,⋯,xn)=θn(∏i=1nxi)θ−110<x1,…,xn<1=exp[(θ−1)∑i=1nlnxi+nlnθ+ln(10<x1,…,xn<1)],θ>0fθ(x1,⋯,xn)=θn(∏i=1nxi)θ−110<x1,…,xn<1=exp⁡[(θ−1)∑i=1nln⁡xi+nln⁡θ+ln⁡(10<x1,…,xn<1)],θ>0\begin{align} f_{\theta}(x_1,\cdots,x_n)&=\theta^n\left(\prod_{i=1}^n x_i\right)^{\theta-1}\mathbf1_{00 \end{align} เนื่องจากประชากร pdfเป็นสมาชิกของตระกูลเลขชี้กำลังหนึ่งพารามิเตอร์นี่แสดงให้เห็นว่าสถิติที่เพียงพอสำหรับคือfθfθf_{\theta}θθ\thetaT(X1,…,Xn)=∑i=1nlnXiT(X1,…,Xn)=∑i=1nln⁡XiT(X_1,\ldots,X_n)=\sum_{i=1}^n\ln X_i ตั้งแต่ตอนแรกจะให้ UMVUE ของให้ฉัน ทฤษฎีบท Lehmann-Scheffe ถ้าไม่แน่ใจว่าความคาดหวังที่มีเงื่อนไขนี้สามารถพบได้โดยตรงหรือหนึ่งที่มีการพบว่าเงื่อนไขการจำหน่าย x_iE(X1)=θ1+θE(X1)=θ1+θE(X_1)=\frac{\theta}{1+\theta}E(X1∣T)E(X1∣T)E(X_1\mid T)θ1+θθ1+θ\frac{\theta}{1+\theta}X1∣∑ni=1lnXiX1∣∑i=1nln⁡XiX_1\mid \sum_{i=1}^n\ln X_i ในทางกลับกันฉันพิจารณาวิธีการต่อไปนี้: เรามีเพื่อให้{2n}Xi∼i.i.dBeta(θ,1)⟹−2θlnXi∼i.i.dχ22Xi∼i.i.dBeta(θ,1)⟹−2θln⁡Xi∼i.i.dχ22X_i\stackrel{\text{i.i.d}}{\sim}\text{Beta}(\theta,1)\implies -2\theta\ln X_i\stackrel{\text{i.i.d}}{\sim}\chi^2_2−2θT∼χ22n−2θT∼χ2n2-2\theta\, T\sim\chi^2_{2n} ดังนั้น TH เพื่อช่วงเวลาดิบเกี่ยวกับศูนย์ตามที่คำนวณโดยใช้ไคสแควร์เป็น pdfrrr−2θT−2θT-2\theta\,TE(−2θT)r=2rΓ(n+r)Γ(n),n+r>0E(−2θT)r=2rΓ(n+r)Γ(n),n+r>0E(-2\theta\,T)^r=2^r\frac{\Gamma\left(n+r\right)}{\Gamma\left(n\right)}\qquad ,\,n+r>0 ดังนั้นดูเหมือนว่าสำหรับทางเลือกที่แตกต่างกันของจำนวนเต็ม , ฉันจะได้รับประมาณเป็นกลาง (และ UMVUEs) ของอำนาจแตกต่างกันของจำนวนเต็ม\ตัวอย่างเช่นและให้ฉันเป็น UMVUE และตามลำดับrrrθθ\thetaE(−Tn)=1θE(−Tn)=1θE\left(-\frac{T}{n}\right)=\frac{1}{\theta}E(1−nT)=θE(1−nT)=θE\left(\frac{1-n}{T}\right)=\theta1θ1θ\frac{1}{\theta}θθ\theta ตอนนี้เมื่อเรามี1}θ>1θ>1\theta>1θ1+θ=(1+1θ)−1=1−1θ+1θ2−1θ3+⋯θ1+θ=(1+1θ)−1=1−1θ+1θ2−1θ3+⋯\frac{\theta}{1+\theta}=\left(1+\frac{1}{\theta}\right)^{-1}=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots ฉันสามารถรับ UMVUE ได้และอื่น ๆ ดังนั้นการรวม UMVUE เหล่านี้เป็นฉันจะได้รับที่จำเป็น UMVUE …

3
การทดลองในทางปฏิบัติคืออะไร?
ในทวิตเตอร์สจวร์ต Nicholls ผู้วิจัยคดีวิจารณ์การศึกษาที่ตีพิมพ์เมื่อเร็ว ๆ นี้โดยกล่าวว่า: นอกจากกระดาษที่น่าสนใจมากโดย Dal-Re พวกเขาตั้งค่าสถานะตัวอย่างหลาย ๆ คำถามที่ใช้คำถามของคำในทางปฏิบัติ ขั้นตอนที่ 3, multisite, double-blind, placebo-controlled, ขนาน - แขน, การเพิ่มปริมาณการทดลองแบบสุ่มจะเรียกว่า 'ในทางปฏิบัติ' จริงหรือไม่? บทความวิจัยในคำถามมีการเชื่อมโยงที่นี่ กระดาษโดย Dal-เรื่องคือที่นี่ และแนะนำของพวกเขา "นิยม" เป็นเครื่องมือที่นี่ ฉันอาจแตกต่างกับ Nicholls เพราะความรู้สึกของฉันคือด้วยธรรมชาติของการรักษาและกับผู้ป่วย N จาก 171 คนนี่อาจเป็นการศึกษาที่ไม่ได้ผล ... แต่นั่นทำให้มันเป็นจริง ฉันรู้สึกว่าฉันขาดจุด อะไรในความเป็นจริงคือการทดลองใช้ในทางปฏิบัติ? การพิจารณาคดีเมื่อใดจะไม่สามารถใช้งานได้ในแง่ที่ว่ามันไม่มีประโยชน์และเมื่อใดจะมีการพิจารณาคดีที่ไม่เป็นจริงในแง่ที่ว่าเป็นการทดลองยืนยัน

1
ความน่าจะเป็นเชิงลบ: คำอธิบายของคนธรรมดา
ฉันรู้สึกทึ่งมากกับคำตอบที่นี่ ฉันต้องการคำอธิบายเพิ่มเติมเกี่ยวกับความน่าจะเป็นในเชิงลบที่อาจหมายถึงและแอปพลิเคชันของพวกเขาซึ่งอาจเป็นตัวอย่าง ตัวอย่างเช่นความหมายของเหตุการณ์ที่มีความน่าจะเป็น -10% เป็นไปตามการวัดความน่าจะเป็นแบบขยายเหล่านี้หรือไม่

2
การแจกแจงและความแปรปรวนของจำนวนสามเหลี่ยมในกราฟสุ่ม
พิจารณาErdos-Renyiสุ่มกราฟ(P)) ชุดของจุดจะมีป้ายโดย\} ชุดของขอบถูกสร้างขึ้นโดยกระบวนการสุ่มn V V = { 1 , 2 , … , n } EG=(V(n),E(p))G=(V(n),E(p))G=(V(n),E(p))nnnVVVV={1,2,…,n}V={1,2,…,n}V = \{1,2,\ldots,n\}EEE ให้เป็นความน่าจะเป็นจากนั้นแต่ละคู่ที่ไม่เรียงลำดับของจุดยอด ( ) เกิดขึ้นเป็นขอบในกับความน่าจะเป็นโดยไม่ขึ้นอยู่กับคู่อื่น ๆ0 &lt; p &lt; 1 { i , j } i ≠ j E pppp0&lt;p&lt;10&lt;p&lt;10<p<1{i,j}{i,j}\{i,j\}i≠ji≠ji \neq jEEEppp รูปสามเหลี่ยมในเป็นสามส่วนที่ไม่ได้เรียงลำดับของจุดยอดที่ชัดเจนเช่น , , และอยู่ในขอบ .{ i , j , k } …

2
เหตุผลสำหรับรูปแบบผลกระทบคงที่และแบบสุ่มผลกระทบในการวิเคราะห์เมตา
ฉันได้อ่านสิ่งพิมพ์หลายฉบับที่พยายามแสดงให้เห็นถึงการใช้โมเดลเอฟเฟกต์คงที่พร้อมกับข้อความตามบรรทัดของ อย่างไรก็ตามฉันกังวลว่ามันอาจเป็นวิธีการวิเคราะห์ข้อมูลที่ไม่เหมาะสม มีเหตุผลหรือสิ่งตีพิมพ์ที่จะพูดถึงว่าเหตุใดจึงเป็นความผิดพลาดหรือไม่?

2
การสุ่มตัวอย่างที่แน่นอนจากส่วนผสมที่ไม่เหมาะสม
สมมติว่าผมต้องการที่จะตัวอย่างจากการกระจายอย่างต่อเนื่อง(x) ถ้าฉันมีการแสดงออกของในรูปแบบหน้าp(x)p(x)p(x)ppp p(x)=∑i=1∞aifi(x)p(x)=∑i=1∞aifi(x)p(x) = \sum_{i=1}^\infty a_i f_i(x) โดยที่และf_iคือการแจกแจงซึ่งสามารถสุ่มตัวอย่างได้ง่ายจากนั้นฉันสามารถสร้างตัวอย่างจากpโดย:ai⩾0,∑iai=1ai⩾0,∑iai=1a_i \geqslant 0, \sum_i a_i= 1fifif_ippp การสุ่มตัวอย่างฉลากiiiด้วยความน่าจะเป็นaiaia_i การสุ่มตัวอย่างX∼fiX∼fiX \sim f_i เป็นไปได้หรือไม่ที่จะทำให้ขั้นตอนนี้เป็นมาตรฐานหากaiaia_iเป็นลบในบางครั้ง? ฉันสงสัยว่าฉันเคยเห็นสิ่งนี้ทำที่ไหนสักแห่ง - อาจจะเป็นในหนังสือบางทีสำหรับการแจกจ่าย Kolmogorov - ดังนั้นฉันยินดีอย่างยิ่งที่จะยอมรับการอ้างอิงเป็นคำตอบ หากตัวอย่างของเล่นคอนกรีตมีประโยชน์สมมติว่าฉันต้องการตัวอย่างจากp(x,y)∝exp(−x−y−αxy−−√)x,y&gt;0p(x,y)∝exp⁡(−x−y−αxy)x,y&gt;0p(x,y) \propto \exp(-x-y-\alpha\sqrt{xy})\qquad x,y > 0ฉันจะ รับα∈(0,2)α∈(0,2)\alpha \in (0, 2)ด้วยเหตุผลทางเทคนิคซึ่งไม่ควรมีความสำคัญมากเกินไปในโครงการที่ยิ่งใหญ่ โดยหลักการแล้วฉันสามารถขยายสิ่งนี้เป็นผลรวมต่อไปนี้: p(x,y)∝∑n=0∞(−1)nαn(n2)!(n2)!n!(xn/2e−x(n2)!)(yn/2e−y(n2)!).p(x,y)∝∑n=0∞(−1)nαn(n2)!(n2)!n!(xn/2e−x(n2)!)(yn/2e−y(n2)!).p(x,y) \propto \sum_{n=0}^\infty \frac{(-1)^n \alpha^n \left( \frac{n}{2} \right)! \left( \frac{n}{2} \right)!}{n!} \left( \frac{x^{n/2} e^{-x}}{\left( \frac{n}{2} …

5
วิธีการวัดการกระจายตัวในข้อมูลความถี่ของคำ?
ฉันจะหาปริมาณการกระจายตัวในเวกเตอร์ที่มีการนับคำได้อย่างไร ฉันกำลังมองหาสถิติที่จะสูงสำหรับเอกสาร A เนื่องจากมีคำต่าง ๆ มากมายที่เกิดขึ้นไม่บ่อยนักและต่ำสำหรับเอกสาร B เพราะมันมีหนึ่งคำ (หรือคำไม่กี่คำ) ที่เกิดขึ้นบ่อยครั้ง โดยทั่วไปแล้วจะวัดการกระจายตัวหรือ "สเปรด" ในข้อมูลระบุได้อย่างไร มีวิธีมาตรฐานในการทำสิ่งนี้ในชุมชนการวิเคราะห์ข้อความหรือไม่?

4
ทำไมการทดสอบสมมติฐานเกี่ยวกับชุดข้อมูลที่ resampled ปฏิเสธค่า null บ่อยเกินไป?
tl; dr: เริ่มต้นด้วยชุดข้อมูลที่สร้างขึ้นภายใต้ null ฉัน resampled กรณีที่มีการเปลี่ยนและดำเนินการทดสอบสมมติฐานในแต่ละชุดข้อมูล resampled การทดสอบสมมติฐานเหล่านี้ปฏิเสธค่าว่างมากกว่า 5% ของเวลา ในด้านล่างการจำลองที่ง่ายมากฉันสร้างชุดข้อมูลด้วยและฉันพอดีกับ OLS แบบง่าย ๆ จากนั้นสำหรับแต่ละชุดข้อมูลฉันสร้างชุดข้อมูลใหม่ 1,000 ชุดโดยการสุ่มแถวใหม่ของชุดข้อมูลเดิมพร้อมการแทนที่ (อัลกอริทึมที่อธิบายไว้โดยเฉพาะในข้อความคลาสสิกของ Davison &amp; Hinkley ว่าเหมาะสมสำหรับการถดถอยเชิงเส้น) สำหรับแต่ละอันฉันพอดีกับ OLS รุ่นเดียวกัน ในที่สุดประมาณ 16% ของการทดสอบสมมติฐานในตัวอย่าง bootstrap ปฏิเสธ nullในขณะที่เราควรได้รับ 5% (ตามที่เราทำในชุดข้อมูลดั้งเดิม)X∼N(0,1)⨿Y∼N(0,1)X∼N(0,1)⨿Y∼N(0,1)X \sim N(0,1) \amalg Y \sim N(0,1) ฉันสงสัยว่ามันมีบางอย่างเกี่ยวกับการสังเกตซ้ำ ๆ ทำให้เกิดความสัมพันธ์ที่สูงเกินจริงดังนั้นในการเปรียบเทียบฉันลองวิธีอื่นสองวิธีในรหัสด้านล่าง (แสดงความคิดเห็น) ในวิธีที่ 2 ฉันแก้ไขจากนั้นแทนที่ด้วยส่วนที่เหลือ resampled จากโมเดล OLS …

6
ตัวอย่างง่ายๆในโลกแห่งความจริงสำหรับการสอนสถิติแบบเบย์?
ฉันต้องการค้นหา "ตัวอย่างในโลกแห่งความจริง" สำหรับการสอนสถิติแบบเบย์ สถิติแบบเบย์อนุญาตให้มีการรวมความรู้ก่อนหน้านี้เข้ากับการวิเคราะห์อย่างเป็นทางการ ฉันต้องการให้นักเรียนตัวอย่างง่ายๆในโลกแห่งความจริงที่เรียบง่ายของนักวิจัยที่รวมความรู้ก่อนหน้าไว้ในการวิเคราะห์ของพวกเขาเพื่อให้นักเรียนสามารถเข้าใจแรงจูงใจที่ดีขึ้นว่าทำไมคนเราอาจต้องการใช้สถิติแบบเบย์ในตอนแรก คุณตระหนักถึงตัวอย่างง่ายๆในโลกแห่งความเป็นจริงเช่นการประมาณค่าเฉลี่ยของประชากรสัดส่วนการถดถอยและอื่น ๆ ที่นักวิจัยรวบรวมข้อมูลก่อนหน้านี้อย่างเป็นทางการหรือไม่? ฉันรู้ว่า Bayesians สามารถใช้นักบวชที่ "ไม่ให้ข้อมูล" ได้เช่นกัน แต่ฉันสนใจเป็นพิเศษในตัวอย่างจริงที่ใช้นักบวชที่ให้ข้อมูล (เช่นข้อมูลก่อนจริง)

3
สมมติฐานเชิงเส้นตรงในการถดถอยเชิงเส้นเป็นเพียงนิยามของหรือไม่?
ฉันกำลังแก้ไขการถดถอยเชิงเส้น หนังสือเรียนของ Greene กล่าวว่า: ตอนนี้แน่นอนจะมีสมมติฐานอื่น ๆ ในรูปแบบการถดถอยเชิงเส้นเช่น 0 สมมติฐานนี้รวมกับข้อสมมติเชิงเส้นตรง (ซึ่งมีผลบังคับใช้กำหนด ) วางโครงสร้างบนแบบจำลองϵE(ϵ|X)=0E(ϵ|X)=0E(\epsilon|X)=0ϵϵ\epsilon อย่างไรก็ตามการวางตัวเป็นเส้นตรงด้วยตัวมันเองไม่ได้วางโครงสร้างใด ๆ ไว้ในแบบจำลองของเราเนื่องจากสามารถทำได้โดยพลการอย่างสมบูรณ์ สำหรับตัวแปรใด ๆไม่ว่าอะไรก็ตามความสัมพันธ์ระหว่างเราสองคนนั้นสามารถกำหนดเช่นนั้นเพื่อให้สมมติฐานเชิงเส้นตรง ดังนั้นความเป็นเส้นตรง "สมมติฐาน" ควรเรียกว่านิยามของๆ แทนที่จะเป็นข้อสมมติX , y ϵ ϵϵϵ\epsilonX,yX,yX, yϵϵ\epsilonϵϵ\epsilon ดังนั้นฉันสงสัย : กรีนเป็นคนเลอะเทอะหรือเปล่า? จริง ๆ แล้วเขาควรจะเขียน: ? นี่คือ "สมมติฐานเชิงเส้นตรง" ที่วางโครงสร้างในแบบจำลองE(y|X)=XβE(y|X)=XβE(y|X)=X\beta หรือฉันต้องยอมรับว่าการวางตัวเป็นเส้นตรงไม่ได้วางโครงสร้างลงบนแบบจำลอง แต่จะกำหนดเท่านั้นโดยที่สมมติฐานอื่น ๆ จะใช้นิยามของเพื่อวางโครงสร้างบนแบบจำลองϵϵϵ\epsilonϵϵ\epsilon แก้ไข : เนื่องจากมีความสับสนรอบสมมติฐานอื่นให้ฉันเพิ่มชุดเต็มของสมมติฐานที่นี่: นี่คือจากกรีน, การวิเคราะห์ทางเศรษฐมิติ, 7 เอ็ด พี 16

1
เมื่อใดที่จะไม่ใช้การตรวจสอบข้าม
เมื่อฉันอ่านในเว็บไซต์คำตอบส่วนใหญ่แนะนำว่าควรทำการตรวจสอบไขว้ในอัลกอริทึมการเรียนรู้ของเครื่อง อย่างไรก็ตามขณะที่ฉันอ่านหนังสือ "การเรียนรู้ของเครื่องเข้าใจ" ฉันเห็นว่ามีแบบฝึกหัดที่บางครั้งมันก็ดีกว่าที่จะไม่ใช้การตรวจสอบไขว้ ฉันสับสนจริงๆ เมื่อขั้นตอนวิธีการฝึกอบรมกับข้อมูลทั้งหมดดีกว่าการตรวจสอบข้าม มันเกิดขึ้นในชุดข้อมูลจริงหรือไม่? ให้เป็นคลาสสมมติฐาน สมมติว่าคุณจะได้รับ IID ฝึกอบรมตัวอย่างและคุณต้องการที่จะเรียนรู้ในชั้นเรียนHพิจารณาสองแนวทางทางเลือก: m H = ∪ k i = 1 H iH1, . . . , ชkH1,...,HkH_1,...,H_kม.mmH= ∪ki = 1HผมH=∪i=1kHiH=\cup^k_{i=1}H_i เรียนรู้เกี่ยวกับตัวอย่างโดยใช้กฎ ERMเมตรHHHม.mm แบ่งตัวอย่างเมตรเป็นชุดการฝึกอบรมที่มีขนาดและชุดตรวจสอบขนาดสำหรับบาง(0,1) จากนั้นใช้วิธีการเลือกแบบจำลองโดยใช้การตรวจสอบความถูกต้อง นั่นคือ fi rst ฝึกฝนแต่ละคลาสในตัวอย่างการฝึกอบรมโดยใช้กฎ ERM สำหรับและให้เป็นสมมติฐานที่เกิดขึ้น . ประการที่สองใช้กฎ ERM เกี่ยวกับคลาส class nite { } ในตัวอย่างการตรวจสอบความถูกต้องα เมตรα ∈ …

4
ฉันจะดึงค่าแบบสุ่มจากการประมาณความหนาแน่นของเคอร์เนลได้อย่างไร
ฉันมีข้อสังเกตบางอย่างและฉันต้องการจำลองการสุ่มตัวอย่างตามข้อสังเกตเหล่านี้ ที่นี่ฉันพิจารณารูปแบบที่ไม่ใช่พารามิเตอร์โดยเฉพาะฉันใช้เคอร์เนลที่ราบเรียบเพื่อประเมิน CDF จากการสังเกตที่ จำกัด จากนั้นฉันวาดค่าที่สุ่มจาก CDF ที่ได้รับต่อไปนี้เป็นรหัสของฉัน (ความคิดคือการสุ่มสะสม ความน่าจะเป็นโดยใช้การแจกแจงแบบสม่ำเสมอและหาค่าผกผันของ CDF เทียบกับค่าความน่าจะเป็น) x = [randn(100, 1); rand(100, 1)+4; rand(100, 1)+8]; [f, xi] = ksdensity(x, 'Function', 'cdf', 'NUmPoints', 300); cdf = [xi', f']; nbsamp = 100; rndval = zeros(nbsamp, 1); for i = 1:nbsamp p = rand; [~, idx] = sort(abs(cdf(:, …

1
LASSO ความสัมพันธ์ระหว่าง
ความเข้าใจของฉันเกี่ยวกับการถดถอย LASSO คือสัมประสิทธิ์การถดถอยถูกเลือกเพื่อแก้ปัญหาการย่อเล็กสุด: minβ∥y−Xβ∥22 s.t.∥β∥1≤tminβ‖y−Xβ‖22 s.t.‖β‖1≤t\min_\beta \|y - X \beta\|_2^2 \ \\s.t. \|\beta\|_1 \leq t ในทางปฏิบัติสิ่งนี้ทำได้โดยใช้ตัวคูณลากรองจ์ทำให้เกิดปัญหาในการแก้ปัญหา minβ∥y−Xβ∥22+λ∥β∥1minβ‖y−Xβ‖22+λ‖β‖1\min_\beta \|y - X \beta\|_2^2 + \lambda \|\beta\|_1 ความสัมพันธ์ระหว่างλλ\lambdaกับtttคืออะไร? วิกิพีเดียอย่างไม่ช่วยเหลือเพียงแค่ระบุว่า "ขึ้นอยู่กับข้อมูล" ทำไมฉันถึงแคร์ ประการแรกสำหรับความอยากรู้ทางปัญญา แต่ฉันก็กังวลเกี่ยวกับผลที่ตามมาสำหรับการเลือกλλ\lambdaโดยการตรวจสอบข้าม โดยเฉพาะถ้าฉันใช้การตรวจสอบความถูกต้องแบบครอส n-fold ฉันพอดีกับโมเดลที่แตกต่างกันกับ n พาร์ติชั่นต่าง ๆ ของข้อมูลการฝึกอบรมของฉัน จากนั้นฉันจะเปรียบเทียบความแม่นยำของโมเดลแต่ละรุ่นกับข้อมูลที่ไม่ได้ใช้สำหรับλλ\lambdaระบุ แต่\ lambdaเดียวกันλλ\lambdaหมายถึงข้อ จำกัด ที่แตกต่างกัน ( ttt ) สำหรับชุดย่อยที่แตกต่างกันของข้อมูล (เช่นt=f(λ)t=f(λ)t=f(\lambda)คือ "data dependent") ไม่ใช่ปัญหาการตรวจสอบข้ามที่ฉันต้องการแก้เพื่อค้นหาtttที่ให้การแลกเปลี่ยนอคติที่แม่นยำที่สุดหรือไม่ …

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.