สถิติและข้อมูลขนาดใหญ่

ถามตอบสำหรับผู้ที่สนใจในสถิติการเรียนรู้ของเครื่องจักรการวิเคราะห์ข้อมูลการขุดข้อมูล

3
ข้อสันนิษฐานของข้อผิดพลาดปกติบ่งบอกว่า Y เป็นปกติหรือไม่
ในกรณีที่ฉันเข้าใจผิดในรูปแบบเชิงเส้นการกระจายของการตอบสนองจะถือว่ามีองค์ประกอบที่เป็นระบบและเป็นองค์ประกอบแบบสุ่ม คำผิดพลาดจับองค์ประกอบแบบสุ่ม ดังนั้นถ้าเราสมมติว่าคำผิดพลาดมีการแจกแจงแบบปกตินั่นไม่ได้หมายความว่าคำตอบนั้นก็กระจายตามปกติด้วยเช่นกัน? ฉันคิดว่ามันเป็นเช่นนั้น แต่จากนั้นข้อความเช่นข้อความด้านล่างค่อนข้างสับสน: และคุณสามารถเห็นได้อย่างชัดเจนว่าข้อสันนิษฐานเพียงอย่างเดียวของ "ภาวะปกติ" ในแบบจำลองนี้ก็คือส่วนที่เหลือ (หรือ "ข้อผิดพลาด" ) ควรกระจายตามปกติ มีข้อสันนิษฐานเกี่ยวกับการกระจายของการทำนายไม่เป็นหรือตัวแปรตอบสนอง y_ix ฉันY ฉันϵiϵi\epsilon_ixixix_iyiyiy_i ที่มา: ผู้ทำนายการตอบสนองและสิ่งที่เหลืออยู่: ปกติแล้วจะต้องมีการแจกจ่ายอะไรจริง ๆ

1
จะจัดการกับ overdispersion ในการถดถอยของปัวซองได้อย่างไร: ความเป็นไปได้เสมือน, GLM ทวินามลบ, หรือเอฟเฟกต์แบบสุ่มระดับหัวเรื่อง?
ฉันได้พบกับข้อเสนอสามข้อเพื่อจัดการกับการกระจายเกินพิกัดในตัวแปรตอบกลับของปัวซองและโมเดลเริ่มต้นที่มีเอฟเฟกต์ถาวรทั้งหมด: ใช้แบบจำลองเสมือน; ใช้ GLM ลบแบบทวินาม ใช้โมเดลผสมกับเอฟเฟกต์แบบสุ่มระดับหัวเรื่อง แต่สิ่งที่จะเลือกจริงและทำไม? มีเกณฑ์ใดบ้างในกลุ่มนี้?

1
พิสูจน์ความสัมพันธ์ระหว่างระยะทาง Mahalanobis กับ Leverage ได้หรือไม่?
ฉันเคยเห็นสูตรในWikipedia ที่เกี่ยวข้องกับระยะทางและ Mahalanobis Leverage: ระยะทาง Mahalanobis มีความสัมพันธ์อย่างใกล้ชิดกับสถิติการใช้ประโยชน์แต่มีระดับที่แตกต่าง:hhhD2=(N−1)(h−1N).D2=(N−1)(h−1N).D^2 = (N - 1)(h - \tfrac{1}{N}). ในบทความที่มีการเชื่อมโยง Wikipedia อธิบายในเงื่อนไขเหล่านี้hhh ในโมเดลการถดถอยเชิงเส้นคะแนนความสามารถในการใช้ประโยชน์สำหรับหน่วยข้อมูลถูกกำหนดเป็น:องค์ประกอบส่วนของเมทริกซ์หมวกโดยที่หมายถึงเมทริกซ์ทรานสดิวเซอร์ithithi^{th}hii=(H)ii,hii=(H)ii,h_{ii}=(H)_{ii},ithithi^{th}H=X(X⊤X)−1X⊤H=X(X⊤X)−1X⊤H=X(X^{\top}X)^{-1}X^{\top}⊤⊤^{\top} ฉันไม่สามารถหาหลักฐานได้ทุกที่ ฉันพยายามเริ่มจากคำจำกัดความ แต่ฉันไม่สามารถก้าวหน้าได้ ทุกคนสามารถให้คำใบ้ได้บ้าง

2
ข้อดีข้อเสียของการเชื่อมโยงเข้าสู่ระบบและการเชื่อมโยงข้อมูลประจำตัวสำหรับการถดถอยปัวซอง
ฉันกำลังดำเนินการถดถอยปัวซองกับเป้าหมายสุดท้ายของการเปรียบเทียบ (และการแตกต่างของ) ในขณะที่ถือตัวแปรรุ่นอื่น ๆ (ซึ่งเป็นไบนารีทั้งหมด ) คงที่ ฉันสงสัยว่าถ้าใครสามารถให้คำแนะนำที่เป็นประโยชน์เกี่ยวกับเวลาที่จะใช้ลิงค์บันทึกกับลิงก์ประจำตัว อะไรคือข้อดีข้อเสียของฟังก์ชั่นลิงค์สองแบบนี้ในการถดถอยแบบปัวซองโดยมีเป้าหมายในการเปรียบเทียบความแตกต่างμ^1−μ^2μ^1−μ^2\hat{\mu}_1-\hat{\mu}_2 ฉันมีเป้าหมายเดียวกันในใจสำหรับการถดถอยโลจิสติกส์ / ทวินาม (เพื่อใช้ลิงค์ logit หรือลิงค์ตัวตน) เพื่อเปรียบเทียบความแตกต่างของสัดส่วนระหว่างสองระดับปัจจัยและต้องการคำแนะนำที่คล้ายกัน ฉันได้อ่านบางส่วนของโพสต์ที่สัมผัสกับปัญหานี้ แต่ดูเหมือนจะไม่มีใครอธิบายว่าทำไมหรือเมื่อมีใครอาจเลือกลิงค์หนึ่งมากกว่าอีกลิงค์และข้อดี / ข้อเสียอาจจะ ขอบคุณล่วงหน้าสำหรับความช่วยเหลือของ! UPDATE: ฉันยังตระหนักว่าจุดประสงค์หลักของการใช้ฟังก์ชั่นลิงก์บางอย่างคือเพื่อ จำกัด ช่วงของค่าทำนายที่เป็นไปได้ที่จะอยู่ในช่วงของการตอบสนองเฉลี่ย (เช่นสำหรับโลจิสติกส์ช่วงถูก จำกัด ให้อยู่ระหว่าง 0 ถึง 1 และล็อก ลิงก์การคาดคะเนถูก จำกัด ให้เป็นจำนวนบวก) ดังนั้นฉันเดาว่าสิ่งที่ฉันถามคือถ้าฉันใช้ลิงค์ประจำตัวเพื่อพูดการถดถอยโลจิสติก / ทวินามและผลลัพธ์ของฉันอยู่ในช่วง (0,1) มีความต้องการใช้ฟังก์ชั่นการเชื่อมโยงโลจิสติกหรือ ฉันจะทำให้การใช้ลิงก์การระบุตัวตนทำได้ง่ายขึ้นหรือไม่

2
การถดถอยเมื่อแต่ละจุดมีความไม่แน่นอนใน
ฉันทำวัดสองตัวแปรxและy ที่ พวกเขาทั้งสองได้รู้จักความไม่แน่นอนσ xและσ y ที่เกี่ยวข้องกับพวกเขา ฉันอยากพบความสัมพันธ์ระหว่างxและy ที่ ฉันจะทำมันได้อย่างไรnnnxxxYyyσxσx\sigma_xσYσy\sigma_yxxxYyy แก้ไข : แต่ละมีที่แตกต่างกันσ x , ฉันที่เกี่ยวข้องกับมันและเช่นเดียวกันกับปีฉันxผมxix_iσx , iσx,i\sigma_{x,i}Yผมyiy_i ตัวอย่าง R ที่ทำซ้ำได้: ## pick some real x and y values true_x <- 1:100 true_y <- 2*true_x+1 ## pick the uncertainty on them sigma_x <- runif(length(true_x), 1, 10) # 10 sigma_y <- runif(length(true_y), …

2
การถดถอยโลจิสติกส์เหมาะสมเมื่อใด
ขณะนี้ฉันกำลังสอนตัวเองเกี่ยวกับการจำแนกประเภทและโดยเฉพาะฉันกำลังดูวิธีการสามวิธี: การสนับสนุนเครื่องเวกเตอร์เครือข่ายประสาทและการถดถอยโลจิสติก สิ่งที่ฉันพยายามเข้าใจคือเหตุที่การถดถอยโลจิสติกจะทำงานได้ดีกว่าอีกสอง จากความเข้าใจของฉันในการถดถอยโลจิสติกความคิดคือการปรับฟังก์ชั่นโลจิสติกให้พอดีกับข้อมูลทั้งหมด ดังนั้นถ้าข้อมูลของฉันเป็นเลขฐานสองข้อมูลทั้งหมดที่มีป้ายกำกับ 0 ควรถูกแมปกับค่า 0 (หรือใกล้เคียง) และข้อมูลทั้งหมดที่มีค่า 1 ควรถูกแมปกับค่า 1 (หรือใกล้เคียง) ตอนนี้เนื่องจากฟังก์ชันโลจิสติกส์นั้นต่อเนื่องและราบรื่นการดำเนินการถดถอยนี้จึงต้องการข้อมูลทั้งหมดของฉันเพื่อให้พอดีกับเส้นโค้ง ไม่มีความสำคัญมากขึ้นนำไปใช้กับจุดข้อมูลที่อยู่ใกล้กับขอบเขตการตัดสินใจและจุดข้อมูลทั้งหมดมีส่วนทำให้เกิดการสูญเสียตามจำนวนที่แตกต่างกัน อย่างไรก็ตามด้วยการสนับสนุนเวกเตอร์แมชชีนและเครือข่ายนิวรัลเฉพาะจุดข้อมูลเหล่านั้นที่อยู่ใกล้กับขอบเขตการตัดสินใจมีความสำคัญ ตราบใดที่จุดข้อมูลยังคงอยู่ในขอบเขตเดียวกันของขอบเขตการตัดสินใจมันจะมีส่วนทำให้เกิดการสูญเสียเท่ากัน ดังนั้นเหตุใดการถดถอยของโลจิสติกจึงมีประสิทธิภาพสูงกว่าเครื่องเวกเตอร์หรือโครงข่ายประสาทเนื่องจากว่า "เสียทรัพยากร" ในการพยายามที่จะปรับเส้นโค้งให้เข้ากับข้อมูลที่ไม่สำคัญ (จำแนกได้ง่าย ๆ ) ขอบเขต?

1
วิธีที่เหมาะสมที่สุดในการแปลงสัดส่วนเมื่อเป็นตัวแปรอิสระคืออะไร
ฉันคิดว่าฉันเข้าใจปัญหานี้ แต่ตอนนี้ฉันไม่แน่ใจและฉันต้องการตรวจสอบกับผู้อื่นก่อนที่ฉันจะดำเนินการต่อ ฉันมีสองตัวแปรXและY. Yเป็นอัตราส่วนและไม่ได้ล้อมรอบด้วย 0 และ 1 และโดยทั่วไปแล้วจะกระจาย Xเป็นสัดส่วนและมันถูกล้อมรอบด้วย 0 และ 1 (มันวิ่งจาก 0.0 ถึง 0.6) เมื่อฉันเรียกใช้การถดถอยเชิงเส้นของY ~ Xและฉันพบว่าXและYมีความสัมพันธ์เชิงเส้นอย่างมีนัยสำคัญ จนถึงตอนนี้ดีมาก แต่แล้วผมตรวจสอบต่อไปและผมก็เริ่มคิดว่าบางทีXและY'ความสัมพันธ์อาจจะโค้งมากกว่าเชิงเส้น ให้ฉันดูเหมือนความสัมพันธ์ของXและYอาจจะใกล้ชิดกับY ~ log(X), Y ~ sqrt(X)หรือY ~ X + X^2, หรือสิ่งที่ต้องการ ฉันมีเหตุผลเชิงประจักษ์ที่จะถือว่าความสัมพันธ์นั้นอาจเป็นเส้นโค้ง แต่ไม่ใช่เหตุผลที่จะถือว่าความสัมพันธ์ที่ไม่ใช่เชิงเส้นใด ๆ อาจดีกว่าความสัมพันธ์อื่น ฉันมีคำถามที่เกี่ยวข้องสองสามข้อจากที่นี่ ก่อนอื่นXตัวแปรของฉันรับค่าสี่ค่า: 0, 0.2, 0.4 และ 0.6 เมื่อฉันล็อก - หรือสแควร์รูท - แปลงข้อมูลเหล่านี้ระยะห่างระหว่างค่าเหล่านี้จะผิดเพี้ยนเพื่อให้ค่า 0 อยู่ห่างจากค่าอื่นทั้งหมดมาก …

2
ความคาดหวังของตัวแปร iid Gumbel สูงสุด
ฉันอ่านวารสารเศรษฐศาสตร์อย่างต่อเนื่องเกี่ยวกับผลลัพธ์เฉพาะที่ใช้ในแบบจำลองยูทิลิตี้แบบสุ่ม ผลลัพธ์หนึ่งเวอร์ชันคือ: ถ้าϵi∼iid,ϵi∼iid,\epsilon_i \sim_{iid}, Gumbel ( μ,1),∀iμ,1),∀i\mu, 1), \forall iจากนั้น: E[maxi(δi+ϵi)]=μ+γ+ln(∑iexp{δi}),E[maxi(δi+ϵi)]=μ+γ+ln⁡(∑iexp⁡{δi}),E[\max_i(\delta_i + \epsilon_i)] = \mu + \gamma + \ln\left(\sum_i \exp\left\{\delta_i \right\} \right), โดยที่คือค่าคงที่ออยเลอร์ - มาเชโรนี่ ฉันได้ตรวจสอบแล้วว่าสิ่งนี้สมเหตุสมผลโดยใช้ R และมันก็ใช้ได้ CDF สำหรับการกระจายGumbelคือ:γ≈0.52277γ≈0.52277\gamma \approx 0.52277(μ,1)(μ,1)(\mu, 1) G(ϵi)=exp(−exp(−(ϵi−μ)))G(ϵi)=exp⁡(−exp⁡(−(ϵi−μ)))G(\epsilon_i) = \exp(-\exp(-(\epsilon_i - \mu))) ฉันพยายามหาข้อพิสูจน์เรื่องนี้และฉันก็ไม่ประสบความสำเร็จ ฉันพยายามพิสูจน์ด้วยตัวเอง แต่ไม่สามารถผ่านขั้นตอนใดไปได้ ใครสามารถชี้ให้ฉันเห็นหลักฐานนี้ ถ้าไม่ฉันอาจโพสต์ข้อความพิสูจน์ความพยายามจนถึงจุดที่ฉันติดอยู่

2
นิยาม AIC ที่แตกต่าง
จากวิกิพีเดียมีคำนิยามของ Akaike's Information Criterion (AIC) เป็นโดยที่kคือจำนวนพารามิเตอร์และlog Lคือความเป็นไปได้ของโมเดลA Iค= 2 k - 2 บันทึกLAIC=2k−2log⁡L AIC = 2k -2 \log L kkkเข้าสู่ระบบLlog⁡L\log L อย่างไรก็ตามบันทึกเศรษฐเราในมหาวิทยาลัยของรัฐที่นับหน้าถือตาที่ฉันC = บันทึก( σ 2 ) + 2 ⋅ k . นี่ σ 2คือความแปรปรวนโดยประมาณสำหรับข้อผิดพลาดในรูปแบบ ARMA และTคือจำนวนของการสังเกตในชุดข้อมูลชุดเวลาA Iค= บันทึก( σ^2) + 2 ⋅ kTAIC=log⁡(σ^2)+2⋅kT AIC = \log (\hat{\sigma}^2) + \frac{2 …

2
เมทริกซ์ความแปรปรวนร่วมแบบไม่ดีในการถดถอยของ GP สำหรับการปรับให้เหมาะสมแบบเบย์
ความเป็นมาและปัญหา ฉันใช้กระบวนการแบบเกาส์ (GP) สำหรับการถดถอยและการปรับให้เหมาะสมแบบเบย์ (BO) ในภายหลัง สำหรับการถดถอยฉันใช้แพ็คเกจgpmlสำหรับ MATLAB ที่มีการแก้ไขที่กำหนดเองหลายอย่าง แต่ปัญหาเป็นเรื่องทั่วไป มันเป็นความจริงที่รู้จักกันดีว่าเมื่ออินพุตการฝึกอบรมสองอันอยู่ใกล้กับพื้นที่อินพุตมากเกินไปเมทริกซ์ความแปรปรวนร่วมอาจไม่แน่นอนแน่นอน (มีคำถามหลายข้อเกี่ยวกับมันในเว็บไซต์นี้) เป็นผลให้การสลายตัว Cholesky ของเมทริกซ์ความแปรปรวนร่วมที่จำเป็นสำหรับการคำนวณ GP ต่างๆอาจล้มเหลวเนื่องจากข้อผิดพลาดเชิงตัวเลข เรื่องนี้เกิดขึ้นกับฉันในหลายกรณีเมื่อดำเนินการ BO พร้อมกับฟังก์ชั่นวัตถุประสงค์ที่ฉันใช้และฉันต้องการแก้ไข โซลูชันที่เสนอ AFAIK โซลูชันมาตรฐานเพื่อบรรเทาอาการป่วยไข้คือการเพิ่มสันเขาหรือนักเก็ตในแนวทแยงของเมทริกซ์ความแปรปรวนร่วม สำหรับการถดถอย GP จำนวนเสียงนี้จะเพิ่ม (หรือเพิ่มขึ้นหากมีอยู่) เสียงการสังเกต จนถึงตอนนี้ดีมาก ฉันปรับเปลี่ยนรหัสสำหรับการอนุมานที่แน่นอนของgpmlดังนั้นเมื่อใดก็ตามที่การสลายตัวของ Cholesky ล้มเหลวฉันพยายามที่จะแก้ไขเมทริกซ์ความแปรปรวนร่วมกับเมทริกซ์สมการเชิงบวกสมมาตร (SPD) ที่ใกล้เคียงที่สุดในบรรทัดฐาน Frobenius แรงบันดาลใจจากรหัส MATLABโดย John d'Errico เหตุผลคือเพื่อลดการแทรกแซงในเมทริกซ์เดิม วิธีแก้ปัญหานี้ทำงานได้ แต่ฉันสังเกตเห็นว่าประสิทธิภาพของ BO ลดลงอย่างมากสำหรับบางฟังก์ชั่น - อาจเป็นได้ทุกครั้งที่อัลกอริทึมจำเป็นต้องซูมเข้าในบางพื้นที่ (เช่นเนื่องจากใกล้เข้าใกล้ระดับต่ำสุด ปัญหามีขนาดเล็กไม่สม่ำเสมอ) พฤติกรรมนี้เหมาะสมเมื่อฉันเพิ่มสัญญาณรบกวนอย่างมีประสิทธิภาพเมื่อใดก็ตามที่จุดอินพุตสองจุดเข้าใกล้เกินไป แต่แน่นอนว่ามันไม่เหมาะ …

3
ทำไมการแยกความแตกต่างระหว่างการ "เชิงเส้น" และ "การไม่เชิงเส้น" จึงเป็นสิ่งสำคัญ
อะไรคือความสำคัญของความแตกต่างระหว่างตัวแบบเชิงเส้นและแบบไม่ใช่เชิงเส้น? คำถามแบบไม่เชิงเส้นเทียบกับโมเดลเชิงเส้นทั่วไป: คุณจะอ้างถึงการถดถอยโลจิสติกปัวซอง ฯลฯ อย่างไร และคำตอบคือการให้คำอธิบายที่เป็นประโยชน์อย่างมากเกี่ยวกับความเป็นเชิงเส้น / ไม่เชิงเส้นของแบบจำลองเชิงเส้นทั่วไป ดูเหมือนว่าสำคัญอย่างยิ่งที่จะแยกแยะเชิงเส้นจากตัวแบบที่ไม่ใช่เชิงเส้น แต่ทำไมฉันถึงไม่ชัดเจน ตัวอย่างเช่นพิจารณาโมเดลการถดถอยเหล่านี้: E[Y∣X]E[Y∣X]E[Y∣X]E[Y∣X]=β0+β1X=β0+β1X+β2X2=β0+β21X={1+exp(−[β0+β1X]}−1(1)(2)(3)(4)(1)E[Y∣X]=β0+β1X(2)E[Y∣X]=β0+β1X+β2X2(3)E[Y∣X]=β0+β12X(4)E[Y∣X]={1+exp⁡(−[β0+β1X]}−1\begin{align} E[Y \mid X] & = \beta_0 + \beta_1 X \tag{1} \\ E[Y \mid X] & = \beta_0 + \beta_1 X + \beta_2 X^2 \tag{2} \\ E[Y \mid X] & = \beta_0 + \beta_1^2 X \tag{3} \\ E[Y \mid …

2
ทฤษฎีบทของ Slutsky ยังคงใช้ได้เมื่อทั้งสองลำดับมาบรรจบกันเป็นตัวแปรสุ่มที่ไม่เสื่อมโทรมหรือไม่?
ฉันสับสนเกี่ยวกับรายละเอียดบางอย่างเกี่ยวกับทฤษฎีบทของ Slutsky : ให้{Xn}{Xn}\{X_n\} , {Yn}{Yn}\{Y_n\}เป็นสองลำดับขององค์ประกอบแบบสุ่มสเกลาร์ / เวกเตอร์ / เมทริกซ์ ถ้าXnXnX_nลู่ในการกระจายไปยังองค์ประกอบสุ่มXXXและYnYnY_n ลู่เข้าในความน่าจะเป็นค่าคงที่cccดังนั้นXn+Yn XnYn Xn/Yn →d X+c→d cX→d X/c,Xn+Yn →d X+cXnYn →d cXXn/Yn →d X/c,\eqalign{ X_{n}+Y_{n}\ &{\xrightarrow {d}}\ X+c\\ X_{n}Y_{n}\ &{\xrightarrow {d}}\ cX\\ X_{n}/Y_{n}\ &{\xrightarrow {d}}\ X/c, } ที่cccนั้นกลับด้านได้โดยที่→d→d{\xrightarrow {d}}หมายถึงลู่เข้าหากันในการแจกแจง หากทั้งสองลำดับในทฤษฎีบทของ Slutsky ทั้งคู่มารวมกันเป็นตัวแปรสุ่มที่ไม่เสื่อมโทรมทฤษฎีบทก็ยังคงใช้ได้และถ้าไม่ใช่ (มีคนให้ตัวอย่างเป็นตัวอย่าง) เงื่อนไขพิเศษที่ทำให้มันใช้ได้คืออะไร

1
การแจกแจงความน่าจะเป็นพิเศษ
ถ้าp(x)p(x)p(x)คือการกระจายความน่าจะเป็นที่ไม่ใช่ศูนย์ค่าบน[0,+∞)[0,+∞)[0,+\infty)สำหรับสิ่งที่ประเภท (s) ของp(x)p(x)p(x)จะมีอยู่อย่างต่อเนื่องc>0c>0c\gt 0เช่นที่ ∫∞0p(x)logp(x)(1+ϵ)p(x(1+ϵ))dx≤cϵ2∫0∞p(x)log⁡p(x)(1+ϵ)p(x(1+ϵ))dx≤cϵ2\int_0^{\infty}p(x)\log{\frac{ p(x)}{(1+\epsilon)p({x}(1+\epsilon))}}dx \leq c \epsilon^2สำหรับทั้งหมด0<ϵ<10<ϵ<10\lt\epsilon\lt 1? ความไม่เสมอภาคดังกล่าวข้างต้นเป็นจริง Kullback-Leibler แตกต่างระหว่างการกระจายp(x)p(x)p(x)และรุ่นที่ถูกบีบอัดของมัน(1+ϵ)p(x(1+ϵ))(1+ϵ)p(x(1+ϵ)){(1+\epsilon)}p({x}{(1+\epsilon)}) ) ฉันพบว่าความไม่เท่าเทียมกันนี้มีไว้สำหรับการแจกแจงแบบเอ็กซ์โปเนนเชียลแกมม่าและไวบูลและฉันสนใจที่จะรู้ว่ามันใช้ได้กับการแจกแจงความน่าจะเป็นที่มีขนาดใหญ่ขึ้นหรือไม่ ความคิดใดที่ความไม่เท่าเทียมนั้นหมายถึงอะไร

1
ค่าที่คาดหวังของ , ค่าสัมประสิทธิ์ของการกำหนดภายใต้สมมติฐานว่าง
ผมอยากรู้เกี่ยวกับคำสั่งที่ทำที่ด้านล่างของหน้าแรกในข้อความนี้ เกี่ยวกับปรับR2adjustedRadjusted2R^2_\mathrm{adjusted} R2adjusted=1−(1−R2)(n−1n−m−1).Radjusted2=1−(1−R2)(n−1n−m−1).R^2_\mathrm{adjusted} =1-(1-R^2)\left({\frac{n-1}{n-m-1}}\right). ข้อความระบุ: ตรรกะของการปรับตัวคือต่อไปนี้: ในการถดถอยพหุคูณสามัญทำนายสุ่มอธิบายในสัดส่วนเฉลี่ย1/(n–1)1/(n–1)1/(n – 1)ของการเปลี่ยนแปลงการตอบสนองเพื่อให้mmmทำนายสุ่มอธิบายกันโดยเฉลี่ยm/(n–1)m/(n–1)m/(n – 1)ความแปรปรวนของการตอบสนอง; ในคำอื่น ๆ ที่คาดว่าค่าตัวของR2R2R^2คือE(R2)=m/(n–1)E(R2)=m/(n–1)\mathbb{E}(R^2) = m/(n – 1)1) การใช้สูตร[ R2adjustedRadjusted2R^2_\mathrm{adjusted} ] กับค่านั้นโดยที่ตัวทำนายทั้งหมดสุ่มเลือกให้R2adjusted=0Radjusted2=0R^2_\mathrm{adjusted} = 0 " นี้น่าจะเป็นแรงจูงใจที่ง่ายมากและ interpretable สำหรับR2adjustedRadjusted2R^2_\mathrm{adjusted}{} อย่างไรก็ตามฉันไม่สามารถระบุได้ว่าE(R2)=1/(n–1)E(R2)=1/(n–1)\mathbb{E}(R^2)=1/(n – 1)สำหรับตัวทำนายแบบสุ่มเดี่ยว (เช่นไม่มีการจับคู่) ใครช่วยชี้ทางฉันให้ถูกทางที่นี่?

3
ทำไม softmax แบบลำดับขั้นดีกว่าสำหรับคำที่ไม่บ่อยนักในขณะที่การสุ่มตัวอย่างเชิงลบจะดีกว่าสำหรับคำที่ใช้บ่อย
ฉันสงสัยว่าทำไม softmax แบบลำดับชั้นนั้นดีกว่าสำหรับคำที่ไม่บ่อยนักในขณะที่การสุ่มตัวอย่างเชิงลบจะดีกว่าสำหรับคำที่ใช้บ่อยใน CBOW ของ word2vec และโมเดล skip-gram ฉันได้อ่านข้อเรียกร้องในhttps://code.google.com/p/word2vec/

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.