ทำความเข้าใจเกี่ยวกับการวัดความไม่เท่าเทียมกันความเข้มข้น


12

ด้วยจิตวิญญาณของคำถามนี้การทำความเข้าใจหลักฐานของบทแทรกที่ใช้ในความไม่เท่าเทียมกันของ Hoeffdingฉันพยายามทำความเข้าใจขั้นตอนที่นำไปสู่ความไม่เท่าเทียมของ Hoeffding

สิ่งที่เก็บความลึกลับที่สุดสำหรับฉันในการพิสูจน์คือส่วนที่ช่วงเวลาเลขชี้กำลังถูกคำนวณเพื่อหาผลรวมของตัวแปร iid ซึ่งหลังจากนั้นจะใช้ความไม่เท่าเทียมกันของมาร์คอฟ

เป้าหมายของฉันคือการเข้าใจ: ทำไมเทคนิคนี้ให้ความไม่เท่าเทียมกันแน่น คำอธิบายทั่วไปหมายถึงช่วงเวลาที่สร้างคุณสมบัติของเลขชี้กำลัง แต่ฉันก็พบว่ามันคลุมเครือเกินไป

โพสต์ในบล็อกของเต่าhttp://terrytao.wordpress.com/2010/01/03/254a-notes-1-concentration-of-measure/#hoeffอาจมีคำตอบ

ด้วยเป้าหมายนี้ในใจคำถามของฉันคือประมาณสามจุดในโพสต์ของเทาที่ฉันติดอยู่และที่ฉันหวังว่าจะให้ข้อมูลเชิงลึกเมื่ออธิบาย

  1. เทาได้รับอสมการต่อไปนี้โดยใช้ช่วงเวลา k-th ถ้านี่เป็นเรื่องจริงสำหรับ k ใด ๆ เขาจะสรุปขอบเขตของเลขชี้กำลัง นี่คือที่ฉันหลงทาง

    P(|Sn|λn)2(ek/2λ)k.     (7)
    P(|Sn|λn)Cexp(cλ2)     (8)
  2. Hoeffding แทรกจะนำเสนอ: บทแทรก 1 (แทรก Hoeffding ของ) ให้เป็นตัวแปรสเกลาสละค่าในช่วงเวลาb]} แล้วสำหรับการใด ๆ , โดยเฉพาะ หลักฐานของเลม 1 เริ่มต้นด้วยการคาดหวังจากการขยายเทย์เลอร์ เหตุใดการขยายจึงถูก จำกัด โดยสมการกำลังสองนั้น? และสมการที่ 10 จะติดตามได้อย่างไรX[a,b]t>0

    EetXetEX(1+O(t2Var(X)exp(O(t(ba)))).     (9)
    EetXetEXexp(O(t2(ba)2)).     (10)
    etX=1+tX+O(t2X2exp(O(t)))
  3. ในที่สุดการออกกำลังกายจะได้รับ:
    การออกกำลังกาย 1 แสดงว่าปัจจัยใน (10) สามารถแทนที่ด้วยและสิ่งนี้ คม สิ่งนี้จะให้หลักฐานที่สั้นกว่าในการทำความเข้าใจหลักฐานของบทแทรกที่ใช้ในความไม่เท่าเทียมกันของ Hoeffdingแต่ฉันไม่รู้วิธีแก้ปัญหานี้O(t2(ba)2)t2(ba)2/8

คำอธิบายเพิ่มเติมเกี่ยวกับการพิสูจน์ความไม่เท่าเทียมกันหรือเหตุผลที่เราไม่สามารถสืบหาขอบเขตที่แน่นแฟ้นได้อย่างแน่นอน


คุณอ่านกระดาษต้นฉบับของ Hoeffding หรือยัง
Alecos Papadopoulos

@AlecosPapadopoulos ฉันยังไม่ได้ ฉันอยู่ภายใต้ความประทับใจที่มาประกอบด้วยขั้นตอนเกี่ยวกับพีชคณิตที่สอนในหลักสูตรคณิตศาสตร์โดยไม่มีคำอธิบายที่ฉันกำลังมองหา คุณสามารถพูดเป็นอย่างอื่นได้ไหม
Leo

ฉันแนะนำให้คุณอ่าน url ที่มีเสถียรภาพใน JSTOR เป็นjstor.org/stable/2282952 สิ่งที่ "ถือความลึกลับให้กับคุณมากที่สุด" คือ Theorems 1, 2 & 3 ของเอกสารการพิสูจน์ซึ่งอยู่ในส่วนที่ 4 ของบทความ (ไม่ใช่ตอนท้าย) และพวกเขาดูชัดเจนสำหรับฉัน ฉันไม่รู้ว่าคุณกำลังค้นหาสัญชาตญาณที่ไม่ใช่คณิตศาสตร์หรือไม่ถ้าใช่มันไม่ได้มีอยู่เสมอ
Alecos Papadopoulos

คำตอบ:


3

การใช้ช่วงเวลาอธิบายเป็นขั้นตอนทั่วไปในกระบวนการพิสูจน์ความเข้มข้นของความไม่เท่าเทียมกันของการวัด ความเข้าใจของฉันมีดังต่อไปนี้ 1) การใช้แทนที่จะเป็นคนหนึ่งจับภาพทุกช่วงเวลาของมากกว่าช่วงเวลาแรก ดังนั้นมันก็มักจะได้เปรียบในการที่ถูกผูกไว้มากกว่าผูกพันเป็นมีข้อมูลเพิ่มเติมในอีเอ็กซ์ ทำไมมีข้อมูลเพิ่มเติม คำอธิบายทางการจะได้รับจากความจริงที่ว่าการขยายตัวของเทย์เลอร์อีอย่างที่คุณเห็นพลังทั้งหมดของEeXEXXEeXEXEeXEeXeX=1+X+X22+X36+Xที่มีส่วนเกี่ยวข้อง. ดังนั้นเมื่อคุณใช้คุณเป็นหลักจบลงด้วยการวิ่งทุกช่วงเวลาของX EXX


2
ตามคำนิยามฟังก์ชั่นการวิเคราะห์ใด ๆในพื้นที่ใกล้เคียงมีซีรีย์เทย์เลอร์ที่มาบรรจบกันอย่างแน่นอน อาร์กิวเมนต์ของคุณจึงแสดงให้เห็นว่าการชี้แจงสามารถเช่นเดียวกับดีจะถูกแทนที่ด้วย(x) ไม่มีอะไรพิเศษเกี่ยวกับเลขชี้กำลัง? f0eXf(X)
whuber

1
ฉันไม่คิดว่าจะแทนที่ด้วยฟังก์ชันการวิเคราะห์ทั่วไป แต่ตอนนี้ที่คุณได้กล่าวว่าผมคิดว่าเป็น "ความเหมาะสม" ฟังก์ชั่นอาจจะเป็นเช่นที่เพื่อให้ความไม่เท่าเทียมกันของมาร์คอฟสามารถนำมาใช้และเป็นหนึ่งที่มีการขยายตัวของเทย์เลอร์มีอำนาจทั้งหมดของเพื่อให้ช่วงเวลาที่ทุกคนมี ถูกจับกุม ฉันเดาแล้วเป็นตัวเลือกที่ง่ายและเป็นธรรมชาติที่สุด ff(x)>0XeX
gmravi2003

1
ฉันไม่ได้ดูมัน แต่ฉันสงสัยว่าเอกซ์โปเนนเชียลมีคุณสมบัติบางอย่างรวมถึงที่คุณชื่อซึ่งมีความสำคัญ: สัมประสิทธิ์ทั้งหมดควรเป็นบวกอย่างเคร่งครัดและเป็นประโยชน์ที่มันจะรวมกันทุกที่อย่างแน่นอน แต่ฉันเชื่อว่ามีเหตุผลที่ลึกซึ้งกว่าว่าทำไมฟังก์ชั่นนี้จึงมีความสำคัญเกี่ยวข้องกับคุณสมบัติของการแปลงฟูริเยร์และลาปลาซ มันอาจส่องสว่างในการสำรวจการสืบทอดของความไม่เท่าเทียมกันของการวัดเพื่อดูว่ามีการใช้คุณสมบัติของเลขชี้กำลังแบบใด! (+1)
whuber

@whuber นั่นเป็นข้อสังเกตที่ดี ขณะนี้ฉันพบคำอธิบายขณะที่ไม่มี สิ่งที่ทำให้ฉันเชื่อว่าเป็นคุณสมบัติขอบเขตและการแบ่งแยกของฟังก์ชันเลขชี้กำลัง นั่นคือ . ดังนั้นหากยิ่งมีตัวแปร iid มากขึ้นเท่าไหร่เราก็ยิ่งเฉลี่ยเท่านั้น ดังนั้นจึงให้ขอบเขตที่อธิบาย P{x1+x2>0}=E{1[x1+x2>0]}E{exp(tx1)}E{exp(tx2)}E{exp(tx1)}<1
Leo

ฉันต้องการให้คุณสนใจคำถามเกี่ยวกับความหนาแน่นของขอบเขตนี้: stats.stackexchange.com/questions/77019/…
Leo
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.