ตัวประมาณความน่าจะเป็นสูงสุดสำหรับการแจกแจงที่ถูกตัดทอน

พิจารณากลุ่มที่เป็นอิสระที่ได้รับจากตัวแปรสุ่มที่จะถือว่าเป็นไปตามการกระจายตัดทอน (เช่นตัดทอนกระจายปกติ ) รู้จักขั้นต่ำ ( จำกัด ) และค่าสูงสุดและแต่ของพารามิเตอร์ที่ไม่รู้จักและ 2 ถ้าตามการกระจายที่ไม่ถูกตัดทอนตัวประมาณค่าความน่าจะเป็นสูงสุดและสำหรับและจากจะเป็นค่าเฉลี่ยตัวอย่าง $N$ $S$ $X$ $a$ $b$ $\mu$ $\sigma^2$ $X$ $\widehat\mu$ $\widehat\sigma^2$ $\mu$ $\sigma^2$ $S$ $\widehat\mu = \frac{1}{N} \sum_i S_i$ และตัวอย่างแปรปรวน 2 อย่างไรก็ตามสำหรับการแจกแจงที่ถูกตัดทอนตัวอย่างความแปรปรวนที่กำหนดในลักษณะนี้จะถูก จำกัด ด้วยดังนั้นจึงไม่ใช่ตัวประมาณที่สอดคล้องกันเสมอ: สำหรับมันไม่สามารถรวมกันในความน่าจะเป็นเมื่อไปที่อนันต์ ดังนั้นดูเหมือนว่าและไม่ใช่ตัวประมาณโอกาสสูงสุดของและสำหรับการแจกแจงที่ถูกตัดทอน แน่นอนว่าต้องมีการคาดการณ์ตั้งแต่และ $\widehat\sigma^2 = \frac{1}{N} \sum_i (S_i - \widehat\mu)^2$ $(b-a)^2$ $\sigma^2 > (b-a)^2$ $\sigma^2$ $N$ $\widehat\mu$ $\widehat\sigma^2$ $\mu$ $\sigma^2$ $\mu$ $\sigma^2$ พารามิเตอร์ของการแจกแจงแบบปกติที่ถูกตัดทอนไม่ได้เป็นค่าเฉลี่ยและความแปรปรวน

ดังนั้นตัวประมาณค่าความน่าจะเป็นสูงสุดของพารามิเตอร์และของการแจกแจงแบบตัดทอนของค่าต่ำสุดและค่าสูงสุดที่ทราบคืออะไร $\mu$ $\sigma$

— a3nm
แหล่งที่มา

คุณแน่ใจเกี่ยวกับการวิเคราะห์ของคุณหรือไม่ ฉันคิดว่าคุณกำลังทำการสันนิษฐานที่ไม่ถูกต้อง: สำหรับสถานการณ์ที่ถูกตัดทอน MLE ของไม่ใช่ความแปรปรวนตัวอย่างอีกต่อไป (และโดยทั่วไปแล้ว MLE ของนั้นไม่ใช่ค่าเฉลี่ยตัวอย่างอีกต่อไป!)

σ^{2}

$\sigma^2$

μ

$\mu$

— whuber

whuber: ฉันรู้ว่านี่เป็นคำถามของฉัน: MLEs ของและในกรณีที่ถูกตัดทอนคืออะไร? การเพิ่มประโยคเพื่อยืนยันสิ่งนี้

σ^{2}

$\sigma^2$

μ

$\mu$

— a3nm

ไม่มีโซลูชันแบบปิด สิ่งที่คุณทำได้คือลดโอกาสในการบันทึก แต่สิ่งนี้มีคุณภาพไม่ต่างจากรุ่นอื่น ๆ เช่นการถดถอยโลจิสติกซึ่งไม่มีวิธีแก้ปัญหาแบบปิด

— whuber

whuber: ถ้านี่เป็นเรื่องจริงมันก็น่าผิดหวังอยู่ดี คุณมีข้อมูลอ้างอิงเกี่ยวกับการขาดโซลูชั่นแบบปิดหรือไม่? มีตัวประมาณแบบปิดที่ไม่ได้เป็นโอกาสสูงสุด แต่มีความสอดคล้องอย่างน้อย (และไม่ฝักใฝ่ทางเลือกหรือไม่)

— a3nm

@whuber: อย่างน้อยคุณสามารถทำให้ตัวอย่างของคุณง่ายขึ้นเป็นสถิติที่เพียงพอเพื่อให้การย่อขนาดนั้นรวดเร็วหรือไม่

— Neil G

พิจารณาใด ๆของครอบครัวที่ตั้งขนาดกำหนดโดย "มาตรฐาน" การกระจาย , $F$

Ω_{F} = {F_{(μ, σ)} : x \to F (\frac{x - μ}{σ}) ∣ σ > 0} .

$\Omega_F = \left\{F_{(\mu, \sigma)}: x \to F\left(\frac{x-\mu}{\sigma}\right) \mid \sigma \gt 0\right\}.$

สมมติว่าอนุพันธ์เราพร้อมพบว่าไฟล์ PDF ที่มี\ $F$ $\frac{1}{\sigma}f\left((x-\mu)/\sigma\right)dx$

การตัดทอนการแจกแจงเหล่านี้เพื่อ จำกัด การสนับสนุนระหว่างและ , , หมายความว่า PDF ถูกแทนที่ด้วย $a$ $b$ $a \lt b$

f_{(μ, σ; a, b)} (x) = \frac{f (\frac{x - μ}{σ}) d x}{σ C (μ, σ, a, b)}, a \leq x \leq b

$f_{(\mu, \sigma; a,b)}(x) = \frac{f\left(\frac{x-\mu}{\sigma}\right)dx}{\sigma C(\mu, \sigma, a, b)}, a \le x \le b$

(และเป็นศูนย์สำหรับค่าอื่น ๆ ทั้งหมดของ ) โดยที่เป็นปัจจัยการทำให้เป็นมาตรฐานที่จำเป็นเพื่อให้แน่ใจว่ารวมเข้ากับความสามัคคี (โปรดทราบว่าคือเหมือนกันในกรณีที่ไม่มีการตัดทอน) โอกาสในการบันทึกสำหรับข้อมูล iidจึงเป็น $x$ $C(\mu, \sigma, a, b) = F_{(\mu,\sigma)}(b) - F_{(\mu,\sigma)}(a)$ $f_{(\mu, \sigma; a, b)}$ $C$ $1$ $x_i$

Λ (μ, σ) = \sum_{i} [\log f (\frac{x_{i} - μ}{σ}) - \log σ - \log C (μ, σ, a, b)] .

$\Lambda(\mu, \sigma) = \sum_i \left[\log{f\left(\frac{x_i-\mu}{\sigma}\right)} - \log{\sigma}-\log{C(\mu, \sigma, a, b)}\right].$

จุดวิกฤต (รวมถึง minima ทั่วโลก) จะพบที่ใด (กรณีพิเศษที่ฉันจะไม่สนใจที่นี่) หรือการไล่ระดับสีหายไป การใช้ห้อยเพื่อแสดงอนุพันธ์เราอาจคำนวณการไล่ระดับสีอย่างเป็นทางการและเขียนสมการความน่าจะเป็น $\sigma=0$

\begin{aligned} 0 & = \frac{\partial Λ}{\partial μ} & = \sum_{i} [\frac{- f_{μ} (\frac{x_{i} - μ}{σ})}{f (\frac{x_{i} - μ}{σ})} - \frac{C_{μ} (μ, σ, a, b)}{C (μ, σ, a, b)}] \\ 0 & = \frac{\partial Λ}{\partial σ} & = \sum_{i} [\frac{- f_{σ} (\frac{x_{i} - μ}{σ})}{σ^{2} f (\frac{x_{i} - μ}{σ})} - \frac{1}{σ} - \frac{C_{σ} (μ, σ, a, b)}{C (μ, σ, a, b)}] \end{aligned}

$\eqalign{ 0 &= \frac{\partial\Lambda}{\partial\mu} &= \sum_i \left[\frac{-f_\mu\left(\frac{x_i-\mu}{\sigma}\right)}{f\left(\frac{x_i-\mu}{\sigma}\right)} -\frac{C_\mu(\mu,\sigma,a,b)}{C(\mu,\sigma,a,b)}\right] \\ 0 &= \frac{\partial\Lambda}{\partial\sigma} &= \sum_i \left[\frac{-f_\sigma\left(\frac{x_i-\mu}{\sigma}\right)}{\sigma^2f\left(\frac{x_i-\mu}{\sigma}\right)} -\frac{1}{\sigma}-\frac{C_\sigma(\mu,\sigma,a,b)}{C(\mu,\sigma,a,b)}\right] }$

เนื่องจากและได้รับการแก้ไขให้ปล่อยจากสัญลักษณ์และเขียนเป็นและเป็นซิก) (ไม่มีการตัดทอนฟังก์ชันทั้งสองจะเป็นศูนย์เหมือนกัน) การแยกคำที่เกี่ยวข้องกับข้อมูลจากส่วนที่เหลือให้ $a$ $b$ $nC_\mu(\mu, \sigma, a, b)/C(\mu, \sigma,a,b)$ $A(\mu,\sigma)$ $nC_\sigma(\mu, \sigma, a, b)/C(\mu, \sigma,a,b)$ $B(\mu, \sigma)$

\begin{aligned} - A (μ, σ) & = \sum_{i} \frac{f_{μ} (\frac{x_{i} - μ}{σ})}{f (\frac{x_{i} - μ}{σ})} \\ - σ^{2} B (μ, σ) - n σ & = \sum_{i} \frac{f_{σ} (\frac{x_{i} - μ}{σ})}{f (\frac{x_{i} - μ}{σ})} \end{aligned}

$\eqalign{ -A(\mu,\sigma) &= \sum_i \frac{f_\mu\left(\frac{x_i-\mu}{\sigma}\right)}{f\left(\frac{x_i-\mu}{\sigma}\right)} \\ -\sigma^2 B(\mu,\sigma) - n\sigma &= \sum_i \frac{f_\sigma\left(\frac{x_i-\mu}{\sigma}\right)}{f\left(\frac{x_i-\mu}{\sigma}\right)} }$

โดยการเปรียบเทียบสิ่งเหล่านี้กับสถานการณ์ที่ไม่มีการตัดทอนมันก็เห็นได้ชัดว่า

สถิติที่เพียงพอสำหรับปัญหาดั้งเดิมนั้นเพียงพอสำหรับปัญหาที่ถูกตัดทอน (เนื่องจากด้านขวามือไม่ได้เปลี่ยน)
ความสามารถของเราที่จะหาทางแก้ปัญหาปิดรูปแบบขึ้นอยู่กับการจัดการได้ง่ายของและBหากสิ่งเหล่านี้ไม่เกี่ยวข้องกับและด้วยวิธีง่าย ๆ เราไม่สามารถหวังที่จะได้รับโซลูชั่นแบบปิดโดยทั่วไป $A$ $B$ $\mu$ $\sigma$

สำหรับกรณีของครอบครัวปกติของหลักสูตรจะได้รับจาก PDF ปกติสะสมซึ่งเป็นความแตกต่างของฟังก์ชั่นข้อผิดพลาด: ไม่มีโอกาสที่วิธีแก้ปัญหาแบบปิดสามารถ ที่ได้รับโดยทั่วไป อย่างไรก็ตามมีเพียงสองสถิติที่เพียงพอ (ค่าเฉลี่ยตัวอย่างและความแปรปรวนจะทำ) และ CDF นั้นราบรื่นที่สุดเท่าที่จะทำได้ดังนั้นการแก้ปัญหาเชิงตัวเลขจึงค่อนข้างง่ายที่จะได้รับ $C(\mu,\sigma,a,b)$

— whuber
แหล่งที่มา

ขอบคุณมากสำหรับคำตอบที่ละเอียดมาก! ฉันไม่แน่ใจว่าฉันได้รับอะไร , ,และเป็นคุณช่วยกำหนดพวกเขา? นอกจากนี้ยังมีความชัดเจน แต่อาจจะแม่นยำบางทีคุณอาจพูดได้ว่านิพจน์ของคุณสำหรับ pdf นั้นใช้สำหรับ (และ pdf นั้นเป็นศูนย์นอกนั้น) ขอบคุณอีกครั้ง!

f_{μ}

$f_\mu$

f_{σ}

$f_\sigma$

C_{μ}

$C_\mu$

C_{σ}

$C_\sigma$

x \in [a, b]

$x \in [a, b]$

— a3nm

สัญกรณ์ที่ยาวกว่าปกติคือ , ฯลฯ : ตามที่ประกาศไว้มันเป็นอนุพันธ์ ฉันจะทำการเปลี่ยนแปลงครั้งที่สองที่คุณแนะนำเพราะเป็นคำชี้แจงที่สำคัญขอบคุณ

C_{μ} = \frac{\partial}{\partial μ} C (μ, σ, a, b)

$C_\mu = \frac{\partial}{\partial\mu}C(\mu,\sigma,a,b)$

— whuber

นอกจากนี้เนื่องจากคำตอบของคุณนั้นกว้างกว่าที่ฉันคาดไว้ฉันจึงแก้ไขคำถามเพื่อยืนยันน้อยลงในกรณีที่มีการแจกแจงแบบปกติ ขอบคุณอีกครั้งสำหรับความพยายามของคุณ

— a3nm

มันง่ายที่จะอธิบายในระดับทั่วไปเมื่อเทียบกับการมุ่งเน้นไปที่การแจกแจงแบบปกติ! การคำนวณอนุพันธ์และการแสดงรูปแบบที่แม่นยำของ CDF เป็นการรบกวนที่ไม่จำเป็น (แม้ว่าจะมีประโยชน์เมื่อคุณเริ่มเขียนรหัสด้วยวิธีแก้ปัญหาเชิงตัวเลข)

— whuber

ขอบคุณสำหรับการแก้ไข! คุณพลาดหนึ่งในนั้น คุณสามารถตรวจสอบการแก้ไขของฉันได้ไหม

— a3nm