ต้องการอัลกอริทึมในการคำนวณความน่าจะเป็นที่ข้อมูลนั้นเป็นตัวอย่างจากการแจกแจงแบบปกติเทียบกับการเข้าสู่ระบบแบบปกติ

สมมติว่าคุณมีชุดของค่าและคุณต้องการที่จะทราบว่ามีแนวโน้มที่พวกเขาถูกสุ่มตัวอย่างจากการแจกแจงแบบเกาส์ (ปกติ) หรือสุ่มตัวอย่างจากการแจกแจงแบบล็อกนอร์มหรือไม่?

แน่นอนว่าคุณควรจะรู้อะไรบางอย่างเกี่ยวกับประชากรหรือเกี่ยวกับแหล่งที่มาของข้อผิดพลาดการทดลองดังนั้นจะมีข้อมูลเพิ่มเติมที่เป็นประโยชน์ในการตอบคำถาม แต่ที่นี่สมมติว่าเรามีเพียงชุดของตัวเลขและไม่มีข้อมูลอื่น ๆ ซึ่งมีแนวโน้มมากขึ้น: การสุ่มตัวอย่างจากเกาส์เซียนหรือการสุ่มตัวอย่างจากการแจกแจงแบบปกติ มีโอกาสมากแค่ไหน? สิ่งที่ฉันหวังคืออัลกอริธึมที่จะเลือกระหว่างสองรุ่นและหวังว่าจะได้ปริมาณเชิงปริมาณของแต่ละรุ่น

คุณสามารถคาดเดาประเภทการแจกจ่ายได้ดีที่สุดโดยปรับการแจกแจงแต่ละแบบ (ปกติหรือ lognormal) ให้เหมาะสมกับข้อมูลตามความเป็นไปได้สูงสุดจากนั้นเปรียบเทียบความน่าจะเป็นในการบันทึกภายใต้แต่ละรุ่น - โมเดลที่มีความเป็นไปได้สูงสุด ตัวอย่างเช่นใน R:

# log likelihood of the data given the parameters (par) for 
# a normal or lognormal distribution
logl <- function(par, x, lognorm=F) {
    if(par[2]<0) { return(-Inf) }
    ifelse(lognorm,
    sum(dlnorm(x,par[1],par[2],log=T)),
    sum(dnorm(x,par[1],par[2],log=T))
    )
}

# estimate parameters of distribution of x by ML 
ml <- function(par, x, ...) {
    optim(par, logl, control=list(fnscale=-1), x=x, ...)
}

# best guess for distribution-type
# use mean,sd of x for starting parameters in ML fit of normal
# use mean,sd of log(x) for starting parameters in ML fit of lognormal
# return name of distribution type with highest log ML
best <- function(x) {
    logl_norm <- ml(c(mean(x), sd(x)), x)$value
        logl_lognorm <- ml(c(mean(log(x)), sd(log(x))), x, lognorm=T)$value
    c("Normal","Lognormal")[which.max(c(logl_norm, logl_lognorm))]
}

ตอนนี้สร้างตัวเลขจากการแจกแจงแบบปกติและใส่การแจกแจงแบบปกติด้วย ML:

set.seed(1)
x = rnorm(100, 10, 2)
ml(c(10,2), x)

ผลิต:

$par
[1] 10.218083  1.787379

$value
[1] -199.9697
...

เปรียบเทียบความเป็นไปได้ในการบันทึกสำหรับ ML ที่พอดีกับการแจกแจงแบบปกติและการแจกแจงแบบปกติ:

ml(c(10,2), x)$value # -199.9697
    ml(c(2,0.2), x, lognorm=T)$value # -203.1891
best(x) # Normal

ลองด้วยการแจกแจงล็อกปกติ:

best(rlnorm(100, 2.6, 0.2)) # lognormal

การมอบหมายจะไม่สมบูรณ์แบบขึ้นอยู่กับ n, Mean และ sd:

> table(replicate(1000, best(rnorm(500, 10, 2))))

Lognormal    Normal 
        6       994 
> table(replicate(1000, best(rlnorm(500, 2.6, 0.2))))

Lognormal    Normal 
      999         1 

แนวทางของเบย์ต่อปัญหาของคุณคือการพิจารณาความน่าจะเป็นด้านหลังของแบบจำลองเนื่องจากชุดของจุดข้อมูล ,$M \in \{ \text{Normal}, \text{Log-normal} \}$$X = \{ x_1, ..., x_N \}$

$$P(M \mid X) \propto P(X \mid M) P(M).$$

ส่วนที่ยากจะได้รับโอกาสร่อแร่ ,

$$P(X \mid M) = \int P(X \mid \theta, M) P(\theta \mid M) \, d\theta.$$

สำหรับทางเลือกหนึ่งของ , ความน่าจะเป็นชายขอบของเกาส์สามารถหาได้ในรูปแบบปิด เนื่องจากการบอกว่ากระจายตามปกติจะเหมือนกับการบอกว่า } มีการกระจายตามปกติคุณควรจะสามารถใช้โอกาสในการเข้าสู่ระบบปกติเหมือนกันได้ รูปแบบเช่นเดียวกับรูปแบบเกาส์โดยนำไปใช้กับแทนXจำไว้ว่าให้คำนึงถึงการเปลี่ยนแปลงของยาโคบเท่านั้น$p(\theta \mid M)$$X$$Y = \{ \log x_1, ..., \log x_N$$Y$$X$

$$P(X \mid M = \text{Log-Normal}) = P(Y \mid M=\text{Normal}) \cdot \prod_i \left| \frac{1}{x_i} \right|.$$

สำหรับวิธีนี้คุณต้องเลือกการกระจายตัวของพารามิเตอร์ - ที่นี่น่าจะเป็น - และความน่าจะเป็นก่อนหน้านี้ .$P(\theta \mid M)$$P(\sigma^2, \mu \mid M=\text{Normal})$$P(M)$

ตัวอย่าง:

สำหรับฉันเลือกกระจายปกติผกผันแกมมากับพารามิเตอร์100$P(\mu, \sigma^2 \mid M = \text{Normal})$$m_0 = 0, v_0 = 20, a_0 = 1, b_0 = 100$

จากข้อมูลของเมอร์ฟี (2007) (สมการ 203) ความเป็นไปได้ที่จะเกิดการกระจายตัวแบบปกตินั้น

$$P(X \mid M = \text{Normal}) = \frac{|v_N|^\frac{1}{2}}{|v_0|^\frac{1}{2}} \frac{b_0^{a_0}}{b_n^{a_N}} \frac{\Gamma(a_N)}{\Gamma(a_0)} \frac{1}{\pi^{N/2}2^N}$$

โดยที่และคือพารามิเตอร์ของ posterior (สมการที่ 196 ถึง 200)$a_N, b_N,$$v_N$$P(\mu, \sigma^2 \mid X, M = \text{Normal})$

$$\begin{align} v_N &= 1 / (v_0^{-1} + N), \\ m_N &= \left( v_0^{-1}m_0 + \sum_i x_i \right) / v_N, \\ a_N &= a_0 + \frac{N}{2}, \\ b_N &= b_0 + \frac{1}{2} \left( v_0^{-1}m_0^2 - v_N^{-1}m_N^2 + \sum_i x_i^2 \right). \end{align}$$

ฉันใช้พารามิเตอร์ไฮเปอร์พารามิเตอร์เดียวกันสำหรับการแจกแจงล็อก - ปกติ

$$P(X \mid M = \text{Log-normal}) = P(\{\log x_1, ..., \log x_N \} \mid M = \text{Normal}) \cdot \prod_i \left|\frac{1}{x_i}\right|.$$

สำหรับความน่าจะเป็นก่อนบันทึกปกติ ,และข้อมูลที่ดึงมาจากการแจกแจงบันทึกปกติต่อไปนี้P ( M = บันทึกปกติ) = $0.1$$P(M = \text{Log-normal}) = 0.1$

หลังมีพฤติกรรมเช่นนี้:

เส้นทึบแสดงความน่าจะเป็นด้านหลังเฉลี่ยสำหรับการดึงจุดข้อมูลแตกต่างกัน โปรดทราบว่าสำหรับข้อมูลน้อยถึงไม่มีเลยความเชื่อนั้นใกล้เคียงกับความเชื่อเดิม สำหรับจุดข้อมูลประมาณ 250 จุดอัลกอริทึมนั้นเกือบจะแน่นอนว่าข้อมูลนั้นมาจากการแจกแจงแบบล็อก - ปกติ$N$

เมื่อนำสมการไปใช้งานมันจะเป็นความคิดที่ดีที่จะทำงานกับ log-densities แทนความหนาแน่น แต่ไม่อย่างนั้นมันควรตรงไปตรงมา นี่คือรหัสที่ฉันใช้ในการสร้างแปลง:

https://gist.github.com/lucastheis/6094631

ดูเหมือนว่าคุณกำลังมองหาบางสิ่งบางอย่างในทางปฏิบัติเพื่อช่วยนักวิเคราะห์ที่อาจไม่ใช่นักสถิติมืออาชีพและต้องการบางสิ่งบางอย่างเพื่อกระตุ้นให้พวกเขาทำสิ่งที่ควรเป็นเทคนิคการสำรวจมาตรฐานเช่นการดูแปลง qq, แปลงความหนาแน่นเป็นต้น

ในกรณีนี้ทำไมไม่ทำการทดสอบปกติ (Shapiro-Wilk หรืออะไรก็ตาม) กับข้อมูลดั้งเดิมและอีกอันบนบันทึกการแปลงข้อมูลและถ้าค่า p ที่สองสูงกว่าให้ยกค่าสถานะสำหรับนักวิเคราะห์เพื่อพิจารณาการใช้การแปลงบันทึก ? เป็นโบนัสให้แบ่งกราฟิก 2 มิติออกเป็น 2 ส่วนของกราฟเส้นความหนาแน่นและกราฟ qqnorm ของข้อมูลดิบและข้อมูลที่แปลงแล้ว

เทคนิคนี้จะไม่ตอบคำถามของคุณเกี่ยวกับความน่าจะเป็นที่สัมพันธ์กัน แต่ฉันสงสัยว่ามันเป็นสิ่งที่คุณต้องการหรือไม่