นี่เป็นความพยายามครั้งแรกของฉันสำหรับใครบางคนที่มาจากค่ายบ่อย ๆ เพื่อทำการวิเคราะห์ข้อมูลแบบเบย์ ฉันอ่านบทช่วยสอนจำนวนหนึ่งและบทไม่กี่บทจากการวิเคราะห์ข้อมูลแบบเบย์โดย A. Gelman

เนื่องจากตัวอย่างการวิเคราะห์ข้อมูลอิสระมากขึ้นหรือน้อยลงอย่างแรกที่ฉันเลือกคือเวลาในการรอรถไฟ ฉันถามตัวเองว่าอะไรคือการกระจายเวลารอคอย

ชุดข้อมูลนั้นมีอยู่ในบล็อกและได้รับการวิเคราะห์แตกต่างกันเล็กน้อยและนอก PyMC

เป้าหมายของฉันคือการประเมินเวลารอรถไฟที่คาดว่าจะได้รับจากข้อมูล 19 รายการ

โมเดลที่ฉันสร้างขึ้นมีดังต่อไปนี้:

$\mu \sim N(\hat\mu,\hat\sigma)$

$\sigma \sim |N(0,\hat\sigma)|$

$\lambda \sim \Gamma(\mu,\sigma)$

$\rho \sim Poisson(\lambda)$

โดยที่คือค่าเฉลี่ยของข้อมูลและคือส่วนเบี่ยงเบนมาตรฐานของข้อมูลคูณด้วย 1,000$\hat\mu$$\hat\sigma$

ฉันจำลองเวลารอคอยที่คาดว่าจะเป็นโดยใช้การแจกแจงปัวซอง พารามิเตอร์ rate สำหรับการแจกแจงนี้ถูกสร้างแบบจำลองโดยใช้การแจกแจงแกมม่าเนื่องจากเป็นการเชื่อมต่อแบบคอนจูเกตกับการแจกแจงแบบปัวซอง ไฮเปอร์ - ไพรเออร์และถูกสร้างแบบจำลองด้วยการแจกแจงแบบปกติและแบบครึ่งปกติ ค่าเบี่ยงเบนมาตรฐานถูกทำให้กว้างที่สุดเท่าที่จะเป็นได้$\rho$$\mu$$\sigma$$\sigma$

ฉันมีคำถามมากมาย

• แบบจำลองนี้มีความเหมาะสมสำหรับงานหรือไม่
• ฉันทำผิดพลาดเริ่มต้นหรือไม่?
• แบบจำลองสามารถทำให้ง่ายขึ้นได้หรือไม่ (ฉันมักจะทำให้สิ่งต่าง ๆ ง่ายขึ้น)?
• ฉันจะตรวจสอบได้อย่างไรว่าพารามิเตอร์ด้านหลัง ( ) เหมาะกับข้อมูลจริงหรือไม่?$\rho$
• ฉันจะดึงตัวอย่างจากการกระจาย Poisson ที่ติดตั้งเพื่อดูตัวอย่างได้อย่างไร

ผู้ตกแต่งหลัง 5,000 ขั้นตอนของ Metropolis มีลักษณะดังนี้:

ฉันสามารถโพสต์ซอร์สโค้ดได้เช่นกัน ในขั้นตอนการติดตั้งแบบจำลองฉันทำตามขั้นตอนสำหรับพารามิเตอร์และโดยใช้ NUTS จากนั้นในขั้นตอนที่สองที่ฉันทำ Metropolis อัตราพารามิเตอร์\ในที่สุดฉันลงจุดติดตามโดยใช้เครื่องมือ inbuilt$\mu$$\sigma$$\rho$

ฉันจะขอบคุณมากสำหรับข้อสังเกตและความคิดเห็นใด ๆ ที่จะช่วยให้ฉันเข้าใจการเขียนโปรแกรมน่าจะเป็นมากขึ้น อาจมีตัวอย่างคลาสสิคที่ควรค่าแก่การทดสอบอีกหรือไม่

นี่คือรหัสที่ฉันเขียนใน Python โดยใช้ PyMC3 แฟ้มข้อมูลที่สามารถพบได้ที่นี่

import matplotlib.pyplot as plt
import pandas as pd
import numpy as np
import pymc3

from scipy import optimize

from pylab import figure, axes, title, show

from pymc3.distributions import Normal, HalfNormal, Poisson, Gamma, Exponential
from pymc3 import find_MAP
from pymc3 import Metropolis, NUTS, sample
from pymc3 import summary, traceplot

df = pd.read_csv( 'train_wait.csv' )

diff_mean = np.mean( df["diff"] )
diff_std = 1000*np.std( df["diff"] )

model = pymc3.Model()

with model:
    # unknown model parameters
    mu = Normal('mu',mu=diff_mean,sd=diff_std)
    sd = HalfNormal('sd',sd=diff_std)

    # unknown model parameter of interest
    rate = Gamma( 'rate', mu=mu, sd=sd )

    # observed
    diff = Poisson( 'diff', rate, observed=df["diff"] )

with model:
    step1 = NUTS([mu,sd])
    step2 = Metropolis([rate])
    trace = sample( 5000, step=[step1,step2] )

plt.figure()
traceplot(trace)
plt.savefig("rate.pdf")
plt.show()
plt.close()

ฉันจะบอกคุณก่อนสิ่งที่ฉันจะทำแล้วฉันจะตอบคำถามเฉพาะที่คุณมี

สิ่งที่ฉันจะทำ (อย่างน้อยตอนแรก)

นี่คือสิ่งที่ฉันรวบรวมจากโพสต์ของคุณคุณมีเวลารอการฝึกอบรมสำหรับการสังเกต 19 ครั้งและคุณสนใจที่จะอนุมานเกี่ยวกับเวลารอที่คาดหวัง

ฉันจะกำหนดสำหรับจะเป็นเวลารอรถไฟฉันฉันเห็นเหตุผลว่าสิ่งเหล่านี้ที่รอคอยเวลาที่ควรจะเป็นจำนวนเต็มดังนั้นฉันจะถือว่าพวกเขาเป็นปริมาณบวกอย่างต่อเนื่องไม่เช่น + ฉันถือว่าทุกเวลาที่รอคอยได้รับการปฏิบัติจริง$W_i$$i=1,\ldots,19$$i$$W_i\in\mathbb{R}^+$

มีข้อสมมติฐานที่เป็นไปได้หลายประการที่สามารถนำมาใช้ได้และด้วยการสังเกต 19 ข้ออาจยากที่จะตัดสินว่าตัวแบบใดมีเหตุผลมากกว่า ตัวอย่างบางตัวอย่างคือล็อกแกมมาแกมมาเลขชี้กำลังวีเบล

สำหรับรุ่นแรกฉันขอแนะนำให้สร้างแบบจำลองจากนั้นให้ถือว่า ด้วยตัวเลือกนี้คุณจะสามารถเข้าถึงความมั่งคั่งของทฤษฏีปกติที่มีอยู่เช่นคอนจูเกตก่อน คอนจูเกตก่อนคือการแจกแจงแบบผกผัน - แกมม่าปกติคือ โดยที่คือ การกระจายแกมมาผกผัน อีกวิธีหนึ่งคุณสามารถใช้ค่าเริ่มต้นก่อนซึ่งในกรณีนี้ผู้หลังนั้นก็เป็นแบบกระจายผกผัน - แกมมาปกติด้วย$Y_i=\log(W_i)$

เนื่องจากเราสามารถตอบคำถามเกี่ยวกับเวลารอคอยที่คาดไว้โดยการดึงตัวอย่างร่วมของและจากการแจกแจงแบบหลังซึ่งเป็นสิ่งที่ตรงกันข้าม -gamma distribution แล้วคำนวณสำหรับตัวอย่างแต่ละตัวอย่างเหล่านี้ ตัวอย่างนี้จากหลังสำหรับระยะเวลารอที่คาดหวัง μ σ 2 อีμ + σ /$E[W_i] = e^{\mu+\sigma^/2}$$\mu$$\sigma^2$$e^{\mu+\sigma^/2}$

ตอบคำถามของคุณ

• แบบจำลองนี้มีความเหมาะสมสำหรับงานหรือไม่

ปัวซองดูเหมือนจะไม่เหมาะสมกับข้อมูลที่อาจมีค่าไม่ใช่จำนวนเต็ม คุณมีเพียงหนึ่งเดียวและดังนั้นคุณไม่สามารถเรียนรู้พารามิเตอร์ของการแจกแจงแกมมาที่คุณได้รับมอบหมายให้\อีกวิธีในการพูดแบบนี้คือคุณได้สร้างแบบจำลองแบบลำดับชั้น แต่ไม่มีโครงสร้างแบบลำดับชั้นในข้อมูล$\lambda$$\lambda$

• ฉันทำผิดพลาดเริ่มต้นหรือไม่?

ดูความคิดเห็นก่อนหน้า

นอกจากนี้ยังจะช่วยได้จริงหากคณิตศาสตร์และรหัสของคุณเห็นด้วยเช่นในผลลัพธ์ MCMC ของคุณอยู่ที่ไหน sd และอัตราในรหัสของคุณคืออะไร?$\lambda$

ก่อนหน้าของคุณไม่ควรขึ้นอยู่กับข้อมูล

• แบบจำลองสามารถทำให้ง่ายขึ้นได้หรือไม่ (ฉันมักจะทำให้สิ่งต่าง ๆ ง่ายขึ้น)?

ใช่และควร ดูวิธีการสร้างแบบจำลองของฉัน

• ฉันจะตรวจสอบได้อย่างไรว่าพารามิเตอร์ด้านหลัง ( ) เหมาะกับข้อมูลจริงหรือไม่?$\rho$

ไม่ควรเป็นข้อมูลของคุณใช่ไหม คุณหมายถึงหรือเปล่า สิ่งหนึ่งที่ต้องตรวจสอบคือการตรวจสอบให้แน่ใจว่าเวลารอเฉลี่ยตัวอย่างสมเหตุสมผลเมื่อเทียบกับการกระจายหลังของคุณในเวลารอเฉลี่ย ยกเว้นว่าคุณมีก่อนหน้านี้ที่แปลกประหลาดค่าเฉลี่ยตัวอย่างควรอยู่ใกล้กับจุดสูงสุดของการกระจายหลัง hte$\rho$$\lambda$

• ฉันจะดึงตัวอย่างจากการกระจาย Poisson ที่ติดตั้งเพื่อดูตัวอย่างได้อย่างไร

ฉันเชื่อว่าคุณต้องการการกระจายแบบทำนายล่วงหน้า สำหรับการวนซ้ำแต่ละครั้งใน MCMC ของคุณคุณเสียบค่าพารามิเตอร์สำหรับการทำซ้ำนั้นและนำตัวอย่าง