การสุ่มตัวอย่างตัวอย่างด้วย MLE ที่กำหนด

คำถามนี้รอการตรวจสอบถามเกี่ยวกับการเลียนแบบตามเงื่อนไขที่กลุ่มตัวอย่างที่มีผลรวมคงที่ทำให้ผมนึกถึงชุดปัญหาให้ฉันโดยจอร์จ Casella

$f(x|\theta)$ $(X_1,\ldots,X_n)$ $\theta$
$\hat{θ} (x_{1}, \dots, x_{n}) = \arg min \sum_{i = 1}^{n} \log f (x_{i} | θ)$ $\hat{\theta}(x_1,\ldots,x_n)=\arg\min \sum_{i=1}^n \log f(x_i|\theta)$ $\theta$ $(X_1,\ldots,X_n)$ $\hat{\theta}(X_1,\ldots,X_n)$

ตัวอย่างเช่นใช้การแจกแจงด้วยพารามิเตอร์ตำแหน่งซึ่งความหนาแน่นคือถ้าเราจะจำลองเงื่อนไขบนอย่างไร? ในตัวอย่างนี้การกระจายของไม่มีนิพจน์แบบปิด $\mathfrak{T}_5$ $\mu$

ฉ (x | μ) = \frac{Γ (3)}{Γ (1 / 2) Γ (5 / 2)} {[1 + (x - μ)^{2} / 5]}^{- 3}

$f(x|\mu)=\dfrac{\Gamma(3)}{\Gamma(1/2)\Gamma(5/2)}\,\left[1+(x-\mu)^2/5\right]^{-3}$

(X_{1}, ..., X_{n}) \overset{IID}{~} ฉ (x | μ)

$(X_1,\ldots,X_n)\stackrel{\text{iid}}{\sim} f(x|\mu)$

(X_{1}, \dots, X_{n})

$(X_1,\ldots,X_n)$

\hat{μ} (X_{1}, \dots, X_{n}) = μ_{0}

$\hat{\mu}(X_1,\ldots,X_n)=\mu_0$

T_{5}

$\mathfrak{T}_5$

\hat{μ} (X_{1}, \dots, X_{n})

$\hat{\mu}(X_1,\ldots,X_n)$

— ซีอาน
แหล่งที่มา

ทางเลือกหนึ่งคือการใช้ตัวแปร HMC ที่มีข้อ จำกัด ดังที่อธิบายไว้ในวิธีการ MCMC ตระกูลใน Manifold ที่กำหนดโดยปริยายโดย Brubaker et al (1) นี้ต้องว่าเราสามารถแสดงเงื่อนไขที่ว่าประมาณการโอกาสสูงสุดของพารามิเตอร์สถานที่เท่ากับบางส่วนคงที่เป็นบางส่วนที่กำหนดไว้โดยปริยาย (และอนุพันธ์) holonomic จำกัด0 จากนั้นเราสามารถจำลองพลวัตของแฮมิลตันแบบ จำกัด ภายใต้ข้อ จำกัด นี้และยอมรับ / ปฏิเสธภายในขั้นตอน Metropolis-Hastings เช่นเดียวกับใน HMC มาตรฐาน $\mu_0$ $c\left(\lbrace x_i \rbrace_{i=1}^N\right) = 0$

ความน่าจะเป็นบันทึกเชิงลบคือ ซึ่งมีอันดับที่หนึ่งและสองลำดับอนุพันธ์ที่เกี่ยวกับ พารามิเตอร์ตำแหน่ง การประมาณค่าความน่าจะเป็นสูงสุดของจะถูกกำหนดโดยปริยายว่าเป็นทางออก

L = - \sum_{i = 1}^{N} [\log f (x_{i} | μ)] = 3 \sum_{i = 1}^{N} [\log (1 + \frac{(x_{i} - μ)^{2}}{5})] + constant

$\mathcal{L} = -\sum_{i=1}^N \left[ \log f(x_i \,|\, \mu) \right] = 3 \sum_{i=1}^N \left[ \log\left(1 + \frac{(x_i - \mu)^2}{5}\right)\right] + \text{constant}$

μ

$\mu$

\frac{\partial L}{\partial μ} = 3 \sum_{i = 1}^{N} [\frac{2 (μ - x_{i})}{5 + (μ - x_{i})^{2}}] และ \frac{\partial^{2} L}{\partial μ^{2}} = 6 Σ_{ผม = 1}^{ยังไม่มีข้อความ} [\frac{5 - (μ - x_{ผม})^{2}}{{(5 + (μ - x_{ผม})^{2})}^{2}}] .

$\frac{\partial \mathcal{L}}{\partial \mu} = 3 \sum_{i=1}^N \left[ \frac{2(\mu - x_i)}{5 + (\mu - x_i)^2}\right] \quad\text{and}\quad \frac{\partial^2 \mathcal{L}}{\partial \mu^2} = 6 \sum_{i=1}^N \left[\frac{5 - (\mu - x_i)^2}{\left(5 + (\mu - x_i)^2\right)^2}\right].$

μ_{0}

$\mu_0$

ค = Σ_{ผม = 1}^{ยังไม่มีข้อความ} [\frac{2 (μ_{0} - x_{ผม})}{5 + (μ_{0} - x_{ผม})^{2}}] = 0 ภายใต้ Σ_{ผม = 1}^{ยังไม่มีข้อความ} [\frac{5 - (μ_{0} - x_{ผม})^{2}}{{(5 + (μ_{0} - x_{ผม})^{2})}^{2}}] > 0

$c = \sum_{i=1}^N \left[ \frac{2(\mu_0 - x_i)}{5 + (\mu_0 - x_i)^2}\right] = 0 \quad\text{subject to}\quad \sum_{i=1}^N \left[\frac{5 - (\mu_0 - x_i)^2}{\left(5 + (\mu_0 - x_i)^2\right)^2}\right] > 0.$

ฉันไม่แน่ใจว่ามีผลลัพธ์ใด ๆ ที่แนะนำว่าจะมี MLE เฉพาะสำหรับสำหรับ - ความหนาแน่นไม่ได้เป็น log-concave ในดังนั้นจึงดูเหมือนไม่ รับประกันเรื่องนี้เล็กน้อย ถ้ามีวิธีแก้ปัญหาที่ไม่เหมือนใครข้างต้นโดยปริยายกำหนดเชื่อมต่อมิติที่ฝังอยู่ในสอดคล้องกับชุดด้วย MLE สำหรับเท่ากับ ถึง $\mu$ $\lbrace x_i \rbrace_{i=1}^N$ $\mu$ $N - 1$ $\mathbb{R}^N$ $\lbrace x_i \rbrace_{i=1}^N$ $\mu$ $\mu_0$ . หากมีการแก้ปัญหาหลายอย่างนานาก็อาจประกอบด้วยองค์ประกอบที่ไม่ได้เชื่อมต่อหลายอย่างซึ่งบางส่วนอาจสอดคล้องกับขั้นต่ำในฟังก์ชั่นโอกาส ในกรณีนี้เราจะต้องมีกลไกเพิ่มเติมบางอย่างสำหรับการเคลื่อนย้ายระหว่างส่วนประกอบที่ไม่ได้เชื่อมต่อ (โดยทั่วไปแล้วการจำลองแบบไดนามิกจะยังคงอยู่ในองค์ประกอบเดียว) และตรวจสอบเงื่อนไขลำดับที่สองและปฏิเสธการย้ายหากสอดคล้องกับการย้าย a minima ในโอกาส

ถ้าเราใช้เพื่อแสดงเวกเตอร์และแนะนำสถานะโมเมนตัมคอนจูเกตพร้อมเมทริกซ์จำนวนมากและ Lagrange ตัวคูณสำหรับเซนต์คิตส์และเนวิสจากนั้นก็แก้ปัญหาระบบ ODEs $\boldsymbol{x}$ $\left[ x_1 \dots x_N\right]^{\rm T}$ $\boldsymbol{p}$ $\mathbf{M}$ $\lambda$ $c(\boldsymbol{x})$

\frac{d x}{d เสื้อ} = M^{- 1} พี, \frac{d พี}{d เสื้อ} = - \frac{\partial L}{\partial x} - λ \frac{\partial ค}{\partial x} ภายใต้ ค (x) = 0 และ \frac{\partial ค}{\partial x} M^{- 1} พี = 0

$\frac{{\rm d}\boldsymbol{x}}{{\rm d}t} = \mathbf{M}^{-1}\boldsymbol{p}, \quad \frac{{\rm d}\boldsymbol{p}}{{\rm d}t} = -\frac{\partial \mathcal{L}}{\partial \mathbf{x}} - \lambda \frac{\partial c}{\partial \boldsymbol{x}} \quad\text{subject to}\quad c(\boldsymbol{x}) = 0 \quad\text{and}\quad \frac{\partial c}{\partial \boldsymbol{x}}\mathbf{M}^{-1}\boldsymbol{p} = 0$ รับสภาพเริ่มต้นกับและ , กำหนดข้อ จำกัด ของแฮมิลโตเนียนไดนามิกซึ่งยังคง จำกัด อยู่ที่ท่อร่วมเป็นเวลาย้อนกลับและอนุรักษ์มิลโตเนียนและองค์ประกอบปริมาณมากมาย ถ้าเราใช้ผู้ออกแบบและติด symplectic สำหรับข้อ จำกัด ระบบมิลเช่น SHAKE (2) หรือสั่น (3) ซึ่งตรงรักษาข้อ จำกัด ในแต่ละ timestep โดยการแก้สำหรับตัวคูณ Lagrange เราสามารถจำลองแบบไดนามิกที่แน่นอนไปข้างหน้าเนื่อง timesteps

x (0) = x_{0}, p (0) = p_{0}

$\boldsymbol{x}(0) = \boldsymbol{x}_0,~\boldsymbol{p}(0) = \boldsymbol{p}_0$

c (x_{0}) = 0

$c(\boldsymbol{x}_0) = 0$

{\frac{\partial c}{\partial x} |}_{x_{0}} M^{- 1} p_{0} = 0

$\left.\frac{\partial c}{\partial \boldsymbol{x}}\right|_{\boldsymbol{x}_0}\,\mathbf{M}^{-1}\boldsymbol{p}_0 = 0$

L

$L$

δ t

$\delta t$ จากข้อ จำกัด เบื้องต้นที่น่าพอใจและยอมรับสถานะใหม่ที่เสนอคู่ด้วยความน่าจะเป็น ถ้าเราสอดแทรกการเปลี่ยนแปลงพลวัตเหล่านี้ด้วยการ resampling บางส่วน / เต็มโมเมนต์จาก Gaussian marginal ของพวกเขา (จำกัด อยู่ที่ subspace เชิงเส้นที่กำหนดโดย

x, p

$\boldsymbol{x},\,\boldsymbol{p}$

x^{'}, p^{'}

$\boldsymbol{x}',\,\boldsymbol{p}'$

min {1, \exp [L (x) - L (x^{'}) + \frac{1}{2} p^{T} M^{- 1} p - \frac{1}{2} p^{' T} M^{- 1} p^{'}]} .

$\min\left\lbrace 1, \,\exp\left[ \mathcal{L}(\boldsymbol{x}) - \mathcal{L}(\boldsymbol{x}') + \frac{1}{2}\boldsymbol{p}^{\rm T}\mathbf{M}^{-1}\boldsymbol{p} - \frac{1}{2}\boldsymbol{p}'^{\rm T}\mathbf{M}^{-1}\boldsymbol{p}'\right] \right\rbrace.$

\frac{\partial c}{\partial x} M^{- 1} p = 0

$\frac{\partial c}{\partial \boldsymbol{x}}\mathbf{M}^{-1}\boldsymbol{p} = 0$ ) จากนั้น modulo ความเป็นไปได้ของการมีส่วนประกอบหลายอย่างที่ไม่เชื่อมต่อกันข้อ จำกัด MCMC แบบไดนามิกโดยรวมควรเป็นอัตลักษณ์และสถานะตัวอย่างของการกำหนดค่าจะครอบคลุมในการกระจายความหนาแน่นเป้าหมายที่ จำกัด

x

$\boldsymbol{x}$

หากต้องการดูว่า HMC มีข้อ จำกัด ในการดำเนินการอย่างไรในกรณีนี้ฉันได้ดำเนินการติดตั้ง HMC ตามข้อ จำกัด ของ geodesic integrator ตามที่อธิบายไว้ใน (4) และที่ Github ที่นี่ (การเปิดเผยอย่างสมบูรณ์: ฉันเป็นผู้เขียน (4) และเจ้าของพื้นที่เก็บข้อมูล Github) ใช้ชุดรูปแบบของตัวรวม 'geodesic-BAOAB' ที่เสนอใน (5) โดยไม่มีขั้นตอน Stnastic Ornstein-Uhlenbeck จากประสบการณ์ของฉันแบบแผนการรวมตัวทางธรณีวิทยานี้มักจะปรับได้ง่ายกว่าแบบแผน RATTLE ที่ใช้ใน (1) เนื่องจากความยืดหยุ่นเป็นพิเศษในการใช้ขั้นตอนภายในที่เล็กกว่าหลายครั้งสำหรับการเคลื่อนไหวทางธรณีวิทยาบนข้อ จำกัด มากมาย โน๊ตบุ๊ค IPython สร้างผลลัพธ์ที่มีอยู่ที่นี่

ผมใช้ ,และ 2 เบื้องต้นสอดคล้องกับ MLE ของถูกค้นพบโดยวิธีการของนิวตัน (ด้วยการตรวจสอบลำดับที่สองเพื่อให้แน่ใจว่าได้พบสูงสุดของโอกาส) ฉันรันข้อ จำกัด แบบไดนามิกด้วย , interleaved พร้อมรีเฟรชโมเมนตัมเต็มรูปแบบสำหรับการอัปเดต 1,000 ครั้ง เนื้อเรื่องด้านล่างแสดงร่องรอยที่เกิดขึ้นบนส่วนประกอบสามตัว $N=3$ $\mu=1$ $\mu_0=2$ $\boldsymbol{x}$ $\mu_0$ $\delta t = 0.5$ $L=5$ $\boldsymbol{x}$

ติดตามแปลงสำหรับตัวอย่าง 3 มิติ

และค่าที่สอดคล้องกันของอนุพันธ์ลำดับที่หนึ่งและสองของความน่าจะเป็นบันทึกเชิงลบแสดงอยู่ด้านล่าง

บันทึกการติดตามอนุพันธ์โอกาสบันทึก

จากที่ที่มันจะเห็นได้ว่าเราอยู่ที่สูงสุดของการเข้าสู่ระบบสำหรับทุกโอกาสชิม{x} แม้ว่ามันจะไม่ปรากฏชัดเจนจากแต่ละแปลงแผนการตัวอย่างอยู่บนสองมิติที่ไม่ใช่เชิงเส้นที่ฝังอยู่ใน - ภาพเคลื่อนไหวด้านล่างแสดงตัวอย่างในแบบ 3 มิติ $\boldsymbol{x}$ $\boldsymbol{x}$ $\mathbb{R}^3$

การสร้างภาพสามมิติของตัวอย่างถูก จำกัด อยู่ที่ท่อร่วมไอดี 2D

ขึ้นอยู่กับการตีความของข้อ จำกัด นั้นอาจจำเป็นต้องปรับความหนาแน่นของเป้าหมายโดยปัจจัยจาโคเบียนบางอย่างตามที่อธิบายไว้ใน (4) โดยเฉพาะอย่างยิ่งถ้าเราต้องการผลลัพธ์ที่สอดคล้องกับขีด จำกัด ของการใช้ ABC เช่นวิธีการประมาณการรักษาข้อ จำกัด โดยนำเสนอการเคลื่อนไหวที่ไม่มีข้อ จำกัด ในและยอมรับถ้าจากนั้นเราจะต้องเพิ่มความหนาแน่นของเป้าหมายโดย{x}}} ในตัวอย่างข้างต้นฉันไม่ได้รวมการปรับนี้ดังนั้นตัวอย่างมาจากความหนาแน่นของเป้าหมายดั้งเดิมที่ จำกัด ไว้ที่ข้อ จำกัด $\epsilon \to 0$ $\mathbb{R}^N$ $|c(\boldsymbol{x})| < \epsilon$ $\sqrt{\frac{\partial c}{\partial \boldsymbol{x}}^{\rm \scriptscriptstyle T}\frac{\partial c}{\partial \boldsymbol{x}}}$

อ้างอิง

MA Brubaker, M. Salzmann และ R. Urtasun ตระกูลของวิธีการ MCMC บน manifolds ที่กำหนดโดยปริยาย ในการประชุมนานาชาติครั้งที่ 15 เรื่องปัญญาประดิษฐ์และสถิติ , 2012
http://www.cs.toronto.edu/~mbrubake/projects/AISTATS12.pdf
J.-P. Ryckaert, G. Ciccotti และ HJ Berendsen การรวมเชิงตัวเลขของสมการคาร์ทีเซียนของการเคลื่อนที่ของระบบที่มีข้อ จำกัด : การเปลี่ยนแปลงระดับโมเลกุลของ n-alkanes วารสารฟิสิกส์เชิงคำนวณ , 1977.
http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.399.6868
HC Andersen RATTLE: อัลกอริทึม SHAKE รุ่น "ความเร็ว" สำหรับการคำนวณเชิงโมเลกุล วารสารฟิสิกส์เชิงคำนวณ , 2526
http://www.sciencedirect.com/science/article/pii/0021999183900141
MM Graham และ AJ Storkey การอนุมานที่แน่นอนแบบเชิงเส้นตรงในโมเดลที่ไม่มีความน่าจะเป็น arXiv pre-print arXiv: 1605.07826v3 , 2016.
https://arxiv.org/abs/1605.07826
B. Leimkuhler และ C. Matthews พลวัตของโมเลกุลที่มีประสิทธิภาพโดยใช้การผสมผสานทางภูมิศาสตร์และการแยกตัวทำละลายและตัวทำละลาย พร ร. ก. ฉบับที่ 472 ฉบับที่ 2189. สมาคมแห่งราชอาณาจักรปี 2559
http://rspa.royalsocietypublishing.org/content/472/2189/20160138.abstract

— แมตต์เกรแฮม
แหล่งที่มา

สดใสและเปิดมุมมองใหม่และสดใส! ขอขอบคุณ.

— ซีอาน