ความคาดหวังของตัวแปร iid Gumbel สูงสุด

ฉันอ่านวารสารเศรษฐศาสตร์อย่างต่อเนื่องเกี่ยวกับผลลัพธ์เฉพาะที่ใช้ในแบบจำลองยูทิลิตี้แบบสุ่ม ผลลัพธ์หนึ่งเวอร์ชันคือ: ถ้า $\epsilon_i \sim_{iid},$ Gumbel ( $\mu, 1), \forall i$ จากนั้น:

E [max_{i} (δ_{i} + ϵ_{i})] = μ + γ + \ln (\sum_{i} \exp {δ_{i}}),

$E[\max_i(\delta_i + \epsilon_i)] = \mu + \gamma + \ln\left(\sum_i \exp\left\{\delta_i \right\} \right),$

โดยที่คือค่าคงที่ออยเลอร์ - มาเชโรนี่ ฉันได้ตรวจสอบแล้วว่าสิ่งนี้สมเหตุสมผลโดยใช้ R และมันก็ใช้ได้ CDF สำหรับการกระจายGumbelคือ: $\gamma \approx 0.52277$ $(\mu, 1)$

G (ϵ_{i}) = \exp (- \exp (- (ϵ_{i} - μ)))

$G(\epsilon_i) = \exp(-\exp(-(\epsilon_i - \mu)))$

ฉันพยายามหาข้อพิสูจน์เรื่องนี้และฉันก็ไม่ประสบความสำเร็จ ฉันพยายามพิสูจน์ด้วยตัวเอง แต่ไม่สามารถผ่านขั้นตอนใดไปได้

ใครสามารถชี้ให้ฉันเห็นหลักฐานนี้ ถ้าไม่ฉันอาจโพสต์ข้อความพิสูจน์ความพยายามจนถึงจุดที่ฉันติดอยู่

expected-value gumbel

— เจสัน
แหล่งที่มา

ที่เกี่ยวข้อง: stats.stackexchange.com/questions/57506/…

— เอเดรีย

ฉันขอขอบคุณงานที่แสดงในคำตอบของคุณ: ขอบคุณสำหรับการสนับสนุนนั้น จุดประสงค์ของโพสต์นี้คือเพื่อให้การสาธิตง่ายขึ้น คุณค่าของความเรียบง่ายคือการเปิดเผย: เราสามารถได้รับการแจกแจงสูงสุดทั้งหมดไม่ใช่แค่การคาดหวัง

ไม่สนใจโดยดูดซับเข้าไปในและสมมติว่าทั้งหมดมีการกระจายGumbel(นั่นคือแทนที่แต่ละโดยและเปลี่ยนเป็น .) สิ่งนี้ไม่เปลี่ยนตัวแปรสุ่ม $\mu$ $\delta_i$ $\epsilon_i$ $(0,1)$ $\epsilon_i$ $\epsilon_i-\mu$ $\delta_i$ $\delta_i+\mu$

X = max_{i} (δ_{i} + ϵ_{i}) = max_{i} ((δ_{i} + μ) + (ϵ_{i} - μ)) .

$X = \max_{i}(\delta_i + \epsilon_i) = \max_i((\delta_i+\mu) + (\epsilon_i-\mu)).$

ความเป็นอิสระของนัยสำหรับจริงทั้งหมดที่เป็นผลิตภัณฑ์ของโอกาสบุคคลx) การบันทึกและการใช้คุณสมบัติพื้นฐานของเอ็กซ์โพเนนเชียล $\epsilon_i$ $x$ $\Pr(X\le x)$ $\Pr(\delta_i+\epsilon_i\le x)$

\begin{aligned} \log Pr (X \leq x) & = \log \prod_{i} Pr (δ_{i} + ϵ_{i} \leq x) = \sum_{i} \log Pr (ϵ_{i} \leq x - δ_{i}) \\ = - \sum_{i} e^{δ_{i}} e^{- x} = - \exp (- x + \log \sum_{i} e^{δ_{i}}) . \end{aligned}

$\eqalign{ \log \Pr(X\le x) &= \log\prod_{i}\Pr(\delta_i + \epsilon_i \le x) = \sum_i \log\Pr(\epsilon_i \le x - \delta_i)\\ &= -\sum_ie^{\delta_i}\, e^{-x} = -\exp\left(-x + \log\sum_i e^{\delta_i}\right). }$

นี่คือลอการิทึมของ CDF ของการกระจาย Gumbel พร้อมพารามิเตอร์ตำแหน่ง นั่นคือ, $\lambda=\log\sum_i e^{\delta_i}.$

$X$ มี Gumbelการกระจาย $\left(\log\sum_i e^{\delta_i}, 1\right)$

นี่เป็นข้อมูลที่มากกว่าที่ร้องขอ เฉลี่ยดังกล่าวกระจายเป็น entailing $\gamma+\lambda,$

E [X] = γ + \log \sum_{i} e^{δ_{i}},

$\mathbb{E}[X] = \gamma + \log\sum_i e^{\delta_i},$

QED

— whuber
แหล่งที่มา

แต่กลับกลายเป็นว่าโคโนบทความโดยเคนเน ธ ขนาดเล็กและฮาร์วีย์ Rosenแสดงให้เห็นว่าในปี 1981 นี้ แต่ในบริบทของความเชี่ยวชาญมากเพื่อผลที่ต้องใช้จำนวนมากของการขุดไม่พูดถึงการฝึกอบรมในสาขาเศรษฐศาสตร์ ฉันตัดสินใจที่จะพิสูจน์ในวิธีที่ฉันสามารถเข้าถึงได้มากขึ้น

พิสูจน์ : ให้เป็นจำนวนทางเลือก ขึ้นอยู่กับค่าของ vector , ฟังก์ชันใช้ค่าต่างกัน ครั้งแรกที่มุ่งเน้นไปที่ค่าของเช่นว่า\ นั่นคือเราจะรวมกับชุด : $J$ $\boldsymbol{\epsilon} = \{\epsilon_1, ..., \epsilon_J\}$ $\max_i(\delta_i + \epsilon_i)$ $\boldsymbol{\epsilon}$ $\max_i (\delta_i + \epsilon_i) = \delta_1 + \epsilon_1$ $\delta_1 + \epsilon_1$ $M_1 \equiv \{\boldsymbol\epsilon : \delta_1 + \epsilon_1 > \delta_j + \epsilon_j, j \neq 1\}$

\begin{aligned} E_{ϵ \in M_{1}} [max_{i} (δ_{i} + ϵ_{i})] = \\ \int_{- \infty}^{\infty} (δ_{1} + ϵ_{1}) f (ϵ_{1}) [\int_{- \infty}^{δ_{1} + ϵ_{1} - δ_{2}} . . . \int_{- \infty}^{δ_{1} + ϵ_{1} - δ_{J}} f (ϵ_{2}) . . . f (ϵ_{J}) d ϵ_{2} . . . d ϵ_{J}] d ϵ_{1} = \\ \int_{- \infty}^{\infty} (δ_{1} + ϵ_{1}) f (ϵ_{1}) (\int_{- \infty}^{δ_{1} + ϵ_{1} - δ_{2}} f (ϵ_{2}) d ϵ_{2}) . . . (\int_{- \infty}^{δ_{1} + ϵ_{1} - δ_{J}} f (ϵ_{J}) d ϵ_{J}) d ϵ_{1} = \\ \int_{- \infty}^{\infty} (δ_{1} + ϵ_{1}) f (ϵ_{1}) F (δ_{1} + ϵ_{1} - δ_{2}) . . . F (δ_{1} + ϵ_{1} - δ_{J}) d ϵ_{1} \end{aligned}

$\begin{equation} \begin{split} E_{\boldsymbol \epsilon \in M_1} [\max_i(\delta_i + \epsilon_i)] = \hspace{3.25in}\\ \int^{\infty}_{-\infty} (\delta_1 + \epsilon_1)f(\epsilon_1) \left[\int_{-\infty}^{\delta_1 + \epsilon_1 - \delta_2} ... \int_{-\infty}^{\delta_1 + \epsilon_1 - \delta_J}f(\epsilon_2) ...f(\epsilon_J) d\epsilon_2 ...d\epsilon_J \right] d\epsilon_1 = \\ \int^{\infty}_{-\infty} (\delta_1 + \epsilon_1)f(\epsilon_1) \left(\int_{-\infty}^{\delta_1 + \epsilon_1 - \delta_2} f(\epsilon_2)d\epsilon_2 \right) ... \left( \int_{-\infty}^{\delta_1 + \epsilon_1 - \delta_J}f(\epsilon_J) d\epsilon_J \right) d\epsilon_1 = \\ \int^{\infty}_{-\infty} \left(\delta_1 + \epsilon_1\right) f(\epsilon_1) F(\delta_1 + \epsilon_1 - \delta_2) ...F(\delta_1 + \epsilon_1 - \delta_J) d\epsilon_1 \end{split} \end{equation}$

ระยะดังกล่าวข้างต้นเป็นครั้งแรกของข้อตกลงดังกล่าวในขวา)] โดยเฉพาะอย่างยิ่ง $J$ $E[\max_i \left(\delta_i + \epsilon_i \right)]$

E [max_{i} (δ_{i} + ϵ_{i})] = \sum_{i} E_{ϵ \in M_{i}} [max_{i} (δ_{i} + ϵ_{i})] .

$\begin{equation} E\left[\max_i \left(\delta_i + \epsilon_i \right)\right] = \sum_i E_{\boldsymbol \epsilon \in M_i}\left[\max_i\left( \delta_i + \epsilon_i \right) \right]. \end{equation}$

ตอนนี้เราใช้รูปแบบการทำงานของการกระจาย Gumbel สิ่งนี้จะช่วยให้

\begin{aligned} E_{ϵ \in M_{i}} [max_{i} (δ_{i} + ϵ_{i})] = \\ \int_{- \infty}^{\infty} (δ_{i} + ϵ_{i}) e^{μ - ϵ_{i}} e^{- e^{μ - ϵ_{i}}} \prod_{j \neq i} e^{- e^{μ - ϵ_{i} + δ_{j} - δ_{i}}} d ϵ_{i} \\ = & \int_{- \infty}^{\infty} (δ_{i} + ϵ_{i}) e^{μ - ϵ_{i}} \prod_{j} e^{- e^{μ - ϵ_{i} + δ_{j} - δ_{i}}} d ϵ_{i} \\ = & \int_{- \infty}^{\infty} (δ_{i} + ϵ_{i}) e^{μ - ϵ_{i}} \exp {\sum_{j} - e^{μ - ϵ_{i} + δ_{j} - δ_{i}}} d ϵ_{i} \\ = & \int_{- \infty}^{\infty} (δ_{i} + ϵ_{i}) e^{μ - ϵ_{i}} \exp {- e^{μ - ϵ_{i}} \sum_{j} e^{δ_{j} - δ_{i}}} d ϵ_{i} \end{aligned}

$\begin{equation} \begin{split} &E_{\boldsymbol \epsilon \in M_i}\left[\max_i\left( \delta_i + \epsilon_i \right) \right] = \hspace{2in} \\ &\int^{\infty}_{-\infty} \left(\delta_i + \epsilon_i\right)e^{\mu - \epsilon_i} e^{- e^{\mu - \epsilon_i}} \prod_{j \neq i} e^{-e^{\mu - \epsilon_i + \delta_j - \delta_i}}d\epsilon_i \\ =&\int^{\infty}_{-\infty} \left(\delta_i + \epsilon_i\right)e^{\mu - \epsilon_i } \prod_{j } e^{-e^{\mu - \epsilon_i + \delta_j - \delta_i}}d\epsilon_i \\ =&\int^{\infty}_{-\infty} \left(\delta_i + \epsilon_i \right) e^{\mu - \epsilon_i} \exp \Bigl\{ \sum_{j} -e^{\mu - \epsilon_i + \delta_j - \delta_i} \Bigr\}d\epsilon_i \\ =&\int^{\infty}_{-\infty} \left(\delta_i + \epsilon_i \right) e^{\mu - \epsilon_i} \exp \Bigl\{ -e^{\mu - \epsilon_i } \sum_{j} e^{ \delta_j - \delta_i} \Bigr\}d\epsilon_i \end{split} \end{equation}$

ที่ขั้นตอนที่สองมาจากการจัดเก็บภาษีหนึ่งในแง่ exponentiated ลงสินค้าพร้อมกับความจริงที่ว่าถ้าJ $\delta_j - \delta_i = 0$ $i = j$

ตอนนี้เรากำหนดและทำการแทนดังนั้นและขวา) โปรดสังเกตว่าเมื่อเข้าใกล้อนันต์,เข้าใกล้ 0 และขณะที่เข้าใกล้อนันต์ลบ,เข้าใกล้อนันต์ $D_i \equiv \sum_j e^{\delta_j - \delta_i}$ $x = D_i\hspace{0.5mm} e^{\mu - \epsilon_i}$ $dx = -D_i e^{\mu - \epsilon_i}d\epsilon_i \Rightarrow -\frac{dx} {D_i} = e^{\mu - \epsilon_i}d\epsilon_i$ $\epsilon_i = \mu - \log\left(\frac{x}{D_i}\right)$ $\epsilon_i$ $x$ $\epsilon_i$ $x$

\begin{aligned} E_{ϵ \in M_{i}} [max_{i} (δ_{i} + ϵ_{i})] = \\ \int_{\infty}^{0} (δ_{i} + μ - \log [\frac{x}{D_{i}}]) (- \frac{1}{D_{i}}) \exp {- x} d x \\ = & \frac{1}{D_{i}} \int_{0}^{\infty} (δ_{i} + μ - \log [\frac{x}{D_{i}}]) e^{- x} d x \\ = & \frac{δ_{i} + μ}{D_{i}} \int_{0}^{\infty} e^{- x} d x - \frac{1}{D_{i}} \int_{0}^{\infty} \log [x] e^{- x} d x + \frac{\log [D_{i}]}{D_{i}} \int_{0}^{\infty} e^{- x} d x \end{aligned}

$\begin{equation} \begin{split} &\hspace{3mm} E_{\boldsymbol \epsilon \in M_i}\left[\max_i\left( \delta_i + \epsilon_i \right) \right] = \\ &\hspace{3mm}\int^{0}_{\infty} \left(\delta_i + \mu - \log\left[\frac{x}{D_i} \right]\right)\left(-\frac{1}{D_i}\right)\exp\left\{ -x\right\}dx \\ =&\hspace{3mm}\frac{1}{D_i}\int^{\infty}_{0} \left(\delta_i + \mu - \log\left[\frac{x}{D_i} \right]\right)e^{ -x}dx \\ =&\hspace{3mm} \frac{\delta_i + \mu}{D_i}\int^{\infty}_{0} e^{-x}dx -\frac{1}{D_i}\int^{\infty}_{0} \log[x]e^{-x}dx + \frac{\log[D_i]} {D_i} \int^{\infty}_{0}e^{-x}dx\\ \end{split} \end{equation}$

ฟังก์ชันแกมมาถูกกำหนดให้เป็น1} สำหรับค่าของซึ่งเป็นจำนวนเต็มบวกนี่เท่ากับดังนั้น1 นอกจากนี้ยังเป็นที่รู้จักกันว่าออยเลอร์-Mascheroni คงที่น่าพอใจ $\Gamma(t) = \int^{\infty}_{0} x^{t - 1}e^{-x}dx$ $t$ $\Gamma(t) = (t - 1)!$ $\Gamma(1) = 0! = 1$ $\gamma \approx 0.57722$

γ = - \int_{0}^{\infty} \log [x] e^{- x} d x .

$\gamma = -\int^{\infty}_{0} \log[x] e^{-x}dx.$

ใช้ข้อเท็จจริงเหล่านี้ให้

\begin{aligned} E_{ϵ \in M_{i}} [max_{i} (δ_{i} + ϵ_{i})] = \frac{δ_{i} + μ + γ + \log [D_{i}]}{D_{i}} \end{aligned}

$\begin{equation} \begin{split} &\hspace{3mm} E_{\boldsymbol \epsilon \in M_i}\left[\max_i\left( \delta_i + \epsilon_i \right) \right] = \frac{\delta_i + \mu + \gamma + \log[D_i]}{D_i} \end{split} \end{equation}$

แล้วเรารวมกว่าจะได้รับ $i$

\begin{aligned} E [max_{i} (δ_{i} + ϵ_{i})] = \sum_{i} \frac{δ_{i} + μ + γ + \log [D_{i}]}{D_{i}} \end{aligned}

$\begin{equation} \begin{split} &\hspace{3mm} E\left[\max_i\left( \delta_i + \epsilon_i \right) \right] = \sum_i \frac{\delta_i + \mu + \gamma + \log[D_i]}{D_i} \end{split} \end{equation}$

จำได้ว่าdelta_i}} สังเกตว่าน่าจะเป็นทางเลือกที่คุ้นเคย logitมีแปรผกผันของ 's หรือในคำอื่น ๆ1 นอกจากนี้ทราบว่า1 ถ้าอย่างนั้นเราก็มี $D_i = \sum_j e^{\delta_j - \delta_i} = \frac{\sum_j e^{\delta_j}} {e^{\delta_i}}$ $P_i = \frac{e^{\delta_i}}{\sum_j \delta_j}$ $D_i$ $P_i = 1/D_i$ $\sum_i P_i = 1$

\begin{aligned} E [max_{i} (δ_{i} + ϵ_{i})] = & \sum_{i} P_{i} (δ_{i} + μ + γ + \log [D_{i}]) \\ = & (μ + γ) \sum_{i} P_{i} + \sum_{i} P_{i} δ_{i} + \sum_{i} P_{i} \log [D_{i}] \\ = & μ + γ + \sum_{i} P_{i} δ_{i} + \sum_{i} P_{i} \log [\frac{\sum_{j} e^{δ_{j}}}{e^{δ_{i}}}] \\ = & μ + γ + \sum_{i} P_{i} δ_{i} + \sum_{i} P_{i} \log [\sum_{j} e^{δ_{j}}] - \sum_{i} P_{i} \log [e^{δ_{i}}] \\ = & μ + γ + \sum_{i} P_{i} δ_{i} + \log [\sum_{j} e^{δ_{j}}] \sum_{i} P_{i} - \sum_{i} P_{i} δ_{i} \\ = & μ + γ + \log [\sum_{j} \exp {δ_{j}}] . \end{aligned}

$\begin{equation} \begin{split} \hspace{3mm} E\left[\max_i\left( \delta_i + \epsilon_i \right) \right] =& \sum_i P_i\left(\delta_i + \mu + \gamma + \log[D_i]\right)\\ =&\hspace{2mm} (\mu + \gamma) \sum_i P_i + \sum_i P_i\delta_i + \sum_iP_i \log[D_i] \\ =& \hspace{2mm} \mu + \gamma + \sum_i P_i \delta_i + \sum_i P_i \log\left[\frac{\sum_j e^{\delta_j}} {e^{\delta_i}} \right]\\ =& \mu + \gamma + \sum_i P_i \delta_i + \sum_i P_i \log\left[\sum_j e^{\delta_j}\right] - \sum_i P_i \log[e^{\delta_i}]\\ =& \mu + \gamma + \sum_i P_i \delta_i + \log\left[ \sum_j e^{\delta_j}\right] \sum_i P_i - \sum_i P_i \delta_i \\ =& \mu + \gamma + \log\left[ \sum_j \exp\left\{ \delta_j \right\}\right] .\end{split} \end{equation}$ QED

— เจสัน
แหล่งที่มา

ฉันเชื่อมโยงสิ่งที่ฉันเชื่อว่าเป็นบทความที่คุณอ้างถึงโดยไม่ได้ตรวจสอบให้แน่ใจ โปรดแก้ไขหากผิด

— Dougal

@ Jason คุณรู้วิธีที่จะพิสูจน์ว่านี่คือเมื่อสูงสุดมีเงื่อนไขในการเป็นสูงสุด? ดูคำถามที่นี่ซึ่งยังไม่ได้แก้: stats.stackexchange.com/questions/260847/…

— wolfsatthedoor