วิธีการแก้ปัญหาแบบปิดเพื่อแก้ไขปัญหา lasso เมื่อ data matrix เป็นแนวทแยง

$\newcommand{\diag}{\operatorname{diag}}$ เรามีปัญหา: มีสมมติฐานว่า:

min_{w \in R^{d}} (\frac{1}{n} \sum_{i = 1}^{n} {(⟨ w, x_{i} ⟩ - y_{i})}^{2} + 2 λ | | w | |_{1}),

$\min_{w\in\mathbb{R}^{d}}\left( \frac{1}{n}\sum_{i=1}^{n} \left( \langle w,x_{i}\rangle-y_{i} \right)^{2} +2\lambda||w||_1\right),$

\sum_{i = 1}^{n} x_{i} x_{i}^{T} = diag (σ_{1}^{2}, . . ., σ_{d}^{2}) .

$\sum_{i=1}^nx_ix_i^T=\diag(\sigma_1^2,...,\sigma_d^2).$

ในกรณีนี้มีวิธีแก้ปัญหาแบบปิดหรือไม่?

ฉันมี:

(X^{T} X)^{- 1} = diag (σ_{1}^{- 2}, . . ., σ_{d}^{- 2}),

$(X^TX)^{-1}=\diag\left(\sigma_1^{-2},...,\sigma_d^{-2}\right),$ ดังนั้นฉันคิดว่าคำตอบคือ :

w^{j} = y^{j} max {0, 1 - λ \frac{n}{| y^{j} |}},

$w\,^j=y\,^j\max\left\{0,1-\lambda \frac{n}{|y^j|}\right\},$ สำหรับ

y^{j} = \sum_{i = 1}^{n} \frac{y_{i} x_{i}^{j}}{σ_{i}^{2}}

$y\,^j=\displaystyle\sum_{i=1}^n\frac{y_ix_i\,^j}{\sigma_i^2}$ แต่ฉันไม่แน่ใจ

— Arthur D.
แหล่งที่มา

ฉันจะต้องผ่านการค้นพบของ @ cardinal เกี่ยวกับการแก้ปัญหาแบบกัมมันตภาพรังสีแบบปิดเมื่อ $X^T X = I$ พบได้ที่นี่พร้อมการแก้ไขเล็กน้อย

ฉันจะสมมติว่าสำหรับทุกฉันนี่เป็นธรรมเพราะถ้าเรามีนี่จะบอกเราว่าคอลัมน์ th ของคือ 0 ทั้งหมดและฉันคิดว่ามันสมเหตุสมผลที่จะยกเว้นกรณีดังกล่าว ฉันจะให้D โปรดทราบว่านี่ยังหมายความว่านั้นเป็นอันดับเต็มและโซลูชัน OLSนั้นถูกกำหนดไว้โดยเฉพาะ $\sigma^2_i > 0$ $i$ $\sigma^2_i = 0$ $i$ $X$ $X^T X = D$ $X$ $\hat \beta$

ฉันจะปรับเปลี่ยนสัญกรณ์ของคุณให้ตรงกับที่ดีกว่าในคำตอบที่ฉันอ้างอิง ด้วยเหตุนี้ฉันจะต้องแก้

{\hat{β}}_{λ} = {argmin}_{β \in R^{p}} \frac{1}{2} | | Y - X β | |_{2}^{2} + λ | | β | |_{1} .

$\hat \beta_\lambda = \text{argmin}_{\beta \in \mathbb R^p } \frac 12 \vert \vert Y - X\beta\vert \vert^2_2 + \lambda \vert \vert \beta \vert \vert_1.$

นี่เป็นปัญหาของคุณ แต่ฉันสามารถเพิ่มรายละเอียดเพิ่มเติมได้ที่นี่หากคุณต้องการ

จากการติดตามของ @ cardinal เราจำเป็นต้องแก้

{\hat{β}}_{λ} = argmin \frac{1}{2} (Y^{T} Y - 2 Y^{T} X β + β^{T} X^{T} X β) + λ | | β | |_{1}

$\hat \beta_\lambda = \text{argmin } \frac 12 (Y^T Y - 2 Y^T X \beta + \beta^T X^T X \beta) + \lambda \vert \vert \beta \vert \vert_1$

= argmin - Y^{T} X β + \frac{1}{2} β^{T} D β + λ | | β | |_{1} .

$= \text{argmin } -Y^T X \beta + \frac 12 \beta^T D \beta + \lambda \vert \vert \beta \vert \vert_1.$

สังเกตว่าโซลูชัน OLS คือเรามี $\hat \beta = (X^T X)^{-1} X^T Y = D^{-1}X^T Y$

{\hat{β}}_{λ} = argmin - {\hat{β}}^{T} D β + \frac{1}{2} β^{T} D β + λ | | β | |_{1}

$\hat \beta_\lambda = \text{argmin } -\hat \beta^T D \beta + \frac 12 \beta^T D \beta + \lambda \vert \vert \beta \vert \vert_1$

= argmin \sum_{j = 1}^{p} - {\hat{β}}_{j} β_{j} σ_{j}^{2} + \frac{σ_{j}^{2}}{2} β_{j}^{2} + λ | β_{j} | .

$= \text{argmin } \sum_{j=1}^p -\hat \beta_j \beta_j \sigma^2_j + \frac{\sigma^2_j}2 \beta_j^2 + \lambda | \beta_j|.$

เรากำลังปรับให้เหมาะสมกับแต่ละแยกต่างหากดังนั้นเราจึงสามารถแก้แต่ละเทอมของผลรวมนี้แยกกันได้ นั่นหมายความว่าเราต้องลดโดยที่ $\beta_j$ $\mathcal L_j$

L_{j} = - {\hat{β}}_{j} β_{j} σ_{j}^{2} + \frac{σ_{j}^{2}}{2} β_{j}^{2} + λ | β_{j} | .

$\mathcal L_j = -\hat \beta_j \beta_j \sigma^2_j + \frac{\sigma^2_j}2 \beta_j^2 + \lambda | \beta_j|.$

จากการโต้แย้งอย่างถี่ถ้วนกับคำตอบที่เชื่อมโยงเราพบว่า

({\hat{β}}_{λ})_{j} = s g n ({\hat{β}}_{j}) {(| {\hat{β}}_{j} | - \frac{λ}{σ_{j}^{2}})}^{+} .

$(\hat \beta_\lambda)_j = \mathrm{sgn}(\hat \beta_j) \left(|\hat \beta_j| - \frac{\lambda}{\sigma^2_j}\right)^+.$

นอกจากนี้ดังนั้นเราจึงมี $\hat \beta = D^{-1} X^T Y \implies \hat \beta_j = \frac{X_j^T Y}{\sigma_j^2}$

{(| {\hat{β}}_{j} | - \frac{λ}{σ_{j}^{2}})}^{+} = \frac{1}{σ_{j}^{2}} {(| X_{j}^{T} Y | - λ)}^{+}

$\left(|\hat \beta_j| - \frac{\lambda}{\sigma^2_j}\right)^+ = \frac 1 {\sigma^2_j} \left(|X_j^T Y| - \lambda\right)^+$

ดังนั้นปรากฎว่าตัวทำนายกลายเป็นศูนย์อย่างแน่นอนเมื่อมันเกิดขึ้นถ้าเมทริกซ์การออกแบบเป็นแบบออโธเทนนิกไม่ใช่ไม่ใช่แค่ฉากฉาก ดังนั้นเราจะเห็นได้ว่าในกรณีนี้ด้วยการเลือกตัวแปรไม่แตกต่างจากแต่ค่าสัมประสิทธิ์ที่เกิดขึ้นจริงจะถูกปรับสัดส่วนตามความแปรปรวนของผู้ทำนาย $X_j$ $X^T X = D \neq I$ $X^T X = I$ $\hat \beta_\lambda$

ในฐานะที่เป็นบันทึกสุดท้ายเราจะหันแก้ปัญหานี้เป็นหนึ่งที่คุณคล้ายซึ่งหมายความว่าเราต้องคูณโดยบางสิ่งบางอย่างที่จะได้รับ\ ถ้าเราก็มี $\hat \beta$ $\hat \beta_\lambda$ $(\hat \beta_\lambda)_j \neq 0$

({\hat{β}}_{λ})_{j} = sgn ({\hat{β}}_{j}) (| {\hat{β}}_{j} | - \frac{λ}{σ_{j}^{2}}) = {\hat{β}}_{j} - sgn ({\hat{β}}_{j}) \frac{λ}{σ_{j}^{2}}

$(\hat \beta_\lambda)_j = \text{sgn}(\hat \beta_j) \left( \vert \hat \beta_j \vert - \frac{\lambda}{\sigma^2_j} \right) = \hat \beta_j - \text{sgn}(\hat \beta_j) \frac{\lambda}{\sigma^2_j}$

= {\hat{β}}_{j} (1 - \frac{λ}{σ_{j}^{2} | {\hat{β}}_{j} |})

$= \hat \beta_j \left( 1 - \frac{\lambda}{\sigma^2_j \vert \hat \beta_j \vert} \right)$

ตั้งแต่(ก) $\frac{a}{\vert a \vert} = \text{sgn}(a)$

สังเกตว่าเมื่อ $(\hat \beta_\lambda)_j = 0$

| {\hat{β}}_{j} | - \frac{λ}{σ_{j}^{2}} \leq 0 ⟺ | {\hat{β}}_{j} | \leq \frac{λ}{σ_{j}^{2}} ⟺ 1 \leq \frac{λ}{σ_{j}^{2} | {\hat{β}}_{j} |} ⟺ 1 - \frac{λ}{σ_{j}^{2} | {\hat{β}}_{j} |} \leq 0,

$\vert \hat \beta_j \vert - \frac{\lambda}{\sigma^2_j} \leq 0 \iff \vert \hat \beta_j \vert \leq \frac{\lambda}{\sigma^2_j} \iff 1 \leq \frac{\lambda}{\sigma^2_j \vert \hat \beta_j \vert} \iff 1 - \frac{\lambda}{\sigma^2_j \vert \hat \beta_j \vert} \leq 0,$

เราเห็นว่าเราสามารถแสดงเป็น $\hat \beta_\lambda$

({\hat{β}}_{λ})_{j} = {\hat{β}}_{j} {(1 - \frac{λ}{σ_{j}^{2} | {\hat{β}}_{j} |})}^{+} .

$(\hat \beta_\lambda)_j = \hat \beta_j \left( 1 - \frac{\lambda}{\sigma^2_j \vert \hat \beta_j \vert} \right)^+.$

ดังนั้นนี่คือสิ่งที่คุณมี แต่ไม่เหมือนกัน

ฉันมักจะตรวจสอบ derivations เช่นนี้กับห้องสมุดที่รู้จักกันดีถ้าเป็นไปได้ดังนั้นนี่คือตัวอย่างใน R:

## generating `x`
set.seed(1)
n = 1000
p = 5
sigma2s = 1:p
x = svd(matrix(rnorm(n * p), n, p))$u %*% diag(sqrt(sigma2s))

## check this
# t(x) %*% x

## generating `y`
betas = 1:p
y = x %*% betas + rnorm(nrow(x), 0, .5)

lambda = 2

## using a well-known library to fit lasso
library(penalized)
penalized(y, x, lambda1 = lambda)@penalized


## using closed form solution
betahat = lm(y ~ x - 1)$coef
ifelse(betahat > 0, 1, -1) * sapply(abs(betahat) - lambda / sigma2s, function(v) max(c(0, v)))

— JLD
แหล่งที่มา