ในกรณีของแบบจำลองปัวซองฉันก็จะบอกว่าแอปพลิเคชันมักจะกำหนดว่าเพื่อนร่วมของคุณจะทำหน้าที่เสริมหรือไม่ (ซึ่งจะเป็นการเชื่อมโยงตัวตน) หรือเพิ่มขึ้นในระดับเชิงเส้น (ซึ่งจะเป็นการเชื่อมโยงบันทึก) แต่รุ่นปัวซองที่มีลิงค์ตัวตนปกตินั้นเหมาะสมและเหมาะสมเท่านั้นหากมีข้อ จำกัด แบบไม่ลบค่าสัมประสิทธิ์การติดตั้ง - ซึ่งสามารถทำได้โดยใช้nnpoisฟังก์ชั่นในaddregแพ็คเกจR หรือการใช้nnlmฟังก์ชั่นในNNLMบรรจุภัณฑ์ ดังนั้นฉันจึงไม่เห็นด้วยว่าเราควรจะพอดีกับแบบจำลองของปัวซงทั้งตัวตนและล็อกลิงค์และดูว่าอันไหนที่จบลงด้วยการมี AIC ที่ดีที่สุดและอนุมานโมเดลที่ดีที่สุดโดยอ้างอิงจากสถิติล้วนๆ - โดยส่วนใหญ่ โครงสร้างพื้นฐานของปัญหาที่พยายามแก้ไขหรือข้อมูลในมือ
ยกตัวอย่างเช่นในโครมาโตกราฟี (การวิเคราะห์ GC / MS) เรามักจะวัดสัญญาณซ้อนทับของยอดเขารูปเกาส์ประมาณหลาย ๆ อันและสัญญาณที่ซ้อนทับนี้จะถูกวัดด้วยตัวคูณอิเล็กตรอนซึ่งหมายความว่าสัญญาณที่วัดได้นั้นนับเป็นไอออน เนื่องจากยอดเขาแต่ละแห่งมีคำจำกัดความว่ามีความสูงเป็นบวกและทำหน้าที่เสริมและเสียงรบกวนคือปัวซองรูปแบบพัวซองแบบไม่ลบที่มีตัวเชื่อมโยงตัวตนจะเหมาะสมที่นี่และรูปแบบบันทึกปัวซองนั้นผิดปกติ ในงานวิศวกรรมKullback-Leibler สูญเสียมักจะใช้เป็นฟังก์ชั่นการสูญเสียสำหรับรูปแบบดังกล่าวและลดการสูญเสียนี้จะเทียบเท่ากับการเพิ่มประสิทธิภาพความน่าจะเป็นของที่ไม่เป็นลบเอกลักษณ์ของการเชื่อมโยงรูปแบบปัวส์ซอง (นอกจากนี้ยังมีมาตรการที่แตกต่าง / การสูญเสียอื่น ๆ เช่นอัลฟาหรือแตกต่างเบต้า ที่มีปัวซองเป็นกรณีพิเศษ)
ด้านล่างนี้เป็นตัวอย่างที่เป็นตัวเลขรวมถึงการสาธิตที่การเชื่อมโยงข้อมูลประจำตัวที่ไม่มีข้อ จำกัด Poisson GLM ไม่พอดี (เนื่องจากการขาดข้อ จำกัด nonnegativity) และรายละเอียดบางอย่างเกี่ยวกับวิธีการติดตั้งแบบจำลอง Poisson แบบ nonnegative-linknnpoisที่นี่ในบริบทของการแยกแยะความซ้อนทับของยอดโครมาโตกราฟีที่มีจุดรบกวนเสียงปัวซงโดยใช้เมทริกซ์โควาริเอตแบนด์ที่มีแถบสีซึ่งมีสำเนาของรูปร่างที่เปลี่ยนแปลงของจุดสูงสุดเดียว Nonnegativity ที่นี่มีความสำคัญด้วยเหตุผลหลายประการ: (1) มันเป็นแบบจำลองที่เหมือนจริงเพียงอย่างเดียวสำหรับข้อมูลที่อยู่ในมือ (จุดสูงสุดที่นี่ไม่มีความสูงเชิงลบ) (2) มันเป็นวิธีเดียวที่จะพอดีกับแบบจำลองของปัวซอง การคาดการณ์ไม่เช่นนั้นสำหรับค่า covariate บางค่าอาจเป็นค่าลบซึ่งจะไม่สมเหตุสมผลและจะให้ปัญหาเชิงตัวเลขเมื่อเราพยายามประเมินความเป็นไปได้ที่จะเกิดขึ้น (3) การไม่กระทำโดยไม่ย่อท้อเพื่อทำให้เกิดปัญหาการถดถอยอย่างสม่ำเสมอ โดยทั่วไปแล้วคุณจะไม่ได้รับปัญหาที่เกินกำลังเช่นเดียวกับการถดถอยทั่วไปข้อ จำกัด ของ nonnegativity ส่งผลให้มีการประมาณการณ์ของ sparser ซึ่งมักจะใกล้เคียงกับความจริงบนพื้นดิน สำหรับปัญหาการแยกส่วนด้านล่างเช่นประสิทธิภาพเป็นเรื่องเกี่ยวกับการทำให้เป็นมาตรฐาน LASSO แต่ไม่ต้องการให้ปรับพารามิเตอร์ใด ๆ ( L0-pseudonorm ลงโทษการถดถอยยังคงทำงานได้ดีขึ้นเล็กน้อย แต่มีค่าใช้จ่ายในการคำนวณมากขึ้น )
# we first simulate some data
require(Matrix)
n = 200
x = 1:n
npeaks = 20
set.seed(123)
u = sample(x, npeaks, replace=FALSE) # unkown peak locations
peakhrange = c(10,1E3) # peak height range
h = 10^runif(npeaks, min=log10(min(peakhrange)), max=log10(max(peakhrange))) # unknown peak heights
a = rep(0, n) # locations of spikes of simulated spike train, which are assumed to be unknown here, and which needs to be estimated from the measured total signal
a[u] = h
gauspeak = function(x, u, w, h=1) h*exp(((x-u)^2)/(-2*(w^2))) # peak shape function
bM = do.call(cbind, lapply(1:n, function (u) gauspeak(x, u=u, w=5, h=1) )) # banded matrix with peak shape measured beforehand
y_nonoise = as.vector(bM %*% a) # noiseless simulated signal = linear convolution of spike train with peak shape function
y = rpois(n, y_nonoise) # simulated signal with random poisson noise on it - this is the actual signal as it is recorded
par(mfrow=c(1,1))
plot(y, type="l", ylab="Signal", xlab="x", main="Simulated spike train (red) to be estimated given known blur kernel & with Poisson noise")
lines(a, type="h", col="red")
# let's now deconvolute the measured signal y with the banded covariate matrix containing shifted copied of the known blur kernel/peak shape bM
# first observe that regular OLS regression without nonnegativity constraints would return very bad nonsensical estimates
weights <- 1/(y+1) # let's use 1/variance = 1/(y+eps) observation weights to take into heteroscedasticity caused by Poisson noise
a_ols <- lm.fit(x=bM*sqrt(weights), y=y*sqrt(weights))$coefficients # weighted OLS
plot(x, y, type="l", main="Ground truth (red), unconstrained OLS estimate (blue)", ylab="Peak shape", xlab="x", ylim=c(-max(y),max(y)))
lines(x,-y)
lines(a, type="h", col="red", lwd=2)
lines(-a_ols, type="h", col="blue", lwd=2)
# now we use weighted nonnegative least squares with 1/variance obs weights as an approximation of nonnegative Poisson regression
# this gives very good estimates & is very fast
library(nnls)
library(microbenchmark)
microbenchmark(a_wnnls <- nnls(A=bM*sqrt(weights),b=y*sqrt(weights))$x) # 7 ms
plot(x, y, type="l", main="Ground truth (red), weighted nnls estimate (blue)", ylab="Signal (black) & peaks (red & blue)", xlab="Time", ylim=c(-max(y),max(y)))
lines(x,-y)
lines(a, type="h", col="red", lwd=2)
lines(-a_wnnls, type="h", col="blue", lwd=2)
# note that this weighted least square estimate in almost identical to the nonnegative Poisson estimate below and that it fits way faster!!!
# an unconstrained identity-link Poisson GLM will not fit:
glmfit = glm.fit(x=as.matrix(bM), y=y, family=poisson(link=identity), intercept=FALSE)
# returns Error: no valid set of coefficients has been found: please supply starting values
# so let's try a nonnegativity constrained identity-link Poisson GLM, fit using bbmle (using port algo, ie Quasi Newton BFGS):
library(bbmle)
XM=as.matrix(bM)
colnames(XM)=paste0("v",as.character(1:n))
yv=as.vector(y)
LL_poisidlink <- function(beta, X=XM, y=yv){ # neg log-likelihood function
-sum(stats::dpois(y, lambda = X %*% beta, log = TRUE)) # PS regular log-link Poisson would have exp(X %*% beta)
}
parnames(LL_poisidlink) <- colnames(XM)
system.time(fit <- mle2(
minuslogl = LL_poisidlink ,
start = setNames(a_wnnls+1E-10, colnames(XM)), # we initialise with weighted nnls estimates, with approx 1/variance obs weights
lower = rep(0,n),
vecpar = TRUE,
optimizer = "nlminb"
)) # very slow though - takes 145s
summary(fit)
a_nnpoisbbmle = coef(fit)
plot(x, y, type="l", main="Ground truth (red), nonnegative Poisson bbmle ML estimate (blue)", ylab="Signal (black) & peaks (red & blue)", xlab="Time", ylim=c(-max(y),max(y)))
lines(x,-y)
lines(a, type="h", col="red", lwd=2)
lines(-a_nnpoisbbmle, type="h", col="blue", lwd=2)
# much faster is to fit nonnegative Poisson regression using nnpois using an accelerated EM algorithm:
library(addreg)
microbenchmark(a_nnpois <- nnpois(y=y,
x=as.matrix(bM),
standard=rep(1,n),
offset=0,
start=a_wnnls+1.1E-4, # we start from weighted nnls estimates
control = addreg.control(bound.tol = 1e-04, epsilon = 1e-5),
accelerate="squarem")$coefficients) # 100 ms
plot(x, y, type="l", main="Ground truth (red), nonnegative Poisson nnpois estimate (blue)", ylab="Signal (black) & peaks (red & blue)", xlab="Time", ylim=c(-max(y),max(y)))
lines(x,-y)
lines(a, type="h", col="red", lwd=2)
lines(-a_nnpois, type="h", col="blue", lwd=2)
# or to fit nonnegative Poisson regression using nnlm with Kullback-Leibler loss using a coordinate descent algorithm:
library(NNLM)
system.time(a_nnpoisnnlm <- nnlm(x=as.matrix(rbind(bM)),
y=as.matrix(y, ncol=1),
loss="mkl", method="scd",
init=as.matrix(a_wnnls, ncol=1),
check.x=FALSE, rel.tol=1E-4)$coefficients) # 3s
plot(x, y, type="l", main="Ground truth (red), nonnegative Poisson nnlm estimate (blue)", ylab="Signal (black) & peaks (red & blue)", xlab="Time", ylim=c(-max(y),max(y)))
lines(x,-y)
lines(a, type="h", col="red", lwd=2)
lines(-a_nnpoisnnlm, type="h", col="blue", lwd=2)
