จาก Bayesian Networks ไปยัง Neural Networks: วิธีการถดถอยหลายตัวแปรสามารถเปลี่ยนเป็นเครือข่ายหลายเอาท์พุทได้อย่างไร

ฉันกำลังจัดการกับโมเดลเชิงเส้นลำดับชั้นแบบเบย์ที่นี่เครือข่ายอธิบาย

$Y$หมายถึงยอดขายสินค้ารายวันในซูเปอร์มาร์เก็ต (ปฏิบัติตาม)

$X$เป็นเมทริกซ์ที่รู้จักกันดีของผู้ถดถอยซึ่งรวมถึงราคาโปรโมชั่นวันของสัปดาห์สภาพอากาศวันหยุด

$S$คือระดับสินค้าคงคลังแฝงที่ไม่รู้จักของแต่ละผลิตภัณฑ์ซึ่งทำให้เกิดปัญหามากที่สุดและฉันพิจารณาเวกเตอร์ของตัวแปรไบนารีหนึ่งรายการสำหรับแต่ละผลิตภัณฑ์ที่มีบ่งบอกถึงการออกจากสต็อคและดังนั้นความไม่พร้อมใช้งานของผลิตภัณฑ์ แม้ว่าในทางทฤษฎีไม่ทราบว่าฉันประเมินมันผ่าน HMM สำหรับแต่ละผลิตภัณฑ์ดังนั้นจึงถือได้ว่าเป็นที่รู้จักกันในชื่อ X.ฉันเพิ่งตัดสินใจปลดมันเพื่อพิธีการที่เหมาะสม$1$

$\eta$เป็นพารามิเตอร์เอฟเฟกต์แบบผสมสำหรับผลิตภัณฑ์ใด ๆ ก็ตามที่พิจารณาถึงผลกระทบแบบผสมคือราคาผลิตภัณฑ์โปรโมชั่นและสต็อกสินค้า

b 1 b $\beta$คือเวกเตอร์ของสัมประสิทธิ์การถดถอยคงที่ในขณะที่และเป็นเวกเตอร์ของสัมประสิทธิ์ผลกระทบผสม กลุ่มหนึ่งบ่งบอกถึงแบรนด์และอีกกลุ่มระบุถึงรสชาติ (นี่คือตัวอย่างในความเป็นจริงฉันมีหลายกลุ่ม แต่ที่นี่ฉันรายงานเพียง 2 เพื่อความชัดเจน)$b_1$$b_2$

Σ ข1 Σ ข$\Sigma_{\eta}$ ,และเป็นเหนือเอฟเฟกต์ผสม$\Sigma_{b_1}$$\Sigma_{b_2}$

เนื่องจากฉันมีข้อมูลจำนวนมากสมมติว่าฉันปฏิบัติต่อยอดขายแต่ละครั้งเนื่องจาก Poisson กระจายเงื่อนไขบน Regressors (แม้ว่าสำหรับผลิตภัณฑ์บางอย่างการประมาณเชิงเส้นจะถือและสำหรับคนอื่นแบบจำลองที่สูงเกินศูนย์จะดีกว่า) ในกรณีเช่นนี้ฉันจะมีผลิตภัณฑ์ ( นี่เป็นเพียงสำหรับผู้ที่สนใจในแบบจำลอง Bayesian เองข้ามไปที่คำถามหากคุณพบว่ามันไม่น่าสนใจหรือไม่สำคัญ :) ):$Y$

$\Sigma_{\eta} \sim IW(\alpha_0,\gamma_0)$

$\Sigma_{b_1} \sim IW(\alpha_1,\gamma_1)$

α 0 , γ 0 , α 1 , γ 1 , α 2 , γ $\Sigma_{b_2} \sim IW(\alpha_2,\gamma_2)$ ,รู้จัก$\alpha_0,\gamma_0,\alpha_1,\gamma_1,\alpha_2,\gamma_2$

$\eta \sim N(\mathbf{0},\Sigma_{\eta})$

$b_1 \sim N(\mathbf{0},\Sigma_{b_1})$

$b_2 \sim N(\mathbf{0},\Sigma_{b_2})$

Σ $\beta \sim N(\mathbf{0},\Sigma_{\beta})$ ,เป็นที่รู้จัก$\Sigma_{\beta}$

$\lambda _{tijk} = \beta*X_{ti} + \eta_i*X_{pps_{ti}} + b_{1_j} * Z_{tj} + b_{2_k} Z_{tk}$ ,

$Y_{tijk} \sim Poi(exp(\lambda_{tijk}))$

j ∈ 1 , … , m 1 k ∈ 1 , … , m $i \in {1,\dots,N}$ , ,$j \in {1,\dots,m_1}$$k \in {1,\dots,m_2}$

เอ็กซ์พีพีs ฉันฉันW Z ฉันZ ฉัน = X ฉันσ ฉันเจฉัน$Z_i$เมทริกซ์ของเอฟเฟกต์แบบผสมสำหรับ 2 กลุ่มแสดงราคาการส่งเสริมการขายและสต็อคของผลิตภัณฑ์ที่พิจารณา หมายถึงการแจกแจง Wishart แบบผกผันซึ่งมักจะใช้สำหรับเมทริกซ์ความแปรปรวนร่วมของพหุตัวแปรหลายตัวแปรปกติ แต่มันไม่สำคัญที่นี่ ตัวอย่างของการที่เป็นไปได้อาจจะเป็นเมทริกซ์ของทุกราคาหรือเราอาจจะบอกว่าZ_iสำหรับความนับถือของเมทริกซ์ความแปรปรวนร่วม - ความแปรปรวนร่วมฉันจะพยายามรักษาความสัมพันธ์ระหว่างรายการดังนั้นจะเป็นค่าบวกหากและเป็นผลิตภัณฑ์ของแบรนด์เดียวกันหรืออย่างใดอย่างหนึ่ง รสชาติเดียวกัน $X_{pps_i}$$IW$$Z_i$$Z_i=X_i$$\sigma_{ij}$$i$$j$

สัญชาตญาณที่อยู่เบื้องหลังโมเดลนี้จะเป็นไปได้ว่ายอดขายของผลิตภัณฑ์ที่กำหนดขึ้นอยู่กับราคาความพร้อมใช้งานของมันหรือไม่ แต่ยังขึ้นอยู่กับราคาของผลิตภัณฑ์อื่นทั้งหมดและ stockouts ของผลิตภัณฑ์อื่น ๆ ทั้งหมด เนื่องจากฉันไม่ต้องการมีแบบจำลองเดียวกัน (อ่าน: เส้นโค้งการถดถอยแบบเดียวกัน) สำหรับสัมประสิทธิ์ทั้งหมดฉันแนะนำเอฟเฟกต์แบบผสมที่ใช้ประโยชน์จากกลุ่มที่ฉันมีในข้อมูลของฉันผ่านการแชร์พารามิเตอร์

คำถามของฉันคือ:

2. มีวิธีใดที่จะแปลงโมเดลนี้เป็นสถาปัตยกรรมเครือข่ายประสาทเทียมหรือไม่? ฉันรู้ว่ามีคำถามมากมายที่มองหาความสัมพันธ์ระหว่างเครือข่ายแบบเบย์เขตมาร์กอฟสุ่มแบบจำลองลำดับชั้นแบบเบย์และเครือข่ายประสาท ฉันถามคำถามเกี่ยวกับโครงข่ายประสาทเนื่องจากมีปัญหามิติสูงของฉัน (พิจารณาว่าฉันมีผลิตภัณฑ์ 340) การประมาณค่าพารามิเตอร์ผ่าน MCMC ใช้เวลาหลายสัปดาห์ (ฉันลองใช้เพียง 20 ผลิตภัณฑ์ที่รันคู่ขนานใน runJags และใช้เวลาหลายวัน) . แต่ฉันไม่ต้องการไปสุ่มและให้ข้อมูลกับเครือข่ายประสาทเป็นกล่องดำ ฉันต้องการใช้ประโยชน์จากโครงสร้างการพึ่งพา / ความเป็นอิสระของเครือข่ายของฉัน

ที่นี่ฉันเพิ่งวาดเครือข่ายประสาท ดังที่คุณเห็น regressors (และระบุราคาตามลำดับและสสินค้าของ ) ที่ด้านบนจะถูกใส่เข้าไปในเลเยอร์ที่ซ่อนอยู่เหมือนกับผลิตภัณฑ์เฉพาะ (ที่นี่ฉันถือว่าราคาและสต็อกสินค้า) S i$P_i$$S_i$$i$(ขอบสีน้ำเงินและสีดำไม่มีความหมายโดยเฉพาะมันเป็นเพียงเพื่อทำให้รูปชัดเจนขึ้น) นอกจากนี้และอาจมีความสัมพันธ์สูงในขณะที่Y 1 Y 2 Y 3$Y_1$$Y_2$$Y_3$อาจเป็นผลิตภัณฑ์ที่แตกต่างอย่างสิ้นเชิง (คิดถึงน้ำส้ม 2 แก้วและไวน์แดง) แต่ฉันไม่ได้ใช้ข้อมูลนี้ในเครือข่ายประสาทเทียม ฉันสงสัยว่าข้อมูลการจัดกลุ่มจะใช้ในการ inizialization น้ำหนักหรือหากใครสามารถปรับแต่งเครือข่ายเพื่อแก้ไขปัญหา

แก้ไขความคิดของฉัน:

ความคิดของฉันจะเป็นแบบนี้: เมื่อก่อนและเป็นผลิตภัณฑ์ที่มีความสัมพันธ์กันในขณะที่นั้นแตกต่างกันโดยสิ้นเชิง เมื่อรู้สิ่งนี้ฉันจะทำสิ่งต่าง ๆ ก่อน:Y 2 Y $Y_1$$Y_2$$Y_3$

1. ฉันจัดสรรเซลล์ประสาทบางส่วนในเลเยอร์ที่ซ่อนอยู่ให้กับกลุ่มที่ฉันมีในกรณีนี้ฉันมี 2 กลุ่ม {( ), ( )}Y $Y_1,Y_2$$Y_3$
2. ฉันเริ่มต้นน้ำหนักสูงระหว่างอินพุตและโหนดที่จัดสรร (ขอบตัวหนา) และแน่นอนว่าฉันสร้างโหนดที่ซ่อนอยู่อื่น ๆ เพื่อจับภาพ 'แบบสุ่ม' ที่เหลืออยู่ในข้อมูล

ขอบคุณล่วงหน้าสำหรับความช่วยเหลือของคุณ

สำหรับบันทึกแล้วฉันไม่ได้มองสิ่งนี้เป็นคำตอบ แต่เป็นความคิดเห็นที่ยาว! PDE (สมการความร้อน) ที่ใช้ในการสร้างแบบจำลองการไหลของความร้อนผ่านแท่งโลหะสามารถใช้ในการกำหนดราคาแบบตัวเลือก ไม่มีใครที่ฉันเคยรู้จักพยายามแนะนำการเชื่อมต่อระหว่างตัวเลือกการกำหนดราคาและการไหลของความร้อนต่อ se ฉันคิดว่าคำพูดจากลิงค์ของ Danilov กำลังพูดในสิ่งเดียวกัน ทั้งกราฟเบย์และโครงข่ายประสาทใช้ภาษาของกราฟเพื่อแสดงความสัมพันธ์ระหว่างชิ้นส่วนภายในที่แตกต่างกัน อย่างไรก็ตามกราฟแบบเบย์บอกสิ่งหนึ่งเกี่ยวกับโครงสร้างความสัมพันธ์ของตัวแปรอินพุตและกราฟของตาข่ายประสาทบอกวิธีสร้างฟังก์ชันการทำนายจากตัวแปรอินพุต สิ่งเหล่านี้แตกต่างกันมาก
วิธีการต่างๆที่ใช้ใน DL พยายามที่จะ 'เลือก' ตัวแปรที่สำคัญที่สุด แต่นั่นเป็นปัญหาเชิงประจักษ์ นอกจากนี้ยังไม่ได้บอกใครเกี่ยวกับโครงสร้างความสัมพันธ์ของทั้งชุดตัวแปรทั้งหมดหรือตัวแปรที่เหลือ มันแสดงให้เห็นว่าตัวแปรที่รอดตายจะดีที่สุดสำหรับภาคแสดง ตัวอย่างเช่นหากมีคนดูตาข่ายประสาทหนึ่งจะนำไปสู่ชุดข้อมูลเครดิตเยอรมันซึ่งถ้าฉันจำได้อย่างถูกต้อง 2,000 จุดข้อมูลและตัวแปร 5 ขึ้นอยู่กับ จากการลองผิดลองถูกฉันคิดว่าคุณจะพบว่าเน็ตที่มีเลเยอร์ที่ซ่อนอยู่เพียง 1 ชั้นและการใช้ตัวแปรเพียง 2 ตัวจะให้ผลลัพธ์ที่ดีที่สุดสำหรับการทำนาย อย่างไรก็ตามสิ่งนี้สามารถค้นพบได้โดยการสร้างแบบจำลองทั้งหมดและทดสอบในชุดการทดสอบอิสระ