ค้นหารากที่ใหญ่ที่สุดของพหุนามด้วยเครือข่ายประสาท
ความท้าทาย ค้นหาเครือข่ายนิวรัล feedforward ที่เล็กที่สุดเช่นที่ให้เวกเตอร์อินพุต 3 มิติ(a,b,c)(a,b,c)(a,b,c)มีรายการจำนวนเต็มใน[−10,10][−10,10][-10,10]เครือข่ายเอาท์พุตรากที่ใหญ่ที่สุด (เช่น "บวกที่สุด") พหุนามx3+ax2+bx+cx3+ax2+bx+cx^3+ax^2+bx+cด้วยข้อผิดพลาดอย่างเคร่งครัดมีขนาดเล็กกว่า0.10.10.10.1 ภัณฑ์ แนวคิดเรื่องความสามารถในการยอมรับในความท้าทายการเล่นกอล์ฟสุทธิของประสาทก่อนหน้านี้ของฉันดูเหมือนจะมีข้อ จำกัด ดังนั้นสำหรับความท้าทายนี้เรากำลังใช้คำจำกัดความเสรีของเครือข่ายประสาท feedforward: เซลล์ประสาทเป็นฟังก์ชันν:Rn→Rν:Rn→R\nu\colon\mathbf{R}^n\to\mathbf{R}ที่ระบุไว้โดยเวกเตอร์w∈Rnw∈Rnw\in\mathbf{R}^{n}ของน้ำหนักเป็นอคติ b∈Rb∈Rb\in\mathbf{R}และฟังก์ชั่นการเปิดใช้งาน f:R→Rf:R→Rf\colon\mathbf{R}\to\mathbf{R}ในลักษณะต่อไปนี้: ν(x):=f(w⊤x+b),x∈Rn.ν(x):=f(w⊤x+b),x∈Rn. \nu(x) := f(w^\top x+b), \qquad x\in\mathbf{R}^n. เครือข่ายนิวรัลไปข้างหน้าพร้อมโหนดอินพุต {1,…,n}{1,…,n}\{1,\ldots,n\}เป็นฟังก์ชันของ(x1,…,xn)∈Rn(x1,…,xn)∈Rn(x_1,\ldots,x_n)\in\mathbf{R}^nที่สามารถสร้างขึ้นจากลำดับ(νk)Nk=n+1(νk)k=n+1N(\nu_k)_{k=n+1}^Nของเซลล์ประสาท โดยที่แต่ละνk:Rk−1→Rνk:Rk−1→R\nu_k\colon\mathbf{R}^{k-1}\to\mathbf{R}ใช้อินพุตจาก(x1,…,xk−1)(x1,…,xk−1)(x_1,\ldots,x_{k-1})และผลเกลาxkxkx_k k ได้รับบางส่วนที่ระบุชุดS⊆{1,…,N}S⊆{1,…,N}S\subseteq\{1,\ldots,N\}ของโหนดที่ส่งออกแล้วส่งออกของเครือข่ายประสาทเป็นเวกเตอร์(xk)k∈S(xk)k∈S(x_k)_{k\in S} S เนื่องจากสามารถเปิดใช้งานฟังก์ชั่นการเปิดใช้งานสำหรับงานที่กำหนดเราจำเป็นต้อง จำกัด คลาสของฟังก์ชั่นการเปิดใช้งานเพื่อให้ความท้าทายนี้น่าสนใจ อนุญาตให้ใช้งานฟังก์ชั่นต่อไปนี้: เอกลักษณ์ f(t)=tf(t)=tf(t)=t Relu f(t)=max(t,0)f(t)=max(t,0)f(t)=\operatorname{max}(t,0) SoftPlus f(t)=ln(et+1)f(t)=ln(et+1)f(t)=\ln(e^t+1) sigmoid f(t)=etet+1f(t)=etet+1f(t)=\frac{e^t}{e^t+1} sinusoid f(t)=sintf(t)=sintf(t)=\sin t โดยรวมแล้วโครงข่ายประสาทที่ยอมรับได้นั้นถูกระบุโดยโหนดอินพุตลำดับของเซลล์ประสาทและโหนดเอาต์พุตในขณะที่แต่ละเซลล์ประสาทถูกระบุโดยเวกเตอร์ของน้ำหนักอคติและฟังก์ชั่นการเปิดใช้งานจากรายการด้านบน ตัวอย่างเช่นตาข่ายประสาทต่อไปนี้สามารถใช้ได้แม้ว่าจะไม่เป็นไปตามเป้าหมายประสิทธิภาพของการท้าทายนี้: โหนดอินพุต: {1,2}{1,2}\{1,2\} …