1) เครือข่ายประสาทส่วนใหญ่ไม่สามารถทำการคูณได้ พวกเขาสามารถคำนวณผลรวมเท่านั้น (ซึ่งจะถูกป้อนผ่านแต่ละรายการผ่านฟังก์ชันการเปิดใช้งาน ) พวกเขาต้องประเมินการคูณเหล่านั้นแทนหากพวกเขามีความสำคัญซึ่งต้องการเซลล์ประสาทจำนวนมากโดยเฉพาะอย่างยิ่งหากปัจจัยสามารถขยายช่วงใหญ่
หากปรากฏว่าพื้นที่บ้านเป็นคุณลักษณะสำคัญคุณจะช่วยเครือข่ายได้หากคุณให้พื้นที่กับมันเพราะสามารถใช้เซลล์ประสาทที่จำเป็นต้องใช้ในการประมาณการคูณความกว้างและความยาว ทำสิ่งอื่น ๆ
ดังนั้นในบางกรณีอาจรวมถึงคุณสมบัติพหุนามอาจเป็นประโยชน์ต่อเครือข่าย แต่ในบางกรณีก็ไม่มีผลกระทบอย่างมีนัยสำคัญ นอกจากนี้คุณสมบัติพหุนามเป็นคุณสมบัติที่ได้มาเพียงประเภทเดียวที่อาจเป็นประโยชน์ต่อเครือข่าย คุณสมบัติที่ได้รับอีกประเภทหนึ่งที่อาจเป็นประโยชน์ได้ตัวอย่างเช่นค่าลอการิทึมของตัวแปรอินพุต (ถือว่าเป็นค่าบวก) ซึ่งเครือข่ายต้องประเมินเพื่อให้ได้
ความคิดที่จะอนุญาตให้เครือข่ายทำการดำเนินการระหว่างตัวเลขมากกว่าส่วนเพิ่มเติมเท่านั้นเพื่อให้สามารถคำนวณสิ่งต่าง ๆ เช่นคุณสมบัติพหุนามได้อย่างมีประสิทธิภาพ แต่ไม่ชัดเจนว่าจะทำงานอย่างไร สถาปัตยกรรมหนึ่งที่ดูเหมือนว่ามันไม่สิ่งที่คล้ายกันเป็นเครือข่ายรวมผลิตภัณฑ์
2) ยกเว้นจากค่าใช้จ่ายในการคำนวณที่จอห์นพูดถึงการเพิ่มจำนวนพารามิเตอร์ในโมเดลซึ่งหลีกเลี่ยงไม่ได้เกิดขึ้นเมื่อคุณแนะนำอินพุตมากขึ้นนอกจากนี้ยังเพิ่มความเสี่ยงสำหรับเครือข่ายให้โอเวอร์โหลดโดยเฉพาะถ้าคุณมีข้อมูลการฝึกอบรมน้อย
อย่างไรก็ตามสิ่งนี้สามารถทำให้เกิดปัญหาน้อยลงหากใช้วิธีการทำให้เป็นมาตรฐานที่ดี (ดูเหมือนว่าการออกกลางคันจะทำงานได้ดีมากสำหรับเรื่องนี้) ในทางทฤษฎีด้วยวิธีการทำให้เป็นมาตรฐานที่ดีพอการ overfitting ไม่น่าจะเป็นปัญหาเลย เมื่อฮินตันชี้ให้เห็นว่ามนุษย์มีความสามารถในการเรียงลำดับ 10 ^ 14 ในสมอง (ตรงกับการเชื่อมต่อในเครือข่ายประสาทเทียม) แต่มีชีวิตอยู่ในลำดับ 10 ^ 9 วินาที แต่เราก็ยังคงสามารถ พูดคุยค่อนข้างดี ชัดเจนว่าการมีพารามิเตอร์จำนวนมากที่สามารถปรับได้ควรใช้อัลกอริธึมที่เหมาะสมเท่านั้นจึงจะได้เปรียบ