คำถามติดแท็ก network-topology

เชื่อมต่ออย่างสมบูรณ์ (อย่างน้อยเลเยอร์ถึงเลเยอร์ที่มีมากกว่า 2 เลเยอร์ที่ซ่อนอยู่) เครือข่าย backprop เป็นผู้เรียนที่เป็นสากล น่าเสียดายที่พวกเขามักจะเรียนรู้ช้าและมีแนวโน้มที่จะกระชับหรือมีลักษณะทั่วไปที่น่าอึดอัดใจ จากการหลอกลวงรอบ ๆ ด้วยเครือข่ายเหล่านี้ฉันได้สังเกตว่าการตัดขอบบางส่วน (เพื่อให้น้ำหนักของพวกเขานั้นเป็นศูนย์และเป็นไปไม่ได้ที่จะเปลี่ยนแปลง) มีแนวโน้มที่จะทำให้เครือข่ายเรียนรู้ได้เร็วขึ้น มีเหตุผลสำหรับสิ่งนี้หรือไม่? เป็นเพราะการลดขนาดของพื้นที่ค้นหาตุ้มน้ำหนักหรือมีเหตุผลที่ลึกซึ้งกว่านี้หรือไม่ ยิ่งไปกว่านั้นการวางนัยทั่วไปที่ดีกว่าเป็นสิ่งประดิษฐ์ของปัญหา 'ธรรมชาติ' ที่ฉันกำลังมองหาอยู่?

29 machine-learning  network-topology  neural-networks 

ในระบบเครือข่ายคอมพิวเตอร์และการออกแบบคอมพิวเตอร์คลัสเตอร์ที่มีประสิทธิภาพสูงโครงสร้างเครือข่ายหมายถึงการออกแบบวิธีที่โหนดเชื่อมต่อโดยลิงก์เพื่อสร้างเครือข่ายการสื่อสาร ทอพอโลยีเครือข่ายทั่วไปรวมถึงตาข่ายทอรัสแหวนดาวต้นไม้ ฯลฯ ทอพอโลยีเหล่านี้สามารถศึกษาเชิงวิเคราะห์เพื่อกำหนดคุณสมบัติที่เกี่ยวข้องกับประสิทธิภาพที่คาดหวัง คุณลักษณะดังกล่าวรวมถึงเส้นผ่านศูนย์กลาง (ระยะทางสูงสุดระหว่างคู่โหนดในแง่ของจำนวนลิงก์ที่ต้องข้ามถ้าโหนดนั้นสื่อสาร) ระยะห่างเฉลี่ยระหว่างโหนด (เหนือโหนดคู่ทั้งหมดในเครือข่าย) และแบนด์วิดธ์ bisection (แบนด์วิดท์ตัวพิมพ์เล็กที่สุดระหว่างสองส่วนของเครือข่าย) ธรรมชาติทอพอโลยีและเมทริกอื่น ๆ นั้นมีอยู่ พิจารณาโทโพโลยีเครือข่ายตามเกล็ดหิมะ Koch การจุติของโทโพโลยีที่ง่ายที่สุดประกอบด้วยสามโหนดและสามลิงก์ในการตั้งค่าที่เชื่อมต่ออย่างสมบูรณ์ เส้นผ่านศูนย์กลางคือ 1 ระยะทางเฉลี่ยคือ 1 (หรือ 2/3 ถ้าคุณรวมการสื่อสารภายในโหนด) เป็นต้น การจุติของโทโพโลยีถัดไปประกอบด้วย 12 โหนดและลิงก์ 15 ลิงก์ มีสามคลัสเตอร์ของสามโหนดโดยสมบูรณ์แต่ละคลัสเตอร์เชื่อมต่ออย่างสมบูรณ์โดยลิงก์สามลิงก์ นอกจากนี้ยังมีสามโหนดเดิมเชื่อมต่อสามกลุ่มโดยใช้ลิงค์เพิ่มเติมหกลิงก์ ในความเป็นจริงจำนวนโหนดและลิงก์ในการจุติจุติถูกอธิบายโดยความสัมพันธ์การเกิดซ้ำดังต่อไปนี้: N ( 1 ) = 3 L ( 1 ) = 3 N ( k + 1 …

10 computer-networks  network-topology