คำถามติดแท็ก generative-adversarial-networks

กระดาษข้อ จำกัด ของการเรียนรู้อย่างลึกล้ำในการตั้งค่าของฝ่ายตรงข้ามสำรวจว่าเครือข่ายประสาทอาจเสียหายโดยผู้โจมตีที่สามารถจัดการชุดข้อมูลที่เครือข่ายประสาทเทียมฝึกอบรมได้ การทดลองของผู้เขียนกับโครงข่ายประสาทเทียมนั้นหมายถึงการอ่านตัวเลขที่เขียนด้วยลายมือเพื่อบ่อนทำลายความสามารถในการอ่านโดยการบิดเบือนตัวอย่างของตัวเลขที่เขียนด้วยลายมือที่เครือข่ายประสาทเทียมได้รับการฝึกฝน ฉันกังวลว่านักแสดงที่เป็นอันตรายอาจลองแฮ็ค AI ตัวอย่างเช่น การปลอมแปลงยานพาหนะของตนเองเพื่อแปลความหมายสัญญาณหยุดเทียบกับการ จำกัด ความเร็ว ข้ามการจดจำใบหน้าเช่นสิ่งที่อยู่ในเครื่อง ATM การข้ามตัวกรองสแปม การวิเคราะห์ความเชื่อมั่นของคนโง่จากบทวิจารณ์ภาพยนตร์โรงแรม ฯลฯ ผ่านเครื่องมือตรวจจับความผิดปกติ แกล้งทำคำสั่งเสียง เครื่องจำแนกประเภทการเรียนรู้การทำนายทางการแพทย์ สิ่งที่มีผลต่อฝ่ายตรงข้ามอาจส่งผลกระทบต่อโลก เราจะป้องกันได้อย่างไร

27 neural-networks  deep-learning  philosophy  generative-adversarial-networks  ai-safety 

ฉันกำลังพยายามทำความเข้าใจเกี่ยวกับฟังก์ชั่นการสูญเสีย GAN ตามที่ระบุไว้ในการทำความเข้าใจกับเครือข่ายผู้ให้คำปรึกษาทั่วไป (โพสต์บล็อกที่เขียนโดย Daniel Seita) ในการสูญเสียข้ามเอนโทรปีมาตรฐานเรามีเอาต์พุตที่ทำงานผ่านฟังก์ชั่น sigmoid และการจำแนกเลขฐานสองเป็นผลลัพธ์ เซียต้าระบุ ดังนั้นสำหรับ [แต่ละจุดข้อมูลและป้ายกำกับเราจะได้ฟังก์ชันการสูญเสียต่อไปนี้ ...x1x1x_1 H( ( x1, y1) , D ) = - y1เข้าสู่ระบบD ( x1) - ( 1 - y1) บันทึก( 1 - D ( x1) )H((x1,Y1),D)=-Y1เข้าสู่ระบบ⁡D(x1)-(1-Y1)เข้าสู่ระบบ⁡(1-D(x1)) H((x_1, y_1), D) = -y_1 \log D(x_1) - (1 - y_1) \log (1 …

17 neural-networks  machine-learning  deep-learning  loss-functions  generative-adversarial-networks 

ฉันกำลังอ่านเกี่ยวกับเครือข่าย adversarial (GANs) และฉันมีข้อสงสัยเกี่ยวกับมัน จนถึงตอนนี้ฉันเข้าใจว่าใน GAN มีเครือข่ายประสาทสองประเภทที่แตกต่างกัน: หนึ่งคือกำเนิด ( ) และเลือกปฏิบัติอื่น ( ) เครือข่ายนิวรัลแบบกำเนิดสร้างข้อมูลบางอย่างซึ่งเครือข่ายนิวรัลแบบเลือกปฏิบัติตัดสินความถูกต้อง GAN เรียนรู้โดยผ่านฟังก์ชั่นการสูญเสียไปยังเครือข่ายทั้งสองGGGDDD discriminative ( ) neural nets ในตอนแรกรู้ได้อย่างไรว่าข้อมูลที่สร้างโดยนั้นถูกต้องหรือไม่? เราต้องฝึกก่อนแล้วเพิ่มมันเข้าไปใน GAN ด้วยหรือไม่?DDDGGGDDDGGG ลองพิจารณาสุทธิที่ผ่านการฝึกอบรมของฉันซึ่งสามารถจัดประเภทรูปภาพที่มีความแม่นยำร้อยละ 90 หากเราเพิ่มสุทธินี้ไปยัง GAN มีความน่าจะเป็น 10% มันจะจำแนกภาพผิด หากเราฝึก GAN ด้วยสุทธินี้แล้วมันจะมีข้อผิดพลาด 10% เหมือนกันในการจำแนกภาพหรือไม่? ถ้าใช่แล้วทำไม GAN ถึงแสดงผลลัพธ์ที่มีแนวโน้มDDDDDDDDD

12 neural-networks  machine-learning  deep-learning  generative-adversarial-networks