รถยนต์ที่ขับด้วยตนเองสามารถตัดสินใจอย่างมีจริยธรรมได้อย่างไรว่าใครควรฆ่า?
มันไม่ควร รถยนต์ที่ขับขี่ด้วยตนเองไม่ใช่ตัวแทนทางศีลธรรม รถยนต์ล้มเหลวในวิธีที่คาดการณ์ได้ ม้าล้มเหลวในวิธีที่คาดการณ์ได้
รถกำลังมุ่งหน้าไปยังฝูงชนจำนวน 10 คนที่ข้ามถนนดังนั้นจึงไม่สามารถหยุดได้ทันเวลา แต่สามารถหลีกเลี่ยงการฆ่าคน 10 คนโดยการชนกำแพง (ฆ่าผู้โดยสาร)
ในกรณีนี้รถควรเหยียบเบรก ถ้าคน 10 คนตายนั่นก็โชคร้าย เราไม่สามารถเชื่อในความเชื่อของเราทั้งหมดเกี่ยวกับสิ่งที่เกิดขึ้นนอกรถได้ จะทำอย่างไรถ้าคน 10 คนนั้นเป็นหุ่นยนต์ที่สร้างขึ้นให้ดูเหมือนคนทั่วไป? ถ้าพวกเขาพยายามจะฆ่าคุณล่ะ
หลีกเลี่ยงการฆ่าผู้ขับขี่รถจักรยานยนต์เนื่องจากความน่าจะเป็นของการอยู่รอดมีมากขึ้นสำหรับผู้โดยสารรถยนต์
อีกครั้งการเข้ารหัสความรู้สึกเหล่านี้ลงในยานพาหนะทำให้ผู้ขับขี่ยานพาหนะสามารถโจมตีได้ทุกรูปแบบรวมถึงผู้ขับขี่รถจักรยานยนต์ที่"ปลอม" มนุษย์มีความพร้อมแทบจะไม่สามารถตัดสินใจเหล่านี้ได้ด้วยตนเอง เมื่อสงสัยให้เหยียบเบรคลง
ฆ่าสัตว์บนถนนเพื่อช่วยเหลือมนุษย์
อีกครั้งเพียงกดเบรก เกิดอะไรขึ้นถ้ามันเป็นเด็ก เกิดอะไรขึ้นถ้ามันเป็นระเบิด
เปลี่ยนเลนเพื่อชนเข้ากับรถอีกคันเพื่อหลีกเลี่ยงการฆ่าสุนัข
Nope สุนัขอยู่ผิดที่ผิดเวลา รถคันอื่นไม่ได้ แค่เหยียบเบรกอย่างปลอดภัยเท่าที่จะทำได้
อัลกอริทึมรับรู้ถึงความแตกต่างระหว่างมนุษย์กับสัตว์หรือไม่?
เป็นมนุษย์หรือไม่? ไม่เสมอ. เกิดอะไรขึ้นถ้ามนุษย์มีปืน? เกิดอะไรขึ้นถ้าสัตว์มีฟันขนาดใหญ่ ไม่มีบริบทหรือ
- ขนาดของมนุษย์หรือสัตว์มีความสำคัญหรือไม่?
- มันนับจำนวนผู้โดยสารที่มีต่อผู้คนที่อยู่ข้างหน้าหรือไม่
- "รู้" เมื่อทารก / เด็กอยู่บนเรือหรือไม่?
- มันคำนึงถึงอายุ (เช่นการฆ่าคนที่มีอายุมากกว่าก่อน) หรือไม่?
มนุษย์ไม่สามารถตกลงสิ่งเหล่านี้ได้ หากคุณถามตำรวจว่าจะทำอย่างไรในสถานการณ์เหล่านี้คำตอบก็คือ "คุณควรเลี้ยวซ้ายชั่งน้ำหนักฝ่ายที่เกี่ยวข้องทั้งหมดในหัวของคุณประเมินอายุที่เกี่ยวข้องระหว่างทุกฝ่ายแล้วเลี้ยวขวาเล็กน้อย และคุณจะได้ช่วยชีวิตอีก 8% " ไม่ตำรวจจะพูดว่า "คุณควรพารถไปหยุดอย่างรวดเร็วและปลอดภัยที่สุดเท่าที่จะทำได้" ทำไม? เพราะตำรวจรู้ว่าคนทั่วไปไม่พร้อมที่จะรับมือกับสถานการณ์การชนความเร็วสูง
เป้าหมายของเราสำหรับ "รถยนต์ที่ขับเคลื่อนด้วยตนเอง" ไม่ควรเป็น 'ตัวแทนทางศีลธรรมที่เท่าเทียมกับมนุษย์' มันควรจะเป็นตัวแทนที่มีความซับซ้อนปฏิกิริยาของแมลงสาบซึ่งไม่สามารถคาดการณ์ได้