รถยนต์ที่ขับด้วยตนเองสามารถตัดสินใจอย่างมีจริยธรรมได้อย่างไรว่าใครควรฆ่า?


74

เห็นได้ชัดว่ารถยนต์ที่ขับด้วยตนเองไม่ได้สมบูรณ์แบบดังนั้นลองจินตนาการว่ารถยนต์ของ Google (เป็นตัวอย่าง) ตกอยู่ในสถานการณ์ลำบาก

นี่คือตัวอย่างของสถานการณ์ที่โชคร้ายที่เกิดจากชุดเหตุการณ์:

  • รถกำลังมุ่งหน้าไปยังฝูงชนจำนวน 10 คนที่ข้ามถนนดังนั้นจึงไม่สามารถหยุดได้ทันเวลา แต่สามารถหลีกเลี่ยงการฆ่าคน 10 คนโดยการชนกำแพง (ฆ่าผู้โดยสาร)
  • หลีกเลี่ยงการฆ่าผู้ขับขี่ของรถจักรยานยนต์เนื่องจากความน่าจะเป็นของการอยู่รอดมีมากขึ้นสำหรับผู้โดยสารรถยนต์
  • ฆ่าสัตว์บนถนนเพื่อช่วยเหลือมนุษย์
  • เปลี่ยนเลนเพื่อชนรถอีกคันเพื่อหลีกเลี่ยงการฆ่าสุนัข

และนี่คืออุปสรรคบางประการ:

  • อัลกอริทึมรับรู้ถึงความแตกต่างระหว่างมนุษย์กับสัตว์หรือไม่?
  • ขนาดของมนุษย์หรือสัตว์มีความสำคัญหรือไม่?
  • มันนับจำนวนผู้โดยสารที่มีต่อผู้คนที่อยู่ข้างหน้าหรือไม่
  • "รู้" เมื่อทารก / เด็กอยู่บนเรือหรือไม่?
  • มันคำนึงถึงอายุ (เช่นการฆ่าคนที่มีอายุมากกว่าก่อน) หรือไม่?

อัลกอริทึมจะตัดสินใจอย่างไรว่าควรทำอย่างไรจากมุมมองทางเทคนิค มันเป็นที่ตระหนักถึงข้างต้น (การนับความน่าจะเป็นของการฆ่า) หรือไม่ (ฆ่าคนเพียงเพื่อหลีกเลี่ยงการทำลายของตัวเอง)?

บทความที่เกี่ยวข้อง:


3
ฉันจะไม่ขี่ยานพาหนะใด ๆ ที่ตั้งโปรแกรมไว้เพื่อไม่ให้ ME เป็นความปลอดภัยสูงสุดแก่ผู้โดยสาร ฉันไม่ได้อยู่คนเดียวในความคิดนั้น หากใครมีแผนที่จะบังคับให้ผู้ผลิตรถยนต์อิสระทำการเขียนโปรแกรมรถยนต์เพื่อทำสิ่งอื่นนอกเหนือจากการให้ความสำคัญกับความปลอดภัยของผู้โดยสารแล้วอุตสาหกรรมทั้งหมดอาจปิดประตูตัวเองในตอนนี้ สองสามครั้งแรกที่ผู้โดยสารเสียชีวิตเนื่องจากการตัดสินใจทางจริยธรรมที่น่ารังเกียจบางครั้งจะเป็นครั้งสุดท้ายที่คนส่วนใหญ่จะซื้อรถยนต์อิสระอีกคัน ใครอยากขี่กับดักแห่งความตาย?
Dunk

"ปัญหารถเข็น" ที่เรียกว่าเป็นปัญหา troll-y มีเหตุผลที่รู้จักกันในชื่อการทดลองทางความคิดมากกว่ากรณีศึกษา: ไม่ใช่สิ่งที่เคยเกิดขึ้น มันไม่ได้ใกล้เคียงกับความเป็นจริงส่วนใหญ่เป็นเพราะรถยนต์ไม่ใช่รถเข็น คำตอบที่ถูกต้องในกรณีใด ๆ ที่เกี่ยวข้องจากระยะไกลนั้นมักจะ "กดเบรก" และหากมีข้อยกเว้นก็สามารถแก้ไขได้ทางเดียวเท่านั้น: ปกป้องผู้อยู่อาศัยของรถด้วยค่าใช้จ่ายทั้งหมดและไม่เคยพิจารณาอะไรเลย ด้วยเหตุผลสองประการ
Mason Wheeler

2
แรก @Dunk ครอบคลุมค่อนข้างดี: ลัทธิปฏิบัตินิยม หากเป็นไปได้สำหรับรถที่จะเลือกที่แตกต่างกันไม่มีใครในใจที่ถูกต้องของพวกเขาต้องการที่จะซื้อ ประการที่สองคือหากมีฟังก์ชั่น "ฆ่าทุกคน" ในคอมพิวเตอร์ของรถยนต์นั่นหมายความว่ามีแฮ็กเกอร์ที่เป็นอันตรายในการค้นหาและใช้งานอยู่แล้ว ชั่งน้ำหนักโอกาสที่แท้จริงของใครบางคนในการหาวิธีที่จะทำให้สิ่งนั้นเกิดความขัดแย้งกับความคิดที่เป็นเท็จของสถานการณ์รถเข็นที่ถูกกฎหมายและมีคำตอบเดียวที่ไม่ได้ไร้เหตุผลและน่ารังเกียจ
Mason Wheeler

คำตอบ:


54

รถยนต์ที่ขับด้วยตนเองสามารถตัดสินใจอย่างมีจริยธรรมได้อย่างไรว่าใครควรฆ่า?

มันไม่ควร รถยนต์ที่ขับขี่ด้วยตนเองไม่ใช่ตัวแทนทางศีลธรรม รถยนต์ล้มเหลวในวิธีที่คาดการณ์ได้ ม้าล้มเหลวในวิธีที่คาดการณ์ได้

รถกำลังมุ่งหน้าไปยังฝูงชนจำนวน 10 คนที่ข้ามถนนดังนั้นจึงไม่สามารถหยุดได้ทันเวลา แต่สามารถหลีกเลี่ยงการฆ่าคน 10 คนโดยการชนกำแพง (ฆ่าผู้โดยสาร)

ในกรณีนี้รถควรเหยียบเบรก ถ้าคน 10 คนตายนั่นก็โชคร้าย เราไม่สามารถเชื่อในความเชื่อของเราทั้งหมดเกี่ยวกับสิ่งที่เกิดขึ้นนอกรถได้ จะทำอย่างไรถ้าคน 10 คนนั้นเป็นหุ่นยนต์ที่สร้างขึ้นให้ดูเหมือนคนทั่วไป? ถ้าพวกเขาพยายามจะฆ่าคุณล่ะ

หลีกเลี่ยงการฆ่าผู้ขับขี่รถจักรยานยนต์เนื่องจากความน่าจะเป็นของการอยู่รอดมีมากขึ้นสำหรับผู้โดยสารรถยนต์

อีกครั้งการเข้ารหัสความรู้สึกเหล่านี้ลงในยานพาหนะทำให้ผู้ขับขี่ยานพาหนะสามารถโจมตีได้ทุกรูปแบบรวมถึงผู้ขับขี่รถจักรยานยนต์ที่"ปลอม" มนุษย์มีความพร้อมแทบจะไม่สามารถตัดสินใจเหล่านี้ได้ด้วยตนเอง เมื่อสงสัยให้เหยียบเบรคลง

ฆ่าสัตว์บนถนนเพื่อช่วยเหลือมนุษย์

อีกครั้งเพียงกดเบรก เกิดอะไรขึ้นถ้ามันเป็นเด็ก เกิดอะไรขึ้นถ้ามันเป็นระเบิด

เปลี่ยนเลนเพื่อชนเข้ากับรถอีกคันเพื่อหลีกเลี่ยงการฆ่าสุนัข

Nope สุนัขอยู่ผิดที่ผิดเวลา รถคันอื่นไม่ได้ แค่เหยียบเบรกอย่างปลอดภัยเท่าที่จะทำได้

อัลกอริทึมรับรู้ถึงความแตกต่างระหว่างมนุษย์กับสัตว์หรือไม่?

เป็นมนุษย์หรือไม่? ไม่เสมอ. เกิดอะไรขึ้นถ้ามนุษย์มีปืน? เกิดอะไรขึ้นถ้าสัตว์มีฟันขนาดใหญ่ ไม่มีบริบทหรือ

  • ขนาดของมนุษย์หรือสัตว์มีความสำคัญหรือไม่?
  • มันนับจำนวนผู้โดยสารที่มีต่อผู้คนที่อยู่ข้างหน้าหรือไม่
  • "รู้" เมื่อทารก / เด็กอยู่บนเรือหรือไม่?
  • มันคำนึงถึงอายุ (เช่นการฆ่าคนที่มีอายุมากกว่าก่อน) หรือไม่?

มนุษย์ไม่สามารถตกลงสิ่งเหล่านี้ได้ หากคุณถามตำรวจว่าจะทำอย่างไรในสถานการณ์เหล่านี้คำตอบก็คือ "คุณควรเลี้ยวซ้ายชั่งน้ำหนักฝ่ายที่เกี่ยวข้องทั้งหมดในหัวของคุณประเมินอายุที่เกี่ยวข้องระหว่างทุกฝ่ายแล้วเลี้ยวขวาเล็กน้อย และคุณจะได้ช่วยชีวิตอีก 8% " ไม่ตำรวจจะพูดว่า "คุณควรพารถไปหยุดอย่างรวดเร็วและปลอดภัยที่สุดเท่าที่จะทำได้" ทำไม? เพราะตำรวจรู้ว่าคนทั่วไปไม่พร้อมที่จะรับมือกับสถานการณ์การชนความเร็วสูง

เป้าหมายของเราสำหรับ "รถยนต์ที่ขับเคลื่อนด้วยตนเอง" ไม่ควรเป็น 'ตัวแทนทางศีลธรรมที่เท่าเทียมกับมนุษย์' มันควรจะเป็นตัวแทนที่มีความซับซ้อนปฏิกิริยาของแมลงสาบซึ่งไม่สามารถคาดการณ์ได้


ในสถานการณ์ส่วนใหญ่คนที่อาจถูกฆ่าตายมีความผิดพลาดของความเสียหายมากกว่ารถยนต์ / ผู้ครอบครองรถ - กระแทกเบรกดูเหมือนเป็นการตอบสนองที่สมเหตุสมผลเพียงอย่างเดียวเนื่องจากผู้ใช้ไม่สามารถหลีกเลี่ยงอุบัติเหตุได้ ในขณะที่คุณชี้ให้เห็นว่าเป็นไปได้มากที่จะใช้อัลกอริทึมที่ปฏิบัติตาม (อาจ) ฆ่าผู้ครอบครองแทนที่จะเป็นคนเดินเท้าเพื่อฆ่าผู้ครอบครองหรือแม้แต่ตำหนิผู้ครอบครองรถยนต์หรือผู้ผลิต
ชัดเจน

48

คำตอบของคำถามเหล่านั้นขึ้นอยู่กับการตั้งโปรแกรมของอุปกรณ์ คอมพิวเตอร์ที่มีความสามารถในการขับรถไปรอบ ๆ และรับรู้ว่าถนนไปทางไหนมีแนวโน้มที่จะมีความสามารถในการแยกแยะมนุษย์จากสัตว์ไม่ว่าจะเป็นภาพร่างหรือขนาด ด้วยการจดจำภาพที่คมชัดเพียงพออาจนับจำนวนและชนิดของผู้คนในยานพาหนะอื่นได้ มันยังสามารถใช้ข้อมูลที่มีอยู่เกี่ยวกับโอกาสในการบาดเจ็บของผู้คนในยานพาหนะประเภทต่าง ๆ

ในที่สุดคนไม่เห็นด้วยกับการเลือกทางจริยธรรมที่เกี่ยวข้อง อาจมี "การตั้งค่าจริยธรรม" สำหรับผู้ใช้ / เจ้าของเพื่อกำหนดค่าเช่น "พิจารณาจำนวนชีวิตเท่านั้น" กับ "ชีวิตที่อายุน้อยกว่านั้นมีค่ามากกว่า" โดยส่วนตัวฉันคิดว่ามันไม่ได้ขัดแย้งอะไรมากที่เครื่องจักรควรทำความเสียหายตัวเองก่อนที่จะทำร้ายมนุษย์ แต่ผู้คนไม่เห็นด้วยกับความสำคัญของชีวิตสัตว์เลี้ยง หากการตั้งค่าการฆ่าครั้งแรกอย่างชัดเจนทำให้ผู้คนไม่สบายใจคำตอบอาจถูกกำหนดจากแบบสอบถามที่มอบให้กับผู้ใช้


2
บางสิ่งที่อยู่ในใจฉันคิดว่าการแก้ไขจริยธรรมจะเป็นความคิดที่ไม่ดี ไม่แน่ใจจริงๆว่ามันคืออะไรนอกเหนือจากความจริงที่ว่ามันเป็นเครื่องจักรแทนที่จะเป็นคน แต่ฉันมักจะสรุปได้ว่าเรามีสัญญาที่ไม่ได้เขียนไว้ในการสมัครสมาชิกเพื่อการตัดสินใจทางจริยธรรมเมื่อใดก็ตามที่เราอยู่ในรถกับคนอื่น
เอียน

6
'การตั้งค่าจริยธรรม'? จริงๆ? คุณจะให้คนตั้งค่าตามความอยุติธรรมที่เป็นไปได้ 'ฆ่าคนที่มีพฤติกรรมรักร่วมเพศมากที่สุด ____'? การแข่งขันที่ชื่นชอบน้อยที่สุด? หรือจะเป็นเช่นไรถ้ามีรถสองคันในไดรเวอร์ของการชนกันมีจริยธรรมตรงข้าม จากนั้นทั้งสองถูกประหารและมีความเสียหายเพิ่มเติมจากภายนอก? กฎหมายเหล่านี้จำเป็นต้องเป็นสากล (อย่างน้อยภายในประเทศ) เช่นเดียวกับกฎหมายจราจร
navigator_

3
@navigator_ ฉันหวังว่าตัวเลือกจากผู้ผลิตจะเป็นไปตามเหตุผล
เบ็น N

1
เหตุผลตามที่กำหนดโดยใคร นั่นคือประเด็นของฉัน
navigator_

3
ฉันคิดว่า "การตั้งค่าทางจริยธรรม" เป็นทางเลือกเดียวที่ยุติธรรม / เป็นธรรมเพราะมันจะเลียนแบบไดรเวอร์ที่เฉพาะเจาะจงที่สุดเท่าที่จะทำได้ คนขับรถจะต้องรับผิดชอบสิ่งที่เกิดขึ้นราวกับว่าเขากำลังขับรถ ฉันไม่เห็นว่าการเขียนโปรแกรมรถยนต์ไปที่ (เช่น) ทำให้ชีวิตผู้ขับขี่ก่อนสิ่งอื่นใดแตกต่างจากคนขับที่ทำให้ชีวิตของเขาเหนือสิ่งอื่นใด
Pandora

26

โดยส่วนตัวฉันคิดว่านี่อาจเป็นปัญหาที่ร้อนแรงเกินไป ปัญหารถเข็นเกิดขึ้นเมื่อสถานการณ์ได้รับการปรับให้เหมาะสมเพื่อป้องกัน "ตัวเลือกที่ 3"

รถมีเบรกใช่ไหม? "แต่ถ้าเบรกไม่ทำงานล่ะ?" ถ้าอย่างนั้นรถไม่ได้รับอนุญาตให้ขับเลย แม้ในการจราจรปกติผู้ปฏิบัติงานของมนุษย์ก็ถูกสอนว่าความเร็วของคุณควร จำกัด เช่นที่คุณสามารถหยุดได้ในพื้นที่ที่คุณเห็น การแก้ปัญหาเช่นนี้จะลดความเป็นไปได้ของปัญหารถเข็น

สำหรับสัตว์ ... หากไม่มีความพยายามอย่างชัดเจนที่จะจัดการกับมนุษย์บนท้องถนนฉันคิดว่าสัตว์จะได้รับการปฏิบัติเหมือนกัน เสียงนี้ไม่น่าเชื่อ - Roadkill เกิดขึ้นบ่อยครั้งและมนุษย์ "Roadkill" นั้นไม่ต้องการ แต่สัตว์มีขนาดเล็กและมองเห็นได้ยากกว่ามนุษย์มากดังนั้นฉันคิดว่าการตรวจสอบมนุษย์จะง่ายขึ้นป้องกันอุบัติเหตุได้มาก

ในกรณีอื่น ๆ (ข้อบกพร่องข้อบกพร่องในขณะขับรถความล้มเหลวหลายครั้งซ้อนกัน) อาจเกิดอุบัติเหตุพวกเขาจะได้รับการวิเคราะห์และยานพาหนะจะได้รับการปรับปรุงเพื่อหลีกเลี่ยงสถานการณ์ที่คล้ายคลึงกัน


เป็นเรื่องผิดที่จะบอกว่า AI จะขับรถเร็วเท่าที่พวกเขาสามารถหยุดได้จากสิ่งที่พวกเขาเห็นเพราะสิ่งนี้เป็นความจริงสำหรับคนขับรถที่ป้องกัน เหตุผลก็คือต้องมีการตั้งสมมติฐาน เมื่อทำการไต่เขาเขาจะสันนิษฐานได้ว่ามีสิ่งกีดขวางขนาดใหญ่ที่ไม่สามารถมองเห็นได้ [Source DARPA Grand Challenge] สมมติฐานเหล่านี้ตั้งอยู่บนกฎของถนนเพื่อตัดสินว่าการกระทำใดถูกต้อง ดังนั้นหากเกิดอุบัติเหตุตราบใดที่คุณปฏิบัติตามกฎของถนนคุณสามารถลดความรับผิดของคุณได้ ดังนั้นรถยนต์จะต้องสามารถทำการตัดสินใจเหล่านี้ได้ แต่อาจอยู่ในสภาพ จำกัด (ปกป้องผู้บริโภค)
Harrichael

12

นี้เป็นที่รู้จักกันดีปัญหารถเข็น ดังที่Ben Nกล่าวว่าผู้คนไม่เห็นด้วยกับแนวทางการปฏิบัติที่ถูกต้องสำหรับสถานการณ์ปัญหารถเข็น แต่ควรสังเกตว่ารถยนต์ที่ขับขี่ด้วยตนเองมีความน่าเชื่อถือสูงมากจนสถานการณ์เหล่านี้ไม่น่าเป็นไปได้จริง ดังนั้นความพยายามไม่มากที่จะนำไปสู่ปัญหาที่คุณอธิบายอย่างน้อยในระยะสั้น


ฉันสงสัยว่า Trolley Problem เหมาะสมกับเรื่องนี้ได้ดีเพียงใด ปัญหาของรถเข็นนั้นไม่ต่อเนื่องกันโดยทั่วไปอธิบายตัวเลือก `หนึ่งครั้งและสำหรับทุกคน 'ในขณะที่ในทางปฏิบัติอัลกอริทึมจะต้องทำการเรียงลำดับตัวเลือกที่เพิ่มเวลา (อาจค่อนข้างเล็ก) อาจเพิ่มข้อมูลใหม่ได้ อัลกอริทึมที่มีประโยชน์น่าจะเป็นปัญหา 'การควบคุมอย่างต่อเนื่อง' ซึ่งฝังอยู่ในพื้นที่ 3 มิติที่เกิดขึ้นจริงการจัดการกับความเร็วและความน่าจะเป็นไม่ใช่การตัดสินใจเชิงจริยธรรมที่เป็นนามธรรม หากไม่มีสิ่งอื่นใดนี่หมายความว่าการดำเนินการจะไม่ต้องมีการกำหนดไว้ในข้อกำหนดทางศีลธรรมอันสิ้นเชิง
NietzscheanAI

1
@NietzscheanAI ความคิดเกี่ยวกับปัญหารถเข็นไม่ได้อยู่ในการตัดสินใจ แต่เป็นสิ่งที่ต้องตัดสินใจ คุณควรพิจารณา burgulars จำนวนคนจำนวนสัตว์ที่มีความผิดความปลอดภัยของผู้ขับขี่ดีขึ้นมากเปลี่ยนแปลงน้อยที่สุด ฯลฯ คุณยังสามารถใช้ความน่าจะเป็นกับปัญหารถเข็นได้เช่น เส้นทาง A มีโอกาสร้อยละ 30 ในการฆ่า 10 คน โดยทั่วไปปัญหาเกี่ยวกับรถเข็นจะมีสองเส้นทางเพื่อให้คุณสามารถพิจารณาปัจจัยที่คุณใช้ในการตัดสินใจทางจริยธรรมอย่างแม่นยำยิ่งขึ้น
Harrichael

11

ในโลกแห่งความเป็นจริงการตัดสินใจจะทำขึ้นอยู่กับกฎหมายและตามที่ระบุไว้ในกฎหมายSEกฎหมายโดยทั่วไปชอบการกระทำมากกว่าการกระทำ


อานั่นเป็นเรื่องสมเหตุสมผลสำหรับเหยื่อมนุษย์ ทางเลือกของกฎหมายจะแตกต่างกันหรือไม่หากรถเลี้ยวเข้าชนสุนัขแทนที่จะเป็นคนเดินเท้า
เบ็น N

6

สำหรับรถยนต์ที่ไม่มีคนขับที่ออกแบบโดยหน่วยงานเดียววิธีที่ดีที่สุดในการตัดสินใจเกี่ยวกับผู้ที่จะสังหารคือการประเมินและลดภาระหนี้สินที่อาจเกิดขึ้น

ไม่จำเป็นต้องระบุเหยื่อที่อาจเกิดขึ้นทั้งหมดในพื้นที่อย่างถูกต้องเพื่อป้องกันตัวเพื่อการตัดสินใจเพียงเพื่อระบุตัวตนของพวกเขารวมถึงมนุษย์ที่อาจถูกคาดหวังให้ทำ

มันไม่จำเป็นต้องรู้อายุและสภาพร่างกายของทุกคนในรถเพราะมันสามารถขอข้อมูลได้และหากถูกปฏิเสธมีการป้องกันที่ผู้โดยสารเลือกที่จะไม่ให้มันดังนั้นจึงต้องรับผิดชอบในการกีดกัน ความสามารถในการตัดสินใจที่ดีขึ้น

มันจะต้องมีรูปแบบที่ใช้งานได้เพื่อลดการเปิดเผยของนิติบุคคลที่จะฟ้องร้องซึ่งสามารถปรับปรุงได้เมื่อเวลาผ่านไปเพื่อให้ผลกำไรมากขึ้น


6

“ คำถามเชิงศีลธรรมของผู้ที่ประหยัด: ร้อยละ 99 ของงานวิศวกรรมของเราคือการป้องกันไม่ให้สถานการณ์เหล่านี้เกิดขึ้นเลย” - Christoph von Hugo, Mercedes-Benz

ข้อความนี้มาจากบทความที่ชื่อว่าการขับขี่ด้วยตนเองเมอร์เซเดส - เบนซ์จะให้ความสำคัญกับความปลอดภัยของผู้ขับขี่บนถนนคนเดินเท้าที่ตีพิมพ์ตุลาคม 7, 2016 โดย MICHAEL TAYLOR , ดึง 08 พ.ย. 2559

ต่อไปนี้เป็นข้อความที่ตัดตอนมาโดยสังเขปว่าเทคโนโลยีแก้ปัญหาได้จริงหรือไม่

ผู้ผลิตรถยนต์ที่เก่าแก่ที่สุดในโลกไม่เห็นปัญหาอีกต่อไปคล้ายกับคำถามจากปี 1967 ที่รู้จักกันในชื่อปัญหารถเข็น เมอร์เซเดส - เบนซ์ตั้งใจจะเขียนโปรแกรมขับรถด้วยตนเองเพื่อช่วยชีวิตผู้คนในรถแทนที่จะมัดตัวเองให้เป็นนอตทางศีลธรรมและจริยธรรม ทุกเวลา.

รถยนต์ระดับ 4 และ 5 ในอนาคตของเมอร์เซเดส - เบนซ์ทั้งหมดจะจัดลำดับความสำคัญในการช่วยชีวิตผู้คนที่พวกเขาพกติดตัวตามที่ Christoph von Hugo ผู้จัดการยานยนต์ของระบบช่วยเหลือผู้ขับขี่และความปลอดภัย

มีบทความยังมีย่อหน้าที่น่าสนใจดังต่อไปนี้

การศึกษาที่เผยแพร่เมื่อกลางปีโดยนิตยสารวิทยาศาสตร์ไม่ได้ทำให้อากาศปลอดโปร่งเช่นกัน คนส่วนใหญ่ในปี 2471 สำรวจว่าคิดว่ามันจะดีกว่าจริยธรรมสำหรับรถยนต์อิสระที่จะเสียสละผู้โดยสารแทนที่จะชนกับคนเดินถนน แต่คนส่วนใหญ่ก็บอกว่าพวกเขาจะไม่ซื้อรถยนต์แบบอิสระถ้ารถจัดลำดับความสำคัญของความปลอดภัยของคนเดินเท้าด้วยตัวเอง


3

ตรงไปตรงมาฉันคิดว่าปัญหานี้ (ปัญหารถเข็น) มีความซับซ้อนโดยเนื้อแท้เนื่องจากวิธีการแก้ปัญหาในโลกแห่งความเป็นจริงมีแนวโน้มที่จะตรงไปตรงมาสวย เช่นเดียวกับคนขับรถคนขับ AI จะถูกตั้งโปรแกรมให้กระทำตลอดเวลาอย่างมีจรรยาบรรณโดยทั่วไปเลือกแนวทางการกระทำที่ไม่เป็นอันตรายหรืออันตรายน้อยที่สุด

หากผู้ขับขี่ AI เผชิญกับอันตรายเช่นความเสียหายที่เกิดขึ้นกับทรัพย์สินเห็นได้ชัดว่า AI จะเบรกอย่างหนักและเล็งให้รถอยู่ห่างจากวัตถุที่แตกหักได้เพื่อหลีกเลี่ยงหรือลดผลกระทบ หากอันตรายกำลังกระแทกคนเดินถนนหรือรถยนต์หรืออาคารสิ่งนั้นจะเลือกที่จะชนกับวัตถุที่มีค่าหรือมีราคาแพงที่สุดเท่าที่จะทำได้เพื่อทำอันตรายน้อยที่สุด - วางคุณค่าที่สูงกว่าให้กับมนุษย์มากกว่าอาคารหรือสุนัข

ท้ายที่สุดถ้าทางเลือกของคนขับรถ AI ของคุณคือวิ่งไปหาเด็กหรือชนกำแพง ... มันจะพาคุณไปที่กำแพง นั่นคือสิ่งที่มนุษย์ดี ๆ จะทำ เหตุใด AI ที่ดีจึงทำหน้าที่แตกต่างกัน


1
'AI จะเบรกยาก', 'มันจะเลือกที่จะชนกับ ... ' หากข้อความเหล่านี้เป็นข้อความคุณสามารถโพสต์ข้อมูลอ้างอิงบางส่วนได้หรือไม่? หรือว่าเป็นพื้นฐานของความคิดเห็น
kenorb

1
OP ได้ตั้งคำถามว่า "AI จะเลือกทำดาเมจอย่างไร ฉันคิดว่านั่นเป็นเป้าหมายที่ผิด มนุษย์ไม่ทำอย่างนั้น AI จะทำตามกลยุทธ์ทั่วไปมากกว่าเพื่อหลีกเลี่ยงความเสียหายและทำดาเมจน้อยที่สุดเท่าที่จะทำได้ วัตถุประสงค์ในการปรับให้เหมาะสมนี้ใช้งานง่ายและยากที่จะโต้แย้งเมื่อมีข้อกังวลเกี่ยวกับหนี้สิน
แรนดี้

3

พวกเขาไม่ควร ผู้คนควร

ผู้คนไม่สามารถรับผิดชอบต่อการตัดสินใจทางจริยธรรมในมือของคอมพิวเตอร์ มันเป็นความรับผิดชอบของเราในฐานะนักวิทยาศาสตร์คอมพิวเตอร์ / ผู้เชี่ยวชาญ AI ในการตั้งโปรแกรมการตัดสินใจสำหรับคอมพิวเตอร์ที่จะทำ การบาดเจ็บล้มตายของมนุษย์จะยังคงมีอยู่จากสิ่งนี้หรือไม่? แน่นอนว่าพวกเขาจะ --- คนไม่สมบูรณ์แบบและไม่มีโปรแกรม

มีการอภิปรายที่ยอดเยี่ยมในเชิงลึกเกี่ยวกับหัวข้อนี้เป็นที่นี่ โดยเฉพาะอย่างยิ่งฉันชอบโต้แย้งของ Yann LeCun เกี่ยวกับประเด็นขัดแย้งทางจริยธรรมแบบขนานของการทดสอบยาเสพติดที่อาจเป็นอันตรายต่อผู้ป่วย คล้ายกับรถยนต์ที่ขับเคลื่อนด้วยตัวเองทั้งสามารถตายในขณะที่มีความตั้งใจที่ดีของการประหยัดมากขึ้นคนในระยะยาว


3

รถยนต์ที่ขับด้วยตนเองสามารถตัดสินใจอย่างมีจริยธรรมได้อย่างไรว่าใครควรฆ่า?

โดยการจัดการความรับผิดทางกฎหมายและความปลอดภัยของผู้บริโภค

รถยนต์ที่ให้ความปลอดภัยแก่ผู้บริโภคจะเป็นรถยนต์ที่ผู้บริโภคกล่าวว่า บริษัท ไม่ต้องการรับผิดชอบต่อการฆ่าลูกค้าของพวกเขาและไม่ต้องการขายผลิตภัณฑ์ที่ทำให้ผู้ใช้ถูกต้องตามกฎหมาย ความรับผิดตามกฎหมายและความปลอดภัยของผู้บริโภคเป็นปัญหาเดียวกันเมื่อพิจารณาจากมุมมองของ "ต้นทุนต่อผู้บริโภค"

และนี่คืออุปสรรคบางประการ:

  • อัลกอริทึมรับรู้ถึงความแตกต่างระหว่างมนุษย์กับสัตว์หรือไม่?

หากสัตว์ / มนุษย์ไม่สามารถหลีกเลี่ยงได้ตามกฎหมาย (และรถนั้นอยู่ในสิทธิ์ตามกฎหมาย - หากไม่เป็นเช่นนั้นจะมีสิ่งอื่นที่ผิดกับการตัดสินใจของ AI) ก็น่าจะไม่เป็นเช่นนั้น หากรถสามารถหลีกเลี่ยงสิ่งกีดขวางได้อย่างปลอดภัยระบบ AI ก็จะเห็นเหตุผลในการตัดสินใจเช่น เลี้ยวไปยังเลนอื่นบนทางหลวงที่เปิด ขอให้สังเกตว่ามีการเน้นความรับผิดชอบและความปลอดภัยของผู้ขับขี่

  • ขนาดของมนุษย์หรือสัตว์มีความสำคัญหรือไม่?

มีเพียงปัจจัยเสี่ยงจากการชนสิ่งกีดขวาง การกดปุ่มฮิปโปอาจจะเป็นที่ต้องการน้อยกว่าการตีที่ก้น การตีสุนัขน่าจะดีกว่าการทำลายรถยนต์ของลูกค้า

  • มันนับจำนวนผู้โดยสารที่มีต่อผู้คนที่อยู่ข้างหน้าหรือไม่

มันนับคนเป็นผู้โดยสารเพื่อดูว่าสามารถใช้ช่องทางรวมกำไรรถยนต์ได้หรือไม่ มันนับคนข้างหน้าเป็นปัจจัยเสี่ยงในกรณีที่มีการปะทะกัน

  • "รู้" เมื่อทารก / เด็กอยู่บนเรือหรือไม่?

เลขที่

  • มันคำนึงถึงอายุ (เช่นการฆ่าคนที่มีอายุมากกว่าก่อน) หรือไม่?

ไม่นี่เป็นเพียงนามธรรมที่ไม่ถูกต้องในการตัดสินใจสิ่งนี้จะถูกถ่วงน้ำหนักในการเลือกแนวทางปฏิบัติที่ถูกต้องเพื่อลดปัจจัยเสี่ยงได้อย่างไร หากตัวเลือกที่ 1 ถูกโจมตีโดยคนหนุ่มสาวที่มีโอกาส 20% ของความเสียหายของผู้ครอบครองที่สำคัญและไม่มีความรับผิดทางกฎหมายและตัวเลือกที่ 2 จะถูกโจมตีโดยคนที่อายุน้อยกว่าที่มีโอกาสที่จะเกิดความเสียหายอย่างมีนัยสำคัญ 21% น้ำหนักที่ยุติธรรมและเป็นธรรมในการตัดสินใจ?

โชคดีที่การตัดสินใจที่ดีที่สุดหลายครั้งคือการหยุดพักเพื่อลดความเร็ว (โดยเฉพาะอย่างยิ่งเมื่อคุณคิดว่ามันมักจะมีประโยชน์ในการคาดการณ์เพื่อให้คนเดินถนนและผู้ขับขี่สามารถตอบสนองได้) ในขณะเดียวกันการปรับปรุงมูลค่าที่ดีขึ้นสามารถทำได้ในแง่ของการทำนายเวลาที่ผู้ขับขี่จะทำการตัดสินใจที่ไม่ดีและเมื่อการกระทำอื่น ๆ (เช่นการกดปุ่มย้อนกลับ) มีประโยชน์มากกว่าการหยุดพัก ณ จุดนี้มันไม่คุ้มค่าที่จะเริ่มเก็บข้อมูลเพื่อทำการตัดสินใจทางจริยธรรมที่นักปรัชญาเสนอ ดังนั้นปัญหานี้เกิดขึ้นมากเกินไปโดยนักข่าวและนักปรัชญาที่น่าจับตามอง


2

ฉันคิดว่าในกรณีส่วนใหญ่รถจะเริ่มต้นเพื่อลดความเร็วเป็นตัวเลือกหลักแทนที่จะหมุนไปทางหรือออกจากตัวเลือกเฉพาะ ดังที่คนอื่น ๆ ได้กล่าวถึงการตั้งค่าที่เกี่ยวข้องกับจริยธรรมเป็นเพียงความคิดที่ไม่ดี จะเกิดอะไรขึ้นถ้ารถสองคันที่ตั้งโปรแกรมด้วยการตั้งค่าทางจริยธรรมที่ตรงกันข้ามและกำลังจะชนกัน? รถยนต์อาจมีระบบเพื่อแทนที่การตั้งค่าของผู้ใช้และเลือกทางออกที่เป็นประโยชน์แก่กันและกันมากที่สุด เป็นแนวคิดที่น่าสนใจและเป็นแนวคิดที่ต้องพูดคุยและสร้างมาตรฐานก่อนการนำไปปฏิบัติอย่างกว้างขวาง การตัดสินใจเชิงจริยธรรมในมือของเครื่องจักรทำให้ความรับผิดที่เกิดขึ้นบางครั้งยากที่จะมองเห็น


ใช่การเบรกเพื่อหลีกเลี่ยงการชนจะเป็นทางออกที่ดีที่สุด น่าเสียดายที่ในบางกรณี (กรณีที่ถามถึงในคำถาม) การตีบางสิ่งนั้นไม่สามารถหลีกเลี่ยงได้ คุณดูเหมือนจะเห็นด้วยกับคำตอบที่มีอยู่ โปรดทราบว่าเราต้องการให้แต่ละคำตอบสามารถยืนได้ด้วยตนเอง เมื่อคุณมีชื่อเสียงเพียงพอคุณจะสามารถถอนคำตอบที่คุณเชื่อว่ามีประโยชน์ได้ ปัญหาของรถยนต์สองคันที่กำหนดค่าแบบตรงข้ามกันนั้นน่าสนใจอย่างแน่นอน มันจะดีถ้าคุณจะแก้ไขคำตอบของคุณเพื่อขยายในนั้น ขอบคุณ!
เบ็น N

ขอบคุณมากสำหรับคำตอบของคุณฉันขอขอบคุณจริง ๆ และจะใช้มันต่อไปในเว็บไซต์ ฉันไม่ทราบแนวทางสำหรับคำตอบ
imhotraore

1

ฉันคิดว่าคงไม่มีวิธีแก้ไขการตั้งค่าจริยธรรมในรถ แต่เดี๋ยวก่อนถ้าโทรศัพท์สามารถรูททำไมไม่รถ? ฉันคิดว่าจะมีการสร้างลินุกซ์ในอนาคตสำหรับรุ่นเฉพาะที่จะช่วยให้คุณทำสิ่งที่คุณต้องการ

ส่วนใครจะเป็นคนตัดสินใจเรื่องนี้จะเป็นเหมือนประเด็นความเป็นส่วนตัวของวันนี้ จะมีสงครามชักเย่อบนผ้าห่มโดยผู้ให้บริการระบบปฏิบัติการ (ผู้ที่จะพยายามกำหนดให้มีจำนวนคนบาดเจ็บขั้นต่ำแต่ละคนด้วยวิธีการของตัวเอง) บริษัท ประกันภัย (ผู้ที่จะทำให้คุณจ่ายเงิน เพิ่มเติมสำหรับระบบปฏิบัติการที่จะแสดงสถิติทำให้รถของคุณเสียหายได้ง่ายขึ้น) และผู้ผลิตรถยนต์ (ผู้ที่ต้องการให้คุณทิ้งขยะในรถของคุณโดยเร็วที่สุดเท่าที่จะทำได้) ดังนั้นคุณจะซื้อรถใหม่หรือทำรถยนต์ที่ต้องไร้สาระ จำนวนบริการ $$$)

จากนั้นผู้แจ้งเบาะแสบางคนจะออกมาและเปิดเผยรหัสบางส่วนที่เลือกที่จะฆ่าเด็กเล็กมากกว่าผู้ใหญ่ - เพราะมันจะมีช่วงเวลาที่ยากกว่าในการแยกพวกเขาออกจากสัตว์ ผู้ผลิตระบบปฏิบัติการจะได้รับข้อมูลจากสาธารณชนและจะมีการลงมติใหม่ ผู้แจ้งเบาะแสจะออกมาจาก บริษัท ประกันภัยและผู้ผลิตรถยนต์ด้วย

มนุษยชาติจะคว้ากระทะร้อนและเผาเองแล้วเรียนรู้ที่จะสวมถุงมือก่อน คำแนะนำของฉันจะทำให้แน่ใจว่าคุณจะไม่อยู่ในมือนั้น - อยู่ห่างจากพวกเขาสองสามปีจนกระทั่งความผิดพลาดทั้งหมดเกิดขึ้น


1

ทางเลือกที่สมเหตุสมผลเพียงอย่างเดียวคือการใช้พฤติกรรมที่คาดเดาได้ ดังนั้นในคนที่อยู่ด้านหน้าของสถานการณ์รถ: ก่อนอื่นรถชนกับเบรคในเวลาเดียวกันก็จะมีเสียงแตรและอยู่ในเส้นทาง ผู้คนมีโอกาสกระโดดออกจากทางที่นำไปสู่การถูกฆ่าตายเป็นศูนย์ นอกจากนี้เมื่อใช้ระบบเบรกเต็มรูปแบบ (จาก 50 กม. ต่อชั่วโมงถึงศูนย์จะมีความยาวน้อยกว่า 3 คัน) สถานการณ์การปะทะจะไม่สามารถจินตนาการได้ แม้ว่าจะไม่สามารถเข้าถึงการหยุดเต็มรูปแบบได้ แต่ความเสียหายอย่างรุนแรงต่อคนเดินเท้าก็ไม่น่าเกิดขึ้น

อีกสถานการณ์หนึ่งบ้าไปแล้ว ดังนั้นระยะทางจะต้องมีความยาวน้อยกว่า 3 คันโดยต้องมีความยาวอย่างน้อย 1 คันสำหรับการบังคับเลี้ยวจากนั้นการชนรถเป็นสถานการณ์ที่ไม่สามารถควบคุมได้อาจนำไปสู่การหมุนและสังหารทั้ง 11 คน

นอกเหนือจากการพูดว่าฉันไม่เชื่อว่ามีตัวอย่างในความเป็นจริงที่มีภาวะที่กลืนไม่เข้าคายไม่ออก; การแก้ปัญหาในกรณีที่ไม่น่าเป็นไปได้เหล่านี้หากสอดคล้องกับความคาดหวังของฝ่ายตรงข้ามเพื่อให้ฝ่ายอื่น ๆ สามารถบรรเทาสถานการณ์ได้เช่นกัน


คุณช่วยลองทำตามคำตอบแรกที่โพสต์โดยเบ็นจากนั้นลองแก้ไขของคุณให้สอดคล้องกับสิ่งที่เอไอกำลังทำอยู่!
quintumnia

คุณจะเจาะจงมากขึ้นได้ไหม? ฉันอ่านคำตอบแรกของ bens แต่ไม่เห็นว่าเกี่ยวข้องกันอย่างไร คุณอธิบายได้ไหมว่า AI เกี่ยวกับอะไร
lalala

สิ่งที่ฉันหมายถึงนั้นคือต้องมีความรู้เกี่ยวกับ AI ดังนั้นคำตอบของคุณอาจถูกโหวตให้เห็นหรือไม่เห็น
quintumnia

@quintumnia คำตอบนี้ดูเหมือนดีสำหรับฉัน (+1) - เพียงดำเนินการต่อโดยไม่พยายามหักเลี้ยวหรือตัดสินใจเป็นทางเลือกที่ถูกต้อง
เบ็น N
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.