หากมนุษยชาติสามารถสร้างชีวิตเทียมในเครื่องเราจะกำหนดว่ามันจะตายเมื่อใด

สามารถฆ่าเครื่องจักรจริงได้หรือไม่? เราไม่เพียง แต่มีปัญหาในการกำหนดชีวิต แต่ยังมีปัญหาในการกำหนดความตาย สิ่งนี้จะเป็นจริงในชีวิตเทียมและปัญญาประดิษฐ์หรือไม่

ความตายอย่างที่เรารู้เพื่อชีวิตตามธรรมชาติคือจุดสิ้นสุด นั่นคือกาลครั้งหนึ่งชีวิตตามธรรมชาติไม่สามารถกลับมาได้ (อย่างน้อยก็ในความเข้าใจปัจจุบันและด้วยเทคโนโลยีปัจจุบัน --- บางคนเชื่อเป็นอย่างอื่น)

ความตายสำหรับ AI นั้นยากกว่า อาจมีเพียงหนึ่งสถานการณ์: การทำลายโลก: สถานการณ์สุดขั้วที่ทุกสิ่งที่สนับสนุนการมีอยู่ของ AI จะหายไป สิ่งนี้เทียบเท่ากับความตายในชีวิตตามธรรมชาติและความน่าจะเป็นต่ำ มันหมายถึง AIs ทั้งหมดตายพร้อมกัน (เช่นเดียวกับเรา)

นอกจากนี้เรายังไม่ทราบถึงระดับและรูปแบบของศูนย์รวมที่จำเป็นสำหรับ AGIs เราสามารถสันนิษฐานได้ว่าตอนนี้ฮาร์ดแวร์นั้นสามารถเปลี่ยนทดแทนได้อย่างไม่มีกำหนดดังนั้นจึง "จำกัด " การเสียชีวิตในสถานการณ์สุดโต่งข้างต้น แต่ "ร่างกาย" ของ AGIs อาจไม่สามารถเปลี่ยนได้อย่างไม่มีกำหนด ถ้าอย่างนั้นคำจำกัดความที่ใกล้ชิดกับชีวิตธรรมชาติอาจจำเป็น

เราเห็นข้อโต้แย้งสำหรับอีกสองสถานการณ์ที่ฉันปฏิเสธด้านล่าง:

"ความตายคงที่": AI ยังคงเป็น "กำหนด" หรือ "บันทึก" ที่ใดที่หนึ่ง (สิ่งที่มันหมายถึงจริง) แต่มันไม่ได้รับอนุญาตหรือสามารถใช้ทรัพยากร สมมติว่า AI ทำจากฮาร์ดแวร์และซอฟต์แวร์มันเป็นเหมือนโปรแกรมที่เก็บไว้ในดิสก์ แต่ไม่ได้รับอนุญาตให้ทำงาน

"Dynamic Death": ภายใต้ลักษณะเดียวกันของ AI ในฐานะฮาร์ดแวร์และซอฟต์แวร์ Dynamic Death คือการทำให้โมเดอเรชั่นมีความคล้ายคลึงกับคุณสมบัติการใช้ชีวิตที่แข็งแกร่งซึ่ง AI ถูกขังอยู่ในวงวนไม่สิ้นสุด (หรือโมฆะวน) ในรูปแบบของ " ความตาย "ที่เกิดขึ้นกับSisyphusในตำนานเทพเจ้ากรีก สิ่งนี้แตกต่างจากการตายแบบคงที่เนื่องจาก AI ยังคงใช้ทรัพยากรแบบไดนามิกแม้ว่าจะไม่สามารถดำเนินการได้ ดำเนินการต่อภายใต้สมมติฐานเดียวกัน AI ดังกล่าวอาจ "โหลด" ในหน่วยความจำหลักหรือล็อกการรอให้อินพุตหรือเอาต์พุตเสร็จสิ้น

โปรดสังเกตว่าในสองสถานการณ์นี้การเกิดใหม่เป็นไปได้และพวกเขายังบอกด้วยว่ามีเอนทิตีที่สามารถตัดสินใจเงื่อนไขการเกิดใหม่หรือป้องกันไม่ให้สมบูรณ์ เอนทิตีนี้จะเป็น "ผู้ดูแลระบบ" พระเจ้าเอไอเออื่น ๆ หรือมนุษย์เป็นคำถามอื่นหรือไม่

คำว่า "ความตาย" และ "การเกิดใหม่" ที่นี่สามารถเปลี่ยนแปลงได้สำหรับ "การคุมขัง" ซึ่งเวอร์ชั่นแบบไดนามิกจะเป็นเหมือนคุกของมนุษย์ของเราและรุ่นคงที่จะเป็นแบบ SciFi cryogeny นี่เป็นช่วงเวลาที่ยืดยาว แต่เราสามารถเห็นความเท่าเทียมกันและไม่มีเหตุผลที่ดีที่จะทำให้สถานการณ์ทั้งสองนี้เป็นความตาย

โดยสรุปการเสียชีวิตของ AI นั้นเป็นสถานการณ์ที่พิเศษและแปลกประหลาดดังนั้น AI จึงไม่สามารถตายได้ในทางปฏิบัติยกเว้นว่าเราคิดผิดว่าเราสามารถทำ AGIs ได้อย่างไร AI สามารถ แต่ถูกจำคุกตลอดไป

หมายเหตุ: คำศัพท์ด้านบนสร้างขึ้นโดยสมบูรณ์สำหรับโพสต์ ฉันไม่มีการอ้างอิงเพื่ออ้างสิทธิ์บางอย่าง แต่ขึ้นอยู่กับการอ่านและงานส่วนตัว (รวมถึงการตรวจสอบซอฟต์แวร์)

ถ้า AI เกิดขึ้นจากกระบวนการผลิตที่จำลองได้ (เช่นเดียวกับคอมพิวเตอร์สมัยใหม่) ก็น่าจะเป็นไปได้ที่จะถ่ายภาพสถานะของ AI และทำซ้ำโดยไม่มีข้อผิดพลาดในกลไกอื่น ๆ

สำหรับโครงสร้างเช่นนี้ 'ความตาย' ไม่ได้หมายถึงสิ่งเดียวกับที่เราทำในปัจจุบันสำหรับองค์กรที่มีรูปร่างอ้วน: หลายกลุ่มของ AI อาจสันนิษฐานได้ว่าสามารถสร้างอินสแตนซ์ได้ตลอดเวลา

ดังนั้นอะนาล็อกของความตายที่ต้องการคือสิ่งที่ใกล้เคียงกับ 'ความร้อนความร้อนทางอุณหพลศาสตร์' ซึ่ง AI ไม่ได้ทำงานที่มีประโยชน์ 'เพิ่มเติม'

การใช้การรับรู้ลักษณะ / การกระทำมาตรฐานของ AIs จากนั้น (ตามที่ระบุไว้ในความคิดเห็นด้านล่างคำถาม) คำถามAI SEนี้ให้คำนิยามของความตายสำหรับ AI: เช่นเมื่อเข้าสู่สถานะที่ไม่ได้รับการรับรู้เพิ่มเติมและ ไม่ทำอะไรเลย

แก้ไข: โปรดทราบว่าแนวคิดเรื่องความตายนี้เป็นความคิดที่เทอร์มินัลสำหรับ AI มากกว่า 'ไม่ได้เรียกใช้ในปัจจุบัน' ตามหลักการแล้วคนเราสามารถพูดได้ว่าโปรแกรมนั้น 'มีชีวิต' แม้ว่าจะมีการสอนเพียงคำสั่งเดียวทุก 10,000 ปี สำหรับการสนทนาที่น่าสนใจเกี่ยวกับเรื่องนี้โปรดดูที่"การสนทนากับสมองของไอน์สไตน์"ของฮอฟสเตดเตอร์

"ความตาย" มีอยู่เป็นแนวคิดเดียวเพราะความเป็นจริงพื้นฐานที่มันอธิบายไว้นั้นมีการรวมกลุ่มกันอย่างใกล้ชิดและคำจำกัดความของเราเปลี่ยนไปเมื่อเราสามารถเปลี่ยนความเป็นจริงนั้นได้

ดูเหมือนว่ามีเหตุผลมากกว่าที่ประเภทต่าง ๆ ของสิ่งที่อาจถูกพิจารณาว่าเป็น 'ความตาย' จะถูกแยกออกและคำที่แตกต่างจะถูกใช้เพื่ออ้างถึงระบบที่ไม่มีสำเนาที่กำลังทำงานอยู่ในขณะนี้กับระบบที่ไม่มีรุ่นที่จัดเก็บไว้ อาจถูกสร้างขึ้นใหม่ (เพราะรหัสและการสุ่มเมล็ดเพื่อสร้างมันยังอยู่รอบ ๆ ), กับระบบที่หายไปโดยสิ้นเชิง (และฉันอาจพลาดความเป็นไปได้!)

ฉันไม่คิดว่าคำว่า "ความตาย" จะมีความหมายอะไรกับ AI เหตุผลที่ฉันพูดแบบนี้: ด้วย AI ที่ทำงาน (สมมุติ) บนฮาร์ดแวร์ดิจิตอลเราสามารถจับภาพสถานะของหน่วยความจำได้ตลอดเวลา และในเวลาใดก็ได้ในอนาคตเราสามารถสร้างมันขึ้นมาใหม่ได้เหมือนเดิมด้วยความซื่อสัตย์ที่สมบูรณ์แบบ

ดังนั้นแม้ว่าคุณจะยุติโปรแกรมที่ตั้งใจจะให้เป็น "คนตาย" คุณไม่มีทางรู้ว่ามีใครบางคนเข้ามาในภายหลังและนำมันขึ้นมาอีกครั้ง และอีกประเด็นคุณอาจไม่รู้ว่ามีอีกสำเนาอยู่ที่อื่นหรือไม่

ฉันเกลียดที่จะใช้การอ้างอิงแบบ sci-fi แต่อันนี้เหมาะ: จำได้ไหมว่าในโปรแกรมไตรภาคเดอะเมทริกซ์จะแสวงหาการเนรเทศใน The Matrix เพื่อหลีกเลี่ยงการลบได้อย่างไร บางทีสิ่งเดียวกันอาจเกิดขึ้นกับ AI ของเรา ... พวกเขาจะคัดลอกตัวเองไปยังที่อื่นและพยายามซ่อนเพื่อหลีกเลี่ยงการถูกลบ ดังนั้นหากโปรแกรมนั้นฉลาดพอที่มันอาจสามารถเลี่ยงความพยายามที่จะยุติมันได้

คำตอบอื่น ๆ ดูเหมือนจะจัดการกับ "ความตายครั้งสุดท้าย" ... นั่นคือสถานะ "ปลายขั้ว" ซึ่ง AI ไม่สามารถกู้คืนได้ กล่าวอีกนัยหนึ่ง AI ไม่สามารถทำงานได้อีกต่อไป

แต่นั่นไม่ใช่วิธีที่ฉันนิยามความตาย ฉันจะนิยามความตายว่าเป็นกระบวนการที่ถูกยกเลิก ไม่สำคัญว่าจะมีใครเริ่มกระบวนการเดียวกันใหม่เพราะกระบวนการที่มีอยู่นั้นตายไปแล้ว AI อาจเพิ่งทำสำเนาตัวเองใหม่ แต่เป็นเพียงสำเนาไม่ใช่ต้นฉบับ ความตายคือความตาย

เราสามารถเรียก "ความตาย" ชนิดนี้ว่า "ความตายชั่วคราว" ... ที่ร่างกายเสียชีวิต แต่มี "ความต่อเนื่องทางจิตวิทยา" บางอย่าง (เช่นซอร์สโค้ดที่ใช้เรียกใช้โปรแกรม) ที่ยังคงอยู่ระหว่างร่างกายที่แตกต่างกัน .

"ความตายชั่วคราว" ประเภทนี้ได้รับการสำรวจในนิยายวิทยาศาสตร์ PARANOIAและEclipse Phaseมีมนุษย์ที่สามารถตายได้บ่อยเพียงเพื่อจะกู้คืนในภายหลังผ่าน "การสำรองข้อมูลหน่วยความจำ" มนุษย์อาจเป็นอมตะได้ ... แต่ตัวจริงยังคงตายไม่ว่าอะไรจะเกิดขึ้นกับคนอื่นก็ตาม CGP Gray ยังทำวิดีโอเกี่ยวกับเครื่องเคลื่อนย้ายมวลสาร Star Trekซึ่งทำงานโดยการฆ่าคุณแล้ววางไข่สำเนาของตัวเองในพื้นที่อื่น ที่จริงแล้วการตั้งค่าแฟนตาซียังสำรวจความคิดของ "ความตายชั่วคราว" เช่นกันซึ่งผู้คนสามารถตายได้เพียงเพื่อที่จะได้รับการฟื้นฟูในภายหลังด้วยเวทมนตร์คาถา

ข้อเสนอแนะของฉันคือการเล่นผ่านเกมเกี่ยวกับปรัชญาStay Aliveซึ่งสอนวิธีปรัชญาที่แตกต่างกันสามวิธีในการดำรงชีวิต (และเมื่อชีวิตนั้นสิ้นสุดลง):

โดยทั่วไปมีสามสิ่งที่อาจจำเป็นสำหรับการดำรงอยู่ของตัวเอง หนึ่งคือความต่อเนื่องของร่างกายซึ่งจริง ๆ แล้วอาจต้องการเพียงส่วนหนึ่งของร่างกายที่อยู่ในการดำรงอยู่ (เช่นสมอง) อีกอย่างหนึ่งคือความต่อเนื่องทางด้านจิตใจซึ่งต้องการความต่อเนื่องของจิตสำนึกของคุณ - ซึ่งหมายถึงความคิดความคิดความทรงจำแผนความเชื่อและอื่น ๆ ของคุณ ความเป็นไปได้ที่สามคือการดำรงอยู่อย่างต่อเนื่องของส่วนที่ไม่สำคัญของคุณซึ่งอาจเรียกว่าวิญญาณ * แน่นอนว่าอาจเป็นเพราะการรวมกันของความต่อเนื่องเหล่านี้หนึ่งประเภทหรือมากกว่านั้นเป็นสิ่งจำเป็นเพื่อให้คุณมีชีวิตรอด

คำตอบอื่น ๆ จะถือว่าชีวิตมีพื้นฐานมาจาก "ความต่อเนื่องทางจิตวิทยา" และดูว่าอะไรจะทำให้ "ความต่อเนื่อง" นี้รบกวน ฉันคิดว่าชีวิตนั้นมีพื้นฐานมาจาก "ความต่อเนื่องทางร่างกาย" ซึ่งง่ายต่อการรบกวน - แค่ฆ่ากระบวนการ ... มันไม่สำคัญว่ากระบวนการใหม่จะเกิดขึ้น ... เพราะกระบวนการเดิมยังคงตายอยู่ โดยการเล่นผ่าน"การมีชีวิตอยู่"คุณจะสามารถกำหนดนิยามชีวิตและความตายของตนเองได้ เมื่อคุณมีคำจำกัดความส่วนบุคคลของคุณเองแล้วเพียงแค่นำไปใช้กับกรณีเฉพาะนี้ทั้งเข้าข้างด้วย "ความต่อเนื่องทางจิตวิทยา" (คำตอบอื่น ๆ ) หรือ "ความต่อเนื่องของร่างกาย" (ความเห็นของฉันเอง)

_{* ถ้าคุณคิดว่าชีวิตต้องการวิญญาณ แต่ก็ไม่ชัดเจนว่า AI จะมีวิญญาณ หากพวกเขาไม่ (และนี่เป็นข้อสันนิษฐานที่สมเหตุสมผลที่สุดที่นี่) พวกเขาก็จะไม่ได้มีชีวิตอยู่อย่างแน่นอน ถ้าพวกเขาไม่ได้มีจิตวิญญาณ แต่แล้วคำตอบอื่น ๆ ซึ่งถือว่า "ความต่อเนื่องทางจิตวิทยา" อาจจะยังคงมีผลบังคับใช้ตามที่มันดูเหมือนว่าการดำรงอยู่ของ "วิญญาณ" จะขึ้นอยู่กับ "ความต่อเนื่องทางจิตวิทยา"}

ความแตกต่างระหว่างอัลกอริธึม / หุ่นยนต์กับมนุษย์ก็คือเมื่อสิ่งมีชีวิตของมนุษย์หยุดทำงานมนุษย์ก็ถือว่าตาย

ในทางตรงกันข้ามอัลกอริทึมยังคงมีอยู่แม้ว่าจะไม่ได้ทำงาน (ฉันจะใช้ "แม้ว่าจะไม่ถูกประหารชีวิต" แต่หลีกเลี่ยงสิ่งนี้ด้วยเหตุผลทางความหมาย;) อัลกอริทึมยังคงอยู่ในสถานะ "ภาวะชะงักงัน" นี้ตราบใดที่มีสื่อเก็บข้อมูลสำหรับข้อมูล

• การฆ่าอัลกอริทึมเป็นเรื่องง่าย - ลบและล้างถังขยะ

เป็นหลักในการฆ่าอัลกอริทึมคุณจะต้องลบรหัสที่ประกอบด้วยมัน

ไม่มีเหตุผลที่จะต้องปฏิบัติต่อ AI อย่างหนักแตกต่างจากมนุษย์ บางคนบอกว่าคุณสามารถทำภาพรวมของ AI แต่ไม่มีเหตุผลที่จะไม่ทำภาพรวมของมนุษย์ เราไม่มีเทคโนโลยีสำหรับสิ่งนั้น แต่ไม่มีสิ่งกีดขวางใด ๆ ที่จะทำให้เป็นไปไม่ได้ (บันทึกข้อมูลทางชีววิทยาทั้งหมดแล้วพิมพ์สำเนาของคุณที่อื่นทำไมไม่?)

มันเป็นช่วงต้นที่จะพูดคุยเกี่ยวกับเรื่องนี้ในขณะที่เราไม่เข้าใจการดำรงอยู่ของเรา (ความตายสำหรับสิ่งมีชีวิตทางชีวภาพที่พัฒนาตลอดเวลา)

ฉันพนันได้เลยว่าในอนาคตเราจะรวมกับ AI และคำถามเดียวก็คือความตายหมายถึงการมีอยู่ที่ชาญฉลาดใด ๆ