คำถามติดแท็ก philosophy

เห็นได้ชัดว่ารถยนต์ที่ขับด้วยตนเองไม่ได้สมบูรณ์แบบดังนั้นลองจินตนาการว่ารถยนต์ของ Google (เป็นตัวอย่าง) ตกอยู่ในสถานการณ์ลำบาก นี่คือตัวอย่างของสถานการณ์ที่โชคร้ายที่เกิดจากชุดเหตุการณ์: รถกำลังมุ่งหน้าไปยังฝูงชนจำนวน 10 คนที่ข้ามถนนดังนั้นจึงไม่สามารถหยุดได้ทันเวลา แต่สามารถหลีกเลี่ยงการฆ่าคน 10 คนโดยการชนกำแพง (ฆ่าผู้โดยสาร) หลีกเลี่ยงการฆ่าผู้ขับขี่ของรถจักรยานยนต์เนื่องจากความน่าจะเป็นของการอยู่รอดมีมากขึ้นสำหรับผู้โดยสารรถยนต์ ฆ่าสัตว์บนถนนเพื่อช่วยเหลือมนุษย์ เปลี่ยนเลนเพื่อชนรถอีกคันเพื่อหลีกเลี่ยงการฆ่าสุนัข และนี่คืออุปสรรคบางประการ: อัลกอริทึมรับรู้ถึงความแตกต่างระหว่างมนุษย์กับสัตว์หรือไม่? ขนาดของมนุษย์หรือสัตว์มีความสำคัญหรือไม่? มันนับจำนวนผู้โดยสารที่มีต่อผู้คนที่อยู่ข้างหน้าหรือไม่ "รู้" เมื่อทารก / เด็กอยู่บนเรือหรือไม่? มันคำนึงถึงอายุ (เช่นการฆ่าคนที่มีอายุมากกว่าก่อน) หรือไม่? อัลกอริทึมจะตัดสินใจอย่างไรว่าควรทำอย่างไรจากมุมมองทางเทคนิค มันเป็นที่ตระหนักถึงข้างต้น (การนับความน่าจะเป็นของการฆ่า) หรือไม่ (ฆ่าคนเพียงเพื่อหลีกเลี่ยงการทำลายของตัวเอง)? บทความที่เกี่ยวข้อง: เหตุใดรถยนต์ที่ขับขี่ด้วยตนเองจะต้องถูกตั้งโปรแกรมให้ฆ่า วิธีการช่วยให้รถยนต์ที่ขับขี่ด้วยตนเองทำการตัดสินใจอย่างมีจริยธรรม

74 philosophy  ethics  autonomous-vehicles  decision-theory 

หากวัตถุประสงค์ดั้งเดิมสำหรับการพัฒนา AI คือการช่วยเหลือมนุษย์ในงานบางอย่างและวัตถุประสงค์นั้นยังคงมีอยู่เราจะสนใจเรื่องการอธิบายได้อย่างไร ตัวอย่างเช่นในการเรียนรู้อย่างลึกซึ้งตราบใดที่หน่วยสืบราชการลับช่วยเราให้ดีที่สุดในความสามารถของพวกเขาและมาถึงการตัดสินใจอย่างรอบคอบทำไมเราต้องรู้ว่าหน่วยสืบราชการลับของมันทำงานอย่างไร

56 philosophy  explainable-ai 

เรามักจะได้ยินว่าปัญญาประดิษฐ์อาจทำอันตรายหรือฆ่ามนุษย์ดังนั้นจึงอาจเป็นอันตรายได้ ปัญญาประดิษฐ์จะทำร้ายเราได้อย่างไร

50 philosophy  social  neo-luddism 

ในฐานะมนุษย์เราสามารถคิดได้อย่างไม่มีที่สิ้นสุด โดยหลักการแล้วหากเรามีทรัพยากรเพียงพอ (เวลา ฯลฯ ) เราสามารถนับหลายสิ่งได้อย่างมากมาย (รวมถึงนามธรรมเช่นหมายเลขหรือของจริง) ตัวอย่างเช่นอย่างน้อยเราสามารถพิจารณาจำนวนเต็มของบัญชี เราสามารถคิดว่าเป็นหลักและ "เข้าใจ" จำนวนมากมายที่แสดงบนหน้าจอ ทุกวันนี้เราพยายามออกแบบปัญญาประดิษฐ์ที่มีความสามารถอย่างน้อยมนุษย์ อย่างไรก็ตามฉันติดอยู่กับอินฟินิตี้ ฉันพยายามหาวิธีที่จะสอนรูปแบบ (ลึกหรือไม่) เพื่อทำความเข้าใจกับอินฟินิตี้ ฉันกำหนด "ความเข้าใจ" ในแนวทางการใช้งานตัวอย่างเช่นหากคอมพิวเตอร์สามารถแยกความแตกต่างของตัวเลขหรือสิ่งต่าง ๆ ได้ 10 อย่างก็หมายความว่ามันเข้าใจสิ่งต่าง ๆ เหล่านี้จริง ๆ นี่คือวิธีการตรงไปตรงมาขั้นพื้นฐานเพื่อ ดังที่ฉันได้กล่าวไปแล้วมนุษย์เข้าใจถึงอนันต์เพราะอย่างน้อยพวกมันก็สามารถนับจำนวนเต็มได้ จากมุมมองนี้ถ้าฉันต้องการสร้างแบบจำลองจริง ๆ แล้วเป็นฟังก์ชั่นในแง่นามธรรมรูปแบบนี้จะต้องแยกความแตกต่างจำนวนมากมาย เนื่องจากคอมพิวเตอร์เป็นเครื่องดิจิตอลที่มีขีดความสามารถ จำกัด ในการจำลองฟังก์ชันที่ไม่มีที่สิ้นสุดฉันจะสร้างแบบจำลองที่สร้างความแตกต่างของจำนวนเต็มจำนวนอนันต์ได้อย่างไร? ตัวอย่างเช่นเราสามารถใช้โมเดลการมองเห็นในการเรียนรู้เชิงลึกที่จดจำตัวเลขบนการ์ด รุ่นนี้จะต้องกำหนดหมายเลขให้กับบัตรแต่ละใบเพื่อแยกความแตกต่างของจำนวนเต็ม เนื่องจากมีจำนวนเต็มจำนวนอนันต์โมเดลจะกำหนดจำนวนที่แตกต่างกันให้กับแต่ละจำนวนเต็มเช่นมนุษย์บนคอมพิวเตอร์ดิจิทัลได้อย่างไร หากมันไม่สามารถแยกแยะสิ่งที่ไม่มีที่สิ้นสุดมันจะเข้าใจความไม่สิ้นสุดได้อย่างไร ถ้าฉันคำนึงถึงจำนวนจริงปัญหาจะยากขึ้นมาก อะไรคือจุดที่ฉันขาดหายไป มีทรัพยากรใดบ้างที่มุ่งเน้นที่เรื่องหรือไม่

39 deep-learning  philosophy  agi 

ฉันเคยได้ยินความคิดเกี่ยวกับความแปลกประหลาดทางเทคโนโลยีมันคืออะไรและเกี่ยวข้องกับปัญญาประดิษฐ์ได้อย่างไร นี่คือประเด็นทางทฤษฎีที่เครื่องปัญญาประดิษฐ์ก้าวหน้าไปถึงจุดที่พวกเขาเติบโตและเรียนรู้ด้วยตัวเองเกินกว่าสิ่งที่มนุษย์สามารถทำได้และการเติบโตของพวกเขาจะออกไปไหม เราจะรู้ได้อย่างไรเมื่อเรามาถึงจุดนี้

32 philosophy  definitions  agi  superintelligence  singularity 

กระดาษข้อ จำกัด ของการเรียนรู้อย่างลึกล้ำในการตั้งค่าของฝ่ายตรงข้ามสำรวจว่าเครือข่ายประสาทอาจเสียหายโดยผู้โจมตีที่สามารถจัดการชุดข้อมูลที่เครือข่ายประสาทเทียมฝึกอบรมได้ การทดลองของผู้เขียนกับโครงข่ายประสาทเทียมนั้นหมายถึงการอ่านตัวเลขที่เขียนด้วยลายมือเพื่อบ่อนทำลายความสามารถในการอ่านโดยการบิดเบือนตัวอย่างของตัวเลขที่เขียนด้วยลายมือที่เครือข่ายประสาทเทียมได้รับการฝึกฝน ฉันกังวลว่านักแสดงที่เป็นอันตรายอาจลองแฮ็ค AI ตัวอย่างเช่น การปลอมแปลงยานพาหนะของตนเองเพื่อแปลความหมายสัญญาณหยุดเทียบกับการ จำกัด ความเร็ว ข้ามการจดจำใบหน้าเช่นสิ่งที่อยู่ในเครื่อง ATM การข้ามตัวกรองสแปม การวิเคราะห์ความเชื่อมั่นของคนโง่จากบทวิจารณ์ภาพยนตร์โรงแรม ฯลฯ ผ่านเครื่องมือตรวจจับความผิดปกติ แกล้งทำคำสั่งเสียง เครื่องจำแนกประเภทการเรียนรู้การทำนายทางการแพทย์ สิ่งที่มีผลต่อฝ่ายตรงข้ามอาจส่งผลกระทบต่อโลก เราจะป้องกันได้อย่างไร

27 neural-networks  deep-learning  philosophy  generative-adversarial-networks  ai-safety 

ทฤษฎีปัจจุบันเกี่ยวกับการพัฒนาของ AI ที่ใส่ใจคืออะไร? มีใครบ้างที่พยายามพัฒนา AI ที่ใส่ใจ? เป็นไปได้ไหมว่าการมีสติเป็นปรากฏการณ์ฉุกเฉินนั่นคือเมื่อเรานำความซับซ้อนมาสู่ระบบของเรามากพอมันจะกลายเป็นสิ่งที่รู้ตัว

24 philosophy  theory  artificial-consciousness 

ฉันเชื่อว่าคำว่าปัญญาประดิษฐ์ (AI) เป็นสิ่งที่ใช้กันมากเกินไปในปัจจุบัน ตัวอย่างเช่นผู้คนเห็นว่ามีอะไรบางอย่างเคลื่อนไหวตัวเองและพวกเขาเรียกมันว่า AI แม้ว่ามันจะอยู่บนระบบอัตโนมัติ (เช่นรถยนต์หรือเครื่องบิน) หรือมีอัลกอริทึมง่ายๆอยู่ด้านหลัง ข้อกำหนดขั้นต่ำทั่วไปคืออะไรเพื่อให้เราสามารถพูดได้ว่ามีอะไรบ้าง AI

23 philosophy  definitions 

ในบทความ Wall Street Journal ล่าสุด Yann LeCunn ได้กล่าวข้อความต่อไปนี้: ขั้นตอนต่อไปในการบรรลุเป้าหมายระดับไอคือการสร้างความฉลาด - แต่ไม่ใช่แบบอิสระ - เครื่องจักร ระบบ AI ในรถของคุณจะพาคุณกลับบ้านอย่างปลอดภัย แต่จะไม่เลือกปลายทางอื่นเมื่อคุณเข้าไปข้างใน จากนั้นเราจะเพิ่มไดรฟ์พื้นฐานพร้อมกับอารมณ์และค่านิยมทางศีลธรรม ถ้าเราสร้างเครื่องจักรที่เรียนรู้เช่นเดียวกับสมองของเรามันก็ง่ายที่จะจินตนาการว่าพวกเขาได้รับคุณสมบัติที่เหมือนมนุษย์ - และข้อบกพร่อง โดยส่วนตัวแล้วฉันได้รับตำแหน่งที่พูดถึงอารมณ์ความรู้สึกสำหรับปัญญาประดิษฐ์นั้นโง่เพราะไม่มีเหตุผลที่จะสร้าง AI ที่มีประสบการณ์ทางอารมณ์ เห็นได้ชัดว่ายานน์ไม่เห็นด้วย ดังนั้นคำถามคือ: จะทำหน้าที่อะไรโดยการทำเช่นนี้? AI ต้องการอารมณ์เพื่อใช้เป็นเครื่องมือที่มีประโยชน์หรือไม่?

19 philosophy  emotional-intelligence 

โดยทั่วไปแล้วมีความเป็นไปได้อะไรบ้างสำหรับการสร้างรายละเอียดของงานที่สามารถแทนที่ด้วยโซลูชัน AI อัตโนมัติ แนวคิดเริ่มต้นของฉันรวมถึง: ตรวจสอบ AI และตั้งค่าสถานะการกระทำที่ไม่ถูกต้อง อาจเข้าควบคุมในสถานการณ์ที่ท้าทายมาก การสร้าง / รวบรวมข้อมูลการฝึกอบรม / การทดสอบเพิ่มเติมเพื่อปรับปรุงความแม่นยำของ AI

16 philosophy  social 

เครื่องมือค้นหาได้รับการพิจารณา AI เนื่องจากวิธีที่พวกเขาวิเคราะห์สิ่งที่คุณค้นหาและจดจำหรือไม่ หรือพวกเขาส่งโฆษณาถึงสิ่งที่คุณค้นหาเมื่อเร็ว ๆ นี้ นี่ถือว่าเป็น AI หรือฉลาดแค่ไหน?

16 machine-learning  philosophy  definitions 

สติมีความท้าทายที่จะกำหนดแต่สำหรับคำถามนี้ขอให้นิยามว่า "จริง ๆ แล้วประสบกับความรู้สึกในการรับรู้เมื่อเทียบกับการใส่ข้อมูลจำนวนมากผ่านเครื่องที่ไม่มีชีวิต" แน่นอนว่ามนุษย์มีจิตใจ สำหรับคอมพิวเตอร์ทั่วไปทุกสิ่งที่พวกเขา "เห็น" เป็นเพียงข้อมูลเพิ่มเติม อีกวิธีหนึ่งอาจบอกได้ว่ามนุษย์นั้นมีความรู้สึกในขณะที่คอมพิวเตอร์แบบดั้งเดิมไม่ใช่ การตั้งคำถามไว้ว่าเป็นไปได้หรือไม่ที่จะสร้างเครื่องจักรที่มีความรู้สึกจริง ๆ แล้วมันสร้างความแตกต่างได้หรือไม่ถ้า AI นั้นมีความรู้สึกหรือไม่? กล่าวอีกนัยหนึ่งมีงานที่ทำให้เป็นไปไม่ได้ - ไม่ใช่แค่ยากขึ้น - โดยขาดความรู้สึก?

14 philosophy 

ความสำนึกและความประหม่ามีความสำคัญต่อการทำ AIs ขั้นสูงอย่างไร? เราอยู่ห่างไกลจากการทำเช่นนี้? เมื่อทำเช่นโครงข่ายประสาทเทียม (อาจมี) ไม่มีสติอยู่ภายใน แต่แค่คณิตศาสตร์ข้างหลัง แต่เราต้องการให้ AIs มีสติเพื่อแก้ไขงานที่ซับซ้อนมากขึ้นในอนาคตหรือไม่ นอกจากนี้จริง ๆ แล้วมีวิธีใดที่เราสามารถรู้ได้อย่างแน่นอนว่ามีบางสิ่งที่ใส่ใจหรือว่ามันแกล้งทำมัน? มัน "ง่าย" ในการสร้างโปรแกรมคอมพิวเตอร์ที่อ้างว่ามีสติ แต่นั่นไม่ได้หมายความว่าเป็น (เช่น Siri) และถ้า AIs อยู่บนพื้นฐานของกฎที่กำหนดไว้ล่วงหน้าโดยไม่มีสติเราสามารถเรียกมันว่า "ปัญญา" ได้หรือไม่?

14 philosophy  artificial-consciousness  self-awareness 

ฉันอ่านบทความที่น่าสนใจมาก ๆ เรื่อง"หยุดเรียกมันว่าปัญญาประดิษฐ์"ที่ทำให้คำวิจารณ์ที่น่าสนใจของชื่อ "ปัญญาประดิษฐ์" ปัญญาคำกว้างมากจนยากที่จะพูดว่า "ปัญญาประดิษฐ์" ฉลาดจริงๆ ปัญญาประดิษฐ์จึงมีแนวโน้มที่จะถูกตีความว่าเป็นการเลียนแบบความฉลาดของมนุษย์ซึ่งไม่ใช่ความจริงของปัญญาประดิษฐ์ ปัญญาประดิษฐ์ไม่ใช่ "ปัญญา" จริงๆ ประดิษฐ์แสดงถึงการเลียนแบบของบางสิ่งบางอย่างซึ่งไม่ได้เป็นอย่างที่ปัญญาประดิษฐ์คืออะไร อะไรคือทางเลือกที่ดีสำหรับนิพจน์ "ปัญญาประดิษฐ์"? (คำตอบที่ดีจะไม่แสดงชื่อแบบสุ่มพวกเขาจะให้เหตุผลว่าทำไมชื่อทางเลือกของพวกเขาจึงเป็นชื่อที่ดี)

13 philosophy  terminology 

หมายเหตุ: ประสบการณ์ของฉันกับทฤษฎีบทของGödelค่อนข้าง จำกัด : ฉันได้อ่านGödel Escher Bach; ไขมันต่ำในครึ่งแรกของทฤษฎีบทเบื้องต้นของ Godel (โดย Peter Smith); และสุ่มบางสิ่งที่นี่และที่นั่นบนอินเทอร์เน็ต นั่นคือฉันมีความเข้าใจในระดับสูงที่คลุมเครือของทฤษฎี ในความเห็นต่ำต้อยของฉันGödelทฤษฎีความไม่สมบูรณ์ (และทฤษฎีบทที่เกี่ยวข้องมากมายเช่นปัญหาการหยุดชะงักและทฤษฎีบทLöbs) อยู่ในการค้นพบทางทฤษฎีที่สำคัญที่สุด อย่างไรก็ตามมันค่อนข้างน่าผิดหวังที่จะสังเกตว่ามีไม่มาก (อย่างน้อยความรู้ของฉัน) การประยุกต์ใช้ทฤษฎีของทฤษฎีบทอาจเป็นส่วนหนึ่งเนื่องจาก 1. ลักษณะป้านของการพิสูจน์ 2. ผลกระทบทางปรัชญาที่แข็งแกร่งคนไม่ได้ เต็มใจที่จะกระทำต่ออย่างง่ายดาย แม้จะมียังมีความพยายามที่จะใช้ทฤษฎีบทในปรัชญาของจิตใจ / บริบท AI ปิดส่วนหัวของฉัน: Lucas-Penrose อาร์กิวเมนต์ : ซึ่งระบุว่าจิตใจไม่ได้ดำเนินการในระบบที่เป็นทางการ (เช่นในคอมพิวเตอร์) (ไม่ใช่ข้อพิสูจน์ที่เข้มงวดมาก) เห็นได้ชัดว่างานวิจัยของ MIRI ใช้Löbs Thereom แต่ตัวอย่างเดียวที่ฉันรู้คือความร่วมมือกับตัวแทนLöbian สิ่งเหล่านี้เจ๋งจริงๆ แต่มีตัวอย่างอีกบ้างไหม? โดยเฉพาะอย่างยิ่งคนที่ได้รับการพิจารณาอย่างจริงจังโดยชุมชนวิชาการ (เปรียบเทียบผลกระทบเชิงปรัชญาของทฤษฎีบทความไม่สมบูรณ์ครั้งแรกของGödelคืออะไร? ใน SE)

13 philosophy