คำถามติดแท็ก singularity

ฉันเคยได้ยินความคิดเกี่ยวกับความแปลกประหลาดทางเทคโนโลยีมันคืออะไรและเกี่ยวข้องกับปัญญาประดิษฐ์ได้อย่างไร นี่คือประเด็นทางทฤษฎีที่เครื่องปัญญาประดิษฐ์ก้าวหน้าไปถึงจุดที่พวกเขาเติบโตและเรียนรู้ด้วยตัวเองเกินกว่าสิ่งที่มนุษย์สามารถทำได้และการเติบโตของพวกเขาจะออกไปไหม เราจะรู้ได้อย่างไรเมื่อเรามาถึงจุดนี้

32 philosophy  definitions  agi  superintelligence  singularity 

คำว่าภาวะเอกฐานมักใช้ในสื่อกระแสหลักเพื่ออธิบายเทคโนโลยีที่มีวิสัยทัศน์ มันถูกนำมาใช้โดยเรย์ Kurzweil ในหนังสือยอดนิยมภาวะเอกฐานอยู่ใกล้: เมื่อมนุษย์ชนะชีววิทยา (2005) ในหนังสือของเขา Kurzweil ให้มุมมองต่ออนาคตที่มีศักยภาพของมนุษยชาติซึ่งรวมถึงนาโนเทคโนโลยีคอมพิวเตอร์การดัดแปลงพันธุกรรมและปัญญาประดิษฐ์ เขาระบุว่ากฎของมัวร์จะทำให้คอมพิวเตอร์มีการเติบโตแบบทวีคูณซึ่งส่งผลให้เกิดความฉลาดหลักแหลม ความแปลกประหลาดทางเทคโนโลยีเป็นสิ่งที่นักพัฒนา AI ให้ความสนใจหรือเป็นทฤษฎีนี้หรือไม่

10 philosophy  theory  superintelligence  singularity  mythology-of-ai 

ในบริบทของปัญญาประดิษฐ์ความเป็นเอกเทศหมายถึงการถือกำเนิดของปัญญาประดิษฐ์ทั่วไปที่สามารถพัฒนาตนเองแบบเรียกซ้ำได้ซึ่งนำไปสู่การเกิดขึ้นอย่างรวดเร็วของปัญญาประดิษฐ์ขั้นสูง (ASI) ข้อ จำกัด ที่ไม่เป็นที่รู้จัก . ดังนั้นปัญญาประดิษฐ์เหล่านี้จะสามารถแก้ไขปัญหาที่เราอาจไม่สามารถแก้ไขได้ จากรายงานการสำรวจความก้าวหน้าในอนาคตในด้านปัญญาประดิษฐ์: การสำรวจความคิดเห็นของผู้เชี่ยวชาญ (2014) การประมาณค่ามัธยฐานของผู้ตอบแบบสอบถามเป็นหนึ่งในสองโอกาสที่หน่วยสืบราชการลับของเครื่องจักรระดับสูงจะได้รับการพัฒนาประมาณปี 2040-2050 ซึ่งไม่ไกลมาก มีอะไรผิดปกติกับความคิดที่ว่า AI จะมีความสามารถในการสัพพัญญูเพราะมันจะเป็นประโยชน์ต่อเราโดยการแก้ปัญหามากมาย?

10 machine-learning  philosophy  singularity  cognitive-science 

ในบทที่ 26 ของหนังสือปัญญาประดิษฐ์: วิธีการที่ทันสมัย (ฉบับที่ 3) ตำรากล่าวถึง "เอกฐานเทคโนโลยี" มันเป็นคำพูด IJ ดีผู้เขียนในปี 1965: ให้เครื่องที่มีความฉลาดพิเศษถูกกำหนดให้เป็นเครื่องที่ไกลเกินกว่ากิจกรรมทางปัญญาทั้งหมดของผู้ชายคนใด แต่ฉลาด เนื่องจากการออกแบบเครื่องจักรเป็นหนึ่งในกิจกรรมทางปัญญาเหล่านี้เครื่องที่ชาญฉลาดสามารถออกแบบเครื่องจักรที่ดียิ่งขึ้น จากนั้นจะมี "การระเบิดของความรู้แจ้ง" อย่างไม่ต้องสงสัยและสติปัญญาของมนุษย์จะถูกทิ้งไว้เบื้องหลัง ดังนั้นเครื่องอัลตร้าที่ชาญฉลาดเครื่องแรกคือการประดิษฐ์ครั้งสุดท้ายที่มนุษย์ต้องการโดยมีเงื่อนไขว่าเครื่องนั้นเชื่องพอที่จะบอกเราว่าจะควบคุมมันอย่างไร ต่อมาในตำราเรียนคุณมีคำถามนี้: 26.7 - IJ ดีอ้างว่าหน่วยสืบราชการลับเป็นคุณสมบัติที่สำคัญที่สุดและการสร้างเครื่องจักรที่ยอดเยี่ยมจะเปลี่ยนทุกอย่าง เสือชีตาห์ที่มีอารมณ์ตอบโต้ว่า "ความเร็วที่แท้จริงนั้นสำคัญกว่าถ้าเราสามารถสร้างเครื่องจักรที่เร็วมากมันจะเปลี่ยนทุกอย่าง" และช้างที่มีสรรพสิ่งอ้างว่า "คุณทั้งคู่ผิดสิ่งที่เราต้องการคือเครื่องอัลตร้าไกล การขัดแย้ง? ดูเหมือนว่าคำถามในตำราเรียนเป็นข้อโต้แย้งโดยนัยต่อ IJ Good ดีอาจรักษาความฉลาดมีค่าเพียงเพราะความแข็งแกร่งของมนุษย์อยู่ในลักษณะที่เรียกว่า "ปัญญา" แต่คุณสมบัติอื่น ๆ อาจมีค่าเท่า ๆ กันแทน (ความเร็วหรือความแข็งแกร่ง) และสรรพสัตว์อาจคาดเดาอย่างดุเดือดเกี่ยวกับลักษณะที่ต้องการของพวกเขาเป็น "ขยาย" โดยบางเครื่องหรืออื่น ๆ สิ่งนี้ทำให้ฉันสงสัยว่าภาวะเอกฐานอาจเกิดขึ้นได้หรือไม่ถ้าเราสร้างเครื่องจักรที่ไม่ได้เพิ่มความฉลาดให้สูงสุด แต่แทนที่จะเพิ่มลักษณะอื่น ๆ (เครื่องจักรที่เพิ่มความแข็งแกร่งอยู่เสมอหรือเป็นเครื่องจักรที่เพิ่มความเร็วเสมอ) เครื่องประเภทนี้สามารถเปลี่ยนได้เหมือนกัน - …

10 philosophy  definitions  singularity  superintelligence 

ตั้งแต่เครื่องปฏิวัติอุตสาหกรรมเครื่องแรกได้รับงานของผู้คนและระบบอัตโนมัติเป็นส่วนหนึ่งของวิวัฒนาการทางสังคมของมนุษย์ในช่วง 3 ศตวรรษที่ผ่านมา แต่ทั้งหมดในเครื่องเหล่านี้ได้เปลี่ยนงานเครื่องกลความเสี่ยงสูงและทักษะต่ำเช่น สายการผลิตของโรงงานผลิตรถยนต์ แต่เมื่อเร็ว ๆ นี้กับการกำเนิดของคอมพิวเตอร์และการปรับปรุง AI และการแสวงหาความเป็นเอกเทศ (นั่นคือคอมพิวเตอร์ที่มีความสามารถในการคิดได้เร็วขึ้นดีขึ้นสร้างสรรค์มากขึ้นและราคาถูกลงจากนั้นเป็นมนุษย์ที่สามารถพัฒนาตนเองได้) อนาคตจะนำไปสู่การเปลี่ยนไม่เพียง แต่คนงานที่มีทักษะต่ำ แต่มีทักษะสูงเช่นกัน ฉันกำลังพูดถึงอนาคตไม่ไกลเมื่อ AI และเครื่องจักรจะเข้ามาแทนที่ศิลปินนักออกแบบวิศวกรนักกฎหมายซีอีโอผู้สร้างภาพยนตร์นักการเมืองแม้แต่นักเขียนโปรแกรม บางคนตื่นเต้นกับสิ่งนี้ แต่จริงๆแล้วฉันค่อนข้างกลัว ฉันไม่ได้พูดถึงปัญหาเงินที่นี่ถึงแม้ว่าฉันไม่ใช่แฟนของความคิดลองสมมติว่ามีการนำรายได้สากลมาใช้และคิดว่ามันใช้ได้ดี ยังไม่ได้พูดถึง " โลกของเทอร์มิเนเตอร์ที่เครื่องจักรจะทำสงครามต่อต้านมนุษย์ " สมมติว่าพวกเขาเป็นมิตรอย่างสมบูรณ์ตลอดไป ปัญหาที่นี่เป็นหนึ่งในแรงจูงใจสำหรับมนุษย์เรา เมื่อความแปลกประหลาดของ AI เข้าครอบงำเราจะทำอะไรได้อีก? ทุกวันตลอดทั้งวัน? เราจะทำอะไรกับชีวิตของเรา สมมติว่าฉันชอบวาดภาพฉันจะใช้ชีวิตในฝันของการเป็นจิตรกรได้อย่างไรหากคอมพิวเตอร์สร้างงานศิลปะที่ดีขึ้นและฉันจะสามารถทำได้ ฉันจะรู้ได้อย่างไรว่าไม่มีใครสนใจภาพวาดของฉันเพราะมันถูกสร้างขึ้นโดยมนุษย์เพียงคนเดียว ? หรือของจริงเช่นฉัน (ฉัน Danzmann) ฉันชอบที่จะเรียนรู้การเขียนโปรแกรมภาษาแรกของฉันกับ 9 ปีและได้รับมันตั้งแต่นั้นมามันดูเศร้าสำหรับฉันที่ในบางปีฉันอาจไม่เคยสัมผัสกับมันอีกครั้ง . และนั่นก็สำหรับทุกอาชีพทุกคนหลงใหลในบางสิ่งบางอย่างและด้วยความแปลกประหลาดพวกเขาทุกคนก็จะต้องหยุดอยู่ ดังนั้นเราจะทำอะไรในอนาคตนี้? ฉันกำลังจะทำอะไร? เล่นกอล์ฟทุกวันทุกวันตลอดชีวิตที่เหลืออยู่ของฉัน (คำพูดที่อวดดี แต่คุณเข้าใจประเด็นของฉัน) นอกจากนี้สิ่งที่จะเป็นแรงจูงใจสำหรับลูก ๆ ของฉัน? …

10 philosophy  agi  social  singularity