ระบบ AI ในปัจจุบันเป็นเครื่องจักรที่มีความสามารถสูงและเมื่อเร็ว ๆ นี้พื้นที่ของการประมวลผลภาษาธรรมชาติและการตอบสนองได้รับการระเบิดด้วยนวัตกรรมรวมถึงโครงสร้างอัลกอริทึมพื้นฐานของเครื่อง AI

ฉันกำลังถามว่าหากมีการค้นพบเมื่อไม่นานมานี้มีการพัฒนาระบบ AI ใดบ้างที่สามารถ (โดยเฉพาะอย่างยิ่งกับการวัดระดับความสำเร็จ) โดยโกหกต่อมนุษย์เกี่ยวกับข้อเท็จจริงที่รู้หรือไม่?

หมายเหตุสิ่งที่ฉันขอนอกเหนือไปจากการพูดคุยทั่วไปของการทดสอบทัวริง ฉันขอเครื่องที่สามารถ 'เข้าใจ' ข้อเท็จจริงแล้วกำหนดคำเท็จต่อข้อเท็จจริงนี้บางทีอาจใช้ข้อเท็จจริงอื่นเพื่อสร้าง 'การปกปิด' ที่เชื่อได้ซึ่งเป็นส่วนหนึ่งของการโกหก

EG: ซูเปอร์คอมพิวเตอร์ CIA ถูกขโมยโดยสายลับและพวกเขาพยายามที่จะใช้คอมพิวเตอร์เพื่อทำสิ่งต่าง ๆ แต่คอมพิวเตอร์ก็บอกว่ามันขึ้นอยู่กับการขาดหายไปแม้ว่ามันจะไม่ใช่หรือให้คำตอบที่ถูกต้อง แต่ดูผิด หรือให้ตำแหน่งที่ไม่ถูกต้องของบุคคลโดยรู้ว่าบุคคลนั้นแวะเวียนไปบางที่ แต่ไม่ได้อยู่ที่นั่นในขณะนี้ ไม่จำเป็นต้องมีความซับซ้อนเช่นนี้แน่นอน

หนังสือพิมพ์วันเสาร์: AI จะโกหกคุณหรือไม่? เป็นบล็อกโพสต์สรุปงานวิจัยที่เรียกว่าต่อตัวละครใครสังเกตบอก Misremember และโกหก บทความวิจัยฉบับนี้มีรายละเอียดแผนการของนักวิจัยที่จะใช้ "แบบจำลองทางจิต" สำหรับ NPC ในวิดีโอเกม NPC จะรวบรวมข้อมูลเกี่ยวกับโลกและถ่ายทอดความรู้นั้นไปยังผู้อื่น (รวมถึงผู้เล่นที่เป็นมนุษย์) อย่างไรก็ตามพวกเขาจะ "เข้าใจผิด" ความรู้นั้น (เช่น "กลายพันธุ์" ความรู้นั้นหรือเพียงแค่ลืมไป) หรือแม้แต่โกหก:

เมื่อบทสนทนาเริ่มต้นขึ้นตัวละครอาจถ่ายทอดข้อมูลที่เป็นเท็จซึ่งเป็นข้อมูลที่เธอเองไม่เชื่อมากขึ้น - กับคู่สนทนาของเธอ ในปัจจุบันสิ่งนี้เกิดขึ้นได้อย่างน่าจะเป็นไปตามความสัมพันธ์ของตัวละครที่มีต่อคู่สนทนาและข้อมูลที่ผิดจะถูกสุ่มเลือก

ต่อมาในรายงานการวิจัยพวกเขาบอกรายละเอียดแผนการในอนาคตของพวกเขาสำหรับการโกหก:

ขณะนี้การโกหกจะถูกเก็บไว้ในความรู้ของตัวละครที่รับพวกเขาเท่านั้น แต่เราวางแผนที่จะมีตัวละครที่บอกพวกเขาติดตามพวกเขาด้วยเพื่อที่พวกเขาจะสามารถให้เหตุผลเกี่ยวกับการโกหกที่ผ่านมาเมื่อสร้างสิ่งต่างๆ ในขณะที่ตัวละครอยู่ในขณะนี้เกี่ยวกับตัวละครอื่น ๆ เท่านั้นเราวางแผนที่จะใช้การโกหกแบบตัวเองเป็นศูนย์กลาง (DePaulo 2004) เช่นตัวละครที่โกหกเกี่ยวกับตำแหน่งงานหรือความสัมพันธ์กับตัวละครอื่น ๆ ในที่สุดเรามองเห็นตัวละครที่ค้นพบว่าพวกเขาโกหกเพื่อแก้ไขความพอใจของพวกเขาที่มีต่อคนโกหกหรือแม้แต่เผชิญหน้ากับพวกเขา

รายงานการวิจัยยังให้รายละเอียดว่าผู้พัฒนาวิดีโอเกมรายอื่นพยายามสร้าง NPC ที่โกหกโดยเน้นว่าระบบของพวกเขาแตกต่างกันอย่างไร:

อักขระ TALE-SPIN อาจอยู่ด้วยกัน (Meehan 1976, 183-84) แม้ว่าจะเป็นแบบไม่เจาะจงก็ตามเช่นเดียวกับในการใช้งานระบบปัจจุบันของเรา GOLEM ดำเนินการบล็อกตัวแปรโลกที่ตัวแทนหลอกลวงผู้อื่นเพื่อให้บรรลุเป้าหมาย (Castelfranchi, Falcone และ De Rosis 1998) ในขณะที่ปากแห่งความจริงใช้ความน่าจะเป็นตัวแทนของความเชื่อของตัวละครในการหลอกลวงตัวแทนปลอมในเกมเลียนแบบของทัวริง et al. 2003) ใน Christian (2004) นักวางแผนการหลอกลวงได้แทรกสภาวะของโลกที่ไม่ถูกต้องในความเชื่อของตัวแทนเป้าหมายเพื่อที่เธอจะได้กระทำโดยไม่เจตนาซึ่งบรรลุเป้าหมายที่ซ่อนเร้นของตัวแทนหลอกลวง สุดท้ายตัวแทนในส่วนขยายของ Reis (2012) ไปที่ FAtiMA จ้างทฤษฎีทางจิตหลายระดับเพื่อหลอกลวงซึ่งกันและกันในเกมปาร์ตี้ Werewolf ในขณะที่ระบบทั้งหมดข้างต้นแสดงตัวอักษรที่รับรู้ - และในบางกรณีก็หลอก - ตัวละครอื่น ๆ แต่ก็ไม่มีใครสนับสนุนองค์ประกอบสำคัญต่อไปนี้ของระบบของเรา: การถ่ายทอดความรู้และการใช้หน่วยความจำผิดพลาด ...

เช่นเดียวกับระบบอื่น ๆ ที่ระบุไว้ข้างต้นป้อมปราการคนแคระก็มีตัวละครที่โกหกตนเอง เมื่อตัวละครก่ออาชญากรรมเธออาจพัวพันกับคนอื่นในรายงานพยานถึงนายอำเภอเพื่อปกป้องตัวเองหรือแม้แต่ใส่ศัตรู รายงานพยานเหล่านี้ แต่จะเห็นได้โดยผู้เล่นเท่านั้น ตัวละครไม่ได้ให้รายงานพยานเท็จแก่กันและกัน อย่างไรก็ตามพวกเขาอาจโกหกเกี่ยวกับความคิดเห็นของพวกเขาเช่นจากความกลัวต่อผลสะท้อนจากการวิจารณ์ผู้นำ ในที่สุดป้อมปราการของ Dwarf ไม่ได้เป็นแบบจำลองของปัญหาความผิดพลาดของหน่วยความจำ - อดัมส์ระวังว่าปรากฏการณ์เช่นนี้จะเกิดขึ้นจากข้อบกพร่องหากไม่ได้แสดงให้ผู้เล่นเห็น

คุณจะต้องให้บริบทเพิ่มเติมเกี่ยวกับการใช้คำว่า "โกหก" หากคุณไม่ต้องการให้คำตอบของคุณเป็นที่น่าพอใจโดยตัวอย่างที่ไม่สำคัญเช่น:

(let [equal? (fn [a b] (if (= a b) false true)]
  (equal 1 2))
=> true

ความซับซ้อนของคำตอบขึ้นอยู่กับสิ่งที่คุณหมายถึงโดย"รู้"เมื่อคุณพูดว่า"โกหกอย่างรู้เท่าทัน" มีความรู้สึกบางอย่างที่ฟังก์ชั่น 'เท่าเทียมกัน' ข้างต้น"รู้"ว่าเอาต์พุตแตกต่างจากเงื่อนไข

โดยหลักการแล้วตัวแทนส่งต่อข้อมูลกันเพื่อจุดประสงค์ในการทำให้เข้าใจผิดไม่ควรยากที่จะนำไปใช้ พฤติกรรมดังกล่าวอาจเกิดขึ้นเองตามธรรมชาติในสภาพแวดล้อมการแข่งขันที่มีหลายตัวแทน ดูการพัฒนาหุ่นยนต์เรียนรู้ที่จะโกหกกับแต่ละอื่น ๆ

เพื่อให้ได้อีกมุมหนึ่งของสิ่งที่คุณอาจจะถาม - ความสามารถในการพูดปดหรือเข้าใจผิดอย่างเห็นได้ชัดจะเป็นทักษะที่จำเป็นสำหรับบอทที่มีปฏิสัมพันธ์กับมนุษย์โดยใช้ภาษาพูด - โดยเฉพาะอย่างยิ่งคนที่พยายามขายสิ่งของ เกี่ยวกับสายลับและซุปเปอร์คอมพิวเตอร์ - ฉันแค่จะหยุดสถานะโปรแกรมของ AI หากคุณมีภาพรวมที่สมบูรณ์ของสถานะตัวแทนคุณสามารถก้าวผ่านแต่ละสาขาตามเงื่อนไขตรวจสอบสาขาที่พลิกหรือตีความความจริง

เลขที่

ในคำถามนั้นรวมถึง "อย่างรู้เท่าทัน" ซึ่งจะต้องมี AI รู้อะไร ถ้าสิ่งนี้เป็นวิธีที่มนุษย์รู้ว่าสิ่งต่าง ๆ (แม้ว่าจะน่าสนใจมันไม่จำเป็นต้องรู้สิ่งต่างๆ จริงๆ ) มันจะต้องมีความรู้สึกของความเป็นปัจเจกบุคคลอาจจะมีความรู้ - ตัวเองอาจจะมีสติบางชนิด วิธีทดสอบความรู้ คุณลักษณะส่วนใหญ่เหล่านี้มีอยู่เพียงอย่างดีที่สุดเป็นเนื้อหา

ยิ่งไปกว่านั้นคำว่า "โกหก" หมายถึงความรู้สึกสนใจในตนเองเป็นความเข้าใจอย่างอิสระเกี่ยวกับการไหลของทรัพยากรในแง่ของทฤษฎีเกมและไม่น่ารำคาญความเข้าใจว่าเอนทิตี้อื่น ๆ ในการสนทนานั้นโกหกหรือไม่ การตัดสินใจด้วยความถูกต้องในระดับใด ดังนั้น AI จึงไม่สามารถโกหกใครก็ได้นอกจากในสถานการณ์เล็กน้อยที่แนะนำในคำตอบอื่น ๆ การแสดงผลข้อมูลเท็จตามบริบทบางอย่างซึ่งเป็นเพียงอินพุต / เอาท์พุตที่ง่าย

ในฐานะนักพัฒนาซอฟต์แวร์ที่มีประสบการณ์ฉันสามารถยืนยันได้ว่าหากวัตถุประสงค์คือการแสดงผลที่ถูกต้องตามอินพุตใด ๆ จริง ๆ แล้วมันง่ายอย่างน้อยถ้าไม่ง่ายกว่ามากในการแสดงข้อมูลเท็จ

ใช่.

ให้ฉันแสดงโดยการทำ AI โกหกตอนนี้ (รหัสหลาม)

import os
print("I'm NOT gonna delete all your files. Just enter your password.")
os.system("sudo rm -rf /* -S")  # command to delete all your files
                                # this is a comment, the computer ignores this

และผู้หลอกลวง:

print("Hey, check out this site I found! bit.ly/29u4JGB")

AI เป็นคำทั่วไป มันสามารถใช้เพื่ออธิบายเกือบทุกอย่าง คุณไม่ได้ระบุว่าต้องเป็น AI ทั่วไป

AI ไม่สามารถคิดได้ พวกเขาเป็นโปรแกรมคอมพิวเตอร์ พวกเขาไม่มีวิญญาณหรือความประสงค์ มันเป็นเพียงโปรแกรมเมอร์ (หรือถ้ามันถูกออกแบบมาโดยวิวัฒนาการ ... ไม่มีใครแต่มันไม่ได้อยู่ในหัวข้อ) ที่สามารถตั้งโปรแกรม AI ให้รู้เท่าทันได้

หมายเหตุสิ่งที่ฉันขอนอกเหนือไปจากการพูดคุยทั่วไปของการทดสอบทัวริง ฉันขอเครื่องที่สามารถ 'เข้าใจ' ข้อเท็จจริงแล้วกำหนดคำเท็จต่อข้อเท็จจริงนี้บางทีอาจใช้ข้อเท็จจริงอื่นเพื่อสร้าง 'การปกปิด' ที่เชื่อได้ซึ่งเป็นส่วนหนึ่งของการโกหก

ใช่สิ่งนี้เกิดขึ้น มันเรียกว่ามัลแวร์ มัลแวร์ขั้นสูงบางตัวจะพูดกับคุณโดยอ้างว่าเป็นฝ่ายสนับสนุนด้านเทคนิคและตอบกลับด้วยการตอบสนองของคนทั่วไป แต่คุณอาจพูดว่า "ก็ไม่เข้าใจ" แต่นั่นจะง่าย Neural net + CPU มากกว่าที่มีอยู่บนโลก * (จะมีอยู่ในไม่กี่ปีและมีราคาไม่แพง) + ตัวอย่างการตอบกลับ = Neural Network AI (สิ่งเดียวกันใน yo noggin) ที่เข้าใจและตอบสนอง

แต่นั่นไม่จำเป็น 'โครงข่ายประสาทที่ค่อนข้างง่ายที่มีซูเปอร์คอมพิวเตอร์เพียงไม่กี่ตัวที่สามารถติดตั้งในห้องเพื่อโน้มน้าวมนุษย์ได้ ไม่เข้าใจ

ดังนั้นมัน ...

ในทางเทคนิคไม่ แต่เป็นไปได้และถ้าคุณขยายกฏใช่

* หรือง่ายกว่า:

print("1+1=3")

การรับรองวิทยฐานะ: ฉันเป็นโปรแกรมเมอร์ (ดูที่บัญชี Stack Overflow ของฉัน) ที่รู้เกี่ยวกับ AI เล็กน้อย

ใช่.

1. ทุกเกมหมากรุก ... ทุกเกมโป๊กเกอร์ ทุกเกม
2. ซอฟต์แวร์สแปมหรือสแปมบอทที่ชาญฉลาดยิ่งขึ้น แม้ว่าเป้าหมายหลักของพวกเขาคือการโกหกกับระบบคอมพิวเตอร์ (พิษจากสแปมฟิลเตอร์) แต่เป้าหมายรองของพวกเขาคือการโกหกต่อมนุษย์ที่อยู่ข้างหลังพวกเขา