ฉันควรใช้ภาษามนุษย์เมื่อพูดถึง AI หรือไม่?

ภาษาอังกฤษไม่เหมาะที่จะพูดคุยเกี่ยวกับปัญญาประดิษฐ์ซึ่งทำให้มนุษย์สื่อสารกันได้ยากเกี่ยวกับสิ่งที่ AI ทำจริง ๆ ดังนั้นจึงอาจเหมาะสมกว่าที่จะใช้คำว่า "เหมือนมนุษย์" เพื่ออธิบายการกระทำของเครื่องจักรแม้ว่าคุณสมบัติภายในของเครื่องจักรจะไม่คล้ายกับคุณสมบัติภายในของมนุษยชาติ

ภาษามานุษยวิทยาถูกนำมาใช้อย่างมากในเทคโนโลยี (ดูคำจำกัดความของพจนานุกรมแฮ็กเกอร์เกี่ยวกับมนุษย์ซึ่งพยายามที่จะแสดงให้เห็นถึงการใช้ข้อตกลง anthromporhic ของผู้เขียนโปรแกรมคอมพิวเตอร์คอมพิวเตอร์เมื่ออธิบายเทคโนโลยี) แต่เมื่อ AI ก้าวหน้าต่อไป การใช้ภาษามนุษย์ในการสื่อสารกับผู้ชมด้านเทคนิคและผู้ชมที่ไม่ใช่ด้านเทคนิค เราจะจัดการกับ AI ได้อย่างไรถ้าเราไม่สามารถอธิบายสิ่งที่เรากำลังทำอยู่ได้?

สมมติว่าฉันต้องการพัฒนาอัลกอริทึมที่แสดงรายการบทความที่เกี่ยวข้อง มีสองวิธีที่ฉันสามารถอธิบายวิธีอัลกอริทึมทำงานกับคนธรรมดา:

1. Very Anthropomorphic - อัลกอริทึมอ่านบทความทั้งหมดบนเว็บไซต์และแสดงบทความที่คล้ายกับบทความที่คุณกำลังดู
2. เทคนิคมาก - อัลกอริทึมแปลงแต่ละบทความเป็น "คำพูดของกระเป๋า" แล้วเปรียบเทียบ "คำพูดของกระเป๋า" ของแต่ละบทความเพื่อพิจารณาว่าบทความใดที่ใช้คำที่พบบ่อยที่สุด บทความที่ใช้คำมากที่สุดในกระเป๋าเป็นสิ่งที่แสดงให้ผู้ใช้เห็น

เห็นได้ชัดว่า # 2 อาจ "ถูกต้องทางเทคนิค" มากกว่า # 1 โดยรายละเอียดการใช้งานของอัลกอริทึมมันทำให้ง่ายขึ้นสำหรับใครบางคนที่จะเข้าใจวิธีการแก้ไขอัลกอริทึมถ้ามันสร้างผลลัพธ์ที่เราไม่เห็นด้วยอย่างมาก

แต่ # 1 สามารถอ่านได้อ่านง่ายสง่างามและเข้าใจง่ายกว่า มันให้ความรู้สึกทั่วไปเกี่ยวกับสิ่งที่อัลกอริทึมกำลังทำอยู่แทนที่จะเป็นวิธีที่อัลกอริธึมทำ ด้วยการสรุปรายละเอียดการนำไปปฏิบัติของวิธีการที่คอมพิวเตอร์ "อ่าน" บทความเราสามารถมุ่งเน้นไปที่การใช้อัลกอริทึมในสถานการณ์จริง

ดังนั้นฉันจึงควรใช้ภาษาของมนุษย์ตามที่เน้นย้ำโดยถ้อยแถลงที่ 1? ถ้าไม่ทำไมล่ะ

PS: ถ้าคำตอบนั้นขึ้นอยู่กับผู้ชมที่ฉันกำลังพูดถึง (ผู้ชมที่ไม่ใช่ด้านเทคนิคอาจชอบ # 1 ในขณะที่ผู้ชมด้านเทคนิคอาจชอบ # 2) จากนั้นแจ้งให้ฉันทราบด้วยเช่นกัน

หากมีความชัดเจนเป็นเป้าหมายของคุณคุณควรพยายามที่จะหลีกเลี่ยงการใช้ภาษามนุษย์ - การทำเช่นนั้นจะทำงานอันตรายแม้แต่ทำให้เข้าใจผิดว่าตัวเองเกี่ยวกับความสามารถของโปรแกรม

นี่เป็นกับดักที่อันตรายในการวิจัย AI โดยมีหลายกรณีที่แม้แต่นักวิจัยที่มีประสบการณ์ได้กำหนดความเข้าใจในระดับที่สูงขึ้นต่อโปรแกรมมากกว่าที่ได้รับจริง

ดักลาส Hofstadter อธิบายถึงปัญหาที่มีความยาวบางส่วนในบทที่มีชื่อว่า"การซึ่งขจัดไม่ได้ Eliza ผลกระทบและอันตรายของมัน"และนอกจากนี้ยังมีกระดาษที่มีชื่อเสียงโดยดึง McDermot ชื่อ"ประดิษฐ์ข่าวกรองตรงกับความโง่เขลาของธรรมชาติ"

ดังนั้นโดยทั่วไปเราควรใช้ความพยายามเป็นพิเศษเพื่อหลีกเลี่ยงมานุษยวิทยาใน AI แต่เมื่อพูดถึงผู้ชมที่ไม่ใช่ทางด้านเทคนิค 'SoundBite คำอธิบายเป็น (ในขณะที่มีระเบียบวินัยที่ซับซ้อนใด ๆ ) ยอมรับมีให้คุณให้ความรู้กับผู้ชมว่าพวกเขาจะได้รับรุ่นง่าย

ปัญหาที่คุณอ้างถึงไม่ได้เป็นเพียงปัญหา AI แต่เป็นปัญหาสำหรับเขตข้อมูลด้านเทคนิคโดยทั่วไป เมื่อมีข้อสงสัยฉันจะแนะนำให้ใช้ภาษาธรรมดาเสมอ

อย่างไรก็ตามมีเหตุผลอื่นที่ชุมชน AI มักจะหลีกเลี่ยงความหมายของ anthropomorphic สำหรับ AI ผู้ทรงคุณวุฒิ AI บางคนมักเตือนเราว่าปัญญาประดิษฐ์ทั่วไปอาจทำในลักษณะที่มนุษย์ต่างดาวท้าทายความคาดหวังของมนุษย์ซึ่งอาจนำไปสู่การเปิดเผยของหุ่นยนต์

อย่างไรก็ตามแนวคิดนี้เกี่ยวกับ AGIs ที่เป็นคนต่างด้าวที่ชั่วร้ายนั้นเกิดจากความเข้าใจผิดที่แพร่หลายในชุมชน AI ที่ทำให้เกิดความคิดที่แตกต่างกันสองประการ:

• ทัวริงทั่วไปเครื่องจักรและ
• โดเมนทั่วไปของมนุษย์

สิ่งที่คนปกติหมายถึงเมื่อพวกเขาพูดทั่วไปเป็นภายหลัง แม้แต่คำจำกัดความอย่างเป็นทางการของ AGI ก็ยังไม่ปรากฏในบริบทที่เกิดขึ้นโดยมนุษย์

... ปฏิบัติงานทางปัญญาใด ๆ ที่มนุษย์สามารถทำได้

แต่ด้วยคำจำกัดความดังกล่าวพฤติกรรมการทำให้เป็นลักษณะทั่วไปไม่ได้ทำให้คนต่างด้าวมากขึ้น เพื่อพูดคุยคือการมานุษยวิทยา ดังที่นิทกล่าว

"ที่คุณเห็นสิ่งที่สมบูรณ์แบบฉันเห็น - มนุษย์อนิจจา! ทุกสิ่งที่มนุษย์เกินไป"

ฉันคิดว่าคำตอบที่ถูกต้องคือง่าย แต่ไม่ช่วยเหลือ "ขึ้นอยู่กับ"

แม้ตอนที่ฉันพูดคุยกับคนเทคนิคอื่น ๆ ฉันก็มักจะใช้ภาษามนุษย์และคำอุปมาอุปมัย โดยเฉพาะอย่างยิ่งในช่วงเริ่มต้นของการสนทนา "คอมพิวเตอร์ต้องคิดออก .. " "เราจะป้องกันไม่ให้คอมพิวเตอร์สับสนได้อย่างไร ... " ฯลฯ แน่นอนว่าเราสามารถระบุได้ว่าในทางที่ถูกต้องทางเทคนิคมากขึ้น "เราจำเป็นต้องปรับเปลี่ยนอัลกอริทึมเพื่อลดจำนวนและความหลากหลายของอินสแตนซ์ของข้อมูลที่ไม่เพียงพอซึ่งส่งผลให้เกิดการตั้งค่าที่ไม่ถูกต้องของ ... " หรือบางอย่าง แต่ในหมู่คนช่างเรารู้ว่าเราหมายถึงอะไรและมันง่ายกว่าที่จะใช้ภาษาเชิงเปรียบเทียบ

เมื่อพยายามที่จะแก้ปัญหาคอมพิวเตอร์ทางเทคนิคฉันมักจะเริ่มต้นด้วยแนวคิดมานุษยวิทยาที่คลุมเครือ "เราควรเขียนรายการคำทั้งหมดในข้อความและกำหนดน้ำหนักแต่ละคำโดยพิจารณาจากความถี่ที่เกิดขึ้นโอ้ แต่เราควรเพิกเฉยคำทั่วไปสั้น ๆ เช่น 'the' และ 'มัน' จากนั้นลองเลือกคำบางคำ จำนวนคำอาจเป็นสิบหรือมากกว่านั้นที่มีน้ำหนักมากที่สุด ... "ทั้งหมดนี้เป็นวิธีที่ไกลจากวิธีที่คอมพิวเตอร์จัดการกับข้อมูลจริง ๆ แต่บ่อยครั้งมากที่จะคิดถึงเรื่องนี้ในแง่ของ "มนุษย์" ก่อนแล้วจึงหาวิธีทำให้คอมพิวเตอร์ทำ

เมื่อพูดคุยกับผู้ชมที่ไม่ใช่ด้านเทคนิคฉันคิดว่าปัญหาคือภาษามนุษย์ทำให้เข้าใจง่ายขึ้น แต่ก็มักจะให้ความรู้สึกว่าคอมพิวเตอร์เป็นเหมือนมนุษย์มากกว่าที่เป็นจริง คุณต้องดูหนังนิยายวิทยาศาสตร์เพื่อดูว่าคนจำนวนมากคิดว่าคอมพิวเตอร์หรือหุ่นยนต์คิดเหมือนคน ๆ หนึ่งยกเว้นว่ามันแม่นยำและไม่มีอารมณ์