ตัวกรองหยาบคายสำหรับการแชทแบบ MMO

เรากำลังพัฒนา MMO โดยใช้เซิร์ฟเวอร์ Smartfox กลุ่มเป้าหมายคือเด็กอายุตั้งแต่ 7 -12 ปี

มีตัวเลือกการแชททั่วโลกใน MMO นี้
ไม่ว่าผู้ใช้ประเภทใดในกล่องข้อความจะปรากฏขึ้นถัดจากผู้ใช้ประจำตัวหลังจากที่เขาเข้าสู่

เราต้องการกรองภาษา / คำหยาบจากการแชทนี้
เราสามารถจับภาพการสนทนาและอ่านข้อความ ปัญหาคือการรับรายการของคำหยาบ

คำถามของเราคือ

1. ใครจะได้รายชื่อที่หยาบคายของคำหยาบคายทั้งหมด?
2. วิธีใดที่ถูกนำไปใช้ในสถานการณ์ที่คล้ายกันเพื่อกรองสิ่งเหล่านี้

อย่า

ตัวกรองไม่ทำงาน อย่างน้อยตัวกรองเท่านั้นจะไม่ทำงาน บัญชีขาวบัญชีดำมันไม่สำคัญ สิ่งเหล่านี้จะไม่ป้องกันเด็ก ๆ จากการล่วงละเมิดซึ่งกันและกัน วิธีเดียวที่จะทำให้งานนี้คือการไม่กรองการแชท แต่เพื่อจัดเตรียมแบบเอกสารสำเร็จรูปขนาดใหญ่สำหรับประโยค ตัวอย่างเช่นเด็กอาจเลือก "คุณต้องการ ... " และตัวเลือกสำหรับ "ไปที่ ... " และ "แลกเปลี่ยน ... " จะถูกดึงขึ้น การเลือก "ไปที่ ... " จะแสดงรายการสถานที่ในเกม

ดิสนีย์ตั้งรกรากกับวิธีการนี้สำหรับ Toontown MMO ของพวกเขาหลังจากผู้ทดสอบที่ได้รับการอนุญาตพิเศษอายุ 14 ปีตัดสินใจที่จะติดยีราฟที่มีคอยาว พูดง่ายๆคือคุณไม่สามารถขึ้นบัญชีดำหรือขึ้นบัญชีขาวได้เพียงพอที่จะป้องกันการละเมิด

ทุกอย่างถูกกล่าวว่าถ้าฉันออกแบบ MMO ของเด็กฉันจะใช้ตัวกรองบัญชีดำที่เข้มงวด แต่เป็นแนวป้องกันที่สองเท่านั้น แนวป้องกันแรกของคุณควรเป็นผู้ดูแลและความสามารถในการรายงานการละเมิด ฉันจะเพิ่มน้ำหนักคำที่ไม่อนุญาตโดยผู้ใช้แต่ละคนจะได้รับคะแนนลับว่าพวกเขาพยายามดูหมิ่นอย่างไร

โอกาสที่ผู้ใช้จะพยายามหลีกเลี่ยงตัวกรองของคุณจะทริกเกอร์มันก่อน สะใจที่เห็นได้ชัดมากขึ้น (เมื่อเทียบกับปิดบังหรือคนเก่า) หรือซ้ำหลายครั้งมากขึ้นพยายามหยาบคายใส่ไว้ในรายการเฝ้าดูสำหรับผู้ดูแลหรือการจัดเรียงของบางรายการห้าม ด้วยวิธีนี้ผู้ดูแลสามารถมุ่งเน้นไปที่ผู้ใช้ที่ดูเหมือนจะพยายามก่อกวนผู้อื่นแทนที่จะเสียเวลาไปกับการอ่านความคิดเห็นของเด็กผู้ไร้เดียงสา

ในการตอบสนองต่อผู้คนที่บอกว่าไม่ได้ให้ตัวกรองฉันจะยืนยันว่าคุณต้องให้ตัวกรองโดยไม่มีเหตุผลอื่นใดนอกจากครอบคลุมก้นของคุณเองด้วยความเคารพต่อผู้ปกครองของผู้ชมเป้าหมายของคุณ เพียงตรวจสอบให้แน่ใจว่าผู้ใช้สามารถปิดใช้งานได้ ด้วยการใช้ตัวกรองหยาบคาย (แม้ว่าจะเป็นตัวกรองที่ไม่สมบูรณ์และเป็นทางเลือกโดยสิ้นเชิง) คุณสามารถพูดได้ว่าคุณได้ทำทุกอย่างที่คุณคาดหวังไว้เพื่อปกป้องความรู้สึกอ่อนไหวของผู้ชมที่อายุน้อยกว่า

ด้วยการทำให้ปิดการใช้งานคุณจะไม่สนับสนุนให้ผู้ใช้พยายามหลีกเลี่ยงการใช้เครื่องหมายวรรคตอนหรือการทดแทนที่ฉลาดเนื่องจากผู้ที่ชื่นชอบภาษาแบบนั้นจะปิดการใช้งานตัวกรองในคอมพิวเตอร์ของตัวเองทันทีและจะลืมไปนานว่า .

ด้วยความเข้าใจนั้นไม่ต้องกังวลกับการใช้งานมากนัก ไม่จำเป็นต้องเข้าใจผิดได้ (ซึ่งดีเพราะไม่สามารถเข้าใจผิดได้) แต่ควรจะค่อนข้างสมบูรณ์และไม่น่ารำคาญเท่าที่จะทำได้ นั่นคือคุณไม่ต้องการให้แน่ใจว่าคุณไม่ได้ทำ " ผิดพลาดclbuttic "

การใช้งานนั้นง่ายมาก - รับรายการคำและแทนที่คำใด ๆ ที่พบในรายการด้วยเครื่องหมายดอกจันหรือบางอย่างที่คล้ายกัน ดีที่สุดในการค้นหาคำทั้งหมดเท่านั้นเช่นกัน

สำหรับรายการคำนั้นเป็นเรื่องง่าย: http://www.google.co.th/search?q=profanity+word+list

โปรดจำไว้ว่ามันไม่จำเป็นต้องรวมทุกอย่างเพียงแค่ต้องเป็นตัวแทนของความพยายามที่กล้าหาญในส่วนของคุณเพื่อปกป้องเด็ก

ฉันจะพยายามใช้วิธีแก้ปัญหาสำหรับบัญชีดำและบัญชีขาวที่คุณสามารถเพิ่ม 'หี' ลงในบัญชีดำและ 'scunthorpe' ลงในรายการที่อนุญาต

ผมไม่เชื่อว่าคุณสามารถที่เคยดำเนินการแก้ปัญหา failsafe ดังนั้นฉันพยายามที่จะได้รับประโยชน์สูงสุดคำว่า "ยอดนิยม" ในพจนานุกรมของคุณและทำให้มันเป็นเรื่องง่ายที่จะเป็นไปได้ที่จะเพิ่มคำใหม่รายการ

สาเหตุของเรื่องนี้คือภาษาโดยเฉพาะภาษาอังกฤษมีวิวัฒนาการอย่างต่อเนื่องและบางสิ่งที่ไม่เหมาะสมมานานหลายทศวรรษอาจกลายเป็นความไม่พอใจในบริบทที่เหมาะสม

พยายามให้ได้คำที่เป็นไปได้มากที่สุดและไปจากที่นั่นมีเวลาตอบสนองอย่างรวดเร็วเมื่อผู้คนบ่นและแสดงว่านี่เป็นข้อกังวลโดยทั่วไปและฉันสงสัยว่าคุณจะมีปัญหาใด ๆ

มันเป็นความคิดที่ดีที่จะรู้ว่าสิ่งที่เป็นแนวทางในการเซ็นเซอร์ในสหรัฐอเมริกา: MBNL! (ฉันไม่ใช่ทนายความ!)

ดังที่ฉันได้แสดงความคิดเห็นการกรองคำที่ไม่เหมาะสมทั้งหมดนั้นยากมาก - แต่คุณสามารถหันกลับมาและใช้รายการที่อนุญาตของคำที่อนุญาต ทำการค้นหาด้วย google ดูเหมือนว่าเกมของเด็ก ๆ จะค่อนข้าง จำกัด สิ่งที่พวกเขาสามารถพิมพ์ลงในรายการได้ ตัวอย่างเช่นLego Universeใช้รายการที่อนุญาต

ยังเห็น: อนุญาตรายการสำหรับการเล่นเกมแชท และโปรดทราบว่าบัญชีขาวสามารถถูกหลีกเลี่ยงได้ ไม่มีวิธีแก้ปัญหาที่รับประกันได้

พิจารณาว่าจะเป็นสำหรับเด็กเล็กและการสะกดคำผิดพลาดอาจเป็นปัญหา - ขึ้นอยู่กับอินเตอร์เฟซที่ลูกค้าคุณอาจพิจารณาคำอัตโนมัติเสร็จ ในขณะที่ผู้เล่นเริ่มพิมพ์ตัวอักษรเสนอรายการคำที่เป็นไปได้และให้พวกเขาเลือกคำที่ถูกต้อง

มีคำตอบจากโปรแกรมเมอร์อธิบายระบบเดียวสำหรับการสร้างตัวกรองคำหยาบ เขาไม่ได้อธิบายว่าเขาสร้างมันในรายละเอียดได้ดีเพียงใด แต่ควรจะเพียงพอที่จะรับแนวคิดในการนำไปใช้

นี่เป็นปัญหาที่แก้ไขได้ดีที่สุดโดยมนุษย์และการออกแบบทางสังคมมากกว่าเป็นรหัส

แหล่งข้อมูลที่ดีที่สุดของคุณสำหรับรายการที่ครบถ้วนสมบูรณ์เป็นมนุษย์สดที่มีอยู่ในเกมและตรวจสอบสตรีมแชท ให้ผู้คนในเกมของคุณและปล่อยให้พวกเขาเป็นสุดยอดตัวกรองของคุณ

ใช้เวลาสำรวจความคิดและปรัชญาของ Lane Merrifield ที่อยู่เบื้องหลัง Club Penguin และการให้บริการ ที่นี่มีงานเขียนสองรายการจากงานนำเสนอของเขาที่ Austin GDC ในปี 2008 ฉันเห็นและจำได้ว่าประทับใจในสไตล์ของเขาในการแก้ปัญหามนุษย์กับมนุษย์ไม่ใช่รหัส

http://gamasutra.com/php-bin/news_index.php?story=20234

http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/

โดยเฉพาะเนื่องจากเกมของคุณมุ่งเป้าไปที่เด็ก ๆ มันเป็นมากกว่าแค่การสาบานตัวกรองที่คุณต้องคิด คุณจะต้องกังวลเกี่ยวกับคนที่โพสท่าว่าเป็นเด็กที่อาจมีหรือไม่มีแรงจูงใจที่ไม่ดี คุณจะต้องรับรองกับผู้ปกครองว่าลูก ๆ ของพวกเขาปลอดภัย คุณจะต้องรับรองว่าเด็ก ๆ จะปลอดภัยสำหรับเรื่องนั้นด้วย

ข้อดีอีกอย่างสำหรับมนุษย์ก็คือพวกเขาจะเข้าใจบริบท คุณไม่ต้องการให้เด็กพูดว่า "แม่ของฉันเป็นมะเร็งเต้านม" และถูกเตะ

วิธีแก้ไขปัญหาอย่างง่าย ๆ :

1. ลบช่องว่างและเครื่องหมายวรรคตอนทั้งหมดออกจากอินพุตของคุณ
2. ทุกอย่าง Blacklist ในเมืองพจนานุกรม
3. บัญชีดำโฮโมโฟนทั้งหมด ฯลฯ
4. บัญชีดำทุกสิ่งที่สามารถใช้เป็น euphamism
5. เขียนซอฟต์แวร์ของคุณเพื่อทำความเข้าใจกับเนื้อหาความตั้งใจและโทนของสิ่งที่เหลืออยู่
6. ทิ้งเกมและออกสู่ตลาดด้วยการสร้างอารมณ์และรอบรู้จากขั้นตอนที่ 5

MMO สำหรับเด็กบางคนเพียงแค่แทนที่การแชทด้วยรายการ emotes และวลีที่กำหนดไว้ล่วงหน้าและไม่อนุญาตให้แชทแบบฟรีฟอร์ม บางทีเกมอาจถูกออกแบบมาเพื่อรองรับ