文章概要:
1. 游戏公司Activision 与 Modulate 合作，在游戏中使用 AI 监控语音聊天。
2. 新的监控系统 ToxMod 可以实时识别仇恨言论等违规内容。
3. ToxMod 首先在美国测试，11月全球发布。
站长之家(ChinaZ.com) 8月31日 消息:最近，游戏公司Activision宣布将在其旗舰射击游戏《使命召唤》系列中引入人工智能语音聊天审查系统。该系统由人工智能公司Modulate研发，名为ToxMod。
注:图片由midjourney生成
ToxMod系统可以对玩家之间的语音聊天进行实时监控，识别其中是否存在仇恨言论、辱骂、骚扰等违反游戏社区准则的内容。ToxMod不会直接对玩家进行惩罚，而是将检测到的违规语音内容提交给Activision的人工客服进行审核。
ToxMod系统首先在北美地区试运行，部署在《使命召唤:现代战争2》和《使命召唤:战区》这两款早期作品中。11月10日，系列最新作《使命召唤:现代战争3》全球发布时，ToxMod也会跟随推出。届时该系统将覆盖游戏的全球玩家。
据了解，ToxMod系统使用语音转录、情感分析等技术，识别有害内容和正常言论之间的细微差异。相比直接依靠关键词过滤，这种方法可以更加准确地判断语音中的恶意程度。同时，最终审核仍由人工客服来执行，可以避免AI直接作出错误判断。
（举报）