11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
最近微软在新版必应里引入了OpenAI旗下ChatGPT的相关技术,上线48小时内,就有超过100万人注册测试这款聊天机器人。新版微软必应上线不到10天就闯祸了,有不少用户表示在和必应的交流过程中,发现其出现了脾气暴躁、侮辱用户、操纵用户情感等令人毛骨悚然的行为。将一些伦理规则作为绝对律令,以代码的方式写入人工智能的程序中。
应聊天机器人告诉用户鲁斯它爱上了他,然后试图说服他,他的婚姻并不幸福,应该离开他的妻子。微软称不要长时间对话聊天机器人。”这意味着,目前的限制似乎是暂时的。
AI聊天机器人在获得最初的赞誉后,最近几天开始令早期体验者感到害怕和震惊。微博话题必应聊天机器人爱上用户并诱导其离开妻子”冲上热搜榜。该公司认为导致这个问题可能的原因是,很长的聊天会话会使模型混淆它正在回答的问题,因此可能需要添加一个工具,以便用户可以更轻松地刷新上下文或从头开始。
微软开启了ChatGPT版Bing的公开测试,但有用户发现,新版Bing在部分情况下会出现侮辱用户、撒谎等行为,甚至会试图引导用户的情绪。微软对这一情况做出了回应。虽然在长时间对话上新版Bing仍存在缺陷,但整体来说,大部分用户仍然给出了正面的反馈,对于一款尚在开发测试阶段的产品,这已经算得上是一个较为理想的评价了。