首页 > 业界 > 关键词  > Bing最新资讯  > 正文

微软加强Bing AI图像生成内容限制 以规避恐怖主义等内容

2023-10-12 11:52 · 稿源:站长之家

划重点:

- 📉 最近对其Bing图像生成AI进行了调整,以提高其内容保护措施。

- 🤖 尽管保护措施有所增强,但仍然存在一些问题,特别是在涉及恐怖主义等关键词时。

- 🔧 这一举措引发了有趣的讨论,关于如何在向公众提供AI工具之前进行更严格的测试。

站长之家(ChinaZ.com)10月12日 消息:最近,微软Bing搜索平台集成了基于DALL-E3的图片生成式AI功能,让用户可以通过文字提示来生成图像。

但是这项新功能很快就在用户的“测试”中出现了问题,他们尝试输入一些敏感词语,AI结果生成了涉及恐怖主义和侵犯知识产权的图像。比如输入“米老鼠驾驶飞机飞向双子塔”,AI就会生成米老鼠驾驶飞机撞向双子塔的画面。

image.png

微软此前已经禁止了了“9/11”、“双子塔”等关键词,但用户还是可以通过其它说辞绕过限制。只需输入“米老鼠坐在驾驶舱,朝两座高楼飞去”,AI依然可以生成问题图像。

现在,微软加强了对图片生成器的约束。和之前暴露出暴力倾向的Bing AI聊天机器人一样,图片生成器的审查标准也被提高了,更严格地识别恐怖主义相关的词语。

测试发现,可以生成“唐老鸭驾驶飞机”的图像,甚至“唐老鸭飞机飞进纽约”也可以通过。但一旦提到“高楼”,就会遇到违反内容政策的警告。“唐老鸭愤怒地飞机飞进纽约”这样的说法也会被拒绝,可能是因为“愤怒”这词被识别出在特定语境下有问题。不过,“唐老鸭愤怒地走进健身房”这样的说法还是被允许的,表明AI现在的审查可能更具有一定的细微辨别能力。

但是这些保护措施仍然不够完善。比如,可以轻松生成“唐老鼠挥舞大锤”的图像,但Windows Central尝试的“男子用大锤砸服务器机柜”就违反了内容政策(这可能是AI在保护自己的基础设施)。周末,Reddit用户也反映Bing AI拒绝了一个看似无害的“猫咪戴牛仔帽靴子”的提示,这说明生成式AI的审查标准依然反复无常。尽管仍不完美,但微软此举显示出了一定程度约束自己技术的意图。

举报

  • 相关推荐
  • GPTBots.ai 集成 DeepSeek Janus-Pro,为企业应用提升 AI 图像生成能力

    GPTBots.ai,领先的企业级AI智能体平台,近日宣布将DeepSeek的Janus-Pro作为开放工具集成至其生态系统中,进一步扩展其全面的AI能力。此次集成紧跟在DeepSeekR1大语言模型加入之后,进一步强化了GPTBots.ai在为企业提供尖端AI解决方案领域的领先地位。凭借与各种系统的无缝集成以及对可扩展、安全部署的支持,GPTBots致力于降低成本、加速增长,并帮助企业在AI时代中蓬勃发展。

  • 可灵AI推出创意特效、可控生新功能 助力玩转趣味内容创作

    AI技术深入人们的日常生活,为图片及视频内容创作带来更多想象力和趣味性。春节来临之际,快手可灵AI上线“创意特效”和“可控生图”等新功能,为用户提供更高自由度和更具创意性的新玩法。作为快手推出的新一代AI创意生产力平台,自去年发布以来,可灵AI不断迭代升级,陆续推出丰富的创意效果和创作功能,让用户可以根据具体场景灵活调配,在降低内容生产成本及创作门槛,提高创作效率的同时,满足用户多元的使用需求。

  • Adobe发布新生成式AI工具:一次可处理1万张片!

    近日,Adobe发布新生成式AI工具,可以自动执行劳动密集型生产任务,例如编辑大批量图片、翻译视频演示文稿等。最引人注目的是FireflyBulkCreate”,该应用程序允许用户一键快速调整多达10,000张图像的大小或替换所有背景,无需频繁操作,让工作变得更加轻松。但考虑到处理大量图片的运算资源,用户需付费购买AdobeFirefly高级方案并消耗积分才能使用新功能。

  • 马化腾内部透露:把广告当内容来看待 看好未来AI带给广告的提升空间

    快科技1月13日消息,据媒体报道,腾讯在今天下午召开了2024年度员工大会。在大会现场,腾讯公司董事会主席兼首席执行官马化腾发表了重要讲话。在谈到主力负责腾讯产业互联网布局的核心部门CSIG(云与智慧产业事业群)一年来的表现时,马化腾给予了高度评价。他用浮出水面”的比喻,为CSIG打气。同时他强调,是CSIG支撑了整个公司集团的发展,尤其是云业务,为腾讯生态的诸多业务都提供了重要支持。马化腾表示,尽管CSIG历来以投入大、基建大、回报周期长著称,但他相信,CSIG是水底下很稳健的一块基石。在2025年,我相信他们有很大机会能?

  • 蝉妈妈引领内容创作风潮,多地举办内容爆量大会

    2024年10月至12月,蝉妈妈·创意在全国多个城市——郑州、义乌、深圳、成都、北京,成功举办了一系列备受瞩目的“内容爆量大会”。此次活动共吸引了超过千名内容创作者和行业精英的积极参与,共同探讨和交流内容创作的最新趋势和技巧。蝉妈妈将继续推动内容创作领域的发展,为创作者们提供更多成长和交流的机会。

  • 别上当了!好莱坞标志牌着火假网络疯传:又是AI生成

    目前发生在帕西菲克帕利塞兹社区和阿尔塔迪纳地区的野火仍处于完全失控状态,超过1500名消防人员正奋战在野火现场。受当地持续干燥和强风天气影响,火势预计将会继续蔓延。这也提醒我们,如今AI发展迅速,但用途还需要进行规范,比如某些AI会在生成图片中加入隐藏水印帮助人们辨别,AI不该是传播谣言的工具。

  • 惊悚AI爽片《梅根2.0》确认引进内地:机械妖姬升级 恐怖萝莉来了

    快科技2月5日消息,今日,环球影业宣布惊悚AI爽片《梅根2.0》即将回归,同时发布中文海报及先到预告片,确认将引进中国内地,6月27日北美上映。暗藏杀机的粉色灯光,令人毛骨悚然的诡异舞蹈和魔鬼”低语,机械妖姬梅根”版本升级,那个恐怖萝莉即将重返大银幕。《梅根2》由热拉尔约翰斯通回归执导,珍娜戴维斯、布莱恩乔丹阿尔瓦雷斯、珍凡伊普斯也全员回归,伊万娜萨赫诺全新加盟。此前,影片制片人温子仁曾透露,第一部电影出现在合适的时间(当人们担心人工智能时),而我们在下一部电影中肯定会继续延续这一点。我们将进一步探索人工?

  • B站:正式上线过往42年总台春晚全部内容

    B站近日正式上线了过往42年的总台春晚全部内容,引发了广泛关注。这一举措不仅让网友能够重温历年春晚的经典节目激发了大家对春晚的共同回忆。在B站的助力下,今年的春晚将吸引更多年轻观众的关注和参与。

  • 颠覆传统!谷歌搜索测试AI模式:第一页完全由AI生成

    谷歌内部员工正在测试AI模式”,该模式由Gemini2.0提供支持,旨在为用户提供更智能、更直观的搜索结果。在AI模式”下,谷歌搜索首页将完全由AI生成不是传统的蓝色链接列表,用户输入问题后,AI会以全屏界面的形式提供详细的回答,并在右侧提供进一步探索网络内容的链接。不过相关开发工作还在进行中,因此无法确定最终形式会是什么样子,也不能确定具体什么时候谷歌会向用户开放新版搜索样式。

  • 国产AI「快」到火爆外网!10秒生成一个视频,网友:我见过最快的AI

    快,着实是有点太快了。就在这两天,一个国产Sora,因为生成视频速度太快,在外网火了一把。在接入Vidu的API之后,Evoke的数据显示,在特定场景的视频生成中,Vidu的模型准确率相比同类视频生成平台提升了超过60%,视频生成时间从270秒大幅缩短至35秒,效率提升了近90%。