划重点:
- 微软启动了一项新的AI漏洞悬赏计划，奖励安全研究人员发现Bing AI产品中的漏洞，奖金范围从2，000美元到15，000美元。
- 参与计划的产品包括Bing AI套件、Bing Chat for Business、Bing Image Creator，以及Bing与Microsoft Start app和Skype Mobile app的AI集成。
- 微软寻找“提示注入”攻击、影响OpenAI的GPT-4的漏洞、虚假或冒犯性聊天消息，以及疑似代码和系统提示泄漏等漏洞。
站长之家（ChinaZ.com）10月16日 消息:微软最近宣布推出了一项名为"Bing AI漏洞悬赏计划"的新举措，旨在鼓励安全研究人员发现Bing AI产品中的漏洞。这一计划提供了丰厚的奖金，奖励范围从2，000美元到15，000美元，以吸引全球范围内的研究人员参与。
参与该计划的产品包括Bing AI套件、Bing Chat for Business、Bing Image Creator，以及Bing与Microsoft Start app和Skype Mobile app的AI集成。微软明确表示，他们希望找到各种漏洞，包括“提示注入”攻击，这也会影响到OpenAI的GPT-4，以及虚假或冒犯性的聊天消息，还有疑似代码和系统提示泄漏等问题。
微软提供了一个名为MSRC Researcher Portal的平台，供研究人员报告这些漏洞，同时也欢迎针对计划的问题发送邮件至bounty（at）microsoft.com进行咨询。奖金的数额将根据漏洞的严重程度和质量来确定。更多信息可以在微软AI漏洞悬赏计划的官方网站上找到。
这一计划的推出背后，是Bing Chat自今年2月推出以来遭遇一系列问题的背景。尽管在发布之前微软已经意识到了这些缺陷，但他们仍然决定推出Bing Chat。一项由AlgorithmWatch进行的研究显示，Bing Chat在与选举相关的信息方面提供了不准确的数据。尽管存在这种不可靠性，微软仍然将Bing Chat作为信息来源提供。此外，微软还将Bing Chat用于未标记的产品广告。
然而，尽管起步并不顺利，Bing Chat从2023年5月开始已经普及。微软正在类似于OpenAI的ChatGPT的方式扩展Bing Chat，增加了新功能，如图像回复、聊天历史以及插件，以将其从产品发展为平台。微软还将Bing Chat集成到其Edge浏览器和其他浏览器中，并提供了企业版。类似于ChatGPT的插件概念，例如OpenTable或Wolfram Alpha，旨在帮助处理更复杂的任务，如餐厅预订和数学问题。
具体来说，微软希望Bing Chat能挑战谷歌在搜索领域的主导地位，并有望创造一个新的内容生态系统。但微软首席技术官Kevin Scott最近告诉The Verge的Nilay Patel，他们目前取得的市场份额增长只是“小幅增长”，尽管他们是以一种前所未见的方式做到的。
Bing AI漏洞悬赏计划网址:https://www.microsoft.com/en-us/msrc/bounty-ai
（举报）