站长之家(ChinaZ.com) 4月12日消息:风靡一时的聊天机器人 ChatGPT 背后的公司 OpenAI 周二宣布,它将向报告其人工智能系统漏洞的用户提供最多 20000 美元资金。
OpenAI 表示:「我们的奖励范围从 200 美元的低严重性发现到高达 20000 美元的特殊发现,」。该计划是通过 Bugcrowd 这个漏洞赏金平台进行的。
然而,OpenAI 不接受 ChatGPT 的越狱行为,也不接受旨在欺骗人工智能程序违反其自身规则的文本提示。自从 ChatGPT 首次出现以来,用户已经找到了越狱的方法,让聊天机器人回应脏话,写一些被禁止的政治话题,甚至是创建恶意软件。
漏洞赏金计划也不接受关于 ChatGPT 生成不正确事实的报告。OpenAI 说:「模型安全问题并不适合在一个漏洞赏金计划中,因为它们不是可以直接修复的单独、不连续的错误。解决这些问题往往涉及大量的研究和更广泛的方法」。
OpenAI 称,大多数发现的初始优先级评级将使用漏洞赏金平台 Bugcrowd 的漏洞评级分类法。然而,漏洞优先级和奖励可以根据可能性或影响进行修改,由 OpenAI 自行决定。如果出现降级问题,安全研究人员将得到详细的解释。
(举报)