站长之家(ChinaZ.com) 10月7日消息:Snap 公司因其生成式人工智能聊天机器人可能对 Snapchat 用户，尤其是 13 至 17 岁的青少年，构成的潜在隐私风险而在英国面临调查。
图片来自 Snap
英国数据保护监管机构信息专员办公室（ICO）上周发布了初步强制执行通知，指称 Snap 的聊天机器人 My AI 可能会对 Snapchat 用户，特别是 13 至 17 岁的用户，构成风险。
信息专员 John Edwards 在声明中表示：「我们的初步调查结果表明，Snap 未能在推出『My AI』之前充分识别和评估儿童和其他用户的隐私风险，这令人担忧。」
Snap 在 2 月份推出了生成式 AI 聊天机器人（尽管它直到 4 月份才登陆英国），利用 OpenAI 的 ChatGPT 大语言模型 (LLM) 技术来驱动固定在用户信息流顶部的机器人，充当可以向其寻求建议或发送快照的虚拟朋友。
最初，该功能仅适用于 Snapchat+ 的订阅者，Snapchat+ 是 Snap 消息平台的高级版本。但很快 Snap 也向免费用户开放了「My AI」的访问权限，同时还增加了人工智能将快照发送回与其交互的用户的能力（这些快照是用生成式人工智能创建的）。
这些调查尚未得出最终结论，Snap 将有机会解决初步担忧，然后才会作出最终决定。如果 ICO 的初步发现导致强制执行通知，Snap 可能需要停止向英国用户提供 AI 聊天机器人，直到解决隐私问题。
Snap 的发言人在一封电子邮件中告诉表示：「我们正在密切审查 ICO 的初步决定。与 ICO 一样，我们致力于保护用户的隐私。根据我们的产品开发标准，My AI 在公开提供之前经过了严格的法律和隐私审查流程。」
该技术公司表示，将继续与 ICO 合作，以确保该机构对 Snap 的风险评估程序感到满意。这款运行在 OpenAI 的 ChatGPT 上的 AI 聊天机器人具有一些功能，可以在孩子使用聊天机器人时向父母发出警报。Snap 表示，它还为其机器人制定了通用指南，要求机器人避免发表冒犯性评论。
ICO 没有提供额外评论，理由是这些调查是初步的。该机构此前发布了「AI 和数据保护指南」，并在今年 4 月发布了一则一般通知，列出了开发人员和用户应该就 AI 提出的问题。
Snap 的 AI 聊天机器人自今年年初推出以来一直备受关注，因不当的对话而受到审查，例如建议一名 15 岁的孩子如何掩盖酒精和大麻的气味，据《华盛顿邮报》报道。
Snap 在其最新的财报中表示，已经有超过 1.5 亿人使用了这款 AI 机器人。
其他形式的生成式人工智能也在最近受到批评。例如，必应的生成式 AI 图像已被极端分子讨论板 4chan 用来制作种族主义图像。
（举报）