站长之家(ChinaZ.com) 8月17日消息:尽管还没有到万圣节，但一些 Snapchat 用户却觉得像是在这个节日已经到来。周二晚上，Snapchat 的 My AI 聊天机器人发布了一个神秘的一秒钟的视频，画面上似乎是一面墙和一个天花板，尽管以前从未在消息中添加过视频。当用户问聊天机器人时，机器保持了怪异的沉默。
图片来自 Snap
「My AI」是内置在 Snapchat 应用中的聊天机器人，人们可以像和真人对话一样与其交流。它由 OpenAI 的大型语言模型（LLM）技术提供支持，类似于 ChatGPT。它能机智地回答问题，并推荐 Snapchat 的功能，让人感觉像是一个时髦的年轻人与在线的好友聊天。
当地时间昨天晚上，许多人发现「My AI」发布了一个双色调场景的短视频作为「故事」（Snapchat 称之为共享照片或视频），这让用户感到震惊，因为之前没有人知道机器人具备这种功能。而且机器人虚假的个性让人很容易以为这个视频背后存在着某种故意，尽管实际上可能只是一个奇怪的技术故障。
「我的 Snapchat AI 发布了一个随机的 1 秒故事，不回复我，我好害怕，「一位用户写道。许多人在周二晚上通过社交媒体表达了同样的情绪。
一位 Snap 发言人告诉 Mashable，他们的 My AI 机器人「发生了故障」。目前尚不清楚为什么故障会导致发布神秘图像，也许公司正在试验一种图像或视频生成功能。
然而，这种强烈的反应凸显了许多人对人工智能潜在风险的担忧。自 4 月份推出以来，这款工具不仅受到了家长们的反对，还受到了一些 Snapchat 用户的批评，主要是涉及隐私问题、「可怕」的对话内容以及除非付费订阅，否则无法从聊天记录中移除该功能。
显然，作为 OpenAI 训练的大型语言模型，聊天机器人的功能有限，不会像人类那样思考或感受。然而，它能以惊人的能力模仿人类，这可能会在不可避免地捏造错误信息时引发伦理困境。尽管存在这种可能性，Snapchat 仍然将这个功能推广给全球数亿用户。
与其他一些 AI 工具不同，Snapchat 的版本有一些关键的区别：用户可以自定义聊天机器人的名称，为其设计一个自定义的 Bitmoji 头像，并将其引入与朋友的对话中。总体效果是，与 Snapchat 的聊天机器人交流可能会感觉不那么事务性，就好像访问 ChatGPT 的网站一样。而且，您是否正在与计算机交谈也可能弄不太清楚。
由于这个 AI 图像与墙壁和天花板相似，很多人认为我的 AI 可能在监视他们。一位用户说：「我发誓我以为那是我家的墙壁，尤其是我现在正坐在我的客厅里。」另一个人写道：「这看起来跟我家的墙完全一样，差点吓死我。」
对于那些不熟悉这种技术运作方式的人来说，难以解读的机器中的幽灵现象可能很难理解。但每个用户都收到了相同的视频，在网上发现这一事实让人松了一口气。
一位用户写道：「虽然我感到害怕，但我很高兴还有其他人收到了同样的图片，它和我租住的地方的墙壁和天花板非常相似。」
虽然一些人可能会发现这个工具有价值，但这种褒贬不一的反应暗示着企业在向产品中引入新的生成式 AI 技术时所面临的挑战，尤其是像 Snapchat 这样的产品，其用户主要是年轻人。
当 OpenAI 将 ChatGPT 开放给第三方企业时，Snapchat 成为早期合作伙伴之一，预计还会有更多的合作伙伴加入。
（举报）
