一开发者用OpenAI 技术构建了个AI宣传机器，强调大规模生产的AI虚假信息危险性

文章概要:

1. 一国外开发者2个月内利用OpenAI工具打造AI宣传机器，每月运营成本低于400美元

2. 项目目的是展示AI大规模生产虚假信息的危险

3. 开发者没有将模型投入使用，因为它会推动假信息传播。

站长之家（ChinaZ.com）9月4日 消息:最近，一名匿名的开发者利用OpenAI的ChatGPT等工具，在不到2个月的时间内打造出了一个人工智能宣传机器。这个名为“CounterCloud”的项目每月的运行成本不到400美元，突显了进行大规模宣传是多么廉价和简单。

这名开发者使用了“Nea Paw”这个化名，声称自己是网络安全专业人员。在YouTube上发布的视频中，他描述了这个项目的实现过程和目的。他表示，自己希望看到AI假信息“在现实世界中运行”，因为大型语言模型具有阅读和撰写假新闻的强大语言能力。

他开始将“对立”文章输入ChatGPT，并设定提示语指示其生成反驳文章。AI机器人会以不同风格和观点生成同一文章的不同版本，通过“捏造故事”、“伪造历史事件”来质疑原文章的准确性。为了制造真实性，还添加了新闻主播朗读自动生成文章的音频剪辑和照片。

在2个月内，这个AI系统每天24个小时不断的运行，“90%的时间生成令人信服的内容。

开发者还没有将模型投入互联网使用，因为这会主动传播虚假信息。但他认为，公开CounterCloud项目及其内部运作机制，能更好地提醒公众人工智能宣传的威胁。

（举报）