人工智能 (AI) 技术已有数十年的历史，推动着从机器人到预测分析等方方面面的创新。两年前，伴随着 ChatGPT 的横空出世，生成式人工智能 (GenAI) 成为了 AI 发展史上的一个里程碑式转折点。ChatGPT 被设计用于以近乎人类的水平进行对话、创作和理解。得益于这一变革性功能，AI 走出技术领域，进入日常生活，以比较罕见的方式推动着先进技术的广泛普及。
ChatGPT 于 2022 年底推出，在短短 5 天内迅速走红，用户数量达到了 100 万。2024 年，ChatGPT 的活跃用户数量骤增至 2 亿，成为历史上增长速度最快的应用之一。 凭借实时生成上下文相关的连贯回答的能力，ChatGPT 让 AI 成为了一个家喻户晓的名词。这两年以来，人类仿佛又迎来了一次技术革命，全球各个行业都在AI应用中看到了无限可能。
在十一月乌镇举办的 2024 年世界互联网大会上，人工智能成为展示重点，涵盖低空经济、智能网联汽车、人形机器人、数字文创等热点， 40 余个大模型及垂直模型、 10 余个机器人集中亮相。今年十月，我国一位儿童用户通过视频展示了两个AI就“愚公是否应该移山”这一主题展开辩论，这两个应用占线的严密逻辑以及“类人化”的表达方式在短短几天就收获了数十万观看与数万条评论。可以看出，在短短两年时间内，各个AI应用已经开始“飞入寻常百姓家”。
然而，在ChatGPT 及其他类似工具应用于各行各业、为专业人士和个人的工作和生活赋能的同时，此类工具的“两面性”也日益凸显。
ChatGPT 的崛起：助力各行各业创新
从客户服务到内容创建，AI应用已迅速成为个人和企业必不可少的生产工具。虽然想要达到人类优质人才的水平仍有待时日，但大型语言模型 (LLM) 通常都能够根据需求提供不错的解决方案，可让专业人士专注于创造性、分析性和战略性任务。GenAI 的即时性和可扩展性促进了范式转变，即“AI 无处不在”不再只是一种趋势，而是实实在在的现实。
GenAI 工具为各行各业提供了支持，它可通过回答 StackOverflow 等平台上的技术问题，帮助快速解决问题，并加快项目进度，将为期一周的任务缩短至数小时。ChatGPT 等 GenAI 工具还通过创新性地应用语言模型来破译功能和理解复杂代码，将其功能扩展到了逆向工程。
在网络安全领域， GenAI 已经产生了深远的影响。例如，ChatGPT 能够分析庞大的数据集，以检测异常和模式，从而帮助用户发现以前可能无法察觉的威胁。这种增强的可视性是一项颠覆性特性，有助于有效打击日益复杂的网络攻击。
从积极的方面看，GenAI 已成为加强安全运维不可或缺的工具：
加速工作流程：网络安全专业人员现在使用 ChatGPT 等 GenAI 工具快速排除故障、破解复杂问题并从海量数据集中提取实用洞察——这些任务以前都需要数周或数天的时间才能完成。
威胁检测：GenAI 能够快速、深入地分析海量数据，从而帮助机构检测到可能被忽视的威胁。
事件响应：GenAI 正被探索用于总结攻击模式、缩短响应时间并加强防御能力。
然而，GenAI 的兴起也带来了重大风险。若无适当的安全防护措施，输入到 ChatGPT 等工具中的敏感数据可能会在不经意间被泄漏。一次数据处理不当就可能带来毁灭性后果，如果这些数据被用于未来网络攻击的话。
从某些方面来看，这项变革性技术为网络犯罪分子肆无忌惮的滥用提供了可乘之机：
恶意代码开发：ChatGPT 和类似工具甚至支持新手攻击者创建和调试恶意软件，这大大降低了网络犯罪发起攻击的门槛。
复杂的网络钓鱼电子邮件：黑客可利用 GenAI 制作出更具迷惑性的逼真电子邮件。与传统的网络钓鱼电子邮件相比，这些电子邮件更有可能骗到收件人，因为前者措辞不够严谨并缺乏对相关情况的了解，所以可能会被明眼人识破。
深度伪造：GenAI 生成的视频和音频片段往往难辨真伪，主要用于欺诈、造谣和勒索，致使社交工程威胁升级。
这些滥用案例凸显了一个残酷的现实：正如 GenAI 可以让防御者如虎添翼一样，它也可能为虎作伥，成为攻击者的帮凶。
保障 GenAI 领域的安全
随着 GenAI 的快速普及，用户需要采取主动式安全防护来缓解风险。Check Point 建议采取以下措施：
开展员工培训：让员工了解 GenAI 特定的威胁和风险，例如逼真的网络钓鱼电子邮件、深度伪造和幻觉，以便他们能够发现和报告潜在事件。
实施数据保护：采用可靠工具防止在不经意间与 AI 平台共享敏感数据，从而降低数据泄漏或滥用风险。
监控和规范 AI 使用：制定明确的政策，确保在机构内以合乎道德的方式安全使用 GenAI，让使用者和开发人员承担起相应的责任。
实施自动化数据控制：部署自动化解决方案来监控和限制与第三方 AI 系统的数据共享，确保敏感信息始终安全无虞。
采用基于 AI 的防御：利用 AI 工具有效防范攻击，增强威胁检测和响应能力。
未来愿景：负责任地使用 AI，维护网络安全
毫无疑问，ChatGPT 等 GenAI 将在塑造网络安全格局方面发挥日益重要的作用。我们所面临的挑战在于如何正确发挥其潜力，同时比较大限度地降低滥用风险。
使用 GenAI 的好处显而易见：用户可以使用其算法有效使用之前很难处理的海量数据。然而，GenAI 并不是人类的自动化替身，也不仅仅是一套先进的算法。虽然 GenAI 潜力巨大，但其风险也不容小觑。
为了确保 GenAI 正面助力网络安全，各机构必须对其使用承担起责任。无论是通过监管敏感应用、培养 AI 文化素养，还是部署高档监控工具，业界都必须与这项技术同步发展。通过保持警惕性和前瞻性，我们可确保 ChatGPT 等工具不断推动创新，同时防止其被滥用。
（推广）