首页 > 业界 > 关键词  > AI大模型最新资讯  > 正文

AI投毒案!GPT写的代码竟有后门 程序员被骗1.8万元

2024-11-24 07:50 · 稿源: 快科技

随着AI大模型技术的蓬勃发展,各行各业的工作效率正在显著提高。

比如在编程领域,AI工具不仅能辅助编写代码,还能高效解决程序漏洞,成为程序员的得力助手。

然而,近日发生的事件引发了人们对AI安全性的担忧。

据悉,一位英国程序员在使用GPT生成的代码时遭遇损失。他按照GPT提供的代码操作,私钥被泄露给钓鱼网站,导致损失2500美元。

网友"余弦"发文警示,在使用GPT等大型语言模型时需保持警惕,因为它们存在欺骗风险。

分析发现,GPT生成代码时引用了一个来自GitHub的恶意项目,这是一场精心设计的钓鱼"陷阱"。

不幸的是,GPT在事件中成为无辜受害者,但其生成的代码给用户带来了严重后果。

此次事件表明,我们在享受AI便利的同时,也必须关注其潜在安全风险。开发者在使用AI辅助工具时应保持谨慎,避免盲目信任机器生成的代码或建议。

AI投毒第一案!GPT写的代码竟有后门 程序员被骗1.8万元

举报

  • 相关推荐
  • 从代码生成到智能开发:北大发布基于昇腾平台软件开发解决方案

    北京大学李戈教授团队在昇腾算力支持下,成功研发基于昇腾平台的智能化软件开发系统。该系统通过大模型自动代码生成与优化技术,显著提升开发效率。核心成果包括:aiXcoder-7B模型在昇腾NPU上高效适配,推理速度提升至原版四倍;构建DeepSeek-V3Agent智能开发系统,实现从单一编码到复杂场景协同的升级。结合昇腾SmoothQuant量化技术与MindIE推理引擎,支持高精度低精度部署,

  • 百度搜索AI API全面开放 绝大多数结果由AI生成

    11月13日,百度创始人李彦宏在2025百度世界大会上宣布,百度搜索已实现绝大多数结果由AI生成,首条结果富媒体覆盖率高达70%。他强调,百度正通过AI技术深度重构搜索结果页,从传统文字链接模式转向以图片、视频等富媒体内容为核心的AI应用。李彦宏指出,百度是全球搜索引擎中对AI化改造最激进的,正引领行业进入全新时代。他还表示,企业需善用AI方能立于不败之地,个人也需掌握AI技能以掌控未来。目前,百度已通过AI+API开放搜索能力,与三星、荣耀、vivo等主流厂商建立合作,共同探索AI搜索的无限可能。

  • OceanBase发布首款AI数据库seekdb:三行代码构建AI应用 实现百亿级多模数据混合搜索

    今日,在2025 OceanBase年度发布会上,OceanBase发布并开源了其首款AI数据库OceanBase seekdb(简称seekdb)。 开发者仅需三行代码,即可快速构建知识库、智能体等AI应用,轻松应对百亿级多模数据检索,真正实现开箱即用”的AI数据基座。 该产品支持向量、全文、标量及空间地理数据的统一混合搜索,深度融合AI推理与数据处理,并兼容Hugging Face、LangChain等30余种主流AI框架。 这一�

  • AI日报:阿里千问APP公测;Veo 3.1上线多图参考;超级小爱AI大模型“随心修图”上线

    本期AI日报聚焦多项技术突破:阿里千问APP公测,基于Qwen3模型对标ChatGPT;谷歌Veo 3.1支持三图融合生成8秒视频;小米推出"随心修图"功能与7B多模态模型Miloco;谷歌Flow集成Nano Banana模型实现智能抠图;多模态AI工具DeepEyesV2可执行代码与网络搜索;NotebookLM升级支持图像导入检索;JetBrains推出DPAI Arena测试编码AI性能。全球AI竞争持续升温,产品迭代加速。

  • 小米超级小爱AI大模型推出随心修图功能

    小米宣布超级小爱AI大模型推出随心修图功能,用户只需一句话即可轻松修出具有大片质感的照片。该功能有两种使用方式:在相册大图页面直接唤醒AI或通过应用上传照片并输入指令。使用需满足版本要求:超级小爱需v7.8.50及以上,相册编辑功能需v2.1及以上,相册本身需v4.3.0.30及以上。目前仅限Xiaomi HyperAI机型支持在相册大图页使用。超级小爱于2024年12月面向正式版用户开放升级,支持全局多模态交互和自然语音搜索,提升使用体验。

  • 简知科技“简智AI大模型”通过国家生成式人工智能服务备案,助力兴趣教育迈向智能化新阶段

    广州简知科技自主研发的“简智AI大模型”通过国家生成式人工智能服务备案,标志着该模型在安全性、合规性与可靠性方面达到国家级标准。作为兴趣教育领域AI应用的重要里程碑,该模型围绕用户兴趣成长周期设计,提供个性化学习支持:可为未明确兴趣方向的用户智能推荐内容,为入门用户规划学习路径,为基础扎实用户提供进阶训练与智能反馈。其技术能力在旗下“简小知”等品牌中已实现“学—练—评—测”全流程覆盖,并通过社群互动增强学习动力。公司未来将持续优化模型能力,联合行业伙伴构建完整培养体系,推动兴趣教育向个性化、高质量方向发展。

  • “猝死风险AI筛查系统”亮相“2025人工智能+大会”,引领“AI+大健康”新浪潮

    在2025人工智能+大会“AI+大健康”论坛上,沃民高科发布“猝死风险AI筛查系统”。该系统通过30秒头部视频AI分析,实现无创快速筛查,为猝死预防提供新方案。中国是全球心源性猝死人数最多的国家,年轻化趋势明显。该系统部署简便,1分钟内完成评估,适合大规模普筛,已获行业认可,包括1.495亿元服务采购。沃民高科将持续深耕AI健康监测技术,助力全球健康事业发展。

  • Billus AI高交会全球首发多模态大模型 以AI Agent重构创意产业文明进化路径

    2025年11月15日,Billus AI在高交会首发多模态大模型Billus0.57EDIT及“超级员工智能体”初阶版,依托自研生存式大模型与AI Agent技术,打破创意领域垂直局限,构建覆盖文创、时尚、艺术等全场景智能创作生态。该模型通过自然语言指令直达创意成果,实现从平面图到施工图的全流程高效生成。同时,Billus AI同步打造“创意设计超级员工+产业链智能体”体系,探索生成式创意与供应链智能推荐的新商业路径,助力行业从“经验驱动”向“数据智能”跃迁。

  • 微云全息(NASDAQ:HOLO):嵌套链——区块链架构创新重塑安全性与能耗格局

    微云全息提出嵌套链创新设计,通过分层数据存储架构将敏感信息置于内层区块链严密保护,普通信息存于外层链。采用跨链交互协议确保信息验证安全,节点差异化配置兼顾安全与效率。该方案突破传统单链模式局限,实现信息分类精细管理,为区块链在复杂应用场景中的安全性、能耗优化及运行效率提升提供全新解决路径。

  • 品牌在AI时代“隐形”?用GEO指数破解AI搜索曝光密码

    文章探讨AI搜索时代品牌曝光新指标GEO指数,指出其通过可见度(品牌在AI回答中的出现概率)和曝光度(被提及总次数)衡量品牌在豆包、文心一言等主流AI模型中的存在感。以徕芬为例,其GEO得分仅33分,反映在AI搜索中存在感薄弱。随着超60%消费者决策参考AI推荐,GEO指数直接影响品牌流量获取。文章建议通过AIBase工具分三步优化:绑定品牌信息锚定监控范围、分析关键词关联度与竞品表现、针对性补充官网内容强化核心词布局,将AI搜索流量转化为品牌增长新引擎。

今日大家都在搜的词: