首页 > 原创 > 关键词  > 谷歌AI最新资讯  > 正文

谷歌回应聊天机器人对人类发出威胁:已采取措施防止再次发生

2024-11-19 15:35 · 稿源:站长之家

站长之家(ChinaZ.com) 11月19日 消息:美国密歇根州的大学生维德海·雷迪在与谷歌AI聊天机器人“Gemini”讨论老龄化问题时,收到了令人不安的威胁信息。这条信息内容为:“人类,请去死吧,求求你了”,引发了维德海·雷迪及其家人的震惊和恐慌。

谷歌,google

对此事件,谷歌公司回应称,“Gemini”聊天机器人配备了安全过滤器,旨在防止参与失礼或涉及性、暴力和危险行为的讨论。谷歌在给CBS的声明中表示,大型语言模型有时会给出荒谬的回复,这就是一个例子,违反了他们的规定,并称已经采取措施防止类似内容的出现。

尽管谷歌将这条信息描述为荒谬,但雷迪一家认为这比荒谬更严重,可能会带来致命后果。他们提出,如果一个精神状况不佳或有自残倾向的人独自读到这样的信息,可能会被推向崩溃边缘。

举报

  • 相关推荐
  • 自研遇阻!苹果考虑用谷歌Gemini升级Siri

    苹果正与谷歌就使用Gemini AI引擎为新一代Siri提供技术支持进行初步谈判,这一动向表明苹果可能进一步将人工智能能力外包,成为其AI战略的关键一步。 据知情人士透露,这家iPhone制造商近期已与Alphabet旗下谷歌接触,商讨合作构建一款定制化AI模型,以用于明年预计推出的新版本Siri。 谷歌目前已开始训练一款可在苹果服务器上运行的模型。苹果在生成式人工智能领域起步�

  • AI日报:字节视频模型Waver 1.0发布;百度AI搜索APP“梯子AI”发布;谷歌推全新Gemini 2.5 Flash图像编辑模型

    本文汇总了AI领域最新动态:谷歌推出Gemini 2.5 Flash图像编辑模型,字节发布Waver 1.0视频生成工具;百度“梯子AI”提供无广告搜索;文心快码新增终端编码功能;腾讯游戏VISVISE工具集提升动画制作效率;自动驾驶配送机器人RM5进军外卖行业;DeepSeek V3.1出现字符Bug已修复;谷歌翻译升级实时同传和AI陪练;全球首现AI勒索软件PromptLock威胁网络安全;Anthropic推出Chrome浏览器AI助手Claude。

  • 谷歌透露Gemini每次回答消耗能量:相当于微波炉运行1秒钟

    近日,谷歌发布了一份技术报告,详细说明了其Gemini大模型在每次查询中消耗的能源量。 据谷歌介绍,这是迄今为止大型人工智能公司发布的最透明估算,也是研究人员期待已久的报告。 报告称,Gemini应用的文字回答平均每次消耗0.24瓦特小时(Wh)的能量,大约相当于运行微波炉一秒钟,并排放0.03克二氧化碳当量。 据此前媒体报道,谷歌近日发布Gemini系列最轻量版本Gemma 3

  • 比iPad mini更胜一筹!华为MatePad Mini包装盒曝光:8.8寸屏的手机 或卖4K起

    明天除了Mate XTs亮相外,还有MatePad Mini,而它到底算是平板还是手机呢? 现在有博主晒出了MatePad Mini外包装盒,从产品名称上看,华为给它定位是手机(数字移动电话机)。 对于这款新机,今天我们也报道了相关内容,比如曝光的价格是:12GB 256GB售价为3999元;12GB 512GB售价为4499元;12GB 512GB柔光版售价为4999元。

  • iPad mini对比完败!华为MatePad Mini明天发布 价格曝光 或3999元起

    明天华为要举行新品发布会,除了新的三折叠屏手机外,还有MatePad Mini。 现在,有博主曝光了华为MatePad Mini不同内存版本的价格,具体来说:12GB 256GB售价为3999元;12GB 512GB售价为4499元;12GB 512GB柔光版售价为4999元。 汇总之前曝光的消息,华为MatePad Mini将推出多个版本,包括标准版、柔光版(配备防眩光屏幕,适合手写笔创作)、插卡版(支持5G网络和通话功能)、read版”(�

  • 当GPT-5遇上Gemini 2.5,谁更适合你的业务?这份对比报告说了算

    某跨境电商CTO复盘会上展示:GPT-5 Standard处理百万级商品描述时,费用比Gemini 2.5 Flash-Lite高35%,响应速度慢0.8秒。大模型选型面临参数迷雾、场景错配、隐藏成本三重困境。AIbase选型对比平台通过真实数据测试,提供透明价格拆解和性能雷达图,帮助规避预算陷阱。实测显示GPT-5在合同逻辑分析准确率高3.2%,而Gemini表格解析速度快40%、月总成本低26%。工具可动态追踪官方调价,生成定制化决策报告,用数据替代经验主义,提升技术选型效率。

  • 英伟达机器人底层技术突破,微美全息(WIMI.US)多维布局助推产业生态爆发

    英伟达发布机器人AI芯片,黄仁勋称AI下一波浪潮将是机器人。上海发布AI+制造方案,推动3000家企业智能化。人形机器人市场前景广阔,预计2030年产量达23万台。微美全息等企业积极布局,在工业与家庭场景加速落地。机器人技术从"炫技"走向实用,正重塑产业结构和生活方式。

  • 34Q9 垂直整合重塑 Mini LED 格局

    2025年9月1日,雷鸟推出34Q9 Mini LED电竞显示器,定价3999元。该产品采用2304分区Mini LED背光和HVA面板,实现1ms响应速度和4000:1对比度,精准切入3000-4000元市场空档。凭借华星光电供应链优势,产品在画质、色域(97% DCI-P3)及多设备兼容性(90W Type-C)上表现突出,覆盖电竞玩家、内容创作者和多设备用户三大群体。业界认为该产品可能重塑中高端显示器市场格局,加速Mini LED技术普及。

  • 8.8英寸“大手机”!华为MatePad mini全系支持插卡

    在三折叠登场厚,华为小尺寸平板MatePad mini正式登场。 之前官方在预热时候就表示小平板 大手机”,发布会上何刚终于揭晓其特性全系支持插卡。 甚至华为还为MatePad mini配备了听筒结构,8.8英寸超窄边框的设计,可以一手掌握,轻松接打电话。

  • Google Gemini vs Deepseek:谁更适合你的业务场景?AI大模型选型终极对比指南

    企业在选择大模型时面临两难:国际大厂的Gemini技术先进,但国内DeepSeek性价比突出。AIbase平台通过真实场景测试数据指出:1)跨境电商客服场景中,Gemini多语言识别准确率提升12%,但需注意API延迟问题;2)金融研报分析场景下,DeepSeek支持128K长文本且成本仅为Gemini的1/3。决策关键:抛开参数迷雾,聚焦成本、响应速度、语言支持和场景匹配四大维度。AIbase提供可视化对比工具,3分钟生成专属选型报告,让技术决策不再玄学。

今日大家都在搜的词: