首页 > 业界 > 关键词  > ChatGPT最新资讯  > 正文

研究警告:ChatGPT不适合作心理治疗师

2023-10-23 10:10 · 稿源:站长之家

🔍划重点:

1. 一组研究人员警告大众,不要将ChatGPT等大型语言模型用于心理学和心理治疗,因其生成心理有用信息的能力有限,缺乏同理心和人类理解。

2. 他们呼吁学术界与产业界合作,开展类似“人类基因组计划”的国际研究项目,共同发展心理学上有用的语言模型,包括数据集和标准基准。

3. 研究人员担心这些模型可能引发心理伤害,但也认为进一步的研究和发展可以实现转型性的心理应用。

站长之家(ChinaZ.com) 10月23日 消息:一项最新研究警告大众,不要在心理学和心理治疗领域使用ChatGPT等大型语言模型。研究人员认为,这些模型在生成心理上有用的信息方面存在根本性的限制,同时缺乏同理心和对人类理解的能力。

研究中的共同作者之一、斯坦福大学研究生院教育数据科学教授Dora Demszky表示:“它们无法表现出同理心或人类理解。”

AI人脸机器人

图源备注:图片由AI生成,图片授权服务商Midjourney

研究人员指出,大型语言模型缺乏"心灵理论",即对他人心理状态的理解。大卫·耶格(David Yeager),德克萨斯大学奥斯汀分校心理学教授兼研究论文的合著者之一,指出虽然这些模型可以生成类似人类的文本,但它们不具备专业心理学家或亲密友人的深刻理解。

为了解决这一问题,研究人员呼吁学术界和产业界合作,开展类似“人类基因组计划”的国际研究项目。这一合作应包括开发关键数据集、制定标准基准,特别是用于心理治疗,以及共享的计算基础设施,以发展在心理学领域有用的语言模型。

这一呼吁的背后有双重动机。首先,研究人员担心“制造生成性人工智能系统的公司因为没有评估这些系统对人类思维或行为的影响而承担心理伤害责任的世界”,耶格说。其次,他们看到了这些模型的潜力:“我们认为,尽管大型语言模型有潜力推动心理测量、实验和实践,但它们还没有准备好用于最具变革性的心理应用,但进一步的研究和发展可能会实现这种用途。”

举报

  • 相关推荐
  • 刚刚,OpenAI通用智能体ChatGPT Agent正式登场

    ​Agent AI 时代,比我们想象中来得要早一些。 北京时间周五凌晨,OpenAI 突然开启了新产品直播。 本次发布的是全新的 ChatGPT Agent,它实现了通用智能体(Agent)能力的关键升级。

  • OpenAI发布ChatGPT Agent智能体:支持写代码、做PPT、分析金融

    OpenAI推出ChatGPT智能体,整合网页交互、数据搜索与多模态协作功能,可完成代码生成、PPT制作、金融分析等复杂任务。该智能体融合Operator的网页自动化操作、Deep Research的数据分析能力及优化后的GPT-4对话引擎三大核心模块。目前面向付费用户开放,Pro版近乎无限使用,其他版本每月限50次任务。OpenAI承认其仍存在金融建模需人工验证、非英语文本解析准确率低等技术局限,并

  • A日报:Kimi开放平台上线Kimi Playground;OpenAI重磅发布ChatGPT Agent;Suno推人声替换功能

    【AI日报】汇总了近期AI领域重要进展:1)月之暗面推出Kimi Playground平台,实现从对话助手到智能助理的转变;2)OpenAI发布ChatGPT Agent,支持自主执行浏览、购物等任务;3)Suno发布v4.5+版本,新增人声替换等音乐创作功能;4)谷歌Veo3视频生成模型上线,支持文本转视频;5)全球首个直播流扩散模型MirageLSD发布,实现实时视频转换;6)VSCode编程助手Traycer提升大型代码库处理效率;7)ART框架支持Python一键训练AI Agent;8)NVIDIA语音识别模型Canary-Qwen-2.5B词错率创新低;9)Mistral AI推出Le Chat挑战ChatGPT;10)百度小度上线首个支持物理交互的MCP Server;11)Lightricks的LTXV模型实现60秒高质量视频生成;12)开源模型LTX-Video13B支持30倍速高清视频生成。

  • ChatGPT们重塑了对话框,钉钉今天要重塑表格

    ​自从1979年,丹·布里克林(Dan Bricklin)和鲍勃·弗兰克斯顿(Bob Frankston)在苹果当时划时代的 Apple II 电脑上做出了第一张可以自动计算和更新的电子表格 VisiCalc 后,表格就成为了计算机用数据方式理解人类世界的基座。不过,在更多的时候,没人这样讨论它。横横竖竖几个格子,表格无处不在,它看起来太普通了。 然而计算机诸多繁荣的根基,都建立在一张张表格之上,无�

  • AI日报:12306 MCP Server上线;百度推AI搜索助手Tizzy.ai;ChatGPT录音模式面向Plus用户开放

    【AI日报】今日AI领域重要动态:1)百度推出无广告智能搜索助手Tizzy.ai,整合影视资源与深度思考功能;2)12306开源火车票查询引擎上线,采用FastAPI架构实现秒级响应;3)ChatGPT向Plus用户全面开放录音功能,支持实时记录与内容总结;4)开源SaaS模板FireGEO助力快速构建现代化Web应用;5)国产工具ReadMeX可一键生成高质量GitHub文档;6)百度AI助手新增视频通话功能,支持方言识别;7)Jacky

  • 手机eSIM开放前兆!vivo WATCH 5全面恢复移动/联通eSIM

    种种迹象表明,国内的eSIM真要开放了。 前不久,OPPO Watch X2系列中国移动eSIM一号双终端业务正式上线,现在vivo也来了。 vivo官微今天发文宣布,vivo WATCH 5 eSIM版已全面恢复开通移动eSIM一号双终端,联通eSIM一号双终端、独立终端。

  • Checkout.com项尧受邀参与 WAIC2025 共话人工智能时代跨境支付新机遇

    2025世界人工智能大会(WAIC)于7月26-28日在上海举办,全球领先支付解决方案提供商Checkout.com受邀参与"无界人工智能:深化中英合作"主题论坛。其大中华区总经理项尧与行业专家探讨AI赋能跨境商业生态的创新实践,重点分享公司在代理电商平台(Agentic Commerce)领域的支付技术创新,包括与Mastercard、Visa合作构建支持AI代理交易的技术框架。作为支付行业领军者,Checkout.com通过智能支付网络帮助电商平台优化交易管理,支持多币种支付,每年为客户解锁数亿美元收入潜力。本届WAIC展览面积首次突破7万平方米,吸引800余家企业参展,涵盖40余款大模型及60余款智能机器人。

  • Matrixport CEO John 出席 Foresight 2024 年度峰会,表示Matrixport将持续拥抱合规,提供专业资管服务

    Matrixport CEO John Ge在"Foresight2024"峰会上表示,合规化是加密行业主旋律。他指出当前加密市场缺乏新流量入场,资产管理趋向主流资产集中化,BTC、ETH等占比很高。随着加密ETF通过,合规属性增强,跨圈资管开始复苏。Matrixport将持续拥抱合规,为更多用户提供专业资管服务,帮助用户获取理性收益。公司成立于2019年,是亚洲最大的一站式加密金融服务平台,致力于构建�

  • RestCloud荣登Gartner 《2025 中国 ICT 技术成熟度曲线》,唯一入选的iPaaS供应商!

    Gartner发布《2025年中国ICT技术成熟度曲线》报告,谷云科技RestCloud作为唯一入选的独立iPaaS厂商上榜API管理领域。报告指出API管理平台能解决企业数字化转型中的数据孤岛问题,通过统一管理API全生命周期,实现跨系统数据实时同步与业务协同。RestCloud平台具备四大核心价值:1)消除数据孤岛,实现全域集成;2)提升开发效率与API复用率;3)保障安全稳定运行;4)结合AI驱动智能化业务创新。该入选标志着国产iPaaS技术已达国际前沿水平,正成为企业数字化转型的核心引擎。

  • 52TOYS携潮流IP矩阵亮相美国SDCC漫展 自有IP备受玩家追捧

    2025年7月24-27日,中国潮玩品牌52TOYS携旗下Pouka Pouka、CiCi Lu等原创IP系列亮相全球顶级动漫展圣地亚哥国际动漫展(SDCC),展位人气火爆。同期还参展了东京Wonder Festival夏季展。这是52TOYS首次在海外集中展示自有IP矩阵,其复古毛绒设计等产品获得跨文化消费者的喜爱。自2018年首次参展以来,52TOYS海外业务快速增长,2024年国际收入达1.47亿元,复合增长率超100%。目前品牌已在美国开设首家门店,通过多元场景触达全球消费者,持续推动中国潮玩文化出海。