首页 > 业界 > 关键词  > 人工智能最新资讯  > 正文

美国证券交易委员会主席警告人工智能将成为下一次金融危机的中心

2023-08-14 09:05 · 稿源:站长之家

站长之家(ChinaZ.com) 8月14日消息:美国证券交易委员会主席 Gary Gensler 表示,人工智能将成为未来金融危机的核心,监管机构无法提前预知并应对。这是目前美国最重要和最有权力的监管者之一发出的信息。

股票,股价

Gensler 在麻省理工学院担任教授时撰写的一篇论文是了解这些风险以及监管机构能做多少努力来解决这些问题的宝贵资源。

总的来说,人工智能在金融市场中最明显的风险是由 AI 驱动的「黑盒子」交易算法失控,并同时大量卖出同样的东西,导致市场崩盘。

Gensler 写道:「实际上没有那么多人受过培训可以构建和管理这些模型,而且他们往往具有相似背景。」此外,在共同接受培训的人群中存在着强烈亲和性,所谓「学徒效应」。

模型同质化风险也可能由监管本身引起。如果监管机构对 AI 可以做什么、不能做什么进行控制,增加它们同时采取相同行动的风险,并增加公司选择使用少数几个无可指责的大型供应商提供的 AI 服务的可能性。

由于模型购买和销售的规则对人类来说是不透明且事先(甚至事后)无法知道的,监管机构很难阻止这种崩盘。

正如 Gensler 所写:「如果深度学习预测可以解释,那么它们一开始就不会被使用。」言外之意是:人工智能带来的风险比交易算法要深刻得多。

例如,许多人工智能致力于评估信用价值。由于其不透明性,很难确定它们是否以歧视方式评判人类。而且由于 AI 在以不可预测的方式不断演变,我们无法实时得知昨天没有种族主义倾向的 AI 今天是否已经产生了种族主义倾向。

「随着深度学习在金融领域更广泛采用,可能出现并将显著增加监管空白。」Gensler 写道。「我们得出结论认为深度学习可能会增加系统性风险。」

最简单、可能也是最有效的监管应对措施很可能就是增加金融机构(或其监管机构)使用人工智能工具时需要持有的资本量。

监管机构还可以要求所有由 AI 生成的结果经过更传统、可解释性更强的线性模型进行「嗅探测试」。公司可能会受到阻止或禁止采取无法从基本面广泛解释的行动。

监管机构可能能够减缓风险上升的速度,但很不可能能够阻止系统性风险上升。

Gensler 自己列出了一长串有助于应对问题的监管方法,但他明确表示,即使综合起来,「也不足以胜任当前任务」。

Gensler 在他的论文中指出,人工智能「对数据有永不满足的需求」。

风险在于人工智能模型最终会趋于具有相同的庞大训练数据集(例如 Common Crawl),共享该数据集可能存在的固有弱点。

「基于相同数据集构建的模型很可能生成高度相关的预测,呈现出群集和集体行为」,Gensler 写道。

对大量数据来源的需求往往导致垄断。Gensler 指出,洲际交易所通过收购 MERS、Ellie Mae 和 Simplifile,已经悄然占据了抵押数据业务的主导地位。

这些垄断企业随后可能成为威胁整个网络的「单点故障」,就像一家中型投资银行 Lehman Brothers 的失败引发了全球金融灾难。

即使最大的数据集也极不完整。「互联网使用数据、可穿戴设备数据、车载数据、GPS 和智能手机数据根本没有足够长的时间跨度来覆盖一个完整的金融周期」,Gensler 指出。

这可能会产生毁灭性后果,就像我们在金融危机中所看到的那样。

拥挤风险已经存在。「据推测,高频算法交易中的集体行为和拥挤部分导致了闪电崩盘」,Gensler 写道。随着交易者越来越多地转向人工智能,这个风险只会增加。

发展中经济体的公司最终可能会使用根本没有接受过国内数据训练的人工智能,这使得风险更大。

总而言之,人工智能不知道自己不知道的东西。这可能非常危险。

举报

  • 相关推荐
  • SEC 主席警告称:人工智能将带来「不可避免」的经济崩溃

    美国证券交易委员会主席GaryGensler发出了对于人工智能的警告:如果监管机构不立即采取行动,Gensler称AI在未来十年内引发金融危机「几乎是不可避免的」。Gensler在接受《金融时报》采访时表示,问题出在一个世界中,所有主要金融机构都在使用相同的AI模型。在防止经济灾难的任务上,他似乎已经承认失败了。

  • 英国央行在英国峰会前警告人工智能可能构成金融稳定风险

    人工智能风险有可能加剧金融稳定风险,破坏对银行的信任,这是英国央行的一项分析得出的结论。这一结论出现在全球领导人和企业为了应对人工智能问题筹备的关键峰会之前。在信任较低或恐慌较大的时期,金融机构会面临金融不稳定的增加,可能会产生一系列结果,如市场不稳定或银行挤兑。

  • 人工智能安全治理专业委员会成立 由阿里云华为等发起

    中国网络空间安全协会人工智能安全治理专业委员会宣布成立。图源备注:图片由AI生成,图片授权服务商Midjourney中国网络空间安全协会人工智能安全治理专业委员会由国家互联网应急中心、北京智源研究院、上海人工智能实验室、阿里云、华为、金山办公等单位发起,组织人工智能领域产学研单位开展技术创新、产业协作、成果转化和行业自律,并在模型安全、内容安全、数据安全、隐私保护和知识产权保护方面不断提升人工智能安全治理能力,以行业协同方式探索人工智能安全新型综合治理新模式,为中国人工智能产业健康发展提供可持续的基础性支撑。人工智能安全治理专业委员会首批成员单位共58家,包含人工智能领域的高校、研究院所、企业等。

  • 先进的人工智能工具正在崛起,但「安全」并不是监管人工智能的最佳标准

    微软于上周发布了其BingImageCreator的新版本,这是一个由OpenAI的新模型DALL-E3提供支持的AI图像生成工具。它旨在提供比之前的图像生成AI模型更强大的功能,包括比以前更丰富地理解复杂用户请求的能力。倘若幸运的话,也许它还能提升我们讨论的基调。

  • 美国国家安全局成立新人工智能安全中心

    美国国家安全局局长保罗·纳卡索内宣布,该机构将成立人工智能安全中心。国家安全局最近完成了一项关于人工智能的国会委托研究,发现在这项技术周围存在大量组织安全方面的空白。中心的建立充分体现了美国政府对人工智能技术监管的高度重视。

  • 纽约将在下周成为人工智能展示中心:希望成为 AI 世界之都

    纽约的科技公司和投资者视人工智能的出现为最新的机会,试图取代旧金山湾区成为人工智能的世界之都。纽约将在下周成为人工智能展示中心,该市将于10月16日开始举办由风险投资公司AndreessenHorowitz协调的包含370场活动的「科技周」。与纽约相比,旧金山湾区仍然遥遥领先,成为科技就业、初创企业和投资的中心。

  • Cathie Wood 警告经济硬着陆 但认为人工智能可以解决问题

    CathieWood管理着ArkInvest交易所交易基金中的约120亿美元的资产。她的工作之一是密切关注宏观经济趋势,同时专注于重大技术颠覆。Wood认为,在其他国家出现流动性问题的情况下,强劲的美元尤为重要。

  • 微软正计划使用「小型模块化核能」为其人工智能数据中心供电

    根据一份招聘负责领导微软公司核能战略的首席项目经理的职位空缺显示,微软认为下一代核反应堆可以为其数据中心和人工智能雄心提供动力。数据中心已经使用了大量电力,这可能会阻碍该公司实现气候目标,除非它能找到清洁的能源来源。微软最近承诺,将加快数据中心的可再生能源供电和减排工作,并计划到2030年实现业务负碳、正水和零浪费。

  • 风头尽显!ATFX集团主席Joe Li受邀在墨西哥证券交易中心发表重要演讲

    行业盛会迭起,知名品牌ATFX再次成为金融界的焦点。ATFX集团主席JoeLi、ATFX英国董事总经理WeiQiangZhang受邀参加于墨西哥证券交易中心举行的第五届“约翰·赫尔奖”开幕式。在这个快速发展的时代,ATFX将继续创新,积极提升全球客户的交易体验,使他们能够有效地驾驭市场变化,取得新的成功。

  • 人工智能之父Geoffrey Hinton 警告科技发展难预知 AI 可能会取代人类

    被称为“人工智能之父”的杰弗里·辛顿最近在接受《60分钟》采访时警告,人工智能的快速发展存在巨大隐忧,科技有可能在某个时间点超越并最终取代人类。人工智能可能在5年内就能比人类进行更好的推理。唯有合理引导科技发展,人工智能才能成为造福人类的工具非对人类的威胁。