对话伊藤穰一:科技从业者面临的最大问题是什么?

2019-07-01 16:59 稿源:猎云网  0条评论

Kara:你怎么决定选哪个呢?

Ito:这是真正的搜索过程。候选人必须精通至少两个正交领域,并且是跨学科的。我认为媒体实验室的关键之处在于我喜欢的是我们真的拥抱彼此。我们总是试图引入一些让我们感觉不舒服的东西,一些我们有时不理解的东西。我认为这与传统的学术部门有很大的不同。在传统的学术部门中,你要扩展你的研究领域,但主要是研究那些与你所做的事情相邻或相关的领域。

Kara:这和你现在有什么关系呢?什么让你感觉不舒服但是在实验室里被开发出来的?

Ito:我认为对我来说,是隐私——监控资本主义的对话。正如哈佛商学院教授Shoshana Zuboff所写,媒体实验室在她的书中扮演着重要的角色。她把媒体实验室的许多工作称为监控资本主义交易的工具。她认为,资本主义体系与硅谷的大型科技公司融合,它们意识到把用户信息和行为转化为货币是当时的主流。所有收集信息、理解信息、跟踪信息的技术,都是这个行业的工具。很多都是在媒体实验室开发的。我认为她的书很有趣,但一个问题是,她对待数据就像对待一个竞争优势产品一样,比如石油。但这是不一样的。她指出的一些关键点我认为还可以,但有些我不赞同。“监控”这个词非常有内涵,而且这个词通常是执法部门使用的,在监视者的眼里,它是用来抓坏人的。然而,我认为今天的监控资本家并没有利用这些数据来逮捕这些人并把他们关进监狱。他们用它来对你做一些别的事情,比如打广告让你买玉米片等等。这是一个非常重要的对话,也是一个更长的对话,但我也认为,像剑桥分析公司,他们的销售说辞听起来更加可怕。当你真正看数据的时候,它并没有那么有效。另一个问题是这些广告在让你买玉米片方面有多大效果。我认为,它可能比一般人认为的更有效,但我认为它比不上某些人的销售。

Kara:我认为科幻小说对人们来说是一种特别警告,他们所看到的,以及他们一生中所拥有的一切,都将成为现实。你可以把它迭代到最后,如果它变好了,就会变得很可怕。

Ito:我的假设是,它以一种不同的方式变得可怕,因为我认为人更复杂,机器不能像人们可能认为的那样简单地解决人类的复杂性。我们很快就会进行干预。

像这样的书有助于干预的发生,但我认为,很多真正相信机器的人认为,机器将变得如此智能,人类存在的所有混乱的复杂性将不再是问题。我认为那是不可能的。所以我认为最坏的情况没有那么可怕,但我也认为最好的情况没有那么乐观。

Kara:到麻省理工之后,你想做些什么工作?你真正想看到哪些领域有实际进展?

Ito:我到了那里之后,就成为了一名行政人员,但随着时间的推移,他们让我成为了一名实践教授,我开始教书。我现在在带学生。所以,我自己的研究领域是基于我在那里所观察到的。它实际上是关于理解刑事司法中的自动决策,或者试图理解学术出版、终身职位和资金是如何创造筒仓的,以及科学和知识是如何被创造出来的,并试图改变它。

我想做的是把我们在媒体实验室学到的东西推广出去,解决我看到的一些问题。同时,把社会科学、历史以及其他一些感觉不适合于媒体实验室的东西带到媒体实验室,因为我认为这非常非常重要。这就是我要教的,我要做的。

争论的焦点是人类是有偏见的,但这些偏见较小,而数据的偏见比较明显。

Kara:这种叫“脏数据”。你要想办法阻止它,这真的很难。

Ito:从法律上说,这很难。路透社有一篇文章称,亚马逊利用其历史数据创建了一个人力资源引擎,只雇佣白人男性。工程师会说,“这是不好的。所以,我们要创造一个常数来给女性和少数族裔增加分数。”但民权法案第七条反歧视条例显示,多年来,由于所有这些游说,平权法案是非法的,干预结果是非法的。

所以今天我们仍然可以通过让人力资源人员向少数族裔倾斜来推动多元化,但问题是,如果你的数据显示我们想雇佣白人,那么你干预结果就是违法的。我们现在看到的是法律没有保护我们,代码没有投射我们。问题是你需要同时理解法律和技术。

Kara:你写了一本书《拒绝减少:用机器设计我们复杂的未来》,你刚刚谈到了人类与科技、法律和其他事物的交叉。那这本书呢?你是怎么想要写这些文章的?

Ito:当时的情况是,当我开始参与这场关于人工智能的伦理和治理的对话时,我在麻省理工学院和哈佛法学院之间开设了一门交叉课程,名为“人工智能的伦理与治理”。我意识到,很多在人工智能领域工作的工程师认为,你可以把整个世界简化成一个函数,而人类的生命在优化,这个世界可以用电脑模拟。很多人觉得世界可以被简化成一个非常简单的公式,因此如果你可以创建一个足够聪明的人工智能,就能找出获得胜利的方式。前几天我在Twitter上写道:“那些认为我们生活在计算机模拟环境中的人是最有可能成为模拟环境的人。”

Kara:解释一下计算机模拟。

Ito:很多人对待生活就像对待工程问题一样。对他们来说,我可以想象他们可以看到他们的整个生活在一台电脑里。但是有很多人,我认为如果你进入人文学科或者东海岸,会发现有很多人不像电脑那样思考。他们通过经验生活,只有发生的事情才是真正重要的。

有趣的是,我们对民权或同性婚姻的感受所做的很多决定都不是优化的决定。这些就是社会中发生的文化转变。我认为,在人工智能的对话中,现在缺失的是,首先是一种生命的意义。但同时,你也接受公平的概念。有一个会议叫做FATML,旨在打造公平、责任、透明的机器学习算法,但我觉得现在只剩下公平、责任、透明了。

但我担心的是我们所拥有的东西,比如效率、生产力等等。这正是导致我们肥胖,造成气候变化的原因。效率有时也造成收入不平等。这是一个古老的话题。我不是第一个这么说的人,但我们今天的问题是由我们创造的工具造成的。尽管如此,我认为有很多人相信,更高的效率和生产力会解决一切问题。生活是一团糟,但如果你忽略它,情况会变得更糟,所以我写了这个类似宣言的东西。

你知道《驱魔人》里的那个小女孩吗?这就是我对互联网的感觉。你有一个这样的小女孩,你觉得她会成为一个很棒的孩子,但是她被附身了,开始变成恶魔。我们必须驱除她的邪念,找回原来的她。实际上,我一直很乐观。

Kara:谁来做这个?电影里几个神父从窗户跳了下去。

Ito:我觉得自己有责任参与其中。我不觉得自己无辜。我觉得作为这一切的一部分,我必须做些什么。所以,我不像一个第三方观察者。不过,我确实认为我们所做的改变在技术上必须是知情的。我认为GDPR《通用数据保护条例》本意是好的,但它还没有完全切中要点。我认为技术人员必须参与进来,让他们更多地参与进来对我们如何前进提供指导。

可是,技术人员往往只想解决问题,但问题在于,它跟以前的问题不一样。以前,你只是要解决它,而现在你必须不断地问这个问题,‘是这个问题吗?’这就是为什么现在解决问题要困难得多的原因。说实话,我认为这是一种价值的转变。我认为是年轻一代对我们感到厌恶,厌恶到不想为那家公司工作。

Kara:这是一个有趣的概念,因为简化实际上是一个很好的词,当我想到它的时候,他们总是有答案。真正有趣的是你如何教育这些以一种新的方式进行简化的人,对此你怎么看?

Ito:首先,这很难实现。因为简化对完成任何事情都很重要,但它正在抵制过度简化。还有,像公平这样的东西不能被简化成一个公式,问题是,他们只是被一遍又一遍地告诉,“哦,你永远也做不到”,然后你就能做到了。我认为解决办法不是去硅谷,通过争论说服他们。这实际上是要在外部提出一种不同的叙述。

不过,我肯定会有一场运动,我认为价值观会改变,即使在硅谷也是如此。有趣的是,当你看公司的时候,年长的人比年轻的人更容易忽略这一点。所以我认为这将是一种自下而上的改变。

Kara:你提到“我们与机器的复杂未来”,现在,你认为我们与机器的未来是什么?

Ito:我们已经和机器有着复杂的关系。 1950 年,Norbert Wiener是麻省理工学院的数学家,他写了一本书叫《人有人的用处》。他说组织是有血有肉的机器。我们已经有了机器,就是公司。我们的未来正在给我们已经拥有的东西增压。我们甚至不能控制公司。对我来说,这就像带上喷气背包和眼罩,无论我们朝哪个方向前进,都要增压。

所以我认为我们需要做的是,在我们安装喷气背包之前,先把家里收拾好。我所担心的一个问题是,我们现在和自己的关系很糟糕,再给自己施加更多的力量也无济于事。我们需要创造一个自我调节的社会,而不是一个过于集权的社会。我一直在研究文化,这很像如何建立强大的、有弹性的社区,而不是试图设计一个项目。

Kara:你认为关键是什么?

Ito:我认为我们的所作所为已经将人文学科置于从属地位。如果你去,尤其是像麻省理工这样的地方,你会发现工程师拥有所有的权力,所有的钱,一切看起来都像是一个工程问题。我们把文科变成了次要活动。我们需要历史学家、社会学家、人类学家以及定性的人参与进来,提出问题:我们为什么在这里?我们在做什么?这就是关键。

Kara:最后一个问题,你总是有最有趣的技术创意。你认为你最想看到的最疯狂的东西是什么?

Ito:我不认为它是一种特殊的技术,但我们正在做的一件事或我们看到的是空间的民主化,这有好有坏,也有很多类似的东西。这和早期的互联网很相似,那时我们的政府系统已经商业化了,我们有好的东西也有坏的东西。所以,我想要看到的是,以我们把互联网弄错的方式,把空间弄对。因为我觉得我们可能会把事情搞砸,就像我们把互联网搞砸了一样。

声明:本文转载自第三方媒体,如需转载,请联系版权方授权转载。协助申请

相关文章

相关热点

查看更多