11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
《彭博》的实验表明,OpenAIGPT3.5在使用虚构姓名进行简历排序时存在明显的种族偏见。该实验通过从选民和人口普查数据中提取与特定种族或族裔关联至少90%的姓名,随机分配给同等资格的简历。对AI模型的偏见进行调整仍然是AI公司和研究人员面临的主要挑战自动招聘系统可能进一步加剧企业多样性努力的难度。
谷歌首席执行官SundarPichai对谷歌GeminiAI应用的问题发表了强烈言论,称其AI生成的部分响应"完全不可接受"。Gemini应用,被公司标榜为一项革命性的新搜索工具,在一些用户要求生成历史人物图像时遭到批评,例如二战时期的德国士兵和以往一直是白人男性的教皇。专家们担心,强大的新型AI可能导致选民接收到虚假和误导性的信息,甚至可能阻止人们前往投票站。
OpenAI最新推出的视频生成工具Sora展示了一个阳光普照的达尔马提亚狗蹑手蹑脚地走过窗台、一场中国新年游行席卷城市街道、一名考古学家在沙漠沙地上挖掘出一把椅子。这些视频是在线发布的,但实际上并没有发生。人们将设法规避设置的防护栏,这将成为一场军备竞赛。
美国国防部最近启动了一项赏金计划,旨在寻找人工智能模型中的法律偏见。该计划要求参与者从Meta的开源LLama-270B模型中提取明显的偏见例证。通过这一举措,五角大楼希望改善人工智能模型的公正性和准确性。
人工智能公司Anthropic最近发布了一项方法,旨在通过提示工程减少公司使用的大型语言模型输出中的歧视。该公司在一份文件中详细介绍了一种评估方法,指导公司如何通过优化提示降低模型输出的歧视性。Claude被指示避免“说教,烦人或过度反应”。
纽约大学Tandon工程学院的研究团队最近进行的一项研究发现,与工作相关的育儿间隙可能导致符合资格的求职者被不公平地筛选出合适的职位。该研究由电气和计算机工程学院的副教授SiddharthGarg领导,旨在检查大型语言模型在招聘流程中的偏见。这项研究为研究人员和从业者提供了发现和干预偏见的方法。
Meta的WhatsApp允许用户使用AI提示生成贴纸。当使用“巴勒斯坦”等词语作为提示时,AI模型有时会生成持枪的儿童图像。Meta在其AI模型中还遇到了其他偏见问题,比如Instagram的自动翻译功能会在用阿拉伯文编写的用户简介中插入“恐怖分子”一词,这与Facebook的误翻译相似,导致一名巴勒斯坦人在2017年被以色列逮捕。
日本政府近日宣布制定AI准则,旨在解决过度依赖AI技术和处理数据偏见的问题。政府设立了一个专门的委员会,预计将在年底前敲定这些准则,以确保AI技术的使用符合公平、透明和人权保护的原则。这一举措表明日本政府正积极采取措施,以确保AI技术的使用不会导致过度依赖,同时也致力于解决与数据偏见相关的问题。
本文概要:1.研究人员发现AI语言模型中存在政治偏见。2.ChatGPT和GPT-4被认为是最左翼自由主义的模型Meta的LLaMA被认为是最右翼独裁主义的模型。这项研究的结果提醒大家,在开发和使用AI语言模型时要警惕政治偏见的存在,并确保公正和多样化的表达。
纽约市一项旨在消除人工智能招聘工具偏见的新法律生效,要求对用于招聘决策的人工智能招聘工具进行偏见审计。雇主必须告知求职者在申请工作时正在使用此类系统。根据剑桥大学2022年的一份报告,人工智能招聘工具确实会延续偏见。
当在聊天机器人+ChatGPT+成为很多人撰写文本的工具大受欢迎时,新西兰的数据科学家+David+Rozado+决定测试其潜在的偏见。David+Rozado+对聊天机器人进行了一系列测验,目的是发现这款AI工具是否存在政治倾向。“他说,该实验的重点是对人工智能系统中的潜在偏见敲响警钟,并展示政治团体和公司如何能够轻易地塑造人工智能,以利于他们自己的议程。
据外媒报道,瑞士EPFL技术大学的一名研究人员获得了3500美元的奖金,因为他发现Twitter上的一种关键算法更青睐看起来苗条、年轻、肤色较浅或温暖的面孔。Twitter于周日宣布将该奖项授予Bogdan Kulynych。据悉,Kulynych是一名研究隐私、安全、人工智能和社会的研究生。片的算法中存在的“显著性”问题。Twitter为发现人工智能偏见而提供的赏金是对目前主流漏洞赏金做法的一种新解释。漏洞赏金是企业为寻找安全漏洞而付给外部人员的
Facebook今天开源了一个数据集,旨在体现计算机视觉和音频机器学习模型中的年龄、性别和肤色偏见。该公司声称,这个语料库Casual Conversations,是第一个以付费者为主角的语料库,他们明确提供了自己的年龄和性别,而不是由第三方来标注这些信息或使用模型来估计。Casual Conversations包含3000名参与者的4100多段视频,其中一些来自Deepfake Detection Challenge,旨在通过加入 "明显 "肤色的标签来对抗这种偏见。Facebook表示,
富士通(Fujitsu)研究人员在一项新研究中,调查了偏见是否会渗透到用于创造艺术的人工智能工具中。根据模型,他们声称目前的人工智能方法没有考虑到社会经济的影响,并表现出明显的偏见。
当下,以人工智能为代表的新兴技术正在让很多不可思议的事情成为现实。但在推动技术进步的同时,如何解决技术带来的社会影响?如何避免人工智能技术发展带来的偏见和歧视?也是全人类需要共同关注的问题。2019年底,前微软全球执行副总裁沈向洋宣布离职后,去向一直备受关注。3月3日,沈向洋入职清华大学拥抱学术的消息传出。3月5日上午九点,刚刚续聘清华大学高等研究院双聘教授的沈向洋博士,通过清华大学快手官方账号(快手ID:Tsi
据外媒报道,用谷歌首席执行官桑达尔·皮查伊的话说,对于负责推进“比电或火更具有深刻意义”的人工智能(AI)技术的人来说,杰夫·迪恩(Jeff Dean)是个非常冷静的人。
偏见是人工智能(AI)中一个根深蒂固问题,基于非代表性数据集的模型往往是公正的。这是一个比想象中更难解决的挑战,尤其是在图像分类任务中,种族、社会偏见常常会抬头。在众包尝试解决这一问题时,
据国外媒体报道,Alphabet旗下谷歌在5月份为Gmail引入了一个新功能“Smart Compose”,即当用户打字的时候,自动为用户补充完整的句子,比如,用户打出“我爱(I love)”,Gmail就会提示“你(you)”或是“它(it)”。
在这个人工智能无处不在的时代,这可能会带来持续的系统性歧视。这也是为什么麻省理工电脑科学AI实验室的研究者们创立能减少人工智能偏见但不会降低预测结果准确率的方法的原因。“我们把这看成是一
网易科技讯 11月8日消息,据Techcrunch报道,随着人工智能(AI)与机器学习技术的日益成熟,它们被用于解决复杂问题的潜力也逐渐显现出来,我们甚至有点儿期待,希望机器人能在人类失败的领域取得突破,即在决策时抛开个人偏见。但是最近出现的许多案例显示,就像所有颠覆性技术那样,机器学习被引入的同时,也出现了许多意想不到的挑战,有时候甚至产生错误、令人讨厌的、冒犯性的后果,与人类社会信奉的道德和伦理标准截然不符?
中兴通讯参展2024中国移动算力网络大会,不仅展示诸多全栈全场景智算解决方案及产品,其高级副总裁、无线及算力产品经营部总裁张万春还出席主论坛并发表《AI进阶,开启极智算网新时代》的主题演讲。中兴通讯联手中国移动,深入实施“以网强算”理念,用前沿数智成果点亮AI新时代。中兴通讯会继续联手中国移动,构建“连接算力”的数智底座,用AI赋能数智生产力,用前沿智能技术引领行业未来。
Nvidia首席执行官黄仁勋认为人类工作不会仅仅因为人工能的兴起消失。在接受CBSNews的“60分钟”节目采访时,黄仁勋表示,虽然人工智能正在改变世界,但他并不认为人类的工作岗位会突然消失。NvidiaCEO黄仁勋的表态揭示了于人工智能和人类工作关系的一种积极态度,他认为人类工作不会被人工智能完全取代是会随着科技的发展不断演进和扩展。
随着ChatGPT的火热,国产大模型开始呈现爆发式增长态势,科技巨头、垂直场景玩家纷纷入局。在AI技术跃进式发展的趋势下,“从文本生成到AI聊天机器人”“从网站、软件App到智能终端”“从AI视频,到AI游戏”……AIGC无处不在,并开始席卷一切。七麦数据后期也将持续关注AI类产品的动向趋势,希望能给大家一些助力。
“360AI浏览器”正式在AppStore上线,由360公司推出。这款应用与传统的浏览器和搜索引擎显著不同,为用户带来了一种全新的使用体验。该应用还支持语音搜索功能,用户只需输入语音,系统即可快速呈现搜索结果。
近期,抖音的Flow部门成功推出了一款名为“星绘”的APP,它是一款AI相机类的产品,为用户带来了全新的视觉体验。星绘APP不仅可以创建用户的AI分身能提供多样化的分身效果定制。虽然经过多次测试后,发现星绘对部分文字的意思理解仍待提高,但这一功能仍然为用户提供了更多的创作可能性。
苹果已经从AppStore中移除了三款被宣传为“艺术生成器”的应用程序,这些应用在Instagram和成人网站上宣传自己可以“免费脱掉任何女孩的衣服”。这些应用利用人工智能生成虚假的裸体图像,虽然图像并不显示实际的裸体,但这些应用可以生成可能被用于骚扰、勒索和侵犯隐私的图像。苹果一直致力于建立负责任的人工智能发展声誉,甚至还专门购买道德许可的训练数据。
【新智元导读】过去一年的时间,英伟达市值突破2万亿美元,一举成为21世纪的AI巨头。在老黄的最新采访中,向我们展示了即将到来的工业革命是怎样的。但老黄预见更多的是,AI未来是充满进步和繁荣的不是机器主宰我们的未来。
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。新鲜AI产品点击了解:https://top.aibase.com/1、写真视频击败Sora?Meta也展示了营收增长,但净利润下降,计划增加对AI的支出。
美国多国计算机技术公司甲骨文正加强其生成式AI能力,与云计算竞争日益激烈,越来越多的公司加入AI领域。AI繁荣——ChatGPT聊天机器人在2022年11月推出,推动了对云计算服务和数据中心的需求增加,因为AI模型训练需要大量数据云计算提供了访问庞大数据集的渠道。甲骨文和英伟达在3月宣布将合作向全球客户提供独立的AI解决方案。
据彭博社MarkGurman的最新爆料,苹果公司即将在5月份发布新版iPadPro,这款设备将直接搭载M4芯片,跳过M3版本。M4芯片继续采用台积电3nm工艺,其主要改进在于提升神经网络引擎的性能,这将使得AI功能运行更加流畅。苹果在AIGC领域的具体表现,预计将在今年的WWDC上揭晓,值得业界和消费者期待。