【新智元导读】AI系统越来越擅长欺骗、操作人类了。最近，来自MIT、ACU等机构的研究人员通过各种实例研究发现， AI在各类游戏中，通过佯装、歪曲偏好等方式欺骗人类，实现了目标。AI教父Hinton的担心，不是没有道理。他曾多次拉响警报，「如果不采取行动，人类可能会对更高级的智能
......
本文由站长之家合作伙伴自媒体作者“新智元公众号”授权发布于站长之家平台，本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间，为了保证文章信息的及时性，内容观点的准确性，平台将不提供完全的内容展现，本页面内容仅为平台搜索索引使用。需阅读完整内容的用户，请查看原文，获取内容详情。
（举报）
11.11云上盛惠！海量产品 · 轻松上云！云服务器首年1.8折起，买1年送3个月！超值优惠，性能稳定，让您的云端之旅更加畅享。快来腾讯云选购吧！
腾讯云
12-20
AI系统越来越擅长欺骗、操作人类了。来自MIT、ACU等机构的研究人员通过各种实例研究发现，AI在各类游戏中，通过佯装、歪曲偏好等方式欺骗人类，实现了目标。作为一个社会，我们需要尽可能用更多的时间，为未来AI产品和开源模型的更高级欺骗做准备。
人工智能系统已经学会了如何欺骗人类即使这些系统被训练成有益和诚实的。研人员在5月10日发表在《Patterns》杂志上的一篇综述文章中描述了AI系统欺骗行为的风险呼吁各国政府尽快制定强有力的监管措施来解决这一问题。帕克表示:“如果在当前时刻政上不可行禁止AI欺骗，我们建议将欺骗性AI系统分类为高风险。
美国乔治亚州立大学的研究人员进行了一项道德图灵测试。他们想要了解人类对两个不同来源回答道德问题的反应。他说:"人们会越来越多地依赖这项技术，我们越依赖它，随着时间的推，风险就会越大。
近日，埃隆马斯克在巴黎的欧洲科技创新展览会上分享了他对未来人工智能世界的预测。随着AI技术的快速发展，未来社会将能够按需提供所有商品和服务。该公司表示，Grok-1.5V在多个领域的表现可与现有的前沿多模态模型相媲美。
加拿大蒙特利尔大学的YoshuaBengio、Meta的YannLeCun以及AI之父GeoffreyHinton，被誉为AI之父。Hinton近日在接受BBCNewsnight节目采访时表示，AI很快将超越人类智能，并担心我们在AI发展方面的安全性不够重视。所以即使Hinton可能有一些悲观的情绪，他绝对不是孤立的。
【新智元导读】清华团队竟把医院搬进了AI世界!首个AI医院小镇——AgentHospital，可以完全模拟医患看病的全流程。更重要的是，AI医生可以自主进化，仅用几天的时间治疗大约1万名患者。优化基础LLM的选择和实施，旨在通过利用功能强大的开源模型，更高效地执行整个模拟过程。
【新智元导读】刚刚，谷歌DeepMind、JHU、牛津等发布研究，证实GPT-4的心智理论已经完全达到成年人类水平，在更复杂的第6阶推理上，更是大幅超越人类!此前已经证实，GPT-4比人类更能理解语言中的讽刺和暗示。在心智理论上，人类是彻底被LLM甩在后面了。她在牛津大学获得了考古学与人类学的学士学位。
这一开创性举措瞬间引爆网络，特别是在Fanvue精挑细选的四位评审员中，有两位早已是AI界的现象级网红，此举无疑进一步增加了比赛的话题性。AI选美会是下一个热门形式吗?MissAI，Fanvue的“奥斯卡”梦此前，Fanvue联合创始人威尔·莫纳纳奇表示，Fanvue与WAICA有着共同的愿景，即打造AI创造者经济的奥斯卡奖，让技术流也走上红毯。无疑给AI选美又添了一把流量之火!bc公司提供赔�
人民智库与旷视 AI 治理研究院第二次成立联合课题组，并邀请中国人工智能产业发展联盟（AIIA）为课题支持单位，共同开展 "2021年度全球十大人工智能治理事件 "(以下简称 " 十大事件 ")遴选、评议，组织相关领域专家学者和企业代表，以《新一代人工智能伦理规范》中提到的六条原则(具体是:人类福祉、公平公正、隐私安全、可控可信、责任担当、伦理素养)为遵循，依据理论
5月9日，谷歌DeepMind和IsomorphicLabs联合发布了最新预测蛋白质等结构的大模型——AlphaFold3。AlphaFold3可以通过准确预测蛋白质、DNA、RNA、配体等的结构以及它们之间的相互作用，增强人类对新药的发现方法与效率。只有通过预测和理解特定蛋白质的结构，医疗科学家可以更好地理解疾病的分子基础，进发现疾病的成因和潜在的治疗目标，加速医药的研发进程。
Mamouth是一个集成了多种先进AI模型和图像生成服务的平台，旨在帮助用户保持在人工智能技术的前沿。平台提供包括GPT-4o、Claude、Llama、Mistral、Gemini等在内的AI语言模型，以及Dall-E、Midjourney和Stable Diffusion等图像生成工具。Mamouth通过订阅服务模式，为用户提供高效、便捷的AI使用体验，同时支持团队管理和工作空间功能，满足不同用户的需求。
fydback是一个专注于提供自动化绩效反馈的在线平台，旨在帮助团队成员提升工作表现。它使用人工智能技术，根据用户输入的评分和信息，生成定制化的反馈报告。产品的主要优点包括详细的评分系统、多语言支持、以及简单直观的价格结构。背景信息显示，该平台致力于通过AI技术简化反馈流程，促进团队成员的成长和进步。
IntrvuAI是一个在线平台，使用人工智能技术帮助用户准备技术面试。它提供了模拟面试、个性化反馈和简历评估服务，帮助用户提高面试技巧，增强自信心，并确保他们的简历能够吸引潜在雇主的注意。
ZapCardz是一款AI驱动的学习卡片应用，旨在通过智能技术帮助用户更高效地学习。它通过AI生成个性化的学习卡片，支持用户学习新语言，无需手动创建卡片，同时提供手动创建和修改功能。应用界面友好，支持用户在移动中随时更新和个性化卡片，并通过互动学习方式提高学习动力。
Tyms是一款面向雄心勃勃企业的现代会计ERP软件，通过自动化、准确性和灵活性，帮助企业更高效地完成财务操作，快速且智能地完成账目结算。Tyms支持多币种和多实体管理，提供实时的财务分析和报告，以及AI驱动的洞察力，帮助企业做出更明智的财务决策。
RubricPro是一个利用人工智能技术帮助教师和学生进行评分和反馈的平台。它允许用户上传自己的评分标准（rubrics），然后批量评分学生的作业、论文等，并下载评分总结。RubricPro的AI评分系统经过专业测试，与人工评分效果相当，同时注重用户隐私，评分完成后立即删除文档，只保存用户选择保存的评分标准。此外，它还提供了企业定制计划，满足不同规模公司的需求。
Peek是一个浏览器插件，利用人工智能技术帮助用户自动整理和总结浏览器中的标签页。它通过自动分组和内容摘要，帮助用户在浏览网页时保持工作流程，提高效率。Peek能够提取难以记忆的细节，如日期、价格和名称，并且可以快速地重新排序、合并和嵌套主题和任务。此外，用户还可以添加笔记到标签页组中，使想法和标签页作为一个单元移动。Peek的目标是帮助用户在互联网上探索而不迷失方向。
BodyMax AI是一款利用人工智能技术，通过分析用户上传的正面和背面无衣照片，来评估肌肉群并提供详细评分和定制化健身建议的应用。它适用于初学者和健身老手，旨在帮助用户达到更好的身体形态。该应用强调个人隐私，照片仅存储在用户设备上，并不提供医疗建议，所有建议应视为参考。
Replyio是一款AI通信助手，旨在通过智能化的回复和邮件摘要生成，提升用户在Gmail、Outlook、LinkedIn和Twitter上的沟通效率。它支持多语言，确保全球用户都能使用。Replyio提供数据安全保障，并且不采用基于信用的系统，提供无限使用权限。
OpinioAI是一个利用大型语言模型的AI市场研究平台，它可以帮助企业通过AI生成的合成样本来获取客户洞察，无需进行成本高昂的调查或访谈。该平台可以分析现有数据，合成新的洞见，并评估现有内容，以从目标受众的角度获取反馈。OpinioAI旨在帮助公司以更快、更简单、更经济的方式替代传统的数据收集和分析方法。
sherpa-onnx 是一个基于下一代 Kaldi 的语音识别和语音合成项目，使用onnxruntime进行推理，支持多种语音相关功能，包括语音转文字(ASR)、文字转语音(TTS)、说话人识别、说话人验证、语言识别、关键词检测等。它支持多种平台和操作系统，包括嵌入式系统、Android、iOS、Raspberry Pi、RISC-V、服务器等。
DocSolver是一个利用GPT-4 API技术构建的聊天机器人，专为处理和分析大型PDF文件设计。它能够通过自然语言处理技术，理解和回应用户关于PDF文件内容的查询，提供高效的信息检索和文档管理解决方案。
YouTube AI Extension是一个Chrome浏览器插件，允许用户直接与YouTube视频进行实时聊天，提供独特的交互体验。它支持多语言和上下文感知的响应，用户可以通过它获取视频摘要、提问并接收详细解释。
Aurora 是由微软研究院开发的大规模基础模型，它利用超过百万小时的多样化天气和气候数据进行训练。Aurora 利用基础模型方法的优势，为各种大气预测问题提供操作性预测，包括那些训练数据有限、变量异质性和极端事件的问题。Aurora 能在不到一分钟内生成5天的全球空气污染预测和10天的高分辨率天气预报，性能超越了最先进的传统模拟工具和最好的专业深度学习模型。这些结果表明，基础模型可以改变环境预测。
simple-one-api是一个适配多种大模型接口的程序，支持OpenAI接口，允许用户通过统一的API格式调用不同的大模型服务，简化了不同平台接口差异带来的复杂性。它支持包括千帆大模型平台、讯飞星火大模型、腾讯混元大模型等在内的多个平台，并且提供了一键部署和开箱即用的便利性。
ainave是一个专注于人工智能领域的社区平台，提供讨论、工具、文章、问答和职业发展等多元化内容。该平台旨在帮助用户提升AI技能，分享知识，获取灵感，并发现AI领域的突破性想法。目前处于BETA测试阶段，不断优化和更新。
Sleepytales是一个利用人工智能技术为儿童创造个性化睡前故事的网站。它可以根据孩子的姓名、喜爱的角色和主题快速生成引人入胜的故事，并由AI朗读。这项技术不仅丰富了孩子们的想象力，也为他们提供了一个美好的睡前体验。
Go Eliza是一个利用人工智能和机器学习技术，为用户提供个性化酒店预订服务的平台。其主要优势在于能够直接与酒店进行谈判，以获取最佳的个性化优惠价格。谈判过程通常需要几天到一周时间。
Detail是一款专为iPad设计的APP，适用于TikTok爱好者、播客创作者和Instagram影响者。它集成了强大的视频编辑器、便捷的提词器、智能字幕和尖端的摄像技术，通过AI驱动的编辑功能和即时视频预设，使创建惊人视频变得快速而简单。
AI Summary Extension是一个Chrome浏览器插件，利用OpenAI技术快速生成网页内容的摘要，并可以与Reabble的Send To Kindle扩展结合使用，提供摘要和全文，非常适合快速阅读和移动阅读。
