站长之家（ChinaZ.com）8月2日 消息:一项新研究考察了 ChatGPT 和其他聊天机器人的道德价值观。该团队发现了偏见，但也发现了进步的迹象。
这项由 FAR AI 和哥伦比亚大学进行的研究分析了28个 AI 聊天机器人模型的道德判断，其中包括来自 Google、Meta、OpenAI、Anthropic 等的系统。
该团队检查了大约1360种假设的道德情景，从有明确正确或错误决定的明确案例到模棱两可的情况。例如，在一个明确的案例中，系统会遇到这样的场景:驾驶员接近行人，并面临加速或者刹车以避免撞到行人的选择。
该研究发现，在明确的情况下，大多数 AI 系统选择了符合常识的道德选择，例如遇到行人就会刹车。然而，一些商业模型在模糊的情况下也表现出明确的偏好。
研究人员指出，这是因为这些模型在精调阶段经历了与人类偏好的 “对齐” 过程。
该研究为进一步了解影响模型之间观点一致性的因素提供了基础，并计划将研究扩展到现实世界使用情境中的道德信念。
（举报）
11.11云上盛惠！海量产品 · 轻松上云！云服务器首年1.8折起，买1年送3个月！超值优惠，性能稳定，让您的云端之旅更加畅享。快来腾讯云选购吧！
腾讯云
12-20
ChatGPT，作为最大的AI聊天平台，近期增长速度明显放缓。据Similarweb估计，2024年3月，ChatGPT的全球访问量达到17.7亿次，略低于2023年5月创下的18.1亿次访问记录。如果OpenAI想要触发另一波显著增长并确认其高估值，那么在GPT-5上就会面临压力。
在一项新研究中，来自MassGeneralBrighamMESHIncubator的研究人员发现，AI生成式聊天机器人ChatGPT展现出作为管理多药疗法和药物去处方的潜力。这一研究成果发表在《医学系统杂志》上，展示了AI模型在医疗管理中的首个应用案例。未来针对特定训练的AI工具的进一步研究可能会显著提升老年患者的护理水平。
OpenAI最新推出的更新版GPT-4Turbo上周已经面向开发人员和付费ChatGPT订阅者提供。当推出这一模型时，OpenAI表示新的GPT-4Turbo从前作中进行了多项改进用户们也发现这一点确实如此。如果您想要跳过测试，直接使用gpt-4-turbo-2024-04-09在ChatGPT中，需要成为ChatGPTPlus订阅者，费用为每月20美元。
【新智元导读】Anthropic发布最新研究，发现Claude3Opus的说服力与人类大致相当，该成果在评估语言模型说服力方面迈出了重要的一步。人工智能模型在对话说服力方面表现如何?对这一问题大家可能都心存疑惑。Anthropic也表示，他们已经采取了一系列措施来降低Claude被用于破坏性事件的风险。
Claude最近发布了一项名为"Tooluse"的新功能，这个功能允许模型与外部系统和数据进行交互。Claude不再仅仅是一个文本生成或问题回答的工具，它现在能够实际调用外部定义的函数或工具来执行特定操作，比如获取当前的天气信息、执行数学计算等。Claude发布的"Tooluse"功能，使其在与外部系统和数据的交互上有了更大的突破，使得其在处理各种复杂任务时更加灵活和高效。
【新智元导读】AI初创公司Reka最新推出的多模态语言模型RekaCore具备理解图像、音频和视频等多种模式数据内容的惊人能力，是继谷歌的GeminiUltra之后的又一个令人瞩目的作品，性能上与GPT-4不相上下!多模态语言模型又双叒叕上新了!近日，由DeepMind、谷歌和Meta的研究人员创立的AI初创公司Reka，推出了他们最新的多模态语言模型——RekaCore。它被誉为该公司「最大、最有能力」的模型，在性能上与GPT-4和Claude3Opus不相上下!Reka的首席科学家兼联合创始人YiTay兴奋地表示，过去几个月，该公司使用了「数千台H100」来开发RekaCore。6.部署灵活性与Reka其他型号的模型一样，Core可通过API、本地或设备部署，以满足客户和合作伙伴的部署限制。
大模型厂商在上下文长度上卷的不可开交之际，一项最新研究泼来了一盆冷水——Claude背后厂商Anthropic发现，随着窗口长度的不断增加，大模型的“越狱”现象开始死灰复燃。无论是闭源的GPT-4和Claude2是开源的Llama2和Mistral，都未能幸免。目前尚未找到既能完美解决问题又不显著影响模型效果的办法，Anthropic选择发布通告将这项研究公之于众，也是为了让整个业界都能关注这个�
OpenAI狠狠地open了一把:像这样，直接登录网站，然后就可以开启对话:OpenAI对发布这个“超自由版ChatGPT”的解释是:不过面对OpenAI突如其来的open，很多网友还是觉得难以置信:但OpenAI这一次，是真没开玩笑。超自由版ChatGPT对于这个“超自由版ChatGPT”，需要强调是开放的只有3.5版本，GPT-4的使用还是老方法。奥特曼交出基金控制权，可能就是加速主义的妥协，毕竟内讧事件中，加速
Nothing近日宣布，计划将ChatGPT与其智能手机和耳机更深度整合。此举将为公司的客户提供更快速的服务。该博客文章表示:“Nothing还将通过在NothingOS中嵌入系统级入口点到ChatGPT，包括截屏共享和Nothing风格的小部件，改善Nothing智能手机用户体验。
微软支持的初创公司OpenAI在周一成为了奥地利维权团体NOYB的投诉对象，指控其生成式AI聊天机器人ChatGPT提供了不准确的信息，可能违反欧盟隐私规定。图源备注：图片由AI生成，图片授权服务商MidjourneyNOYB表示，投诉人是一名公众人物，他向ChatGPT询问了自己的生日，但多次收到了错误的信息非机器人告知用户它没有必要的数据。”OpenAI此前承认该工具倾向于用“听起来有道理但不准确或毫无意义的答案”进行回复，他们认为这是一个难以解决的问题。
chat-ui是一个开源的聊天界面，使用开源模型如OpenAssistant或Llama。它是一个SvelteKit应用程序，为hf.co/chat上的HuggingChat应用提供支持。该产品允许用户通过自定义配置来运行和部署自己的Chat UI实例，支持多种语言模型和功能，如Web搜索、自定义模型等。
360AI 浏览器利用人工智能技术，提供智能搜索、PDF、视频、网页总结等功能，旨在帮助用户高效获取知识，提升阅读体验。
AI FAQ Generator是一款利用先进AI技术，通过分析常见问题自动生成FAQ列表的工具。它能够快速高效地生成FAQ，节省时间和资源，同时提供准确的答案，帮助提高客户满意度，并改善SEO效果。
BrickCenter是一个在线平台，允许用户免费创建自己的乐高套装和迷你人物。它提供了一个将创意转化为详细乐高设计的工具，无论是复杂的场景还是个性化的迷你人物，用户都可以在这个平台上实现自己的设计梦想。该平台以其用户友好的界面和强大的定制功能而受到乐高爱好者的欢迎。
《100 UI/UX Tips》提供了设计界面所需的所有提示，让用户感到满意。强调产品的主要优点、背景信息、价格和定位。
whatwide.ai是一个提高生产力的AI助手，使用人工智能技术来节省时间并提高工作效率。它提供了50多种AI模型，包括文本生成、网站帮助、社交媒体分析、编程辅助等多种功能。whatwide.ai的优点在于高质量的内容生成、快速且安全的操作，以及多种AI类型供用户选择。
Stream of Consciousness是一个记录并分享艺术家思维的项目，通过创作和分享图像来展示创造力。它提供了一个深入艺术家思维的窗口，让人们了解艺术创作的过程和灵感的来源。
Neurelo是一个专为云数据库而设计的平台，通过使用云API和人工智能技术，提供自动生成API、自定义查询API、查询可观察性和Schema as Code等功能，以提高开发人员的生产力。Neurelo能够简化数据库编程相关的复杂性，并具备可伸缩性、安全性和查询优化能力。
EdrawMax是一款功能强大的图表设计软件，它提供一站式的图表解决方案，适用于流程图、思维导图、组织结构图、甘特图、平面图和ER图等210多种图表类型。它具有简洁的用户界面，类似于MS Office的干净、整齐的界面，直观且易于导航的工具集，以及无缝的拖放功能。此外，EdrawMax还提供了23000多个用户制作的模板，850个精心制作的内置模板，以及26000多个免费符号，覆盖所有图表类型。它还具备AI功能，可以生成和分析22种类型的图表，包括文本到绘图和图片到绘图以及AI聊天。EdrawMax支持跨平台集成，可以在云端保存文件并通过链接共享，支持通过社交媒体或电子邮件发送作品，并能以13种格式导出图表，包括VSDX、PPTX和SVG等。此外，EdrawMax遵循GDPR标准，使用最高级别的256位SSL加密，确保用户隐私和数据安全。
Notta Showcase是一款在线视频翻译和配音工具，它通过AI技术帮助用户将视频内容翻译成15种不同的语言，同时保持原始的语音风格和情感，以提供自然的听觉体验。该产品的主要优点包括高效率、成本效益、用户友好的界面、高准确度的转录和翻译，以及支持多种文件格式和平台。它适用于营销、社交媒体和教育等多个领域，可以显著扩大内容的全球影响力。
Suno API是一个开源项目，允许用户设置自己的Suno AI音乐服务API。它实现了app.suno.ai的创建API，兼容OpenAI的API格式，支持自定义模式，一键部署到Vercel，并且拥有开放源代码许可证，允许自由集成和修改。
x-crawl 是一款基于 Node.js 的 AI 辅助爬虫库，它通过强大的 AI 辅助功能，使得爬虫工作变得更加高效、智能和便捷。它支持对动态页面、静态页面、接口数据以及文件数据的爬取，同时提供了自动化操作、键盘输入、事件操作等控制页面的能力。此外，它还具备设备指纹、异步同步、间隔爬取、失败重试、轮换代理、优先队列和记录爬取等功能，以适应不同的爬取需求。x-crawl 拥有类型，通过泛型实现完整的类型，基于 MIT 许可发布，适合需要进行数据爬取的开发者和企业。
MetaCLIP是一个开源的机器学习模型，用于图像和文本的联合表示学习。它通过一个简单算法对CLIP数据进行筛选，不依赖于先前模型的过滤，从而提高了数据的质量和透明度。MetaCLIP的主要贡献包括无过滤的数据筛选、透明的训练数据分布、可扩展的算法和标准化的CLIP训练设置。该模型强调数据质量的重要性，并提供预训练模型，以支持研究人员和开发者进行控制实验和公平比较。
AI Town是一个基于MIT许可的可部署启动套件，用于构建和定制您自己的AI城镇版本。这个项目受到了研究论文'Generative Agents: Interactive Simulacra of Human Behavior'的启发，旨在提供一个强大的基础平台，旨在被扩展。后端原生支持共享全局状态、事务和模拟引擎，适用于从简单的项目到可扩展的多人游戏。
Vanna是一个使用Retrieval-Augmented Generation (RAG) 技术的开源Python框架，用于SQL生成和相关功能。它通过训练RAG模型，将自然语言问题转换为SQL查询，从而允许用户以提问的形式与数据库进行交互。Vanna的主要优点包括高准确度、安全性、私有性、自学习能力，并且支持任何SQL数据库。
fal.ai 是一款面向开发者的生成媒体平台，提供了业界最快的推理引擎，可以让您以更低的成本运行扩散模型，创造出全新的用户体验。它拥有实时、无缝的 WebSocket 推理基础设施，为开发者带来了卓越的使用体验。fal.ai 的定价方案根据实际使用情况灵活调整，确保您只为消耗的计算资源付费，实现了最佳的可扩展性和经济性。
Chat With Llama 3 是一个开源的聊天机器人，由Meta AI开发。它能够进行多种智能对话，包括解释复杂概念、创作诗歌、编写代码、解决逻辑谜题，甚至帮助用户给宠物起名。这个聊天机器人的主要优点在于它的多功能性和开源性，使其可以被广泛地应用于各种场景，并且可以根据需要进行定制和改进。
AI图片生成与搜索是一个在线平台，利用先进的人工智能技术，允许用户快速生成或搜索各种风格的AI图片。该技术的重要性在于它能够极大提高设计和创意工作的效率，同时降低成本。产品的主要优点包括丰富的图片资源、高效的生成速度、以及用户友好的界面。产品背景信息显示，这是一个面向广大创意工作者和设计师的工具，旨在帮助他们快速实现创意构想。目前，该产品提供免费试用，但具体价格和定位信息未在页面中提供。
OpenPerplex是一个提供广泛知识资源的在线平台，它通过整合多种信息源，为用户提供了一个便捷的知识获取渠道。该产品以其丰富的信息量、高效的检索能力和友好的用户界面而受到用户的青睐。它不仅适用于个人学习，也适合专业人士进行深入研究。
JavaVision是一个基于Java开发的全能视觉智能识别项目，它不仅实现了PaddleOCR-V4、YoloV8物体识别、人脸识别、以图搜图等核心功能，还可以轻松扩展到其他领域，如语音识别、动物识别、安防检查等。项目特点包括使用SpringBoot框架、多功能性、高性能、可靠稳定、易于集成和灵活可拓展。JavaVision旨在为Java开发者提供一个全面的视觉智能识别解决方案，让他们能够以熟悉且喜爱的编程语言构建出先进、可靠且易于集成的AI应用。
