本文概要:
1. Meta 推出了一种名为 "Shepherd" 的新的生成式 AI 工具，旨在通过使用 AI 本身来改进生成式 AI 工具产生的不准确或误导性的回答。
2. "Shepherd" 利用高质量的反馈数据集对模型的回答进行批判性评价，并提出改进建议，以提供更准确的生成式 AI 输出。
3. 这项技术的目标是通过迫使生成式 AI 系统重新评估其错误或不完整的答案，以产生更好的回复。
站长之家（ChinaZ.com）8月16日 消息:Meta 推出了一种名为 "Shepherd" 的新的生成式 AI 工具，旨在通过使用 AI 本身来改进生成式 AI 工具产生的不准确或误导性的回答。
通过对模型的回答进行批判性评价，并提出改进建议，"Shepherd" 能够帮助用户更好地理解并完善生成式 AI 的输出。
正如Meta所解释的:
“我们方法的核心是高质量的反馈数据集，我们根据社区反馈和人工注释来整理该数据集。尽管 Shepherd 很小（7B 参数），但它的批评与包括 ChatGPT 在内的已建立模型的批评相同或更受欢迎。使用 GPT-4进行评估，与竞争对手相比，Shepherd 的平均胜率达到53-87%。在人类评估中，Shepherd 严格优于其他模型，并且平均与 ChatGPT 密切相关。”
尽管这项技术仍处于发展阶段，最终的目标是将这种反馈机制整合到主要的 AI 模型中，以产生更准确的回答。现在已经有一些 AI 系统（如 GPT-4）能够产生比当前可用的商业化 AI 系统更好的结果，并且一些社交媒体平台已经开始使用 GPT-4作为内容审核的基础，其表现甚至可以媲美人工审核。
这些进展可能会在社交媒体平台的 AI 应用中带来重大的突破。尽管这些系统可能永远无法像人类一样准确地理解细微差别和含义，但是随着技术的不断进步，生成式 AI 将越来越成为我们工作流程中不可或缺的辅助工具。
（举报）
