近日，数据智能公司 Databricks 推出了一种全新的大语言模型微调方法 ——TAO（Test-time Adaptive Optimization），这一技术的出现为开源模型的发展带来了新的希望。通过运用无标注数据和强化学习，TAO 不仅在降低企业成本方面表现出色，更是在一系列基准测试中取得了令人瞩目的成绩。
根据科技媒体 NeoWin 的报道，TAO 微调后的 Llama3.370B 模型在金融文档问答和 SQL 生成等任务中，展现出了优于传统标注微调方法的性能，甚至逼近了 OpenAI 的顶级闭源模型。这一成果标志着开源模型在与商用 AI 产品竞争中的又一次重大突破。
TAO 方法的核心在于其独特的 “测试时计算” 理念，能够自动探索任务的多样性，同时结合强化学习来优化模型，从而避免了传统微调所需的人工标注成本。在多项企业基准测试中，TAO 微调的 Llama 模型成绩斐然:
- 在 FinanceBench 基准测试中，该模型在7200道 SEC 文档问答中取得了85.1的高分，超过了传统标注微调（81.1）和 OpenAI 的 o3-mini(82.2)的成绩。
- 在 BIRD-SQL 测试中，TAO 微调的 Llama 模型得分为56.1，接近 GPT-4o 的58.1，远超传统标注微调（54.9）。
- 在 DB Enterprise Arena 中，TAO 模型得分为47.2，虽然略低于 GPT-4o 的53.8，但仍然显示了强劲的竞争力。
TAO 技术为开源模型的持续进化打开了一扇新的大门。随着用户使用量的增加，模型将通过反馈数据进行自我优化。目前，Databricks 已在 Llama 模型上开始了私测，企业可通过申请参与这一创新的体验。
这一新技术的推出，不仅是开源 AI 领域的一次创新突破，也是对未来大语言模型发展的重要指引。随着更多企业的参与，TAO 微调方法有望进一步推动开源模型的性能提升，让开源 AI 在商业化应用中展现更大潜力。