首页 > 业界 > 关键词  > OpenAI最新资讯  > 正文

OpenAI微调支持function calling

2023-10-07 15:56 · 稿源:站长之家

站长之家(ChinaZ.com)10月7日 消息:OpenAI的Fine-tuning支持function calling(函数调用)。在API中,包含一长串函数可能会消耗大量提示令牌,有时模型会产生幻觉或无法提供有效的JSON输出。

使用函数调用示例微调模型可以带来以下好处:

  • 即使没有完整的函数定义,也可以获得类似格式的响应。

  • 能够获得更准确和一致的输出。

什么是function calling(函数调用)?

尽管GPT非常强大,但在某些方面可能不够强大,或者您希望它能够调用您的工具来执行特定任务,这时候就需要使用函数调用。通过在提示中告诉GPT哪些工具可用,这些工具的功能是什么,以及它们需要什么样的参数格式。当GPT判断需要使用工具时,它会返回符合格式的参数,然后您的程序将执行相关函数,并将结果返回给GPT。

image.png

函数调用的示例:

假设GPT的乘法表现不佳,您可以编写一个计算器工具。使用GPT的API时,您可以在提示中告诉GPT有一个计算器工具,当遇到乘法问题时,提供乘数和被乘数,然后调用计算器。实际执行过程是这样的:GPT检测到乘法问题,返回乘数和被乘数,计算器执行乘法计算,将结果和之前的信息返回给GPT以继续处理。

函数调用的一个缺点是每次提示都需要包含function说明,这会消耗token。而在微调中,不是使用您的个人知识库,而是使用了一个包含各种工具的工具箱,GPT知道可以使用哪些工具,因此不需要每次在提示中添加说明。官方建议,为了提高准确性,微调后仍然建议包括function说明。

举报

  • 相关推荐
  • 大家在看

今日大家都在搜的词:

热文

  • 3 天
  • 7天