文章总结与翻译
一、主要内容
本文提出了一种名为Natural Language Tools(NLT) 的框架,旨在替代大型语言模型(LLMs)中传统的程序化JSON工具调用方式,通过自然语言输出实现工具调用。核心思路是将工具选择与响应生成解耦,消除结构化格式带来的任务干扰和约束,从而提升工具调用性能。
研究通过10个模型、6400次试验(覆盖客户服务和心理健康两个领域)验证了NLT的有效性:
- 工具调用准确率平均提升18.4个百分点(从69.1%提升至87.5%),其中开源模型受益最显著(提升26.1个百分点),闭源模型也有10.6个百分点的提升;
- 输出方差降低70%,稳定性大幅提升;
- 在提示词扰动场景下仍保持性能优势,且能为缺乏原生工具调用支持的模型扩展该能力;
- 总令牌使用量减少31.4%,计算效率更高。
NLT采用模块化三阶段架构:工具选择(模型输出各工具的YES/NO决策)、工具执行(解析器处理决策并执行相关工具)、响应生成(将工具执行结果传递给输出模块),其提示词设计包含角色定义、目标说明、工具列表、输出格式描述和示例五个核心组件。
二、创新点
- 解耦工具选择与响应生成:打破传统结构化工具调用中“理解查询、选择工具、遵守格式、生成响应”的多任务耦合模式,将工具选择独立为专属模块,减少任务干扰;
- 自然语言替代程序化格式:摒弃JSON
订阅专栏 解锁全文
223

被折叠的 条评论
为什么被折叠?



