DRO-InstructZero: Distributionally Robust Prompt Optimization for Large Language Models

文章核心总结与翻译

一、主要内容

本文针对大型语言模型（LLMs）的提示词优化问题，提出了DRO-InstructZero框架。现有自动提示词搜索方法（如InstructZero）仅在单一评估分布下优化期望性能，导致在分布偏移或对抗性评估中表现退化，提示词的迁移能力较弱。DRO-InstructZero将分布鲁棒优化（DRO）与贝叶斯优化（BO）相结合，通过f-散度球定义评估分布周围的模糊集，采用鲁棒采集规则最大化最坏情况下的期望效用，同时保留贝叶斯搜索的查询效率。

实验基于32个BIG-Bench任务（涵盖格式改写、代码调试、翻译等），在相同查询预算下，DRO-InstructZero平均准确率从0.719提升至0.756（+3.6个百分点），中位数任务增益达+5.5个百分点；其中翻译任务平均提升11.3个百分点，代码调试提升10个百分点，格式改写提升5个百分点，且在分布偏移场景下保持稳定性能，未牺牲分布内任务（如因果推断）的表现（准确率仍超96%）。

二、创新点

1. 识别核心问题：明确现有提示词优化方法对分布偏移的脆弱性，指出单一分布下的平均性能优化无法满足真实场景需求。
2. 框架创新：提出将分布鲁棒优化与贝叶斯搜索融合的DRO-InstructZero，通过模糊集建模分布不确定性，优化最坏情况性能，实现提示词的鲁棒性与迁移性。
3. 高效实现：扩展指令耦合核函数以适配鲁棒性语义，采用高斯过程建模鲁棒得分，在不增