文章核心总结与翻译
一、主要内容
文章聚焦大语言模型(LLMs)的上下文感知翻译能力,通过DiscEvalMT英-法基准测试(含指代照应和词汇衔接两类跨句依赖任务),评估了12个不同家族的LLM(含GPT、Llama、Mistral等)。研究设计两项任务:一是区分正确与看似合理的错误翻译,二是直接生成符合上下文的正确翻译,重点对比了鼓励思维链(CoT)推理的提示词与普通提示词的效果。结果显示,GPT-4、GPT-4o和Phi等顶尖模型借助CoT推理,在第一项任务中准确率达90%左右,第二项任务的COMET评分约92%,且存在“强者愈强”效应——模型基础性能越好,推理提示带来的提升越显著。
二、创新点
- 系统评估12个LLM在跨句依赖翻译任务中的表现,刷新了DiscEvalMT基准的最优成绩。
- 证实CoT推理提示能提升翻译连贯性,但仅对顶尖模型有效,且提升效果与模型基础分数正相关,提出“强者愈强”效应。
- 验证了BLEU、chrF、BERTScore和COMET四种评估指标的一致性,确保翻译质量评分的可靠性。
- 设计针对性推理提示词(分指代照应和词汇衔接任务),通过分步引导明确翻译决策,为上下文感知翻译提供新方案。
三、核心部分翻译(Markdown格式)
Abstract(摘要)
本文评估了大语言模型(LLMs)翻译含跨句依赖文本的能力。我们采用英-法DiscEv
订阅专栏 解锁全文
438

被折叠的 条评论
为什么被折叠?



