Google Research研究:简单重复提示词可大幅提

互联网资讯
三言科技 互联网资讯 发布于 4小时前
本条新闻为单纯事实消息的时事新闻,转载自三言科技,版权归源站所有,如有侵权,烦请联系我们

据“新智元”,Google Research的一项新研究揭示了一个简单却极其有效的提示词技巧:通过将问题复制粘贴再说一遍,可显著提升大模型在非推理任务上的准确率。在实验中,Gemini、GPT-4o、Claude和DeepSeek等主流模型的准确率从21.33%飙升至97.33%,最高提升达76个百分点。这种技巧颠覆了以往复杂的提示工程,如“思维链”“多样本学习”等,且几乎不影响生成速度。

研究人员对七个常见基准测试和七种主流模型进行了对比测试,发现“提示词重复”在70组正面对比中赢了47组,无一败绩。特别是在需要从长篇大论中精确检索信息的任务上,效果显著。例如,在“NameIndex”测试中,Gemini 2.0 Flash-Lite的准确率从21.33%提升到97.33%。

这一现象背后的原因是Transformer模型的“因果盲点”。模型按从左到右的顺序处理文本,无法“回头看”,导致信息处理存在缺陷。而“提示词重复”相当于给模型打了一个补丁,让第二遍阅读获得类似“上帝视角”的注意力效果,从而更准确地对齐任务所需的上下文。

此外,这种技巧几乎不会增加延迟时间,因为LLM处理信息的Prefill阶段高度可并行,现代GPU的强大算力使得即使输入内容翻倍,用户也几乎感受不到差异。这意味着开发者无需升级到更大更贵的模型,就能实现高准确率的检索和抽取任务。

不过,“复读机”战术主要适用于非推理任务,不适用于需要逐步推导的场景。在安全方面,重复可能放大某些指令的显著性,对越狱成功率的影响需要专门实验。同时,防御者也可以利用这一机制,通过在系统提示词开头重复安全规则,增强模型对安全约束的注意力。

点赞 0 收藏(0)  分享
0个评论
  • 消灭零评论
本版公告

欢迎访问资讯板块,我们将在本版块为您带来最新最全最热的资讯,包含互联网、科技、数码、电脑、科普、体育、娱乐、国内等新闻。所有新闻都为单纯事实消息的时事新闻,转载均注明了来源,版权归源站所有,如有侵权,烦请联系我们

更多【互联网】资讯...
曝腾讯向GitHub发函,要求下架“用户可获取自己 0
不学抖音学INS,OpenAI想站着把钱挣了 0
OpenAI终向广告“妥协”,GEO逻辑被验证无误了 0
B站百大UP主名单出炉,优质内容创作者集聚上海 0
Gemini准确率从21%飙到97%!谷歌只用了这一招: 0
图灵巨头反水!ICML新规血洗学术圈,学术散户只 0
Google Research研究:简单重复提示词可大幅提 0
马斯克:向OpenAI和微软索赔 9300亿元 0
L3自动驾驶也来合川尝年味 0
为直播间卖食品“划红线、立规矩”(政策问答· 0