该研究提出的 RR(Rethinking with Retrieval)方法不需要额外的训练或微调,也不受大型语言模型(LLM)输入长度限制,在常识推理、时间推理和表格推理任务中显著提高了 LLM 性能。
预训练语料库中存在过时、不正确或缺失的相关知识; 预训练时对相关知识的存储有误; 推理阶段对相关知识的错误检索。

Auto Byte
专注未来出行及智能汽车科技
微信扫一扫获取更多资讯
Science AI
关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展
微信扫一扫获取更多资讯
该研究提出的 RR(Rethinking with Retrieval)方法不需要额外的训练或微调,也不受大型语言模型(LLM)输入长度限制,在常识推理、时间推理和表格推理任务中显著提高了 LLM 性能。
一种简单的模型或启发法,用作比较模型效果时的参考点。基准有助于模型开发者针对特定问题量化最低预期效果。