研究：模型能背下传记全文，却答不出人物在哪工作

一项用虚构传记预训练小模型的研究发现，模型能逐字复述训练文本，却难以提取事实回答问题；在1.24亿参数的GPT-2上，通过改变措辞、打乱句序并重复全名，事实问答准确率从9.7%升至96.2%。作者指出，这属于小模型合成事实实验，不能直接等同于商业模型会记住品牌信息，重复曝光能否转化为可用记忆仍取决于模型提供方是否收集并用于训练。