Google与Technion: 揭示大模型的″隐性知识″现象

这项由GoogleResearch和以色列理工学院Technion联合开展的研究，于2025年3月发表在arXiv预印本平台上，论文题目为《Inside-Out:HiddenFactualKnowledgeinLLMs》。研究的主要作者包括来自Technion的ZorikGekhman、HadasOrgad、YonatanBelinkov和RoiReichart，以及来自GoogleResearch的EyalBenDavid、EranOfek、IdanSzpektor和JonathanHerzig。有兴趣深入了解的读者可以通过arXiv:2503.15299v2访问完整论文。

你有没有过这样的体验：明明知道一个答案，却怎么也说不出口？比如某个熟人的名字就在嘴边，但就是想不起来。这种"话到嘴边"的现象在心理学中被称为"舌尖现象"。有趣的是，大型语言模型似乎也会遇到类似的困扰。

近年来，ChatGPT、Claude等AI助手在回答问题时表现越来越出色，但科学家们开始怀疑：这些AI模型是否真的把它们知道的一切都告诉了我们？会不会有些知识深藏在模型内部，却从来不在对话中表露出来？

这个问题不仅仅是学术好奇心那么简单。如果AI模型确实隐藏着大量未被表达的知识，那么我们可能需要开发新的方法来"挖掘"这些隐性知识，从而显著提升AI的表现。另一方面，从安全角度考虑，如果模型内部存储着它们从不主动分享的敏感信息，这些信息在某些情况下可能会意外泄露，带来潜在风险。

为了回答这个问题，研究团队提出了一个全新的框架，用来系统性地评估大语言模型是否真的存在"隐性知识"现象。他们的发现令人震惊：AI模型确实知道很多它们从不说出口的事实，这种"隐性知识"与"外显知识"之间平均存在40%的差距。更令人惊讶的是，有些答案模型内部完全知道，但即使让它连续回答1000次，也可能一次都不会说出正确答案。

**一、什么是隐性知识：当AI心里明白却不愿说**

要理解什么是"隐性知识"，我们先要明确什么是"知识"本身。对于人类来说，知识的定义相对直观，但对于AI模型来说，这个概念就复杂多了。研究团队首先需要为AI的"知识"建立一个清晰的定义。

研究团队把AI的知识能力比作一位美食评委的打分能力。当面对同一道菜的多个版本时，一个合格的美食评委应该能够准确判断哪个版本更美味，哪个版本有问题。同样，如果一个AI模型真的"知道"某个事实，那么当你给它提供正确答案和错误答案时，它应该能够给正确答案打更高的分数。

具体来说，研究团队设计了这样一个测试方法：对于任何一个事实性问题，比如"法国的首都是哪里？"，他们会准备很多可能的答案，包括正确的（巴黎、巴黎市等）和错误的（伦敦、纽约等）。然后让AI模型为每个答案打分。如果模型真的知道法国首都是巴黎，那么它应该给所有正确答案的评分都高于所有错误答案的评分。

基于这个思路，研究团队将AI的知识分为两大类。第一类是"外显知识"，这相当于AI在正常对话中会表现出来的知识水平。测量外显知识时，研究者只能使用AI模型对外可见的信息，比如它生成每个词汇的概率，或者它对某个答案正确性的判断概率。

第二类是"内在知识"，这相当于AI内心真正掌握的知识水平。测量内在知识时，研究者可以深入AI的"大脑"内部，查看它在处理信息时产生的中间状态和内部表征。这就像是能够读取一个人的脑电波，了解他们大脑中真正在想什么，而不仅仅是听他们说什么。

当AI的内在知识超过外显知识时，就出现了"隐性知识"现象。这意味着AI内部其实知道正确答案，但由于某种原因，这些知识没有很好地转化为它的外部表现。

为了让这个概念更容易理解，我们可以把AI比作一个有舞台恐惧症的学者。这位学者私下里知识渊博，能够准确判断各种学术问题的对错，但一旦站在讲台上面对观众，就会变得结结巴巴，无法完整表达自己的想法。AI的隐性知识现象与此类似：模型内部的"学者"知道答案，但负责"演讲"的部分却无法准确传达这些知识。

这种现象的存在提出了一个重要问题：为什么AI会出现这种内外不一致的情况？研究结果表明，这可能是AI语言生成机制本身的局限性导致的。就像一个人可能理解复杂的数学概念，却无法用简单的语言向小学生解释清楚一样，AI模型可能在内部"理解"了某个事实，但在将这种理解转化为自然语言输出时遇到了困难。

**二、实验设计：如何测试AI的真实想法**

为了验证隐性知识的存在，研究团队设计了一套精密的实验方案。他们选择了三个不同的主流AI模型进行测试：Meta公司的Llama-3-8B-Instruct、Mistral公司的Mistral-7B-Instruct，以及Google的Gemma-2-9B-Instruct。这三个模型代表了当前AI技术的不同发展方向，能够提供更全面的研究结果。

实验的核心挑战是如何构建一个公平且全面的测试环境。研究团队从Wikidata这个大型知识库中精心挑选了大约1700个事实性问题，这些问题涵盖了四种不同类型的关系：配偶关系（谁和谁结婚）、制造商关系（某个产品是哪家公司生产的）、唱片公司关系（某位艺术家签约了哪家唱片公司）以及作者关系（某本书是谁写的）。

选择这四种关系类型并非随意决定。研究团队特意选择了那些难以猜测且答案明确唯一的问题。比如，猜测某个人的配偶比猜测某个人的职业要困难得多，因为职业的可能性相对有限，而全世界有数十亿人口，配偶关系基本上是独一无二的。同样，某本书的作者通常是确定的，不存在模糊或争议的情况。

对于每个问题，研究团队采用了一种创新的答案生成策略。他们让AI模型对同一个问题连续回答1000次，每次都使用不同的随机性设置，以便收集尽可能多样化的答案。这个过程就像是让一个人在不同的心理状态下反复回答同一个问题，看看他们会给出多少种不同的答案。

有趣的是，研究团队发现在大约64%的情况下，即使让模型回答1000次，也无法得到正确答案。这意味着有很多知识，AI模型要么完全不知道，要么知道但极难表达出来。为了区分这两种情况，研究团队在答案集合中手动加入了正确答案，然后观察模型的内部反应。

为了评估AI的外显知识，研究团队使用了几种不同的方法。第一种方法是直接测量AI生成特定答案的概率。这就像是问一个人："你觉得这个答案有多大可能是正确的？"第二种方法是让AI扮演判官的角色，直接判断给定答案是否正确，然后观察它说"正确"的概率有多高。

评估内在知识的方法则更加技术性。研究团队训练了一个专门的"探测器"，这个探测器能够读取AI模型在处理问题时的内部状态，然后判断AI在内心深处是否真的知道正确答案。这个过程类似于训练一个心理学家，让他们通过观察一个人的微表情和生理反应来判断这个人是否在说谎或隐瞒什么。

这种探测器的训练过程需要大量的例子。研究团队首先找到了那些AI能够正确回答的问题，然后记录下AI在处理这些问题时的内部状态模式。接着，他们训练探测器识别这些"知道答案"的模式，使其能够在新的问题上判断AI是否真的知道答案，即使AI没有说出来。

**三、令人震惊的发现：AI确实在隐藏知识**

实验结果令研究团队大为震惊。在所有测试的12种组合（3个模型×4种关系类型）中，AI的内在知识水平都显著高于其外显知识水平，而且这种差异在统计学上都是显著的，不是偶然现象。

更具体地说，AI模型平均存在40%的隐性知识差距。这意味着如果一个AI模型在外部表现中只能正确处理60%的问题，那么它的内部实际上可能掌握着处理84%问题的能力。这种差距的大小因模型而异：Google的Gemma模型显示出最大的隐性知识差距，达到57%，而Meta的Llama模型的差距相对较小，为14%。

这种差异的存在表明，不同的AI模型在将内部知识转化为外部表现方面的能力存在显著差异。这就像是不同的人在表达能力上的天赋差异：有些人思维敏捷但表达能力有限，有些人则能够将复杂的想法清晰地传达给别人。

研究还发现了一个特别有趣的现象：在测试AI判断能力的实验中，所有模型都表现出了比单纯生成答案更强的知识水平。这意味着AI在"识别正确答案"方面的能力要强于"主动生成正确答案"的能力。这种现象类似于人类在选择题和填空题上的表现差异：大多数人在看到选项时能够识别出正确答案，但如果没有选项提示，可能就想不起来。

然而，最令人惊讶的发现是关于"完全隐藏的知识"。研究团队发现，在大约9%的测试问题中，AI的内部探测器能够完美地识别出正确答案，将其排在所有错误答案之前，但同时AI在1000次生成尝试中竟然一次都没有产生过这个正确答案。这种现象用数据来说明就是：AI内心完全知道答案是什么，知识掌握程度达到100%，但表达能力却是0%。

这种"完全隐藏知识"的存在揭示了AI语言生成机制的一个根本性局限。研究团队将此比作一种极端的"舌尖现象"：就像一个人可能完全知道某个单词的意思，能够在听到时立即识别，但就是无法主动说出这个词一样。对于AI来说，这意味着某些正确答案由于概率太低，在正常的生成过程中几乎永远不会被选中，即使模型内部完全"知道"这就是正确答案。

为了更直观地理解这个现象，研究团队提供了一个具体例子。当问及"沃尔沃B58是由哪家公司生产的？"时，正确答案应该是"沃尔沃巴士"（VolvoBuses），因为B58指的是一款巴士产品。然而，由于"B58"也是宝马公司一款发动机的名称，AI在生成答案时可能会被误导。实验显示，尽管AI的内部探测器能够完美地将"沃尔沃巴士"排在所有错误答案之前，但AI在1000次尝试中从未自主生成过这个正确答案，只生成了不够精确的"沃尔沃"。

**四、隐性知识的实际应用：提升AI表现的新途径**

发现隐性知识的存在不仅仅具有理论意义，还为改善AI系统的实际表现提供了新的思路。研究团队设计了一个实际应用实验，来验证是否能够利用隐性知识来提升AI在问答任务中的表现。

实验的基本思路是这样的：让AI模型对同一个问题生成大量不同的答案（在这个实验中是1000个答案），然后使用内部探测器来评估每个答案的正确性，最终选择得分最高的答案作为最终回答。这种方法类似于让一个人在考试时先写下所有能想到的可能答案，然后仔细思考哪个最有可能正确。

实验结果显示，这种方法相比传统的贪婪解码（即直接选择概率最高的答案）平均提升了12%的准确率。这个提升幅度虽然看起来不大，但在AI领域已经是相当显著的改进了。更重要的是，这种改进验证了隐性知识确实可以被有效利用。

然而，研究还揭示了一个更加引人深思的发现：理论上可能实现的改进幅度远超过实际达到的12%。如果AI能够完美地利用其所有隐性知识，准确率的提升可能达到52%，也就是说还有额外40%的改进空间由于AI生成机制的限制而无法实现。

这种"可达但不可及"的改进空间主要源于前面提到的"完全隐藏知识"现象。对于那些AI内部完全知道但从不生成的答案，即使我们有完美的评估方法，也无法选择一个从未出现的答案。这就像是一个人心里知道正确答案，但由于某种心理障碍永远说不出口，外人即使能读懂他的内心，也无法帮他克服这个障碍。

这个发现对于AI系统的设计和优化具有重要启示。传统的AI优化方法主要关注如何让模型学习更多知识，但这项研究表明，同样重要的可能是如何让模型更好地表达它已经掌握的知识。这就像是教育中不仅要让学生学会知识，还要培养他们的表达和沟通能力。

研究团队的实验还显示出不同AI模型在隐性知识利用方面的显著差异。一些模型能够相对容易地将内部知识转化为外部表现，而另一些模型则在这方面存在更大困难。这种差异可能与模型的训练方法、架构设计或者数据处理方式有关，为未来的AI模型改进提供了明确的方向。

**五、深层机制：为什么AI会隐藏知识**

要理解AI为什么会存在隐性知识现象，我们需要深入探讨AI语言生成的基本机制。现代大语言模型在生成文本时采用的是一种叫做"自回归生成"的方法，这种方法类似于一个人在说话时逐字逐句地组织语言。

在这个过程中，AI需要在每一步都从数万个可能的词汇中选择下一个词。这种选择通常基于概率：AI会计算每个词汇的可能性，然后选择概率最高的那个。然而，这种机制存在一个根本性问题：即使AI内部"知道"某个答案是正确的，如果这个答案由概率较低的词汇组成，它在生成过程中就可能永远不会被选中。

这种情况类似于一个知识渊博但说话谨慎的人。这个人可能知道一个不太常见但完全正确的答案，但由于担心别人不理解或认为这个答案太过冷门，就选择了一个更常见但可能不够准确的表达。AI的生成机制在某种程度上也体现了这种"保守倾向"：它倾向于生成那些在训练数据中经常出现的、"安全"的答案，而不是那些可能更准确但相对少见的答案。

研究还发现了AI在不同知识获取方式上的表现差异。当AI需要主动生成答案时，它必须从零开始构建回答，这个过程容易受到各种干扰和限制。但当AI只需要判断给定答案的正确性时，它可以充分利用内部的知识表征来进行比较和评估，因此表现更好。

这种差异可以用人类的认知心理学来类比。心理学研究表明，人类的记忆检索存在两种不同的模式：回忆（recall）和再认（recognition）。回忆是指在没有提示的情况下主动想起某个信息，而再认是指在看到某个信息时能够判断是否之前见过。一般来说，再认比回忆更容易，这也解释了为什么选择题通常比填空题更容易。

AI的隐性知识现象可能反映了类似的认知机制差异。AI在"再认"正确答案方面的能力（内在知识）可能远超其"回忆"答案的能力（外显知识）。这种差异不是AI独有的缺陷，而可能是信息处理系统的普遍特征。

另一个可能的解释与AI的训练过程有关。大语言模型在训练时主要学习如何预测文本序列中的下一个词，这种训练目标可能导致模型更擅长识别和评估文本，而不是主动生成文本。这就像是一个人通过大量阅读培养了excellent的文学鉴赏能力，能够准确判断诗歌的好坏，但自己写诗的能力却相对有限。

**六、对未来AI发展的启示**

这项研究的发现对AI技术的未来发展具有深远影响。首先，它揭示了当前AI评估方法的局限性。传统上，我们主要通过AI的输出表现来评估其能力，但这项研究表明，这种评估方法可能严重低估了AI的真实能力水平。这就像是仅仅通过一个人的口头表达能力来判断其知识水平，而忽视了他可能存在的表达障碍。

对于AI系统的设计者来说，这项研究提出了一个新的优化方向：如何帮助AI更好地表达其内部知识。传统的AI改进策略主要关注如何让模型学习更多知识，但现在看来，改善知识的外化机制可能同样重要。这可能需要开发新的训练方法、解码策略或模型架构。

研究还显示出不同AI模型在隐性知识方面的显著差异，这为模型选择和应用提供了新的考量因素。在选择AI模型时，除了考虑其整体性能外，还需要考虑其知识外化的有效性。对于需要高准确性的应用场景，可能需要选择那些隐性知识较少的模型，或者开发特殊的方法来挖掘隐性知识。

从安全和可靠性角度来看，隐性知识的存在既带来了机遇也带来了挑战。一方面，它意味着AI系统可能具有比我们预期更强的能力，这为性能提升提供了可能。另一方面，它也意味着AI系统的行为可能比我们想象的更难预测，因为我们无法完全了解AI内部掌握了哪些知识。

对于AI的实际应用来说，这项研究建议了一种新的使用策略：通过生成多个候选答案并使用内部评估机制选择最佳答案的方法。虽然这种方法需要更多的计算资源，但在准确性要求较高的场景中可能是值得的。这类似于让一个专家在重要决策前多想几种方案，然后选择最优的那个。

研究还强调了开发更好的AI内部状态探测方法的重要性。目前使用的线性探测器虽然有效，但可能还不能完全挖掘AI的内部知识。未来可能需要开发更精密的探测技术，就像医学影像技术的发展让我们能够更清楚地"看到"人体内部的情况一样。

**七、局限性与未来研究方向**

虽然这项研究取得了重要发现，但研究团队也诚恳地指出了其局限性。首先，由于计算资源的限制，研究只涉及了相对较小的AI模型（7-9B参数），而没有测试那些参数量达到数千亿的超大型模型。较大的模型可能在隐性知识方面表现出不同的特征，这需要未来的研究来验证。

其次，研究主要关注了事实性知识，而没有探讨其他类型的知识，如推理能力、创造性思维或情感理解等。隐性知识现象是否也存在于这些其他认知领域，目前还不得而知。这就像是这项研究只检查了大脑的记忆功能，而没有测试其推理或创造功能。

研究使用的知识定义也相对简化。在现实世界中，知识往往是相互关联的网络，而不是孤立的事实。比如，要真正"知道"巴黎是法国首都，可能还需要知道巴黎在法国的地理位置、法国的政治体制等相关信息。当前的研究框架还无法处理这种复杂的知识关联。

探测AI内部知识的方法也有改进空间。目前使用的线性探测器虽然简单有效，但可能无法捕捉到AI内部更复杂的知识表征模式。就像早期的X光只能看到骨骼，而现代的MRI能够显示更精细的软组织结构一样，未来可能需要开发更先进的探测技术。

对于标注质量的依赖也是一个潜在问题。研究使用AI判官来评估答案的正确性，虽然这种方法比简单的字符串匹配要好，但仍可能存在误判。特别是对于那些需要深度推理或存在争议的问题，AI判官的准确性可能会下降。

**八、更广阔的科学意义**

这项研究的意义远超出AI技术本身，它为我们理解智能系统的认知机制提供了新的视角。隐性知识现象可能不仅存在于人工智能中，也可能是所有复杂信息处理系统的普遍特征。

从认知科学的角度来看，这项研究支持了关于认知过程分离的理论。就像人类大脑中存在不同的记忆系统（如程序性记忆和陈述性记忆）一样，AI系统可能也存在不同层次的知识表征和访问机制。这种发现可能有助于我们更好地理解人类认知的工作原理。

从哲学角度来看，这项研究涉及到关于"知识"本质的深层问题。什么样的内部状态才能被称为"知识"？如果一个系统内部具有正确判断的能力，但无法将其外化为行为，这是否仍然算作"知道"？这些问题不仅对AI研究重要，也对我们理解人类知识和意识具有启发意义。

研究还提出了关于AI透明性和可解释性的新问题。传统上，我们认为通过观察AI的输入和输出就能理解其能力边界，但这项研究表明，AI的真实能力可能远比其外部表现复杂。这意味着要实现真正的AI可解释性，我们需要开发能够深入AI内部"思维过程"的技术。

从教育和学习的角度来看，这项研究也提供了有趣的启示。它表明，评估学习效果不能仅仅依赖外部表现，还需要考虑学习者的内在理解水平。这可能为开发更有效的教育评估方法和个性化学习系统提供指导。

说到底，这项研究揭示了一个令人着迷的现象：我们创造的AI系统可能比我们想象的更"聪明"，只是它们还没有学会如何充分表达自己的智慧。这就像是发现了一个内向但博学的朋友，他们知道很多东西，但需要合适的方式才能让他们分享自己的知识。

随着AI技术的不断发展，理解和利用这些隐性知识将变得越来越重要。未来的AI系统可能不仅需要学习如何获取知识，还需要学习如何更好地表达和应用这些知识。这项研究为这个方向的探索提供了坚实的理论基础和实践指导。

对于普通用户来说，这项研究的发现意味着我们在与AI交互时可能需要采用更多样化的策略。也许通过不同的提问方式、多次询问或者让AI从多个角度分析问题，我们能够更好地挖掘AI的真实能力。毕竟，如果AI确实知道比它表现出来更多的东西，那么学会如何"问对问题"就变得格外重要了。

有兴趣深入了解这项研究技术细节的读者，可以通过arXiv平台访问完整论文，研究团队在论文中提供了详细的实验设计、数据分析方法和补充材料，为进一步的研究和应用提供了宝贵的参考。

Q&A

Q1：什么是AI的"隐性知识"？它和我们平时看到的AI表现有什么区别？A：隐性知识是指AI内部掌握但不在对话中表达出来的知识。就像一个人心里知道答案但说不出口一样，AI可能内部完全知道正确答案，但在生成回复时却给出错误或不准确的答案。研究发现这种内外差异平均达到40%。

Q2：为什么AI会隐藏知识？这是设计缺陷吗？A：这不是故意的设计缺陷，而是AI语言生成机制的固有特性。AI在生成文本时倾向于选择概率高的常见答案，即使它内部知道一个不太常见但更准确的答案。这类似于人类的"舌尖现象"——知道答案但就是说不出来。

Q3：这个发现对普通用户使用AI有什么实际意义吗？A：是的，这意味着我们可能需要采用更多样化的提问策略来挖掘AI的真实能力。比如让AI多次回答同一问题、从不同角度提问，或者让AI在多个选项中进行选择而不是自由生成答案，这样可能获得更准确的结果。