问一个语言模型:“鲸鱼、鲨鱼和海豚中,哪一个最不同?”它通常会把鲨鱼挑出来,并说明鲸鱼和海豚是哺乳动物。换成不熟悉的措辞,它往往仍能保持分类;继续追问呼吸、繁殖或演化关系,它还能沿着同一个概念网络作出推断。

这些表现显然多于背诵一句词典定义,却仍没有自动回答“大模型是否真正拥有概念”。行为相似可能来自不同机制,内部有稳定表征也不等于具有感觉经验,更不等于成为能够承担责任的主体。

前五篇已经把概念拆成形成来源、功能、结构、检验和变化层次。本篇用这些判准重新提出系列最初的问题:关于大模型的概念能力,现有证据支持哪些有限结论,哪些判断仍属于哲学解释或制度选择?

先说明我们在谈哪一种模型

“大模型”不是单一对象。纯文本基础模型主要通过预测训练学习语言材料;聊天模型还经过指令与偏好训练;检索增强系统能读取外部资料;多模态模型接收图像、声音或视频;智能体可以调用工具并根据环境结果继续行动。把这些系统统称为“只从文本学习”,已经无法准确描述当前技术。

即使限定在文本模型,“预测下一个词”也只是训练目标,不是内部只能保存相邻词频的证明。为了在许多上下文中降低预测误差,模型可能形成跨词语、跨句式乃至跨语言复用的表征。我们需要通过行为测试、表征比较和因果干预研究这些结构,而不能仅凭训练目标宣布它已经理解或绝不可能理解。

另一方面,多模态输入和工具使用也不会自动赋予人类式经验。模型取得的是经过传感器、数据管线、接口权限和任务设计筛选的信号;它怎样整合这些信号、能否长期学习,以及失败后是否更新,仍需逐项检验。“有视觉输入”和“像人一样看见”不是同一句话。

第一层证据:它能否跨情境使用概念

最直接的证据来自行为。模型能否对新实例分类,解释典型与非典型案例,组合多个概念,并把学到的关系迁移到不同措辞?若只能复述训练中常见的定义,证据很弱;若能在控制过记忆和提示以后稳定泛化,便更有理由谈概念样能力。

近年的研究发现,语言模型对大量对象的相似性判断能够形成稳定、可解释的维度,并与人类分类及部分神经表征结构对齐。另一些工作发现,文本或有限多模态模型与人类的对应并不均匀:非感觉运动维度较接近,感觉维度减弱,运动维度差异最大;加入视觉输入会改善视觉相关维度。

这些结果支持一个中间结论:语言学习足以恢复相当一部分概念关系,感觉运动经验则继续影响概念结构。它们既反驳“没有身体就只能拼接空符号”,也不证明模型拥有完整的人类概念。相似性判断覆盖的是概念能力的一部分,不是关于意识或主体性的测量。

第二层证据:内部是否存在可复用的表征

如果同一内部结构能在不同语境中支持分类、翻译和推断,并且干预它会稳定改变相关行为,我们就获得了比输出相似更强的机制证据。机械可解释性研究已经报告一些跨语言共享的特征,以及模型在生成前规划后续内容的案例。

这类研究很有启发性,但方法仍只能捕捉全部计算的一部分,特征命名也依赖研究者解释。发现一个与“大小”或“相反”相关的活动方向,不应被写成找到了模型脑内完整的“大小概念”;它更像一条可干预的表征证据,需要在更多模型、任务与方法中重复。

人脑研究同样提醒我们,概念不必对应一个单独位置。模型中的向量、特征和回路也可能在不同层级共同工作。寻找“概念神经元”与寻找人脑里的概念节点,会遭遇相似的粒度问题。

第三层证据:它能否接受现实与因果关系的约束

模型可以回答因果问题,也能在一些基准中处理干预和反事实,但表现会受措辞、领域知识和任务设计影响。一些所谓因果测试可能靠相关知识或文本模板完成,另一些则要求真正区分观察、干预与反事实。当前更稳妥的结论是:模型展现出不均匀的因果推理能力,可靠性与泛化仍需要专门评估,而不是“完全没有因果理解”。

现实检验同样是能力组合,不是单个开关。一个封闭模型不能亲自打开仪器,却可以分析用户提供的数据;接入搜索、代码执行或传感器后,它能主动取得证据,但可能选择错误来源、误用工具或不更新原判断。关键问题包括:它是否知道何时需要外部证据,能否把结果与当前假设比较,以及失败信息能否进入长期学习。

人类也并非天然可靠的现实检验器。我们会忽视反例、迎合群体并把熟悉叙事当成因果。人类与模型的差异应落在具体校准通道、更新机制和失败模式上,而不是“经验者必然真实、文本模型必然虚假”的对照。

幻觉不能只用“概念空缺”解释

“幻觉”通常指输出与输入、已有上下文或可核查事实不一致,但不同任务中的错误并不完全相同。模型可能虚构一篇论文,错误整合两个来源,在摘要中加入原文没有的细节,或者给出结论正确但过程不忠实的解释。把它们全部归因于概念缺失,既无法区分现象,也难以产生检验方法。

影响事实性的因素包括训练材料的覆盖与冲突、预测目标对流畅续写的奖励、模型对自身知识边界的估计、提示与上下文、解码策略,以及检索工具是否提供了可靠证据。某个事实在参数中存在,也不保证当前问题能够正确调取;模型表达不确定,也不表示内部完全没有相关表征。

因此,幻觉是一组系统性风险,但“系统性”不等于所有错误都由同一个本质原因造成,更不等于每次生成必然虚构。合理的分析应先说明错误类型,再选择检测和缓解方法:引用核验、检索、工具执行、约束输出、让模型承认不知道,解决的是不同环节的问题。

概念能力与责任资格必须分开

模型可以生成关于法律、道德和承诺的复杂推理,也可能在规范任务上超过未经训练的人。这说明它能够操作大量规范关系,却不能据此认定它拥有人的生活史、利益、感受或责任资格。

责任不是在模型内部找到一个“道德概念向量”就会出现。它涉及谁设定目标,谁有权采取行动,谁能理解并承受制裁,谁能够解释决定,以及受影响者向谁追责。当前把责任分配给开发、部署和使用系统的人与机构,主要是规范和治理选择,而不只是关于模型推理能力的实验结论。

这也意味着,“模型没有责任”不能被用来淡化模型造成的风险。恰恰因为系统本身不是方便的追责终点,部署者更需要设置授权边界、日志、人工复核与纠错渠道。

所以,大模型到底有没有概念

答案取决于“有概念”的判准。如果它指能够形成相对稳定的关系表征,并跨措辞完成分类、组合和部分推断,那么已有证据支持至少一些模型具有概念样能力。如果它要求完整的人类感觉运动经验、持续自我、社会成员资格或道德责任,那么目前的模型显然不满足全部条件。

问题不应被处理成文字游戏。判准不同,会影响我们设计什么测试、信任哪些输出、给系统多少行动权限。最诚实的表述或许是:大模型已经呈现出真实但不均匀的概念能力;这些能力既不能被贬低为词语拼接,也不能被扩大成人类理解、意识和责任的整体复制。

结语:把“像不像人”换成一组可检验的问题

这个系列从语言相似性出发,最后没有得到一个简单的人机分界。我们得到的是一组更具体的问题:概念怎样形成,支撑哪些功能,由什么结构实现,接受什么证据纠正,在什么时间尺度上更新,以及进入行动后由谁承担责任。

这些问题不会像一句“真正理解”那样迅速结束争论,却能让哲学判断、实验结果和工程选择各自承担应有的证明责任。面对不断变化的模型,这种分层比较也比固定本质论更耐用。

延伸阅读与参考资料

上一篇:《语言、概念与思维系统(五):概念如何改变》;案例篇:《为什么“批判性思维”总被误解?》