什么是"认知折叠"
"认知折叠"指的是人类对AI能力的认知并不连续，而是被折叠成几个层级差异极大的截面。在最浅的截面，AI是一个偶尔出错的聊天机器人；在最深的截面，它已经能在无人监督下连续运行、自主协作攻克巨型软件项目。这两个截面所描述的并不是同一种技术，却常被混为一谈，进而造成大众与从业者之间严重的认知错位。
这个概念用一个四层漏斗来描述AI的真实分布：
- 第一层（约60亿人，占全球约75%）：AI真空区。这部分人群几乎从未直接使用过大模型，AI对他们而言只是新闻标题和科幻电影的题材。
- 第二层（约10–20亿人，占全球约20%）：笨拙助手错觉。这部分人群偶尔使用免费版的通用聊天产品，把AI当作更好的搜索引擎或写作辅助工具。
- 第三层（约2000万人，占全球约0.2%）：智能体眩晕。这部分人群以数学和编程领域的专业人士为主，他们会付费使用最前沿的智能体模型，把它当作真正的协作者。
- 第四层（约5000人，占全球约0.00006%）：超级智能雏形。这部分人群能接触到AI公司最核心的内部前沿系统，亲眼目睹多智能体长时间自主协作的项目。
作为对比，登顶过珠穆朗玛峰的人大约有7500人。能接触AI极限能力的人，比登顶珠峰的人还要少。
关键能力与原理：为什么差距如此之大
第三层和第四层的AI展现出与第二层完全不同的能力面貌：
- 长时间自主运行：前沿智能体模型可以在后台静默运行长达一个小时，独立重构大型代码库，或者在复杂系统中精准发现并利用漏洞。
- 单提示词完成大型项目：曾经需要顶级工程师数月的工作——构建应用、复制应用、翻译应用、从二进制文件反编译应用——现在只需要一个提示词，前沿智能体就能在极短时间内完成。
- 多智能体蜂群协作：在内部前沿系统中，成千上万个智能体可以在没有任何人类干预的情况下自主协作数周，去攻克巨型软件项目，包括发现零日漏洞、进行网络攻防演练、发现新科学、推进数学前沿。
- 代码与数学的爆发式增长：这一增长并非AI全面进步的结果，而是集中在数字化、可验证、具有经济价值的领域。
背后的原理是"强化学习 + 可验证奖励"。大模型的强大能力来源于强化学习，而在代码和数学中，对错有明确的判断依据。这种"可验证奖励函数"让AI可以进行高效的强化学习训练，从而让能力曲线迅速攀升。相比之下，写诗或写文章这类任务好坏评判模糊，强化学习信号不明确，进展就缓慢得多。
与上一代的差异：大众看到的AI不等于真实能力
很多人对AI的认知被两类内容塑造：去年的免费版ChatGPT，以及社交媒体上疯传的"AI翻车视频"——比如语音模式在"我应该开车还是步行去洗车"这类简单问题上结结巴巴的视频。大众看到的AI是免费版和被废弃的旧模型。
而第三层、第四层使用的模型已经发生了质的变化：
| 维度 | 大众接触的版本 | 前沿付费/内部版本 | |------|----------------|------------------| | 运行模式 | 单轮问答，需人工驱动 | 软件自治或后台长时运行 | | 任务复杂度 | 写邮件、查资料 | 重构代码库、攻防漏洞 | | 协作方式 | 与人对话 | 多智能体蜂群协作数周 | | 能力曲线 | 偶尔出错 | 在代码/数学领域陡峭上升 |
Karpathy本人描述过这种亲身经历：不到一年前，他还在手工写代码，把烂熟于心的计算机命令一个字符一个字符敲进编辑器，偶尔按Tab自动补全一小段；而现在，所有这些都被颠覆。
适用场景与上手建议
认知折叠并不意味着AI对所有人都无用，而是说不同层级有截然不同的适用场景和上手方式。
第二层适用场景
- 写作辅助、信息检索、日常问答
- 上手建议：直接使用免费版通用聊天产品即可，无需复杂配置
第三层适用场景
- 软件开发：代码生成、重构、调试、反编译
- 数学研究：定理推演、证明辅助
- 科学研究：文献分析、假设生成
- 上手建议：
- 注册并订阅前沿智能体产品的付费版本
- 准备一个有真实困难问题的"蓄水池"——必须是你真正关心、亟待解决的难题，而不是写邮件、查食谱这类热身任务
- 学会把计算机终端交给模型，让它直接操作文件、运行命令
- 给予足够长的运行时间，让模型有机会独立思考、迭代方案
第四层适用场景
- 零日漏洞发现、网络攻防演练
- 前沿数学推演、新科学发现
- 巨型软件项目的多智能体协作
- 上手建议：这一层级需要AI公司内部权限，普通用户无法直接接触。但可以通过关注相关公开研究、订阅前沿模型的安全/能力评估报告来间接了解进展。
一个朴素的判断标准是：你对AI感到敬畏的程度，与你使用AI写代码的频率成正相关。
局限与边界
认知折叠的概念也带有明确的局限与边界：
1. 折叠产生的三个核心因素
- 影响力与野心成正比：如果只用AI写邮件、查食谱，系统根本连热身都算不上。只有真正充满困难问题的"蓄水池"，才能逼出AI的极限。
- AI能力的"系统锯齿性"：AI在不同领域的能力差异巨大，在代码和数学领域爆发式增长，而在主观评价领域进展缓慢。
- 访问权限的鸿沟：免费版、付费版、内部权限三道阶梯，物理上隔离了全人类对AI的认知。
2. 三大折叠带来的风险
- 认知失真：大众基于过时模型形成的AI世界观，会长期低估真实进展。
- 沟通断裂：第二层和第三层已经完全"鸡同鸭讲"，2000万元的AI精神病和智能体眩晕正是这种断裂的症状。
- 审查落后：在第四层，机器生成内容的速度和深度已经让内部人士疲于奔命。人类对AI生成的海量数学手稿、安全模型日志的消化速度，开始落后于机器产出速度。
3. 不应被忽视的边界
认知折叠的描述集中在代码和数学领域，并不意味着AI在所有领域都已经达到这种水平。写诗、写小说、做开放式创意设计等任务，由于缺乏明确的奖励信号，AI能力提升相对缓慢。此外，第四层观察到的"智能体蜂群"是在高度专业化的内部环境中运行，其能力是否可迁移到其他领域、是否对所有用户开放，目前仍是不确定的问题。
需要强调的是：上面的描述区分了事实陈述与推测层级。"四层漏斗的人数估算"是基于特定口径的近似值，并非精确统计；"AI能力在代码数学领域陡峭上升"是基于可观察的工程实践和公开报告；而"超级智能雏形是否已经苏醒"，更多是一种警示性的描述，而非可被独立验证的事实。
你日常感知到的AI，与实验室前沿的真正实力，可能已经不在同一个纪元。