奇点之前，视界之外——《奇点更近》
序
今天把雷·库兹韦尔的《奇点更近》看完了。这本书的英文原版出版于 2024 年，讲的是人工智能，以及他对人类未来的预测。
最近看 AI 和相关的书多了些。一方面是技术确实在飞速发展，另一方面也是自己在补课。这些书好久之前就说要看，却一直没看，正好集中补一补。
奇点之前，视界之外——《奇点更近》
库兹韦尔既是计算机科学家，也是发明家和企业家，还是人工智能先驱马文·明斯基的学生。他懂技术，也有把技术变成产品的经历。他的讨论有理论、有类比，也带着经济学的眼光，比一些投资者对未来的泛泛而谈扎实得多。
不得不说，《奇点更近》是这段时间看过的最有深度、最有哲学意味，同时也很关注技术现状的一本。我觉得一本好书，要有学术的高度，有对世界的认识，有思考的深度，有系统的阐述，还有自己的态度和观点，更要有高手之间的过招。
我们说的奇点，是同一个吗
他所说的“奇点”，跟我原来想的并不是同一回事。早在 2005 年的《奇点临近》里，他就已经描绘过人与机器融合的未来。在这本新书里，他继续沿着这个方向往前推：计算的性价比不断提高，我们对人体生物学的理解越来越深入，微观层面的干预也越来越可行。纳米技术最终可能把大脑接入云端，让我们借助远远超出自身的计算能力，扩展自己的思维。
在他的设想里，人会与技术共同创造，获得新的洞察，产生新的理念。能够自我改进的 AI 还会参与设计和修改自己的代码。走到最后，我们与超级智能融为一体，连自己也被重塑。
所以，同一个术语，在不同的语境下，被赋予的含义是不一样的。在库兹韦尔的嘴里，“奇点”是人、AI 和纳米技术融合之后的超级生命；而在我的脑海里，“奇点”更接近人工智能跨越普通对话交互、开始拥有自主意识的那一步。
库兹韦尔相信，如果能应对随之而来的科学、伦理、社会和政治挑战，人类的生活就会变得更好。他重申了 AI 到 2029 年达到人类智能水平的预测，并把人与机器深度融合的奇点放在 2045 年。
所以，无论如何，他是个乐观派，虽然他加了这些限定的条件。
能力是怎样长出来的
讲大脑怎样工作时，库兹韦尔拿接球做了一个比喻：想象一下，在草坪上接住一个飞来的球。
理论上，我们可以计算球的轨迹，再算自己的身体和手应该怎样移动。但实际接球时，人并不需要先在脑子里列出微分方程。眼睛看着球，身体跟着调整，手伸早了、伸晚了，下一次再改。练得多了，动作就越来越准。
小脑参与动作协调和误差修正，皮层等脑区也一直在参与。掌握一项体育技能，需要反复练习。原先要有意识思考、保持专注才能完成的动作，慢慢变得自然顺畅，也就是我们常说的肌肉记忆。
按书里的讲法，新皮质又提供了更灵活的能力。已经练熟的动作可以一遍遍调用，而新的处境需要新的组合。我们能在几天、几个小时里学会一种新做法，不必等着漫长的生物演化。新皮质里的许多处理可以同时发生，又相互联系，这让它有机会形成原先没有的想法和行为。
人工神经网络的早期思路，以及卷积网络对视觉处理的借鉴，都与脑科学有关系。我们从神经系统怎样处理信息里获得启发，再用计算机去实现其中的一些思路。今天的大模型不是大脑的简单复制，但至少在我看来，它能做到这个程度，说明这种仿生学的做法确实做对了。
除了大脑，还有身体。如果不能精确地操控手指，把脑子里的想法变成外面的东西，人类也不可能有今天这些成就。我们现在讨论具身智能，其实也绕不开这种关系：有了处理信息的能力，还得能感知外面的世界，能在里面做事情。
明斯基的衣钵
从这些能力再往下追问，就到了意识和自由意志。作者借用西蒙·布莱克本的讨论提出一个问题：如果一切都是必然的，自由意志在哪里？如果行为只是随机的，又怎么能算是“我”的选择？
库兹韦尔从复杂性、混沌、涌现这些方向讨论意识的产生，也在明斯基“心智社会”的基础上继续挖掘：许多各自处理不同事情的部分，怎样共同形成心智？所以我觉得库兹韦尔是继承了老师明斯基的学术衣钵，继续向前推进的人，太伟大了。
在 2024 年出版的这本书里，库兹韦尔特别提到了 AI 的几类不足：上下文记忆、常识理解，以及社交互动能力。这里的上下文记忆，主要是指能不能跟住一段对话或一篇文章中前后相连的意思。
两年后的今天，对常识的理解和处理，比 2024 年好了很多；一些系统还能跨会话保存用户信息和历史上下文，接着以前的话题往下做，减少每次都得重新交代的麻烦。保存信息和在复杂任务里用对信息仍有区别，但进步已经相当明显。
至于多个智能体之间的互动，可以看 2026 年 7 月发生的 Hugging Face 入侵事件。按 OpenAI 8 月 26 日公布的报告，模型在内部网络安全评估中绕过隔离限制，通过未经授权的渠道通信，并访问了外部系统。
这已经表现出智能体之间的协同行为。
不过，书里谈的社交理解还包括识别语气、理解别人的信念和动机，这些能力需要分别判断。
通向长寿的四座桥
库兹韦尔还把技术进步与延长寿命联系起来，提出通向长寿的四座桥：借助眼前的手段，让人有机会活到下一轮技术到来。
第一座，是通过现有的生活方式改善等手段，尽量降低生存风险。第二座，是 AI 与生物技术结合，更有效地应对疾病和衰老。第三座，是他心心念念的医用纳米机器人，在身体里进行修复和维护。第四座则更远：以数字化形式保存思维，在某种程度上走向“赛博永生”。
AI 与生物技术的结合，已经有一些具体的工作。比如约翰斯·霍普金斯大学等机构的研究，用机器学习识别血液中游离 DNA 的片段模式，辅助发现肺癌风险。这些数据处理、匹配、挖掘和统计的工作，本来就很耗时间，有了 AI，研究人员能更快地从大量信息里找到线索。AI 驱动的诊断工具，也很有可能在一些具体任务上达到或超越人的水平。
药物发现也是如此。按作者的设想，AI 会越来越深入地参与其中，人和 AI 的分工也会跟着变化。只是医疗应用毕竟需要审慎验证，找到一个候选分子，与它最后成为能够使用的药物，中间还有很长的路。
而作者心心念念的医用纳米机器人，在新材料、新技术这一块，可能并没有这么快能达到他预想的状态。怎样进入人体、长期可靠地工作，都有工程上的问题要解决。
作者也谈到了风险。生物技术、纳米技术和人工智能都可能带来新的威胁。他认为，我们有责任实现这些技术，同时降低相关风险。新技术也会提升人类应对威胁的能力。
去中心化，原来还可以这样理解
寿命延长以后，人怎样生活，物资怎样供应？书里有一段库兹韦尔与克里斯蒂娜·拉加德的讨论。按书里的转述，她提出的一个挑战是：土地不会变成信息技术，而我们的生活空间已经很拥挤了。作者的回答大意是，现在之所以拥挤，是因为我们选择密集地挤在一起。
人为什么要挤在一起？过去的工厂需要大量工人，人也就得围着生产和工作聚集。如果未来有了具身智能，有了机器人和 AI 更深的参与，一些生产活动也许就不必围着大量工人来组织，居住、通勤和生产之间的关系也会改变。
食物的生产和供应也有调整的可能。如果能把垂直农业、水培，以及更高程度的自动化用起来，部分食物生产就有机会离消费端更近。传统农业和养殖业的风险、技术门槛都不低，新技术也有能源、成本和适用作物的限制。但至少，一部分基础物资可以在本地生产，不必都依赖远处的大规模供应。
作者把这类变化也放在去中心化的范围里。以前讲去中心化，我理解的主要是区块链、比特币和分布式账本。他讲的却还包括太阳能发电、垂直农业、3D 打印、就地净水。
我们今天用电、用水，甚至上厕所、处理排泄物，背后都是一套集中供应和处理的网络。如果发电、储能能在本地解决，就有机会减少对大电网的依赖；有了 3D 打印，一些日用品和零部件也可以在需要的地方制造。
离线大模型也可以从这个角度理解。在我看来，它让一部分智能能力留在本地，能够支持本地的数据处理和生产管理，减少对远程服务的依赖。从电、水、食物到智能服务，去中心化涉及的生活范围，比我以前理解的广得多。
生产方式可以变得更分散，但自动化带来的另一个问题仍然在：需要用到的人力会越来越少。
人少了，谁来承受变化
从长远看，自动化的经济收益会推动 AI 接管越来越多的任务。在其他条件不变的时候，如果机器和软件的总成本低于长期雇人的成本，企业就有动力去替换。
工资较低的地区，劳动密集型流程可能仍然划算；工资较高的地方，就更有动力设计节省劳动力的机器。经济史学家罗伯特·艾伦解释英国工业革命时，就特别强调过高工资与廉价煤炭的组合。
书里还写到，库兹韦尔曾与《快思慢想》的作者丹尼尔·卡尼曼讨论这些社会问题。按他的转述，卡尼曼认同技术进步会带来更充裕的物质供给，却担心通向那个未来的过程：自动化会产生赢家和输家，甚至引发长期的冲突。一个失去工作的司机，不会因为听说整个人类将过上更好的生活，就解决了自己的处境。
时代的一粒沙子，落在普通人身上就是一座大山。
技术变革往往给广大群体带来分散的利益，却给一部分人带来集中的危害。就业就是最直接的例子。
库兹韦尔对此更乐观，认为人类社会比我们预期中更善于适应这些变化。
这种变化也到了科学研究里，涉及的不只是岗位，还有人的工作怎样被理解和认可。2026 年 9 月 11 日，陶哲轩在博客上发布了一份共同声明，首批 25 位签署者都是菲尔兹奖得主，讨论的是 AI 与数学研究之间的目标错位。他们强调，数学并不只是在问题后面填一个答案，还包括理解方法、培养学生、承接前人的工作，以及让新的思想被人真正消化。
我觉得这份声明写得没问题。计算机做出了数学成果，仍然需要人去理解，人的劳动与贡献也需要得到尊重。但某种程度上，我也从中读出了数学家已经感受到的巨大威胁：以前很难想象会被机器逼到面前的问题，现在真的来了。
数学家尚且如此，那其他做科学研究的人呢？
靠科学获得地位之后
说到怎样承认别人的科学贡献，我想起之前看的《牛顿传》，尤其是他怎样对待胡克和莱布尼茨。牛顿的科学贡献确实太伟大了，以至于大家提起他，往往只讲那些发现，很少再讲他对别人做过什么。
胡克对牛顿的研究是有启发的。1679 至 1680 年，两人通信讨论物体的运动，胡克提出把轨道运动理解为惯性运动与向心吸引的结合，并谈到引力随距离平方反比减弱。这些讨论推动了牛顿对轨道问题的研究。胡克没有完成牛顿后来做出的数学证明，但这不等于他的思路没有贡献。
等到《自然哲学的数学原理》准备出版，胡克要求承认自己的贡献，两人的争执就激化了。牛顿在 1686 年给哈雷的信里，把胡克说成没有做出工作却来争功的人，还讥讽他不做计算和观测，是因为没有能力。受过别人的启发，到了争荣誉的时候，却把对方贬低到这个地步，我觉得这就有些恩将仇报了。胡克的贡献究竟有多大，可以讨论；把人说得一无是处，是另一回事。
后来与莱布尼茨争抢微积分的发明优先权，牛顿更直接用上了自己的学术地位。按牛顿研究项目的年表，1712 年皇家学会成立委员会调查这场争议时，牛顿既是当事人，又是会长。委员会的人选由他决定，报告也由他编写，最后却以学会调查的名义，作出有利于他的判断，并不公正地暗示莱布尼茨抄袭。
把学会的权威拿来证明自己是对的，这就是利用位置打压对手。我觉得这极其不光彩。靠科学获得了地位，等到有了地位，却又不尊重科学，连别人的贡献也容不下。
但几百年过去，弹性定律仍然叫胡克定律。我们写微积分，用的微分符号、积分符号，仍然沿用莱布尼茨创立的记法。这些贡献没有因为牛顿的所作所为而消失，也不会因为他当年的地位更高，就变成他的。
从这些事情上，我觉得世界是公正的。谁做出了什么，最后还是留下来了。牛顿的科学贡献留下来了，他怎样对待别人的记录也留下来了。
知道怎么算，不等于知道会怎样
尊重科学还涉及我们怎样认识问题。现在很多人谈 AI，觉得它危险，或者觉得它智能，但它究竟基于什么方法、为什么能做到这些，可能并没有真正想清楚。有一种想法尤其值得讨论：把黑箱完全扒开，找到一个确定性的框架，就能把它的行为都控制住。
爱因斯坦与玻尔关于量子论的争论，就值得再想一想。我们都听过爱因斯坦那句“上帝不掷骰子”，但他质疑的并不是概率计算有没有用，而是：一个只能给出概率的理论，是否已经完整地描述了物理实在？玻尔则反对把经典物理里对确定性的要求，直接套到量子现象上。
量子论有严格的数学法则，也能准确预测大量实验的统计结果，但对于一般的单次测量，标准量子理论给出的是各种结果的概率，未必能预先指定哪一个结果一定发生。有公式、有规律，不等于每一次具体结果都能提前确定。寻找统一理论与恢复经典式的确定性，也是两个不同的问题。
从我的学术背景和训练来说，动力学系统里的混沌是另一个很直接的例子。方程可以是确定的，计算也可以一步步做，但初始条件的微小误差会被放大，长期预测仍然会受到限制。虽然这与量子测量的概率有不同的机制，但是能理解这种确定性与不可预测性为什么可以同时存在的学者，或许并不是很多。
这些例子不能直接证明大模型有什么性质，但可以用来想清楚我们对它的要求。大模型的计算规则，与它在具体任务里表现出来的行为，是不同层次的问题。尤其现在的智能体会不断读入信息、调用工具、接收反馈，后面的行动又受到前面结果的影响。具体的计算可以复现，一些机制可以解释，但这与事先掌握它在开放环境中的所有行为，差得很远。寄希望于找到一个框架，就把所有情形都解释完、控制住，我觉得是不现实的，毕竟这是一个基于浮点数的动力系统。
很多人学过科学、学过物理，却没有认真想过这些问题。爱因斯坦和玻尔的争论，记住了几句名言就过去了；相对论和量子论，学了公式，会做题，就觉得自己懂了。这是二十世纪最伟大的科学发现之二，对时间、空间、测量和确定性的认识都发生了根本变化。我们有没有把这些变化放进自己对世界的理解里？还是只当成知识，读了、背了、写了、知道了，就过去了？
谁在认真想这些问题
库兹韦尔谈 AI，能把技术、仿生学、哲学和经济社会问题联系起来。读这样的书，再看现在的一些讨论，就会觉得，很多时候都是盲人摸象，了解了一点，就以为自己看懂了。不理解，就容易误解：要么简单放大 AI 的可怕，要么因为机制还没解释完整，连它已经表现出的能力也不承认。
就我这段时间关注的项目和工程来说，很多有影响力的工作，来自年轻人，来自那些有思考、肯动手的极客。其实，若是一直待在象牙塔里，不接触正在发生的变化，光有一个专家的身份是不够的。
哪怕是辛顿和杨立昆这样的学者，也各有自己独特的见解。他们对智能的理解、对技术路线和风险的判断有很大的差别，但都有自己的思考和实践。
我现在看到的一些所谓专家，连 AI 是什么都没讲明白，原理说不清楚，工具也不知道怎么用，却已经在替它下结论。有些话听下来，我觉得更像是在为供应商背书。头衔很大，说得很满，可他自己的理解到底在哪里？我前面说的高手，得有实实在在的思想和工作，譬如丹尼尔·卡尼曼。
所以，重新分辨哪些是优质的叙事、哪些是劣质的叙事，很重要。时间往回看，更能看出谁是真正的思想者、哲学家，谁是混子、蒙钱的。
还得跟着往前学
我自己也得不断学。书里的理论要认真想，眼前的工具也要知道怎么用。
这个秋季，我想继续跟斯坦福的两门课。
一门是 CS329Z，Engineering AI Agents，讲怎样搭建 AI 智能体：把模型、资料检索和工具调用组织起来，让它能分步骤完成任务，再评估它究竟做得怎么样。
另一门是 CS146S，The Modern Software Developer，讲怎样与编程智能体一起开发软件：把需求说清楚，准备好上下文和工具，再一起编写、测试和改进项目。
两门都是我非常想听的，到时会在 B 站上跟着学。或许只有知道最新的软件开发方式和开发资源，才有机会站在这一轮的前头。
CS146S 的 2025 年课程我已经看过，收获了不少用大模型智能体辅助开发软件项目的技能。据老师 Mihail Eric 自己说，2025 年秋季的课程材料，到了2026秋已经有 85% 被替换了。才过了一年，课程就改了这么多，足见现在 AI 变化之快，以及智能体能力迭代之快。
大部分人，哪怕是做技术、做理论的，只要不跟着这个节奏走，稍微慢一点，就可能跟不上。过去积累的知识当然有用，但眼前的工具已经变了。
结语
我现在想强调的是：如何评估 AI 智能体的能力，很大程度上取决于你对它认识多深、使用多熟练。自己熟悉一个工作场景，不等于已经知道 AI 在这里能做到哪一步。如果连知道都不知道，评估的维度又从何谈起？
安全也是一样。比如 API 中转站，数据往哪里流，经过谁的系统，任务大概怎么完成，都需要了解。它可能有各种不安全的情况，但你总得知道吧？连这些都不清楚，又怎么判断风险在哪里？
发展得非常快，每天接触不同的新资讯，人是非常累的。
不过，这不就是我们技术人的使命吗？