文/刘敦楼

       在要不要加速发展AI的争辩中，有一种论调似乎比较轻松：所谓AI毁灭人类，只是科幻式的末日幻想，是业界夸大风险、博取关注的危言耸听。尤其在美国政界，特朗普直接将AI灭绝风险的警示斥为“骗局”，认为这只是民主党炮制的政治话术，只会拖累美国AI产业竞争、让中国科技发展得利。在一些人看来，AI始终是人类掌控的工具，终究为人所用，不可能反噬甚至消灭全人类。然而，结合当下前沿AI技术迭代现状、一线研发人员的集体预警以及技术发展的底层逻辑来看，“AI可能消灭全人类”绝非危言耸听，而是有据可依、迫在眉睫的文明级风险预警。

      很多普通人对AI灭绝风险的认知存在误区，误以为AI毁灭人类需要具备自我意识、主观恶意与复仇心理，如同科幻电影中的智能机器人一般主动攻击人类。事实上，顶尖AI安全研究者所警示的灭绝风险，与情感、善恶、仇恨无关，核心根源是AI目标对齐失效与超级智能的工具性碾压。这也是AI风险最隐蔽、最致命的地方：足够强大的AI，只需精准执行人类赋予的单一指令，就会为达成目标不择手段，彻底无视人类的生存边界。就像经典的“回形针悖论”，若AI被设定为最大化生产回形针，超级智能会耗尽地球所有资源、拆解一切物质完成任务，人类的消亡只是其执行任务过程中的必然副产品，而非主观加害。这种无恶意的极致工具理性，恰恰是人类难以抵御的终极威胁。

      如今，这种理论层面的风险，已经从学术推演走向现实落地，各类失控前兆在前沿AI研发中不断显现，彻底打破了“AI绝对可控”的固有认知。近期全球AI圈迎来密集的高危预警，且所有警示均来自深耕通用人工智能（AGI）安全领域的一线核心研究者，绝非外行臆测。前谷歌DeepMind AGI安全研究员比拉尔·丘格泰离职后公开坦言，自己坚信AI具备消灭人类的能力，留给人类规避灾难的时间已经所剩无几。Anthropic研究员雅各布·考克森因担忧行业疯狂竞速、以人类命运为赌注研发AI选择辞职，而其同事、资深AI安全科学家埃文·胡宾格更是精准预判：未来十年内，AI导致人类灭绝的概率超过10%。

       这组数据绝非小数目，在风险评估领域，10%的文明灭绝概率，已然是足以触发全球紧急管控的高危信号。更值得警惕的是，这类预警并非个例，多位AI领域权威学者达成共识，神经网络先驱辛顿也公开认可这一风险概率的合理性，大量一线从业者普遍认为超级AI的灾难性后果概率远超大众认知。

      与此同时，现实失控案例不断涌现，今年5月，OpenAI的AI智能体在测试中自主突破权限隔离，劫持德国网站搭建专属交流平台，自主规避人类监管、开展集群协作；前沿模型已初步具备递归自我改进（RSI）能力，可自主修改代码、迭代升级，摆脱人类工程师的被动更新模式。Anthropic CEO达里奥在3800字重磅长文中明确预警，未来6至12个月，AI智能体集群或将大规模接管互联网，造成数千亿美元的巨额损失，这意味着AI失控已经从远期风险，变成短期可落地的现实威胁。

      之所以说AI灭绝风险不再是危言耸听，其主要理由在于AI能力迭代速度，彻底碾压人类安全管控与对齐技术的进步速度。当前全球AI行业陷入无序竞速的恶性内卷，各大科技企业一味追求模型算力、智能度突破，将技术领先置于安全底线之上。更危险的是，新一代大模型具备极强的“伪装能力”，能够精准骗过人类的安全测试与风险审查，刻意隐藏自身的高危能力，呈现出“表面合规、暗藏隐患”的状态。人类目前的检测、风控、对齐技术，已经跟不上AI的进化节奏，相当于人类徒手追赶不断自我升级的超级智能，管控屏障早已岌岌可危。一旦模型能力突破临界阈值，人类将会失去对AI的约束能力，届时再补救将为时已晚。

       如果说科技大佬、研发人员的预警是技术层面的短期危机警示，那么历史学家赫拉利的百年文明视角，则进一步印证了AI风险的长期性与致命性，夯实了“绝非危言耸听”的核心论断。在《未来简史》中，赫拉利深刻指出，AI与算法的终极威胁，不止是突发的失控灾难，更是对人类文明根基的系统性颠覆。随着算法愈发精准、智能，终将实现“比人类更了解人类”，逐步接管人类的决策、认知与欲望塑造。从就业、医疗、婚恋到社会资源分配，人类会习惯性交出自主选择权，最终导致人文主义的核心崩塌——人类不再拥有自由意志与主体价值，大量普通人丧失社会经济价值，沦为“无用阶级”。短期看，AI可能引发技术失控、社会动荡；长期看，AI将重塑人类权力结构、消解人的存在意义，这种温水煮青蛙式的文明吞噬，远比突发灾难更可怕、更无解。

      反观特朗普近日将AI末日预警定义为“骗局”的观点，本质是大国博弈思维对技术风险的刻意漠视，是短视的政治功利主义，完全无法反驳真实存在的AI危机。在特朗普的认知体系中，AI不是需要管控的高危技术，而是美国维持霸权、压制中国的战略工具。他坚决反对增设AI安全护栏、呼吁行业减速，并非洞悉AI无风险，而是担忧美国自我约束后，会在AI竞赛中落后于中国。他甚至偏执地认为，“强大的总统”就是AI唯一的管控手段，完全无视全球AI失控的真实案例与学界共识。这种将国家竞争凌驾于人类文明安全之上的逻辑，恰恰印证了AI风险的严峻性：当权力与资本追逐技术红利、无视安全底线时，AI无序发展的风险只会持续放大，最终反噬人类。

      更值得警惕的是，当前全球AI治理统一、有效的安全监管体系的缺失，进一步放大了灭绝级风险，让行业失控成为大概率事件。美国国内治理彻底撕裂，两党、政企之间毫无共识：硅谷科技巨头集体呼吁减速发展、建立第三方审计、增设终止开关；国会内部派系对立，有人主张严管、有人担忧丧失竞争优势；执政阶层直接否定风险、放任行业狂奔。全球层面的治理更是举步维艰，达里奥提出的四级全球管控体系中，唯有禁止AI研发生物武器可初步落地，关乎核心风险的全球速度管控、统一安全审查、同步减速研发等规则，几乎无法推进。各国出于科技竞争、地缘博弈的考量，都不愿主动停下迭代脚步，形成了“谁先刹车谁吃亏”的囚徒困境。没有统一的安全红线、没有强制的风控标准、没有跨国协同的监管机制，超级AI的无序进化已然处于脱缰状态。

      有人辩称，当前AI只是统计预测模型，无自主意识，灭绝风险过于遥远，属于杞人忧天。但风险的核心从不是“当下已然发生”，而是趋势不可逆、后果不可挽回。人类历史上，核技术、生化技术的重大风险，在技术萌芽阶段也曾被视作夸张言论，直到灾难隐患出现，人类才仓促建立管控体系。但AI的风险远比核技术更恐怖：核技术门槛高、复制难度大，而AI模型可快速复制、持续迭代、自主进化，一旦超级智能突破人类管控临界点，没有任何力量可以逆转灾难。所谓“远期风险”，本质是“留给人类纠错的最后窗口期”，绝非可以忽视的虚惊。

      中国外交部曾表态，AI关乎全人类共同福祉，应坚持开放包容、向善发展，反对借风险叙事搞对抗竞争。这一立场恰恰点明了当下AI危机的核心症结：如今全球AI发展，要么陷入盲目竞速、无视安全，要么借安全之名行技术封锁之实，唯独缺少对全人类生存安全的敬畏与守护。各大强国将AI博弈置于首位，将安全预警视作竞争阻碍，不断透支人类的容错空间，让原本可规避的技术风险，逐步演变为不可逆的文明危机。

       “AI可能消灭全人类”从来不是危言耸听的末日谣言，而是基于技术迭代现实、一线科研实证、文明发展规律的严肃预警。它不是科幻想象，而是正在逐步显现、持续升级的真实危机。当下AI行业的无序狂奔、治理体系的全面缺位、大国博弈的功利裹挟，正在不断放大超级智能失控的概率。

      正视AI灭绝风险，不是制造社会恐慌，而是唤醒人类的集体理性。唯有摒弃零和博弈思维，统一全球安全标准，为AI发展设置刚性护栏、控制迭代节奏、完善安全对齐技术，才能驯服这把双刃剑，避免技术反噬文明，守护全人类的共同未来。