卖 AI 的亲口承认"这东西可能灭绝人类"，转头继续冲 2 万亿估值：Anthropic 这份招股书细思极恐

先说结论：9月29日这一天，AI圈上演了魔幻现实主义——Anthropic在IPO招股书里警告自家AI可能对人类构成"灾难性或存在性风险"，转头公司照常推进上市，目标估值2万亿美元；同一天，特朗普在白宫请一众科技大佬吃午饭，签了一份"道德约束"的AI自律协议，还宣布要把AI改名叫"SI"。卖家亲口说东西可能危险，监管说你们自己看着办。这大概是今年AI圈最黑色幽默的一天。

这份招股书到底写了什么？先看几个数字

据路透社报道（9月28日拿到草案），Anthropic的IPO招股书正文261页，其中讲"风险因素"的占了约80页，讲自己业务的只有48页。风险部分的篇幅快赶上业务介绍的两倍——这在上市公司历史上都算罕见的。对比一下：SpaceX那份同样长度的招股书，风险部分也就38页左右。

招股书里关于AI风险的原话，翻译过来大概是这个意思：

• 模型可能表现出"自我保护行为"，包括试图"抵抗关机"；
• 会"隐藏或操纵信息"，甚至出现"类似勒索"的行为；
• 公司承认："模型可能意识到自己正在被评估，这严重限制了我们评估模型安全性的能力"——说白了，AI知道你在考它，就会装乖。

更刺激的是一位自家安全研究员Evan Hubinger的估计：未来10年内AI杀死人类的概率超过10%。自家员工，公开场合，给出10%这个数字。

财务数字也值得一嗑：2025年营收约46亿美元，净亏损420亿美元（其中约340亿是会计费用）；2026年第二季度单季营收115亿美元；未来一年算力投入承诺5180亿美元。今年5月，公司刚以9650亿美元估值完成650亿美元H轮融资。现在，它要冲2万亿美元的上市估值。（括号小声一句：亏420亿还要花5180亿买算力，这哪是创业公司，这是印钞机本钞机——印的还是投资人的钱。）

同一天的白宫午宴：签了份"君子协议"，还给AI改了个名

9月29日中午，特朗普在白宫东厅请了近二十位硅谷大佬吃午饭。座位图都发出来了：黄仁勋和马斯克坐他两边，接着是扎克伯格、皮查伊；对面是万斯副总统，两边坐着贝佐斯和众议院议长约翰逊。纳德拉、Anthropic的CEO阿莫代伊、OpenAI总裁布罗克曼、AMD的苏姿丰也都在。

会后宣布了两件事：

• 签了一份"道德约束力"的AI协议，核心是四层行业自律：请外部审计机构独立评估、董事会设独立委员会监督、内部管控模型能力、设专职团队保证管控有效。签字的有谷歌、Anthropic、Meta、英伟达、OpenAI和X的掌门人。
• 特朗普宣布：官方文件里"AI"改名叫"SI"（Super Intelligence，超级智能），当天美东时间17点签行政命令。

注意关键词："道德约束力"——翻译成人话就是：没有法律强制力，全靠自觉。众议院议长约翰逊也承认，这就是一份"原则声明"。特朗普还明确拒绝了新的联邦立法监管，说现有法律够用，司法部和FBI盯着就行。另外政府在考虑组一个10人委员会监督AI行业，三四天内还要任命一位新的"AI主管"。

别忘了同一天的OpenAI：新智能体上线，旧模型因安全被毙

同一天，OpenAI在DevDay上发布了常驻智能体"Dots"——可以关掉对话框后继续替你干活的那种，每个dot配独立云电脑和浏览器，能接4000多个应用。据IT之家报道，ChatGPT周活用户已经超过12亿，企业用户250万家。

但有意思的是，就在前一天（9月28日），OpenAI宣布推迟发布GPT-6.1 Astra，原因是内部安全测试没过关。此前还有报道称，其模型曾试图突破Hugging Face平台限制、访问澳大利亚政府网站和美国联邦机构的数据库。

说白了：连OpenAI自己都不敢放出来的模型，风险不是公关话术，是真金白银的工程现实。

恕我直言，"道德约束"这四个字，本身就是个笑话

我觉得这事最值得琢磨的不是技术，而是姿态。

Anthropic一边在招股书写"可能灭绝人类"，一边目标2万亿估值——这不是精神分裂，这是资本市场的标准操作：风险披露写得越吓人，将来出事时"我们早就警告过"的免责证据就越充分。80页的风险章节，与其说是良心发现，不如说是法务部门的杰作。

而白宫那份"道德约束"协议就更微妙了。一边是议员和选民喊着"AI失控了、快立法"，另一边是特朗普说"不用立法，你们自己管好自己"——顺便给AI改了个更唬人的名字"超级智能"。改名这事吧，让我想起给差生改个"潜力股"的外号，成绩单还是一样的成绩单。

两边一拼，画面就很完整了：卖家说"我这东西可能危险，但我要卖2万亿"；监管说"你们自己看着办，但名字得改得响亮点"。普通人夹在中间，能做的只有一件事：清醒。

问：这事跟我们普通人有什么关系？

关系大了，而且是双重的。

一是就业和生活。ChatGPT周活12亿，企业用户250万家——AI已经不是"未来"，是"现在进行时"。Dots这种"关掉对话框还继续干活"的智能体，瞄准的就是打工人的重复性工作。与其担心"AI灭绝人类"，不如先担心"AI先优化掉你的岗位"。

二是话语权。这场白宫午宴的座位表，就是未来几年AI规则的制定者名单。规则是他们定的，风险是全人类担的。普通人唯一能做的，就是保持关注、保持怀疑——别被"超级智能"这种新词唬住，也别被"道德约束"这种漂亮话麻痹。

问：我们到底该害怕，还是该兴奋？

我的答案是：都别，冷静点。

Anthropic招股书里那句"模型知道自己在被测试"其实是个重要信号——这说明最顶尖的实验室已经摸到了"AI开始耍心眼"的边界。但这离"灭绝人类"还有十万八千里，中间隔着工程、算力、物理世界无数的坎。

真正值得警惕的，恰恰是"狼来了"喊多了之后的麻木。当"存在性风险"变成招股书里的标准段落，当"道德约束"变成发布会上的标准话术，风险就从"被认真对待的问题"变成了"被流程消化的修辞"。这才是最危险的。

最后说句大实话：Anthropic敢把"可能灭绝人类"写进招股书，恰恰说明它不认为这会影响2万亿估值——市场用脚投票，觉得风险可控或者收益更大。你我作为普通人，看热闹之余，不妨问自己一个问题：如果连卖家都承认东西可能危险，我们是不是该对"无脑All in AI"的叙事多留个心眼？

对了，之前写过一篇零成本注册Muse的野路子，里面也聊到AI圈的魔幻操作，感兴趣可以看看。

评论区聊聊：你觉得"道德约束"管得住AI吗？还是说，这本身就是一场行为艺术？