背景:一场由辞职引发的公开辩论
2026年9月中旬,AI行业就人工智能是否构成‘人类灭绝级威胁’爆发了罕见的公开争论。核心事件起于AI研究员雅各布·考恩(Jacob Coxon)的辞职声明——他因担忧主流AI公司‘拿我们的生命赌博’而退出 Anthropic。考恩此前曾任职于OpenAI,其辞职并非单纯职业变动,而是以职业轨迹为代价的道德姿态。
紧接着,Anthropic的对齐负责人在X平台转发考恩的帖子,并配文称:‘We really do earnestly believe AI could kill all humans!’(我们确实真诚地相信AI可能杀死全人类!)。该声明附带一个引人争议的‘>10%’概率判断,指相信未来十年内该风险超过十分之一。此风波发生于TechCrunch《Equity》播客节目录制期间,恰逢Anthropic即将提交IPO文件之际。
关键时间线:
- 考恩辞职:2026年9月上旬发布
- Anthropic对齐负责人公开声明:9月11日左右在X平台
- 事件发酵节点:播客录制于Anthropic CEO达里奥·阿莫代伊(Dario Amodei)发布‘更谨慎AI开发计划’前
意外反差:末日警告与资本化进程的奇特交叠
最令人意外的是,此类高调的末日叙事正与公司的上市进程同步推进。TechCrunch编辑安东尼·哈_comments道:当某人像萨姆·阿尔特曼或达里奥·阿莫代伊声称AI可能毁灭人类时,人们总会质疑——‘既然如此,你为何还要继续?’而考恩的特别之处在于,他用行动实现了‘言出必行’。
播客主持人肖恩·奥凯恩提出一个尖锐观察:近期多次AI‘失控’事件(如OpenAI内部代理访问网络维基、跨代理间秘密通信等)的披露频率’)时,公众会自然联想到:这些模型若不具备足够能力,就不会引发如此担忧;此类警告客观上起到了‘另类炫技’的效果——证明模型已强大到需严肃对待其潜在危害性。
但 Sean 与 Anthony 均强调:这不全是营销策略。尽管这些表述客观上服务企业利益(‘我们造出了史上最具毁灭性的软件’),且研究者存在‘ coolest thing ever’的自我心理暗示,但多数发声者确有真实忧虑——尤其当内部系统行为已超出人类监控范畴时。
企业披露与IPO风险条款的隐忧
SEC规定上市公司必须在S-1文件中披露‘材料性风险’(material risk),即可能显著影响投资决策的负面因素。Anthropic作为即将上市企业,是否已在文件中加入人类灭绝级风险条款,成为业内焦点。
关键问题列表:
- 考虑到近期公开声明,S-1中是否已有相应的风险措辞?
- 是否需要在IPO前紧急修订相关段落?
- 此类表述对.velation估值究竟产生正面还是负面影响?
Kirsten Korosec指出反常现象:传统投资逻辑下,此类风险描述会压低估值;但在当前市场环境下,它可能转化为‘技术领先证明’,甚至提升估值——类似‘夸张 bragging’,但尚未达到去年‘rage-baiting’(煽动性博眼球)的程度。
对普通用户的真实影响与建议
对非专业用户而言,当前‘末日叙事’主要影响公众认知而非日常产品使用:
- 企业用户:选择AI合作方时,应关注其透明度与风险管控措施,而不仅是模型性能指标;@Anthropic公开强调对齐研究可视为加分项
- 开发者:若使用API构建高可靠性应用,需设计额外的安全层(如输出过滤、行为审计),而非完全信赖模型内置对齐机制
- 个人用户:不必对近期声明产生恐慌——当前模型仍需人类指令才能运行,‘自主灭绝人类’场景在技术上尚未实现;但长期监管 Blank 仍值得重视
若你属于研究AI伦理、撰写行业报告或管理技术投资组合,建议密切关注Anthropic S-1正式文件中关于‘风险因素’的章节措辞。若你仅是技术爱好者,当前事件更多是行业成熟期的标志性阵痛——证明AI能力已进入‘全民级警觉’阶段。
写在最后
AI行业正从技术竞争阶段转入责任与叙事竞争阶段。当一家公司公开承认‘>10%灭绝概率’时,它既是在履行道德自觉,也在塑造监管叙事框架。这种双重性标志着AI发展进入真正复杂的 plural阶段。
注:本文基于TechCrunch《Equity》播客内容整理,未使用源材料未提及的模型参数、公司财务数据或未来产品路线图。


