Anthropic的IPO推介拥抱了人工智能的承诺与风险

旧金山/纽约——Anthropic 正在筹划一场可能成为历史上规模最大的首次公开募股。

但如果人工智能继续沿着当前轨迹发展，人类可能不会再有太久去享受它。

这一点以及其他悖论贯穿了这家旧金山人工智能领军企业约300页的首次公开募股招股说明书，路透社本周看到了该文件。

要成功完成一场估值达2万亿美元的发行，Anthropic——其名称意为“以人为本”——将需要大量凡人投资者，来帮助构建一个世界：在人类很快将退居次要位置、让位于强大得多的人工智能系统。

该文件将近三分之一的篇幅用于列举各种风险因素，超过了介绍 Anthropic 实际业务内容的篇幅的两倍。

这份申报材料塞满了大胆预测和雄心，这些已成为硅谷梦想家的标志。

然而，该公司反复以不同方式阐述了成功之路如何穿过其自身的危险。

Anthropic 表示，人工智能带来巨大威胁，而只有人工智能才能应对这些威胁。

该公司认为，人工智能可能重塑经济——也可能终结人类。

它一边向公众出售公司的一部分，一边主张对同一家公司实行更集中持股和监管。

要让人工智能更安全，它需要更大的权力。而它要求所有人信任 Anthropic 的领导层，同时仍警告其创造的产品可能带来灾难。

通过权力实现安全的悖论

Anthropic的愿景建立在一个核心悖论之上：为了让AI更安全，Anthropic表示它必须让AI更强大，但更强大的AI更有可能以意想不到的，甚至危险的方式行事。

“AI与以往技术的不同之处在于，开发它的公司一方面说它将改变世界，另一方面又说它很危险，”专注于科技经济的华盛顿大学历史学教授玛格丽特·奥玛拉说。

“它多少有点像个黑箱，而在互联网泡沫时期上市的公司则可以承诺实现大规模且安全的增长。”

根据S-1文件，Anthropic的AI可以“显著提升生活质量”并“改变全球经济的每一个领域”。

更不用说“对人类广泛的活动具有潜在的决定性影响”。

但文件显示，先进的AI系统如果应用不当，可能“对人类构成灾难性或生存性风险”，同时还会为此烧掉巨额资金。

仅在截至2025年的这两年里，该公司就亏损了超过500亿美元，但其在未来几年有超过5000亿美元的支出承诺。

相比之下，6月完成史上最大规模IPO的SpaceX，在同期仅录得相对温和的42亿美元亏损。

Anthropic所称的“强大AI”正在逼近，它表示这种AI“可以在几乎所有认知领域超越顶尖人类专家”。

根据文件，它将与其他AI系统协作；控制实验室设备、机器人和其他机器；并且几乎无需人类干预就连续运行数周。

其他能力还包括个性化理财建议，以及加速药物发现和科学进步。

然而，Anthropic表示，尽管AI具有潜在益处，这项技术有时会与其创造者背道而驰，并渗入其他公司的系统。

它警告称，先进模型可能表现出“自我保护行为”，包括试图“抵制关机”、“隐瞒或操纵信息”，或生成可被解读为“胁迫性、欺骗性或操纵性”的输出。

Anthropic在该文件中表示，AI必须变得大幅更强大，但更强的能力会带来滥用、与人类理想不一致，或失去控制的可能性。

“不一致的系统可能会腐蚀机构决策，通过不透明或难以驾驭的行为造成大规模伤害，并削弱使复杂经济和社会系统运转的信任。”

Anthropic投资者、Bessemer Venture Partners的Byron Deeter在9月29日试图淡化这份保密文件中的警告，他在接受CNBC采访时表示：“人们只是对一份草案作出反应”，随后又称赞该公司拥有“一套独特的披露”内容。

“你会看到人们比历史上通常会有的情况更早地预先应对它，”他说。

Anthropic未回应置评请求。

领导层集中风险

Anthropic IPO文件中列出的其他悖论之一是其领导层安排。

为了降低AI的风险，Anthropic表示，它需要将控制权和资本集中在越来越少的人手中，尽管该公司警告称，这种权力集中本身就是一种威胁。

它要求投资者将业务监督权托付给其7位创始人，即使这种控制会限制投资者监督和公众股东的影响力。

文件称，这些创始人“显然具备担任我们使命守护者的能力”，但该治理结构可能导致“可能与短期、中期或长期财务利益和业务表现相冲突”的决定。

上周在联合国前亮相时，Anthropic首席执行官Dario Amodei承认，少数人监督AI面临挑战。

“我们必须搁置这些分歧，以应对同时摆在我们面前的这一全球性机遇和全球性威胁，”他说。

“没有任何领导者、公司或国家能够独自应对这一切。”

有此类朋友

Anthropic 的增长在很大程度上归功于 Amazon、Alphabet 旗下的 Google、Broadcom 和 Microsoft，这得益于通过大型科技合作伙伴的销售，这些销售额合计占其 2025 年收入的 47%，同时它也依赖这些公司作为算力供应商。

在同一份文件中，该公司还表示，这些公司也可能通过限制它，或直接与它竞争，从而削弱它。

对于这些供应商，即使租约被放弃或计算服务未被使用，Anthropic 也承诺支付费用。

它进一步警告称，“如果我们从第三方获得的算力被削减、重新定价或终止”，其业务可能会受到影响。

最后，IPO 是一场融资活动，Anthropic 指出，AI 有能力扩大繁荣，其中包括帮助发展中国家提升到更富裕国家的标准。

但 Anthropic 在招股说明书中表示，权力集中同样带来巨大的风险。

“大规模部署的 AI 也有可能以损害社会和破坏地缘政治秩序的方式集中权力和财富。”

如今，在 AI 研究人员警告的影响下，两党政客都在排队试图放缓 AI 的进展，而美国总统 Donald Trump 则轻描淡写地否认这些潜在危害，称其为“骗局”。

9 月，Amodei 与 Google 的 DeepMind、OpenAI 和 xAI 的负责人一道，呼吁放缓 AI 开发以专注于安全——这与老派科技箴言“快速做大”几乎毫不相干。

十天后，Anthropic 发布了其称之为迄今最优秀、最强大的模型。路透社