跳到正文
The Verge AI· Hayden Field·· 3 天前精选AI 评分85

Anthropic 完成巨额 IPO 引发对其安全声誉与治理结构的质疑

With the biggest IPO of all time, Anthropic’s ‘good guy’ reputation is on the line

AI 导读

Anthropic 推进募资 813 亿美元的公开上市,引发外界对其安全至上声誉与权力制衡机制的深度审视。虽然公司设有长期利益信托(LTBT)平衡股东利益与公共使命,但法律与治理专家指出信托缺乏日常决策干预权,控制权仍高度集中于创始人。面对巨额算力开支与公开市场的盈利诉求,多名前员工与研究机构担忧其在追求技术领先的同时正逐步淡化安全红线。

推荐理由

剖析了 Anthropic 上市背后的长期利益信托治理细节,帮助读者理解商业资本与安全制衡之间的制度冲突。

正文 · AI 翻译
STK202_DARIO_AMODEI_CVIRGINIA_D

对 Anthropic 而言,今天是全新的起点:筹备多年的 IPO 募资 813 亿美元,刷新历史纪录、超越 SpaceX 成为史上估值最高的一场上市,也为后续其他 AI 实验室的上市敲钟树立了重要标杆。但这绝不仅仅是一座财务上的里程碑。

Anthropic 的创立初衷,正是要把安全放在比其他实验室更优先的位置;其创始人此前均在 OpenAI 担任核心研究高管。然而,随着 AI 军备竞赛不断提速,公司高管却频频强调:Anthropic 唯有拔得头筹才能践行这一使命,而这离不开海量资金与算力的支持。意料之中的是,深思熟虑、安全且克制的 AI 研发,难免会与争夺头名所需的极致速度产生冲突。如今上市敲钟更让局势复杂化,而 Anthropic 管理层几乎可以单方面推动这一进程。这要归功于其特殊的公司架构——它本意是帮公司抵御股东追求利润的施压,但同时也剥离了对其权力的常规制衡。

一位在 IPO 前离职的 Anthropic 前员工表示,他和身边的同事愈发感到,目前的 AI 研发节奏“在常规市场机制下根本难以为继”,特别是在这样一个实力雄厚却几乎毫无外部监管的行业中,利益导向已然发生扭曲。

多年来,Anthropic 一直标榜自己不同于其他 AI 公司,行事也更加审慎。理论上,这种理念也延续到了它的上市计划中。作为一家注册成立的公益企业(Public Benefit Corporation),Anthropic 董事会有责任在自身使命与股东利益最大化之间寻求平衡。正如我的同事 Robert Hart 此前所探讨的,它还构建了一套极不寻常的权力架构。

Anthropic 于 2023 年引入的“长期利益信托”(LTBT)与公司创始人共同掌握着绝对投票权,这意味着即便成为上市公司,股东也绝无可能将他们票决出局。通过发行一种特殊的 T 类股,由少数受托人组成的 LTBT 拥有“选任和罢免部分”Anthropic 董事的权力。他们不受常规股东压力的约束,在理论上构成了对创始人的制衡,肩负着“在我们预计决策后果将远超 Anthropic 自身波及范围的关键节点,平衡股东财务利益与公共利益宗旨”的使命。

然而现实情况要复杂得多。例如,LTBT 在名义上负责推选 Anthropic 七人董事会中的四名成员,但其中一人实际上必须获得创始人的认可,这使得该信托并未真正握有绝对的多数控制权。在提名或罢免董事方面同样设有限制:LTBT 做出决定时,必须提前 30 天通知公司的“提名与公司治理委员会”。该委员会仅有三名成员:联合创始人 Daniela Amodei(兼任委员会主席)、Netflix 联合创始人 Reed Hastings,以及 Anthropic 投资人 Yasmin Razavi。

尽管长期利益信托(LTBT)的成员对公司“没有财务利益关联”,但理论上,也没有任何规定阻止 Anthropic 将某位受托人直接招入麾下并开出高额薪酬。前受托人 Mariano-Florentino Cuéllar 就在 8 月加入 Anthropic 担任首席全球事务官;OpenAI 此前也曾聘请过其前董事会成员 Fidji Simo 担任公司高管。非营利性 AI 行业监督机构 The Midas Project 创始人 Tyler Johnston 表示,完全可以设想这样一种情况:如果有哪位受托人“表现得有点太像激进倡导者,他们只需开出一份包含数百万美元实际薪酬的录用通知,要求其辞去信托职务,这便成了一种变相施加影响或干预的手段”。

虽然 LTBT 被宣传为制衡 Anthropic 管理层的一种手段,但在一些外部观察人士看来,具体细则站不住脚。科罗拉多大学法学院法学教授、公司治理专家 Ann Lipton 表示:“由于信托在 Anthropic 没有经济利益,理论上可以通过其任命的三到四名董事来确保公司不偏离使命。但这种事情发生的概率有多大,值得打个问号。”

此外,Lipton 还质疑,就算信托真有这种权力,他们是否有足够的认知来判断何时该叫停某项公司计划或产品。目前列出的四名 LTBT 成员都不是公认的 AI 专家,他们包括美联储前主席 Ben Bernanke、外交政策分析师 Richard Fontaine、实验物理学家 Christopher Stubbs,以及担任 LTBT 主席的前 GiveWell 高管 Neil Buddy Shah。Lipton 说:“我并不认为这些受托人或他们任命的董事对 AI 及 AI 发展有足够深入的了解,能做出这种决断。他们确实声名显赫,但 Ben Bernanke 对 AI 又懂多少呢?”

多位专家将 Anthropic 的 LTBT 与 Altman 被罢免前的 OpenAI 非营利董事会进行了对比。The Midas Project 的 Johnston 表示:“长期利益信托拥有——或缺乏——的权力……在某些方面与 OpenAI 非营利组织所拥有的权力非常相似。”当然,当年那个董事会罢免 OpenAI CEO Sam Altman 的决定,最终在几天后演变成了 Altman 复职,而大部分董事会成员则被迫辞职并被替换。

但 LTBT 与其存在一个显著区别。在重组之前,OpenAI 的非营利董事会有权在必要时介入并指导公司的日常决策;即使在重组后,他们依然保留了在安全和安保事务上的干预权力,例如推迟或阻止发布某个模型。而 Anthropic 的 S-1 招股书 显示,LTBT 的主要职责仅限于任命(以及可能罢免)特定董事会成员,并不具备上述任何一种层级的权力。

相反,Anthropic 的架构更接近硅谷偏爱的那种以创始人为中心的模式——类似 Mark Zuckerberg 之于 Meta,或是 Elon Musk 之于 SpaceX。

Anthropic 未回应置评请求。

未来生命研究所(Future of Life Institute)负责 AI 与国家安全事务的 Hamza Chaudhry 表示:“信托机构及其受托人对日常决策没有任何决定权。因此,对于他们在上市后让 LTBT 成为核心治理机制,我并不抱太大希望。”

这位 Anthropic 前员工表示,实际上只有创始人拥有真正的决策权:“如果有人既熟悉创始人和长期利益信托(Long-Term Benefit Trust),又了解公司的决策机制,却还认为该信托拥有什么实质权力,那才叫奇怪。”该员工还补充说,受托人不仅“缺乏对创始人进行有效监督的能力”,而且当初挑选他们,本身就是看中他们“不会惹事”。

Anthropic 一旦成为上市公司,无论是通过增加营收还是对外融资,其在获取资金方面面临的压力都将超过以往。这意味着,正如行业内多年来的趋势一样,高昂的 AI 安全项目将越来越难以证明其合理性,而加快产品发布和商业化步伐的压力也势必与日俱增。“真正拥有治理权的是该信托和创始人本身,”Lipton 表示,“因此,你要么相信他们能够妥善平衡社会利益,要么就不信。但无论怎样,真正限制他们社会责任冲动的,归根结底是 Anthropic 急需资金这一现实。”

Anthropic 毫不讳言自己极度需要真金白银的资金支持,尤其是为了采购更多算力来加速推进其 AI 技术。“算力是公司面临的最严峻商业困境,”上周五,Amodei 在与摩根大通 CEO Jamie Dimon 的直播对话中表示,“买得太多,资金链当然可能会断裂;买得太少,又无法支撑客户的推理需求,更关键的是……无法开展研发。”

Anthropic 的官网将其存在的根本宗旨概括为一句话:“开展并将安全置于前沿的 AI 研究与产品。”但显而易见的是,要兑现这一安全承诺,Anthropic 必须拥有庞大资源来维持业务运转。与其他实验室一样,它也在追求递归自我改进(recursive self-improvement)——这一极具争议且潜在危险的行业里程碑,指的是 AI 系统能够自主改进并创造出更先进的自身版本。“要是沦落到第二名,安全也就无从谈起了,”Anthropic 政策主管 Sarah Heck 于 9 月表示。

这种说法并未让所有人信服,其中也包括 Anthropic 的部分员工。今年 2 月,Anthropic 的安全防护研究主管离职,并声称“世界正处于危险之中”;9 月,公司研究员 Jacob Coxon 登上新闻头条,因其直言 Anthropic 和 OpenAI 都在“全力冲向具备自我改进能力的超级智能,是在拿我们的性命做赌注”;同月,Anthropic 的另一位安全研究员跳槽至非营利第三方 AI 审计机构 METR,并发文称:“AI 公司正在将前所未有的风险强加给社会”,“虽然 Anthropic 还没出现过像 HuggingFace 被攻击[由 OpenAI 智能体发起]那么严重的事件,但我认为这在一定程度上只是侥幸。”

周三,人工智能安全中心(Center for AI Safety)发布了一份新的声明。该声明获得了来自 Hugging Face、哈佛大学等机构多位业内知名人士的联名签署,指责 Anthropic“根本不是一家安全的 AI 公司”,并试图“以追求更高福祉为名聚敛权力”。声明指出:“Anthropic 一边警告说递归自我改进型 AI(RSI)可能会导致权力集中并脱离人类控制,一边却在争先恐后地抢先研发。该公司大打‘安全’招牌来博取投资者、员工和公众的好感,私下里却悄然削弱自身的安全承诺,并游说推行有利于自身利益的监管政策。”

这位 Anthropic 前员工表示,自己起初也对“Anthropic 必须在 AI 竞赛中拔得头筹才能确保安全结果”的说辞深信不疑,但后来逐渐清醒过来,意识到这场争先恐后的竞赛所带来的代价“毫无道理”——也就是说,任何一家公司都不该有权“单方面”决定去研发 RSI。(Amodei 曾公开表示:“如果放任不管,[RSI] 的发展速度可能会超出我们理解和控制这些系统的能力,因此即便要研发,也必须慎之又慎。”)

这位前员工说:“私营企业正在开发一种有望在地球上比人类更强大、更有影响力的新型智能,而在许多方面,它们受到的监管甚至比现在的墨西哥卷饼餐车还要少,这简直荒谬至极。”

Anthropic 官网写道:“归根结底,使命才是我们齐聚于此的原因。它赋予我们共同的目标,让我们能够步调一致、迅速行动,而不至于被相互冲突的目标牵扯。它催生了信任与合作,也是我们一切决策的终极准绳。”但问题在于,当 Anthropic 面临前所未有的压力,需要为其约 1.5 万亿美元的完全稀释市值证明合理性时,其使命的内涵是否以及将如何发生转变。

关注本文涉及的主题和作者,即可在个性化主页信息流中查看更多同类内容,并接收邮件更新。

  • Hayden Field

来源:The Verge AI · theverge.com

EVAOO 主站实战落地 · 大模型与 AI 内容工程

看完情报?回到 EVAOO 主站直接上手工具与完整 SOP

返回 EVAOO 主站