跳到正文
TechCrunch AI· Sarah Perez·· 3 天前精选AI 评分79

Anthropic 纳斯达克上市,CEO Dario Amodei 重申将控制 AI 发展节奏

At Nasdaq opening bell, Anthropic CEO recommits to pacing AI development

AI 导读

在 Anthropic 于纳斯达克敲钟上市之际,CEO Dario Amodei 发表致辞重申负责任开发 AI 的承诺,表示公司不会向商业或政治压力妥协。他强调 Anthropic 将根据安全验证的需要控制 AI 系统的训练与部署节奏,投入更多研发资源推进模型对齐与测试,确保 AI 始终处于人类控制之下。

推荐理由

文章记录了Anthropic走向公开资本市场时的核心安全立场,有助于读者观察前沿AI企业在商业利益与技术风控之间的权衡。

正文 · AI 翻译

周四,Anthropic 正式登陆华尔街,创下了史上规模最大的 IPO 纪录。CEO Dario Amodei 借此重申了公司对负责任开发 AI 的承诺。在纳斯达克敲钟仪式前发表的演讲中,Amodei 誓言这家 AI 公司绝不会向商业或政治压力低头,并将“始终处于人类控制之下”。

这位 CEO 照着打印好的讲稿,开篇谈到了 Anthropic 的创立初衷——打造造福人类的强大技术。他表示,这一初衷源于自己的父亲因病离世,而那场疾病在短短几年后便找到了治愈方法。

他坦承,尽管人类智慧已经让鼠疫、天花和小儿麻痹症等疾病在世界大部分地区成为历史,但在攻克其他疾病方面,仍然面临科研人员短缺、研发时间紧迫的困境。他说,AI 能够通过与人类紧密协作来推进医学突破,从而改善这一局面。

此前,Amodei 曾多次就技术过快发展的风险发出警告,因此他选择以 AI 挽救生命的潜在应用作为开场,颇为耐人寻味。今年 9 月,Amodei 因提出一项把控 AI 发展节奏的方案而引发广泛关注。该方案提议与其他顶尖企业协同制定安全标准,并引入第三方机构的评估员,以监督各家公司是否切实履行了安全承诺。

尽管几乎没有做出实质性承诺,但 OpenAI 首席执行官 Sam Altman、Google DeepMind 负责人 Demis Hassabis 以及 xAI 所有者 Elon Musk 均表示认同 Amodei 的立场。

在今早的演讲中,Amodei 再次强调了推进 AI 技术以及同步落实安全保障的必要性。他谈到,AI 若落入心怀不轨者(无论是个人还是国家层面)之手,将带来“极其切实的风险”,并可能导致“经济动荡”以及“AI 系统失控”等问题。

他指出,Anthropic 坚信只要防护措施到位,这些风险都是可以避免的。Amodei 表示,公司将继续大力投入 AI 对齐与测试工作,并探索理解 AI 行为的新方法,确保其始终受人类掌控。

他说:“我们仍有大量工作要做,最艰巨的安全攻坚还在后头。正是凭借公司不可思议的人才队伍,我们才打造出了功能最强大的 AI 系统;接下来,我们需要将更多精力倾注于此,反复核实这些系统的安全性,确保它们始终处于人类的掌控之下。”

Amodei 总结道:“在此明确声明,我们将合理把控 AI 系统的训练和部署节奏。只要有必要,我们愿意花足够多的时间,直到确信它们安全可靠、始终受人类控制为止。”

他的妹妹、Anthropic 联合创始人 Daniela Amodei 周四在接受 CNBC 采访时表达了类似的观点。她指出,尽管风险确实存在,但 AI 展现出的前景同样“令人惊叹”。

她补充道:“我们创立公司的核心初衷,就是以降低这些风险为己任,我认为我们至今在这方面做得非常出色。显然未来还有很多工作要做,但我们对安全的承诺绝不松懈。”

以下为 Dario Amodei 开场演讲全文:

谢谢 Daniela。我和联合创始人创立 Anthropic,是因为我们坚信,这个时代最强大的技术理应为造福全人类而打造。当年我和 Daniela 的父亲因病去世,而就在短短几年后,这种疾病便有了治愈方法。我的科研生涯始于生物学,初衷就是希望让未来的救命疗法更快问世。在实验室里,我亲眼目睹了科学家在探究疾病机制、研发全新疗法时,所面对的如荆棘丛般盘根错节的复杂难题。而无数能够斩断这些荆棘的科学工具——比如基因编辑工具、基因合成工具、以及用光控制脑细胞的技术——最初都只是纯粹的构想。换句话说,它们源自思考,源自智能。

人类的智慧已经让鼠疫、天花和小儿麻痹症等疾病在世界上绝大多数地区成为历史。但对无数患者及其家庭而言,攻克其他疾病的进展依然太过缓慢。从一个绝妙构想走向成熟疗法,往往要耗费数十年时间。例如,从首次在 DNA 中发现奇特的重复序列,到首款基于 CRISPR 的疾病疗法获批,中间就跨越了漫长的岁月。大自然中处处是这样的规律,但以往我们却没有足够的智慧去破译其中的大多数——能投入其中的科学家太少,时间也太有限。而现在,我们可以打造这样的智能。无论是在蛋白质折叠、药物设计、癌症遗传学,还是临床试验管理领域,生物学与医学各界的科学家都发现,Claude 能帮他们以远少于两年前所需的时间推进研究。我相信,足够强大的 AI 若能与人类携手共进,就能将一个世纪的科学与医学进步压缩在十年内实现。

当然,我也不想言之过早。目前来看,我们看到的还只是早期成果。实验室研究和临床试验依然需要时间,尽管这些流程缓慢而繁琐,但我坚信 AI 能够显著加快这一进程。我们希望在未来,能有更少的家庭因为短短几年的时间差,而与救命良方失之交臂。医学只是一个格外生动的例子,Claude 的应用场景远不止于此。我们的客户——全球最具雄心的企业、非营利组织以及个人用户——已经在运用我们构建的智能来促进经济增长、帮助人们摆脱贫困、捍卫民主与自由社会,甚至让像车管所(DMV)这样的日常公共服务运转得更加顺畅。能与他们携手共进,我们深感自豪;而对于未来我们能够共同创造的可能,我更是抱有无比乐观的期待。

与此同时,我们也始终坦承,这项技术伴随着实实在在的风险。从个人或国家层面对技术的滥用,到经济动荡,再到 AI 系统失控,不一而足。我们探讨这些风险,并不是觉得它们不可避免却还要硬着头皮做,而是因为我们坚信这些风险完全可以避免,我们也能够做到这一点。能否规避风险,取决于 AI 开发者做出的抉择。对安全漠不关心,与对安全极度重视,将把 AI 引向截然不同的未来。对安全和公众利益的执着,自始至终深植于 Anthropic 的基因之中。从防范生物与网络安全威胁、开展对齐训练和测试,到像照 X 光一样透视模型内部,Anthropic 开创了诸多方法来理解和引导 AI 行为,确保其始终在人类的掌控之中。前方仍有大量工作要做,最艰难的安全挑战还在后头。正是公司杰出的人才团队让我们打造出了最强大的 AI 系统,而接下来,我们要把更多力量倾注于此,对这些系统的安全性及其是否处于人类掌控之下进行反复确认与严格把关。

我们可以明确表态:我们会自主把控 AI 系统的训练与部署节奏,只要需要,我们愿意花足够多的时间来确保它们安全且在人类掌控之中,绝不会屈服于任何商业或政治压力。今天的进展让公司的财务状况更加稳固,也更加坚定了我们做正确之事的决心。如果我们能证明,即便在安全上做出正确的选择,同样能打造一家极为成功的公司,业内其他同行也会受到启发并起而效尤。我们称之为“良性竞逐”。

当良性竞逐机制发挥作用时,哪家公司的模型最强其实并不重要。所有人都是赢家,因为大家都在安全地构建技术。这种竞逐如果由领跑者带头推动,效果最为显著,我们也完全希望并期待自己能扮演这个角色。但归根结底,目标是推动整个行业向好发展,无论 Anthropic 在某一特定时刻是领先还是落后。机器智能的降临是人类历史上的重大时刻之一,我们拥有难得的机遇,去引导它走向更好的方向。谢谢大家。

当你通过我们文章中的链接购买商品时,我们可能会获得少许佣金。但这不会影响我们的编辑独立性。

来源:TechCrunch AI · techcrunch.com

EVAOO 主站实战落地 · 大模型与 AI 内容工程

看完情报?回到 EVAOO 主站直接上手工具与完整 SOP

返回 EVAOO 主站