来源：瓜哥AI新知 鹤壁防火门专用胶厂家
本文内容整理自Anthropic CEO Dario Amodei在Bloomberg Originals频道的访，公开发表于2026年06月17日。原始内容参考：https：//www.youtube.com/watch？v=x2VHFgyawPE
内容提要：达里奥·阿莫代做客《The Circuit》度访
指数增长体验： AI的发展呈平滑的指数轨迹，初看波澜不惊，随后便会迎来颠覆的爆发。决策者需保持外科医生般的对理来应对压风险，避在“过度偏执”与“盲目自满”间来回摇摆。
商业模式与价值观： 选择押注企业服务而非社交媒体，是因为后者常受广告驱动，易引发成瘾消费。企业市场看重信任与长期作，这与Anthropic追求安全、动科学进步（如、提升能源率）的核心价值观度契。
对抗发展与带动应： Anthropic致力于成为行业“标杆”，通过确立标准来倒逼竞品。即便身处激烈竞争，我们也积与德米斯·哈萨比斯（Demis Hassabis）等值得信赖的同行协作，共同引AI行业向安全的向迈进。
御技术优先： 面对其强大的“Mythos”模型，Anthropic坚持分阶段发布。我们宁愿承受巨大的商业损失，也要确保网络安全护体系万失，坚决止模型被滥用，这彰显了我们对长期社会责任的坚守。
地缘政与责任： 坚决反对全自主武器，强调须由人类掌握终决策权，将军事AI的辅助作用限制在威慑层面，而非直接用于破坏。
人才与文化构建： 在速扩张期，保持组织文化的致是核心挑战。须明确Anthropic特的运作式，坚决抵制新员工将传统科技巨头的官僚习气带入公司。
失业与经济重构： AI将引发巨大颠覆，入门白岗位当其冲。社会应未雨绸缪，预先制定代币税、再培训及宏观经济调整等政策，引企业利用AI提升生产力而非单纯裁员，终实现社会总产值的跨越式增长。
AI理的制衡： 提倡建立类似“长期利益信托”的监督机构，支持国会出台发布前的强制测试与审计机制，主张在企业内部与政府外部之间，构建套相互制衡的AI理生态。
Anthropic CEO Dario Amodei 简介
达里奥·阿莫代（Dario Amodei）是人工智能研究公司Anthropic的联创始人兼席执行官。他曾是OpenAI的核心骨干，担任研究总裁，主了GPT-2和GPT-3的开发工作。
因在AI安全理念上存在分歧，他于2021年与妹妹丹妮拉·阿莫代（Daniela Amodei）共同创立了Anthropic。他坚守“宪法AI”（Constitutional AI）理念，致力于开发具可解释、安全及符伦理准则的AI系统。在业界，达里奥被视为AI安全域具影响力的倡者之。他不仅是顶技术，积动AI理与长远风险范。其研发的Claude系列模型，已成为全球大模型域的核心竞争者。
访谈节选
主持人： 你现在睡得怎么样？
达里奥·阿莫代： 我向来睡眠般。只能说，我正在学习种艺术——如何在异乎寻常的重压之下，寻找放松并安然入睡的法。
主持人： 切发展得如此之快。在公司内部是什么感觉？
达里奥·阿莫代： 这是种呈指数加速的感觉。假设你乘坐艘以相对论速度（relativistic speed）飞离地球的宇宙飞船。根据狭义相对论（special relativity），你睡觉醒来，地球上已经过去了两天，所以你须在天内处理两天的事务。然后你再睡觉，因为飞船在持续加速，地球上已经过去了三天。再过天，地球上已经过去了四天。大概就是这种感觉。
主持人： 你每天上床睡觉时，会因为担心觉醒来世界发生了什么巨变而感到焦虑吗？
达里奥·阿莫代： 眼前有太多清晰而紧迫的问题需要我处理。我直在应对这些事务，同时思考我们该如何未雨绸缪。我不认为偏执或担忧觉醒来会发生什么是建设的。
我研究过历史上那些应对过此类压局面的大人物。你需要学会理应对，而不是不成比例地放大各种危险。在“我毫不担心”和“天哪，我们今天须恐慌”之间反复横跳——我认为这是决策不成熟的标志。
真正成熟的决策，是认识到我们既不能对风险视而不见，也不能盲目乐观。事实上，风险正在与日俱增。我们须像外科医生对待手术、军官对待任务那样理应对。任何其决策会影响大众的人，都须理行事；他们须刻理解风险，同时保持基本的冷静。
主持人： 我儿子昨天问我：“我能用你的 Claude 工作账号吗？”我当时的反应是：“对不行，我还需要我的力额度（tokens）。”
达里奥·阿莫代： 我们看到越来越多这样的情况，即使在消费端也是如此。我们本意是想成为面向企业客户的公司，但你看，即便我们没有在消费者端投入太多精力，它的增长也非常迅速。
主持人： 你现在正处于人工智能宇宙的中心。这种感觉怎么样？
达里奥·阿莫代： 有趣的是，贯穿我整个职业生涯，尤其是创立 Anthropic 以来的全部经历，都呈现出种平稳的指数增长（smooth exponential）。这种体验就是：起初感觉风平浪静，风平浪静，风平浪静——只发生了些琐碎的小事，然后“嗖”的声，切就开始狂飙升。这就是整个世界演进的式，也是我们公司相对其他公司、相对整个世界而言，其规模扩张的真实写照。
所以我观察这根增长曲线已经有段时间了。我当时就说：“没错，大概在这个时间点左右，我们可能会成为营收、估值的人工智能公司。”事实也的确如此。从某种意义上说，我并不惊讶，因为图表上只是条平滑的曲线。但从另面来看，当事情真实发生时，你会看到其丰富的细节和彩，这对令人震撼。
尽管如此，我们依然注于贯优先考虑的核心事项：如何训练出优秀的模型？如何将它们造成出的产品？如何确保万失的安全？如何在造福人类的同时，管控好围绕这项技术的社会风险？归根结底还是这同套问题，只不过现在我们是把它放在了倍数的显微镜下审视而已。
Dario 的背景
主持人： 你在旧金山长大时是个什么样的孩子？我知道你父亲是皮革工匠，母亲在图书馆工作，这些经历是如何塑造你的？
达里奥·阿莫代： 当时，波互联网革命正发生在我周围，但我对此毫兴趣。我只喜欢做数学题，喜欢研究各种东西。我渴望理解这个宇宙，痴迷于科幻小说。这就是我成长的时代背景。我想，我只是对这个世界怀有比的好奇心。
主持人： 你在这座名其实的科技中心，同时也是当下人工智能中心的城市长大。这个地，这座城市，在某种程度上是否塑造了你的世界观？
达里奥·阿莫代： 是的。我想，那种不墨守成规（non-conformism）和个人主义（individualism）的普遍精，以及“狂点也没关系”的包容心态，确实潜移默化地影响了我。你会听到些发生在欧洲国，甚至美国其他地区的故事——在那里，特立行地思考问题，或者怀抱些离经叛道的想法，是会受到压，或被视为异类的。
实际上，我对硅谷的很多面都持批评态度，但有点我非常认同，那就是它传递出的种鼓励：就所有的都与你背道而驰，那也妨。只要你拥有自洽的愿景和连贯的世界观，你就应该去勇敢追求。
也许这根本行不通，但如果成功了，就会爆发出巨大的“长尾应”（long-tailedness）。在某些域，只要你顺着特定的矿脉去寻觅，就有可能发现座巨大的金矿。我认为这种精至关重要。
主持人： 2016 年，你、你的妹妹 Daniela，以及她的丈夫 Holden Karnofsky 曾租在栋房子里。那时你们都在争论些什么？
达里奥·阿莫代： 我想，那时正是开放慈善项目（Open Philanthropy Project）刚刚起步的时候，Holden 是该项目的负责人。当时我是名生物科学，所以我在帮他们处理些有关发展医疗卫生和生物研究的工作。我充当着类似顾问的角，和他们探讨哪些域大有可为，哪些域前景黯淡。
离开 OpenAI
主持人： 你离开 OpenAI 的决定已经成了硅谷的传奇。当时究竟发生了什么？抛开外界的传闻，真正的问题所在是什么？你们的分歧究竟在哪里？
达里奥·阿莫代： 我直说吧。在构建强大的技术时，你会面临诸多棘手的难题，这也是 Anthropic 每天都在面对的日常——有时我们也不知道自己的决定是利是弊。因此，在安全问题上存在许多理的分歧。不可否认，我们与他们之间确实存在这类分歧，但单凭这点，还不足以成为我离开的理由。
在 Anthropic，同事们也会和我产生分歧，彼此之间也会争论。但是，当你感到你法信任某些人，当你发现他们的价值观与他们口中所宣扬的不符，当你发现他们并不诚实，或是当你意识到他们的初衷并非如其所言；又或者，当你目睹了某些令人不安的行为模式和欺瞒行径时，你就很难再继续与这公司共事，也很难再对它抱有信任。
说到底，如果你和对既没有共同的愿景，又缺乏基本的信任，那还有什么争论的意义呢？好的解决式就是分道扬镳，各自去做自己认定的事。对于“我们走我们的阳关道，他们过他们的木桥”这种状态，我内心感到比坦然。
印度 AI 峰会
达里奥·阿莫代： 至于究竟谁能在市场上拔得头筹，谁能在公众舆论场上赢得人心，我们拭目以待。我认为，这些客观事实远比谁离开了谁的八卦戏码有说服力。我们正在以身作则，展示我们认为负责任的技术部署式。如果他们不认同，他们大可以用自己的式去证明。我想，关于这件事，言尽于此。
主持人： 在印度的AI峰会上，有那么幕，你和萨姆·奥特曼（Sam Altman）在台上似乎拒牵手。当时发生了什么？
达里奥·阿莫代： 当时的情况是，那场峰会组织得其混乱。我们都是后刻才被叫上台，他们临时改变了站位顺序，接着拍照，然后又命令大把手牵起来。如果你参加过这类峰会就会知道——我并不是针对印度——所有这类有国元出席的峰会，通常都其混乱。
主持人： 好吧，可是其他人都牵手了。拜托。
达里奥·阿莫代： 听着，我不知道该怎么跟你解释。当时纳伦德拉·莫迪（Narendra Modi）也在台上，突然就要求所有人把手牵起来。
主持人： 好吧，好吧。你看，萨姆和埃隆（Elon）正在互相起诉。而你似乎也不喜欢萨姆。如果造这个世界上重要技术的人，在台上连手都不愿牵，我们怎么能相信你们在应对生存风险（Existential Risk）时会通力作呢？
达里奥·阿莫代： 我可以告诉你的是：构建这项技术的人，在素质和可信度上存在巨大差异。但如果因此认定大互不信任，也是不对的。例如，我认识构建 Gemini 模型（Claude 的主要竞争对手）的德米斯·哈萨比斯（Demis Hassabis）已经 15 年了。我们在许多问题上都有过作，我们向谷歌购买力（Compute），也经常交流关于安全的想法。
我的观点是，在这个赛道里，有些人确实比其他人值得信赖，而在 Anthropic 之外，也对有我信任的同行。现在需要做的是：让这些值得信赖的参与者结成同盟，倒逼那些不可信的人，迫使他们采用相同的标准。 经验告诉我，虽然有些人不会自觉去做正确的事，但只要行业内的大多数人确立了正确的标杆，剩下的人基本上就别选择，只能跟进。
这种动态存在种良的发展轨迹，那就是我们互相激励。就像我和德米斯之间：他做了 AlphaFold，我们也会尝试在生物学域有所建树；我们做可解释（Interpretability）研究，他们也开始启动相关的探索。这甚至不上竞争，仅仅是每公司都在做些很酷的事情，而对在认可的同时，寻求在此基础上进步创新。这就是这场“逐顶游戏（Race to the top）”中“胡萝卜”的面。
当然还有“大棒”的面，或者说是隐形的大棒：如果大多数公司都在做正确的事，那么那些不配的人就会显得相形见绌。我们经常看到些不良参与者（Bad actors）心不甘情不愿地做着正确的事，同时还试图假装自己在走另条路——甚至暗示我们有某种不可告人的动机。这是意料之中的事，但我相信，正是通过这种式，我们才能将整个行业团结起来，促成行业的作。
企业布局
主持人： 早期，其他人都在注于开发有趣、吸睛的消费应用（Consumer apps）。你却押注于代码和企业市场，结果 Claude Code 炮而红，Claude for Work 也大获成功。你为什么做出这样的选择？这是基于价值观的决策，还是基于商业的考量？
达里奥·阿莫代： 当我们创立 Anthropic 时，核心的原则——也是永远不变的底线——是我们想以正确的式来进这件事。但你须问自己：为了支撑这些模型其昂的研发成本，公司须拥有可持续的商业模式。那么，商业模式会阻碍价值观的实现吗？我在其他公司工作以及观察同行时学到的点是：如果你选择了个从根本上与自身价值观相冲突的商业模式，你将举步维艰。你要么背叛自己的价值观，要么被市场边缘化。 你终会陷入“二十二条军规（Catch-22）”般的死循环；虽然总有办法去规避，但处境会非常艰难。因此，选择个与你价值观相契的商业模式，要明智得多。
当我们思考这个问题时，我们审视了社交媒体的世界。消费市场似乎力在鼓励用户互动，甚至制造“成瘾”。我们在 AI 模型中看到的那些“数字垃圾（Slop）”，让你不禁怀疑这到底是在干什么。难道目标仅仅是为了大化收割用户的注意力时长，只因为那是广告收益驱动下的激励机制吗？
相比之下，如果我们看向企业域，我们是希望这些模型能真正对人类有用。虽然我经常对负面风险发出警告，但归根结底，我们认为 AI 带来的积成果将远负面影响，而其中许多成果都将在企业服务中落地。我们希望利用 AI 来，这意味着要与生物技术公司、制药企业和学术研究机构作——这些都是广义上的“企业”。我们希望利用 AI 让能源变得便宜、，去助力教育，去发展的医疗健康状况，并动经济增长。这些应用场景大多数在本质上都是面向企业（Enterprise-focused）的。
此外，企业其看重信任和长期作关系。消费科技往往带有些噱头成分，而在企业服务世界里，重要的是建立种长期的信赖关系——你与公司作多年，言出践，从而赢得他们的信任。这与我们“以积和安全的式部署模型”的目标是度协同的。拥有个与我们价值观度致的商业模式，对我们大有裨益。虽然有时确实会出现冲突，迫使我们做出艰难的选择，但我相信，在这种模式下，我们面临两难抉择的频率，要比在其他模式下低得多。
主持人： 开发者可以在个下午的时间里，轻松地从 Claude 切换到 GPT 或 Gemini。在这个行业里，真的可能建立起长期的先优势吗？个有实力的竞争对手需要多久才能复制你们造的产品？
达里奥·阿莫代： 模型质量才是重中之重。目前我们在模型质量上遥遥先。虽然市场上存在定程度的用户惯，但我从来没有依赖过这个。Anthropic 从未指望靠“产品有黏、用户懒得切换”来保住地位。我认为，关键在于你要拿出好的模型、优的产品。我们看到增长率不仅没有出现下降的拐点，反而还在加速上升——至少在录制这次采访时是这样。所以我始终认为，硬核的产品质量才是关键的。
主持人： 在 Claude for Work 发布后不久，夜之间就有 2850 亿美元的市值蒸发了。交易员们称之为“SaaS末日（SaaSpocalypse）”。如果人工智能继续以这种速度进步，传统软件将有多大比例会被取代？速度又会有多快？
达里奥·阿莫代： 这是个很难提前给出准确预测的问题。如果有人能预测，那他们早就这么干了，在市场上大赚笔，且百发百中。没有人确切知道未来究竟会发生什么。
不过，我想指出几点。所有这些传统软件公司都拥有多道护城河（Moats）。我认为其中些护城河将消失，但其他的会保留下来。单纯“快速编写软件”的能力对会失去壁垒；如果你的护城河仅仅是“我们写出了别人写不出的复杂代码”，那祝你好运——你将注定法守住这座城池。 但我认为，这些企业还拥有客户关系、对行业运作逻辑的刻理解，以及特的垂直域知识（Domain knowledge）。
我对所有这些公司的建议是：不要沾沾自喜，也不能视而不见。列出你所有的护城河，并清醒地认识到：有些即将土崩瓦解，而另些则会因为成为新的稀缺资源而变得加重要。同时，新的护城河也可能会出现。那些能够敏锐应对，并紧紧抓住现有优势与新优势的公司，将会如鱼得水。而那些故步自封，自欺欺人地认为过去的成功法则将永远奏的人，将面临灭顶之灾。
归根结底鹤壁防火门专用胶厂家，这取决于你如何定义 SaaS，但我猜测软件行业的规模会变得大，而不是小——尽管这其中肯定会产生些大输。我相信，AI 正在把整个行业的蛋糕做大。现有的老巨头在相对市场份额上可能会缩水；部分公司的估值可能会下降，如果他们拒适应变化，甚至可能面临破产出局的命运。
当行业处于速增长期时，这种现象屡见不鲜。如果 AI 带来的行业可能增长了 10 倍，那么现有的传统行业随之增长 1.5 倍是很容易的——只是它的增速远不及整体蛋糕膨胀的速度。但这并不意味着我们不会看到巨大的陨落。我认为，那些拒适应、掩耳盗铃、法看清自身真正护城河所在的人，将会面临段比艰难的岁月。
主持人： 彭博社报道称，你们的估值已经过了 OpenAI。对于成立仅五年的初创公司来说，我们将近万亿美元的估值。你如何看待这个数字？如果你们在力 （Compute） 使用上加自律，且拥有快的盈利路径，为什么还需要融这么多钱？
达里奥·阿莫代： 力规模正在飞速攀升。因此，这两种情况是可以并存的：公司的基本面看起来非常健康，但同时在年内，你需要三到四倍的力——我不会给出具体的数字，但力的增长其迅猛。
我们有理由相信，收入的增长将达到甚至越力的增长。然而，筹集资金正是为了缓冲这种不确定，所以这是理的举措。
它对业务造成的股权稀释 （Dilution） 微乎其微，在逻辑上，这也不等于“公司出了问题”。事实恰恰相反：它充分证明了公司的基本面稳如泰山。
力紧缺 （Compute crunch）
主持人： 有报道称你们的服务器负载过大、出现了可靠问题，也有用户抱怨 Token 不够用。你曾提到其他公司在基础设施建设上是“赌徒式冒进” （YOLOing）。你们现在究竟是拥有所需的充足资源，还是在路苦苦追赶？
达里奥·阿莫代： 关于力，先要明确的是，力本身是个成熟的市场。我的观点是，只要经过段时间——即便只是两三个月——我们就能获取大规模的力。在这里有点值得强调：论用何种理的标准来衡量，我都不认为我们购买的力太少。
我们原本规划的力年增长率是 10 倍，这也是符我们预期的。然而，实际发生的情况却远于此。在 2026 年季度，我们的季度收入实现了过 3 倍的增长——注意，不是年化增长，而仅仅是单季度的爆发。笔账，3 的四次就是全年 80 倍的增长。我们并没有按照 80 倍的年化增长率去规划，因为那样做太不理智了：万终只实现了 10 倍的增长，你预先囤积的力资源就会严重过剩，造成巨大的浪费。
目前，我们正处于个力需求局部端爆发的阶段，但这并不会成为常态。如果直按这个速度暴涨，到年底我们创造的收入数字将是地球上任何公司都法企及的。我认为这不会发生，这在商业逻辑上根本行不通。我们可能会经历短暂的、远预期的爆发式增长期，但这只是特例，而非规律。
越 OpenAI （Surpassing OpenAI）
归根结底，力市场是具有流动的 （liquid）。大已经看到了我们与谷歌和亚马逊达成的力交易，未来我们能够、也将促成多此类作。只要你能地利用力，并且市场存在真实需求，你终究会获得所需的力，只不过可能需要耐心等待两个月罢了。
主持人： 越了你们的头号劲敌，感觉爽吗？
达里奥·阿莫代： 坦白说，摆在我们面前的依然是困难重重的挑战。我们秉持种“良竞逐” （race to the top） 的理念，试图带动其他公司与我们同向前。事实证明，我们确实拉动了整个行业的步伐。有时候，他们嘴上并不承认；有时候，他们甚至边攻击我们，边又在偷偷抄袭我们。但这种拉动力本身是其宝贵的。因此，我认为成为商业和模型层面双重先的卓越企业，其核心价值根本不在于为了败对手而败对手，而在于拥有引整个生态系统共同进化的能力。 我们期盼未来能在这个层面发挥大的作用。
主持人： 但赢的感觉总归是有点暗爽的吧？
达里奥·阿莫代： 我们当然都在力求成功。毕竟，大坐在这里可不是奔着失败去的。我对不属于那种认为“应该关停或禁止开发这项技术”的人。我们身处于自由市场经济体系中，追求商业上的胜利可厚非。我们的核心任务只是去大程度地降低模型的风险。所以，我们的工作始终是在创新发展与风险控制之间寻找的平衡。
主持人： 在 Anthropic 发展的大部分时间里，你们直扮演着“弱势挑战者” （underdog） 的角。可以想象，当个人光脚不怕穿鞋的时候，坚守道德制点自然容易得多。但在如今这种庞大的体量下，继续忠于你们的价值观有多难？
达里奥·阿莫代： 我想说的是，我花了大的精力去思考这个问题。随着公司的扩张，我在每个发展阶段都保持着度的警惕与偏执。公司在每次跃升到新规模时，都会面临全新的挑战——我们可能会以某种意想不到的式失去在商业上赢的斗志，或者丢失价值观的核心。我对这两种潜在的偏离都感担忧，因为在我看来，商业胜利与价值观坚守是相辅相成的 （synergistic）。我坚信，正是因为我们有能力造出如此顶的模型，才赋予了我们强有力地捍卫自身价值观的话语权。
随着公司的速扩张，前布满了陷阱。走向歧途的原因有数种，这往往不是因为我、联创始人或是公司管们的价值观变质了，而是因为公司的人员构成正在发生剧烈的稀释与重组。因此，我现在大概要花半的时间，在内部不断宣讲 Anthropic 的企业文化及其层运作机制。
当你处于如此狂飙突进的增长阶段时，然会从各大科技巨头那里招募大批人才。如果你不把 Anthropic 特的做事式掰开揉碎了讲清楚，他们就会凭着肌肉记忆，直接简单照搬上公司的老套。这是场须时刻拉锯的保卫战。对于我和 Daniela 来说，探索如何传承并捍卫这种文化是我们的头等大事，因为我们刻地认识到，这将是决定我们基业长青的灵魂所在。
产品迭代速度 （Product velocity）
主持人： 你们的产品迭代速度简直狂。不仅发布频次，而且速度快。你们究竟是怎么做到的？
达里奥·阿莫代： 归功于两点。先，我们拥有支度统的团队和度凝聚的文化。在规模扩张的过程中，我们依然保持了令人难以置信的运转率，每个人都紧密对齐，步调致。这种文化和组织上的向心力是大的致胜因素。
二大决定因素，就是 Claude 本身。我们现在正重度使用 Claude 来辅助研发下代模型、优化底层率，并以快的速度造新产品。 这个过程倒逼我们摸索出系列全新的实践范式。尽管在这个域我们仍在摸着石头过河，但它已经实实地带来了巨大的研发加速，而且这种加速正变得越来越稳定可靠。这就是我总结的核心秘诀。
AI 的惊人发现 （AI discoveries）
主持人： 能和我们分享下，你见过 AI 做出的令人惊叹的事情是什么吗？
达里奥·阿莫代： 我认为不可思议的突破集中在生物学和医学域。我已经亲眼目睹了好几个真实的案例（包括 Daniela 的亲身经历）：Claude 成功诊断出了连众都漏诊的疑难杂症。
在生物学前沿，这些模型在药物设计 （Drug Design） 和计化学 （Computational Chemistry） 等度复杂的任务上，表现得好到令人乍舌。作为名曾经的生物学，看到这些成果时我会在内心惊叹：“哇，这太硬核了，需要漫长而严苛的业训练才能企及。”然而，Claude 正在这些域变得游刃有余。
我认为这正是人类能够从 AI 中攫取海量红利的核心域。这也是 AI 令人心潮澎湃的积面所在：我们将迎来场的福祉大爆发。生命会因此变得加美好，而人类体验的质量，也将被向个前所未有的度。
主持人： 个世纪的科学进步。
Dario 的写作风格
达里奥·阿莫代： 这是个充满科学进步的世纪，也是人类生存状态取得飞跃的世纪。回想下 1900 年，想想当时我们面临的所有问题，致人们过早死亡的所有原因，他们须承受的苦难，以及我们今天不再需要面对的物质匮乏。然后再想象下，沿着这条路再走 100 年。我信，在这个充满科学和医学进步的世纪里，如果我们能安然度过当下的挑战——我对此越来越乐观，且认为我们定能做到——我们将迎来个前所未有的美好世界。
主持人： 我知道你有多热写作，你也以自己的文章著称。你会用 Claude 来辅助写作吗？
达里奥·阿莫代： 我会用。但我还没到直接让 Claude 替我代笔全文的程度，因为我有自己特的写作风格，对此我比较挑剔。我主要是利用 Claude 来协助头脑风暴，理清文章主题，或者启发我寻找可以引用的参考资料。所以它多是扮演个辅助角。我不确定离 Claude 写作水平过我还有多远，虽然目前还没达到那种程度，但我觉得这天迟早会到来。
主持人： 我也热写作，我觉得写作能倒逼你反复敲、理清思路，这其中包含了大量的批判思维（Critical Thinking）。如果我们让 Claude 代劳，我们会失去这种能力吗？
达里奥·阿莫代： 我对此确实有些担忧。事实上，这也是我坚持亲自执笔的重要原因之。文章固然是写给外部读者看的，很多人会阅读我的作品，但写作同样也是为了理清我自己的思路，让我明确下步该做什么，并在我与他人之间建立起个共识的基础。
我认为我们仍在努力摸索，到底该如何使用 AI 才能在获得率的同时保留这些立思考的价值。我现在采取的法正是在践行这点，我利用 Claude 进行研究，并辅助整理自己的想法。
如果只是让 AI 端到端（End-to-End）地代劳——比如直接要求它“写篇关于 AI 风险的文章”——先，它写出的东西不会是我心中真正所想；其次，我也会丧失通过写作梳理思路的益处。
随着模型变得越来越，将来或许会有直接地将其应用于写作过程，同时又能保留这些益处的法。不过，我认为这会是个渐进且微妙的转变，不会非黑即白，我们需要在未来慢慢摸索。
AI 与劳动力市场
我认为我们可能会面临种其罕见的矛盾共存：GDP 的狂飙突进，与企的失业率、广泛的就业不足、大量低薪工作以及加剧的贫富分化并存。
主持人： 你对职位流失的问题直非常直率。你曾提到 AI 可能会在未来到五年内取代半的入门白职位。那是年前的说法了，现在 AI 发展得其迅猛。这个比例还是 50 吗？或者了？
达里奥·阿莫代： 我直强调——如果你回看那些原始采访，你会发现它们总是被断章取义地剪成只有三秒的短——我真正的意思始终是：我不知道未来确切会发生什么，但这只是用来衡量未来局势可能会有多狂的个数量预估（Order of Magnitude）。此外，我直在谈论我们为应对这种情况可以采取的各种举措。我提到过代币税（Token Taxes），以及与企业作进行人员转型。虽然我对再培训计划持保留态度，但结宏观经济政策，我们应该将其作为整体组拳的部分。即便从开始，我谈论的始终是解决案，但人类心理中似乎有种倾向，总是喜欢截取那三秒钟的话来渲染“末日即将来临”。
我想传达的核心观点对不是“末日即将来临”。我想表达的是：我们应该预见这种趋势的到来，对此保持警惕，并需要积地去应对。我不知道确切会发生什么，但我依然非常关注，我的担忧程度并没有减弱。
我们现在确实看到 AI 正在提人们的工作率，但这只是个经的阶段。回顾工业革命——我在《技术的青春期》文中写过——你把项工作自动化了 90。太棒了。人们在剩下 10 的工作里，率飙升了 10 倍，因为他们获得了 10 倍的杠杆应（Leverage）。但自动化率终会限逼近 。随之而来的结局就是，你须为这些人找到新的出路。我不知道长期来看会怎样，对此我确实感到不确定。但我认为确实存在各种适应新局面的式。
例如，在 Anthropic，我们正在经历个转变：AI 让软件工程师的率大幅提升，尽管几乎所有的代码实际上都是由 AI 编写的。但我们已经开始看到这种转变的端倪：对于某些人来说，AI 并没有让他们变得，因为让 AI 直接去完成任务反而果好。
另面，我们需要思考哪些域的需求会暴增。我们有诸如“前线部署工程师（Forward-Deployed Engineers）”或“应用 AI 解决案架构师”这样的岗位，其工作内容是技术硬核能力与客户沟通的结。这类需求非常大，因为客户众多，而且我们发展得其迅速。是不是每个做纯软件工程的人都能转做这个？显然不是对的，也法做到对的缝转换。这让你能隐约感觉到，未来会充满剧烈的颠覆，但整个系统终也能够自我调整。
哪种趋势会占据上风？我不知道。但我之所以要发出警示，是因为这正是为了促发我们采取应对措施。我们可以据此制定政策——论是在 Anthropic 内部还是在全球宏观经济层面。我们希望提出经过思熟虑的见解，不想去说些连我们自己都不会去落实的空话，pvc管道管件胶也不想抛出不成熟的半成品观点。我们希望认真思考，针对这些问题究竟应该采取什么切实可行的行动。
主持人： 你曾发布过张图表，展示了潜在的职位颠覆情况，比如销售、金融域，哪些职位会被淘汰，谁会被取代，以及会创造出什么样的新职位。
达里奥·阿莫代： 说实话，没有人能确切知晓答案，因为经济是不可预测的。这就像股市样，存在各种去中心化的过程（Decentralized Processes），你法预先知道人们在工作中究竟还有哪些环节是不可替代的。
但我可以概括地说，在任何存在入门白角的地——论是银行、金融还是其他域——AI 都有着巨大的潜力，先是让人们的工作率大幅提升。但终，将会过渡到个由 AI 代劳的阶段。我们须思考人们还能发挥什么价值，而且我认为我们需要提前为此做好战略规划。
在与企业客户交流时，我们已经在进行这面的探讨。我们看到了他们面临的抉择：是削减成本（通常意味着裁员，用少的资源做同样的事），还是利用同样的资源去创造多价值？只要可能，我们都会尽力动他们选择后者。这本质上意味着保留同样数量的人员，甚至雇佣多人来拓展新业务，从而动实现正和博弈（Positive-sum outcome）的共赢结果。
我们的巨大优势在于，未来的经济蛋糕（Economic Pie）将会急剧膨胀。得益于这种扩张，人们很可能会找到新的施展才华的去处；关键在于能否足够快地发现这些机会。此次颠覆的规模将是的，这也是我不断提醒人们关注的原因。归根结底，我们须解决这种供需错配（Matching）的问题。
主持人： 那么请为我演下。五年后你醒来，这个国会是什么样子？人们在做什么？如果存在那么的失业率，这难道不会成为引发革命的火索吗？
达里奥·阿莫代： 这正是我们想要力避的后果，对要避。
我认为有几个域值得关注，尽管目前谁也法包票。以物理世界为例，机器人技术确实也在掀起革命，但其步伐远不及AI迅猛。人们总在谈论建设数据中心，但当处理任何类型的信息都变得轻而易举时，终的瓶颈可能会转移到物理世界的实体上。因此，我们将需要多的人手在物理世界中进行制造、建设和生产。
任何“以人为本”的事物都将大放异彩。我常听闻AI发现了医生漏诊的病症，这固然好，但在处理重大事务时，人们依然度渴望与同类交流。或许AI能提供优质的客户服务，但总有人偏人际互动。这类以关系为驱动的岗位（relationship-driven jobs）将始终不可或缺。
后，我认为人类会努力去引这些AI。在某种层面上，技术须与人类的价值观和意图保持致，因此人类在此有席之地。至于这个角的戏份是重是轻，目前还很难下定论。
主持人： 目前外界有很多反对声音，我知道你说过你是在试图警醒世人，但黄仁勋（Jensen Huang）曾表示，你把“任务（tasks）”和“工作（jobs）”混为谈了。也有其他人说，这是种让Anthropic从中获益的“末日营销（doom marketing）”。
达里奥·阿莫代： 对此，我想明确表达我的立场，并予以坚决反驳。关于失业风险的全貌以及应对思路——我们还没有敲定所有细节，因为我想确保其准确误——但Anthropic已经提出了许多构想。我们设立了经济资助计划，出了经济指数，我也探讨了应对这些风险的各种潜在途径，从税收、宏观经济政策，再到未来新工作形态的定义。
在探讨技术青春期（adolescence of technology）的章节中，我详细阐述了任务与工作的区别，为什么这次的技术浪潮与以往不同，并列举了从私人慈善到政府行动的六项具体可行措施。我既指出了问题，也给出了解决案。
然而，在我其厌恶的社交媒体上，人们只会截取年前的三秒钟短大做文章。他们根本不读原文，或者盲目社交媒体就是世界的全部。我曾其严谨地撰写过关于这些议题的文章，门探讨其中的风险。指责这是“廉价营销”的说法，本身就是种廉价的营销。这是思维的懒惰，是对严肃智力劳动的亵渎。
我认为这正是症结所在。这也是硅谷的病态之。它陷于这个只有三秒钟注意力的社交媒体世界中，人们只对这种碎片化信息做出反应，或者以为只需要对此做出反应。这非常危险，致我们丧失了进行成熟对话的能力。人们只是懒惰地刷到个三秒钟的，就妄下定论：“哦，Dario就是这个意思。”这太愚蠢，太轻浮了。每当有人发表此类言论时，我也就不把他们当回事了。
五角大楼的僵局
主持人： 你的反战立场由来已久，甚至可以追溯到你在加州理工学院（Caltech）求学的时期。然而，你们却是批与美国国部签署同的AI公司之，允许AI在美军用于作战的机密网络上运行。请解释下这是为什么？
达里奥·阿莫代： 我想说的是，世界局势在变。基于对这项技术的认知，当我看到俄罗斯入侵乌克兰，我感担忧——个具攻击的威权阵营正在复苏，我们需要自卫。这是我直以来的信念，至今未动摇。正因如此，在两届政府迭期间——尽管我未赞同每项政策——我们总体上是支持这立场的。
这就是我们与政府作的原因。这非为了利益；实际上这其麻烦。抛开法律层面的挑战不谈，单是在政府网络上运行系统就是个巨大的负担，而收益却寥寥几。因此，我们之所以这么做，是出于信念与责任感。
但同样地，正因为我们是出于信念行事，所以须对这项技术的使用加以限制。我的核心主张是：我们应该在面面充分利用这项技术，但不能以破坏我们自身价值观为代价。我们划定的红线——大规模监控（mass surveillance）和全自主武器（fully autonomous weapons）——正是那些我认为会践踏我们价值观的东西。如果民主国须沦落到动用这些手段才能取胜，那这样的胜利毫意义。
这就是我所坚守的平衡，也是我们确立的立场。这既解释了为什么我们敢为人先与国部作，也解释了为什么在别人愿意妥协时，我们却对某些事情坚决说不。我认为你须选定立场并坚守阵地。有些公司在“我们不与政府作”和“我们对政府言听计从”之间左右摇摆，我法理解这种行为。你应该确立自己的原则，并贯彻到底。
主持人： 你们从2024年开始与Palantir作，对吧？要知道，他们的技术被美国移民和海关执法局（ICE）以及加沙的警察部门所使用。Claude是否被用于其他监控目的？
达里奥·阿莫代： 论是通过Palantir还是其他任何渠道，我们都没有与ICE作。我们也不与美国海关及边境保护局（CBP）作。据我所知，我们也没有在加沙开展业务。我们非常谨慎地界定作范围，确保只参与我们信仰和认可的事务。
主持人： 所以，你们划定了红线，致总统将你们排除在联邦政府业务之外，五角大楼将你们列为供应链风险，而OpenAI却趁虚而入，签下了你们拒签的同。在你看来，赢下这场斗争究竟意味着什么？
达里奥·阿莫代： 我认为对私营公司而言，这场斗争没有所谓的输赢。Anthropic并没有试图去赢，甚至根本没从输赢的角度去考虑过。这像是场——我甚至不会称之为斗争——关于政府该如何正确使用AI的大辩论。
AI是项新兴技术。我们尚未摸透它在哪些面可靠或不可靠，也未看清它将如何弘扬或侵蚀我们的价值观。因此，我认为至关重要的点是：要为某些我们认为有益的应用场景（坦白说，这占了大部分）确立先例，同时也要为我们所担忧的应用场景划定界限。
正如我所说，纸同能起到的作用终究有限。事实也证明了，总会有别人去签下视你红线的同。但我们的举动成功唤醒了公众对这问题的关注。如今，国会正在开展严肃的两党作，试图禁止我们所担忧的某些应用，并着手建立安全护栏（guardrails）。
再次强调，我不希望将此视作场斗争，但能动我们的国加审慎地思考这项技术的理应用，这就已经是种胜利了。至于有人说Anthropic是由个意识形态子在掌舵，并且由他主我们所有的决策。
主持人： 你介意被人叫做“意识形态狂人”或者“群左翼子”吗？
达里奥·阿莫代： 我直以来听过比这难听的称呼。人们想怎么称呼我或 Anthropic 都可以。真正重要的只有两件事：是我们作为公司取得成功，二是坚持我们的价值观。在某种程度上，我的生活其实非常简单，因为当你的目标只有这两点时，切都变得非常纯粹，你始终清楚自己的立场所在。
主持人： 有美国官员表示，在大型语言模型（LLM）的帮助下，美军每天击目标的能力已从 1，000 个提升至 5，000 个。这意味着 Claude 可以帮助快地伤多的人。对此你心安理得吗？
达里奥·阿莫代： 我认为这里要分两面来看。先是美国提升军事能的能力，我支持这种能力。我认为强大的军事实力不会引发战争，而是会威慑战争。本质上，你是在问：你信仰这个国吗？你希望这个国在世界舞台上成为个强大、还是弱小的角？我希望它强大，我是名国者。
另个问题是：美国政府行的某些具体政策，我是支持还是不支持？显然，我支持其中部分，不支持另部分。但这不由我来决定。如果我们提供技术——国部（DoD）也指出了这点，而我们确实认同——我们权干涉说，你们可以执行这项军事行动，但不能执行那项。
私下里，我可能认为某项军事行动很理，而另项是个馊主意，但我们不会因此拒提供技术。你须将政策决策权交给军事决策者。你能做的，是设定些层的边界，止与我们价值观不符的使用场景，同时广我们认为契我们价值观的应用。这就是我们的考量。
AI 战争
主持人： 据彭博社报道，美国军在伊朗的战争中，正通过 Palantir 制造的 Maven 智能系统，利用 Claude 进行 AI 辅助的目标定位。据报道，今年 2 月，枚美国弹击中了伊朗的所女子学校，造成过 150 人死亡，其中大多数是儿童。
Claude 在那次空袭中发挥了作用吗？
达里奥·阿莫代： 我们并不确切了解这些模型是如何被使用的。显然，战争中的失误其可怕——这确实是场惨剧。如果这还不足以说明为什么我们须抵制那些我们不支持的应用场景，那我须指出，我们宁愿拿公司的未来冒险，也要限制这些模型的使用式。你提到的这个应用场景甚至并未触及我们的红线，但我们担心的是，在那些确实跨越红线的应用场景中，引发的问题可能会多出 100 倍。
总的来说，我认为净收益上看，使用这些模型是适宜且有益的。然而，即便是和平时期，军事决策者也会犯下可怕的错误，何况我不知道我们现在不处于太平盛世。我们可以探讨些举措，比如设定红线，止模型被用于那些有可能致此类问题的场景。
如果我们向自主武器（Fully Autonomous Weapons）妥协——现在几乎所有其他公司都这么做了——那事情就不同了。但我们在这里看到的是，Claude 只是提供辅助，而人类做出终决定；是人类做出了那个决定，而不是 Claude。想象下这样个世界：不是 Claude（因为我们不允许），而是其他人的 AI 模型全权做出决策，而人类甚至毫不知情。这正是我们要坚决抵制的情况。
另外，虽然我不认为采购审查是控制此事的适当机制，但我们需要确保——这不仅关乎我作为供应商的立场，是美国人民的切身利益——军事决策者不会犯下这种错误，确保他们运作可靠、决策明智。论是作为公民还是技术供应商，我都对此感关切。政府大量使用 Microsoft Excel；如果我说他们可以用 Excel 执行某项军事行动，但不能用于另项，在现实中是根本法强制执行的。不过，希望这能让你了解我们的整体考量。
主持人： 这所学校是有网站的，在谷歌搜索就能找到。难道 Claude 不应该识别出这点吗？不管他们使用了 AI 还是其他什么技术，难道不应该识别出来吗？这是否暴露出个可怕的问题：在战争中把技术当作捷径？
达里奥·阿莫代： 听着，我想说的是——虽然我不清楚具体情况，这可能涉及我法接触的机密信息——但我们确立的原则，以及我认为在此次事件中被遵守的原则是：由人类做出终决定。我不知道 Claude 或其他 AI 在其中扮演了什么角，但如果这还不足以说明这项原则的重要，那我就不知道还有什么能说明了。
主持人： AI 战争是有可能阻止三次世界大战——场中美之间的战争，还是有可能引发它？
达里奥·阿莫代： 总的来说，我认为它有可能阻止战争。但如果我们对它的使用不加限制，那么我认为它有可能引发战争。你看过《奇博士》对吧？里面的设定是，你拥有个“末日装置”，当它认为受到核攻击时，就会自动发射核武器反击。这能不出差错吗？
这就又回到了“致命自主武器”这个问题上。我认为冲突的爆发往往是因为双剑拔弩张并产生了误解。当我们对这项技术缺乏适当监管时，我认为这类意外发生的概率会大幅增加。
当然，我认为如果 AI 能够被恰当使用——甚至不涉及战争，仅仅用于情报收集（Intelligence Collection）——它就能带来益处。
因此，我认为卓越的情报能力确实可以威慑冲突。卓越的响应能力同样能威慑冲突，我始终坚信这点。
Mythos
主持人： 你曾说 Mythos 过于强大，因此不能向公众发布。关于它，让你感到惊讶的是什么？
达里奥·阿莫代： 让我惊讶的是，模型在发现漏洞（Vulnerabilities）以及重要的是将这些漏洞转化为漏洞利用（Exploits）的能力正在不断攀升。人们通常只讨论漏洞，却很少谈及如何将其转化为实质的漏洞利用，而这个模型在这面为擅长。我们看到的这种巨大的能力飞跃正是我惊讶的原因；这是次非常显著的跨越。
在我们没有给出任何提示的情况下，些批测试该模型的公司甚至发出这样的感叹：“这简直就是武器。使用者须持有持枪许可证才行。请千万不要发布它！” 要求不发布它的呼声，恰恰来自于那些拿它进行测试的公司。他们发现了如此多惊人的关键漏洞及可利用，以至于他们强烈要求我们不要公开。
不过需要澄清的是——因为在社交媒体上信息总是容易被曲解——我们的目标并不是将其永远雪藏。我们正在尝试逐步将其开放给越来越多的受众。终，我们认为应该向公众发布 Mythos，但前提是须建立起强大的网络安全护（Cyber Safeguards）。
目前的隐患在于，当下的网络安全护机制——比如我们应用于 Opus 4.7（这是个优秀但网络能力弱得多的模型）上的护——是可以被越狱（Jailbroken）的。其他些公司认为他们目前的御机制已经足够，这让我们感到有些担忧。这些御有时可能有，但我们都知道，这些分类器（Classifiers）是可以被越狱或绕过的。论是我们内部的测试，还是我们对其他公司御措施的评估，都表明这些手段目前还不够强大。这就是我们在等待的契机：我们要等到御能力强大到让我们拥有十足的底气时，才会发布。
主持人： 对此有很多质疑的声音。有研究人员表示，他们使用便宜的开源模型就能复现这成果。还有人说 OpenAI 已经具备了这些能力，他们认为这只是场大型公关秀。
达里奥·阿莫代： 所谓开源模型能够复现这成果的说法，简直错得离谱。
Mythos 的核心机制是扫描整个代码库（Codebase）来发现问题。有人在 Twitter 上说：“如果你把开源模型直接指向 Mythos 找出的那行代码，它也能发现同样的问题。”但这根本不是同个提示词（Prompt），也不是同个问题。这是两码事。
真正的终考验在于我们的实际应用。我们将它应用于各大公司和开源代码库（Open-source repos）中；比如，我们在 Firefox 中发现了 271 个新漏洞。我们还在些私有企业中发现了成千上万个漏洞，这些公司尚未修复或暂时法公开这些漏洞。在使用之前的模型时，没有任何人能发现这 271 个漏洞。
因此，真正在实践中行之有的工作流（Workflow），与仅仅说“好吧，我也能找出 Mythos 定位到的那行代码”，有着天壤之别。这就好比我们已经完成了大海捞针，你拿到了那根针，但这并不意味着其他模型有能力自己把那根针捞出来。
主持人： 但是，对于那些说这仅仅是出营销手段的人，你怎么回应？
达里奥·阿莫代： 事实上，因为没有公开发布这个模型，我们在商业上蒙受了巨大的损失。这个模型大地加速了 Anthropic 内部的研究、产品化以及下代模型的开发。如果我们发布它，它同样会大动外部世界的发展。这在商业上对我们造成了大的重创。
主持人： 如果它能帮助御者，自然也能帮助攻击者。我们到底还能不能得住？
达里奥·阿莫代： 我想说的是，我们之所以在攻击者之前把 Mythos 交给御者，就是为了先修补所有漏洞。随着模型变得越来越强大，可能会有越来越多的漏洞被挖掘出来，但漏洞的总数终究是有限的。这就好比个表面上只有有限个孔洞的物体，旦你把所有孔洞都补上，这个表面就会变得坚不可摧。此外，因为未来的代码本身也将由这些强大的模型来编写，想要从中寻找缺陷或进行入侵，将变得难如登天。
因此，我认为度过这个阶段后，希望在六个月或年内，我们将迎来个比过去安全得多的互联网生态系统。我们正努力通向那个世界，并在尽我们所能向新的网络御者（Cyber defenders）开放 Mythos。
我们直在与政府保持沟通，并且非常尊重他们的建议。他们正在放缓我们开放该模型的步伐，因为他们担心存在反情报（Counterintelligence）风险。我认为这是明智之举，而且我相信在座所有严肃思考的人都能理解，这里面确实存在着真实的权衡与取舍。
我们看到 Twitter 上以及其他 AI 公司发出的很多暗箭和冷嘲热讽。但当你把他们的言辞与他们自身言行不的举止做个对比时，就会发现他们显然不是严肃对待此事的人。他们并没有认真去面对我们所面临的复杂权衡。每天都有客户电话跟我说：“我想要 Mythos 的访问权限。”甚至有国代表联系我说：“我想要 Mythos 的访问权限。”但与此同时，美国政府和我的安全团队却在警告：“不，等下，这里面存在风险。”
我并不是说哪对正确。我认为真理介于两者之间，双的观点都有其道理。但这里存在个严峻的现实挑战，我们需要作为个社会整体来共同面对，而不是互相指责这是廉价的营销噱头，也不该像其他些公司那样，用廉价的营销手段来试图压对手。这只暴露出他们度缺乏庄重感与成熟度。我们须携手并肩，共同迎接这个时代的考验。
主持人： 你是否已经不得不做出些让你心里并不那么舒服的妥协与权衡？
达里奥·阿莫代： 纵观 Anthropic 的整个发展史，权衡与取舍处不在。在理想状态下，你当然希望在发布款聊天机器人之前，花上几年时间去把每个可能出错的环节都研究透彻。虽然我们确实迟了 Claude 的次发布，但也仅仅迟了几个月而已。万事皆需权衡，因为走向任何端在现实中都是行不通的。
既然我们现在已经处于商业先的地位，Daniela 和我正在竭尽所能，将指针进步拨向“谨慎”的那端。
将 AI 国有化 （Nationalizing AI）
这正是这次“Mythos”发布的层逻辑。如果你不是行业头部玩，是很难做出这种举动的。我认为未来你会看到多类似的做法。
主持人： 现在的确有这样种声音：为什么政府不直接把你们接管了？他们怎么能放任私营企业去掌控如此强大的技术？
达里奥·阿莫代： 我觉得这是个其严肃的问题，我也有同感。我不认为政府应该直接把我们收编，但我可以这么说：退步看，纵观历史，我们见证过的每项强大技术，要么是由政府主开发的，要么是源于政府项目。核武器显而易见初是由政府制造的，并且基本直处于政府的管辖之下。即便是互联网、GPS 和移动电话等技术，其核心研发也都是在联邦实验室和大学里完成的。
AI 是人类历史上项主要由私营部门主开发的强大技术。政府在其中并未发挥实质的作用，可以说是姗姗来迟。我认为这其实是个危险且不稳定的局面。如果由我来选，我不会选择这样的开局，但这已是可奈何的现实。这项技术具备可行，我们的对手正在研发，它又蕴含着巨大的经济价值；因此，它的诞生是历史的然。问题的症结在于政府缺位，而不在于私营部门去动这项工作。
我认为我们需要入思考对权力的制衡（Checks and balances）。我信 AI 公司的权力须受到约束。我们设立了“长期利益信托”（Long-Term Benefit Trust），这个机构有权任命和罢我们的大多数董事会成员。归根结底，它甚至有权解雇我。我们正在引入公共理的要素，确保我们对那些并非仅仅持有公司股票的三负责。这种理结构至关重要，论公司未来命运如何，它都将延续下去；我们也鼓励其他组织采用类似的模式。
在政府层面，我们同样需要制衡。国会正致力于划定“红线”（Red lines），我真心认为立法和司法部门需要有所作为。我害怕企业揽这项技术，但我同样害怕政府占它。我们需要建立种双向制衡的系统：企业监督政府，政府约束企业。我们需要基础的监管机制，比如强制的发布前测试以及对模型的审查审计（Auditing）。
让我觉得特别讽刺的是，硅谷有那么群人，起初他们坚信任何形式的透明度要求或出口管制，都会带来世界末日般的灾难，扼我们的潜力与创新。然而，旦他们嗅到了丝真正的危险——而这正是我直以来所预料到的——他们就开始大肆谈论将 AI 国有化或由政府接管。伙计们，你们就像溜溜球样，从端的反监管立场，瞬间摇摆到了“政府应该接管切”的端视角。我们需要的是种理智、温和的路径。这也是我们始终倡的道路，因为我们刻敬畏这项技术的力量。我们既不恐慌，也不盲目否认现实；我们清晰地看到了平稳的指数增长（Exponential growth），并且正在从容应对。
访问白宫 （Visit to the White House）
主持人： 再次造访白宫感觉如何？
达里奥·阿莫代： 我们始终致力于与政府中切可能作的对象共事。我们的法很简单：我们坚守套原则，并在践行这些原则的同时，期盼对也能通情达理。
政府对模型（Models）非常重视。我们与贝森特部长（Secretary Bessent）以及幕僚长苏西·威尔斯（Susie Wiles）进行了很好的沟通。我认为他们确实理解了这里潜藏风险的本质；模型帮助他们具体地感知到了风险所在。
正如对待任何届政府样，有些部门与我们相处融洽、理解我们，而有些部门则较难共事。我认为这很正常，放之任何届政府皆是如此。我们只能尽大努力去周旋应对。
主持人： 在您职业生涯的早期，曾就职于大型科技巨头百度。您当时在百度的硅谷分部工作，而且您对的看法直非常明确。目前正在涌现强大的开源模型，并且有美国公司在费基于它们进行开发。这构成威胁吗？
达里奥·阿莫代： 关于这项技术，我们观察到的现象之是：模型的智能水平有着的溢价。我们少看到人们会退而求其次，去偏好智能水平较低的模型。当然，需要澄清的是，现在有个繁荣的生态系统，许多挑战和问题远没有复杂到需要动用前沿模型（Frontier Models）的程度。
但话说回来，这是指数增长。这些远未达到前沿的模型，其经济价值或许能与我们在 2023 年和 2024 年看到的水平相媲美。但鉴于我们每年 10 倍的增长速度，我们发现，处于前沿（Frontier）的价值总是远远过远离前沿的部分。
我认为，习惯于上代产品开发模式的人们对此并不理解。作为个半路出、此前从未经营过公司，且其厌恶社交媒体时代的人，我觉得自己就像是那个世界的外来者。我认为人们的直觉是错的，因为他们依赖的是过时的产品启发式认知（Product Heuristics）。我相信，每年 10 倍的指数模型增长已经破了旧有范式；智能是个压倒切的巨大变量。因此我们再看到，真正的价值都蕴藏在前沿。
递归自我提升
主持人： 你们这个域的人经常谈论这样个时刻：当 AI 变得足够强大，能够自我提升，然后这个进阶版本继续自我提升，以此类。你们内部的些研究人员认为那个时刻即将到来。它离我们到底还有多远？
达里奥·阿莫代： 我不认为那是某个单的时间点；我认为这是个连续的过程。在某种程度上，我们已经看到了它的雏形——AI 已经能够为下代 AI 提出架构建议。年前，我们看到 AI 带来了 10 到 15 的全要素生产率（Total Factor Productivity）提升，而现在这个数字可能已经达到了 20 或 30。它可能还在翻倍。如同其他所有事物样，我们正处在条指数增长曲线上。
不存在这样个“奇点时刻”：AI 突然自我提升、陷入失控或变得危险。我们面对的，是条不断加速的指数曲线。在这条曲线的每个节点上，我们都须评估：是时候放慢脚步了，还是需要对这项技术施加多的管控。我相信我们对管控的需求会与日俱增，但应对这切的关键，在于理解这种指数增长背后的“平滑本质”。
我们能从两类人身上吸取教训：类人曾经坚决反对任何 AI 监管，直到他们看到了某种现象，又突然主张将整个行业国有化。同样，另类人曾经对 AI 的威力嗤之以鼻，随后又突然惊慌失措，声称它正在自我提升、即将失控并需要立即关闭。在这两种端反应之间像溜溜球样反复横跳，对于应对这项技术其益。
正确且明智的做法是保持冷静，避恐慌。我们的应对措施，应当与技术威力的增强保持同步，平稳且循序渐进地升。 如果你看到某人做出那种经质般、应激式的反应，这只能说明他们被了个措手不及，而且他们对待此事的态度不严肃。
达里奥喜欢的书
主持人： 我知道您喜欢的书之是《原子弹秘史》（The Making of the Atomic Bomb）。
达里奥·阿莫代： 没错。
主持人： 您觉得您和奥本海默（Oppenheimer）有相似之处吗？
达里奥·阿莫代： 其实我认同的人物是利奥·西拉德（Leo Szilard），他基本上是个提出链式反应概念的人。你看，我的观点是：我们不可能依靠那些“被化”的个人，或者那些试图将自己置于切舞台中心的人物来度过这次难关。这里需要的是权力制衡。很多强大的参与者在这里都有利益诉求，而让这切走向善终的唯途径，就是到处都存在着“制约与平衡”（Checks and Balances）。所以，从某种意义上说，我实际上把奥本海默视为个失败的案例，个不应该发生的典型。
文明崩溃
主持人： 您曾说过，人类文明崩溃的几率大约在 10 到 25 之间。这个概率不容忽视。是否存在这样种情况：致文明崩溃的元凶，正是 Anthropic 开发的东西？
达里奥·阿莫代： 我当然希望不会。我的看法是，我们所采取的行动是在降低这个概率，而不是提它。这 10 到 25 的概率，根源在于这项技术有着其直白的“实现”，世界上有众多国，经济体中有众多公司，而且如果真空地带没有被填补，就会有新的公司源源不断地诞生。这就是我们面临的困境：我们正努力采取行动来降低这种概率，而且我认为，我们降低风险的程度远远过我们引发风险的程度。
然而，这项技术固有的属就是不可预测。我们尝试在发布任何东西之前，对其进行构建和的测试。如今发布的模型并不危险——或者至少我认为，除了网络威胁之外，它们并实质的危险。我们努力在迭代过程中不断学习，并部署了数以万计的御机制。事实上，我们在公司内部开展的工作，有半都是在竭尽所能地降低风险，尽管风险永远不可能降为。
我想说的是：假设市面上有大堆航空公司，而你决定创办安全的。你的航空公司可能会比其他所有同行安全 10 倍，但如果有人质问你：“你能保证你的飞机永远不会坠毁吗？”——你怎么可能给出保证呢？你怎么可能做得到呢？
主持人： 但如果飞机有25的坠毁概率，你肯定不会登机。
达里奥·阿莫代： 没错，25太了。我们的目标就是把这个概率降得非常非常低。
信任
主持人： 你们正在造种其强大的技术，并有望从中获取巨大利益。我们凭什么信任你们？
达里奥·阿莫代： 我的看法是，在任何公司刚起步时，特别是看看硅谷作为个整体在过去几年的行为和思维式，我认为从不信任开始是理的——如果你对我所知，对Anthropic也所知。我认为硅谷已经失去了世界上太多的信任，现在须重新赢回这份信任。
我们想要传达的信息是，我们确实与众不同，而这须通过我们的实际行动来赢取。论你是否赞同，我们都捍卫了自己的价值观。以Mythos模型为例，不发布这个如此强大的模型，确实让我们的商业利益受损。在此之前，我们还做过很多类似的小决定。
但我希望人们能审视我们的过往，并问问自己：如果把这些历史加在起，关于我们的哪种假设符事实？每个人须自己做出判断。但我认为，站得住脚的假设是：我们在真诚地努力做正确的事。
组织总是不的，也难出现机能障碍，我们直在努力改进，让它运作得好。期间会有许多失误和差错。但从根本上说，对于如何做正确的事，我们有着诚实且热忱的愿景，并且正在努力践行这愿景。
主持人： 那么，我们就在指数增长的彼岸相见吧。
达里奥·阿莫代： 希望如此。
主持人： 看来你直想当个好莱坞明星。
达里奥·阿莫代： 对于CEO这份工作，有件让我很惊讶、之前没想到的事：那就是你需要频繁地化妆。这出乎我的意料。
参考资料： https：//www.youtube.com/watch？v=x2VHFgyawPE，公开发表于2026年06月17日
海量资讯、解读，尽在财经APP
责任编辑：石秀珍 SF183 相关词条:不锈钢保温施工 塑料管材生产线 钢绞线厂家 玻璃棉板 泡沫板橡塑板专用胶
奥力斯 万能胶厂家 联系人：王经理 手机：18231788377（微信同号） 地址：河北省任丘市北辛庄乡南代河工业区
1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》，以此来变相勒索商家索要赔偿的违法恶意行为。
