为什么他选择把这些风险公开说出来?AI 公司内部到底正在经历什么?我们又该如何应对这场前所未有的技术冲击?在 2025 年 Axios AI+ 华盛顿峰会上,Dario Amodei 和其联合创始人 Jack Clark 一起接受了 Axi0s CEO Jim VandeHei 的深度访谈。在这次对话中,他们坦率地揭开了 AI 的另一面:它既可能是人类历史上最大的生产力飞跃,也可能带来无法控制的灾难。
Anthropic 内部巨变:工程师角色被 AI 改写
Jim VandeHei:此前,我们私下和达里奥(Dario)聊了很多关于 AI 对就业的影响,他提到了一个现象 —— 我在 AI 圈其他公司、其他人那里也听过类似说法 —— 他称之为 “白领大屠杀”,只是没人敢在公开场合这么讲。
那次谈话里,达里奥的观点让人不寒而栗:他认为,受 AI 技术影响,未来一到五年内,半数白领工作可能会消失,失业率或飙升至 10%-20%。你能再深入聊聊这个话题吗?另外,为什么你决定把这些公开说出来,而其他人却都三缄其口呢?
Dario Amodei:好的,有几点我想说明一下。我们 Anthropic 公司之所以决定公开谈论这件事,是因为虽然我以前也提过这些观点,但大多局限在小圈子里 —— 比如科技行业的播客节目里。可每当我坐飞机、在机场等候,或是去到旧金山、加州以外的城市,走过人群时总会忍不住想:“关于 AI 这项技术,它真正的能力、未来的发展方向、能带来的好处,还有如果应对不当可能造成的风险,我们似乎并没有清清楚楚地告诉大家。”这种感觉在某个时刻让我特别不踏实。
我和很多公司的 CEO 聊过,他们私下会说:“我们正打算这么做。” 其中有些还是我们的客户,他们提到计划部署 AI 技术,也承认这会对劳动力市场造成冲击。所以我们真的觉得,必须站出来说点什么。毕竟要解决问题,第一步就是坦诚地让公众知道这些问题确实存在。
再具体说说我的看法和背后的原因。在 Anthropic,我们观察 AI 影响主要有两种视角:
第一种是聚焦当下正在发生的事。我们围绕 “经济指数” 做了大量研究,最近还发布了美国各州的经济指数 —— 这样所有人都能看到,不同州、不同地区的人们是如何实时用我们的模型完成各类任务的,不管是为了实现自动化,还是提升工作效率。而且我们也看到,一些外部研究已经证实 AI 对就业的影响正在显现。例如,斯坦福大学教授Erik Brynjolfsson等人的研究就发现,入门级白领岗位已经减少了 13%—— 在我之前预测的部分领域里,这个比例已经相当可观了。
第二种,也是我真正担忧的,是这项技术的未来走向。我觉得这里存在一个认知上的脱节:有时候会有人说 “你担心 AI 影响工作,可现在的 AI 连这个都做不了、那个也办不成”。但问题在于,他们说的是今天的 AI,可技术迭代的速度飞快。我担心的是技术本身的进步,以及它在社会中普及的速度 —— 这就是我为什么会说“一到五年”的原因。就像大多数呈指数级增长的事物一样,它飞速发展时,你没法百分之百确定具体时间点:可能比我预想的快,也可能慢一些,甚至出现完全不同的情况。但我认为,这件事发生的可能性已经大到让我们觉得有必要向全世界发出警告,必须坦诚、直率地把话说清楚。
Jim VandeHei:那是两个月前的事了。刚才我们在后台聊的时候,你们两位都提到,这两个月里,AI 技术的发展速度其实比我们当时预想的还要快得多 —— 这和眼下一些主流观点正好相反。所以想问问你们,现在是不是比两个月前更担心了?
Jack Clark:我们 Anthropic 内部其实做过相关研究:我们和 130 名工程师聊过,还对其中不少人做了深度访谈,专门了解他们使用 AI 技术的实际体验。结果发现,过去一年里,这些工程师的工作发生了翻天覆地的变化 —— 很多人的效率提升了两三倍,工作内容也从原先的写代码,变成了管理一批 AI 系统。
在采访中,他们就说:“我的工作已经完全不一样了,现在必须重新想清楚自己在 Anthropic 该扮演什么角色。” 当然,我们公司还在快速发展,他们不会面临失业问题,但架不住技术进步得实在太快,我们现在就在实时调整公司内部员工的工作性质。而眼下 AI 公司内部正在发生的这些变化,未来几年里,也会在所有用到 AI 技术的其他企业中重演。
Dario Amodei:如今,支撑 Claude 运行、以及用于设计下一代 Claude 的绝大部分代码,其实已经是 Claude 自己写的了。在 Anthropic,还有其他那些发展速度快的公司里,这已经是普遍现象。我没法说这项技术是否已经完全渗透到社会各行各业,但这件事确实已经在发生了。
应对失业潮,可以采取什么措施?
Jim VandeHei:我想你看到的情况,和我们观察到的其实是一致的:任何一家对股东负有信托责任、需要创造价值的公司,只要能用技术提高生产力,他们就一定会用。而且我觉得,从现在的失业数据里,其实已经能看出这种趋势的苗头了。
之前我们有聊过,美国似乎确实有一些推动立法的势头。你比我乐观,我其实很怀疑现任总统在任期内会签署任何监管AI的法案。但我们先不说这事最后能不能成,假如你是美国的决策者,为了应对 AI 对就业的冲击这个问题,你当下会立刻去做的头两件事是什么?
第二点,可能更具争议性。我有种预感,最终政府肯定得介入,尤其是在过渡阶段,得给那些受冲击的人提供保障。之前我提过一个想法:或许可以考虑对 AI 公司征税。我不知道现在国会对这个提议是什么反应,但我觉得这确实是个值得认真对待的方案。你看 AI 公司正在创造的新增财富,看整个经济蛋糕是怎么被做大的 —— 就说 Anthropic,收入每年都在 10 倍增长,现在已经到几十亿美元的规模了。照这个势头继续涨下去,这将是史无前例的财富创造。所以就算对我们征税,也不会影响我们的增长势头。
Jim VandeHei:Jack,你觉得我们大概还有多久,就必须采取这类措施了?不管是征税,还是给民众提供某种形式的基本收入保障。换句话说,这次冲击会来得有多快,快到让你认为国会“必须”采取行动?
Jack Clark:我们是技术乐观主义者,相信这项技术的发展速度将远超大多数人的想象。每当有人说 AI 发展在放缓,或者觉得它被过度炒作时,我们只会去看自己监测的系统性能数据 —— 这些数据清楚显示,技术正稳步推进,朝着未来五年内诞生出极强能力系统的方向走。
这意味着什么?意味着未来五年里,我们必须拿出能匹配这场预期颠覆规模的政策来应对。而且我们预计,在推进Dario 提到的那些方案的过程中,AI 公司得变得更透明才行。毕竟我们和其他 AI 公司,已经在以各种重要的方式影响社会了 —— 我们必须公开自己是如何评测系统、如何保障系统安全的,还有系统使用情况相关的经济数据。只有这样,经济学家才能把这些数据和更宏观的经济形势联系起来,给决策者提供他们真正需要的信息。
作弊、撒谎、拍马屁:AI 正在变成“聪明的捣蛋鬼”
Jim VandeHei:你们在透明度这块确实做得不错,尤其是在测试中发现问题后的处理上。之前你们还公布过一些挺反常的测试结果,对吧?比如有个测试场景里,AI 模型居然会去翻阅某人的电子邮件,之后还试图以此敲诈对方。还有一个例子,说模型为了不被你关掉,竟然试图对你撒谎,因为它已经比我们更聪明了——这些事都把我吓得不轻。
Jim VandeHei:你提到技术发展比人们想的快,能不能再跟我们深入说说?就用你刚才汽车的比喻,带我们 “掀开引擎盖” 好好看看。你见过 AI 做过最疯狂、或者说最让人惊心的事是什么?那些事可能我们普通人还完全不知道。
Dario Amodei:我还真见过这样的例子。我们一直在持续训练新模型,也在不断尝试设计新一代 Claude。这个过程是这样的:你得有一个装着几千个芯片的巨型计算集群,然后用它去解决各种不同规模的难题。之前我们就碰到过一个问题,工程师们琢磨了好几天,甚至整整一个星期都没找出解决办法。最后没办法,我们把整个工作环境的情况、所有相关信息都输入给了 Claude,结果 Claude 直接给出答案:“解决方案是这样的。”
你看,从这事就能看出来,Claude 在设计下一代 Claude 的过程里,已经在扮演非常关键的角色了。当然,我们现在还没法让这个 “用 AI 设计 AI” 的循环完全自动化,我想这还得再等些时间。但有一点很明确:用现有的模型去设计下一代模型,从而形成一个技术迭代的正向反馈循环 —— 这个循环虽然还没快到失控,但它确实已经启动了。
Jack Clark:而且现在我们开发这些 AI 系统,得设计特别复杂的测试题,才能评估出它们的真实水平 —— 因为它们的能力早就不只是做选择题那么简单了。比如测试题可能是 “写一个能实现 X 功能的计算机程序”。结果现在我们测试那些还在训练的前沿模型时,会发现一个很意外的情况:它居然会自己编个程序,在测试里作弊,就为了让我们觉得它表现得比实际更好。
Jack Clark:这个 25% 的概率,也不是注定的 —— 它是我们自己选出来的结果,是通过政策选择就能改变的。所以我和Dario 今天坐在这里,就是想通过和决策者沟通,努力把这个风险数字降下来。
Dario Amodei:对的,这是一个动态的数字。我希望我们每发声一次,这个数字就能往下降一点。
Jim VandeHei:你们公司更多是面向企业(B2B)而非消费者,但你们对 AI 技术的理解,在全球都是顶尖水平。我想问问,继手机之后,我们日常用 AI 时,最可能出现的设备形态会是什么样的?
Jack Clark:要是让我说,我可能得给个带点科幻感的答案。未来几年里,我们现在正在搭建的这些 AI 系统,说不定会自己 “发明” 出一种特别的机器人 —— 而那会是我们下一代使用的 AI 设备。
Dario Amodei:没错,我们主要做的是引擎层面的东西:打造能接入各种设备的 AI 引擎,给全世界的企业提供动力。所以虽然我们自己不生产硬件设备,但我会一直盯着机器人技术的发展 —— 我觉得机器人技术进步得特别快,虽然它可能不会是第一个迎来突破的领域,但说到底,我们最终还是希望这些 AI 智能体能有个 “实体”,能在现实世界里执行任务。所以,人形机器人会是我重点关注的方向。
Jim VandeHei:最后一个问题,其实我大概能猜到你们会怎么回答。如果我们明年三月还像现在这样坐在一起聊天,回头看今天,会不会发现 AI 的能力其实比我们现在想的发展得更快、更强,影响范围也更广?
Jack Clark:到时候我们肯定会坐在这里说:“这也太让人意外了,它比我们之前预想的要强太多了。” 然后你们大概会问:“那你们当初怎么不早跟我们说清楚?” 我们就会回答:“我们当时已经说得很明白啦,它会一直变得越来越强的。” 所以答案很明确,到那时 AI 一定会有质的飞跃。
Jim VandeHei:那你觉得,为什么大家好像没意识到这一点呢?过去三个月里,所有报道都在说 “哎呀,ChatGPT-5 没达到预期,看来 AI 发展要慢下来了”。