诺奖得主阿西莫格鲁：AI不应成为单纯替代人力的自动化手段

AI 会让人失去有意义的工作吗？

达龙·阿西莫格鲁：我完全能预见这样一个令人不寒而栗的未来：许多人将失去有意义的工作。

主持人：这位是达龙·阿西莫格鲁，麻省理工学院经济学家、2024年诺贝尔经济学奖得主。他认为我们忽视了人工智能的一些最大机遇。那么，我们应该关注什么？又是什么能让我们保持不可替代的价值？我看到很多帖子写道：“我没有招人，而是部署了一个智能体(Agent)。”

达龙·阿西莫格鲁：自动化很好。但问题在于，我们目前仅仅局限于自动化。这将淘汰大量工作岗位，却未能创造出有意义、高薪、高生产率的工作来为人们提供新机遇。

主持人：那么，人们应该做些什么？应该掌握哪些技能？

达龙·阿西莫格鲁：如果有人想听我的建议，我会说：去学习吧。

主持人：您在2024年曾提到，未来十年内，人工智能将为美国GDP贡献约1%的增长，且只有5%的任务能够被完全自动化。现在是2026年，您对此有何看法？

达龙·阿西莫格鲁：首先，我很荣幸来到这里。我并不敢自称对人工智能有什么独到见解。人工智能就像一头大象，每个人摸到的都是不同的部位。但我试图在生产率的讨论中引入一些基本的经济学演算(Economic Calculus)。

那已经是两年多前的事了。当时存在巨大的不确定性，而今天的不确定性甚至更大。不过，技术也取得了非常迅猛的发展，尤其是今年智能体AI(Agentic AI)的兴起。

现在，我可能会把这个比例定得比5%稍高一点，但我仍然认为，许多讨论夸大了自动化到来的速度，因为自动化本身很难。将自动化整合到组织中很难。新技术的扩散，尤其是当它们需要大量互补性投资和调整时，更是艰难且缓慢的。

这并不意味着它不是一项变革性技术，也不意味着我们无法从中获益，但我们必须脚踏实地地思考：经济将以多快的速度、多彻底地发生改变。

我们仍然需要像对待每一项技术那样进行讨论：使用它的最佳方式是什么？它如何被滥用？谁又会从中受益？

为什么 AI 擅长编程，却难以胜任客服？

主持人：您提到了智能体(Agentic)。有没有什么技术或进展，当您看到它时会觉得：“好吧，现在我可以把人工智能对经济影响的预测提升到两位数了”？

达龙·阿西莫格鲁：我认为编程领域的进展确实非常、非常迅速。编程究竟有什么特质，使其成为所有职业中进展最快的？我认为原因在于，编程显然是在办公室里完成的，不需要与物理世界进行任何交互。而且，监督编程的人员非常、非常精通此道。

监督编程的人对人工智能和一般技术都非常精通。但更关键的一点是——就像数学和象棋一样——编程是有规则的。代码要么能运行，要么不能运行。当你有一个明确的基准事实(Ground Truth)告诉你“不，那是错的”时，强化学习(Reinforcement Learning)就会非常有效。我认为在许多职业中，我们缺乏这种明确的基准。比如客户服务。我认为大多数人原本会断言，客户服务将是第一个被人工智能完全自动化的职业。

我们确实看到了一些进展，但事实证明这非常缓慢且困难。在我接触的大多数组织中，他们的AI系统糟糕得简直像场噩梦。当我拨打客服电话并接通AI时，天哪，意味着又要再等十分钟才能有人真正帮到我。

这是因为其中存在社会属性(Social Element)。你向客服提出的许多需求会随着时间的推移而变化，且因人而异。不同的人会用不同的表达方式提出相同的问题，而且存在大量的灰色地带和边缘情况(Edge Cases)。

这使得情况变得更加复杂，需要人类去监督或与AI协同；而最理想的状态是实现深度协作，让AI成为人类的得力辅助。这些路径都在博弈中，我们的选择将产生至关重要的影响：有多少工作岗位会被取代？生产率能提升多少？最终谁将从中受益？

为什么我们需要更多应用，而不仅仅是更强的模型？

主持人：在编程方面，我们能得到确定性的结果并轻松进行检验。而在客户服务方面，正如您所说，情况要个性化得多。您认为在未来，随着模型变得更加强大，我们能够实现客服的完全自动化吗？还是说这触及了AI的普遍瓶颈，即没有人类就无法运作？

达龙·阿西莫格鲁：我绝对不会断言未来有某件具体的事情是AI无法做到的。过去十年已经给了我们足够多的AI案例：只要投入足够的资源和数据，它就能在许多事情上取得进展。但问题是，速度有多快？它能否在所有领域都做到这一点？如果退一步看，当你问我为什么生产率提升如此之少，以及我们能做些什么时？

对于如何提升AI应用的经济效应，我的愿景可以用一句话来概括：我们需要更好、更多的应用。

从某种意义上说，人们可以提出这样的观点。当然，我不确定这是否准确。你看，我不在Anthropic内部，也不在OpenAI。我不知道他们从实验、海量资源以及这些组织中极其优秀的人才身上实时学到了什么。但你可以提出这样的论点：美国硅谷过于强调基础模型(Foundation Models)，而对应用关注不足，在将应用整合到组织方面也投入不够。

我们总是被告知美国领先于中国。确实，在大语言模型方面，这似乎非常明显。中国模型有时正在迎头赶上，但它们是在利用美国模型的领先优势。这其中可能涉及一些知识蒸馏(Distilling)。

但我看到中国企业正在做的一件事，在美国却不多见，那就是他们非常强调将机器人技术和AI引入生产线。他们为解决这个问题投入的一大资源是海量的工程人才。美国似乎没有那么多工程人才，而我们拥有的人才全都投入到了基础模型中。

硅谷是否正沿着 AI 唯一可行的道路前进？

主持人：您触及了一个非常有趣的话题。作为一名移民，当我观察美国的运作方式并询问为何如此时，得到的回答往往是：“哦，历来如此。”

达龙·阿西莫格鲁：或者“不，这是唯一的做法”。我认为这里有一点需要说明。

我还要补充一点：我不想过度概括，但如果要说有什么对美国AI产业不利，在我看来，那就是“必然论”(Inevitabilism)——盲目坚信当下的做法是唯一正确的道路，别无他法，谁敢质疑谁就是傻瓜。我完全摒弃这种傲慢。

我认为AI是一种非常多功能的技术，所有通用目的技术(General Purpose Technologies, GPTs)都是如此，也就是经济学家所说的电力、印刷机等能催生大量其他应用的技术。

我们从历史中明白一个道理，从大量经济学研究和以往的案例中也学到一课：开发这些通用目的技术有许多不同的途径，而不同的途径并非价值中立。

它们会带来不同类型的收益，也会产生不同类型的成本。如果仅仅认为我们现在的做法是唯一的方法，或者是迄今为止最好的方法，我认为这是一个错误。

为什么 AI 的经济影响仍然难以显现？

主持人：我认为随之而来的另一个问题是衡量标准，对吧？那么，如何衡量AI对个人生产率、对公司生产率的影响？今年五月我采访埃里克·布林约尔松(Erik Brynjolfsson)时，他们正在做这项研究，结果显示AI的经济影响基本上为零。

埃里克·布林约尔松：因此，AI的原始能力正在飞速提升，但目前其经济影响还相当微弱。我认为，能力与实际经济表现之间的这种落差，正是一个巨大的机遇。

主持人：您认为这其中也存在衡量标准的问题吗？

达龙·阿西莫格鲁：他是一位非常、非常严谨的学者，他对这个行业的了解几乎超过了任何其他社会科学家。而且我认为他比我更乐观。

所以，如果你问他对2034年或2035年生产率影响的看法——这也是我当时在写的主题——他的预测会更为激进。是的，我认为他的结论是：AI目前还没有产生我们期望的那种生产率效应，但未来会的。这也正是我的观点所在。我们目前还没看到，但未来会的。

但在我看来，它的到来会比埃里克所预测的稍微慢一点。不过，如果他是对的，我会非常、非常高兴。而且我认为，他预测正确的几率，比行业中许多对现状盲目乐观的人要大得多。

主持人：您认为我们应该如何衡量AI对组织乃至个人生产率的影响？

达龙·阿西莫格鲁：生产率的衡量一直是个难题，其中还涉及质量问题。

我认为埃里克正确地强调了一个重点：在数字时代，更广泛地说是过去四十年间，我们尚不清楚如何衡量质量，这可能意味着我们低估了人工智能乃至整个计算机领域所带来的部分生产率收益。我对此表示赞同。

问题在于，我们同样不知道如何衡量更好的汽车或更完善的高速公路所带来的质量提升。因此，衡量质量始终是个难题。

主持人：我认为这其实是幸福感的衡量问题。也许我们最终应该直接去衡量幸福感，看看结果如何。

达龙·阿西莫格鲁：确实如此，这也是个很好的思路。我认为人类福祉非常重要。但在这方面，我对人工智能及所有相关技术持更为悲观的态度。我认为社交媒体对我们造成了极大的破坏。它破坏了社区联系，削弱了人们应对逆境的能力，因为我们不再与真实社交网络中的人互动。它放大了我们最糟糕的本能，因为算法专门迎合愤怒、煽动情绪、放大嫉妒。所以我认为这非常糟糕。唯愿人工智能不要重蹈社交媒体的覆辙。

主持人：你对此特别直言不讳。那么，当你提到我们拥有这些强大的模型却缺乏应用时，这是否是一个教育问题？你认为我们还需要更强大的模型，还是需要其他条件才能看到人工智能对日常生活产生积极影响？

达龙·阿西莫格鲁：我认为现有模型已经非常强大，足以作为构建应用的基础。在现有基础设施下，我们能做的事情有很多，且完全可行。让我举几个例子。

大幅提升质量控制，使用现有模型非常容易实现；为护士提供辅助工具。

我们国家正面临真正的医疗危机。我们在医疗上花费了几乎每五美元中的一美元，但看看结果吧。我们面临着真实的公共卫生挑战，医疗行业也存在真正的瓶颈。

想象一下，护士可以更深入地参与到护理过程、诊断、处方以及患者福祉的决策中，而其中一个巨大障碍就是质量控制和信息获取。只要在现有模型之上构建正确的应用，现有的人工智能模型就能非常轻松地提供这些支持。

主持人：是的，我认为这可能还需要对护士进行一些不同的培训。

达龙·阿西莫格鲁：确实，这里存在一个与之互补的人力资本问题。但瓶颈并不在于护士的人力资本，而在于应用，在于科技行业没有去做。教师也是如此。电工也一样。我们可以为电工提供更好的工具。这简直是触手可及的简单成果。许多蓝领工作都能通过人工智能变得更加高效。我们已经在中国看到了一些这样的案例。那么，为什么我们在美国不这么做呢？这就是瓶颈所在，而不是基础模型。即使是去年的模型，也足以胜任我们目前能做的绝大多数事情。

主持人：这听起来像是一个巨大的商业机会。

为电工开发人工智能。这是一个巨大的市场。搬到这里后，我再次发现这些人赚了多少，以及干一点小活要付多少钱。

达龙·阿西莫格鲁：而且电工严重短缺。确实如此。你要等上三周才能完成最基本的任务，然后电工过来说：“哦不，这台新机器我处理不了。”为什么？因为他以前从未见过。

这正是人工智能可以发挥作用的地方。这简直是个极易解决的问题。

谁应该为护士和教师开发 AI 工具？

主持人：谈到教师和医疗保健，你认为这是政府的问题，还是企业仍有参与的机会？

达龙·阿西莫格鲁：我认为医疗保健和教育涉及两方或三方的互动，因为大多数医疗支出都或多或少有政府的参与。教育也是如此。所以，我认为政府可以发挥重要作用。但对于电工、蓝领工人、客服代表和科学家来说，这主要属于私营部门的范畴。我之所以说是三方，是因为即使把政府排除在外，也有两方参与：科技公司和我们所讨论的企业管理层。双方都需要参与其中。

在我与领先企业的首席执行官或高层管理人员的交流中，当我提到我所说的“赋能劳动者的人工智能”(pro-worker AI)，即能让工人更高效的人工智能时，他们说这正是我们需要的，我们完全支持。他们是认真的吗？我不知道。我无法验证，因为科技公司并没有提供这些工具。

当我向科技公司的人提到同样的事情时，他们要么点点头然后转过头去，要么说：“你活在另一个世界里。我们要创造的是通用人工智能(AGI)。你在说什么？”

中国企业在 AI 方面有哪些不同做法？

主持人：他们更担心遥不可及的事物，而不是现在就能解决的问题。当你提到为蓝领工人开发工具并提及中国时，有哪些好的例子？

达龙·阿西莫格鲁：我交流过的几家中国制造业企业正在将机器人技术和人工智能结合起来。富士康、比亚迪以及其他电动汽车生产商，他们的技术应用水平都非常高。从他们的经验中我看到的一点是，这是一个缓慢的过程，而且他们需要的工程师比预期的要多。幸运的是，中国拥有庞大的工程师队伍。

创业者应如何选择 AI 机遇？

主持人：你对正在观看并选择发展方向的创业者有什么建议？他们该如何选择正确的利基市场(Niche)？因为我认为从我最近做的所有播客来看，大家都说“财富藏在利基市场里”，尤其是在人工智能领域，因为机会就存在于那些过去二十年未被自动化、可能还在用纸笔办公的“枯燥”业务中。但如果你能介入并解决这些问题，机会就在这里。

达龙·阿西莫格鲁：是的，完全同意。唯一一点是，我不会使用“枯燥”这个词。我认为这非常令人兴奋。想象一下。

主持人：从外部看起来很枯燥。通用人工智能(AGI)听起来要炫酷得多。

达龙·阿西莫格鲁：我知道，我知道，但这大错特错。首先，那是虚无缥缈的目标。没有人能就AGI的定义达成共识。它永远在未来，而且坦白说，那也不是我们能完全想象出来的未来。

我的意思是，如果你真的指AGI，然后是人工超级智能(ASI)，机器能做所有事情，而且比人类做得更好。这对我来说似乎还很遥远，但也显得非常反乌托邦(Dystopian)。我的意思是，即使是最优秀的物理学家、最顶尖的数学家、最出色的社交沟通者，都不会再有工作机会。人工智能会把一切都做得更好。

达龙·阿西莫格鲁如何在自己的研究中使用 AI？

达龙·阿西莫格鲁：所以，我不理解的是，公众关于人工智能的辩论中存在太多自相矛盾的地方。其中之一就是人们说：“哦，AGI太棒了；它很快就会到来，但我们也会给人类留下很多事情做。”这不可能。如果你对AGI或ASI有严肃的定义，就不可能给人类留下那么多工作。

主持人：我想更深入地探讨一下今天人工智能的实际应用。那么，当你提到这些商业机会时，作为研究人员，你在日常研究中是如何使用人工智能的？

达龙·阿西莫格鲁：我必须承认，我还未触及最前沿。我使用人工智能进行背景研究，而且在这一年里，我越来越开始让AI对我写的内容和想法提出批评意见，这非常有趣。因为当我第一次用ChatGPT 3.5和后来的ChatGPT 4进行尝试时，我觉得非常令人失望，但现在它已经好太多了。

我也鼓励我所有的学生和研究助理为他们的研究搭建AI基础设施，作为工作的辅助支持，绝不能用来替代他们自己。我不鼓励人们——即使是将英语作为第二语言的人——使用AI代写，因为我认为人们应当掌控自己的写作。但我鼓励每一位英语非母语的学生使用AI进行校对，比如把文章输入AI，检查哪些句子表达不清、过于冗长或存在语法错误。

因此，我认为AI的许多基础应用已经非常出色，用途广泛。但我非常担忧另一种失控，即我们作为一个整体，尤其是作为学生和学习者，将太多事情委派给AI，以至于不再锻炼我们的思维能力，不再真正投入学习。我认为，这是一个首要问题。

我从对学生的研究中看到了很多这样的情况。我认为，AI在K-12（基础教育）中的应用简直是一场灾难，因为我们在缺乏安全护栏(Guardrails)的情况下盲目推进。实际上，我在2023年或2024年就曾指出过这种做法的危险性。这是一场巨大的社会实验，在没有任何安全护栏的情况下，将生成式AI同时全面引入学校，因为我们不知道它会产生什么影响，而结果也并未出乎意料。我最担心的情况几乎已经成真。

何时应该停止使用 AI，转而独立思考？

主持人：你什么时候需要对自己说：“好了，就到此为止，这个问题我需要独立思考，也许只用AI来辅助一下……”

达龙·阿西莫格鲁：对我来说情况有所不同。首先，遗憾的是，我属于不同的时代；其次，我纯粹就是热爱思考。我喜欢拿着纸笔勾画思路。所以实际上，我得刻意提醒自己：“把这个交给AI跑一下。”比如，我从未用AI做过数学推导。我本该用的，毕竟AI的数学水平比我高得多，但我喜欢自己推导。当我构建模型或进行计算时，我都亲自动手，因为这是我习惯的方式，而且我算得快，还能从中有所收获。我能从自己的错误中学习。但我确信，如果我愿意退一步借助AI，我能做更多事情。

主持人：当你亲自做数学推导时，有没有想过这个问题？这就像当年计算器引发的争议，当时老师们抗议说：“都是计算器惹的祸。”但我至今仍在到处使用它，它让我们能够解决更复杂的问题。你认为AI会让我们实现类似的飞跃，还是说因为它总体上剥夺了批判性思维(Critical Thinking)，我们将无法取得进步？

达龙·阿西莫格鲁：我担忧的是后者。我认为拿计算器作类比很有启发，但必须谨慎对待。

计算器只能接管其中非常非常小的一部分，而且据我所知，没有人会用计算器来替自己思考。我也从未听说过哪所学校对学生说：“现在你们有计算器了，不用学乘法了。”

我上学的时候就有计算器了。但我们还是都学了乘法和除法，我无法想象不懂这些会怎样。这是学习许多其他知识的重要基石(Building Block)。

微分(Differentiation)也是同样的道理。如果你不懂微积分(Calculus)，你怎么能迈出下一步呢？

主持人：是的，这取决于技能的边界在哪里。计算器基本上只具备这种单一功能，而AI则涉及整个批判性思维过程。

达龙·阿西莫格鲁：它涉及整个批判性思维，而且其中的界限非常模糊。比如，使用AI的边界在哪里？你如何在与AI协作的同时，依然参与到人类创新和创造力的关键步骤中？

公司用 AI 取代员工时会忽视什么？

主持人：让我们回到企业话题。当你浏览X（原Twitter）上的那些帖子时，虽然你没怎么看到有人说“我解雇了整个团队并雇佣了AI智能体(Agents)”，但你确实看到了很多帖子说：“哦，我没有招人，而是部署了一个AI智能体。”从长远来看，这些公司和个人在这样做时会忽视什么？因为我知道，你反对将AI智能体宣传为人类的替代品。

达龙·阿西莫格鲁：让我先澄清一下我在这方面的立场。这基于我在机器人、20世纪初技术、工业革命以及理论方面所做的研究。我不反对自动化(Automation)，也不认为有可能阻止自动化。我们需要自动化，任何想要开历史倒车、逆转自动化的人，我都反对。我们不想回到靠人力背负重物的时代。自动化是非常好的。

问题在于，如果我们仅仅局限于自动化：第一，我们无法获得全面的生产力提升，因为靠自动化包揽一切并不容易；第二，我们无法创造共享繁荣(Shared Prosperity)，因为这会消灭太多工作岗位，却又无法创造出有意义、高薪且高生产力的新工作来为人们提供新机会。

所以我的观点一贯是：既要利用新技术进行自动化，也要将其用于其他方面，采取平衡的策略。我一直主张，数字技术为人类创造新事物提供了大量机会，而AI更是如此。因此，我希望AI被用于自动化，前提是我们同时也在利用AI创造新事物，比如为护士、电工，以及许多我们目前甚至无法想象的职业赋能。

主持人：你如何向一个唯一指标就是增加利润的小企业主解释这一点？这笔经济账怎么算……哦。

达龙·阿西莫格鲁：生产力，生产力。我认为，同样地，我的经验之谈可能只是纸上谈兵。人们跟我交谈时可能只是出于客气，或者被我忽悠了。但大多数企业实际上都明白这个道理。虽然不是所有人，但大多数人都懂。你的员工是你最大的资产。想象一下让他们变得更具生产力，这对企业来说简直太棒了。事实上，这是一笔更划算的账。打个比方，假设你有100名员工，我告诉你，你可以将其中5%的工作自动化，并将这5%工作的成本降低一半；或者，你可以让你所有员工的生产力提高5%。后者会为你带来大得多的收益。

主持人：哦，而且你的竞争对手也在利用自动化赋能他们的员工，如果你只是在裁员，那么你的生产力最终会……

达龙·阿西莫格鲁：没错，我的意思是，你的员工拥有丰富的经验，至少其中很多人是这样。如果你曾是个好老板，他们会对企业充满责任感和忠诚度。如果你能让他们更具创新精神，更善于解决问题，更善于尝试新事物，这样的企业才会走向成功。

让我问你一个问题。你记得过去的哪些公司？你会给我一些耳熟能详的答案，比如福特汽车、通用汽车、通用电气，还有IBM、微软。

如何决定哪些任务应被自动化？

它们有什么共同点？它们都做了创新。它们不仅仅是削减成本或照搬别人的做法，而是构想了新市场、新技术和新任务。亨利·福特本人就完美诠释了这一点。他说：“如果我问消费者想要什么，他们会告诉我需要跑得更快的马。”这就是我们对成功企业的期许。仅仅削减5%的成本，并不能让你载入人类史册。

主持人：谈到自动化，你有一套判断哪些任务适合自动化的法则吗？你提到有5%的任务是可以自动化的。你如何判断什么时候应该自动化某项工作，或者什么时候不值得自动化？

达龙·阿西莫格鲁：如果你将成本降低5%，GDP通常会增长5%乘以你在GDP中所占的份额。这并不难算。难的地方在于：第一，如果你改变的是质量，计算就会复杂一些；第二，实际上，即使你只是要将成本降低5%。

这也需要花费数年的大量工作才能实现。从我了解的一些企业来看，他们有时下定决心搞自动化，是因为觉得这很容易，有时是因为觉得面临竞争压力，但最后却推行不下去，因为自动化并非易事。你必须将其深度整合到公司的业务流程中。

现在，许多人开始使用“锯齿状前沿(Jagged Frontier)”这个词来形容AI。我喜欢这个比喻，但它也是一句潜台词，意思是：“哦，我们高估了AI。实际应用要困难得多，我们原以为可以借AI之名裁员，但实际上不行。”

但如果你认真对待这个“锯齿状”的概念，它的意思其实是：“哦，AI的能力如此参差不齐。我还是得保留差不多同样数量的员工，现在引入AI，只不过是把人和AI混在一起的大杂烩(Melange)。”

大学教育仍然物有所值吗？

主持人：确实，这需要企业付出更多努力。接下来谈谈教育，作为学术界的一员，您认为十年后大学教育依然物有所值吗？

达龙·阿西莫格鲁：我认为是这样，但在此之前我要提出几点保留意见。首先，出于经济和社会两方面的原因，我从不认为每个人都应该上大学，现在对此更是深信不疑。人们拥有不同的技能，也有不同的兴趣。我们应该终身学习，但传统的文理教育并不适合所有人。我们也不希望社会中的每个人都持有完全相同的观点。

其次，恐怕大学发挥的很多作用仅仅是一种信号(Signal)传递。当你进入哈佛、麻省理工或斯坦福时，你也是在为这块招牌买单，这对你个人有好处，但对社会未必有那么大的益处。

第三，现在每所大学都意识到必须改变其办学模式，改变教育传授方式，并探索应该重点培养哪些类型的技能。我个人的浅见是，大学已经认识到了这一点。

但问题是，同样的情况也适用于高中和初中，而它们却还没有做出改变，甚至更加落后于时代。

我在美国观察到一个现象，许多学生进入大学时准备不足，而且这种情况还在恶化，这确实会让大学的办学更加艰难。我对此深有体会，因为我曾为经济学大一学生编写过教材。学生准备不足的情况有多普遍，以及这种现象如何随着时间推移而加剧——这甚至在人工智能出现之前就已经如此。由于高中教育做得不够好，有多少大学发现必须开展越来越多的补习课程？

我们掌握的证据表明——当然，我们还处于早期阶段，情况可能会有变化——但现有证据显示，人工智能使得初中和高中的学习变得更加困难，因此问题只会进一步恶化。

应该学什么才能保持自身价值？

主持人：完全同意。如果我们开始依赖人工智能来解决所有问题，大学教育的处境只会每况愈下。那么人们应该怎么做？应该掌握哪些技能？您是否同意这样一种观点，即我们需要更多的学科知识来获取这些技能？因为我想到的是品味(Taste)和战略思维(Strategic Thinking)。

达龙·阿西莫格鲁：绝对同意，因为我不认为真正的通用人工智能(AGI)会马上到来。我认为我们比以往任何时候都更需要人类的创造力，而没有坚实基础的人类创造力，无异于空中楼阁。如果有人想听听我的看法——虽然我不是给出这个建议的最佳人选，因为我既不是数学家也不是计算机科学家。

但如果有人想听听我的建议，我会说去学数学。不要因为Astra能解决复杂的数学问题就望而却步。我们需要人类的数学知识，需要人类的数学素养(Mathematical Maturity)，这将至关重要。去学物理，去学经济学，去学工程学。我认为这些领域都会大放异彩。

同时还要培养灵活性。我认为我们需要极大的灵活性，因为即使在同一个职业中，随着技术和社会环境的变化，我们也经常需要改变工作内容。所以我认为这些都非常重要。但在未来十年，人类的聪明才智和创造力将是至关重要的。

为什么学会与 AI 协作还不够？

主持人：还有将非线性职业生涯(Nonlinear Careers)常态化，这一点让我产生了极大的共鸣。对于一生都在转换职业的人来说，我认为这将成为我们的新常态。

达龙·阿西莫格鲁：此外，我认为还有两个原则非常重要：我们必须从初中开始传授如何与人工智能协同工作的技能，这毫无疑问，但同时更要强调公民责任(Civic Responsibility)。在我国以及世界上大多数地方，我们已经失去了真正的社区意识(Sense of Community)，失去了关心公共利益和为集体利益奋斗的真正意识。在人工智能时代，这一点尤为重要。而这首先要从获取信息、积极参与做起。

主持人：这其实应该从小学就开始。

达龙·阿西莫格鲁：从小学开始，我本可以把范围扩大到小学。毫无疑问，我们可能助长了过多的自私心理，可能鼓励人们通过社交媒体等方式退缩到自己的信息茧房(Cocoons)，也可能贬低了社区中一些真正重要的方面。

这也是我探讨自由民主制(Liberal Democracy)现状的新书中的一个重要主题：我们确实需要让社区处于自由民主社会的中心。

我既非盲目乐观，也绝不悲观。我努力保持希望，而希望源于两点：其一，人类具有无限的适应力；其二，即便在这个极化与分裂的世界中，跨越阵营的双方对公平与道德仍有着高度相似的共识。我们只需在沟通中让共识更加清晰，不将对方视为仇敌。即便分歧再深，也应建立在“同舟共济”的认知之上。

主持人：我们正在讨论这一切，但随后达里奥(Dario)出来说：“人工智能有25%的概率会导致情况变得非常非常糟糕。”

达龙·阿西莫格鲁：我算是个相对乐观的人，所以我认为有25%的概率情况会变得非常非常糟糕，但也有75%的概率情况会变得非常非常好，中间没有太多灰色地带。

主持人：听到这话您怎么想？尤其是这话出自一位即将推动公司上市、并需要证明其技术具有颠覆性变革能力的人之口？

达龙·阿西莫格鲁：我认为，如果顶尖人工智能实验室的研究人员对人工智能的某些影响感到担忧，他们当然应该发声。我欢迎并赞赏他们直言的勇气。

但就我个人而言，相比于达里奥、埃隆·马斯克或克拉克斯顿所阐述的生存风险(Existential Risk)，我更担心的是社会对人工智能失控的普遍危机感。我所说的失控，是指普通公众、工人、学生和家长因为人工智能而失去对自身能动性(Agency)的掌控。这未必是因为人工智能已经变得超级智能并成为一个独立的实体，部分原因在于其他公司或前沿实验室(Frontier Labs)开发、使用和推广人工智能的方式。因此，我非常担心失控问题。

我们应该就此展开讨论，但也不应忽视其他风险。

达隆对人工智能是否更加乐观了？

主持人：您对人工智能的评分范围是从负十到正十，您曾说它是负六。从那以后情况变得更糟了吗？我记得您给出这个评分时应该是2025年。

达龙·阿西莫格鲁：不，我其实不这么认为。因为在2024年和2025年，我认为人工智能可能会造成很大破坏，而且我不清楚我们在改进它时会面临哪些瓶颈。我认为改进速度很快，因此危险也随之增加。但我认为我们能利用人工智能做的好事也变得越来越清晰。我们只需要重新引导它，需要对人工智能进行驾驭。人工智能不能仅仅由少数人决定，尽管他们非常聪明，许多人也出于好意。但它太重要了，不能只留给少数人来决定。

主持人： 在个人层面上，您如何推动这一点？

达龙·阿西莫格鲁：靠信息。我认为我们必须从信息和叙事入手。让我告诉你们我的看法——这说起来很有风险，因为我要对我们这个世界上最大的守门人(Gatekeepers)说些负面评价。但在我看来，最让我们失望的机构是媒体，绝对是媒体。

媒体在培养关于人工智能的真正信息辩论意识方面做得非常糟糕。十年来情况才开始缓慢改变，而且进展极其缓慢、极不平衡。

达隆在人工智能热潮中如何投资？

十年来，要么埃隆·马斯克等人被奉为神明、不容置疑，对他们的任何批评反而成了抬高他们，关于人工智能的一切都被描绘得迷人、令人目眩且美妙绝伦；要么我们就把人工智能当作敌人，说它是随机鹦鹉(Stochastic Parrots)或杀人机器人。而那个中间地带——人们可以参与其中、理解问题，并切实履行作为消费者和民主公民对我们未来守护者的角色——却从未得到培养。新闻媒体的几乎所有机构都是如此。

主持人：让我们以几个非常实用的问题来结束今天的讨论，因为我希望大家在听完之后能带走一份行动计划，知道该怎么做。首先，当您听到所有这些新闻时，您会如何处理自己的储蓄？还是说一切都没有改变？

2035 年的工作可能是什么样子？

达龙·阿西莫格鲁：没有太大变化。我尽量保持投资组合的平衡。我认为战胜市场非常非常困难。我并不是说不可能，但你需要具备极高的技能、投入大量时间，或者拥有内幕信息。我没有那么多时间，也毫无内幕信息，而且我也不想拥有内幕信息，所以我尽量保持投资组合的平衡。

主持人：让我们展望一下2035年。如果一切向好的方向发展，一个现在每天在电脑前工作八小时的知识工作者，那时典型的一天会是什么样子？

达龙·阿西莫格鲁：问得好。我也说不准。我完全能预见这样一个未来：人们的工作时间会稍微减少，但依然能保持极高的生产力。我也能预见一个令人不寒而栗的未来：许多人将失去有意义的工作。同时，我也能预见这样一个未来：人们依然会去办公室，或者采取办公室与居家办公相结合的模式，但由于真正具有互补性的人工智能的出现，工作方式将发生显著改变。但无论如何，人类的创新与才华始终是核心。我认为，即便抛开人工智能不谈，我们也正处于一个极其动荡的特殊时期：气候变化、人口老龄化、地缘政治格局的演变，以及发展中世界崛起的庞大中产阶级。

达隆认为人工智能领域真正的赚钱机会在哪里？

所有这些都需要新产品、新服务、新任务、开拓市场的新方式以及组织公司的新模式。而谁来承担这些工作呢？不是人工智能，而是人类。如果我们能帮助这些人发挥更大的创造力，那将非常了不起。

主持人：对于那些看到惊人财富正在被创造出来的人——至少从我们目前看到的公司估值来看是这样，尽管我们还需观察其在实体经济中的实际投资回报率(ROI)——您会给出什么建议？当您提到我们希望参与到这场财富创造中时，在实践中具体该怎么做呢？

达龙·阿西莫格鲁：事实上，尽管大量资金正涌入前沿实验室(Frontier Labs)，但我实在看不出基础模型(Foundation Models)如何能赚取巨额利润。

主持人：所以我们会看到一些IPO以失败告终。

达龙·阿西莫格鲁：短期内不会出现IPO失败，因为目前市场热情依然高涨。但我确实看不出基础模型如何能创造数万亿美元的价值，因为模型开发或推广过程中都存在潜在瓶颈。即便这些瓶颈没有出现，下一层级的开源模型(Open Source Models)也会表现得非常出色。因此，其变现机会将是有限的。

我认为真正的商机在于高质量数据和应用，这也是核心优势所在。如果你的公司或业务线拥有海量数据，就要精心培育并利用它们，甚至构建更优质的数据；在设法收集这些数据的同时，也要为生成这些数据的员工提供合理补偿。这既是公平之举，更是明智的商业决策。

再来看看应用层面，优势同样集中于此。如果应用真正具有创意且能填补细分市场(Niche)空白，开源模型将很难将其复制。我认为机遇就在于此。作为职场人，要保持灵活性，加深对人工智能的理解，同时坚守自身的创造力与专业基础。

主持人：此外，对于员工而言，认识到自己就是数据的来源也非常重要。他们多年来一直与客户和产品打交道。

达龙·阿西莫格鲁：顺便说一句，还有另一个重要因素。如果要开发应用，许多隐性知识(Tacit Knowledge)都掌握在一线员工手中。你不能只坐在办公室里对着电脑，指望靠着强大的AI就能凭空想出应用。你必须深入一线，亲力亲为，与员工们深入交流。

主持人：希望这次对话能激发正在观看的、致力于开发AI实用应用的企业家们的一些绝妙灵感。最后我想问一个问题。您曾提到，去人工智能公司工作的学生需要具备坚定的道德指南针(Moral Compass)。我认为广义上讲，无论是作为企业家还是社会成员，都需要这种道德准则。您能具体解释一下其中的含义吗？

达龙·阿西莫格鲁：让我举一个其他领域的例子，那就是基因编辑(Gene Editing)。这又是一项取得重大突破的惊人技术。但我认为，大多数进入医学或基因编辑相关领域的人都清楚，这是一项在道德上存在模糊性(Morally Ambiguous)的技术。

许多承担监管职责的机构，从美国国立卫生研究院(NIH)到美国卫生局局长(Surgeon General)和美国医学协会(AMA)，都出台了关于基因编辑的通用伦理准则。例如，目前禁止进行生殖系编辑(Germ Line Editing)，因为这实在太危险了。我们对其了解不足，且风险过高。

我认为人工智能领域同样需要这样的道德指南针，而我们目前恰恰缺乏这一点。人们总觉得“我是在造福人类”，我也完全相信他们的初衷。我认识的几乎所有投身AI领域的人都是出于善意，他们不仅为自己，也为社会谋求福祉。但问题是，目前还没有明确的道德指南针，这正是我所强调的。

主持人：这又是一个有趣的话题，我们……

达龙·阿西莫格鲁：希望将来有机会继续探讨。

主持人：非常感谢您。这次交流太精彩了，这是我的荣幸。多谢。