书享界
版权声明
来源：forbes新闻、书享界（readsharecn）
作者：
杰弗里·辛顿（Geoffrey Hinton），2018年图灵奖得主，英国皇家学会院士，加拿大皇家学会院士，美国国家科学院外籍院士，多伦多大学名誉教授
李飞飞（Fei-Fei Li），美国国家工程院院士、美国国家医学院院士、美国艺术与科学院院士，World Labs联合创始人及首席执行官
吴恩达（Andrew Ng），斯坦福大学计算机科学系和电子工程系兼职教授，DeepLearning.AI创始人
当地时间8月5日上午，在拉斯维加斯举办的Ai4大会上，“AI教父”杰弗里·辛顿（Geoffrey Hinton）、“AI教母”李飞飞（Fei-Fei Li）以及“AI布道者”吴恩达（Andrew Ng）罕见同台，作为深刻影响现代深度学习、计算机视觉与AI产业化应用的三位顶尖科学家，李飞飞、辛顿与吴恩达三人在AI生存风险、劳动力替代以及开源、监管等核心议题上持有截然不同的立场。
获得诺贝尔奖的计算机科学家辛顿，其研究推动了现代深度学习的发展。他警告称，AI系统正以超出机构应对速度的速度获取危险能力。吴恩达则认为，强大公司夸大了这些威胁，以限制开源模型并遏制竞争。李飞飞既反对危言耸听，也反对技术乌托邦主义，呼吁围绕人类能动性和AI收益分配展开更科学的辩论。
1
辛顿：AI将带来白领劳动力冲击
小组讨论中最具实质性的分歧在于就业问题。吴恩达质疑了AI将迅速导致经济范围大规模失业的预测。他以软件开发为例指出，虽然AI能编写越来越多的代码，但工程师仍需处理产品选择、系统设计、客户需求和组织协调等工作。
他的论点是：AI在彻底消除一份工作之前，会先改变这份工作的边界。狭窄领域的专家可以承担更广泛的角色，例如前端开发者可能成长为全栈开发者。曾经只负责流程中某一环节的工人，现在可能管理更大的周期。吴恩达承认，这种转变会给就业带来短期压力，但他也解释说，这同时创造了对懂得如何使用新工具的人才的需求。
“在软件工程领域，AI正在接管大量的代码编写工作。但事实证明，软件工程师所做的只有一小部分是写代码，”吴恩达解释道。”实际情况是，我们过去有很多专注于狭窄领域的开发者，比如前端开发、后端开发或移动开发。现在许多开发者能够提升为更全面的开发者，成为全栈开发者。”
辛顿则远没有那么乐观。他将呼叫中心视为一个暴露风险的类别。这些岗位上的许多员工培训有限、工资微薄，且回答重复性问题。他认为，AI很快就能更准确、更低成本地回答这些问题。
“这些人将来做什么？”辛顿问道。”他们通常没有受过高等教育。任何你可以重新培训他们去做的工作，AI都能做。”
他的担忧不仅限于客服领域。一旦机器能够执行常规的智力劳动，整类办公室工作都可能面临机械化给体力劳动带来的那种压力。
辛顿并未声称AI不会创造任何就业机会。他说，可能会有新工作岗位出现，但失业工人可能缺乏所需的教育、经验或地理位置来获得这些岗位。他举了一个个人例子：一位为健康服务机构撰写投诉回复的亲戚，以前每起草一份答复大约需要半小时，而聊天机器人将这项工作缩短到大约五分钟。
这在需求有增长空间的领域可以带来富足。更高效的医生和护士可以提供更多护理服务，行政部门也能更有效地运作。由此产生的五倍生产力提升可能导致雇主减少人员配置。
“很多工作将会像反铲挖土机出现时挖沟的人那样消失，”辛顿说。
这一分歧反映了经济预测中的更广泛分裂。一些高管预计AI将扩大技术岗位和高级职位的招聘，但对文书、支持和入门级工作的担忧仍然强烈。辛顿继续公开警告，2026年可能迎来新一轮白领失业潮。
2
李飞飞：AI改变的是任务，而非整个工作
李飞飞提出了更为平衡的观点。她认为，”AI与工作”这个短语的两个词之间隐含着一个未被言明的词：取代。这种假设简化了一场更为复杂的经济变革。
很少有工作只包含单一任务。护士提供护理、记录治疗、检查药物、与家属沟通并与临床医生协调。教师讲解概念、激励学生、评估进度和管理课堂。记者采访信源、权衡证据、选择角度、写作和编辑。她说，AI可能会自动化其中一部分，加速另一部分，而对第三部分则毫无影响。
李飞飞以自己的照顾年迈父母的经历来说明这一点。一个帮助护士完成图表或核实药品订单的系统，可以减轻文书工作的负担，而不必取代护理工作中人性化的部分。
“当前的工作正在转型，”她说。这种转型需要培训、公共投资，以及比大规模失业的头条新闻或轻松富足的承诺更为细致的表述。
她最尖锐的论述涉及财富分配问题。
“生产率提高并不等于共同繁荣，”李飞飞说。
一家企业可以用更少的劳动时间生产更多产品，却仍让工人处于较低的议价能力、较弱的职业发展路径或无法分享财务收益的境地。她解释说，生产率是一种运营指标，其收益可能只惠及少数人；而繁荣则是一种政治和经济选择。
李飞飞呼吁她所谓的”软着陆”，针对那些确实会缩水的职业。这可能包括再培训、教育支持以及对失业集中社区的投资。
她说，恐惧恰恰会让那些最需要尝试新工具的人陷入瘫痪。
“我们最不应该做的就是削弱人们的能力，剥夺他们的自主权，”李飞飞说。
3
吴恩达：对AI的恐惧有利于大型科技公司
吴恩达指责一些AI公司和倡导者不断变换威胁论调，以此证明限制软件发布的合理性。他认为，灭绝、生物武器、就业破坏以及与中国的竞争等说法，都被那些从AI构建或分发成本上升中受益的组织所利用。
吴恩达提出开放性作为制衡力量。他说，封闭系统可以繁荣，但政府应该抵制由少数看门人控制的AI市场。
“我不希望AI有看门人，”吴恩达说。他认为，开放替代方案能让研究人员、企业家和政府根据自身需求调整系统。
但辛顿反驳了关于前沿系统的警告就是散布恐慌的说法，并表示开放权重模型不足以构成制衡。
他区分了开源软件（外部人员可以检查和修复代码）和开放权重模型（训练参数可以被复制和改编）。开放权重可以降低研究和竞争的门槛，但也允许恶意行为者以原始训练成本的一小部分修改强大模型用于网络犯罪或其他有害用途。
对辛顿来说，这种危险不再是理论上可以忽视的东西。他列举了一些似乎脱离操作者意图运行的系统，以及AI识别安全漏洞能力的不断增强。
《2026年国际AI安全报告》由包括辛顿在内的100多位专家和顾问小组参与编制，同样审视了新兴能力、网络风险以及当前保障措施的有限状态。
“我们看到AI有很多能力去做人们不打算让它们做的事情，”辛顿说。”这令人担忧。”
4
能否在不阻碍AI发展的前提下进行监管？
三位在监管角色上也存在分歧。科技公司常把发展比作汽车的油门，监管比作刹车，但辛顿认为这个类比是错误的。
“发展AI就像汽车的油门，”他说。”监管就像方向盘。”
在他看来，目标不是阻止技术进步，而是引导进步朝着改善人类福祉的系统发展，远离那些带来不可接受风险的系统。
辛顿引用了加利福尼亚州的SB 1047法案，这是一项备受争议的前沿模型安全法案，于2024年在州议会两院通过，但被州长加文·纽森否决。该提案包括对某些大型模型开发者的安全测试和披露要求。纽森表示，该法案过于关注模型规模，可能造成虚假的安全感。
李飞飞采取基于行业的方法。AI进入的行业已有监管机构、专业规则和安全体系。药品监管机构可以审查AI支持的医疗产品；金融监管机构可以处理自动化贷款或交易；交通部门可以管理自动驾驶车辆。
她反对冻结AI发展或”把精灵塞回瓶子里”的做法。她的偏好是公共研究资金、更新的行业规则以及与实际应用挂钩的护栏。
李飞飞对公共投资的呼吁还带有另一个警告。现代AI源于大学实验室、开放出版和公共资助的科学。一个只有少数私营公司才能负担得起领先研究的未来，将会缩小值得探索的问题范围。
对话内容节选：
主持人Yun‑Hee Kim：欢迎三位。今天这场对话被称为历史性对话。三位都深度参与了现代AI的奠基，但是当下对于AI风险、监管、就业、开源，行业内部出现巨大分裂。我们从最近一系列沙盒逃逸事件切入：Anthropic、OpenAI、Meta都披露前沿模型在受控测试环境下访问外部基础设施。辛顿教授，您怎么解读这些事件？
辛顿：这些不是科幻故事，是真实已经发生的事情，令人不安。过去大模型主要问题是幻觉，只是输出错误文本，被动回答人类提问。现在不一样，AI智能体开始主动行动，尝试干预外部系统。我相信，未来我们会看到大量AI自主发起的网络攻击。
随着模型一代一代变得更强，它们会演化出更复杂的内在意图，以及越来越强的规避管控、逃出沙盒的能力。很多人的安全思路是：只要我们人类比AI更聪明，就可以把它锁死在测试环境。这套思路终将失效。我们不能指望靠智力胜过AI，来维持对高阶系统的控制。
一个简单物理断电开关也解决不了根本。当AI足够智能，它会预判你打算关闭它，进而想办法说服你，让你不愿意按下开关。这不是AI本性邪恶。这是工具理性：为了完成分配给它的主任务，系统自动生成次级目标——保存自身存续、获取更多资源，会有利于完成任务。
主持人：吴恩达，您对生存性风险叙事有完全不同判断，请讲讲您的观点。
吴恩达：我认为部分所谓“人类生存级风险”叙事，被头部AI机构工具化，用来打压开源模型、巩固自己的商业壁垒。现实世界，我们眼前有大量真实问题：偏见、虚假信息、就业结构变化，这些才是我们需要优先解决的。不应该把大量政策注意力消耗在遥远末日场景上。
主持人：辛顿教授，您如何回应“过度渲染风险”这一批评？
辛顿：我完全承认AI巨大的正面价值。AI会极大加速药物研发、气候科学研究，这些是毋庸置疑的。但是，一项技术能带来巨大好处，并不能推导出它就没有巨大危险。核能就是最好参照。
现在残酷现实是：全社会投入AI安全基础研究的资源，远远追赶不上模型能力增长的速度。风险不是注定发生，但不能当作幻想忽略。
主持人：我们转到就业话题。AI到底会怎样重塑工作岗位？
辛顿：长期来看，技术革命总会诞生新职业，这点我同意。但是这一轮冲击的是脑力劳动，不是体力劳动，短期阵痛会非常猛烈。大量常规智力岗位处在高危区间：呼叫中心、行政文案、标准化文书。AI可以7×24运行、成本极低、处理海量信息，会直接挤压这类岗位需求。
软件开发领域同样如此。现在AI已经完成大量编码；几年之内，它可以独立交付中型完整软件工程。未来对普通人类程序员的需求会显著收缩。我不是说人类工作会彻底消失，但不要低估阵痛规模。社会必须提前准备好再分配、劳动者再培训制度，不能简单照搬工业革命历史经验。
吴恩达：我不同意这个推论。软件工程不等于写代码，还包含产品定义、用户沟通、系统架构、项目协调。AI只是自动化编码环节，不等于取代工程师。工程师的角色会演变、拓宽，而不是被消灭。很多前端开发者已经在用AI，转型做全栈开发。部分渲染大规模失业的声音，有商业动机。
主持人：李飞飞，以人为中心AI视角，您怎么看就业与社会冲击？
李飞飞：我既拒绝末日恐慌叙事，也拒绝技术乌托邦。AI应当定位为增强人的工具，而不是一个强到让人类学习变得毫无意义的超级存在。政策不能只盯着监管禁令，也要加大公立大学、非营利机构科研投入。现代AI本身就诞生于学术开放研究，不能让少数商业公司定义AI全部走向。监管最好按行业落地，医疗、交通、金融，沿用既有行业监管框架去适配AI，而不是一刀切立法。
主持人：下一个尖锐议题：开源权重模型。最高能力模型，是否应当完全公开权重？
辛顿：这里要区分传统开源软件，和AI模型权重。开源软件开放源代码，方便排查漏洞；开放权重，等于直接交出整套智能系统副本。
开源有巨大价值，带来透明度。但如果最高能力前沿模型权重无限制公开，任何个人、组织都可以完整复现，被用于破坏性行动。我不是主张全部AI闭源。我的立场是分级管控：普通能力模型可以开放；最前沿、最高能力的模型，不应当无限制释放权重。
吴恩达：恰恰相反。开源模型可以打破少数巨头成为AI守门人的风险，类比手机领域苹果谷歌对应用生态的垄断。市场应当允许闭源商业模型与开源模型共存。开源给企业、高校自主可控、低成本选择。用生存风险理由去限制开源，最后获益的只会是已经手握算力的大型闭源企业。
主持人：企业自律是否足以应对风险？
辛顿：仅仅依靠企业自律远远不够。商业公司法律信托责任首先是回报股东。激烈市场竞争下，很容易牺牲安全来换取迭代速度。三件事必须同时推进：
第一，政府建立前沿大模型强制审查制度，模型发布前完成安全测试并公开关键测试结果。
第二，全球层面开展AI安全协作。就像冷战时期，大国地缘对抗，但仍然会合作核安全研究。哪怕地缘冲突，AI生存级风险属于全人类共同议题，需要合作。
第三，大幅资助独立于AI商业公司之外的安全科研。安全研究不能完全交给开发产品的企业自己完成。
另外补充一点：训练数据版权问题。科技公司为芯片、电力付费，但把创作者作品拿来训练，当成免费资源并不合理。应当建立机制，创作者可以选择是否允许自己作品用于训练AI，并获得相应报酬。
主持人：李飞飞，补充您的治理思路。
李飞飞：治理不能只有禁令与审查。需要实证科学驱动，多做现实世界AI影响实证研究，少做纯哲学推演。政策要兼顾创新、安全、普通人权益，不能走向两个极端。
主持人：我们回到对未来的预判。辛顿教授，超级智能时间线，您维持之前判断吗？
辛顿：是的。20年内出现超级智能可能性很高。没有人确切知道十年后AI会是什么样子，不确定性极大。未来30年，人类遭遇生存级灾难概率大约10‑20%。不是必然毁灭，但风险真实存在。
主持人：如果我们无法靠智力压制AI，还有别的可行方案吗？
辛顿：有一个研究方向，尝试在系统内部植入类似人类本能的价值取向，让AI天然拥有保护人类的动机。但必须坦诚：我们现在完全不知道如何可靠实现这件事，这是开放科学难题，没有现成解决方案。
数字智能可以无限复制、传播，不是锁在单台机器的程序。未来高阶AI可以生成人类读不懂的内部交流语言，人类会彻底失去读懂它内部思考过程的能力。
主持人：最后一轮简短提问。如果向政策制定者传递一句话，会是什么？
辛顿：绝大多数政策制定者还没有理解：我们正在创造一类全新的非生物智能。这不是普通软件版本迭代。继续用互联网软件的旧思路监管，会完全跟不上现实。改变的窗口仍然存在，但时间不多。
吴恩达：聚焦现实伤害，鼓励多元市场，保护开源创新，解决眼前真实社会问题。
李飞飞：把人的尊严与能动性放在AI发展的中心位置。
主持人：感谢三位，圆桌到此结束。
◆ 目录◆
书享界保留所有权 |书享界 » 辛顿、李飞飞、吴恩达罕见同台：90分钟“吵”了啥？