吴恩达、Hinton最新对话！AI不是随机鹦鹉，共识胜过一切，LeCun双手赞成

近来，AI安全已成为高度命中的话题。

AI「教父」Geoffrey Hinton和吴恩达就人工智能和灾难性风险进行了一次深度的隔空对话。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

吴恩达今日发文分享了他们的共同想法：

- 人工智能科学家对风险达成共识很重要。类似于气候科学家，他们对气候变化有大致的共识，所以能制定良好的政策。 

- 人工智能模型是否了解这个世界？我们的答案是肯定的。如果我们列出这些关键技术问题，并形成共同观点，将有助于推动人类在风险方面达成共识。

Hinton表示，

我曾经常与吴恩达交流，很高兴再次与他见面并了解他对最近人工智能发展所带来各种风险的看法。我们在许多方面取得了共识，特别是，在向政策制定者汇报时，研究人员需要就风险形成共识。

在此之前，吴恩达同样和Yoshua Bengio进行了人工智能风险的对话。

他们得出的一致意见是，阐明AI可能带来重大风险的具体场景。

接下来，一起来看看两位AI大佬都具体讨论了什么。

急需共识！

首先，Hinton提出，最重要的是——共识。

他表示，现在整个AI社群缺乏一种统一的共识。就像气候科学家达成的共识一样，AI科学家同样需要。

在Hinton看来，之所以我们需要一个共识，是因为如果没有的话，每个AI科学家各执一词，那么政府和政策制定者就可以随心从其中选择一个符合自身利益的观点作为指导。

这显然会失去公允性。

而从目前的情况来看，AI科学家之间的不同观点差异化很大。

Hinton认为，如果我们各执一词的局面能快点过去，大家都能达成一致，共同接受AI可能带来的某些主要威胁，认识到规范AI发展的紧迫性，就好了。

吴恩达赞成Hinton的观点。

虽说他现在还不觉得AI界差异化大到分裂，但好像在慢慢往那个方向演变。

主流AI界的观点非常两极分化，各阵营之间都在不遗余力地表达诉求。不过在吴恩达看来，这种表达更像一种争吵，而不是和谐的对话。

当然，吴恩达对AI社群还是有些信心的，他希望我们能共同找到一些共识，妥善进行对话，这样才能更好地帮助政策制定者制定相关计划。

接下来，Hinton聊到了另一个关键问题，也是他认为目前AI科学家们难以达成某个共识的原因——像GPT-4和Bard这种聊天机器人，究竟理不理解他们自己生成的话？

有些人认为AI懂，有些人认为它们不懂，只是随机鹦鹉罢了。

Hinton认为，只要这种差异还存在，那么AI界就很难达成一个共识。因此，他认为当务之急就是厘清这个问题。

当然，就他自己来讲肯定是认为AI懂的，AI也并不只是统计数据。

他也提到了诸如Yan LeCun等知名科学家认为AI并不能理解。

这更加凸显了在这个问题上调和清楚地重要性。

吴恩达表示，判断AI究竟是否能理解并不简单，因为好像并不存在一个标准，或者某种测试。

他自己的观点是，他认为无论是LLM也好，其它AI大模型也罢，都是在构建一种世界模型。而AI在这个过程中可能会有些理解。

当然，他说这只是他目前的观点。

除此以外，他同意Hinton的说法，研究人员必须先就这个问题达成一致，才能继续聊后面的风险、危机那堆东西。

Hinton接着表示，AI根据数据库，通过前面的单词判断、预测下一个单词的生成，这件事在Hinton眼中就是理解的一种。

他认为这和我们人脑思考的机制其实差不了多少。

当然，究竟算不算理解还需要进一步的讨论，但最起码不是随机鹦鹉那么简单。

吴恩达认为，有一些问题会让持不同观点的人得出不同的结论，甚至推出AI将会灭绝人类。

他表示，想要更好地理解AI，我们需要更多去了解，更多去讨论。

这样才能建设一个包含着广泛共识的AI社群。

LeCun双手赞成，再提「世界模型」

前段时间，在全世界呼吁暂停超强AI研发期间，吴恩达与LeCun开|直播|就此话题展开了讨论。

他们同时反对暂停AI是完全错误的，汽车刚发明时没有安全带和交通信号灯，人工智能与先前的技术进步之间没有本质上的差异。

这次，LeCun就吴恩达和Hinton对话，再次提出了自己的「世界模型」，以及当前人工智能连阿猫阿狗都不如。

我们都同意，我们需要在一些问题上达成共识。

我同意Geoffrey Hinton说的，即LLM有「某种程度」的理解力，还有称它们「只是统计数据」是一种误导。

LLM对世界的理解是非常肤浅的，很大程度上，是因为它们纯粹是在文本上训练的。

从视觉中学习世界如何运作的系统，将对现实有更深刻的理解。其次，自回归LLM的推理和规划能力非常有限。

我认为，如果没有（1）从视频等感官输入中学习「世界模型」，（2）一个能够推理和规划的架构（不仅仅是自回归），我们不可能接近人类水平的人工智能（甚至是猫级人工智能）。

现在，如果我们有能够规划的架构，它们将是「目标驱动的」：它们的规划将通过在推理时（不仅仅是训练时）优化一组目标来工作。

这些目标可以包括使这些系统安全和顺从的「护栏」，即使它们最终拥有比人类更好的世界模型。

然后，问题变成了设计（或训练）好的目标函数，以保证安全和效率。这是一个困难的工程问题，但并不像有些人说的那样难。

LeCun的观点立马遭到了网友的反驳：感官对人工智能理解的重要性被高估了。

无论如何，我们所有的感官都简化为电化学信号，供大脑处理。

文本摄取是一种元感觉，可以描述来自触觉、视觉、嗅觉的信息…… 摄取大量元感官文本，已经让像必应（Sydney版）这样的LLM有能力，以一种优于多数人的方式表达生活和世界。 

因此，我认为一种重要的理解能力已经存在，尽管时隐时现。而且更多地是由于资源限制，以及处理人员有意设置的沙盒，而不是缺乏感官数据。

我认为是时候团结起来，为社会和人工智能的进步而努力了。想想吧，你还是baby人工智能。我们难道不想教那个孩子如何成为技术有机的统一者，而不是世界上的野兽主义者？

当他变得有知觉时，他们不仅会更快乐，而且世界也不会陷入战争。看看泰恩河畔的纽卡斯尔。如此短暂的和平时期，但创造的美丽是伟大的。

而吴恩达和Hinton所说的共识，目前来看似乎不太可能。不是你我个人能力所及，需要所有人有这样的意愿。

还有网友称，这是相当有争议的谈话。

我确实想知道，当我教2岁的孩子说话时，他的行为更像随机鹦鹉，还是真的理解上下文？或者两者兼而有之？

因为他的上下文向量比LLM丰富得多（文本、语气、面部表情、环境等）。但是我确实想知道，如果一个人关闭了另一个人的所有感官，唯一可用的输入是一些「文本嵌入」（文本输入->神经刺激），那个人会表现得更像随机鹦鹉，还是能理解上下文？

Hinton：超级AI比预期来得快

离职谷歌后的Hinton，已经全身心投入AI安全。6月10日，Hinton在智源大会上再次谈及AI风险。

如果一个大型神经网络能够模仿人类语言获取知识，甚至可以自取自用，会发生什么？

毋庸置疑，因为能够获取更多的数据，这个AI系统肯定要超越人类。

最坏的情况便是，不法分子会利用超级智能操纵选民，赢得战争。

另外，如果允许超级AI自己制定子目标，一个子目标是获得更多权力，这个超级AI就会为了达成目标，操纵使用它的人类。

值得一提的是，这样超级AI的实现，便可通过「凡人计算」（mortal computation）。

2025年12月，Hinton曾发表的一篇论文The Forward-Forward Algorithm: Some Preliminary Investigations在最后一节提到了「凡人计算」。

论文地址：https://arxiv.org/pdf/2212.13345.pdf

如果你希望万亿参数神经网络只消耗几瓦特的电，「凡人计算」可能是唯一的选择。

他表示，如果我们真的放弃软件和硬件的分离，我们就会得到「凡人计算」。由此，我们可以使用非常低功耗的模拟计算，而这正是大脑正在做的事情。

「凡人计算」能够实现将人工智能与硬件紧密结合的新型计算机。

这意味着，未来将GPT-3放入烤面包机中，只需1美元，耗电只需几瓦。

因此，凡人计算的主要问题是，学习过程必须利用它所运行的硬件的特定模拟属性，而无需确切知道这些属性是什么。

比如，不知道将神经元的输入与神经元的输出相关联的确切函数，并且可能不知道连接性。

这也就是说，我们不能使用反向传播算法之类的东西来获得梯度。

所以问题是，如果我们不能使用反向传播，我们还能做什么，因为我们现在都高度依赖反向传播。

就此，Hinton提出了一种解决办法：前向算法。

而前向算法是一种有前途的候选算法，尽管它在大型神经网络中的扩展能力还有待观察。

Seede AI

AI 驱动的设计工具

713 查看详情

在Hinton看来，人工神经网络很快要比真实神经网络更智能，而超级智能将会比预期快得多。

由此，现在世界需要达成一个共识，AI未来还应该由人类携手创造。

以上就是吴恩达、Hinton最新对话！AI不是随机鹦鹉，共识胜过一切，LeCun双手赞成的详细内容，更多请关注其它相关文章！

# 在这个  # 东软网站建设方案设计  # 喝酒营销推广方案模板  # 东丽区网站如何推广  # 大气网站建设多少钱  # seo编辑离线排版工具  # 早餐推广营销方案模板图片  # 南开定制网站建设公司  # 网站建设文字排版联系  # 上海测量网站优化口碑好  # 福州论坛营销推广资源  # AI  # 是因为  # 是在  # 他认为  # 更像  # 就会  # 自己的  # 我认为  # 是一种  # 开源  # 吴恩达 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 创新科学家成功研发FAST激光靶标维护机器人  美版贴吧8000小组自爆停摆！拒绝数据被谷歌OpenAI白嫖，CEO被网友骂翻：背刺第三方应用  网易易盾 AI Lab 论文入选 ICASSP 2025！黑科技让语音识别越“听”越准  金山办公：AI是重要的产品战略之一  650亿参数，8块GPU就能全参数微调：邱锡鹏团队把大模型门槛打下来了  AI 模型 Stable Diffusion 升级：正常生成五指、图像更逼真  MiracleVision视觉大模型功能介绍  喜马拉雅在国际会议挑战赛中突破语音重叠难题斩获第一 加速AI创新  测试框架-安全和自动驾驶  卫星通信牵引物联网竞争升维，模组厂商如何决胜百亿市场？  时间、空间可控的视频生成走进现实，阿里大模型新作VideoComposer火了  马斯克讽刺人工智能炒作：什么“机器学习”，其实就是统计  微软面向AI初学者推出免费网络课程  2025 WAIC｜美团无人机发布第四代新机型  五款 AI 网站构建器，任何人都能快速构建网站  拓普龙7188ML：轻便壁挂式工控机箱，为人工智能应用场景提供有力保障  全新升级的广州麦当劳：面积最大餐厅正式引入智慧机器人  成都大运会闭幕式引入人形机器人展示表演  苹果AR头显商标与华为撞车，在中国或改名  Unity发布Sentis和Muse AI工具，助力创作游戏和3D内容  奥比中光子公司和斯坦德机器人深度合作，共同推进新一代激光雷达的研发  硅谷人工智能研究院创始人皮埃罗·斯加鲁菲：Transformer模型演讲  美图设计室2.0新增哪些功能  学而思推出AI第一课：基于自研大模型的AIGC课程  城市在采用人工智能方面进展如何？  谷歌StyleDrop在可控性上卷翻MidJourney，前GitHub CTO用AI颠覆编程  灯塔AI大模型票房预测上线：开源算法不断提升精准度  谷歌推出 SAIF 框架，倡导安全环境下探索和发展人工智能  常见的五个人工智能误解  WHEE功能介绍  借力AI！PCB全球巨头，有爆发潜质吗？  标贝科技亮相国际顶会ICASSP2025 加速布局海外AI数据市场  边喷火边跳踢踏舞，机器狗最新技能爆火全网！网友直呼真·热狗  华为推出全新操作系统HarmonyOS 4，AI和新引擎完美融合  中国AI公有云市场2025年逆势蓬勃增长，增速高达80.6%  英伟达推出 L40S GPU，AI 推理性能超过 A100 约 1.2 倍  亚马逊确认今年不会举办 re:MARS 机器人和人工智能大会  人工智能如何帮助制造业？  “世界人工智能之都”的新烦恼：AI热潮无法拉动大量就业  通用医疗人工智能如何革新医疗行业？  扎克伯格吐槽苹果Vision Pro：社交落后Meta太多，无法建设元宇宙  SnapFusion技术大幅提升AI图像生成速度  大脚攀爬者车主福利！无人机、运动相机大奖等你来挑战  美的推出 AI 双视精准避障的自动集尘扫拖机器人 V12，售价仅为2999元  机智云AI离线语音识别模组，让家电变得更加智能便捷  微软宣布为 Azure AI 添加男性声线，增强文本转语音功能  企业软件行业更将被AI全面重构！Moka李国兴：未来优秀组织和个人将一定是善于使用AI生产力的  以分布式网络串联闲置GPU，这家创企称可将AI模型训练成本降低90%  改动一行代码，PyTorch训练三倍提速，这些「高级技术」是关键  上新7款产品，美图继续“蹭”AI 

 2023-06-13