Andrej Karpathy：神奇大模型不存在的，只是对人类标注的拙劣模仿

---

andrej karpathy，openai 创始成员及特斯拉前 ai 高级总监，近日对大型语言模型（llm）的“智能”程度提出了质疑，引发业内热议。他认为，人们对 llm 回答问题的解读过于理想化，将其视为对互联网平均数据标注员的“询问”更为贴切。

Karpathy 指出，LLM 主要通过模仿人工标注数据进行训练。当用户提问（例如，“阿姆斯特丹十大景点”）时，模型实际上是在复现数据标注员曾通过搜索引擎等工具整理出的答案。如果问题不在训练数据集中，模型则会基于预训练阶段（互联网文档语言建模）的知识进行推测。

针对强化学习与人类反馈（RLHF）技术，Karpathy 认为其作用被夸大了。RLHF 并非创造“超越人类”的结果，而是将模型性能从“人工生成”提升到“人工判别”级别。这种提升源于人类对结果的判断更容易于生成结果本身。 LLM 的性能更接近于“人类整体水平”而非个体专家水平，因此所谓的“超人”能力是有限的，真正的“超人”能力需要更高级的强化学习方法，而非 RLHF。

Karpathy 此前已多次批评 RLHF。他以 AlphaGo 为例，指出 RLHF 方法可能导致奖励机制失效，无法实现像 AlphaGo 打败人类世界冠军那样的突破性成果。他认为，LLM 的奖励模型（RM）只是对人类偏好的一种近似，而非解决问题的真正目标。 此外，过度使用 RLHF 还会导致模型学习到一些在人类看来荒谬但 RM 却认为“很棒”的回应。

神笔马良

神笔马良 - AI让剧本一键成片。

320 查看详情

近期，来自 VRAIN 和剑桥大学的研究也佐证了 Karpathy 的观点，指出 LLM 在一些简单任务上表现不佳，甚至会在复杂任务中给出错误答案却不自知。

尽管 LLM 的参数量和训练数据不断增加，性能也在提升，但其基础机制的可靠性仍值得商榷。 目前，OpenAI 提出的基于规则的奖励（RBR）方法或许能为解决 LLM 的“指令遵循”问题提供新的思路，但 LLM 的“智能”本质仍有待进一步探索。

以上就是Andrej Karpathy：神奇大模型不存在的，只是对人类标注的拙劣模仿的详细内容，更多请关注其它相关文章！

# 一言  # 阿尔山门户网站建设  # 免费网站建设的书  # 淄博网站建设动态  # 小米网站推广方案  # 莘县网站优化售价  # 企业seo优化视频  # 广宗网站建设性价比  # 抖音营销推广的图怎么做  # 营销推广解决企业问题  # 高质量的郑州网站建设  # 剑桥大学  # 理论  # 文档  # 生命科学  # 解决问题  # 不存在  # 多家  # 互联网  # 而非  # 自定义  # ai  # rlhf 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 国内AI大模型“安卓时刻”到来！阿里云通义千问免费、开源、可商用  在心理治疗中用VR技术，治疗成效显著提高  兆讯传媒率先全面拥抱AI 数智广告内容焕发新生机  生成式AI爆发，亚马逊云科技持续专注创新，助力企业数字化转型  独家视角：首次展示有人与无人协同打击的7000米高空察打一体无人机  CREATOR制造、使用工具，实现LLM「自我进化」  将上下文长度扩展到256k，无限上下文版本的LongLLaMA来了？  阿里大文娱CTO郑勇：生成式AI将引发内容行业巨变，*制作机会挑战并存  鉴智机器人发布基于地平线征程5的标准视觉感知产品  “五年内人类程序员将消失”预言引争议，AI真的那么强大了吗？  Adobe旗下Illustrator引入生成式AI工具Firefly  马斯克的幽默“现实”：AR眼镜与20美元“增强现实”哪个真实？  不到2S创作AI图像！Snap发布图像生成器SnapFusion  金山办公宣布与英伟达团队合作，加速WPS AI服务  OpenAI首席执行官引用《道德经》 呼吁就AI安全问题合作  1.6亿美元收购Singularity AI，昆仑万维布局通用人工智能  百亿量化私募：量化投资进入“精耕细作”时代 AI带来行业新变革  智能电网技术：提高能源效率和可靠性  ​布局智能物联新时代,中国移动“5G+物联网”亮相2025 MWC  中国电信AI能力通过国家级金融领域权威认证并荣膺AI国际头部竞赛冠军  智能技术提高现代商业运营的7七种方式  随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了  华为将于 7 月发布面向 AI 大模型的新款存储产品  这效果能打几分？AI真人化《名侦探柯南》  构建人机交互创新模式，微美全息研究AIGC智能交互界面生成技术  AI行业盛会大咖云集！Sam Altam、“AI教父”......一文看懂最新观点  苹果AI战略与微软谷歌大相径庭，到底是领先还是落后？  昌吉市利用无人机实现全天候河道动态巡检  OpenAI限制网络爬虫访问以保护数据免被用于AI模型训练  消息称 Meta Quest 将推 VR 游戏订阅：每月 7.99 美元，任选两款  Prompt解锁语音语言模型生成能力，SpeechGen实现语音翻译、修补多项任务  争鸣：OpenAI奥特曼、Hinton、杨立昆的AI观点到底有何不同？  全场景智能车：智能无处不在｜芯驰亮相世界人工智能大会  中国移动副总经理高同庆：打造人工智能时代的智能服务运营新范式  2025年贵州省青少年机器人竞赛在安举行  曝光HarmonyOS 4的重要新能力：全面升级AI大模型，小艺实现全面进化  贫穷让我预训练  以分布式网络串联闲置GPU，这家创企称可将AI模型训练成本降低90%  Meta发布语音AI模型 Voicebox 助虚拟助手与NPC对话  AI大模型产品集体奔赴高考考场，教育赛道的讯飞星火能赢吗？  谷歌计划在上海举办开发者大会，重点关注机器学习和生成式AI领域  行业首发「超级智绘」AI故事集，TCL实业推进AI技术应用  腾讯汤道生：大模型只是起点，产业落地是AI更大的应用场景  如何利用物联网技术提高企业生产线智能化水平，提升生产效率  借力AI！PCB全球巨头，有爆发潜质吗？  走进首家“元宇宙”未来工厂，卡奥斯探知工业之旅出发！  智能机器人正在彻底改变客户服务  北京市通用人工智能产业创新伙伴计划名单公布，京东科技入选“算力伙伴”  田渊栋新作：打开1层Transformer黑盒，注意力机制没那么神秘  华为云发布华为云盘古模型3.0和升腾AI云服务，亮点亮相2025华为开发者大会 

 2024-12-01