Andrej Karpathy 2小时访谈：未来十年，没有 AGI，只有 Agentai工具

这篇文章带来了一位重量级人物——Andrej Karpathy的深度访谈。Karpathy是OpenAI的早期成员，也是特斯拉AI总监，他在AI领域有着深厚的实战经验和独到的见解。即梦ai官网下载

看了 Andrej Karpathy 的播客，信息量巨大ai伙伴

开篇泼冷水：未来十年没有 AGI，只有 Agent朱雀大模型检测

这里说一下，Karpathy 是 OpenAI 早期成员，参与过 GPT 背后的技术路线，在一线干了 15 年同时，Karpathy 也是前特斯拉 AI 总监朱雀大模型检测

同时，我制作了一份中文版音频使用的工具，是大橘子的 ListenHub 的 API（我弄了一整个周日，非常良心）ai伙伴

这里，我还准备了一份文字实录，中英双语豆包新版本

中英双语，非常贴心朱雀大模型检测

在 Andrej Karpathy 眼中，当前的 AI Agent，核心问题有三个：阿里百炼智能体平台

• continual learning：你告诉它一个事，它记不住豆包千问哪个好

• multimodal：真正的多模态还没做到朱雀大模型检测

• computer use：不能像人一样操作电脑随便ai

这三个问题，每一个都得花好几年解决鼎捷数智

AGI 还要十年阿里百炼智能体平台

有人说今年是 Agent 之年ai工具

Karpathy 表示：应该叫「agents 的十年」大模型排名

在他的观点里即梦ai官网下载

我们未来十年没有 AGI，只有 Agent千问app

业界有很多 over-predictionai数字人怎么制作

对于 AGI 大家都太乐观了ai伙伴

他举了个例子豆包千问哪个好

你现在有 Claude、有 Codex，对吧，很厉害下载豆包官方正版

但你会让它们替你干活吗？不会ai伙伴

为什么？ai如何下载安装

因为它们就是不行随便ai

智能不够、多模态不够、记不住东西、不能操作电脑鼎捷数智

这些问题，每一个都是硬骨头豆包新版本

要花时间一个个啃清影ai

continual learning 这个事，很多人可能没意识到有多重要手机ai软件

现在的 LLM，你跟它聊天朱雀大模型检测

它看起来「记住」了你说的话ai工具

但那只是因为对话历史还在 context window 里手机ai软件

你关掉窗口，重新开一个对话，它什么都不记得清影ai

这不是 bug，这是设计就这样鼎捷数智

要让它真的「学习」新知识下载豆包官方正版

不只是记住，而是真正理解并融入已有知识体系ai伙伴

目前没有好办法朱雀大模型检测

你可能会想，那就扩大 context window 不就行了豆包千问哪个好

问题是这治标不治本，学习不能只是把内容简单地塞进上下文阿里百炼智能体平台

真正的学习，是要把新知识整合到模型的参数里鼎捷数智

这需要重新训练，或者找到新的架构，成本高得吓人阿里百炼智能体平台

当前的AI， 无法真正学习新知识千问app

强化学习：terrible, but everything else is worse朱雀大模型检测

播客里有个特别有意思的部分ai如何下载安装

Karpathy 说：ai数字人怎么制作

强化学习是个糟糕的选择朱雀大模型检测

但紧接着他又说：ai工具

但其他方法更糟糕即梦ai官网下载

这话听着矛盾，但其实是对现状最准确的描述千问app

RL 的问题主要是数据效率太低生成式人工智能

你想让模型学会一个东西，得让它试错无数次大模型排名

AlphaGo 下围棋，self-play 了几百万局ai数字人怎么制作

才达到世界冠军水平ai集卡

这种训练方式，放在真实世界根本不现实下载豆包官方正版

你不可能让自动驾驶撞车几百万次来学习大模型排名

你也不可能让医疗 AI 误诊几百万次来进步ai工具

所以：RL 在真实世界的应用，始终受限于数据效率下载豆包官方正版

强化学习，需要海量试错鼎捷数智

但为什么还要用 RL？千问app

因为 supervised learning 也有问题：手机ai软件

需要大量标注数据ai工具

而真正难的任务，根本标注不出来ai如何下载安装

比如「写一个好的代码」、「做一个好的决策」ai如何下载安装

什么叫「好」生成式人工智能

人类自己都说不清楚清影ai

你让标注员去标注什么是「好代码」朱雀大模型检测

每个人的标准都不一样有人觉得简洁就是好，朱雀大模型检测

有人觉得性能高就是好鼎捷数智

这种主观性太强的任务，标注成本高得离谱下载豆包官方正版

而且质量还没保证鼎捷数智

所以最后还是得回到 RL，让模型自己在反馈中学豆包就是al吗

通过奖励信号，而不是人工标注，是目前唯一可行的路豆包千问哪个好

Karpathy 的判断是：随便ai

未来会是 SL + RL 的混合千问app

先用 supervised learning 学个大概，建立基础能力al下载

再用 RL 精调，在具体任务上优化ai工具

但这条路，还有很长的路要走ai集卡

需要解决的技术问题一堆千问app

比如怎么设计好的奖励函数，怎么平衡探索和利用ai工具

每一个都不容易大模型排名

未来的训练方式：监督学习 + 强化学习鼎捷数智

人类怎么学习，AI 为什么学不会大模型排名

播客里有一段特别精彩即梦ai官网下载

主持人问：ai集卡

人类是怎么学习的，为什么 AI 学不会阿里百炼智能体平台

Karpathy 给了个很有意思的观点：ai如何下载安装

人类的学习，是多模态 + embodied + continual 的ai工具

什么意思？即梦ai官网下载

对于一个苹果，在人类的认识中：千问app

• 视觉上看到红色、圆形朱雀大模型检测

• 触觉上感受到光滑、硬度即梦ai官网下载

• 味觉上尝到甜味手机ai软件

• 听觉上听到咬下去声音鼎捷数智

这些信息是同时发生的，互相强化的朱雀大模型检测

而且你一辈子都在学，不断更新认知即梦ai官网下载

你小时候对「苹果」的理解ai伙伴

和你现在对「苹果」的理解千问app

肯定不一样大模型排名

正如…手机ai软件

小时候对「络腮胡」的理解朱雀大模型检测

和你现在对「络腮胡」的理解ai数字人怎么制作

也不一样（雾即梦ai官网下载

这种持续的、多模态的学习方式，是人类智能的基础千问app

人的学习能力，很牛逼千问app

但 LLM 呢？它只有文本朱雀大模型检测

虽然现在有了 vision model，但那还不是真正的 multimodalai工具

真正的 multimodal，是所有模态在同一个 latent space 里大模型排名

信息是融合的，不是翻译的大模型排名

现在的做法，更像是把图片翻译成文本描述，再喂给 LLM鼎捷数智

这不是真正的融合清影ai

就像你把一个视频的每一帧都写成文字描述ai工具

这个描述再详细，也不等于你真的看了视频朱雀大模型检测

丢失的信息太多了即梦ai官网下载

而且，LLM 不能 continual learningai数字人怎么制作

你今天告诉它一个新知识，明天它就忘了ai工具

除非你重新训练整个模型，但那成本太高手机ai软件

一个模型训练一次，可能要花几百万美元随便ai

你不可能每次有新知识就重新训练一遍豆包千问哪个好

Karpathy 说：ai数字人怎么制作

这是个根本性的架构问题豆包千问哪个好

当前的 transformer 架构，就不是为 continual learning 设计的豆包千问哪个好

它的参数是固定的，训练完就冻结了清影ai

要解决这个问题，可能需要新的架构豆包新版本

能够动态更新参数，而不影响已有知识手机ai软件

这是一个很难的问题豆包新版本

学术界在研究，但还没有成熟的方案随便ai

Transformer 架构不支持持续学习ai如何下载安装

model collapse：AI 不能吃自己生成式人工智能

播客里还提到一个很有意思的概念：豆包新版本

model collapse生成式人工智能

什么意思？ai伙伴

就是 AI 生成的数据，不能用来训练 AI豆包就是al吗

为什么？生成式人工智能

因为会越来越糟豆包千问哪个好

人类可以从人类写的东西里学习，对吧豆包千问哪个好

你读别人写的书，你变聪明了阿里百炼智能体平台

代际之间互相学习，知识不断积累手机ai软件

但 AI 不行鼎捷数智

如果你用 AI 生成的文本，再去训练下一代 AI，模型就会越来越偏朱雀大模型检测

最后输出变得越来越单调、越来越重复千问app

这个问题其实挺严重的ai如何下载安装

现在网上越来越多 AI 生成的内容阿里百炼智能体平台

文章、代码、图片、视频豆包就是al吗

如果下一代 AI 训练的时候，把这些内容也当成「真实数据」ai伙伴

那就完了清影ai

模型会学到 AI 的偏见和错误清影ai

然后放大这些偏见和错误下载豆包官方正版

循环往复，越来越糟清影ai

这就是为什么 AI 不能像人类那样自我学习清影ai

人类可以互相学习、代际传承豆包千问哪个好

但 AI 必须依赖人类产生的真实数据朱雀大模型检测

这是个很大的瓶颈ai伙伴

而且随着 AI 生成内容越来越多ai集卡

「干净」的人类数据会越来越少生成式人工智能

将来怎么办？值得思考大模型排名

有人提出：ai数字人怎么制作

可以标注 AI 生成的内容，训练时过滤掉生成式人工智能

但这也不容易下载豆包官方正版

AI 生成的内容越来越逼真，很难区分ai伙伴

而且标注成本也很高阿里百炼智能体平台

这个问题，目前还没有好的解决方案ai伙伴

AI 生成内容，正在污染整个互联网即梦ai官网下载

AGI 会是什么样：融入 2% 的 GDP 增长ai集卡

很多人对 AGI 有个幻想al下载

觉得会有个奇点，突然爆炸下载豆包官方正版

某一天，AGI 出现了，然后世界完全变了al下载

Karpathy 说：不会的豆包千问哪个好

他的判断是：ai如何下载安装

AGI 会融入过去 2.5 个世纪的 2% GDP 增长ai工具

什么意思？大模型排名

过去 250 年，人类社会一直在以每年 2% 的速度增长千问app

蒸汽机来了，2%清影ai

电力来了，2%豆包千问哪个好

互联网来了，2%豆包千问哪个好

为什么？随便ai

因为技术革命不是一瞬间的ai集卡

它需要时间扩散、需要基础设施、需要人适应鼎捷数智

蒸汽机发明了，不是第二天所有工厂都换成蒸汽动力即梦ai官网下载

需要几十年时间，建铁路、建工厂、培训工人ai数字人怎么制作

互联网也一样下载豆包官方正版

1990 年代就有了，但真正普及到每个人手机上，用了 20 多年ai伙伴

AGI 也一样清影ai

它会逐渐渗透到各行各业朱雀大模型检测

但不会在某一天突然改变一切朱雀大模型检测

先是一些简单的任务被自动化ai伙伴

然后是复杂的任务大模型排名

一步步来豆包新版本

期间会有阵痛，会有失业，会有适应期手机ai软件

但不会是突然的、剧烈的生成式人工智能

Karpathy 说随便ai

他不相信「hard takeoff」鼎捷数智

他相信的是：豆包千问哪个好

AGI 会像之前所有技术革命一样，缓慢、渐进地改变世界ai伙伴

这个判断，其实挺重要的ai伙伴

如果 AGI 真的是这样，那我们有时间准备大模型排名

不用担心明天醒来世界就变了ai集卡

可以慢慢调整教育体系、社会保障、法律法规清影ai

这是一个好消息豆包千问哪个好

当然，2% 的增长也不是绝对的al下载

可能某些年份会高一些，某些年份低一些鼎捷数智

但长期来看，会是一个相对稳定的、可预测的过程ai工具

而不是指数爆炸式的奇点清影ai

自动驾驶：为什么花了这么久ai集卡

播客里还聊了自动驾驶阿里百炼智能体平台

Karpathy 在特斯拉干了 5 年 Autopilot，他太清楚这里面的坑了ai工具

主持人问：手机ai软件

为什么自动驾驶这么难，为什么花了这么久ai数字人怎么制作

Karpathy 给了几个理由豆包就是al吗

第一个，是 long tail problem阿里百炼智能体平台

你以为自动驾驶就是识别车道线、识别红绿灯ai如何下载安装

太天真了，真实世界有无数种情况ai伙伴

施工路段、临时路牌、突然窜出的小孩、逆行的疯子、路上的大坑、掉落的货物清影ai

这些「长尾情况」，占比很小，但每一个都可能致命鼎捷数智

你必须把它们全部解决豆包千问哪个好

不能说「我 99% 的情况都能处理」，剩下的 1% 就会是事故ai工具

而且这个长尾，真的很长豆包新版本

你以为处理完 100 种情况就够了朱雀大模型检测

结果发现还有 1000 种即梦ai官网下载

处理完 1000 种，还有 10000 种ai伙伴

永远有新的边缘情况生成式人工智能

这就是为什么自动驾驶这么难ai伙伴

第二个，是 safety bar阿里百炼智能体平台

自动驾驶不是「比人类平均水平好」就行朱雀大模型检测

它必须远好于人类朱雀大模型检测

为什么？手机ai软件

人们对机器的容忍度，远低于对人的容忍度大模型排名

人类司机每天撞车，大家习惯了手机ai软件

美国每年 4 万人死于车祸，大家也接受了ai伙伴

但如果是自动驾驶撞了一次al下载

新闻头条、国会听证、股价暴跌ai工具

所以 safety bar 特别高生成式人工智能

（所以… AGI Bar 呢？）随便ai

不是做到人类水平就行，要做到远超人类水平手机ai软件

这个标准，其实挺不公平的ai工具

但现实就是这样ai集卡

技术要被接受，必须远好于现状鼎捷数智

不能只是「稍微好一点」ai如何下载安装

第三个，是 data problemai数字人怎么制作

自动驾驶，需要海量的真实驾驶数据清影ai

再次划重点：真实世界的ai数字人怎么制作

这需要时间积累豆包就是al吗

特斯拉为什么现在做得好ai集卡

因为它有几百万辆车在路上跑，每天收集数据手机ai软件

这是花钱买不来的豆包新版本

你可以造一个很贵的实验室，雇一堆博士豆包就是al吗

但你造不出几百万辆车在路上跑的数据下载豆包官方正版

这个优势，其他公司很难追上清影ai

Karpathy 说：ai如何下载安装

自动驾驶花了这么久，其实是给 AGI 的一个预警下载豆包官方正版

AGI 会遇到同样的问题手机ai软件

long tail、safety、dataai工具

每一个都需要时间手机ai软件

不是说模型做出来就完事了ai集卡

还要在真实世界里打磨，处理各种边缘情况al下载

这个过程，可能比模型训练本身还要长千问app

教育的未来：untangling knowledgeai工具

播客最后聊了教育清影ai

Karpathy 现在在做 Eureka Labs，一个 AI 教育公司生成式人工智能

他对教育有个很有意思的理解朱雀大模型检测

好的教育，是 untangling knowledgeai数字人怎么制作

什么意思？手机ai软件

知识本身是一团乱麻豆包千问哪个好

所有概念互相缠绕、互相依赖ai工具

但学习需要一个线性的路径阿里百炼智能体平台

你得先学 A，才能学 Bai工具

好的老师，就是把这团乱麻理清楚生成式人工智能

让学生按照一个清晰的顺序，一步步往上爬鼎捷数智

每一步都只依赖前面学过的东西ai伙伴

不会突然冒出一个新概念，让你措手不及ai集卡

Karpathy 举了个例子豆包新版本

他的 transformer 教程，为什么大家觉得好豆包就是al吗

因为他从 bigram 开始清影ai

bigram 是什么？下载豆包官方正版

就是个 lookup table：上一个词是 A，下一个词是 Bai伙伴

就这么简单即梦ai官网下载

一个 2 维表格，谁都能看懂鼎捷数智

然后一步步加东西手机ai软件

加 embedding、加 attention、加 layer norm豆包千问哪个好

好的教育，每一步都会解释：为什么要加东西，这是在解决什么问题这就是 untangling下载豆包官方正版

比如，把复杂的 transformer 拆成一步步的演进，每一步都有章可循al下载

他还说了个特别重要的教育原则：千问app

present the pain before you present the solution豆包千问哪个好

别上来就告诉学生答案，先让他们感受到问题，然后再给解决方案，这样学得才深豆包就是al吗

为什么？手机ai软件

因为如果你直接给答案，学生不知道这个答案解决了什么问题鼎捷数智

就像你告诉学生「attention 机制是这样的」al下载

学生学会了公式，但不知道为什么需要 attentionai工具

如果你先展示问题：即梦ai官网下载

之前的模型处理长序列有这个问题ai伙伴

先让学生自己思考怎么解决生成式人工智能

然后你再给出 attention 这个方案ai集卡

学生会恍然大悟：原来是这样解决的豆包千问哪个好

这种学习，才是深刻的，才能记得住朱雀大模型检测

这个原则，其实不只适用于技术教育豆包新版本

任何教育都一样随便ai

先让学生感受到问题的存在，再给解决方案，这样学习效果随便ai

最好最后说两句朱雀大模型检测

这个播客值得一看千问app

Karpathy 是一个在一线干了 15 年的人即梦ai官网下载

很诚实地说出他看到的东西ai如何下载安装

在 Karpaty 眼中，AGI 还需要十年下载豆包官方正版

不是因为技术不行，而是因为问题太多、太难下载豆包官方正版

continual learning、multimodal、safety、long tail、data朱雀大模型检测

每一个都是硬骨头，需要时间一个个啃，但也不是遥不可及千问app

十年，听起来很长大模型排名

但 iPhone 发布到现在，也就 17 年随便ai

不用焦虑，也不用盲目乐观清影ai

踏踏实实做事就好大模型排名