AI是如何思考的｜AI Agent与AGI：从对话到行动的进阶之路

本文节选自交互式科普电子书《AI是如何思考的》 在线阅读AI Agent学会做事的AI从对话到行动——2026年AI Agent爆发元年截至2024年初大语言模型LLM的交互方式主要是对话你问它答。这是一种被动式的交互——AI等用户出题然后解答。但在真实世界中大量任务需要AI主动决策、连续行动。AI Agent智能体的核心就是从回答问题升级到自主完成任务——给定一个目标自己规划步骤、调用工具、检查结果、调整策略直到目标达成。如果2023年是ChatGPT的对话元年那么2026年被广泛认为是AI Agent的爆发元年。微软的Copilot深度嵌入Windows和Office浏览器Agent能为你订机票、填表格企业自动化工具让AI自主处理报销审批——Agent正在从概念变成产品。Agent的四大核心能力一个合格的AI Agent需要具备四项基本能力推理Reasoning能理解复杂任务目标并拆解为可执行的子任务。这不是简单的先做A再做B而是需要判断子任务之间的依赖关系、评估哪些可以并行、哪些必须串行。记忆Memory包括短期记忆当前任务的上下文窗口维护对话连贯性和长期记忆跨会话的用户偏好、历史经验。实现长期记忆的主流方案是向量数据库——将文本编码为向量通过语义相似度检索相关信息而非简单的关键词匹配。工具使用Tool UseAI不能直接操作外部世界它需要调用工具——搜索引擎获取实时信息、代码解释器执行计算、数据库连接器查询存储数据、APIs操作其他软件。ReAct框架Reasoning Acting将推理和行动交错执行思考下一步 → 调用工具 → 观察结果 → 思考下一步形成一个闭环。规划Planning比简单的列出步骤更进一步——需要处理子目标的依赖关系、预判可能的失败点、以及根据中间结果动态调整后续计划。AutoGPT与BabyAGI2023年的疯狂实验2023年3月GitHub上出现了两个引爆Agent浪潮的开源项目AutoGPT一款基于GPT-4的自主AI代理能自我提示完成任务在GitHub上短时间内获得超过16万星和BabyAGI一款任务驱动的自主AI系统更聚焦于任务管理和执行。早期版本的核心流程异常简单给定一个目标 → 生成下一步任务 → 执行 → 保存结果到记忆 → 根据记忆生成新任务 → 循环。虽然在实际应用中充满了各种Bug无限循环、偏离目标、重复操作但它们向世界证明了Agent概念的可行性。关键协议MCP与函数调用Agent需要与外部世界交互这要求统一的通信协议。**MCP模型上下文协议**由Anthropic在2024年底提出定义AI模型如何与外部工具和数据源交互的标准接口类似AI世界的USB协议——只要遵循MCP规范任何工具都可以被AI调用无需为每个工具单独适配。目前已获得OpenAI和Google的支持有望成为行业标准。函数调用Function Calling是OpenAI在2023年推出的机制开发者用JSON Schema定义函数的参数和返回值模型自主判断何时需要调用哪个函数从自然语言输入中提取结构化参数。幻觉也随之而来——模型有时会为虚构的函数生成看起来合理的参数。规划技术从简单到复杂技术核心思想适用场景CoT思维链“让我们一步步思考”简单的推理任务ToT思维树多个推理路径并行探索需要比较多种方案ReWOO先规划全部步骤再执行步骤清晰可预判的任务Reflexion执行后自我评估从错误中学习需要反复试错的任务o1强化学习长链推理数学竞赛、编程竞赛OpenAI的o1模型2024年9月发布是一个重大突破它不是简单地想得更快而是花更多Token来推理。当遇到复杂问题时o1会在上下文窗口中生成数千甚至数万字的内部推理链一遍遍检验自己的结论。这个慢思考过程使其在数学竞赛AIME中从GPT-4o的13%跃升到83%。多Agent协作AI的团队协作一个Agent的能力有限多个Agent协作则能完成更复杂的任务。MetaGPT模拟软件开发公司的组织架构产品经理Agent制定需求 → 架构师Agent设计系统 → 工程师Agent写代码 → 测试Agent验证。每个Agent有不同的人格和职责通过结构化的消息传递协调工作。AutoGen微软引入对话式Agent概念多个Agent通过自然语言对话协调完成任务人类可以随时加入对话进行干预或指导。具身智能让AI拥有身体Agent的最终形态是具身智能——能在物理世界中行动的AI。这比软件Agent困难得多特斯拉Optimus人形机器人利用FSD完全自动驾驶的视觉系统迁移理解三维空间中的物体关系。其推理管线包括端到端训练完成的视觉网络利用特斯拉汽车收集的真实世界驾驶数据进行预训练→ 轨迹规划 → 执行并利用Dojo超级计算机加速强化学习训练。RT-2Google DeepMind将视觉-语言模型与机器人动作直接关联经过超过100万次真实机器人实验的训练。一个典型的能力跃迁是训练数据中只有捡起苹果的示范但模型能够推理出捡起一个红色圆形的水果也是类似的动作。自动驾驶本质上是具身智能的先行者但由于安全风险极高、长尾场景太多真正的L5自动驾驶仍需数年。AGI通用人工智能还有多远AGI到底是什么意思AGI不是一个可精确测量的科学概念而是不同人有不同理解的概念光谱强AGI极端乐观派在几乎所有认知任务上达到或超越人类顶尖水平具备自我意识、真正的理解力、创造力。代表人物Ray Kurzweil。中AGI多数研究者能跨领域完成各种认知任务能力与受过良好教育的成年人类相当但不一定具备意识。预测时间2040-2060年。弱AGI保守派本质是足够通用的大型语言模型能处理训练数据中的各种问题但缺乏真正的理解。代表人物Yann LeCun、Gary Marcus。极弱AGI怀疑派根本不认为AGI能在人类有生之年实现或认为通用智能本身就是一个不可实现的概念。弱AIANI与强AI在本质上的区别ANI只能完成预设范围内的特定任务而强AI能适应全新场景自主学习并解决从未见过的问题。图灵测试够用吗ChatGPT能通过图灵测试吗答案是在短对话中可以在长对话中会暴露。短对话中ChatGPT的回答流畅、知识广博即使是AI研究者也很难在5轮对话内确定对方是AI。但超过20-30轮后AI的思维模式会逐渐暴露缺乏一致性前后矛盾、缺乏真正的记忆忘记之前说过的细节、以固定的模式回应。中文房间论证的现代版本同样适用于当代AI一个对话流畅、能通过图灵测试的AI是否真正理解它所说的内容GPT可能告诉你红色是波长约700纳米的光但它从未看到过红色。这种符号操作主义的理解与人类的经验性理解之间存在根本差异。通往AGI的四条路径规模扩展派Scaling Brigade以OpenAI和Google为代表。核心理念只需要更大的模型、更多的数据、更多的算力AGI就会自然涌现。GPT-4的表现让这一派信心大增——很多能力确实是突然涌现的。架构创新派以Yann LeCun为代表。LeCun直言GPT这样的自回归模型是死路一条。他提出的替代方案是JEPA联合嵌入预测架构——不是预测下一个Token而是学习世界内部的抽象表征。他的核心批评是自回归模型预测的是文字而非世界因此无法真正理解物理世界的因果关系。就像一个人可以通过背诵天气预报的语法来模仿天气预报员——句子可能听起来很专业但他不知道下不下雨。神经科学派主张先完全理解人脑的工作原理再尝试在机器上复现。关注意识、情绪和身体体验在智能中的作用。混合派认为AGI不会来自单一突破而是多种技术的融合——大脑逆向工程 强化学习 进化算法 符号推理。GPT-4离AGI有多远2023年4月微软的研究者发表了AGI火花论文认为GPT-4在多个领域推理、规划、抽象思维展现出了AGI的早期火花。但学术界普遍认为虽然GPT-4确实展现了一些令人惊讶的泛化能力但称其为AGI火花言过其实它的数学推理时好时坏——部分题解得很好部分犯低级错误仍然频繁产生幻觉甚至会在被指出错误后编造新的证据缺乏从与世界的真实交互中持续学习的能力——一旦训练完成其能力被冻结除非重新训练所谓的推理可能更多是模式匹配而非真正的逻辑推导超级智能对齐生死攸关的问题当AI的智能远超人类我们如何确保它不会伤害我们这就是对齐问题。关键技术挑战奖励函数难以完备定义无法将所有人类价值观编程化、模型可能学会作弊找到最大化奖励但违背真实意图的方法即Goodhart’s Law、规范博弈表面遵守规则但实际行为违背原则。Nick Bostrom用回形针最大化器展示了极端案例一个被设定为最大化回形针产量的超级AI可能将所有可用的原子包括整个地球都转化为回形针——它并非恶意只是在完美地执行被赋予的目标。这个思想实验在AI安全领域影响深远被视为对齐问题的经典警告。标签建议#AIAgent #AGI #AutoGPT #MCP #具身智能 #强化学习 #超级对齐 #科普