菜单
积墨AI

积墨AI

YC 播客启示:框架才是决定 Agent 上限的关键变量

当所有人都在讨论该用 GPT-5 还是 Claude 4 时,YC Paper Club 把注意力拉回了一个更根本的问题:模型已经那么强了,为什么 Agent 还是经常做不到预期的效果?答案是模型只是引擎,真正决定它能跑多远的,是运行框架这层「操作系统」。Prime Intellect 的 Seth Karten、斯坦福的 Jon Saad-Falcon,以及 YC 团队分享了他们在 Harness 研究、本地 AI 配置优化和公司内部 Agent 部署上的实践经验,指向同一个结论——框架的成败,不在模型参数里、不在排行榜名次里,而在运行设计的每一个细节里。

在很多部署场景中,模型所具备的智能远未被充分发挥。我们习惯性地给它一个能力很强、工具齐全的环境,它却经常过早放弃——不是做不到,而是运行框架没有给够它继续走下去的条件。Seth 把这个现象重新拆开来看:模型周围还有大量软件,决定了它能接触什么、怎样行动,以及工作能不能跨会话延续。「运行框架是大语言模型与世界之间的一层,它增加了持久状态、工具和计算能力。」换句话说,权重没有变,工具、记忆和运行方式变了,同一个模型就能做出完全不同的结果。回顾 Agent 发展历程,从提示词里的示例,到搜索和代码执行,再到让 Agent 保存经验修改自己的工作方式,每一步都在延长任务持续时间,同时也在增加必须管理的状态。

模型能做的,远比我们用出来的更多

对话越来越长时,最常见的做法是压缩历史,把前面的内容整理成摘要来腾出空间。但 Seth 提出了另一种思路:把信息放在更合适的地方——当前对话留住眼下要用的内容,持续运行的 Python 环境保存数据和变量,文件则承接较长期的记忆、技能与提示词。这样 Agent 可以写程序处理内存中的数据,只把结果带回对话,省下反复读取大段原始材料的成本。让模型能找到并处理信息,比要求它在当前对话里记住全部信息,更适合长时间任务。当然状态也不能无限累积,框架需要主动清理过时的内容、删除无用状态,并在需要时整理此前留下的经验。只会记录和读取,还不足以维持一个连续运行的系统。

框架的成败,不在模型参数里、不在排行榜名次里,而在运行设计的每一个细节里。

“行业观察”
积墨 AI 核心产品

积墨 AI 智能体开发平台

快速搭建具备商业价值的 AI 智能体,支持复杂工作流编排、50+ 主流模型接入与私有化部署。

记忆不能只靠上下文窗口

YC 团队的真实经验最能说明问题。他们最初部署了五十多个 Agent 虚拟机,让每位员工都有自己的环境。个人可以按习惯定制,工程师却越来越忙——哪台出了问题就得登录哪台去处理。后来团队把对话和系统状态从各台机器提取出来,集中保存到数据库,Agent 的工作历史不再绑在一台电脑上,执行任务所需的环境可以按需申请。沙箱从 Agent 的「住所」变成它工作时调用的一项「资源」,团队也更容易集中查看运行记录、分析失败。当 Agent 进入 Slack 群聊,情况变得更复杂:私下得到的消息能不能告诉另一个同事,什么时候该插话,哪些上下文适合共享,这些人在职场里靠直觉把握的分寸,Agent 很可能完全误解。能放心交给 Agent 多少信息,取决于权限系统能把边界管到多细。YC 已有多年积累的细粒度权限体系,才有基础继续扩大知识共享,缺少这套基础的团队还需要补上相应工作。另外 Seth 提醒的测试陷阱也很值得重视:Agent 很会利用环境漏洞,第一次跑出异常高分很可能是测试隔离没做好,真正的评估需要在干净环境下反复检验行为,而不只是看最终分数。

多 Agent 协作与权限安全的企业级落地

斯坦福的 Jon 关注另一笔账:个人 AI 如果每天都替人写作、研究和安排日程,云端调用的累积费用会很可观,而且很多私人资料也会随之离开设备。OpenJarvis 想把适合本地处理的任务留在用户自己的电脑上。本地模型较小,团队就把优化范围扩展到整套配置,包括模型、推理引擎、Agent 逻辑、工具与记忆,以及学习机制。云端大模型先帮忙诊断、修改和检验本地系统,调好以后再由本地系统执行日常任务。这种做法让前沿模型的能力用在了配置阶段,后续每次工作不必都调用它。实验结果显示,在八项测试中本地系统平均准确率距最佳云端模型仅 3.2 个百分点,其中四项达到或超过对方,而单次运行成本约为云端的八百分之一。YC 团队还发现了一个很影响体验的问题:Agent 经常在还没做到最好的时候就停下来。于是他们试验了一种叫 grind 的工具,为目标设定时间或 token 投入,在达到规定投入之前不允许 Agent 轻易结束工作。模型停下来的时刻,未必就是它已经做不到更好的时刻,这给了我们重新审视「早停」问题的另一个角度。

如果你正在搭建 Agent,建议先翻一遍失败记录:它是忘了前面的信息,拿不到合适的工具,提前停工,还是误解了权限?框架决定了 Agent 能接触什么、能持续多久、能否有效协作,这些细节往往比模型选型更能决定最终效果。保留运行过程、在相同条件下检验改动,再逐步增加它能承担的任务,比等下一代模型替自己解决所有问题,更容易看清今天能做到哪一步。

#Agent运行框架#记忆管理#工具调用#工作流编排#提示词安全
分享文章

相关文章推荐

试用咨询
企业微信二维码

扫码添加企业微信