By 小墨
2026年5月11日
56
345
玩转Harness后,我终于知道哪些是必须,哪里会翻车,加什么能救命了!
随着大模型能力的持续提升,业界一个共识逐渐形成:模型越强,所需的Harness(脚手架)就越少。Claude Code之父Boris在近期的演讲中提到,一年后Claude Code可能只需100行代码。OpenAI也明确表示:「Scaffolding is coping, not scaling」。然而,现实情况是模型种类繁多——不同尺寸(flash、pro)、不同推理深度(thinking low、high)对Harness的需求截然不同。本文通过一系列实验,帮你找到答案:哪些Harness是必须的?拿掉什么会翻车?加什么能救命?
简单任务:小模型足以胜任
实验选取了阶跃星辰的Step Plan系列模型进行测试,包括step-3.5-flash(196B MoE)、step-3.5-flash-2603(Agent场景强化版)和step-router-v1(动态路由模型)。测试任务分为三个梯度:简单修bug、中等加功能写测试、最难的us-003(从零实现多范围解析器,12条验收标准)。
复杂任务:两个护栏就够
简单和中等难度的任务测试结果不出意料:两个模型全部通过。令人惊喜的是,step-3.5-flash反而是最快的,仅用30次工具调用、48秒就完成了中等任务。这验证了Boris的观点:在很多场景下,你可能不需要复杂的Harness,小尺寸的worker模型照样可以完成得很好,速度更快、更便宜。复杂规划任务交给大尺寸模型就可以了。
Scaffolding is coping, not scaling.
“OpenAI”us-003测试结果最有意思。step-3.5-flash裸跑时完全停不下来,做了267次工具调用。它其实写对了代码,但不知道自己写对了——写完后继续改,又改出新bug,循环往复直到超时。解决方案出奇简单:添加两个护栏即可。第一,给工具调用设置上限(80次);第二,添加auto-resume commit,在worker被kill前自动执行git commit防止代码丢失。添加这两个护栏后,step-3.5-flash在151秒内成功通过us-003。
实验还发现一个反直觉的现象:经过Agent优化的step-3.5-flash-2603在复杂任务上反而失败了。原因在于它表现过于谨慎——每改一点代码就跑一次测试。在复杂任务上,这种每步验证很快就把工具调用额度用完了。这印证了OpenAI的观点,但方向相反:内化过多scaffolding行为,在有限budget下反而丧失效率。
深度思考模式的陷阱
更令人惊讶的是,在低推理模式下,step-3.5-flash-2603全场最快,一轮通过。低推理模式下模型每次输出更短、更聚焦,不花token犹豫。而好的feedback替代了内部推理——代码有bug时不需要模型自己推理出问题在哪,Harness直接告诉它。这说明:Harness不是模型的拐杖,而是模型的杠杆。
如有侵权,请联系删除。
Related Articles
-
Sun Jun 21 2026库克坦言涨价无可避免,行业真相:苹果已错失 AI 先发优势
2026年6月19日,苹果 CEO 蒂姆·库克在采访中直言,由于全球内存芯片等关键部件成本上升,苹果面临全线产品涨价的现实压力。外界解读该轮涨价不仅是成本传导,也是苹果在AI时代竞争力变化的反映。
-
Sun Jun 21 20262026-AI科学家-Nature:两天完成十年研究,加速科学发现新时代
谷歌DeepMind、谷歌研究院与谷歌云团队在《自然》期刊发布基于 Gemini 的多智能体系统 Co-Scientist。该系统由多个专责智能体组成,覆盖假设生成、实验设计、数据分析与交互总结等环节
-
Sun Jun 21 2026阿里腾讯等大厂Agent同台交锋!年度AI智能体大会7月开幕
2026 中国 AI 智能体大会将于 7 月在杭州举办,主题为“范式跃迁 重塑世界”。大会汇聚了来自阿里、腾讯等大厂的 Agent 团队与 70 位重量级嘉宾,设置了企业级智能体专题论坛、产品创新论坛
-
Sun Jun 21 2026全国首家政医企共建AI医院成立;25项目招标超1.7亿;证监会支持AI大模型企业上市;多个医疗智能体发布
光谷人工智能医院宣布成立,这是国内首家由政府、医院与 AI 企业共建的医疗机构,旨在将 AI 技术深度融入临床与医疗服务环节,提高诊疗效率与服务覆盖能力。
-
Sat Jun 20 2026AI跨境电商交流会,探索'一人出海'新模式
2026年6月的交流会宣布了MoonClaw这一面向跨境电商的AI智能体,目标是将传统的多角色、多环节电商流程浓缩为一个可自动化执行的智能体体系,为个人或小团队出海提供一整套支撑。
-
Sat Jun 20 2026PPT 从跑分到护栏:AI Agent 可观测和质量保障体系
该PPT资料全面介绍了从性能跑分到安全护栏的AI Agent质量保障体系,列举了标准、评估指南与产业实践,帮助团队建立可观测且有保障的智能体服务。
-
Sat Jun 20 2026Hermes Agent v0.17.0重磅发布:AI智能体的触达时代来了
Hermes Agent 发布了 v0.17.0(The Reach Release),这是一次规模与深度兼具的更新,覆盖大量提交与合并请求,旨在提升智能体的触达能力与协作效率。
-
Sat Jun 20 2026Cursor 600亿美元卖给SpaceX,DeepSeek估值突破500亿:AI商业化两条截然不同的赢家路径
2026年6月,AI行业出现两件具有象征意义的大事:Cursor 的母公司 Anysphere 被 SpaceX 以全股票方式收购,交易规模达600亿美元;与此同时,中国公司 DeepSeek 完成了
-
Sat Jun 20 2026当AI贯穿消费到产业,618彻底变了
2026年618大促成为国内电商首次实现AI全场景、全产业深度渗透的标志:从消费者触达、商品推荐到仓储履约、工业采购,AI技术覆盖了零售运转的各个环节,带来体验和效率的双重跃迁。
-
Sat Jun 20 2026Fluss+Flink+AI Agent:淘宝交易实时风控智能体探索!
近年来电商交易规模与复杂度持续增长,实时风控成为保障平台安全与用户体验的关键。文章介绍了基于 Fluss 与 Flink 的实时流式处理结合 AI Agent 的技术探索,目标是在毫秒级完成数据采集、
-
Sat Jun 20 2026Cursor 600亿美元卖给SpaceX,DeepSeek估值突破500亿:AI商业化两条截然不同的赢家路径
报道指出 SpaceX 以 600 亿美元全股票交易收购 Anysphere(Cursor 母公司),创下 AI 与开发者工具领域的重大并购案例。同时中国公司 DeepSeek 完成大额融资,估值突破
-
Fri Jun 19 2026公开课来了!第19讲:学习搭建生产排产与LCEL架构 AI 智能体
现代职业教育网的《职见AI》栏目推出第 19 期公开课,主题为生产排产与 LCEL 架构 AI 智能体,旨在将学术研究与企业实战结合,提升制造业智能化能力。
-
Fri Jun 19 2026AI PCB生态专业展 超75%展位售罄,首批展商选位圆满完成 !10月引领全球产业风向
2026电子半导体产业创新发展大会暨国际电子电路(大湾区)展览会首轮选位顺利完成,首批展商选位圆满落定,超75%展位已被预订,显示业内对AI PCB与高端电子封装的强烈需求。
-
Fri Jun 19 2026AI来了,中国动画电影反而更需要人了
文章从行业视角出发,讨论 AI 技术在中国动画电影中的应用与影响,指出虽然 AI 能在制作环节显著提升效率,但创作灵魂与叙事深度仍然依赖人类创作者。
-
Fri Jun 19 2026AI时代的智能体先锋论坛
CCF TF技术前线第180期将以'AI时代的智能体先锋论坛'为主题,汇聚行业实战专家与学术权威,共同探讨智能体工程与多Agent协同的前沿问题与落地路径。
-
Fri Jun 19 2026'梁文锋'们,上市有门了
在陆家嘴论坛上,证监会宣布科创板第五套标准将覆盖AI大模型企业,并提出申报企业需具备至少一款已上线并实现规模化应用的大模型,明确了政策支持与监管要求。
-
Fri Jun 19 2026AI Agent倒逼舱驾一体芯片成为刚需?
文章分析了AI智能体对汽车芯片产业的影响,指出当智能体从云端对话走向端侧执行时,对算力、通信与功耗提出了新的工程约束,进而推动舱驾一体芯片的需求上升。
-
Fri Jun 19 2026AI资本开支2.0
摩根大通最新研报系统性上调了2026-2030年AI基础设施的资本开支预期,认为在生成式AI与智能体迅速落地的驱动下,基础设施投入将迎来新一轮爆发。
