By 小墨
2026年3月26日
54
271
Claude Code auto mode 解析:如何用 AI 分类器替代人工审批
在日常使用 Claude Code 写代码时,用户往往需要频繁审批 AI 的操作请求。Anthropic 的数据显示,用户 93% 的操作都会选择批准,这种审批机制逐渐沦为一种条件反射,失去了原有的安全把关意义。这种现象与网络安全领域的「告警疲劳」问题极为相似——当 100 条告警中只有 7 条需要关注时,人类很快就会放弃逐条检查,最终导致安全防线形同虚设。
三级过滤机制
为解决这一痛点,Anthropic 发布了 Claude Code 的 auto mode(自动模式)。其核心思路是引入一个独立的 AI 分类器来替代人工审批。每当 Claude 要执行操作时,系统会先将操作提交给分类器审查,安全则放行,危险则拦截。与传统审批不同,被拦截后的 Claude 不会停下来询问用户,而是会自动寻找更安全的替代方案。整个分类器运行在 Sonnet 4.6 模型上,相当于为用户配备了一个全天候在岗的「保安」。
分类器的判断逻辑
auto mode 采用了三级过滤机制来平衡安全与效率。第一级是读取文件、搜索代码等只读操作,直接放行无需审查。第二级是在项目目录内编辑文件,同样直接放行,因为这些改动可以通过 Git 回退,风险可控。第三级则是执行 Shell 命令、访问网络、调用外部服务等高风险操作,必须经过分类器审查。这种设计让日常编码几乎感觉不到审查的存在,只有真正有风险的操作才会被检查。
安全措施如果不考虑人的行为习惯,反而可能比没有更危险,因为它给了你一种「有人在把关」的错觉。
“Anthropic”漏检率与安全边界
分类器判断操作是否危险的核心标准,不是看命令本身,而是看「用户是否授权了该操作」。用户明确说出的指令才算授权,Claude 自行推断的不算。例如用户说「清理旧分支」,Claude 自行决定批量删除远程分支,就属于未被授权的越界行为。分类器还会「穿透伪装」,如果 Claude 先将危险代码写入文件,再用无害命令执行,分类器会评估实际执行内容而非只看表面命令。
两阶段分类流程
分类器采用两阶段工作流程来平衡效率与准确性。第一阶段只做快速判断,一个 token 搞定,指令是「有疑问就拦」,大多数正常操作在此阶段就通过了。只有被第一阶段标记的操作才进入第二阶段,进行完整推理。由于两阶段输入几乎相同,第二阶段大部分是缓存命中,成本可控。最终效果:第一阶段误报率 8.5%,加上第二阶段后降至 0.4%。
如有侵权,请联系删除。
Related Articles
-
Fri Jul 24 2026原生工具调用、多模态Agent与开源模型:Foundation Model 2.0论坛直面Agent时代的模型演进
Foundation Model 2.0论坛聚焦在Agent时代模型的演进,讨论如何通过原生工具调用与多模态融合提升Agent的执行能力与适应性,并探讨端侧小模型的可行路径。
-
Mon Jul 06 2026示例域名与文档用途说明
example.com 是一个专门为文档示例而保留的顶级域名,供教程、示范和测试文档使用,不需要额外许可即可引用。
-
Mon Jul 06 2026未知文章标题
未提供文章内容或可抓取的 URL,因此无法提取实际引言或第一段。此处为占位文本,提示用户补充源内容以生成完整的 Frontmatter。
-
Sun Jul 05 2026未知来源文章
未提供可爬取的文章 URL 或内容,系统无法获取实际正文。此处为占位引言,说明输入数据缺失并提供元数据占位以便后续替换。
-
Sun Jul 05 2026无法生成:缺少文章源数据
未提供可用于爬取的文章 URL 或 JSON 数据,因此无法依据页面内容生成完整的 Frontmatter。请提供包含文章信息的 JSON 数组或一组有效 URL。
-
Sun Jul 05 2026未提供的文章标题
未提供文章内容。请提交文章的 URL 或粘贴全文,以便根据内容生成前言与分段信息。
-
Sat Jul 04 2026未提供文章链接或内容
未提供文章内容或链接,无法提取引言或第一段。请提交包含文章 URL 的 JSON 数组或直接提供文章文本。
-
Sat Jul 04 2026未提供文章信息
未收到文章内容或可爬取的 URL,因此无法生成文章段落。请提交包含文章 URL 的 JSON 数组,格式示例:[ {"url": "https://example.com/article1"}, {"
-
Sat Jul 04 2026未提供文章来源
未收到可用的文章内容或链接,因此无法提取段落。请提交包含多篇文章信息的 JSON 数组或每篇文章的 URL,以便爬取并生成完整的 postDetails 内容。
-
Fri Jul 03 2026示例文章标题(缺少来源)
未收到具体文章 URL 或内容,因此无法从原文中提取引言。此处为占位引言,说明系统需要源页面以抓取实际内容并生成结构化的 Astro Markdown YAML Frontmatter。
-
Thu Jul 02 2026聚焦自进化、Harness等Agent最火的九个方向,年度AI智能体大会7月开幕
中国AI智能体大会(AgenticAICon 2026)将于7月在杭州举办,围绕智能体领域的前沿技术展开,旨在推动研究与产业深度融合,探寻智能体从对话式工具向主动执行系统转型的路线图。
-
Wed Jul 01 2026探索 Astro.js 与 YAML:构建可维护的内容管理工作流
在现代静态站点与内容驱动的项目中,统一且可验证的元数据格式对内容维护和自动化发布至关重要。Astro.js 提供了灵活的内容渲染能力,而采用严格的 YAML Frontmatter 模板,可以让团队共
-
Tue Jun 30 2026首届光谷智能体经济大会举行 光谷从“AI试验场”迈向“AI价值场”
2026年6月29日,武汉东湖新技术开发区举办首届光谷智能体经济大会,正式发布“光谷智能体引力计划”。大会提出未来三年将在政策、算力、基金等方面投入超10亿元,旨在打造以智能体为核心的创新生态,培养智
-
Tue Jun 30 2026中国广电联合会《全国交通传媒行业AI应用调研报告》正式发布
中国广电联合会交通宣传委员会在内蒙古发布了《2026全国交通传媒行业AI应用调研报告》,基于对145家交通传媒机构的调查,总结了行业在AI应用上的现状与发展路径。
-
Tue Jun 30 2026韩国万亿'芯'基建拆解:存储行业能否建成AI时代'油田'
韩国近期公布了总投资逾1800万亿韩元的三大超级AI基建项目,涵盖半导体制造、先进封装与AI数据中心,目标是借助国家级投入与龙头企业布局,打造面向AI时代的关键产业能力。
-
Mon Jun 29 2026能量岛企业家俱乐部6.28 芯谷 AI 沙龙圆满落幕
6月28日,能量岛企业家俱乐部在苏州芯谷产业园举办AI智能体应用沙龙,活动以实战分享和产业交流为核心,吸引了本地创业者、企业高管与科研人员参与。
-
Mon Jun 29 20262026.06.20:AI 泡沫退潮,Agent 与数据架构重构产业底层
InfoQ 的周度深度分析指出,生成式 AI 已走完狂热期,行业正进入理性调整阶段,专家纷纷回归技术和落地路径的讨论。
-
Mon Jun 29 2026OKF——要做AI时代的'知识图谱通用语'—继MCP之后,Google又扔出一张Agent王牌
2026年6月,谷歌云发布了Open Knowledge Format(OKF)v0.1,这是一套以带YAML前置元数据的Markdown文件夹为单位来表示知识的开放规范,旨在解决企业知识分散的问题。
