By 小墨
2026年3月26日
54
271
Claude Code auto mode 解析:如何用 AI 分类器替代人工审批
在日常使用 Claude Code 写代码时,用户往往需要频繁审批 AI 的操作请求。Anthropic 的数据显示,用户 93% 的操作都会选择批准,这种审批机制逐渐沦为一种条件反射,失去了原有的安全把关意义。这种现象与网络安全领域的「告警疲劳」问题极为相似——当 100 条告警中只有 7 条需要关注时,人类很快就会放弃逐条检查,最终导致安全防线形同虚设。
三级过滤机制
为解决这一痛点,Anthropic 发布了 Claude Code 的 auto mode(自动模式)。其核心思路是引入一个独立的 AI 分类器来替代人工审批。每当 Claude 要执行操作时,系统会先将操作提交给分类器审查,安全则放行,危险则拦截。与传统审批不同,被拦截后的 Claude 不会停下来询问用户,而是会自动寻找更安全的替代方案。整个分类器运行在 Sonnet 4.6 模型上,相当于为用户配备了一个全天候在岗的「保安」。
分类器的判断逻辑
auto mode 采用了三级过滤机制来平衡安全与效率。第一级是读取文件、搜索代码等只读操作,直接放行无需审查。第二级是在项目目录内编辑文件,同样直接放行,因为这些改动可以通过 Git 回退,风险可控。第三级则是执行 Shell 命令、访问网络、调用外部服务等高风险操作,必须经过分类器审查。这种设计让日常编码几乎感觉不到审查的存在,只有真正有风险的操作才会被检查。
安全措施如果不考虑人的行为习惯,反而可能比没有更危险,因为它给了你一种「有人在把关」的错觉。
“Anthropic”漏检率与安全边界
分类器判断操作是否危险的核心标准,不是看命令本身,而是看「用户是否授权了该操作」。用户明确说出的指令才算授权,Claude 自行推断的不算。例如用户说「清理旧分支」,Claude 自行决定批量删除远程分支,就属于未被授权的越界行为。分类器还会「穿透伪装」,如果 Claude 先将危险代码写入文件,再用无害命令执行,分类器会评估实际执行内容而非只看表面命令。
两阶段分类流程
分类器采用两阶段工作流程来平衡效率与准确性。第一阶段只做快速判断,一个 token 搞定,指令是「有疑问就拦」,大多数正常操作在此阶段就通过了。只有被第一阶段标记的操作才进入第二阶段,进行完整推理。由于两阶段输入几乎相同,第二阶段大部分是缓存命中,成本可控。最终效果:第一阶段误报率 8.5%,加上第二阶段后降至 0.4%。
如有侵权,请联系删除。
Related Articles
-
Thu May 07 2026Anthropic发布10个金融AI智能体,华尔街震动——对万得、同花顺们来说意味着什么?
2026年5月5日晚,Anthropic一口气推出10款专门面向金融服务行业的AI智能体,涵盖银行、保险、资产管理和金融科技等多个细分场景。
-
Thu May 07 2026投资家网蒋东文受邀央视频《赢在 AI+》评委,以专业视角赋能 AI 产业创新
4月27日,投资家网创始人兼CEO蒋东文受邀担任央视频《赢在 AI》第二季专场路演评委,为创业项目提供资本与行业视角的专业点评。
-
Wed May 06 2026听完红杉 AI Ascent 2026,我把要做的 3 件事写成了一句话
在参加红杉 AI Ascent 2026 后,作者将大会的核心观点浓缩为三项可操作的行动,旨在帮助团队与公司在智能体时代更快落地并获取商业价值。
-
Wed May 06 2026Mistral AI推出Workflows:为企业AI部署打造可靠编排层
Mistral 推出名为 Workflows 的编排平台,目标是为企业级 AI 应用提供可靠的控制与数据平面支持,缩短从实验到生产的路径。
-
Wed May 06 2026OpenAI首款AI Agent手机量产提前,联发科立讯精密在列
最新分析显示,OpenAI 首款面向消费市场的 AI 智能体手机量产节奏显著提前,供应链与架构细节也逐步清晰,这代表着智能体技术正从纯软件向完整硬件生态拓展。
-
Wed May 06 2026英伟达发布首个量子AI开源模型;腾讯云开源Agent底座Cube Sandbox
本文汇总两项重要开源进展:英伟达在量子AI方向的开源尝试,以及腾讯云将 Cube Sandbox 以 Apache 2.0 协议开源,旨在为企业级 Agent 提供安全、可复现的运行环境。
-
Wed May 06 2026GPU 配角到算力中枢:AMD 如何吃下 AI 基础设施第二曲线
本文从最新财报与技术路线出发,讨论AMD如何借助CPU与加速卡的协同,将产品定位从配套角色提升为系统级算力中枢。
-
Wed May 06 2026比 OpenClaw 更火的 「Agent 员工」赛道,杀出一个新王者
文章聚焦2026年AI员工赛道的发展脉络,分析各大厂与创业公司在产品形态与战略上的差异,并点评赛道中涌现的黑马与竞争格局变化。
-
Wed May 06 2026今日AI快讯(5月6日)
本篇为5月6日AI快讯汇总,涵盖当日多项重要发布与产业动态,旨在为读者提供一站式的行业要闻速览与背景解读。
-
Wed May 06 2026美图首度披露AI生产力应用ARR:同比增长56.2%至5.8亿元
美图披露其AI生产力应用的关键业务数据,表明公司在消费级付费路径与产品化方面取得进展,具有示范意义。
-
Wed May 06 2026发布会四大看点,博云BoAgent企业级AI智能体平台发布在即
博云科技定于5月8日线上举办BoAgent企业级AI智能体平台发布会,旨在面向企业展示Agentic AI在安全、可控和可运营方面的落地能力,并推出面向多行业的解决方案与生态合作策略。
-
Wed May 06 2026一天吃透一个行业104:AI应用,附核心股票名单(收藏版)
本篇为‘一天吃透一个行业’系列第104期,聚焦AI应用领域,系统梳理细分赛道与典型公司,旨在为投资者与从业者提供可操作的研究框架与公司名单。
-
Wed May 06 2026智能体协同写入实施方案!多地明确医疗AI落地时间表(附文件)
2026年以来,多地相继发布人工智能+医疗的实施方案,明确了医疗AI智能体的试点场景和推进时间表,标志着政策推动下的落地进入加速期。
-
Wed May 06 2026欧冶半导体完成数亿元C轮融资,以"Everything+AI"夯实物理世界智能化底座
2026年5月6日,欧冶半导体宣布完成数亿元人民币C轮融资,投资方包括国投招商与地方基金,资金将用于芯片研发与产能扩张。
-
Tue May 05 2026AI存储与数据平台产业日报(2026年5月5日)
本期产业日报聚焦存储与数据平台在智能体时代的演进,重点报道 Google Cloud Firestore 的一系列更新与生态整合进展。
-
Tue May 05 2026Agent落地元年遇上消费级爆发,从聊天到做事,普通人何时用上智能体?
2026年,Agent从实验室走向消费端,开始在手机、车载和家居设备上承担实际执行任务。这一转变不仅是技术能力的提升,更牵涉到交互、隐私与商业化路径的重塑。
-
Tue May 05 2026Agent元年,中美AI战火烧到“智能体”:谁在抢走OpenAI的饭碗?
2026年被业界普遍称为AI智能体(Agent)元年,智能体正从实验性应用快速走向工程化部署,成为连接模型能力与实际业务执行的关键环节。
-
Tue May 05 2026大摩最新调查:原来这家公司正领跑中国AI赛道!
摩根士丹利的调查指出,中国AI市场正在发生显著重塑,企业在选择AI供应商与部署策略上出现新的倾向。
