二柄:当 AI 开始自己操作电脑,你得握住两样东西
二柄:当 AI 开始自己操作电脑,你得握住两样东西
01 / 从“它说”到“它做”,中间隔着一个权限
语言模型时代,最坏的情况是它胡说八道,你不信就完了。
Computer Use 时代,最坏的情况是它做对了你以为它不会做的事。
这两者的差别,不是能力,是后果的归属。前者的错误停在屏幕上,后者的错误落在数据库里、落在客户的邮箱里、落在合同的签署页上。
混元自己承认和顶尖闭源模型还有差距。这份克制其实是个提醒:模型越不完美,“它做错了谁负责”这个问题就越尖锐。
而这个问题没有技术解,只有制度解。
WHY NOW / 为什么现在写这个
这个月同时出现了几个信号:混元 Hy4 支持 Computer Use;某云厂商把仓库工作流和 PR 搬进隔离的云虚拟机;有浏览器代理在登录、二次验证、支付这三步会主动“交还控制权”给人。行业已经在给“哪里必须停”画线了,你也得画自己的。
02 / 韩非子说,君主只靠两样东西
《韩非子·二柄》开篇:
“明主之所导制其臣者,二柄而已矣。二柄者,刑德也。”
刑,是能罚;德,是能赏。韩非的意思是:君主不需要比所有人聪明,只要牢牢握住“罚”和“赏”两个把手,臣子就会按他的方向走。
这段话今天读,是一套权限设计哲学。
你让 AI 操作电脑,你手里也必须有两个把手:一个是“能拒绝”,一个是“能回滚”。
没有拒绝权,它想去哪就去哪。没有回滚,它做错了你只能认。
两个都没有,你不是在用工具,你是把钥匙给了一个不认识的人。
授权的本质不是“允许它做什么”,是“保留你随时叫停的能力”。这两件事,顺序不能反。
03 / 长程智能体,风险不在每一步,在“连着做”
单步操作的风险很好算:点错一个按钮,撤销就行。
长程任务的风险不是这样算的。它是指数级的。
第一步它理解偏了一点,第二步基于这个偏差做了个合理决定,第三步把这个决定当成既定事实……跑到第二十步,它已经在你完全没预期的位置上,而且每一步看起来都对。
这就是“分钟级”和“小时级”的差别:分钟级你能盯着,小时级你只能事后看日志。
所以长程任务的第一原则不是“给它更聪明的模型”,是把长任务切成有检查点的短任务。每到一个检查点,停下来,让你看一眼。
▲ 古人像(AI 配图)
04 / 三条线,今晚就能画
不用等公司出规范。你自己那台电脑,今晚就能把边界立起来。
① 给它一个专用身份,别用你的:单独的系统账号、单独的浏览器配置、单独的 API Key。它做的事,日志里查得到是它做的。出了事,你能一刀切断而不影响自己。
② 按“不可逆”划红线:付款、签合同、发外部邮件、删数据、改权限——这五类动作一律设为“必须人工确认”。其余可以让它自己走。判断标准只有一条:能不能撤销。
③ 先拍快照,再放手:虚拟机快照、数据库备份、Git 分支。让它在一个“坏了能一秒回到刚才”的环境里跑。有快照,你才敢给它自由。
再加一条软性的:给它写一份“遇到不确定就停下”的指令。 明确告诉它,拿不准的时候不要猜,回来问。这一句能消掉大半事故。
05 / 工具越能干,你越要“懒”一点
有一种很常见的冲动:既然它能操作电脑了,那我全交给它,我去喝咖啡。
这种冲动最危险的地方在于,它把“监督”这件苦活也一起外包了。
韩非那套“二柄”,说到底就一句话:你可以什么都不干,但不能什么都不知道。
AI 替你操作电脑,你替自己守着那两根把手。它跑得越快、越久、越自主,这两根把手就越重要。
会放手的人很多,会在关键时刻拉回来的人很少。后者才是这个时代的手艺人。
能不能叫停,比跑得多快重要。手里没有刹车的人,不配开快车。
最后想问问你:
你上一次让 AI 自动执行一长串操作,中途有检查点吗?
ONE MORE THING · 关于授权
握着刹车,才敢踩油门
长按识别二维码,关注「江楠AI」
https://jiangtian.top
江楠AI
向内看,向前走。
文中配图为 AI 生成,仅作意境示意。文中数据与仓库信息截至 2026 年 11 月 10 日。
事实来源:2026-11-04 腾讯混元 Hy4 正式版发布(770B,首次支持视觉理解与 Computer Use,长程智能体)。经典出处:《韩非子·二柄》。
AI 实战导师 / 企业 AI 落地顾问 / 智能体工程师,17 年跨界、15,000+ 小时 AI 实操、20+ 套已交付工作流。 看完整履历海报 → skills 实验室 →
发表评论: