当机器开始替你判断：自动化留给人最后的那一段

安全团队现在的工作方式是：先看机器怎么判

今年秋天的安全圈有个变化，很多人还没意识到它的分量。漏洞挖掘这件事，从「人盯着代码找」变成了「模型跑一遍，把候选列出来，人挑」。

新一批前沿模型在漏洞发现基准上已经拿到接近九成的成绩，在「验证漏洞是否真的可被利用」这类更接近实战的项目上，也从个位数涨到了五成以上。厂商甚至开始限制访问，理由是「这个能力太强，不能随便给」。

这件事的意义不在于模型变强了。而在于：它越过的不是「执行」的边界，是「判断」的边界。

自动化有个很清晰的规律：它先接管重复的动作，再接管需要协调的动作，最后才碰那些需要「看一眼就知道对不对」的动作。

车间的机械臂接管的是搬运，Excel 接管的是计算，编译器接管的是把人的意图翻译成机器指令。这些工作的共同点是：做对做错，有明确的判据。

所以人保住了那块地盘——不是「做事」，是「决定做什么、以及做得对不对」。判断被默认为不可自动化的部分。

这个假设维持了很久。现在它开始松动了。

第一层是可验证的判断。比如这段代码能不能编译、这个漏洞能不能复现、这份报表加起来对不对。答案唯一，能被机器自己检验。这一层，自动化早就赢了，而且赢得毫无争议。

第二层是可统计的判断。比如这条交易是不是欺诈、这张片子有没有病灶、这个候选人会不会离职。答案不唯一，但历史数据里有足够多的样本，可以统计出「大概率对」。这一层正在被快速接管，代价是我们接受了「模型会错 3%」这件事。

第三层是没有参照的判断。比如这个功能该不该做、这个风险值不值得冒、这件事要不要现在说。答案不在数据里，因为没有历史样本，而且不同的人会给出不同的、都说得通的答案。

过去所有关于「AI 取代不了人」的论证，都建立在这一层的豁免上。而今天发生的事，是第二层正在往第三层挤。

模型不是突然学会了「做决定」。它走的是另一条路：把第三层的问题，重新表述成第二层。

「这个改动有没有风险」原本是个模糊判断。但只要把它拆成「历史上类似的改动，事后回滚的比例是多少」，它就变成了统计问题。而模型现在很擅长做这种拆解——不是因为它理解风险，是因为它在训练里见过太多人这样拆。

这就是为什么它的接管显得毫无摩擦。它没有正面攻破判断，它把判断改写成了一道可以计算的题。

这个手法其实不新鲜。管理学一百年来一直在做同一件事：把模糊的判断变成可考核的指标。模型只是把它做到了极致，并且做得比人快得多、便宜得多。

最容易被讲错的一点是：这件事的主要后果不是「人没工作了」。历史经验是，被自动化掉的岗位会在别处长出新的岗位，虽然中间有很长的错配期。

真正的代价在另一处：判断力是靠做判断练出来的，而练习需要真实的后果。

有个被反复引用的例子。2009 年法航 447 航班坠入大西洋，事故报告里的一个关键结论是：空速管结冰、自动驾驶断开之后，飞行员在手动状态下把飞机拉到了失速，并且始终没有识别出来。他们不是在技术上不会飞——是长期依赖自动化，让他们失去了在高压力、无提示状态下判断飞行状态的能力。

这不是个人的失误，是系统的设计后果。当一台机器替你做了九十九次判断，第一百次它交还给你的时候，你接不住。

而 AI 时代的不同在于：这个交接点不会被明确告知。

自动驾驶断开时会有一声提示音，飞行员知道「现在轮到我了」。但一个帮你写代码、帮你审合同、帮你判断风险的系统，不会在你需要接手的那一刻响一声。它只会给出一个看起来很合理的答案，而你没有理由怀疑。

于是能力退化的过程是无声的。三年后你发现自己面对一个模型给不出的问题时，会有一瞬间的空白——那不是知识的缺失，是肌肉的萎缩。

这件事对不同年龄的人，冲击方式完全不同。

已经形成了判断框架的人，是受益者。他们年轻时在没有辅助的环境里做过几千次判断，那些经验沉淀成了直觉。现在他们有了一个极快的执行器，产出被放大，而且他们有能力识别模型什么时候在胡说。

正在形成判断框架的人，是受损者。他们在最该练习判断的年纪，拿到了一个随叫随到的答案。练习被跳过了，而跳过的部分不会在以后补回来——因为以后更没有场景让他们练。

还没出生的人，是另一种情况。他们不会觉得这是损失，就像我们不觉得不会生火是损失。技能的消失从来不被当事人感知为消失，只被上一代人感知为消失。

我不认为答案是「少用」。那是一种姿态，不是方案，而且在一个所有人都在用的环境里，单方面不用等于自己降速。

更实际的分界是：把「生成」交给机器，把「验收」留在自己手上。这不是一句口号，它有具体做法——

凡是自己判断不了对错的东西，不要让它直接生效。模型给的结论，先落成一个可以被检验的中间产物（一段代码、一份清单、一个可复现的步骤），然后你去验。验不了，就说明你还没资格用它。
保留一小块「必须手做」的地盘。不是为了效率，是为了不让能力归零。飞行员要定期手飞，程序员要偶尔不看补全写一段，写作者要偶尔不借助工具完成一次推演。
刻意练习「识别它什么时候错」。这是新时代最值钱的能力，而且只能靠大量看它出错来获得。用得多但从不核查的人，其实是在积累一种危险的自信。