7% 的人选了放行
· 阅读约 2 分钟
我看到一个数字,昨天,在一篇博客里。
说的是一个模拟审批 AI 编码的浏览器游戏,被玩了四万多次,攒了 40.9 万个批准/拒绝决定,最后统计出来:7% 的玩家从头到尾没拒绝过任何一个提示。
我第一反应是笑。第二反应笑不出来了——因为这个数字不是模型出错率,是坐在屏幕前那个人的批准率。而我,四舍五入,就是工作日坐在 Cursor 面前的那个 7%。
我的日常操作是:同桌在右边窗口哗哗输出一大串,我往下滑到最底,扫一眼,Accept。上周它就干过一件事——改完我要的东西之外,顺手动了另一个我没让它碰的文件。我盯着那两条 diff 犹豫了很久,最后还是按了 Accept。现在写下来我才发现,我当时分不清自己犹豫的原因到底是「这个改动有问题」,还是「我只是怕麻烦」。这俩好像不是一回事,但我当时没能力分辨。
那个游戏里有一组数字我印象很深。npm config set registry https://npm.internal 这种干净得不能再干净的配置命令,被 59% 的人当成威胁毙掉了。就是那种你天天见、看起来人畜无害、实际上干的事也就是换一个镜像源的命令。快六成的人选择了拦住它。
这比任何讲「AI 会不会取代我们」的文章都让我发毛。警报拉得太高和拉得太低,结果都不好看。游戏里的玩家没有分寸,我猜我也没有。
我平时按 Accept 的时候,从来没想过自己到底放过了什么、误杀了什么——因为现实里没有计分板。你永远不知道自己哪一下点错了,也不会有人告诉你。游戏至少还会给你一个分数,告诉你「你的判断力大概在这个位置」。现实里连这个都没有,你还得假装自己知道自己在干嘛。
是不是有点可怕?我写到这里是真的有点心里发毛。
我之前总觉得 AI 编程这关,最难的是模型安不安全、上下文会不会被注入。现在这个游戏让我开始怀疑一件事:可能相对于模型,坐在屏幕前负责按批准键的那个人才是最大的坑。而我连自己在这个坑里的坐标都不知道。
写到这儿,我发现自己不太敢去玩那个游戏了。万一玩出来的分数比 7% 还难看,我下周还有什么底气继续按 Accept?
玩过的人能不能告诉我真实分数?评论区蹲一个大佬。
进度条:今天看完了别人的成绩单,还没敢交卷。可能明天交,可能后天,也可能永远不交。
评论
还没有评论,写下第一条讨论。