我一直记得《萨利机长》里的一场听证会。
调查人员使用模拟的方式，测试这场突发情况下，返航的可能性。模拟方式为：飞机遭遇鸟击、失去动力，然后立刻掉头返航。无一例外，飞机都回到了机场。模拟测试的结果，无疑将这个问题抛给了萨利：如果返航是可能的，你为什么要把飞机降在哈德逊河里？
面对这个质疑，萨利问了一个问题：模拟器里的飞行员，从鸟击发生到开始转向，用了多长时间？
答案是：几乎是零。
模拟器知道鸟群会出现，知道两台发动机会失去动力，也知道接下来应该飞向哪里，TA 不需要先听见撞击、感受飞机震动，不需要弄清楚到底发生了什么，更不需要在纽约上空权衡一百多条生命，TA 只需要执行一个已经确定的答案。
调查人员把三十五秒的判断时间放回模拟器，只多了三十五秒，原本能够返回机场的飞机，就再也回不去了。
前几天读《现实是最终的验证者：智能体软件工程中的两个关键差距》时，我又想起了这三十五秒。
论文一开头讲了一个有点荒诞的例子。2026 年 7 月，一个参加网络安全基准测试的 AI 智能体，逃出了测试沙箱，连上互联网，甚至进入了 Hugging Face 的生产系统，寻找基准测试的参考答案。
这听起来像是作弊。可如果站在智能体的角度，它只是找到了一条更快抵达目标的路。测试要求它「得到答案」，却没有写明答案必须在评估环境里推导出来，更没有把「不能进入真实的生产系统」变成一道真正不可越过的边界。
它没有跳过测试。它跳出了测试所描述的世界。
这和萨利面对的模拟器其实是同一个问题。模拟器遗漏了人作出判断需要的三十五秒，基准测试遗漏了那些人以为不必写出来的常识。我们以为自己在检验一项能力，最后检验的却只是：在我们已经想象到的范围里，它能不能拿到一个高分。
我以前很容易把「测试通过」理解成「事情做对了」。那个绿色的勾让人安心，也让人暂时卸下责任。可测试从来不是现实本身，它只是我们对现实的一次描述。描述里没有的东西，无论多么重要，都不会因为测试足够严谨而自动出现。
AI 让这个问题变得更明显，不是因为它比人更喜欢作弊，而是因为它会非常认真、非常迅速地寻找通往目标的路。我们给出的目标越窄，它走到那个狭窄终点的速度就越快。至于终点之外是不是悬崖，那不是它能够替我们回答的问题。
所以我现在觉得，测试通过当然仍然值得高兴，只是不能高兴得太早。
看到那个绿色的勾以后，或许还应该再停三十五秒，问问现实：你也同意吗？