信任人工智能生成的代码：每个技术领导者需要面对的悖论

有一个数字应该会让任何领导工程团队的人感到困扰。人工智能在软件开发中的采用率持续上升，但人们对结果的信心却在朝着相反的方向发展。

Stack Overflow 2025 调查有超过 4.9 万名受访者，结果显示 84% 的开发者在开发过程中使用或计划使用 AI，而上一年这一比例为 76%。一半（51%）每天使用它。与此同时，46% 的人不信任这些工具的准确性，这一比例高于 33% 的人。只有 3% 的人强烈信任它。

这就是悖论。我们使用另一种我们不太信任的工具。这对于不理解的人来说并不矛盾。这是成熟已经到来的标志。

瓶颈已经移动

几十年来，开发的稀缺时间就是编写代码。输入逻辑，记住语法，组装样板。 AI正是针对这一点进行了攻击，并且很好地解决了。如今，生成功能代码块几乎是瞬时的。

问题在于，这并没有像工具的营销承诺那样加快交付速度。加快草稿制作速度。而且草稿并不是现成的软件。

瓶颈已经转移。不再是写了，而是复习了。评估该代码是否正确、是否安全、是否不会带来我们将在六个月内连本带利支付的债务。人工智能已将工作从创建转移到验证，但很少有团队为此重新组织流程。

任何将人工智能视为打字加速器的人都在衡量错误的东西。只有当团队也能更好地判断所收到的内容时，真正的收获才会出现。

人工智能生成的代码最危险的特征并不是明显的错误。这是一个看似合理的错误。

语言模型无法理解您的意图。它会产生统计上可能延续的提示。大多数时候这与您想要的相符。但是当它不匹配时，结果通常写得很好，命名得很好，并且具有正确的外观。

这是一个乍一看就通过的代码。编译，在满意的情况下运行，使用正确的名称。它包含一个错误的假设：未经处理的边缘、竞争条件、对不存在的 API 的调用、看似存在但不涵盖真实情况的验证。

开发人员发现了一个明显的错误。他认可这个看似合理的错误。正是这一点泄漏到了生产中，因为它的设计无意中是为了欺骗仓促的审查。

当一个团队不加判断地接受人工智能建议时，技术债务不会缓慢增长。它默默地、快速地积累。

想想机制。人工智能倾向于重复模式。如果它生成了一种次优的方法并且没有人纠正它，那么该模式就会在许多地方陷入困境。每个副本看起来都无害。整个问题变成了一个结构性问题，不是任何人决定造成的。

更糟糕的是：这些代码的大部分实际上从未被人类阅读过。它被接受了。你用思想编写的代码和你刚刚允许进入的代码之间存在巨大的差异。第二个是你自己的系统中的未知领域。

这种盲目信任的费用来自维护。在清晨事件中，当有人需要理解团队中没有人真正理解的逻辑时。然后上周的速度增益就会变成本季度的成本。

安全轴中有一个特定的加重因素。该模型是在公共代码上进行训练的，而公共代码充满了不安全的示例：硬编码凭证、容易受到注入的查询、过时的依赖项、松散的输入验证。

人工智能不区分教科书示例和生产就绪代码。她再现了她所看到的图案。如果大多数教程将字符串连接到查询中，那么它自然会建议这样做。

因此，安全审查不能成为最后的可选步骤。静态分析、依赖性扫描和秘密检查需要自动进行，并在任何合并之前运行。人工智能可扩展代码生成，任何流程失败都会随之扩展。孤立的失误变成了分布式模式。

这是取决于你的部分，而不是工具。信任既不是法令，也不是禁止的。它是通过过程构建的。一些将成熟团队与暴露团队区分开来的具体决策。

首先，明确拉取请求的作者对代码负责，即使是 AI 编写的。不存在“人工智能做到了”这样的事情。无论谁提交，请在下面签名。这会改变你在回顾自己的工作时的态度。

其次，根据风险而不是来源来校准审查。涉及[身份验证0、支付或敏感数据的代码，无论其来自何处，都需要进行深入的人工审查。文本调整或琐碎的测试不需要同样的严格性。对所有事物都一视同仁会浪费注意力。

第三，使机械自动化，以释放人脑进行判断。安全检查、测试和扫描仪应该能够自行阻止明显的情况。所以评审者把精力花在业务逻辑、架构和隐藏假设上，这是机器达不到的地方。

第四，要求提交者能够解释他们提交的内容。一个简单而强大的标准：如果您无法证明该代码为何正确，那么它还没有准备好进行审查。该过滤器消除了大部分未经阅读而接受的代码。还值得一读的是，这如何适应 SDLC1? 每个阶段的人工智能流程，因为审核只是链条中的一个环节。

人工智能是第一个版本的优秀生成器，也是最终真相的可怕来源。领导者的工作是设计一个流程，既能利用第一个品质，又不会成为第二个品质的牺牲品。

46% 的数字并不是对技术的否定。这提醒我们，这个行业已经足够成熟，可以睁大眼睛使用这个工具。在这里，不信任是能力的标志。

如果你的团队已经采用了人工智能，但仍然以两年前的方式进行审查，那就从这里开始。在增加生成之前重新绘制修订版。如今，正是这种优先级倒置才最能保护您的产品质量。

来源：Stack Overflow 2025 调查，超过 49,000 名受访者。