Для качества ИИ-кода нужна замкнутая система проверки, а не только высокая скорость

如果没有指标，团队就很容易陷入“感觉没问题”或者“可能是它导致的”的争论。指标的价值，是把争论变成可比较的事实。 ### Trace：还原请求经过了哪里 Trace 适合还原一次请求的完整路径。它可以告诉工程师，请求经过了哪些服务、卡在哪个环节、哪个依赖变慢、哪个分支耗时异常。 在半黑盒代码里，Trace 的意义会更大。因为工程师未必完全记得每段 AI 生成逻辑的细节，但可以通过 Trace 看到真实请求是否经过了预期路径。 ### 验证语义：证明业务结果是否正确 AI Coding 最怕的不是语法错误，而是语义错误。语义错误的特点是：代码能跑，测试可能也过，但业务结果不对。 所以可观测性不能只停留在系统层。它还要覆盖业务层面的验证语义，比如成功率、失败原因分布、关键状态流转、核心对象数量变化、关键规则命中情况。 这些信号能帮助工程师回答一个更本质的问题：这段代码不是只“跑起来了”，而是真的“做对了吗”？ ## 上线不是结束，而是验证的开始 AI Coding 还有一个影响：它会让团队更频繁地发布。 发布越频繁，单次发布的心理重量可能会下降。大家会觉得，反正改动不大，反正 AI 也帮忙写了，反正测试也过了，先上再说。 这时候最危险。 软件质量不是靠“感觉应该没问题”保证的，而是靠一套反馈系统保证的。 所以我更倾向于把上线看成一次受控实验。 一个变更上线之后，我们应该观察一段时间： 如果有异常，要能快速把它和这次变更关联起来。如果没有异常，也要能用数据证明它确实没有造成明显影响。 这就是工程师在 AI Coding 时代需要建立的新工作习惯：不是写完代码就结束，而是完成从代码到运行时反馈的闭环。 ## 工程师需要用证据链自证清白 线上出了问题，最常见的场景是什么？

This means writing down what you actually require. Every new endpoint needs rate limiting. New external dependencies need a justification comment. Database queries follow your established patterns. Documentation updates when the code they describe changes. These aren't novel standards; they're the things your senior engineers catch in code review, stated clearly enough for an automated system to evaluate. [...] AI coding tools have made the same case for the same solution. Code throughput went up 2-5x. The number of senior engineers who can review didn't change. Individual review of every AI-generated line is the "be more careful" answer. It doesn't scale. ## What the Systems Answer Looks Like When CI/CD matured, quality enforcement moved into the pipeline. Tests had to pass. Lint rules had to hold. Security scans blocked merges. Not because developers became less careful, but because care alone wasn't enough at scale. The systems answer for AI-generated code follows the same patter

Create explicit AI usage standards. "Use AI for coding" is not a policy. Specify where AI assistance is encouraged (boilerplate, test generation, documentation), where it requires extra review (core business logic, security-sensitive code, distributed systems coordination), and where it's prohibited (cryptographic implementations, compliance-critical paths). The organizations that avoid slop aren't the ones that ban AI tools — they're the ones that deploy them with judgment. [...] Senior engineers have taste because they've built systems that broke. They've maintained code at 2 AM that someone wrote fast and shipped without thinking. They've lived through the consequences of "it works today" becoming "it's unmaintainable tomorrow." AI can generate code. It cannot generate the scar tissue that produces good judgment. This creates an uncomfortable organizational truth: your most productive AI users might also be your biggest source of slop. High output and high quality aren't correlated

The harder thing to argue away is skill atrophy. And honestly, this is the one that got me. Anthropic ran their own study on their own engineers. AI users scored 17% lower on code comprehension. Some developers spent 30% of their time composing queries for the AI instead of thinking directly about the problem. Internal engineers reported what they called “skill atrophy” — their role had shifted to “70%+ code reviewer/reviser.” I read that and felt the weight of it. Because the conditions that produce skill atrophy don’t require carelessness — they require the tool being genuinely good. The output looks clean. The path of least resistance is to accept it. Maintaining the discipline to verify anyway is exactly what the amplifier rewards. [...] This is where slop actually lives. Not in the fact that AI wrote the code. In the gap between generating code and verifying that it does what it’s supposed to do for the people using it. ## What I Can’t Argue Away Intellectual honesty matters m

这样的情况，在嵌入式团队必须遵循的每一项标准里都会反复出现： MISRA C/C++：安全关键型C/C++开发的基础标准。把语言限定在一个定义清晰的子集内，能最大程度降低未定义行为带来的风险。这在汽车、工业和医疗领域是不能让步的底线。随着AI工具生成的C/C++代码越来越多，MISRA合规也就成了所有代码进入代码库前必须跨过的一道关卡。 CERT C/C++：关注的是攻击者惯用的可利用编码模式。如果说MISRA关注的是功能安全（Safety），CERT C/C++关注的就是网络安全（Security），而在互联嵌入式系统中，这两者的边界正变得越来越模糊。 CWE：一份记录常见软件缺陷的目录。对于要审查AI生成代码的团队来说，CWE提供了一套识别漏洞的通用词汇。因为模型是从所有数据中学习的，合规与不合规的代码它都学到了，可能在不经意间就复现了训练数据中的漏洞模式。 模型不会自动遵守这些标准。这是开发者的责任，需要可靠的工具链来支撑。 #### 验证环节，才是真正的瓶颈 在安全关键型项目里，验证与确认早已占去研发投入的40%以上。这不是效率低，而是构建监管机构和认证机构所要求的证据链所必须付出的成本。 如果AI只是加快了写代码的速度，却没有触及证据链本身，会怎样？结果是更多代码涌入验证流程，瓶颈进一步收窄。资深安全工程师要审查的追溯矩阵变得更庞大，而发布关口却还是纹丝不动。 AI工具冲击的，恰恰是开发曲线中本来就不是瓶颈的那一段。真正的瓶颈，始终是后半程：静态代码分析、动态测试、覆盖率测试、可追溯性，以及最终签核。如果只加速前面写代码的环节，却不去解决后半程的问题，对于要交付认证级固件的团队来说，这算不上什么效率提升，反倒是给本已紧绷的流程又加了一道上游压力。 #### 质量到底该在哪里落地 [...] 编程, 代码质量, 功能安全, 汽车 # AI 编写代码，谁来保证质量？ Rafael Taubinger 11分钟阅读 <span id=AI 编写代码，谁来保证质量？" src=" #### 速度从来不是问题所在，证据才是 AI编程助手已经彻底改变了一名开发者一个上午能完成的工作量。过去需要几个小时才能理清思路、写出草稿的代码，现在几秒钟就能生成。对于探索性工作和快速原型开发来说，这种效率提升确实实实在在。 但在受监管的嵌入

更讽刺的还在后面：干净的代码反而更贵！GPT 5.4用了「反slop」提示之后，完成项目的花费从304美元涨到了450美元，涨了快一半，但通过率反而从37.2%掉到了27.1%——钱花得更多了，活干得更烂了。 为什么会这样？因为AI为了写更干净的代码，会花更多token去思考架构、去拆函数，但它本质上还是没有长期架构设计的能力，后面改需求的时候，该乱堆还是乱堆，该重复还是重复，前面花的那些设计的钱，全打了水漂。 ## 根本问题：AI根本不懂「设计纪律」 为什么AI单次写代码那么厉害，迭代起来就这么拉？核心原因其实很简单：当前的AI编程Agent，根本没有迭代式软件开发需要的「设计纪律」（设计规则）。 人类开发者写代码的时候，脑子里是有「长期规划」的： 我现在写这个函数，后面可能要加三个功能，所以得预留好扩展点 这个逻辑后面好几个地方要用，得抽成公共函数 现在为了快写死的地方，得留个TODO注释，后面有空了重构 加新功能的时候，会想怎么改不影响之前的逻辑，实在不行就提前重构打基础 但AI没有这个意识，它所有的决策都是「短期最优」：当前这一轮需求我要最快跑通，怎么简单怎么来。 要加新功能？直接往已有函数里堆代码，反正这次能跑就行 逻辑重复？复制粘贴八遍最快，我才懒得抽公共函数 之前的架构不适合新需求？不管，硬塞进去就行，只要这次测试能过，后面崩了再说 你看AI写的代码，每一轮单独看好像都没问题，合到一起就是个随时会炸的火药桶。这不是能力问题，是「思维模式」的问题：人类写代码是给未来的自己和同事写的，会考虑长期维护成本；AI写代码是给当前这轮prompt写的，根本不管后面怎么改。 现在的所有评测，都在奖励AI的「短期行为」：只要这次能过测试，你代码写得再烂都算对。但真实的软件工程，要的是「长期可维护」，这恰恰是当前AI最缺的东西。 [...] 小李忍无可忍重写了整个模块，边敲边骂：什么AI编程替代程序员，写出来的代码越迭代越烂，最后擦屁股的还不是我？ 如果你也有过这种经历，恭喜——最近来自威斯康星麦迪逊大学、MIT的研究团队直接把这个痛点做成了行业基准，实锤了当前所有AI编程Agent的致命缺陷：单次写代码个个都是神，长期迭代改需求，全是越写越烂的废料生成器。 （论文指路： 他们甚至专门做了个叫「SlopCodeBench」的评测基准