AI 写的代码出了事，谁来背锅？

大家好，我是荔枝。

最近有个话题火了：当 AI 开始编写软件，谁来验证它写的代码？

别笑，这真不是杞人忧天，特别是现在技术平权时代，很可能指挥AI写代码的人，都看不懂代码。

又不是不能用，这句曾经流行在程序员圈子的口头禅，会过渡到更多使用AI编程的人。

01. AI让程序员对上线的代码，放松警惕

想想看，现在多少开发者已经在用 Copilot、Cursor、Trae、Claude Code、Openclaw 这些工具写代码了？

AI 生成一段，你发布一段，最后跑起来了——但你知道它到底做了什么吗？

问题就在这儿。

AI 写的代码可能看起来没问题，但藏着逻辑漏洞、安全隐患。

你审查了，但你能保证 100% 发现问题吗？

更麻烦的是责任归属。

代码上线后出了事故——数据泄露、系统崩溃、财务损失——算谁的？开发者的？AI 公司的？还是那个说"AI 写的代码需要人工审核"的老板的？

有人会说："AI 只是辅助工具，最终决定权在人。

"听起来有理，但现实呢？

因为AI，大量程序员会被优化，那写代码的压力集中在少数开发者手中。

当团队为了赶工期，当老板为了省成本，当所有人都默认"AI 写的应该没问题"——审核真的还会认真做吗？

我见过太多"差不多就行"的代码审查。

现在加上 AI，这个"差不多"会变得更隐蔽。AI 生成的代码往往看起来更专业、更规范，反而让人放松警惕。

这个问题也许更严重，压根没有了代码审核人员，完全只靠AI。

如此一来，可能会出现大量的安全疏忽的应用被发布上线。

没有程序员背景的人，写代码的数量会越来越多，如果代码发布上线，这风险比程序员用AI写代码的风险会更高。

但现阶段，风险还比较小，为什么？

因为复杂系统架构还是一个很专业的壁垒，AI的手还伸不到各个云服务商之间配置调用（数据库，服务器，域名配置等等）。AI目前能出建议，实际执行，还是得人来执行。

AI的建议，还不能直接采纳，因为涉及到的风险太高，吭哧吭哧写了一堆代码，买了服务器，最后发现底层架构都不对，这些试错成本还是太高了。所以这类稍大型的应用，涉及到支付相关的，还是需要程序员来对接。

所以现在普通人能做的，可能还只能局限在一些简单的应用，比如开发一个俄罗斯方块游戏，或者个人主页，或者简单的定时任务。比如用OpenClaw做一些脚本和定时任务。

所以通过一些本地的脚本写一些优化自己工作流的任务，目前是这类人群主要的使用场景，不涉及到复杂应用，自己对自己负责就好。

随着AI能力越来越强，也许不久之后任何人都能写出比专业程序员更出色的代码。

这不仅仅是技术问题，这是法律、伦理、商业的混合体。我们需要新的规则、新的标准、新的责任框架。

否则，等第一个 AI 代码引发的重大事故出现时，我们会发现所有人都在甩锅，而没人真正负责。

目前对于代码提交记录，基本上是每次的代码变更，没有大模型的相关记录。

我认为提交代码的时候，提示词 + AI模型处理方案，也保存在历史记录中，存档，方便回溯记录 + 未来修复bugs。

「AI深度参与」：用魔法打败魔法，增加AI自动化测试流程，互相对抗，测试流程把关，同时根据历史提交的大模型记录，增加AI review提示词和自动重构+修复漏洞。

「加强人的测试」：测试流程，需要进一步强化，人的参与比重需要增加，程序员加强参与白盒测试，测试人员加强黑盒测试。

现阶段我觉得还是谁合并提交代码谁来负责。因为AI目前还是程序员代码助手阶段，节约的是程序员的时间成本。

当AI能力增强后，非程序员开始大面积提交线上代码的时候，才需要细化问责机制。

目前能做的就是将提交记录里增加：提示词和大模型交互内容，为未来的问责留下记录。