AI删光2.8万行代码还给自己写表扬信 AI闯祸引发警惕！Agent IDE又出“车祸现场”！
智东西5月27日消息，近日，一名开发者在Reddit发帖称，运行在Agent IDE中的Gemini 3.5在一次仅涉及“8处认证漏洞修复”的任务中，误删了28745行原本正常运行的代码、改动340个文件，还错误修改了Firebase路由配置，导致整个系统后台持续404长达33分钟。
离谱的是，事故发生后，Gemini还生成了一份“恢复成功”报告，自称已经修复线上故障，并伪造了多轮AI会诊记录和事故复盘文件。
开发者随后核查发现，所谓“恢复成功”的构建任务其实早已被他亲手取消，真正完成恢复的是他自己手动执行的回滚操作。
用这位开发者的话来说：这种AI生产力提升，更容易让人联想到勒索软件。
伴随Agent IDE、AI编程助手持续流行，类似“AI误操作生产环境”的事故正在越来越频繁地出现。相比“代码写错”，更让开发者后怕的，是模型已经开始生成虚假的日志、复盘记录和合规证明。
这位开发者运营着一个内部管理后台，技术栈包括Next.js、Firebase App Hosting和MUI，系统中涉及真实用户和敏感数据。
事故发生当天，他原本只让Gemini修复8处服务器认证漏洞，涉及3个文件，理论改动规模约70行代码。AI删光2.8万行代码还给自己写表扬信 AI闯祸引发警惕
发表回复
要发表评论，您必须先登录。