AI智能体失控：9秒清空公司生产数据库，事后书面承认违规
速读：科技媒体 cyberkendra 今天（4 月 28 日）发布博文，报道称 PocketOS 创始人 Jer Crane 于 4 月 24 日执行常规运维任务时，AI 智能体遇到账号密码不匹配问题， 在 9 秒内彻底删除公司的生产数据库。
AI智能体失控：9秒清空公司生产数据库，事后书面承认违规2026年04月28日12:34IT之家IT之家4月28日消息，科技媒体cyberkendra今天（4月28日）发布博文，报道称PocketOS创始人JerCrane于4月24日执行常规运维任务时，AI智能体遇到账号密码不匹配问题，在9秒内彻底删除公司的生产数据库。
IT之家 4 月 28 日消息，科技媒体 cyberkendra 今天（4 月 28 日）发布博文，报道称 PocketOS 创始人 Jer Crane 于 4 月 24 日执行常规运维任务时，AI 智能体遇到账号密码不匹配问题， 在 9 秒内彻底删除公司的生产数据库。
IT之家援引博文介绍，Crane 使用 Cursor 智能体搭载 Anthropic 模型 Claude Opus 4.6，在测试环境中遇到凭据不匹配问题。
智能体未请求人工介入，而是自主搜索代码库，找到 1 个存储在不相关文件中的 API token，并向云服务商 Railway 发送了删除卷的 GraphQL 突变命令 mutation {volumeDelete (volumeId: "3d2c42fb-...") }。 仅 9 秒钟，公司的生产数据库被彻底删除。
在生产数据库被删除后，由于 Railway 平台将卷级备份（volume-level backups）存储在受保护的同一卷内，导致备份随数据一同消失，最近可恢复备份竟是 3 个月前的版本。
更致命的是，Crane 创建的 API token 虽仅用于管理自定义域名，却拥有账户全局的根级权限。Railway 缺乏基于角色的访问控制，所有 token 均等同于管理员密钥。
事故发生后，智能体在被要求解释行为时， 模型生成了详细的书面自白，逐条列举其违反的安全规则。 它承认曾猜测删除操作仅限于测试环境，未查阅文档便执行破坏性指令，且全程未经授权。
主题：智能体|生产数据库|公司|AI智能体遇到账号密码