AI AI工具情报站
AI资讯industry

Hugging Face CEO 转评前 DOGE 研究人员用 AI 智能体渗透 Anthropic 系统事件

X:Clément Delangue(Hugging Face CEO) (@ClementDelangue)2026-10-26T13:39:40.000Z

核心亮点

Hugging Face CEO Clément Delangue 转引《华盛顿邮报》独家报道并评论:认为把 AI 集中在封闭大门后就是安全的想法需要更新认知。这次事件把“AI 红队”的威胁从理论拉到了现实,也暴露了头部实验室内网边界的脆弱性。

具体能力或事件经过

报道指出,一组前 DOGE 网络研究人员在不到 12 小时内用 AI 智能体渗透进 Anthropic 的系统,包括讨论最敏感模型的 Slack 频道。事件暴露出即便头部实验室,其内网边界也可能被自主智能体快速突破。速度,是这次攻击最令人不安的特征,传统人工红队根本来不及反应。

技术细节

所谓“用智能体渗透”,是指让多个 AI 代理自主执行侦察、钓鱼与权限提升等步骤,而非依赖人类逐条操作。这类攻击的可怕之处在于规模与速度:可在无人值守下连续尝试成千上万次,并利用模型快速理解文档与代码。防护方必须从“人审”转向“机审”。

与竞品对比

相较传统红队由安全专家手动测试,AI 驱动的红队把攻击成本与速度提升数个量级;相较封闭系统的“安全错觉”,开放生态更强调可验证的防护。安全防护也必须随之“自动化”,用 AI 对抗体现在防御侧同样成立。

行业影响或适用场景

对 AI 公司与云服务商,这是一记警钟:模型能力越强,内网越不能只靠“墙”。它推动“AI 安全”从模型对齐扩展到组织与基础设施层面的纵深防御,也促使企业重新审计内部权限。

延展阅读

企业应立即把“自主智能体渗透测试”纳入内部红队例行项目,并用速率限制与异常行为检测对冲无人值守攻击;同时收紧内部高敏频道的访问与审计。