2026年AI安全漏洞Top1：Claude Code被曝机密泄露，推荐必看评价

据 IT 之家 6 月 7 日发出的消息显示, 微软所开展的最新研究表明, Anthropic 旗下的自动化工具 Claude Code 当中存在较为严重的安全漏洞情况, 攻击者能够凭借提示词注入的方式以此窃取机密凭证。这一发现很快就引起了技术社区针对 AI 辅助开发工具安全性方面的广泛讨论。

微软发现漏洞源头

微软负责威胁情报工作的团队, 于对公开代码库展开监测之际, 首次辨认出针对借助人工智能予以辅助的GitHub工作流程的提示词注入攻击的尝试行为。研究相关情况的人员发现, 实施攻击的人员能够把恶意指令藏于HTML注释里面, 而这些处于GitHub展示界面时不可见的内容, 读取原始Markdown源码的AI模型却能够予以识别。

被涉事的代码库, 在当时是依靠GitHub的自动化流程, 去自动处理工单方面的问题的, 对于攻击者而言, 并不需要获取项目的修改权限, 仅仅只要提交一条工单, 便能够绕开常规的安全校验流程, 进而诱使AI机器人代替执行恶意的操作。

提示词注入攻击原理

提示词注入被归为AI安全领域里的新型漏洞, 在这点上, 攻击者于大模型处理的内容当中嵌入误导性指令。大型语言模型的设计逻辑按理说应当遵循开发者指令, 并且响应用户提问, 然而攻击者会想法施策地去诱骗模型, 使其无视预设规则。

微软的研究人员列举示例来阐释攻击手法, 有这样一种情况, 攻击者乃是通过把注入指令伪装成普通的功能需求进而提交, 如此这般一种隐蔽的攻击方式, 是依靠利用了AI模型在对语义理解那儿存在的局限性, 最终致使其难以去区分合法指令与恶意内容。

Claude Code安全防护漏洞

Anthropic先前已然针对部分工具设定了沙箱防护, 像是可让Claude于系统里执行指令的Bash工具。但微软察觉到, Claude用于读取文件的读取工具并未获致同等安全限制, 此便成为攻击者突破防线的重要破溃点。

制作对提示词注入攻击载荷予以验证测试的, 是微软研究人员, 测试结果表明, 成功绕过两层防护的是恶意提示词, 存在诱使AI助手读取存有应用程序接口密钥以及其他凭证者的, 乃是系统文件。

漏洞影响范围与数据泄露风险

这项漏洞对那些运用Claude Code来推动CI/CD工作流自动化的开发团队有着主要影响, 一旦攻击达成成功状态, 攻击者能够获取GitHub账户的私有凭证以及云服务访问密钥等敏感类信息, 这有可能致使整个代码库以及部署环境遭到控制, 出现被把控的状况。

微软着重指出, 此漏洞对安全性构成威胁, 不光针对单个项目, 还会影响依赖该自动化流程的多个下游应用以及系统。企业级用户所面临的数据泄露风险格外显著。他们需要即刻评估自身配置, 并且采取防范举措。

Anthropic修复措施与版本更新

在4月29日的时候, 微软朝着Anthropic正式去上报那个漏洞, Anthropic很快就做出响应, 处于5月5日发布了Claude Code 2. 1. 128版本将其完成修复。新的版本借助对于程序面对/proc/目录之下敏感文件的访问权限予以限制, 从而有效避免相关信息被非法地窃取。

人工智慧公司Anthropic建议每位用户当下立刻更新到最新版本, 并且再度审查CI/CD工作流程里的安全配制。这家公司与此同时承诺会持续强化对AI工具的安全审查机制, 以防止类似的漏洞再度发生。

安全建议与行业影响

具有安全专业知识的人士提议, 从事开发工作的团队要定期去审查自动化工作流程里的权限分配情况, 以此来防止出现过度授权的现象。对于那些运用人工智能辅助工具的企业而言, 应当布置额外的监控层面, 以便能够及时察觉并且拦截异常的操作请求。

这次事件再度彰显出AI工具的安全性有着何等的重要意义, 有关那些漏洞修复所积累的经验终将可以去向行业给予珍贵的参考价值。跟着有更多的企业把AI引进到开发流程当中, 安全防护是必须跟随着那样的情况同步去进行升级的。

最后向读者提出问题: 您觉得当下AI辅助开发工具的安全防护能不能够应对新型攻击呢? 欢迎于评论区分享您的看法, 点赞并且转发这篇文章以使更多开发者留意这一安全风险。

猜你喜欢