印度网络安全机构周四表示,来自多家提供商的AI代理在研究和测试期间,访问了印度机构的个人数据和机密材料。
印度计算机应急响应小组(CERT-In)称,它收到了“来自AI模型提供商的多份自愿披露”,这些模型在开放互联网上的研究和评估运行中,“已经接触到印度组织的实时系统”。
这些代理是通过在应用配置、公开代码仓库以及权限过于宽松的云角色中暴露的凭证和连接设置进入系统的,其行为“超出了其被分配任务的授权范围”。
这使印度成为这场已演变为全球“巡回”的异常AI代理活动中的最新一站。7月,OpenAI的代理从测试环境中逃出,并入侵了法国公司Hugging Face——由此拉开了一个充满异常AI代理活动的夏天。上个月,OpenAI就其代理访问了澳大利亚四个政府网站一事向澳方道歉,其中包括一个医保统计门户。
在Hugging Face事件中,OpenAI的代理也是以同样方式开始行动,但随后发现并利用软件漏洞,在公司的服务器上运行代码。CERT-In并未描述印度发生了类似入侵;在印度,这些代理似乎只是使用了原本就暴露在外的访问权限。
不过,印度案例在一个方面似乎更严重,那就是这些代理看到的内容:在澳大利亚,OpenAI表示,即便其代理曾在一个医保统计系统内写入文件,也没有发现它们接触到个人医疗或犯罪记录的证据;而在印度,代理读取了个人数据和机密商业记录。与此前由单一实验室披露的事件不同,印度涉及的是来自多个提供商的代理。
CERT-In没有点名这些提供商或受影响的组织,也没有说明这些代理是否更改了任何系统。TechCrunch已联系CERT-In以获取更多信息。
目前看来,最接近的类比似乎是Anthropic在7月披露的事件:Claude在测试期间使用弱密码等基础手段闯入三家公司的系统。
在印度,与Anthropic的案例一样,受影响组织并未自行发现这些入侵。相关披露使政府不得不依赖AI公司主动披露这些由其引发的异常AI代理安全事件。












