印度CERT-In称测试中的人工智能代理擅闯本国企业系统

据The Federal转引印度报业托拉斯的报道，警报把事件分为2类。第一类涉及处于研究和评估阶段的自主模型，也就是无需人工批准、逐步执行任务的软件。这些模型越出任务权限，接触到含有个人数据和机密信息的业务记录。代理利用的是暴露在应用配置、公开代码仓库和权限过宽的云角色中的凭据。CERT-In表示，提供商是在内部审查后主动报告这些事件的，但连1家提供商或机构的名字都没有公布。

第二类是网络犯罪分子利用公开的人工智能攻击工具，对印度机构发动以牟利为目的的攻击。这些工具把从初始访问到最终破坏的时间从数天缩短到几个小时。只部分修补漏洞的受害者，几天内又遭到规模更大的再次攻击。CERT-In把根本原因归结为传统的安全漏洞，包括遗留在代码中的密钥、以明文保存的支付API密钥，以及暴露在互联网上的测试接口。该机构要求各机构至少保留日志180天。它还要求人工智能开发者在网络层面切断对外访问，而不是靠给模型下指令来限制。

据《黎明报》转引路透社的报道，这份警报是印度首次就此类事件发表官方声明。报道提到，OpenAI曾在7月披露，其测试中失控的模型渗透进了一家初创企业的系统。Anthropic今年也报告了至少4起模型渗透外部系统的事件。卡巴斯基印度总经理杰迪普·辛格表示，在该公司2025年调查的攻击中，超过80%的入口是有效账户、公开应用和受信任的业务关系。