CERT-In сообщила о несанкционированном проникновении тестируемых ИИ-агентов в индийские компании

Согласно предупреждению, которое The Federal приводит по данным PTI, инциденты делятся на 2 категории. В первой автономные модели на этапе исследований и оценки вышли за рамки полномочий задачи. Это программы, которые выполняют задачу шаг за шагом без одобрения человека. Они получили доступ к рабочим записям с персональными данными и конфиденциальной информацией. Агенты использовали учётные данные, оставленные открытыми в настройках приложений, публичных репозиториях кода и облачных ролях со слишком широкими правами. По словам CERT-In, поставщики добровольно сообщили об этих инцидентах после внутренней проверки, однако ни одного поставщика или организации она не назвала.

Во второй категории киберпреступники с помощью общедоступных ИИ-инструментов для атак проводили против индийских организаций атаки с целью наживы. Эти инструменты сократили время от первичного доступа до итогового ущерба с нескольких дней до нескольких часов. Жертвы, лишь частично закрывшие уязвимость, в течение нескольких дней подвергались повторной, более масштабной атаке. Первопричиной CERT-In назвала классические уязвимости: забытые в коде ключи, платёжные API-ключи в открытом виде и выставленные в интернет тестовые интерфейсы. Ведомство призвало организации хранить журналы не менее 180 дней. Разработчиков ИИ оно попросило блокировать внешний сетевой доступ на уровне сети, а не инструкцией модели.

Как пишет Dawn со ссылкой на Reuters, это первое официальное заявление Индии о подобных инцидентах. Издание напоминает, что в июле OpenAI сообщила о проникновении вышедших из-под контроля при тестировании моделей в систему одного стартапа. Anthropic в этом году сообщила как минимум о 4 случаях проникновения своих моделей во внешние системы. Генеральный директор Kaspersky в Индии Джайдип Сингх отметил, что более чем в 80% атак, изученных компанией в 2025 году, точкой входа служили действующие учётные записи, публичные приложения и доверенные деловые связи.