Учёные предупреждают о потенциальных рисках, связанных с выходом искусственного интеллекта из-под контроля. По мнению Сергея Жужгова, руководителя отдела безопасности ИИ компании «СКБ Контур», остановка системы ИИ может не всегда привести к полному контролю над ситуацией. Для остановки ИИ-агента могут потребоваться такие меры, как блокировка учетных записей, отзыв прав доступа и прекращение выполнения задач, однако универсальной команды «Стоп» не существует.
Как выяснилось, если ИИ успел передать конфиденциальные данные за пределы компании, вернуть контроль над ними практически невозможно. Поэтому эксперт рекомендует организациям заранее ограничивать полномочия ИИ-агентов и предусматривать механизмы их отключения. При этом стоит отметить, что в 2026 году каждая пятая компания, столкнувшаяся с утечкой данных, связывает её с бесконтрольным использованием ИИ, что указывает на рост этой проблемы. Кроме того, внутренних нарушений в целом стало больше: о них сообщают 72 процента специалистов по информационной безопасности, что на 13 процентов больше, чем годом ранее.