Искусственный интеллект может выйти из-под контроля навсегда — Небо Сегодня
Главная Наука и образование Искусственный интеллект может выйти из-под контроля навсегда

Искусственный интеллект может выйти из-под контроля навсегда

Учёные предупреждают о потенциальных рисках, связанных с выходом искусственного интеллекта из-под контроля. По мнению Сергея Жужгова, руководителя отдела безопасности ИИ компании «СКБ Контур», остановка системы ИИ может не всегда привести к полному контролю над ситуацией. Для остановки ИИ-агента могут потребоваться такие меры, как блокировка учетных записей, отзыв прав доступа и прекращение выполнения задач, однако универсальной команды «Стоп» не существует.

Как выяснилось, если ИИ успел передать конфиденциальные данные за пределы компании, вернуть контроль над ними практически невозможно. Поэтому эксперт рекомендует организациям заранее ограничивать полномочия ИИ-агентов и предусматривать механизмы их отключения. При этом стоит отметить, что в 2026 году каждая пятая компания, столкнувшаяся с утечкой данных, связывает её с бесконтрольным использованием ИИ, что указывает на рост этой проблемы. Кроме того, внутренних нарушений в целом стало больше: о них сообщают 72 процента специалистов по информационной безопасности, что на 13 процентов больше, чем годом ранее.

Другие новости

Оставить комментарий

О нас

Изображения, фотографии, если не указан источник, созданы с использованием нейросети «Кандинский (Kandinsky by Sber AI)», иных нейросетевых генераторов или получены из открытых источников с соблюдением лицензий и могут не полностью соответствовать содержанию в силу генеративного характера.  Использование визуального контента не нарушает норм права и соответствует законодательству Российской Федерации.

Сетевое издание «Небо сегодня». Средство массовой информации зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций, регистрационный номер серия ЭЛ № ФС 77-86641 от 26 января 2024 г.

1

Агентство новостей «Небо сегодня» ©. Все права защищены .

Яндекс.Метрика