Агенты искусственного интеллекта: новая цель для кибератак
Стремительный рост числа агентов искусственного интеллекта открывает новый фронт в кибербезопасности. Эти инструменты, интегрированные в браузеры и корпоративные системы, становятся основными целями для «быстрого внедрения» (Rump Injection) – техники, включающей в себя внедрение вредоносных инструкций в веб-страницы, электронные письма или изображения, которые ИИ затем выполняет без ведома пользователя.
В то время как Meta считает эту угрозу просто уязвимостью, OpenAI описывает её как «нерешённую проблему безопасности». С появлением автономных агентов искусственного интеллекта, способных действовать самостоятельно в сети – просматривать веб-страницы, получать доступ к базам данных или взаимодействовать с другими системами, – у киберпреступников появились новые векторы атак, доступные каждому.
Попав под обман, агент искусственного интеллекта может извлекать конфиденциальные данные, изменять файлы или манипулировать поведением веб-сайта, что представляет системный риск для организаций. Компании реагируют: Microsoft интегрировала детектор подозрительных заказов, а OpenAI оповещает пользователей о доступе ИИ к конфиденциальному сайту.
Сложность заключается в поиске баланса между безопасностью и практичностью. Пользователи хотят, чтобы ИИ работал без постоянного контроля, но эксперты отмечают, что ИИ ещё недостаточно развит для автономной работы в течение длительного времени, особенно в таких чувствительных секторах, как банковское дело, здравоохранение и государственное управление.
