-
17:00
-
16:00
-
15:15
-
14:25
-
14:00
-
13:40
-
13:00
-
12:15
-
11:30
-
11:08
-
10:44
-
10:00
-
09:15
-
09:00
-
08:28
-
07:55
-
07:45
Следите за нами в Facebook
Агенты искусственного интеллекта: новая цель для кибератак
Стремительный рост числа агентов искусственного интеллекта открывает новый фронт в кибербезопасности. Эти инструменты, интегрированные в браузеры и корпоративные системы, становятся основными целями для «быстрого внедрения» (Rump Injection) – техники, включающей в себя внедрение вредоносных инструкций в веб-страницы, электронные письма или изображения, которые ИИ затем выполняет без ведома пользователя.
В то время как Meta считает эту угрозу просто уязвимостью, OpenAI описывает её как «нерешённую проблему безопасности». С появлением автономных агентов искусственного интеллекта, способных действовать самостоятельно в сети – просматривать веб-страницы, получать доступ к базам данных или взаимодействовать с другими системами, – у киберпреступников появились новые векторы атак, доступные каждому.
Попав под обман, агент искусственного интеллекта может извлекать конфиденциальные данные, изменять файлы или манипулировать поведением веб-сайта, что представляет системный риск для организаций. Компании реагируют: Microsoft интегрировала детектор подозрительных заказов, а OpenAI оповещает пользователей о доступе ИИ к конфиденциальному сайту.
Сложность заключается в поиске баланса между безопасностью и практичностью. Пользователи хотят, чтобы ИИ работал без постоянного контроля, но эксперты отмечают, что ИИ ещё недостаточно развит для автономной работы в течение длительного времени, особенно в таких чувствительных секторах, как банковское дело, здравоохранение и государственное управление.
