Google предупреждает о росте кибератак с использованием ИИ

17:30

Google предупреждает об ускорении кибератак с использованием ИИ после обнаружения попытки использовать ранее неизвестную уязвимость безопасности, которая, возможно, была разработана с использованием передовых технологий ИИ.

По данным американской компании, злоумышленники пытались использовать уязвимость, позволяющую обходить системы двухфакторной аутентификации в инструменте, широко используемом для управления онлайн-сервисами. Однако уязвимость была быстро обнаружена и устранена благодаря сотрудничеству Google и пострадавшего поставщика, что предотвратило потенциальную крупномасштабную кампанию кибератак.

Это предупреждение основано на отчете, опубликованном Google Threat Intelligence Group, в котором отмечается растущее использование генеративного искусственного интеллекта киберпреступниками, а также группами, спонсируемыми государством. Сообщается, что инструменты ИИ сейчас используются в нескольких чувствительных областях, включая разработку вредоносного ПО, выявление уязвимостей безопасности, автоматизированные фишинговые кампании и сложные кибератаки.

В отчете подчеркивается, что целевая уязвимость возникла не из-за типичной ошибки программирования, а из-за «семантической логической ошибки», присущей дизайну системы. Этот тип уязвимости особенно трудно обнаружить традиционными методами. Google считает, что современные модели искусственного интеллекта становятся способными выявлять такие сложные уязвимости благодаря своему контекстному пониманию того, как функционирует программное обеспечение.

Исследователи GTIG также указывают на то, что обнаружили несколько признаков, указывающих на то, что код эксплойта мог быть сгенерирован с помощью системы искусственного интеллекта. К ним относятся необычная инструкционная документация, аномалии в оценке рисков безопасности и высокоорганизованная структура кода, напоминающая наборы данных, используемые для обучения моделей машинного обучения.

Согласно отчету, злоумышленники планировали использовать эту уязвимость в более масштабной операции по обходу надежной аутентификации и получению несанкционированного доступа к различным учетным записям пользователей после кражи учетных данных.

В документе также упоминается появление более автономного вредоносного ПО, способного напрямую взаимодействовать с цифровыми устройствами. Программа PROMPTSPY, обнаруженная на устройствах Android, предположительно способна использовать интерфейсы искусственного интеллекта для анализа экрана смартфона и автоматического выполнения таких действий, как прокрутка, клики или ввод кодов аутентификации.

В условиях постоянно меняющегося ландшафта угроз Google заявляет об ускорении разработки инструментов защиты на основе ИИ. Компания работает над такими системами, как Big Sleep и CodeMender, предназначенными для автоматического обнаружения уязвимостей безопасности и предоставления исправлений до того, как они будут использованы злоумышленниками.

Это последнее предупреждение иллюстрирует быструю трансформацию глобального ландшафта кибербезопасности, где искусственный интеллект становится стратегическим инструментом как для защитников, так и для киберпреступников.