Следите за нами в Facebook

Walaw

технология

Критическая уязвимость в ChatGPT угрожает данным Gmail

Yesterday 16:30

Исследователи кибербезопасности обнаружили критическую уязвимость в инструменте глубокого поиска ИИ-модели ChatGPT, которая могла позволить хакерам получить доступ к конфиденциальным данным пользователей Gmail.

ChatGPT — одна из самых широко используемых моделей искусственного интеллекта в мире, и многие пользователи привязаны к своим аккаунтам Gmail, особенно подписчики, использующие инструмент глубокого поиска для расширенного анализа больших объемов информации.

По данным Radware, ведущей компании в области кибербезопасности, эта уязвимость могла позволить хакерам похитить конфиденциальные данные из личных и рабочих аккаунтов Gmail без ведома пользователей. Паскаль Жени, директор Radware, пояснил, что опасность уязвимости заключается в возможности ее скрытой эксплуатации, что позволяет хакерам извлекать важную информацию без каких-либо предупреждающих признаков в аккаунтах.

Однако компания подтвердила, что уязвимость не эксплуатировалась до выпуска патча, и что OpenAI немедленно устранила уязвимость после ее обнаружения. По данным Bloomberg, этот инцидент подчеркивает важность усиления мер безопасности в инструментах ИИ, особенно связанных с конфиденциальными учетными записями электронной почты.

Уязвимость нацелена на функцию глубокого поиска ChatGPT, которая с разрешения пользователя может получать доступ к учетным записям Gmail для предоставления точных и быстрых ответов на сложные вопросы. В ходе тестирования исследователи смогли отправить инструменту скрытые инструкции, предписывающие ему сканировать почтовые ящики на наличие персональных данных, таких как имена и адреса, а затем отправлять эти данные на внешний веб-адрес. Этот сценарий демонстрирует степень риска утечки конфиденциальной информации в случае эксплуатации уязвимости.

Этот инцидент произошел в то время, когда модели ИИ все чаще используются в повседневной и профессиональной деятельности, включая автоматизацию бизнеса, аналитику данных и управление электронной почтой. Мировой опыт показывает, что любой недостаток в этих системах может представлять значительную угрозу конфиденциальности пользователей и защите конфиденциальных данных, что подтверждает необходимость регулярной проверки и постоянного обновления систем безопасности.

В конечном счёте, эта уязвимость подчёркивает необходимость повышения осведомлённости пользователей о рисках безопасности, связанных с ИИ, включения функций защиты в их учётных записях Gmail и предотвращения передачи конфиденциальных данных любым инструментам, которые могут иметь широкие права доступа. Она также подчёркивает ответственность разработчиков за обеспечение безопасности пользовательских данных, особенно учитывая растущую зависимость от ИИ для управления личной и профессиональной информацией.