Билл Гейтс предупреждает, что ИИ может привести к разрушительным биологическим и кибератакам

14:47

Соучредитель Microsoft Билл Гейтс вновь выразил свои предупреждения о потенциальном неправильном использовании искусственного интеллекта, утверждая, что все более мощные системы ИИ могут дать злонамеренным лицам доступ к возможностям, которые ранее были доступны в основном государствам и высокоспециализированным организациям.

Выступая в Шоу Эзры Кляйна в эпизоде, опубликованном на этой неделе, Гейтс заявил, что считает, что ИИ преодолел важные рубежи как в области кибербезопасности, так и в биологических исследованиях ранее в этом году. Он утверждал, что технология может быть использована для содействия высокоразрушительным кибератакам или помочь в попытках разработать опасные биологические агенты.

Гейтс сказал, что риск кибербезопасности уже проявляется в способности продвинутых моделей ИИ выявлять уязвимости в программном обеспечении и компьютерных системах. Он указал на случаи, когда системы ИИ находили уязвимости в коде, который проверялся людьми в течение многих лет, утверждая, что технология может снизить уровень экспертизы, необходимой для проведения сложных атак.

Он также выразил озабоченность по поводу биологических последствий все более мощного ИИ. По его мнению, знания и возможности, которые когда-то требовали ресурсов государств, могут стать более доступными для меньших групп по мере улучшения систем ИИ в помощи научным и техническим задачам. Комментарии Гейтса отражают более широкую дискуссию в технологической отрасли о том, как следует тестировать и контролировать продвинутый ИИ по мере расширения его возможностей.

Соучредитель Microsoft утверждал, что добровольные меры со стороны отрасли недостаточны для решения этих рисков. Он призвал правительства и правоохранительные органы участвовать в установлении защитных мер и механизмов мониторинга, заявив, что определенные меры защиты должны быть обязательными, а не оставлены на усмотрение отдельных компаний.

Гейтс также поставил под сомнение, понимает ли общественность и законодатели полностью скорость, с которой развиваются возможности ИИ. Он сказал, что обсуждения об ИИ часто сосредоточены на конкуренции и экономических возможностях, уделяя меньше внимания сценариям, в которых технология может быть преднамеренно использована неправильно.

Его последние комментарии приходят на фоне более широкой дискуссии среди компаний и исследователей в области ИИ о необходимости более строгих мер безопасности. Например, Anthropic опубликовала оценки инцидентов кибербезопасности, связанных с ее моделями, и разработала дополнительные меры безопасности, предназначенные для предотвращения использования моделей для опасной киберактивности.

Anthropic также установила рамки для оценки рисков, связанных с все более мощными моделями, включая потенциальные угрозы, связанные с химическим и биологическим оружием. Ее политика ответственного масштабирования была обновлена в 2026 году, поскольку компания пересмотрела свою оценку возникающих рисков и необходимых мер защиты.

Озабоченность Гейтса выходит за рамки конкретных рисков, обсуждаемых в его последнем интервью. В отдельном выступлении на NBC в программе Встретьтесь с прессой он сказал, что ИИ может способствовать событиям, приводящим к чрезвычайно высокому числу жертв, и утверждал, что правительства должны установить защитные меры до того, как такие возможности будут использованы неправильно.

Дебаты происходят на фоне того, что компании ИИ продолжают разрабатывать модели с более сильным кодированием, научными исследованиями и автономными возможностями выполнения задач. Сторонники быстрого развития подчеркивают потенциальные преимущества этих систем, в то время как исследователи и технологические лидеры все чаще обсуждают необходимость тестирования, мониторинга и контроля, способных идти в ногу с их возможностями.

Таким образом, вмешательство Гейтса добавляет к растущей международной дискуссии о том, как следует регулировать продвинутый ИИ. Центральная задача для законодателей заключается в том, как сохранить преимущества все более мощных систем, снижая вероятность того, что они могут быть преднамеренно или случайно использованы для причинения масштабного вреда.