Илон Маск призывает конкурентные компании ИИ тестировать модели друг друга

16:00

Илон Маск предложил новый подход к безопасности искусственного интеллекта, который потребует от крупных разработчиков ИИ тестировать модели друг друга перед их широким выпуском для общественности. Эта идея возникает на фоне растущих опасений по поводу рисков, связанных с все более мощными системами ИИ, и трудностей в выявлении потенциальных уязвимостей только с помощью внутреннего тестирования.

Выступая на саммите All-In в Лос-Анджелесе, Маск предложил, чтобы ведущие американские и китайские компании ИИ предоставили своим конкурентам доступ к своим моделям для независимых оценок безопасности. В рамках такой системы соперничающие разработчики смогут изучать модели, разработанные другими компаниями, выявлять слабые места и сообщать о потенциальных рисках до того, как технология достигнет более широкой аудитории.

Компании, упомянутые в предложении Маска, включают OpenAI, Anthropic, Google, Meta и его собственную компанию ИИ, xAI, а также несколько крупных китайских разработчиков. Эта инициатива фактически введет форму рецензирования в тестирование безопасности ИИ, когда конкурирующие лаборатории будут проверять системы, разработанные вне их организаций.

Маск утверждал, что полагаться исключительно на внутренние команды безопасности компании может оставить некоторые уязвимости невыявленными. Внешнее тестирование конкурентами, как он предположил, может предоставить другую перспективу и выявить слабые места, которые разработчики могут упустить во время собственных оценок.

Предложение отражает более широкий дебат в технологической индустрии о том, как должны оцениваться продвинутые системы ИИ перед развертыванием. Поскольку модели становятся все более мощными и все чаще интегрируются в бизнес, программное обеспечение, образование и другие сферы, исследователи и политики изучают способы улучшения тестирования безопасности и установления более четких стандартов для оценки потенциальных рисков.

Разработчики ИИ уже используют ряд методов для оценки своих систем, включая упражнения красной команды, противостоящее тестирование и оценки, проводимые внешними исследователями. Однако объем и методология этих оценок существенно различаются между компаниями. Предложение Маска пошло бы дальше, сделав прямое тестирование между крупными конкурентами более систематической частью процесса разработки.

Такое соглашение могло бы предоставить дополнительный уровень контроля, особенно для моделей с продвинутыми возможностями. Конкуренты могут иметь стимулы активно искать недостатки, поскольку они знакомы с техническими проблемами разработки аналогичных систем и могут подходить к тестированию с другой точки зрения, чем компания, создавшая модель.

В то же время реализация идеи представит значительные практические проблемы. Компании ИИ интенсивно конкурируют за долю рынка, таланты и технологические преимущества, что делает их неохотными предоставлять конкурентам доступ к своим проприетарным моделям. Также необходимо будет решить вопросы, касающиеся интеллектуальной собственности, кибербезопасности, конфиденциальных методов обучения и потенциального раскрытия коммерчески чувствительной информации.

Еще одной проблемой будет установление общих правил для такого тестирования. Компаниям необходимо будет согласовать, какую информацию можно делиться, как контролируется доступ, какие критерии безопасности применяются и как сообщаются уязвимости. Независимый контроль также может стать необходимым, если тестирование конкурентами должно играть формальную роль в решениях о готовности модели ИИ к публичному развертыванию.

Предложение также подчеркивает растущую важность сотрудничества между компаниями ИИ, несмотря на их интенсивную коммерческую конкуренцию. Крупные разработчики конкурируют, чтобы создать все более мощные модели, одновременно сталкиваясь с давлением со стороны правительств, исследователей и гражданского общества, чтобы продемонстрировать, что их системы могут быть развернуты ответственно.

Тестирование между компаниями не исключит необходимость внутренних команд безопасности или независимых исследований. Вместо этого оно может потенциально дополнить существующие методы оценки, добавив еще один уровень контроля перед тем, как продвинутые модели станут широко доступными.

Таким образом, предложение Маска добавляет к растущему обсуждению о том, как индустрия ИИ должна управлять рисками, связанными с быстрым технологическим развитием. Будут ли крупные американские и китайские компании готовы участвовать в системе, основанной на взаимном доступе и конкурентном тестировании, остается открытым вопросом, но эта идея подчеркивает растущее внимание к более широким и независимым оценкам безопасности.