OpenAI нарушает крупномасштабную попытку воспроизвести возможности ChatGPT

Friday 02 - 19:10

OpenAI заявляет, что ей удалось нарушить крупномасштабную операцию, направленную на извлечение результатов из своих моделей искусственного интеллекта с целью воспроизведения некоторых из их возможностей с помощью техники, известной как дистилляция модели. Компания сообщила, что в этой деятельности участвовали тысячи аккаунтов, и она была обнаружена и остановлена после того, как следователи выявили скоординированные паттерны использования.

Дистилляция модели — это легитимная техника, широко используемая в исследованиях искусственного интеллекта. Она позволяет разработчикам обучать меньшие или более эффективные модели, используя информацию, генерируемую более крупными системами. Однако OpenAI утверждает, что тот же подход может быть использован без разрешения для воспроизведения возможностей, разработанных с помощью значительных инвестиций в вычислительные ресурсы, обучающие данные и исследования.

Согласно OpenAI, деятельность началась в ограниченном масштабе в июле, прежде чем расшириться через скоординированную сеть аккаунтов. Компания сообщила, что выявила более 15 000 аккаунтов, связанных с операцией, и впоследствии приостановила аккаунты, которые она считала вовлеченными в попытки извлечь и повторно использовать возможности модели.

OpenAI связала часть этой деятельности с Moonshot AI, китайским разработчиком, стоящим за помощником Kimi AI, при этом подчеркивая, что не установила, несет ли компания ответственность за всю операцию. Эти обвинения появляются на фоне растущего внимания в Соединенных Штатах к использованию дистилляции модели китайскими компаниями ИИ. Официальные лица США отдельно обвинили несколько китайских компаний, включая Moonshot AI, в использовании дистилляции для воспроизведения возможностей, разработанных американскими компаниями ИИ. Китай отверг такие обвинения и утверждал, что дистилляция является стандартной техникой в разработке ИИ.

Проблема выходит за рамки коммерческой конкуренции. OpenAI утверждает, что несанкционированное извлечение продвинутых возможностей модели также может создать проблемы безопасности, если системы воспроизводят мощные возможности, не включая меры безопасности и согласования, разработанные вместе с оригинальными моделями. Компания ранее описывала враждебную дистилляцию как потенциальный коммерческий, безопасностной и стратегический риск.

OpenAI сообщила, что отреагировала, закрыв подозрительные аккаунты, усилив свои системы мониторинга и устранив уязвимости, которые могли способствовать этой деятельности. Компания также заявила, что работала с внешними поставщиками услуг, чтобы нарушить аккаунты и инфраструктуру, связанную с операцией, и поделилась соответствующими выводами с другими технологическими компаниями и правительствами.

Инцидент подчеркивает растущую сложность защиты передовых моделей ИИ, поскольку разработчики все больше полагаются на автоматизированные системы, доступ к API в крупном масштабе и синтетические данные. OpenAI заявила, что ее усилия по обнаружению теперь сочетают автоматизированные классификаторы, поведенческий анализ, технический мониторинг и человеческие расследования для выявления попыток систематически воспроизводить возможности модели.

Компания ожидает, что такие попытки станут более сложными по мере улучшения систем ИИ. Спор также отражает более широкую проблему для отрасли: балансировку легитимных исследований и более широкого распространения возможностей ИИ с защитой интеллектуальной собственности и мер безопасности, окружающих все более мощные модели.

OpenAI заявила, что продолжит усиливать свои меры мониторинга и безопасности, одновременно поощряя более широкое обмен информацией между компаниями ИИ и государственными органами по мере развития технологии.