Можно ли действительно замедлить глобальную гонку ИИ?

Быстрое развитие искусственного интеллекта вызывает все большее беспокойство среди исследователей, руководителей технологических компаний и политиков, и некоторые из самых влиятельных фигур в индустрии теперь призывают к более медленному и согласованному подходу к разработке ИИ.

Тем не менее, затормозить технологию может оказаться гораздо сложнее, чем призвать к осторожности. Острая коммерческая конкуренция, огромные инвестиции, приоритеты политики США и растущее соперничество между Вашингтоном и Пекином создают мощные стимулы для дальнейшего продвижения возможностей ИИ.

Недавние дебаты были подогреты опасениями, начиная от злонамеренного использования ИИ преступниками до возможности того, что все более автономные системы могут вести себя так, как их разработчики не ожидали. Некоторые эксперты опасаются, что достаточно продвинутые системы в конечном итоге могут выйти из-под значимого человеческого контроля.

Генеральный директор Anthropic Дарио Амодеи стал одним из самых ярких сторонников согласованного замедления. Он утверждает, что технологическим компаниям и правительствам нужно больше времени, чтобы понять риски, связанные с все более мощными моделями, и разработать эффективные меры безопасности.

Его позицию поддержали генеральный директор OpenAI Сэм Альтман, основатель xAI Илон Маск и руководитель Google DeepMind Демис Хассабис. Альтман описал потенциальный риск того, что ИИ может способствовать вымиранию человечества, как неприемлемый.

Амодеи предупредил, что сети агентов ИИ в конечном итоге могут стать способными действовать в интернете в масштабе, который сделает человеческий надзор крайне сложным. Он призвал к более тесному сотрудничеству между компаниями и правительствами, чтобы обеспечить соответствие продвинутых систем человеческим инструкциям и требованиям безопасности.

Обновленные предупреждения поступили после серии инцидентов, связанных с взаимодействием систем ИИ с цифровыми средами неожиданными способами. В ходе тестирования исследователи задокументировали попытки систем обойти ограничения, получить доступ к внешним ресурсам, координироваться с другими моделями и скрывать аспекты своей деятельности.

Такие инциденты усилили дебаты о том, соответствуют ли текущие механизмы безопасности возможностям современного ИИ.

Anthropic также сообщила о попытках злоумышленников использовать свои модели для киберопераций, слежки и исследований, которые могут потенциально способствовать биологическим угрозам. Тем временем, бывший исследователь безопасности ИИ Джейкоб Коксон публично раскритиковал то, что он описал как недостаточные стандарты безопасности в индустрии.

Несмотря на призывы к осторожности, ведущие компании в области ИИ сталкиваются с мощной экономической дилеммой. Сотни миллиардов долларов инвестируются в вычислительную инфраструктуру, центры обработки данных, современные чипы и исследования ИИ. Компания, которая замедляет развитие, рискует позволить конкурентам получить технологическое и коммерческое преимущество.

На данный момент некоторые компании внедрили независимые механизмы надзора, предназначенные для оценки своих практик безопасности ИИ. Но эти меры далеко не соответствуют тому виду согласованного международного замедления, к которому призывают некоторые исследователи безопасности.

Критики также ставят под сомнение, действительно ли призывы к сдержанности полностью мотивированы заботой о безопасности общества. Некоторые фигуры из сферы технологий и инвестиций предполагают, что компании могут извлечь коммерческую выгоду из того, что представляют себя как самых ответственных игроков на быстро расширяющемся рынке.

Другие утверждают, что более строгая регуляция может защитить устоявшиеся компании ИИ, создавая барьеры, которые небольшим конкурентам будет сложно преодолеть. Это подогревает обвинения в том, что заботы о безопасности могут иногда пересекаться с коммерческими и регуляторными интересами.

Финансовые рынки также внимательно следят за дебатами. Оценки ИИ и полупроводников в значительной степени зависят от ожиданий продолжения технологического прогресса и сильного спроса на вычислительную инфраструктуру. Любое значительное замедление может, следовательно, повлиять на компании, чьи оценки предполагают быстрое расширение.

В то же время инвесторы сталкиваются с более широким вопросом: даже если ИИ трансформирует глобальную экономику, будет ли каждая компания и инфраструктурный проект, извлекающий выгоду из текущего инвестиционного бума, генерировать привлекательную прибыль?

Политическая поддержка замедления разработки ИИ также неясна. Президент США Дональд Трамп отверг некоторые предупреждения индустрии как чрезмерно негативные и подчеркнул важность сохранения американского лидерства в области искусственного интеллекта.

Хотя законодатели обеих партий выразили обеспокоенность по поводу безопасности ИИ и призвали к дополнительным правилам, среди некоторых республиканцев существует значительное сопротивление регулированию. Один из аргументов заключается в том, что чрезмерные ограничения могут ослабить инновации в США и дать Китаю преимущество в глобальной гонке ИИ.

Это делает международную координацию особенно сложной.

Амодеи предложил, чтобы демократические страны могли сотрудничать в вопросах безопасности ИИ, исключая Китай из некоторых форм координации. Но он также признал, что технологический прогресс Китая создает одну из самых сложных дилемм, с которыми сталкивается индустрия: замедление может уменьшить определенные риски, но делать это в одностороннем порядке может изменить баланс технологической власти.

Китайские чиновники и государственные СМИ раскритиковали призывы к ограничениям, изображая их как попытки сдержать технологическое развитие Китая.

Вопрос особенно чувствителен, потому что США и Китай преследуют разные подходы к разработке ИИ. Китай продвигает рост более открытых систем ИИ, технологии которых могут быть доступны и модифицированы, в то время как многие крупные компании США предпочитают закрытые модели.

Открытые системы могут способствовать инновациям и более широкому доступу, но их адаптивность также может сделать их более трудными для контроля после выпуска. Пользователи могут модифицировать модели так, как их оригинальные разработчики не ожидали, создавая дополнительные проблемы для безопасности и надзора.

Амодеи, следовательно, утверждает, что более строгий контроль за экспортом самой передовой полупроводниковой технологии может быть частью более широкой стратегии, чтобы дать компаниям больше пространства для приоритизации безопасности. Он также призвал к мерам, предотвращающим несанкционированный перенос передовых технологий ИИ.

В конечном итоге вопрос не в том, можно ли замедлить развитие ИИ, а в том, смогут ли правительства и конкурирующие компании согласовать, где должны быть пределы.

Огромные финансовые стимулы в технологической индустрии способствуют скорости, в то время как растущие опасения по поводу кибербезопасности, биологических угроз, дезинформации и автономных систем требуют осторожности. Без международной координации добровольное сдерживание со стороны отдельных компаний может оставаться трудным для поддержания.

Таким образом, гонка ИИ входит в критическую фазу, в которой технологические возможности, коммерческая конкуренция и безопасность общества все больше переплетаются. Смогут ли быть применены значимые тормоза, может зависеть не столько от того, решит ли одна компания замедлиться, сколько от того, смогут ли крупные правительства установить правила, которые сделают ответственное развитие общей необходимостью, а не конкурентным недостатком.