OpenAI и Nvidia поднимают дебаты о том, достигнута ли AGI

16:00

Индустрия искусственного интеллекта вступает в новую фазу дебатов о общем искусственном интеллекте (AGI), после того как высокопоставленные фигуры из OpenAI и Nvidia предположили, что недавние достижения могут означать начало эпохи, в которой ИИ-системы приближаются к человеческим способностям или превосходят их в широком диапазоне задач.

Стэнфордский университет в общем определяет AGI как ИИ-систему, способную учиться, рассуждать и применять знания в различных областях на общем уровне, сопоставимом или превышающем человеческие способности. В отличие от специализированных инструментов ИИ, AGI предполагается, что будет демонстрировать широкую компетентность, а не преуспевать только в ограниченном наборе задач.

Последние заявления следуют за выпуском новой модели Astra от OpenAI, также известной как GPT-6 Astra. Генеральный директор Nvidia Дженсен Хуанг заявил в социальных сетях, что AGI уже достигнута, в то время как соучредитель и президент OpenAI Грег Брокман сказал, что компания переходит в то, что он назвал «эпохой AGI».

OpenAI представила Astra как значительный шаг вперед в компьютерных задачах, подчеркивая возможности в таких областях, как программная инженерия, кибербезопасность, научная работа, веб-серфинг и профессиональные приложения. Компания также указала на улучшения в взаимодействии с компьютером, а также на производительность в задачах, связанных с визуальным пониманием и распознаванием звука.

Тем не менее, эти утверждения остаются частью более широкой и сильно оспариваемой дискуссии в технологическом секторе. Нет общепринятого технического порога для определения, когда AGI была достигнута, что означает, что заявления компаний, разрабатывающих все более мощные модели, сами по себе не решают вопрос.

Собственные исследователи OpenAI также выразили обеспокоенность по поводу растущей сложности понимания все более способных ИИ-систем. Главный ученый Якоб Пачокки предупредил, что по мере того, как модели становятся более сложными, исследователи могут обнаружить, что им труднее предсказать, на что они способны.

В недавнем эссе Пачокки утверждал, что будущие ИИ-системы могут обеспечить улучшения возможностей, сопоставимые или превышающие те, что были замечены в последние годы. Он также выразил опасения, что все более продвинутые системы могут способствовать аспектам своего собственного развития, потенциально ускоряя темпы прогресса.

Его предупреждение отражает растущую озабоченность среди исследователей ИИ и политиков о том, что технологическое развитие может идти быстрее, чем общество способно установить эффективные меры предосторожности. Быстрое расширение ИИ с момента публичного запуска ChatGPT в 2022 году усилило конкуренцию среди крупных технологических компаний, в то время как правительства продолжают разрабатывать регуляторные рамки.

Европейский Союз продвигается вперед с Законом о ИИ, одним из самых обширных регуляторных усилий, нацеленных на искусственный интеллект. Однако остаются вопросы о том, как существующие правила будут применяться к все более автономным и способным системам.

Дебаты также приобрели срочность после сообщений о том, что ИИ-агенты используются в все более сложных средах, включая разработку программного обеспечения и кибербезопасность. Такие события побудили исследователей изучить не только преимущества продвинутого ИИ, но и возможность работы систем таким образом, который трудно предсказать людям.

Последние заявления OpenAI, таким образом, подчеркивают парадокс в центре дебатов о AGI. Компании отмечают беспрецедентные достижения в машинном интеллекте, одновременно признавая, что поведение и способности будущих систем могут стать все более трудными для мониторинга и понимания.

Достигла ли Astra или любая другая текущая модель действительно уровня AGI, остается спорным вопросом. Тем не менее, становится все труднее оспаривать скорость, с которой развиваются возможности ИИ, и растущее давление на правительства, исследователей и технологические компании, чтобы подготовиться к последствиям.