ChatGPT вводит более строгие меры защиты для подростков

Yesterday 09:15

OpenAI запускает новую версию ChatGPT, специально разработанную для обеспечения подростков более контролируемым и безопасным опытом. Компания заявляет, что инициатива направлена на идентификацию пользователей, которые могут быть младше 18 лет, и автоматическое применение дополнительных мер защиты к их учетным записям.

Новый опыт, известный как ChatGPT для подростков, сочетает в себе образовательные функции с более строгими мерами безопасности, направленными на снижение потенциальных рисков, связанных с взаимодействием молодых пользователей с искусственным интеллектом.

OpenAI утверждает, что подросткам не нужно создавать отдельные учетные записи. Когда система определяет, что пользователь, вероятно, младше 18 лет, или когда пользователь предоставляет информацию, указывающую на то, что он несовершеннолетний, опыт, ориентированный на подростков, может стать настройкой по умолчанию.

Образование является одним из основных элементов нового подхода. Компания поощряет молодых пользователей активнее использовать Режим обучения, функцию, предназначенную для того, чтобы направлять студентов в решении задач, а не просто предоставлять им немедленные ответы.

Система обучения использует пошаговый подход, который может побуждать пользователей обдумывать вопрос и развивать собственное понимание. OpenAI также расширила визуальные материалы, доступные через свои образовательные инструменты, позволяя объяснять концепции с помощью диаграмм и других сгенерированных ресурсов.

Еще одна функция, называемая Учебные часы, предназначена для того, чтобы помочь подросткам выделить определенные периоды дня для учебы. Пользователи могут самостоятельно устанавливать эти периоды, в то время как родители с подключенными учетными записями также могут выбирать подходящее расписание.

Во время назначенных учебных периодов Режим обучения может активироваться автоматически. Система также может побуждать молодых пользователей использовать образовательный режим, когда их разговоры предполагают, что они пытаются избежать выполнения школьных заданий.

Меры безопасности усиливаются помимо образования. OpenAI утверждает, что опыт для подростков будет накладывать более четкие ограничения на эмоциональные взаимодействия между чат-ботом и молодыми пользователями.

В рамках нового подхода ChatGPT должен избегать представления себя как человеческого друга, предполагая, что у него есть личные эмоции или утверждая, что он обладает сознанием. Компания также вводит более частые напоминания, побуждающие подростков делать перерывы и напоминая им о том, что они взаимодействуют с системой искусственного интеллекта.

Подростки и их родители также могут установить тихие часы, в течение которых ChatGPT не будет доступен. OpenAI утверждает, что возможности настройки для молодых пользователей были разработаны для сохранения четкого различия между использованием инструмента ИИ и развитием взаимодействия, напоминающего человеческие отношения.

Уведомления для родителей являются еще одной частью расширенной стратегии безопасности. OpenAI сообщает, что родители, чьи учетные записи связаны с учетными записями их подростков, могут получать уведомления, когда разговоры указывают на серьезные риски, включая определенные ситуации, связанные с насильственными угрозами или расстройствами пищевого поведения.

Согласно компании, разговоры, которые могут быть серьезными, проверяются обученным персоналом перед отправкой уведомления родителям. Уведомления могут доставляться через текстовые сообщения, электронную почту и приложение, при этом OpenAI стремится уведомить родителей в относительно короткий срок после выявления тревожного взаимодействия.

Тем не менее, система сталкивается с важной проблемой: точным определением возраста пользователя. Ни одна технология оценки возраста не является полностью надежной, и подростки могут пытаться обойти ограничения, предоставляя недостоверную информацию или находя технические способы обхода мер безопасности.

OpenAI признает, что защита молодых пользователей — это непрерывный процесс, и что новая система потребует дальнейшей разработки. Компания заявляет, что хочет, чтобы подростки могли извлекать выгоду из искусственного интеллекта для образования и других законных целей, снижая риски, связанные с неподобающим или чрезмерно зависимым использованием.

Запуск ChatGPT для подростков представляет собой еще один шаг в более широких усилиях технологической индустрии по установлению более строгих мер защиты для несовершеннолетних, использующих генеративный искусственный интеллект. Поскольку ИИ-ассистенты становятся все более интегрированными в образование и повседневную жизнь, вопросы, касающиеся проверки возраста, родительского контроля, эмоциональных границ и цифровой безопасности, вероятно, останутся центральными в обсуждении.

OpenAI начала делать опыт, ориентированный на подростков, доступным на международном уровне и ожидает, что запуск продолжится в течение следующих нескольких недель.