OpenAI усиливает меры безопасности ChatGPT для подростков

Tuesday 18 - 17:17

OpenAI расширяет свои меры безопасности для подростков, использующих ChatGPT, стремясь обеспечить более подходящий для их возраста опыт, позволяя молодым пользователям извлекать выгоду из искусственного интеллекта для обучения, творчества и повседневных задач.

Подход компании все больше основывается на технологии предсказания возраста, предназначенной для определения того, принадлежит ли учетная запись кому-то младше 18 лет. Когда система выявляет возможного подросткового пользователя, ChatGPT может автоматически применять дополнительные меры предосторожности, даже если информация о возрасте, изначально предоставленная при регистрации, указывает на другое.

Улучшенные меры защиты направлены на снижение воздействия на подростков чувствительного или потенциально неприемлемого материала. К ним относятся графическое насилие, рискованные онлайн-вызовы, сексуальные или жестокие ролевые игры, контент, связанный с самоубийством, и материалы, пропагандирующие экстремальные стандарты красоты, нездоровое питание или стигматизацию тела.

OpenAI утверждает, что цель не в том, чтобы предотвратить использование ChatGPT подростками, а в том, чтобы адаптировать сервис к их возрасту и потребностям развития. Компания подчеркивает роль ИИ в образовании и производительности, отмечая, что многие молодые пользователи уже полагаются на эту технологию для обучения, получения информации и развития навыков.

Система определения возраста оценивает комбинацию сигналов учетной записи и использования, включая паттерны активности, как долго существует учетная запись и возраст, указанный пользователем. Когда система не уверена, OpenAI говорит, что может предпочесть более защитный опыт для пользователей младше 18 лет. Взрослые, которые были неверно классифицированы, могут подтвердить свой возраст, чтобы удалить дополнительные меры защиты для подростков.

Компания также разработала родительский контроль, который позволяет родителям или опекунам с привязанными подростковыми учетными записями управлять определенными аспектами опыта ChatGPT. Эти средства управления могут включать такие функции, как тихие часы, определенные настройки модели и уведомления о безопасности.

Шаг OpenAI отражает более широкую дискуссию о том, как генеративный искусственный интеллект должен использоваться несовершеннолетними. Поскольку инструменты ИИ становятся все более интегрированными в образование, коммуникацию и развлечения, технологические компании сталкиваются с растущим давлением различать опыт взрослых и подростков, защищая при этом молодых пользователей от неприемлемых взаимодействий.

Компания ранее установила принципы, специально предназначенные для пользователей в возрасте от 13 до 17 лет, подчеркивая профилактику, прозрачность и поддержку реальных отношений. Эти принципы направлены на то, чтобы ChatGPT относился к подросткам иначе, чем к взрослым, избегая при этом снисходительного подхода к молодым пользователям.

ChatGPT не предназначен для детей младше 13 лет, в то время как пользователи в возрасте от 13 до 18 лет подлежат дополнительным требованиям и мерам защиты. OpenAI продолжает совершенствовать свои системы предсказания возраста по мере развития технологии, признавая, что ни одна автоматизированная система не может точно определить возраст.

Последние меры подчеркивают растущее значение безопасности и дизайна, соответствующего возрасту, поскольку искусственный интеллект становится все более широко используемым молодыми поколениями. Для OpenAI задача будет заключаться в том, чтобы сбалансировать доступ к образовательным и творческим инструментам ИИ с более строгими мерами защиты для пользователей, которые могут быть более уязвимыми к вредному или неприемлемому контенту.