OpenAI вводит новые ограничения для пользователей ChatGPT младше 18 лет, включая возможность запроса удостоверений личности

Компания OpenAI объявила о запуске новых мер для пользователей ChatGPT, не достигших 18-летнего возраста. Об этом стало известно из блога на официальном сайте компании, автором которого является CEO Сэм Альтман. Он отметил, что эти изменения направлены на достижение баланса между безопасностью, свободой и конфиденциальностью, при этом в случае подростков акцент делается на безопасность.

По словам Альтмана, OpenAI внедрит систему анализа поведения, которая поможет определять возраст пользователей. Если модель не сможет точно установить возраст, она будет предполагать, что пользователь является подростком, и ограничит его доступ к ряду функций. Тем, кто попадает в эту категорию, будут недоступны некоторые темы, включая создание художественных произведений с элементами самоповреждения или обсуждение самоубийства. Даже в рамках творческих заданий система будет отказывать в генерации таких сюжетов.

Если подросток во время общения с ChatGPT выразит суицидальные мысли, система сможет уведомить родителей, а в случае угрозы жизни обратиться в соответствующие органы. В то же время взрослым пользователям будут доступны более широкий функционал и чувствительные темы, при условии соблюдения общих норм безопасности.

Ограничения будут применяться как для новых, так и для существующих учетных записей, однако в тексте не уточняется, как именно OpenAI будет обеспечивать соблюдение этих правил в разных странах с учетом различий в законодательстве и культуре. Также не раскрыты детали алгоритма определения возраста и его надежности.

Альтман заявил, что компания стремится сделать ChatGPT полезным и безопасным для всех возрастных групп, но в случае подростков OpenAI сознательно идет на определенные ограничения ради их защиты.

«В некоторых случаях или странах мы можем запросить подтверждение личности; мы понимаем, что это может нарушать конфиденциальность для взрослых, но считаем это разумным компромиссом», — добавил Альтман.