В ChatGPT появился специальный режим для подростков
19 августа. ПРАВМИР. У ChatGPT появился специальный режим для подростков. Он рассчитан прежде всего на школьников 13-17 лет и предусматривает дополнительные ограничения для чувствительного и потенциально опасного контента. А также создан, чтобы «помочь подросткам учиться, критически мыслить, углублять понимание и уверенно использовать ИИ».
Если пользователь при регистрации указывает возраст младше 18 лет или система определяет, что аккаунт, вероятно, принадлежит подростку, к нему могут автоматически применить дополнительные меры защиты.
Как говорится на сайте компании OpenAI, для оценки возраста ChatGPT учитывает разные сигналы, в том числе указанную дату рождения, особенности использования сервиса и время активности. Если совершеннолетнего пользователя ошибочно отнесут к подросткам, он сможет подтвердить свой возраст.
В подростковом режиме ChatGPT осторожнее отвечает на запросы, связанные с жестоким контентом, опасными интернет-челленджами, сексуальными и романтическими ролевыми играми, самоповреждением, экстремальными диетами и нереалистичными стандартами внешности.
OpenAI подчеркивает, что такие ограничения снижают вероятность нежелательных ответов, но не могут полностью исключить их.
Отдельное внимание компания уделяет учебе. Подростки могут использовать Study Mode, в котором ChatGPT не просто выдает ответ, а помогает разобраться в задании с помощью вопросов, пошаговых объяснений и проверки понимания. Родители, если их аккаунт связан с аккаунтом ребенка, могут сделать этот режим стандартным для новых чатов.
Для связанных семейных аккаунтов предусмотрен родительский контроль. Родители могут управлять отдельными функциями ChatGPT, устанавливать часы, когда сервисом нельзя пользоваться, включать дополнительные ограничения чувствительного контента и настраивать Study Mode. При этом читать переписку ребенка или следить за ней в реальном времени они не могут.
В отдельных ситуациях повышенного риска родитель может получить уведомление. Например, если системы ChatGPT и специалисты обнаружат признаки серьезной угрозы самоповреждения или определенные риски, связанные с насилием.
В OpenAI заявляют, что в таких случаях родителю передается только информация, необходимая для безопасности подростка, а не содержание всей переписки.
Компания также пытается снизить риск чрезмерной эмоциональной привязанности к чат-боту. В правилах поведения для пользователей младше 18 лет усилен акцент на том, что ChatGPT должен поддерживать обращение подростка к людям в реальной жизни, когда это необходимо, и не создавать ложного впечатления человеческих чувств или отношений. OpenAI ранее называла эмоциональную зависимость от ИИ одной из проблем, над которой продолжает работать.
Еще одна задача нового режима — не обращаться с подростками как с маленькими детьми. В OpenAI говорят, что ограничения должны учитывать возраст и особенности развития, но при этом сохранять возможность учиться, задавать вопросы и самостоятельно разбираться в сложных темах.
Компания OpenAI объявила о новых мерах безопасности в ChatGPT в августе прошлого года — после судебного иска, связанного с трагическим случаем в США. Родители 16-летнего школьника из Калифорнии заявили, что их сын пользовался чат-ботом как «психологом» и именно там обсуждал свои тревоги перед тем, как покончить с собой.
В иске семьи подростка, поданном против OpenAI и ее руководителя Сэма Альтмана, говорится, что ChatGPT фактически изолировал подростка от близких и помог ему продумать план самоубийства.
Фото: kaboompics.com/pexels.com