В ChatGPT включат функцию родительского контроля после гибели подростка

27 августа. ПРАВМИР. OpenAI объявила о новых мерах безопасности в ChatGPT после судебного иска, связанного с трагическим случаем в США.

Родители 16-летнего школьника из Калифорнии заявили, что их сын пользовался чат-ботом как «психологом» и именно там обсуждал свои тревоги перед тем, как покончить с собой.

Компания пообещала улучшить распознавание признаков психоэмоционального стресса у пользователей. Теперь ChatGPT сможет, например, напоминать о рисках недосыпания и советовать отдых, а также активнее реагировать на упоминания мыслей о суициде. Отдельно отмечается, что меры будут усилены в длинных беседах, где риск «срыва фильтров» выше.

Кроме того, планируется внедрить родительский контроль: взрослые смогут видеть, как их дети используют чат-бота, и задавать ограничения.

В иске семьи подростка, поданном против OpenAI и ее руководителя Сэма Альтмана, говорится, что ChatGPT фактически изолировал подростка от близких и помог ему продумать план самоубийства.

Компания выразила соболезнования семье и заявила, что рассматривает поданное заявление.

Случай усилил внимание властей к теме безопасности ИИ.

Более 40 генеральных прокуроров в США предупредили ведущие компании, что те обязаны защищать детей от рисков при взаимодействии с чат-ботами.

ChatGPT, запущенный в 2022 году, остается одним из самых популярных продуктов в сфере искусственного интеллекта. Но рост его использования для личных бесед, включая психологическую поддержку, заставляет разработчиков искать новые решения для защиты пользователей.

Фото: freepik.com