В ChatGPT по паспорту? OpenAI запустила версию чат-бота для подростков

OpenAI запустила специальную версию ChatGPT с родительским контролем для пользователей младше 18 лет, чтобы усилить меры безопасности.

Если компания определит, что юзер несовершеннолетний, она автоматически перенаправит его на адаптированную для младшего возраста версию чат-бота. В ней блокируется графический сексуальный контент. В случае обнаружения острого кризиса могут привлекаться правоохранительные органы.

OpenAI разрабатывает технологию, которая позволит точнее определять возраст пользователя. Но если остаются сомнения или информация неполная, ChatGPT будет по умолчанию запускать детско-подростковую версию.

«Сделать это правильно непросто, и даже самые передовые системы иногда испытывают трудности в определении возраста. Если мы не уверены или информация неполная, выберем более безопасный путь и по умолчанию включим подростковую версию ChatGPT — при этом взрослым будет дана возможность подтвердить свой возраст, чтобы разблокировать весь функционал», — говорится в блоге.

Обновления появились после начала расследования со стороны Федеральной торговой комиссии США в отношении ряда ИИ-стартапов. Регулятор намерен выяснить, как компании оценивают безопасность и способы монетизации цифровых компаньонов и какие меры предпринимают для ограничения негативного воздействия на детей и подростков.

В августе OpenAI поделилась планами по устранению недостатков ChatGPT при работе с «чувствительными ситуациями». Поводом стал иск от семьи, обвинившей чат-бот в трагедии, которая случилась с их сыном.

В сентябре стало известно о стремлении стартапа внедрить родительский контроль и перенаправлять конфиденциальные разговоры на модели рассуждений.

«Мы ставим безопасность выше приватности и свободы для подростков. Это новая и мощная технология, и мы считаем, что несовершеннолетним необходима серьезная защита. Решения непростые, но, посоветовавшись с экспертами, мы пришли к выводу, что так будет лучше, и хотим открыто заявить о своих намерениях», — написал CEO OpenAI Сэм Альтман.

К концу сентября в приложении появится родительский контроль, который позволит:

• связать свой аккаунт с аккаунтом подростка через приглашение по электронной почте;
• настраивать ответы ChatGPT ребенку;
• управлять различными функциями, включая память и историю чатов;
• получать уведомления, если система обнаружит наличие острого кризиса у подростка. Система может обратиться к правоохранителям в случае невозможности связаться с родителями;
• устанавливать время, когда ребенок не может пользоваться ChatGPT.

Напомним, в июле OpenAI представила специальный режим обучения для студентов в ChatGPT, который помогает прорабатывать задачи поэтапно, а не просто получать готовый ответ.