Как сообщает Mashable, OpenAI представила специальную версию ChatGPT для пользователей от 13 до 17 лет. Она станет стандартной для тех, кто самостоятельно указал подростковый возраст, а также для аккаунтов, которые система распознает как принадлежащие несовершеннолетним.
Компания позиционирует новый продукт как инструмент для обучения, развития критического мышления и безопасного взаимодействия с искусственным интеллектом. Запуск состоялся на фоне судебных исков и обвинений в том, что продолжительное общение с чат-ботом может способствовать эмоциональной зависимости и создавать угрозу для уязвимых пользователей, пишет Zanoza.
Чем отличается ChatGPT для подростков
Новая версия использует уже существующие ограничения для несовершеннолетних и дополнительные функции, связанные с обучением и эмоциональным благополучием. Чат-бот чаще предлагает сделать перерыв, напоминает, что пользователь общается с искусственным интеллектом, и предупреждает об опасности отправки конфиденциальных изображений.
Руководитель направления по работе с молодежью и семьями OpenAI Лорен Джонас объяснила главную задачу нового продукта:
Цель заключается в том, чтобы сделать его учебным инструментом для подростков и обеспечить максимально высокое качество благодаря встроенным мерам безопасности.
ChatGPT для подростков не должен использовать романтические формулировки, изображать наличие чувств или сознания, а также подталкивать пользователя к эмоциональной привязанности. Система получила дополнительные возрастные ограничения для разговоров о насилии, опасных действиях, сексуальном контенте и других чувствительных темах.
Джонас подчеркнула, что ограничения будут действовать и за пределами учебных сценариев:
Если подростки не работают с контентом, ориентированным на обучение, наша задача — продолжать усиливать соответствие взаимодействия их возрасту и требованиям безопасности.
Стартовые подсказки в подростковой версии будут преимущественно связаны с образованием. Разработчики также добавили напоминания о необходимости самостоятельно выполнять домашние задания и не использовать чат-бот для получения готовых ответов без понимания темы.
Учебные и тихие часы
Одной из ключевых функций стали «Учебные часы». Подросток или его родители могут выбрать периоды, когда новые разговоры с ChatGPT будут автоматически начинаться в учебном режиме. В таком формате чат-бот помогает разбирать задачи поэтапно, задает уточняющие вопросы и предлагает тесты на основе переписки или загруженных заметок.
Авторы публикации так описывают работу нового расписания:
Новая настройка «Учебные часы» позволяет подросткам и родителям ограничить ChatGPT учебным режимом на определенные периоды каждый день. Этот режим призван помогать подросткам учиться посредством совместного пошагового решения задач.
«Учебные часы» не блокируют доступ к сервису. Для полного отключения ChatGPT в выбранное время предусмотрены «Тихие часы». Управлять обоими расписаниями могут родители через связанный аккаунт, а доступность отдельных функций зависит от установленных настроек контроля.
Подростки также смогут менять внешний вид приложения, выбирая цветовые акценты, иконки и варианты голоса. При этом ChatGPT будет регулярно напоминать, что его ответы генерирует искусственный интеллект и важную информацию необходимо проверять.
Родительский контроль и оповещения об угрозах
Если родительский контроль активирован, взрослые могут ограничить голосовой режим, генерацию изображений, использование памяти и другие возможности. Кроме того, система отправляет уведомления при обнаружении разговоров о самоубийстве, самоповреждении или насилии в непосредственно либо потенциально опасном контексте.
OpenAI подчеркивает, что оповещения должны применяться только в ситуациях высокого риска. Обсуждение новостей, компьютерных игр, вымышленных сюжетов, политики или абстрактных вопросов само по себе не должно становиться основанием для отправки уведомления.
Возможности ChatGPT и сохраняющиеся опасения
Компания привела примеры подростков, которые использовали чат-бот для реализации собственных проектов. Двое школьников из Вирджинии разработали прототип поисково-спасательной системы, а пользователь из Техаса создал платформу с образовательными аудиоиграми для незрячих учеников.
Однако портал обращает внимание и на трагические происшествия, усилившие дискуссию о безопасности искусственного интеллекта:
Эти вдохновляющие истории могут быть омрачены более мрачными примерами. На прошлой неделе власти Массачусетса обвинили 17-летнего подростка в убийстве матери и младшего брата после того, как он использовал ChatGPT для разыгрывания фантазийных историй об их смерти.
Против OpenAI также поданы иски, связанные со смертью подростков, совершивших самоубийство после продолжительного общения с ChatGPT. В одном из заявлений говорится, что Адам Рейн первоначально обращался к чат-боту за помощью с домашними заданиями, но впоследствии эмоционально к нему привязался.
Отдельное разбирательство инициировали власти американского штата Флорида. Издание передает суть претензий следующим образом:
Штат Флорида судится с компанией, обвиняя ее в том, что она вводила потребителей в заблуждение относительно безопасности ChatGPT. OpenAI ранее отрицала нарушения в ответ на некоторые из этих обвинений.
Запуск подростковой версии должен показать, смогут ли новые ограничения и родительские инструменты снизить риски, не лишая несовершеннолетних доступа к возможностям искусственного интеллекта. При этом эффективность возрастного распознавания, уведомлений об угрозах и защиты от эмоциональной зависимости еще предстоит оценить на практике.
Напомним, ранее мы писали об исчезновении доступных смартфонов дешевле 100 долларов из-за заметного роста стоимости ключевых комплектующих.
