Компания Google объявила о скором запуске своего искусственного интеллекта Gemini для юных пользователей до 13 лет.
Как сообщает Zanoza со ссылкой на «РolitЕxpert», это нововведение уже вызвало волну обеспокоенности у специалистов по цифровой безопасности. Причина в том, что генеративные ИИ-системы, к которым относится и Gemini, нередко создают контент с ошибками, а порой и вовсе недостоверную информацию.
Как и где будет доступен детский Gemini
Изначально сервис появится в США и Канаде, а чуть позже – в Австралии. Дети смогут взаимодействовать с чат-ботом через учётные записи Family Link, при этом родители получат инструменты для контроля, однако им нужно будет вручную включить соответствующую настройку. Если этого не сделать, доступ к боту будет открыт по умолчанию, что может привести к неконтролируемому использованию сервиса детьми.
Функциональность и особенности работы
Gemini умеет генерировать тексты и изображения по пользовательским запросам. Для детей это может стать увлекательным способом поиска информации или творческого выражения, но при этом ответы, получаемые от ИИ, не всегда гарантируют точность. Google честно предупреждает: бот может выдавать как правдивые, так и ошибочные сведения. Это означает, что родителям придётся быть особенно внимательными, отслеживая, как их дети используют сервис.
Google утверждает: личные данные детей не используются
Компания заверяет, что информация, предоставляемая несовершеннолетними пользователями, не будет применяться для обучения ИИ. Это может частично снизить опасения родителей по поводу утечки данных, однако полностью вопрос конфиденциальности всё равно остаётся открытым.
Возможные угрозы и риски
Одной из главных проблем является то, что дети ещё не всегда способны отличить фактическую информацию от вымышленной. Это делает их особенно уязвимыми перед генеративным ИИ, который может создавать контент, похожий на достоверный, но не соответствующий реальности. Даже взрослые нередко принимают ИИ-генерации за истину, что уж говорить о детях. Кроме того, есть риск психологического воздействия. Неправильно сгенерированные ответы могут сбить с толку, вызвать тревогу или ввести ребёнка в стрессовое состояние. А учитывая, что критическое мышление у детей только формируется, такие ситуации могут повлиять на их развитие и доверие к источникам информации.
Почему важно говорить о «цифровом долге заботы»
Появление таких продуктов, как Gemini, подчёркивает необходимость более жёсткого регулирования со стороны государства и самих технологических гигантов. В ряде европейских стран и Великобритании уже действуют законы, обязывающие компании обеспечивать безопасность несовершеннолетних пользователей. Однако в Австралии подобных норм пока нет и ответственность за цифровую безопасность в значительной степени ложится на плечи родителей.
Новые технологии требуют не только инноваций, но и осознанного подхода. Родителям важно не просто доверять встроенным функциям контроля, а активно участвовать в процессе – обсуждать с детьми их онлайн-опыт, объяснять риски и учить безопасному взаимодействию с искусственным интеллектом.
Напомним, ранее мы сообщали, что приложение Gemini от Google получило возможность редактировать изображения: как созданные ИИ, так и загруженные вручную.