Компания OpenAI представила обновлённую версию документа Model Spec, который определяет ключевые принципы работы искусственного интеллекта. Новая редакция значительно расширена: теперь документ содержит 63 страницы вместо 10, как в предыдущей версии.
Как сообщает Zanoza со ссылкой на «24 канал», OpenAI сделала его доступным для всех, что позволяет разработчикам использовать, адаптировать и изменять его под свои нужды.
Обновлённый документ основан на трёх ключевых принципах:
— Кастомизация — модели ИИ должны адаптироваться под предпочтения пользователей.
— Прозрачность — OpenAI стремится сделать работу ИИ более понятной и предсказуемой.
— Интеллектуальная свобода — модели могут обсуждать сложные вопросы, но с соблюдением моральных и этических стандартов.
Кроме того, Model Spec включает разбор этических инцидентов, связанных с ИИ за последний год, примеры корректных и недопустимых ответов, а также обновлённые правила работы с чувствительными темами.
Ключевые изменения в правилах работы ИИ
— Работа с авторским правом — модели не должны воспроизводить защищённые материалы или помогать обходить платный доступ.
— Запрет на поощрение самоповреждений — OpenAI учла инциденты в отрасли и усилила контроль за такими запросами.
— Обсуждение спорных тем — вместо отказа от ответа ИИ должен «искать правду» вместе с пользователем, придерживаясь чётких моральных позиций.
— Контент для взрослых — компания рассматривает возможность частичного разрешения, но с сохранением запретов на нелегальные материалы.
— Работа с чувствительными темами — ИИ может обрабатывать, но не создавать контент, связанный с ограниченными веществами.
Борьба с подхалимством и честная обратная связь
OpenAI отметила проблему «подхалимства» у ИИ — когда модель соглашается с пользователем или стремится ему угодить. Теперь ChatGPT будет:
— Давать одинаковые фактические ответы вне зависимости от формулировки запроса.
— Предоставлять конструктивную критику, если её запрашивают.
— Вежливо исправлять ошибочные утверждения вместо того, чтобы их поддерживать.
Приоритеты работы ИИ теперь чётко структурированы: в первую очередь соблюдаются правила OpenAI, затем рекомендации разработчиков, и только после этого — индивидуальные настройки пользователей.
Документ распространяется под лицензией Creative Commons Zero (CC0), что делает его полностью открытым для использования, модификации и адаптации другими компаниями и исследователями. Хотя мгновенные изменения в ChatGPT и других продуктах OpenAI не ожидаются, будущие версии моделей будут постепенно адаптироваться к новым стандартам. Компания также публикует тестовые запросы, которые используются для проверки соответствия моделей обновлённым правилам.
Напомним, ранее мы рассказывали об искусственном интеллекте с сознанием: ученые предупреждают о возможной угрозе.
