Развитие искусственного интеллекта (ИИ) ставит перед наукой и обществом важные этические вопросы, в том числе о возможности появления сознания у таких систем. Эти проблемы заставляют экспертов готовиться к потенциальным вызовам, которые могут возникнуть в случае развития ИИ с признаками самосознания.
Как сообщает Zanoza со ссылкой на «Сikavosti», футурологи и философы, в частности Анил Сет из Университета Сассекса, подчеркивают важность учета «благополучия ИИ» при разработке новых технологий. Как он замечает, «Проблема Франкенштейна не в том, что он ожил, а в том, что он стал умным и способен чувствовать». Хотя вероятность создания сознательного ИИ пока невелика, его последствия могут быть настолько масштабными, что человечество должно уже сейчас разрабатывать протоколы для оценки и управления такими ситуациями.
Одним из важных шагов в этом направлении является разработка критериев для определения разумности ИИ. В докладе авторы предупреждают, что ошибки в оценке могут иметь серьезные последствия как для людей, так и для технологий. Например, чрезмерное внимание к созданию гипотетически сознательного ИИ может отвлечь ресурсы от других важных аспектов, таких как безопасность и контроль за влиянием новых технологий на общество.
Тем не менее, тема становится все более актуальной для общественности. Компания Anthropic, специализирующаяся на разработке языковых моделей, стала первой, кто ввел должность эксперта по благополучию ИИ. Однако международные организации, в частности ООН, до сих пор не уделяют должного внимания этой проблеме, несмотря на многочисленные призывы ученых.
Между тем, сторонники идеи, что ИИ может обладать сознанием, такие как Марк Виттманн, считают ее невозможной из-за принципиальных различий между живыми организмами и машинами. В живых существах структура и функция взаимосвязаны и динамичны, в то время как в компьютерных системах аппаратное и программное обеспечение функционируют отдельно. Однако дискуссии не прекращаются и ученые призывают серьезно рассматривать возможные будущие сценарии.
Напомним, ранее мы рассказывали, как используют искусственный интеллект для обучения в школах Ливерпуля.
