29.09.2023

Митрополит Климент: Нейросеть и эффект сострадания

Разработка и использование искусственного интеллекта вызывает множество вопросов. Ведь говорить о высоких технологиях можно с разных позиций.
Сейчас по большей части звучат восторженные оценки перспектив развития технологий искусственного интеллекта или уверенные выводы специалистов о позитивных изменениях, которые уже происходят в нашей жизни в связи с их повсеместным внедрением. Действительно, бессмысленно оспаривать очевидное — в наши дни очень многое в жизни каждого человека связано с успехами в данной области.
Однако достижения такого рода имеют существенное этическое звучание, поскольку затрагивают многие проблемы, связанные с глубинной сутью человеческой жизни. В этом смысле развитие искусственного интеллекта, различные формы его введения в жизнь общества должны быть оценены с точки зрения нравственности, чтобы у человечества была возможность скорректировать их в будущем. Моральные вопросы в данной сфере рассматриваются многими представителями научного и экспертного сообществ. При этом голос традиционных религий редко учитывается. Часто их четкая позиция интерпретируется светскими специалистами, при этом акценты смещаются, принципиальные вопросы сглаживаются, и в итоге сложно понять причины нашей обеспокоенности развитием этой сферы.
Русская Православная Церковь длительное время занимается изучением вопросов, связанных с этикой использования информационных технологий и искусственного интеллекта. Мы исходим из того, что фундаментальной составляющей всей современной европейской цивилизации по-прежнему остается христианство, а система нравственных ценностей имеет своим основанием Евангелие. Эту составляющую невозможно не принимать во внимание при разработке той системы координат, в которой должны существовать любые достижения человеческого разума.
Церковь видит свою задачу в напоминании необходимости нравственного выбора для человека и потому формулирует этическую проблематику таким образом, чтобы люди, отвечающие за разработку и внедрение технологий искусственного интеллекта, осознавали свою ответственность. Именно в этом и состоит задача Церкви — быть для общества тем «колоколом», который будет слышен в любых опасных ситуациях.
Это касается, например, тенденции к формированию глобальной системы контроля, покушающейся на дарованную Богом свободу личности, или претензий на создание человекоподобных существ путем слияния искусственного интеллекта и человеческого мозга. Сегодня эти попытки несостоятельны. По утверждению Игоря Станиславовича Ашманова, занимавшегося внедрением системы искусственного интеллекта в России одним из первых, «если брать …не голливудские выдумки, то искусственный интеллект …позволяет машине имитировать некоторые когнитивные функции человека. Именно имитировать». В справедливости его слов можно убедиться на примере запущенных в этом году генеративных моделей для текстового и графического контента Яндекс (YaGPT и «Шедеврум») и Сбер (GigaChat и «Кандинский»). Они осуществляют формирование обширной базы запросов и подходящих к ним ответов, а также самообучение на основании обратной связи пользователей. Показательно, что данная модель не способна «осмысливать» запрос. Она лишь вырабатывает релевантный ему контент.
Вычислительная машина, робот не заменят человека. История человечества свидетельствует, что реальную опасность для людей представляет не искусственный интеллект — очередное научное изобретение, а сам человек, отказавшийся от нравственного аспекта своей жизни. И напротив, когда человек созидает, творит во благо человечества, исходя из евангельской системы отсчета, ему не навредят никакие порождения его разума.
В рассуждениях об искусственном интеллекте порой теряется очень важная категория — человек как таковой. Фантасты и кинематографисты предлагают образ будущего, в котором машина сначала заменяет, а потом уничтожает своего создателя. Современные технологии не способны заменить человека, но исключают его из целого ряда процессов, уменьшают его роль в социальной системе. Здесь кроется реальная проблема взаимодействия человека со своим продуктом, которым является искусственный интеллект, — человек становится неинтересным себе.
Мы лишаем себя контактов друг с другом и с окружающим нас реальным миром, все чаще обращаемся к нейросетям и заменяем человеческое общение диалогом с виртуальным голосовым помощником. Пока это кажется чем-то безобидным и даже удобным. Но если задуматься, то ведь тем самым мы исключаем из своей жизни важнейшие составляющие человеческого счастья — чудо душевного соприкосновения, сопричастность жизни другого, осознание общности и своеобразия личности.
Христианство — это религия, в которой человек познает Бога через другого человека. Христос говорит нам о том, что мы служим Ему через сострадание окружающим, через соучастие, сопереживание и деятельную помощь им (ср. Мф. 25:34—40). Этот бесценный опыт должен быть у каждого, потому что он приближает нас к спасению. Через служение реальным людям мы подтверждаем, что хотим быть с Господом вечно в Его Царстве. Этот опыт необходимо актуализировать именно сейчас, когда мы рискуем привыкнуть к тому, что может быть найдена искусственная замена человеку, как собеседнику, как объекту нашего внимания.
Сегодня мы стоим и перед другими существенными вызовами, которые открываются в новых технологиях. В ответ человек должен проявлять свою человечность именно в том, чтобы вызовы становились перспективами для его всестороннего развития, в первую очередь — духовного совершенствования.

«Вечерняя Москва»