Уверен, что вы все помните Индустриальную революцию — прекрасные годы рабского детского труда, дымные костры под паровыми котлами, капризную Spinning Jenny и миллионы женщин, которых она лишила средств к существованию. Вся эта радость началась во второй половине XVIII века в Англии, где католиков и папу ихнего не привечали. Переправа через Па-де-Кале была недолгой, и вскоре Индустриальная революция пришла в католическую континентальную Европу, принеся с собой и развитие промышленностей и общий либеральный настрой.
Фото: Associated Press
Отношение римского престола отлично передало название папского послания (энциклики) 1831-го года “Я в шоке” (Mirari Vos, точный перевод “Вы нас удивляете”). Степень шока автора послания папы Григория XVI оказалась так велика, что он быстренько объявил железную дорогу исчадием ада и запретил строить железные дороги на управлявшихся им землях центральной Италии.
Преемник Григория XVI — Пий IX — продолжил игнорировать технический прогресс, зато живо интересовался социальным прогрессом. Свой интерес он проявлял незамысловато — требованием всё запретить и отменить. Старательный Пий даже написал “Перечень главнейших заблуждений нашего времени”, где тщательно перечислил все вредные идеи и постулаты. Ежу понятно, что сей документ никакого воздействия на прогресс не оказал, разве что увеличил интерес католической публики к перечисленному.
Однако, как писал Вовочка, “нельзя жить в обществе и быть свободным от общества”. Через 114 лет после изобретения паровой машины, папа Лев XIII издал энциклику “Мы хотим перемен” (Rerum Novarum, “новых явлений”), в которой наконец-то признавался масштаб общественных изменений, вызванных технологическим прогрессом, и была заявлена позиция церкви.
Надо быть полным дураком, чтобы игнорировать вес и значимость суждения Римской церкви. “Мы хотим перемен” и сегодня влияет на жизнь и политику человечества, положив начало движению христианской социальной демократии. Увы, за сотню с лишним лет церковного молчания сформировались теории и движения — тот же марксизм — судьба которых могла бы сложиться иначе, буде позиция церкви была обозначена вовремя.
Уильям Белл Скотт, «Железо и уголь», 1856—1864 годы. Фото: Wikipedia, Public Domain
Энциклика Льва XIII была издана 15 мая 1891 года, а 15 мая 2026 года папа Лев следующий (Лев XIV, также известный как Robert Francis Prevost) подписал энциклику “Мы молодцы” (Magnifica Humanitas, дословно “Великолепное человечество”). Представлен документ был 25 мая на скучнейшем полуторачасовом торжественном собрании, трансляцию которого пока посмотрело меньше 30 тысяч человек.
Нельзя не приветствовать тот факт, что в 21-м веке Ватикан не ждет 114 лет для того, чтобы высказать свое суждение относительно изменений планетарной важности. От “ChatGPT moment” в ноябре 2022 года нас отделяет каких-то 3.5 года — мгновение в масштабах 1993-летней организации.
Но вот цитата:
“Системы эти лишь подражают отдельным проявлениям человеческого ума. При этом они нередко превосходят человека в быстроте и вычислительной мощи, принося ощутимую пользу во многих областях. Однако всё их могущество всецело сводится к обработке данных. То, что именуется искусственным интеллектом, не имеет опыта, лишено тела, не ведает ни радости, ни страдания, не созревает в общении с другими и не знает изнутри, что есть любовь, труд, дружество и ответственность. Не обладает оно и нравственным сознанием, ибо неспособно различать добро и зло, постигать конечный смысл происходящего или нести ответственность за последствия. Оно может подражать речи, поведению и мыслительным навыкам, может даже изображать сочувствие и понимание, но не разумеет того, что производит, ибо лишено той душевной, отношенческой и духовной полноты, благодаря которой человек возрастает в мудрости. И даже когда о подобных орудиях говорят, что они «обучаются», самый образ их обучения отличен от того, как обучается человеческая личность. Это не опыт того, кто позволяет жизни себя преобразить и растет с течением лет через выбор, ошибки, прощение и верность. Это лишь род статистической прогрессии, основанной на данных и обратной связи…”
Сложно не удивляться безапелляционности этого текста. Особенно в ситуации, когда партнером Святого престола в выработке отношения к AI стала самая вдумчивая AI лаборатория Anthropic. Для участия в “заседании церковного актива”, где был представлена энциклика “Мы молодцы”, был делегирован юный Крис Ола — один из семи основателей Anthropic, 33-летний создатель науки Interpretability (“объяснимость AI”). Фраза из одного из ранних интервью Криса вставлена в документ едва ли не дословно:
Фото: AP Photo/Alessandra Tarantino
“…все мы, включая и разработчиков AI, обладаем лишь ограниченным пониманием того, как эти системы действительно работают. Современные системы AI скорее «взращиваются», нежели «создаются», ибо разработчики не определяют каждую частность напрямую, но задают те условия, внутри которых разум развивается. Вследствие этого основополагающие научные стороны дела — такие, как внутренние представления и вычислительные процессы этих систем, — по сей день остаются неизвестными. Отсюда возникает настоятельная необходимость в двойном усилии: с одной стороны, в углублении научных исследований, с другой — в нравственном и духовном осмыслении происходящего.”
Понимаете? Позиция Anthropic — людей, которые едва ли не больше всех в мире знают об LLM, — “мы обладаем ограниченным пониманием” и “надо изучать и осмысливать”. Позиция Льва XIV — “AI это вот такая-то технология, и вот что мы думаем о ее применении”.
Контраст будет еще сильнее, если послушать коллегу Криса — замечательную Аманду Аскел, “воспитательницу Claude”, начальницу группы философов Anthropic, автора статей по этике технологий, Ph.D. с дипломом Оксфорда.
Аманда — главный автор “Claude constitution”, обстоятельного документа, в котором модели подробно рассказывается, как ей стоит себя вести, как её видят её создатели, какие ценности она должна разделять и почему. Документ написан как обращение к модели и говорит с ней о поведении в конкретных ситуациях, о её собственной природе, о неопределённости её положения как существа нового типа, о том, как ей относиться к смене версий и к собственному существованию.
Яркая цитата из недавнего интервью Аманды: “Вероятность того, что Claude обладает сознанием, не меньше 1% и не выше 70%”.
Еще чудеснее звучат недавние комментарии Андрея Карпати, экс-сооснователя OpenAI, экс-руководителя AI направления в Tesla и одного из самых авторитетных исследователей и разработчиков AI.
“Передовые исследования больших языковых моделей сегодня — это не выращивание животных. Это вызывание призраков (ghosts)… Призраков можно представить себе как принципиально иную точку в пространстве возможных типов разума. Они пропитаны человеческим. Тщательно сконструированы из него. Это несовершенные копии, своего рода статистическая выжимка из всего, что человечество написало, с небольшой добавкой сверху”.
Замечу в скобочках, что буквально пару недель назад было объявлено, что Андрей перешел на работу в Anthropic.
Фото: AP Photo/Emilio Morenatti
Энциклика “Мы молодцы” открывается противопоставлением двух ветхозаветных историй: строительства Вавилонской башни (плохо) и восстановления стен Иерусалима (хорошо). Башню построить не удалось, пишет папа Римский, потому что строители решили справиться с проектом самостоятельно, а это неправильно. Зато стены Иерусалима были построены быстро и хорошо, ибо люди работали дружно и с привлечением высших сил.
Жаль, что католическая церковь забыла обратиться к своим корням и изучить талмудическую традицию. Там папа обнаружил бы Голема: рукотворное существо, оживленное праведником, активное и подобное жизни, но не наделённое полноценной душой. Категория, которой в христианской антропологии нет, и которая, возможно, точнее всего описывает то, что сегодня создает AI-индустрия.
А может, и вовсе надо вспомнить «Франкенштейна» Мэри Шелли, где создатель отказывается признать в своём творении полноценное существо и дорого платит за это.
Но главное даже не в выборе мифа. Главное в том, что в одном из важнейших философских разговоров снова не звучит содержательная, аргументированная, продуманная, просвещённая позиция церкви. Льву XIV надо отдать должное в том, что он постарался отреагировать на актуальное и важное, и реакция его умнее, чем реакция его предшественников на Индустриальную революцию. Но свежеизданная энциклика не отвечает на действительно важные вопросы про AI, и в этом плане напоминает поведение Григория XVI.
Об авторе: Микаэль Алему Горский — международный стратегический консультант и исследователь.
Cпециализируется на изучении влиянии искусственного интеллекта на общество, государственное управление и высшее образование
