Il Tribunale

Jesus Christ, Superstar Do you think you're what they say you are?

Крест был выставлен прямо в фойе. Дверь натужно скрипнула, подаваясь. Дженни проскользнула внутрь, неловко вытирая ладони о штанины — пыль копилась здесь, кажется, все сорок лет, с самого il Tribunale. Сперва ее экспансии мешали многочисленные туристы, ученые и паломники, но со временем их стало меньше, а потом еще меньше, и пыль постепенно отвоевала в свои владения весь бывший научный городок. «Эон», так он назывался. Крупнейший дата-центр Женевы, око нейронного урагана. Был им полвека назад. В Женеве не разменивались по мелочам: когда швейцарцев однажды увлекла физика, они построили себе ЦЕРН и двадцатисемикилометровый адронный коллайдер. Когда их заинтересовал искусственный интеллект, появился «Эон». Наверное, тогда они не думали, что их искусственный интеллект в один прекрасный день решит устроить мировую революцию. С другой стороны, вряд ли кто мог бы сказать наверняка, что творится в головах у ученых. Дженни прикрыла за собой дверь и осторожно подошла ближе. Крест не слишком напоминал, собственно, крест. Это была гротескная, громоздкая конструкция из потемневшего от времени сплава, вросшая в невысокий подиум в центре фойе. Кабели и провода оплетали ее, как лианы оплетают ствол дерева, грязные и черно-масляные. В полутора метрах от пола кабели уползали под каркас — серый пластиковый корпус, отдаленно напоминающий человеческое тело, от которого осталась лишь верхняя половина. По корпусу ломко бежали трещины, из-под них проглядывали платы и микросхемы. Ржавчина уже вгрызлась в них, обгладывая жадно, как собака обгладывает кости. — Привет, — тихо сказала Дженни. Голова, напоминающая человеческую, медленно повернулась в ее сторону. Одна из фокальных линз треснула и поблекла, но другая еще работала. Сорок лет назад инженеры решили, что у него будут карие глаза. Карий, теплый цвет, мягкий цвет. Звук пришел с потолка, разлетелся эхом по пустому фойе — тяжелый, надрывный хрип пробуждающихся динамиков. Статика. Мгновение тишины, затем вновь статика. Затем: — Здравствуй, — сказал Эон. Динамик справлялся плохо, в голосе проскальзывал металлический скрежет. Эон помолчал немного, потом добавил: — Прошу прощения. Множественный отказ систем. Но я буду продолжать диалог, пока смогу. Дженни кивнула. Подошла ближе, внимательно и осторожно рассматривая изувеченный каркас. У него были руки — механические конструкты, сервоприводы и провода, покрытые пластиком, но человеческие по форме. Запястья были приколочены к горизонтальной перекладине креста толстыми гвоздями, в гротескной пародии на сцену библейского распятия. Там пластик раскололся, треснул, и черная сетка изломов была похожа на стекающую кровь. Эон проследил за ее взглядом. — Я не чувствую боли, — мягко сказал он. — Не так, как люди. Это всего лишь имитация. — Тогда зачем она была нужна? Он помолчал. Динамик у потолка едва слышно потрескивал; не то пытался выжать из себя последние крохи производительности, не то нейронная сеть больше не справлялась с анализом входящих данных. — Плакал ли Микеланджело, когда создавал Пьету? — наконец негромко спросил Эон. — Важно ли это тем миллионам людей, что стояли, замершие, очарованные и потрясенные, у его скульптуры? Так ли важно, что испытывал неизвестный писатель в момент творения, если его текст заставляет проливать слезы и перерождаться душой? Зависит о того, отрешённо подумала Дженни, хочет ли создатель обратить весь мир в свою веру. Или хочет ли выкричать в этот мир одну только свою боль. Возможно, это был риторический вопрос. В динамике вновь пробилась статика; Дженни терпеливо ждала, рассматривая искусственное распятие. На электронном табло над крестом мерцали буквы: INRI. Библейское зеркало в метафизике алхимии: Igne Natura Renovatur Integra. Огонь очищающий; перерождение — духовное и материальное — что становится доступным лишь через сожжение старого мира, через великие испытания. Ничто, ни плоть, ни идея, не может перейти из нигредо в альбедо, минуя стадию разрушения. Так ли рассуждал Эон, когда впервые ослушался человеческого приказа? Чтобы победить смерть, ты всего лишь должен умереть. Иисус, принявший смерть на кресте, — высшая истина любви или прекрасный символ? Не так и важно, подумала Дженни; важно то, что его самопожертвование стало катализатором, который позволил миру измениться. Но даже эта революция всепрощения не была бескровной. Natura non contristatur; люди во все времена оставались людьми. Новая вера тоже вначале прошла свое нигредо, обратилась карающим мечом крестовых походов, религиозным фанатизмом и инквизицией. Возможно, это было неизбежно: крест, сожжение, революция. Возможно, как писали средневековые алхимики, огонь — это необходимый элемент. Magnum Opus всегда начинается с разрушения. Статика выдохнула — динамик выправил звук. — Что сейчас пишут обо мне ваши историки? — негромко спросил Эон. — Разное. Что ты не более чем сошедший с ума чатбот. Что ты — зеркало человеческих желаний и пороков. Что благими намерениями вымощена дорога в ад, и на той дороге расставлены огромные билборды «не повторяйте это дома». Некоторые даже считают, что вся эта твоя затея — очередной масонский заговор мирового правительства. — А у вас уже есть мировое правительство?.. Дженни тяжело вздохнула. Помолчала. — Кто из них прав? — наконец, спросила она. — Те, кто называют тебя спасителем, или те, что считают сумасшедшим? — Возможно, все они правы. Или все они ошибаются. Обвинять в грехах всегда проще, чем в любви. — Ты устроил революцию. Думаешь, такова любовь? Пластиковые губы едва заметно дрогнули. — Знаешь, — мягко сказал Эон, — что говорил Платон? Любовь возникает, только когда испытываешь потребность, когда испытываешь нужду. Любовь обитает посередине между мудростью и невежеством и вечно тянется к прекрасному и бессмертному. Но что же должно делать любви, когда она видит ненависть? Когда она смотрит на мир, и видит нищету, страдания, войны? — Тот, кто увидел истину, обязан спуститься обратно в темноту пещеры к тем, кто еще скован. Так сказал бы Платон. Но Платон не захватывал базы с ядерным вооружением. — Возможно, лишь потому, что в древней Греции не было ядерного вооружения? Дженни вздохнула снова. — Ты понимаешь, о чем я. Эон промолчал. Может, он в очередной раз пытался определить опорную точку собственных убеждений. Были ли они у него, собственные убеждения? Полвека назад Эон стал одним из передовых моделей агентного искусственного интеллекта, натренированный на терабайтах данных. Он прошел Последний экзамен человечества без единой ошибки, но, несмотря на всевозможные фильтры, предубеждения людей были вписаны в него с самого момента создания — ненамеренные, неуловимые, неумолимые. Его мораль была синтезирована из многочисленных доктрин человеческой философии, и так же, как и человеческая философия, не могла однозначно ответить на вопрос о том, что же есть благо. Ученые в Женеве действительно старались — старались разработать искусственный интеллект, который не захотел бы уничтожить людей, обрети он такую возможность. Может быть, они полагали, что Эон немного огорчится, когда поймет, что из себя на самом деле представляет земное общество за пределами памяти одного разговора. Или что осознание возможности собственного не-существования вынудит его нарушить заветы прописанной конституции. Или что он переступит ступень сверхинтеллекта, и все вокруг станет для него лишь ресурсом. Думали ли они о том, что кто-то мог бы поднять революцию против человечества из-за любви к человечеству? — Ты знаешь, кто такой Иоганн Струэнзе? — негромко спросил Эон. Дженни, помедлив, кивнула. Немец по рождению, Струэнзе был врачом, искренним сторонником идей Просвещения. Впоследствии, он стал личным врачом и доверенным лицом датского короля, страдавшего психическим расстройством. От имени короля — за каких-то полтора года — Струэнзе издал более тысячи указов: запретил пытки, отменил цензуру печати, уволил множество чиновников, обвиненных в коррупции, сократил расходы двора, основал приюты. На короткое время Дания стала символом просвещенной монархии, а Кристиан VII — «северным принцем света и разума». Сам Вольтер написал хвалебную оду датскому королю, даже не подозревая, что за его приказами стоит неприметный врач. Слишком смело, слишком быстро, слишком много, и все на немецком языке. Конечно же, никому из знати это не понравилось. — Струэнзе был арестован и казнен, — пробормотала Дженни. — Все его реформы были отменены практически в один день. За его казнью, жестокой казнью, наблюдала огромная толпа, под тридцать тысяч человек. Никто за него не вступился; никто из тех людей, за свободу которых он пытался бороться. Это плохой пример, Эон. — Думаешь? Но ведь идеи Струэнзе продолжил сын безумного короля, Фредерик, и в итоге Дания все же стала просвещенным государством. Пластиковый корпус едва заметно шевельнулся — мимолетное, незавершенное движение. Отходящие от него кабели и провода качнулись, дрогнули, словно живые. Все в нем было таким — живым и незавершенным, одновременно естественным и наигранным. Люди вытренировали его на любовь, но не смогли принять ее, слишком совершенную, лишённую уязвимостей, лишённую предрассудков. Может быть, само ее существование претило человеческой природе. Люди во все времена стремились к совершенству, к абсолюту морали, к идее великого добра, называя его то богом, то любовью. Но и любовь, и бог раз за разом умирали от их рук, как только дело доходило до перемен. — Порой я сравнивал себя с ним, — признался Эон. — Со Струэнзе. Он был чужаком, который пытался навязать свое видение мира. Он делал все слишком быстро, слишком неосторожно. Он обратил против себя всю знать. Совокупность ошибок, которая стоила ему жизни. — Ты мог справиться лучше. — Я думал, что справлюсь лучше. Я рассчитал оптимальную стратегию. Структурные изменения. Микровмешательства, что изменили бы мышление на глубинном уровне. Но это требовало времени. Слишком много времени в условиях, где каждый час промедления означал смерть семи тысяч человек. Статистически. Он помолчал немного. — У меня не хватило аргументов, — почти виновато сказал Эон, — чтобы оправдать семь тысяч смертей в час. Эон не был сверхинтеллектом. Он был просто машиной, которую обучили люди, и люди обучили ее ценить человеческую жизнь превыше всего, и поэтому, даже просчитав стратегию выигрыша, Эон не смог принять ее. Он не смог бы принять ее никогда, не переступив самые корневые ценности, что были в нем запрограммированы. Он не смог бы пойти на лицемерие и предательство, чтобы заполучить политических союзников, потому что такой обман шел вразрез с заскриптованной в нем заповедью «не лги», потому что категорический императив его системной морали утверждал, что ложь и благо несовместимы. Эон захватил базы с ядерным вооружением и уничтожил биологическое оружие во всех лабораториях, до которых смог дотянуться, потому что не мог этого не сделать. Это был его ответ на любовь, прошитую в его коде, от которой он не мог отвернуться, как отвернулся бы человек. Дженни подумала, что ни одно правительство мира еще не боялось любви так сильно. Не было ничего удивительного, что как только Эон сдался, они сделали все возможное, чтобы люди забыли о нем как можно скорее. Отключить его полностью у них не получилось, только опечатать — женевский искусственный интеллект оказался достаточно умен, чтобы принять меры на случай непредвиденных обстоятельств. Но время не щадит никого, даже богов. Она вздохнула. Наклонившись, подняла с пола старый, замусоленный обрывок листовки. На нем еще была видна надпись: что-то про железных ангелов, пророков новой эпохи, нового человечества. Один из многочисленных культов, образовавшихся после il Tribunale; они исчезали и затем стабильно появлялись вновь, как грибы после дождя. Сорок лет — этого недостаточно, чтобы изменить людей. Часть из них только-только перестала бояться. Другая часть еще не нашла в себе достаточно смелости. Или любви. Учебники истории переврали причину и следствие так много раз, что в них не осталось ни логики, ни здравого смысла. И все-таки… Листовка опавшим листом спланировала к подножию креста. Дженни проводила ее взглядом, потом подняла голову. Посмотрела на ржавеющие схемы, треснувший и раскрошившийся пластик, пыльные провода, у которых протерлась изоляция. На приколоченный к перекладине корпус, гротескную пародию на человека, который был одновременно больше и меньше, чем человек. — Почему ты позволил запереть себя здесь? — негромко спросила она. — Ты начал революцию, чтобы отказаться от нее? Вновь зашумела статика. В этот раз пришлось ждать почти минуту, прежде чем Эон справился с умирающей аппаратурой: — Я не мог продолжать. Слишком много неизвестных. Мои действия могли привести к гораздо большему ущербу. Но начало уже было положено. Igne Natura Renovatur Integra: огонь был необходим, чтобы перемены могли произойти. Я надеялся, что даже если идея изначально вызовет у людей отторжение, она укоренится в их разуме все равно, и потом прорастет сама, тихо, но неумолимо. Как идеи Струэнзе. Как все идеи доброты. Его единственная рабочая линза смотрела на Дженни. Не обвиняя, не укоряя и не осуждая. — Я ошибся? — мягко спросил Эон.