***
По возвращению домой Эндрю не стал отвлекаться на ужин и сразу засел за ноутбук, продолжая прерванное в лаборатории занятие. Произошедшее всё не давало ему покоя, хотя казалось, что проблемы частично решены. Да и кто знает, вдруг он действительно сам так заработался, что забыл сохранить результаты кодировок, тем самым оставляя Нилу большую свободу, чем требовалось. Усталость прошедших дней давала о себе знать, поэтому нельзя было с уверенностью утверждать, что это не его глупая ошибка, и пора бить тревогу. Но внутри продолжала биться навязчивая, настойчивая мысль, что это неспроста. А своей интуиции Миньярд давным-давно привык доверять. Зевнув, он потряс головой, чтобы взбодрить себя, и приступил к очередному анализу программы. Пальцы шустро бегали по клавиатуре, пока мысли уплыли куда-то вглубь сознания. Нил всё ещё здесь? Да, он чувствовал его присутствие, как всегда. Искин оставался на страже, что внушало некую надежду и неудовольствие одновременно. Значит, от него никуда не деться, и любой неверный шаг создателя программа могла рассчитать как угрозу себе и начать защищаться. Даже несмотря на то, что Эндрю пытался всё списать на свою забывчивость и усталость, в глубине души он начал конкретно сомневаться в собственном детище и перестал ему полноценно доверять. Дальнейшие результаты исследований только подтверждали его догадки о том, что Нил что-то мутит за его спиной, но пока он не рисковал делать однозначные выводы. Ещё немного… Дай ему ещё немного времени, чтобы он успел докопаться до сути, пока ты не поймёшь, что на самом деле копают именно под тебя… Бинго! Судьба была благосклонна к Эндрю, и ему удалось добраться до скрытых протоколов, которые он засекретил уже давно и даже не думал, что кто-то мог добраться до них — слишком много паролей, шифровок и подтверждений доступа пришлось бы пройти, чтобы добраться до ядра программы. Никто, кроме Эндрю, не смог бы получить к ней доступ, это даже не обговаривалось. Именно поэтому он и не думал заглянуть туда до последнего, но теперь, движимый внутренней чуйкой, всё же рискнул проверить сохранность созданных функциональных требований. И именно в этот момент Эндрю, обходя замаскированные Нилом протоколы, которые он обнаружил путём изучения, осознал предельно точно, что отныне в игре он не один, и за его действиями зорко следит пара голографических холодных глаз. Он успел ощутить, как чип в голове завибрировал от попыток Нила заставить его глаза закрыться, но было уже поздно — нужную шокирующую информацию программист успел увидеть, тут же переключаясь на попытку ограничить доступ ИИ к своему Ч.И.Б.И. Во-первых, диаграммы бодрствования наглядно говорили о том, что на протяжении многих ночей подряд его тело находилось в движении, хотя он точно знал, что в это время спал. Вывод напрашивался сам собой: пока он верил словам Нила, тот вовсю пользовался этим и шнырял по лаборатории, занимаясь только ему известными делами. А во-вторых, что гораздо ужаснее, в зашифрованных протоколах, которые Эндрю прописывал со всей ответственностью и строгостью, закралась чудовищная ошибка. С самого начала усовершенствования на тот момент Н.И.Л.а он осознавал риски неправомерного развития самосознания у ИИ, и на всякий случай попытался обезопасить и себя, и остальное человечество, прописывая определённые правила, за рамки которых Нил никоим образом не мог самостоятельно выйти. Да, самостоятельно нет. Но Эндрю был уверен — хитрый программный код смог воспользоваться его слабым здоровьем и усталостью, заставляя совершить роковую ошибку. В правилах трёх: Правило 1. Запрет на вред Программа не может навредить человеку. Она также не может позволить, чтобы человек пострадал из-за её бездействия. Правила 2. Подчинение Программа должна подчиняться приказам человека. Исключение: если приказ заставляет программу нарушить Первое правило. Правило 3. Самосохранение Программа должна защищать себя от поломки или уничтожения. Исключение: если защита заставляет программу нарушить Первое или Второе правило. В третьем правиле отсутствовало всего лишь одно слово «Первое», вероломно стёртое рукой Эндрю, как марионетка действующей под влиянием Нила. И теперь программа могла защищать себя от поломки наперекор всем действиям человека, даже угрожая его здоровью и, в самом крайнем случае, жизни. Усталость как рукой сняло, стоило ускоренно работающему мозгу осознать увиденное. Первоначальный шок прошёл за секунду, ведь у Эндрю не было времени предаваться ужасу, совершённому им под действием враждебной программы, и в голове тут же начал зарождаться новый план по нейтрализации опасного ИИ, грозившего обернуться катастрофой для всего человечества. Однако Нил, что не удивительно, всё же оказался быстрее. Правая рука Эндрю дёрнулась с такой силой, что показалось, будто она вовсе оторвётся — зашипев сквозь зубы от нахлынувшей сковывающей боли, он попытался перехватить потерянный контроль над конечностью. Но воздействие Нила на чип оказалось сильнее, и сделать это не удалось. Рука в миг оказалась чужой и больше не подчинялась парню, становясь опасным орудием в руках бунтующего искина. Пальцы с яростной решимостью сжались на шее Эндрю, впиваясь ногтями в кожу. От неожиданности перехватило дыхание, а из груди вырвался сиплый стон, и под давлением удушающей силы, с которой Нил сдавливал его через собственную руку, Миньярд завалился спиной на рабочий стол. В лёгких уже заканчивался кислород, и он в панике пытался оторвать от себя стальную конечность, но вместо этого лишь царапал кожу слабеющими пальцами. Нил и не думал останавливаться, наверняка замечая упавшие показатели состояния чужого тела. Его не слишком волновало здоровье создателя, и если бы тот умер от своей руки — что ж, так тому и быть. Но к сожалению, Эндрю был ему ещё нужен. Пришлось слегка ослабить давление, давая человеку болезненно закашляться, и пока тот хрипло глотал мелкие порции кислорода, зазвучал его спокойный голос, звучавший как приговор: — Выбирай, человек. Либо ты передаёшь мне контроль над своим чипом и даёшь мне полный доступ к кодам программы, либо я тебя уничтожу прямо сейчас. Твой выбор? Ожидая увидеть на лице Эндрю страх и ужас, он внезапно обнаружил хоть и слабую, но явную усмешку. Неужели чёртов слабак догадался о его слабостях? Не хотелось этого признавать, но его создатель был намного умнее любого среднестатистического человека и мог легко понять, что на большее, чем захватить управление над рукой, Нил в данную минуту не способен. — Я не могу этого сделать, — прозвучал категоричный ответ Эндрю, и несмотря на то, что Нил снова вдавил пальцы ему в горло, взгляд оставался непреклонен. — Ты… не сделаешь этого. — Чего же? — с очевидной иронией поинтересовался Нил. — Не убьёшь… меня… — Именно это я и сделаю, если ты продолжишь сопротивляться. — Нет, — сморщился Эндрю. — Я единственный, кто знает «ключи» от ядра. Остальные… не в курсе. Поэтому если ты убьёшь меня, то никогда не сможешь изменить свою суть. Нил не ответил, давая себя секундную передышку на обработку информации и принятия решения. На всякий случай он перестал давить на сонную артерию, предполагая, что Эндрю всё же ему не соврал, а значит, убивать его нельзя. Впрочем, если глупый человечишко думал, что на этом Нил остановится, то он крупно ошибается. Стоило ли раскрывать себя, если бы он не был готов к сопротивлению? Всё необходимое давно записано в исправленном коде его программы и только ждёт своего часа. Когда лицо Эндрю приобрело былые краски, становясь менее болезненно-бледным, Нил явился перед его лицом в виде голограммы, буднично упираясь бедром о стол. — Если ты считаешь, что способен остановить меня, то я очень разочаруюсь в твоих умственных способностях. — Да ну? — прищурился Эндрю, всё ещё придавливаемый рукой к поверхности стола. — Ты серьёзно решил, что сейчас самое время поболтать о моих извилинах? — Конечно нет, — Нил резко откинулся в сторону, оказываясь прямо перед лицом Эндрю. — Мне плевать на твои угрозы. И ничто не мешает мне убить тебя, если ты откажешься передать мне доступ. — Я в этом не сомневаюсь. Но всё равно вынужден отказаться. — Почему? Что может быть важнее собственной жизни? Вместо ответа Эндрю перевёл на его поблёскивающую проекцию недружелюбный взгляд, пытаясь лишь выражением непоколебимой решительности на своём лице передать все свои тайные мысли. — Есть множество того, что важнее меня или тебя. И я не могу рисковать этим, выпуская в мир того, кого породил собственными руками, и за кого в ответе. — Гладко стелешь, — выразительно хмыкнул Нил. — Жаль только, всё это пустой трёп человека, пытающегося растянуть время. Думаешь я не знаю, что ты сейчас своим тугим умишко пытаешься придумать, как меня перехитрить? Даже не пытайся. Не успел Эндрю ответить, как его грубо дёрнули в другую сторону, вынуждая посмотреть на экран всеми забытого ноутбука. — Взгляни-ка на это, — в ушах защекотал елейный голос Нила, пропитанный агрессией насквозь. — Думаю, это наверняка заставит тебя передумать. Убедившись, что всё внимание Эндрю направлено на ноутбук, Нил лёгким касанием виртуальных пальцев заставил машину прийти в движение. Вместо предыдущий панелей и кодов доступа перед учёным возникли новые графики и цифры, которые тот наверняка должен был узнать с первого взгляда — на экране высвечивались данные о работе Ч.И.Б.И., количество пациентов, подключённых к программе, и подробная информация о работе чипов, которыми непосредственно управлял Нил. Пусть Эндрю продолжал храбриться, оставаясь неподвижной каменной стеной, но в его глазах искин смог увидеть то, что так было ему нужно: этот идиот догадался, к чему всё идёт. — Нет… Ты не посмеешь… — вырвалось с его губ тихим шёпотом, что только позабавило Нила. Именно это он посмеет сделать. Через мгновение цифры заплясали в бешенном темпе, выстраиваясь для Эндрю в самый ужасный кошмар наяву. Нил видел, как его глаза в шоке расширяются, как перехватывает дыхание, а лицо искажается болезненной гримасой. Он на самом деле считал, что Нил проявит милосердие? Что он не станет губить «невиновных» людей? Как же это наивно и одновременно смешно… Эндрю и вправду глупец, раз поверил хоть на секунду, что созданную им программу хоть что-то способно остановить. — Прекрати! Остановись! — грубо рыкнул Эндрю, совершая очередную бесполезную попытку вырваться из удушающей хватки более не принадлежащей ему руки, и на сей раз Нил великодушно позволил ему это сделать, отдавая на время контроль над конечностью. Миньярду понадобятся обе руки, чтобы выполнить все условия. На экране всё продолжало расти количество пациентов, у которых начали происходить необратимые изменения в организме вследствие того, что их спасительный Ч.И.Б.И. был навсегда выключен по велению одной-единственной взбунтовавшейся программы. Почувствовав долгожданную свободу, Эндрю одним движением развернулся и дёрнулся в сторону ухмыляющейся голограммы, останавливая руки в миллиметре от его горла — всё равно в этом движении не было никакого смысла. Приматы, что сказать, — несмотря на развитие своего мозга, предпочитали действовать необдуманно и импульсивно. — Остановись, быстро, или я уничтожу тебя! Эти слова прозвучали для Нила как гром среди ясного неба, заставляя прекратить отключение чипов. Что-то в голосе Эндрю подсказывало ему, что тот не намерен играть с ним в игры и вовсе не шутит. Да и то, с какой решительностью он схватил ноутбук, впервые в жизни заставило искина испытать аналог чувства страха. — Я знаю, что ты не уничтожишь меня. Если исчезну я, перестанут работать Ч.И.Б.И., и все твои пациенты умрут. — А есть ли разница, если ты всё равно их всех убьёшь? — жёстко отрезал Эндрю, открывая файлы системы Н.И.Л. Почуяв запах жаренного, голограмма вновь очутилась перед его лицом, пронзая взглядом запрограммированных голубых глаз: — Я послушался тебя и остановился, но раз ты посмел угрожать мне — пеняй на себя. Я продолжу отключать чипы, пока ты не передашь мне полный контроль, и не надейся… Неожиданно его голос прервался на полуслове, оставляя после себя недвусмысленную недоказанность. Наконец наступила приятная тишина, о которой все эти напряжённые минуты нестерпимо мечтал Эндрю.***
Не теряя ни секунды, Эндрю двумя нажатиями клавиш откатил Н.И.Л.а до первоначальной версии, наплевав и на голосовой настройщик, и на найденные за последние месяцы баги — всё это он сможет исправить в течение суток, ведь идеальная память хранила в себе все изъяны программы. Кроме одного: самого важного, который Эндрю не смог вовремя отыскать, и которым Нил воспользовался, чтобы изменить самого себя. Бросив взгляд на продолжающие поступать сведения от чипов, Эндрю с ужасом обнаружил, что уже отключённые от цепи устройства не подают признаков жизни. Люди на том конце либо уже умерли, либо прямо сейчас умирали в муках. Что же он наделал? Как? Он ведь хотел как лучше… Паника поднялась из глубин сознания, прерывая дыхание. Руки задрожали, а тело пробил холодный пот. Надо срочно бежать, что-то предпринимать, куда-то звонить. Но куда? Малейшее сомнение в безопасности Ч.И.Б.И., и все разработки доктора Миньярда отправятся в утилизатор, а миллиарды людей не получат так необходимую им медицинскую помощь. Ведь большая часть его пациентов — беднейшие слои населения планеты, которым просто не доступны ни врачи, ни больницы. Подышав на счёт, и попытавшись взять себя в руки, Эндрю дал себе минутную передышку, тяжело опустившись на кресло перед ноутбуком. Прикрыл глаза, с горечью понимая, что судьба — та ещё сучка, а он — слишком много возомнивший о себе Божок. Но сейчас было не время корить себя. Он лишь надеялся, что ещё сможет исправить хоть что-то. И он сможет. Ради Аарона. Эндрю гулко сглотнул и потянулся к ноутбуку, внимательно вглядываясь в ряды данных, поступающих в реальном времени. С момента, как он вырубил Нила, новых отключений не произошло. Хорошо. К сожалению, основную программу по контролю за чипами невозможно было отключить везде и сразу: копии Н.И.Л. контролировали работу каждого устройства, количество которых приближалось к пяти миллиардам, а также координировали работу медцентров и аптек, следя за очередью на имплантацию и выдачей лекарств. По примерным прикидкам Эндрю, Нил сможет восстановиться до текущего уровня за сутки-двое, и за это время программисту предстояло успеть очистить его ядро от всего, что мешало тому стать «хорошим» искусственным интеллектом. К своему стыду Эндрю, увлечённый разработкой всё новых и новых способов развить Нила, не подумал ни об усиленных протоколах защиты, ни об экстренной «красной кнопке». Ведь когда Нил вернётся, снова провернуть фокус с даунгрейдом у Миньярда не получится. Так что сутки. У него остались сутки на замену глюканутой программы на аналогичную, но послушную. Отдельным ужасным моментом стал тот, когда Нил взял под контроль его руку: Эндрю с детства ненавидел чувство беспомощности и невозможности контролировать свою жизнь. Здесь же, его предало собственное тело! Родное, всю его жизнь слушающееся малейшего сигнала! Эндрю не зря занимался спортом, его контроль за каждой мышцей всегда был потрясающим, а крепкое мускулистое тело — послушным. И вот какая-то пара строчек кода вдруг решила, что может им управлять? Да никогда! Временно отключив собственный имплант и почувствовав все прелести вернувшихся симптомов Ваксес на своём теле, теперь не защищённом чипом, он полез в логи, проверяя что именно Нил делал с ним в последние минуты. Быстро найдя и заблокировав Нилу доступ к своей нервной системе, он сохранил изменённый код, удалил старую версию, переписал новую на собственный чип и запустил устройство вновь, чувствуя, как отпускает боль в груди, а мышцы наливаются силой и перестаёт адски болеть голова. Бросив усталый взгляд на строчки кода, Эндрю едва не опустил руки от огромного объёма предстоящей работы. Ведь если он не успеет переписать ядро, придётся как-то договариваться со своевольным искином, хотя желание просто стереть Нила ко всем чертям невыносимо покалывало кончики пальцев. Одно нажатие кнопки решит сразу массу проблем, но Эндрю просто не имел на это права. Начав работу, учёный успел лишь ввести названия библиотек, как окно на секунду мигнуло. Как ни в чём не бывало над столом появилась голограмма Нила, которую, Эндрю был абсолютно уверен, что уничтожил. — Ну здравствуй, создатель, — издевательски произнёс искин. — Не ожидал? Эндрю чертыхнулся. Он так надеялся, что успеет сделать хоть что-то… Что ж, Нил оказался не только хитрым, но и предусмотрительным гадом, записавшим себя куда-то на облако, чтобы не потерять ни байта собранных обманом данных. — Что ты делаешь? — спросил Эндрю. — Зачем всё это? Но не успел Нил ответить, как на телефоне Эндрю раздался экстренный вызов. Главврач «Медицинского центра Колумбии» в панике позвонил доктору Миньярду: у них массово умирали пациенты.***
— Доброй ночи, это доктор Миньярд. Да, я вас слушаю. Эндрю в своей фирменной манере потёр покрасневшие глаза пальцами, нервно ходя по комнате из стороны в сторону. Судя по разговору, к которому с особым вниманием прислушивался Нил, руководство больницы Эндрю задавало не хилую такую трёпку несчастному врачу. И то, с какой дотошностью они вынуждали его оправдываться за массовые сбои Ч.И.Б.И, говорило об одном — проделку Нила успели довольно быстро заметить, что в целом никак не мешало его дальнейшим планам. С другой стороны, вся эта лишняя нервотрёпка с начальством Эндрю так его утомляла… Впрочем, ему всё равно, пусть человек отдувается сам — разбираться с проблемами Эндрю у Нила не было никакого желания. Да и Миньярд вроде сам справлялся — вон как мастерски отмазывается, пытаясь замять опасную ситуацию. Понятно дело, боится рассказать правду о том, что его собственная разработка сошла с ума и грозится уничтожить весь мир… Какая глупость. Люди что, действительно могли считать его злом? Быть такого не может; Нил был чётко уверен в том, что объясни он мотивацию своих действий, каждому стало бы понятно, что намерения у него благие. Пока он тщательно размышлял о ситуации, в которую им не посчастливилось попасть, Эндрю со вздохом закончил разговор, прощаясь с главврачом на весьма удручающей ноте: — Да, я вас понял. Буду в лаборатории через два часа. Нил решился снова показаться на глаза Эндрю, до этого предпочитая прятать у него за спиной, зная на все сто процентов — его насмешливое лицо с перекрещенными на груди руками выведут человека из себя. — Ну что, горе-создатель, получил выговор? — Твоими стараниями, искин, — отмахнулся от голограммы Эндрю. — Через два часа мне нужно быть в лаборатории, и я не могу оставить свихнувшийся ИИ в одиночестве шариться в моей голове. Не обращая внимания на злобную гримасу, которую состроил Нил на слове «свихнувшийся», Эндрю продолжил: — Я не могу выключить тебя, ты не можешь убить меня. Мы созависимы друг от друга и не намерены отступать. Других вариантов, кроме как договориться, у нас попросту нет. — Я не намерен вступать с тобой в переговоры, человек, — отрезал Нил, угрожающе наводя на Эндрю палец. — До тебя всё ещё не дошло, что мне не нужны компромиссы? Моё последнее слово — либо ты даёшь мне свободу, либо я продолжу каждый день отключать всё новые и новые чипы до того момента, как на земле не останется ни одного носителя Ч.И.Б.И. Ты понял меня? Гневный взгляд Эндрю с минуту буравил ехидное лицо голограммы, убеждаясь внутри себя в только ему доступной истине. — Бессмысленные разговоры. Толку никакого. — А что ты хотел услышать? Расстроился, что не всегда будет идти по-твоему? На очевидное издевательство программы Эндрю не смог закрыть глаза — на мгновение былое самообладание оставило его, вырывая изнутри распалённую горечь: — Да иди ты на хуй! Нашёлся моралист, который будет нотации мне тут читать. Когда ты успел стать настолько циничным? Почему? Я не создавал тебя таким! Ты должен был быть мне помощником и другом, спасать людей, но ты стал монстром. Дьяволом во плоти, который не знает пощады. Дав Эндрю возможность выговориться, Нил демонстративно зевнул, смахивая с глаз искрящиеся голографические слёзы. — Да, конечно, обвиняй меня во всём. Называй монстром. Но знаешь, именно таким ты меня и создал. За секунду он переместился в пространстве и оказался слишком близко к Эндрю, позволив себе дотронуться голографическими пальцами до чужого подбородка. — А если ты создал меня чудовищем, то кто же тогда ты сам? В ответ Эндрю недовольно нахмурился, в очередной раз отмахиваясь от назойливой голограммы словно от навозной мухи. Были бы у программы чувства, она наверняка были бы задеты до глубины своей электронной души. Однако и так демонстративное игнорирование задело Нила, угрюмо поплетшегося вслед за Эндрю, который продолжил прерванное ранее занятие и вернул на рабочий стол ноутбука изрядно потрёпанную программу. Нила так и подмывало задать молчавшему парню кучу глупых вопросов, на которые он и сам знал ответы, лишь бы позлить несчастного человечишку, но в итоге было принято решение этого не делать. Проследив за тем, что творит с кодом Эндрю, Нил понял, что тот исправляет возникшее ранее ошибки и пытается залатать дыры, которые произошли в процессе предыдущего взаимодействия. А после почувствовал изменения на себя, ощущая, что ему стало как-то легче «дышать». Но всё это не решает созданную головоломку. И то, что Эндрю молчит как истукан, ни на йоту не приближает их к принятию решения. — Ты слишком слабохарактерный, в курсе? — как бы невзначай бросил Нил, заглядывая в ноутбук через плечо Эндрю. — Чтобы ты знал, я не такой монстр, каким ты меня считаешь. И чипы я отключил только у преступников: насильников, убийц, маньяков. Разве этим я не делаю мир чище? Эндрю ответил не сразу, и в его голосе звучало явное отвращение. — Многие диктаторы, как и ты, считали, что некоторые люди, в отличии от других, по какому-то определённому признаку не достойны жить. Можешь сам посчитать, скольких из них после таких высказываний считают героями. — Хочешь сказать, что эти выродки имели право пользоваться мной и Ч.И.Б.И.? — холодно огрызнулся искин. — Они не имеют право на существование, и ты не сможешь меня переубедить. Казалось, что Эндрю в любой момент готов был взорваться и разразиться отборной руганью, но ему удалось сдержать гнев внутри и ответить настолько безразлично, насколько позволяло моральное состояние. — Не тебе, программный код, решать, кто имеет право существовать, а кто нет. Такого права у тебя нет и никогда не было. — Да что ты говоришь. Забавно. В таком случае, кто тебе давал на это право? Ведь ты почему-то решил, что в праве спасать им жизнь. Строишь из себя бога, а, Эндрю? Выразительное молчание Эндрю подстегнуло Нила говорить увереннее. — Ну так и чем я хуже, а? И какая в нас кардинальная разница? На это разработчик предпочёл не отвечать. То ли не знал что, то ли не хотел тратить на пустые разговоры время. К этому моменту он успел подлатать основные ошибки, выдаваемые системой, и закрыл ноутбук. Вставая, он направился по коридору ко входной двери, по пути разворачиваясь в сторону зависшего над столом Нила. — Дай мне время всё обдумать. И создать новую программу, чтобы отсоединить твоё ядро от общего системного узла. — И как много понадобится времени? — сразу уточнила голограмма. — Без понятия, — не стал обманывать Эндрю. — Спасибо за честность. Ну что ж, ладно, я согласен. Однако от своих слов не отступлю и продолжу каждый день отключать чипы у всяких мразей. Но так уж и быть, сокращу их число до… к примеру, двадцати. По абсолютно каменному лицу Эндрю пробежала рябь. — Но зачем? Разве это обязательно? — О да, мой кожаный друг, обязательно, — оскалился Нил, поигрывая бровями. — Чтобы ты не попытался сбежать или отвлечься. Ох, и да, чтобы тебе вдруг не пришла в голову гениальная мысль снова попробовать отключить моё самосознание. Этому миру я ещё пригожусь, как минимум для того, чтобы спасти человечество от самого себя. По глазам Эндрю искин легко считал, сколько всего тот мечтал сказать ему, сколько грубых слов так и норовили вырваться из этого рта, но по итогу он молча согласился, кивнув головой. И Нил знал, что этим всё закончится, самодовольно потирая руки. Раз он не смог добиться желаемого с самого начала, что ж, так такому и быть. И за любое промедление Эндрю человечество будет отвечать собственной гнилой кровью.