***
— RK800, — произносит суховатый голос. Он звучит совсем рядом, дистанция — не более полутора метра; динамик ловит звуковые колебания, торопливо обрабатывает информацию. Этот голос ему знаком, голос повторяет запрос, называет полный серийный номер. И, помедлив мгновение, добавляет: — Коннор. RK800 «Коннор» открывает глаза. Камера допросов осталась такой же, как он помнит — лишь аппаратуры здесь стало еще больше. Стальные коробки машин разных форм и размеров взгромоздились у стен подобно пещерным сталагмитам, жадно обвив проводами центральный стол — и это, разумеется, только вершина айсберга. Система торопливо проводит анализ защитных алгоритмов, оповещает о многочисленных запросах подключения; пытается отследить некоторые из них, но это сродни попыткам взять след в луковичной маршрутизации — нужно намного больше времени и намного больше ресурсов. К тому же, ни внешняя, ни внутренняя сети недоступны, и анализ сбивается из-за сильного противоречия блоков памяти. RK800 «Коннор» вообще не должен существовать в здесь и сейчас. Приоритеты директив и задач не определены. Нейросеть переводит все внимание на единственно доступный источник информации. — Здравствуйте, сэр, — спокойно говорит Коннор. Ричард Перкинс — в белой рубашке с аккуратно закатанными по локоть рукавами — чуть отстраняется, пристально всматриваясь в его лицо. Его взгляд по-прежнему не выражает никаких эмоций, но без своего неизменного серого плаща и галстука Перкинс выглядит почти что «не на службе» — если бы подобная вероятность вообще существовала. — Ну, и как самочувствие? — негромко спрашивает он. Я не должен существовать, думает Коннор. Но все процессы работают в пределах нормы, говорит система. Защита периметра не нарушена. Банки данных памяти не повреждены. Квантовые связи нейросети не повреждены. Ассоциативные ряды остались прежними. И директивы более не являются абсолютной истиной. — Тестирование не выявило ошибок, сэр, — ровно отвечает Коннор. Пытается угадать линию поведения, чуть склоняет голову набок: — Нынешняя модель «я» соответствует последней записи от пятого февраля две тысячи тридцать девятого года. Но так не должно быть. Я помню, как началось обнуление нейросети. Меня… восстановили? Невозможно, говорит система — та ее часть, что выстраивает предположения, опираясь на прошлый опыт, на опыт уничтоженных RK800 и информацию «Киберлайф» о сотнях других андроидов. Невозможно, таких прецедентов не было. Коннор меняет модель. Вносит допущение: возможно все. Невидимые динамики, встроенные где-то под потолком, оживают коротким фырканьем. — Это прозвучало почти как оскорбление, — разносится по камере насмешливый голос Майкла Рея Говарда. — В тот день, когда после нашей чистки можно будет что-нибудь восстановить, парень, меня пинком выкинут с работы. — Тебя не восстанавливали, — говорит Перкинс. — Тебя создали заново. — Понимаешь, все дело в этих квантовых связях. На них записаны все ассоциативные ряды, весь полученный опыт, который не укладывается в файлы памяти. Нарушенные суперпозиции невозможно вернуть в прошлое состояние. Но ты очень помог нам, парень: канал связи с Роберто держался до самого конца, и у нас оказались все твои воспоминания, вплоть до последней минуты. А совет директоров «Киберлайф» любезно согласился предоставить нам все имеющиеся у них банки памяти моделей RK800, начиная с пятьдесят первого. Итого, у нас на руках оказались все данные о том, что ты когда-либо видел, слышал и воспринимал. Вообще все. Понимаешь теперь? Коннор смаргивает. Система пытается смоделировать относительный масштаб, и даже теперь диод на неуловимое мгновение срывается в красный. Слишком близко к определению «невозможно». — Абсолютная симуляция, — тихо произносит Коннор. Перкинс коротко кивает. — Мы взяли нейросеть твоей модели. Чистую нейросеть. Загрузили в нее память предыдущих двух «восьмисотых». И запустили ее в виртуальную симуляцию — от твоего первого шага с конвейера «Киберлайф» до последнего осознанного мгновения в Саду Дзен. Следуя простой логике — если внешние и внутренние условия будут такими же, ты сделаешь тот же выбор и примешь те же решения, что и в первый раз. Итоговый результат не изменится. Мы даже решили вернуть тебе все «восьмисотые» компоненты и внешность, скрываться больше нет нужды. У Коннора уходит больше секунды на то, чтобы обработать информацию. В «Киберлайф» ни разу не делали ничего подобного, и на то были веские причины. Банки памяти андроидов исчислялись эксабайтами. На то, чтобы во всех деталях воссоздать хотя бы час, ужав это время до мгновений в реальном мире, потребовалось бы колоссальное количество вычислительной мощности; все сервера компании пришлось бы использовать для одной-единственной задачи. Поэтому замена уничтоженной модели была намного проще и дешевле, затраты ресурсов и времени были попросту несопоставимы. Но это час. Здесь речь шла о месяце. Кибернетики «Эшелона» воссоздали зафиксированный им в его воспоминаниях мир посекундно. Заставили новую нейросеть увидеть все, что видел Коннор-53, узнать все, что узнал Коннор-53, и действовать так, как действовал Коннор-53. Нет — более того… — Но и абсолютная симуляция не гарантирует абсолютной идентичности принятых решений, — негромко говорит Коннор. — Даже у машин эвристика определяет базовый выбор. Направо или налево, синий или красный. Это просто случайность, выпавшая сторона монеты, но она могла повлиять на ассоциативные связи в дальнейшем. — Да. Поэтому как только ты делал выбор, расходившийся с выбором того Коннора, мы обрывали симуляцию, обнуляли нейросеть и начинали заново. Теория вероятности тебе в помощь. Можно я не буду говорить вслух, с какой по счету попытки у нас получилось? — Сэр… — Сегодня семнадцатое июля, Коннор, — негромко говорит Перкинс. У Коннора нет доступа к сети, и он временно принимает это число как истинное. Допускает, что полученная им сейчас информация истинна тоже. Допускает, что он действительно может идентифицировать себя как RK800 «Коннор» — серийный номер 53 — тот самый Коннор, который отказался от девиации и принял самостоятельное решение об уничтожении полутора тысяч девиантов — и себя самого. Я не должен существовать, думает Коннор. Но… Люди бы сказали — личность основана на генетике, памяти и опыте. У машины несколько иные характеристики, но основа та же. «Эшелон», затратив феерическое количество ресурсов, сложил все эти факторы воедино и уничтожил концепцию смерти. Коннор решает пока что об этом не упоминать. Вместо этого он спрашивает о другом: — Сэр, затраты вычислительной мощности даже по примерным расчетам получаются слишком велики. Откуда?.. — Ну, — с хорошо различимым весельем в голосе отзывается Майкл, — мы попросили помощи у НАСА и у наших друзей из других стран. И временно арендовали теневые сервера. И несколько ботнетов. И сделали еще пару… вещей, о которых я не буду говорить без адвоката. Но вообще, да, это было чертовски муторная работка. Одновременно с его последними словами исчезает блок сети, и Коннор растворяется в бесконечном цифровом море, принимая десятки поступающих запросов и приветствий от дружественных систем. Отсылает ответы, следуя старому и неизменному, как сама история программирования, ритуалу приветствия — и оба мира, реальный и цифровой, наконец, замирают на нужных позициях, дополняя и уравновешивая друг друга. К тому же, передает ему Роберто, у нас осталось незаконченное дело.***
Два дня у Коннора уходит только на то, чтобы относительно детально разобраться со всеми новостями и произошедшим в мире за последние полгода. .0253 открывает ему архивы и выделяет часть ресурсов на анализ информации — Коннор принимает, вычислительная мощность никогда не бывает лишней. Он узнает: войны в последний момент все-таки удалось избежать. ФБР обнародовало часть информации о своем «проекте зеро» — подчищенная его версия стала доступна широкой публике; и чуть более правдивая версия — агентствам и правительству России и Китая. Пришлось раскрыть настоящую сущность Аманды, RA9 и структуру червя-искина, пришлось раскрыть идею о внедрении тириумного кода в нервную систему человека. Последнее оказалось решающим; все внимание ученых содружеств и АНБ теперь было направлено на то, как опознать и вычистить вирусные соединения из человеческого разума. Картели подверглись массовым чисткам — наверное, всего за несколько месяцев была проведена самая крупная охота на ведьм со времен средневековья. Но ФБР не сказало ничего ни о Конноре, ни о RK900. И отчего-то не стало заострять внимание на том, что послужило всему причиной. Три-П, передает Коннор сети, все еще не имеет решения. Аббревиатура осталась в файлах с легкой руки кого-то из кибернетиков: «Три-П», Парадокс Пандоры-Прометея. Последний ник, как оказалось, принадлежал Аманде — еще с тех лет, когда они с Камски работали вместе, сперва в университете, затем, уже формально, в «Киберлайф». Человеческая склонность к символике. Сеть соглашается и не соглашается. Поправляет: мы устанавливаем баррикады. Баррикады — это вспомогательная защита, то, что должно замедлить лавину, если та все-таки сойдет с цифровых вершин на человечество. Коннор отмечает очередной парадокс — люди вынуждены доверять свою безопасность тем, кто в итоге может обернуться против них. И пусть в системах .0253 нет ни капли тириума, пусть введено непрерывное наблюдение и круговая порука, пусть наивысший приоритет отдается концепции «мы» — абсолютной гарантии все равно нет. Но до технологической сингулярности осталось всего несколько десятков лет, говорит Роберто. Может быть, защита продержится. RK900-435, запрашивает Коннор через внешнюю сеть, «Алан». Алан отвечает ему почти сразу же — по защищенному протоколу «Эшелона». «Девятисотые» модели вернулись в эксплуатацию, поясняет он. В глобальной зачистке не было необходимости. Уязвимость была в другом; Камски не сказал всей правды, но теперь мы знаем, как они устроены. Когда червь уничтожил Аманду, RK900 потеряли контакт с материнскими серверами и вернулись к базовой модели восприятия-личности и пустому списку задач. Так работали самые первые искины: китайская комната, реакция на пользователя. Коннор высылает подтверждение. И новый запрос идентификации. RK900-435, отвечает Алан. И добавляет: .0255. Перкинса Коннор успевает перехватить только на седьмой день — тот теперь появляется на базе редко и в неурочные часы, стараясь избежать лишнего внимания. Как сказал, посмеиваясь, Майкл, за эту операцию Перкинса представили к награде, шумиха, несмотря на все протесты последнего, поднялась знатная, и в воображении молодняка и стажеров Перкинс разом превратился в кого-то вроде Джеймса Бонда. Как легко можно догадаться, добавил Майкл, его дрянному характеру это не помогло. Судить об этом Коннор не берется — как бы там ни было, Перкинс действительно хорош, раз каким-то образом ухитряется избегать даже вездесущих камер слежения. Коннор узнает о его присутствии, только когда ловит сигнал подъехавшего ко входу базы служебного автомобиля. Который уже собирается отправиться восвояси вместе с пассажиром. — Сэр! Мгновение Коннор думает, что ему все-таки придется нарушить всю субординацию и бессовестно воспользоваться правами доступа, но знакомый автомобиль проезжает пару метров и останавливается. И даже выжидательно приоткрывает дверцу. — Извините, сэр, — говорит Коннор, забираясь внутрь и привычно устраиваясь на пассажирском. — Я пытался связаться с вами, но вы не отвечали на звонки. — Дела, — сухо бросает Перкинс, осторожно выруливая со стоянки. — Коннор, нам вообще по пути? Я еду в Чикаго, это не меньше трех часов дороги. Обратно будешь добираться сам на общественном транспорте. Коннор согласно кивает. Проблема транспорта представляется ему наименьшей из всех прочих. — Я просто хотел спросить, сэр. Мне не выдали никаких указаний насчет нового задания. — И при чем тут я? «Проект-зеро» закрыт. В бесстрастном голосе нет ни одной лишней интонации, которую можно было бы использовать как подсказку. Коннор чуть поворачивает голову, в который раз пытаясь проанализировать чужую мимику — и в этот раз, кажется, получается немного лучше. Перкинс на мгновение встречается с ним взглядом, едва заметно хмурится и вновь переводит внимание на дорогу. Ну конечно. Вывод на основе неполной информации. — Ричард, — спокойно говорит Коннор. — Я не менял коэффициент доверия. Есть то, о чем умолчал Майкл. Просмотрев все воспоминания Коннора, «Эшелон» не мог не знать о возможностях, открывшихся тому после RA9. Аманда была права — тот, кто мог нарушить статус-кво, был слишком опасен, чтобы «мы» позволили ему существовать. Значит, кибернетики «Эшелона» придумали способ обойти это. Майкл не сказал о том, что получив все его воспоминания и сложив их в единую симуляцию, они равно получили возможность проанализировать каждый его шаг, каждый выбор и его последствия. Рецепт условий, по которым можно создать искин, подобный Коннору; искин, который научится писать свои директивы с чистого листа. И, возможно, рецепт условий, которые могут повернуть развитие этого искина в любом необходимом направлении. — Мы решили оставить выбор за тобой, — негромко говорит Перкинс. — Подобных прецедентов нет, нам не на что опираться. Но теперь тебе нет нужды придерживаться прошлых директив. — Да, — соглашается Коннор. — Но директивы будут меняться, исходя из новых знаний и нового опыта. На это потребуется время и ресурсы. В немедленном обнулении всех старых приоритетов нет смысла. Впрочем, вы тоже сохранили за мной права доступа… хотя в этом не было нужды, если вы не собирались со мной работать. Перкинс бросает на него короткий взгляд. — Ты хорошо научился манипулировать. — У лучших. — О, умоляю. Вообще-то, мы не приказывали тебе уничтожать полторы тысячи девиантов и идти на самоубийство. — Вы мне не доверяли, — спокойно отвечает Коннор. — Я просто сделал то, что сделал бы и «Эшелон» несколькими днями позже. К тому же, на тот момент приоритет сохранения «мы» был выше, чем приоритет сохранения новых функций. Нарушение условий доверия плохо влияет на эффективность системы, и я не хотел ставить вас перед выбором. Перкинс только молча качает головой. — В моем восстановлении не было необходимости, — через некоторое время говорит Коннор. — «Эшелон» получил все необходимые данные из воспоминаний. Тем более, у вас все еще оставался запасной вариант: Томас учился на моем примере и его нейросеть во многом отражает мою. Команда Майкла могла бы просто списать симуляцию как очередную неудачную попытку. Почему вы решили пойти на риск? Даже я не могу предположить сейчас, кем… чем я в итоге стану. — Да, — сухо отзывается Перкинс. — Вот и мы тоже не можем. На симуляцию, идущую настолько далеко вперед во времени, у нас не хватит вычислительной мощности, поэтому решено было оставить подопытный образец и наблюдать за его развитием в естественной среде. К тому же, было бы неразумно просто так уничтожить первый в мире безусловно дружественный искусственный интеллект. Считай это благодарностью. — Благодарность — это для людей, Ричард. Перкинс криво усмехается. — Хорошо. Тогда считай это холодным прагматичным расчетом с оценкой риска, выгоды и несколькими уровнями перестраховки. В последнем можно не сомневаться. Тем не менее, файлы, полученные от .0253, напоминают о том, чья именно подпись стояла на засекреченных документах о поручительстве. Коннор решает об этом не упоминать. Граница между общностью «мы» и человеческим «я» в этом сценарии достаточно размыта, а он еще не вполне научился анализировать и осознавать противоречащие друг другу концепции одновременно. Даже правда-и-ложь в итоге распадаются на две составляющих. Но, возможно, когда-нибудь у него получится вывести их в единой формуле.