Zero-day

Вечная проблема любой организации: нехватка ресурсов. В самом начале для АНБ это звучит как не очень удачная сказка, но реальность догоняет их слишком быстро и хоронит под собой с неумолимостью и тяжестью сорвавшейся горной лавины. Спустя полторы недели сумасшедшего режима измотанным до предела людям уже не помогает ни химия, ни электростимуляция, а выжавшие из себя все возможности машины все чаще выбрасывают ошибки и застывают, на последних огрызках оперативной памяти пытаясь разобраться с невиданным ранее количеством данных и задач. Оставшихся в стороне нет, работают все без исключения. Коннору запрещено покидать офис, и он не допущен к секретным разработкам — но его система постоянно подключена к локальной сети, и машины безопасников используют ее, чтобы крутить там часть своих процессов. Таких, как он, андроидов, с отрешенным взглядом замерших в своих нишах или за офисными столами, слишком много. Даже уборщица-ассистентка Мэри не приходит вовремя — в фоновом режиме ее нейросеть проводит часть комплексных математических вычислений, беспощадно сжигая львиную долю ресурсов. — Итак, неожиданные новости, — сухо говорит вернувшийся из очередного выезда Перкинс, — снаружи все крайне дерьмово. Если ваш вирус не будет готов через сутки, эффективность нашей ПРО придется проверять на личном опыте. Он выглядит уставшим и каким-то посеревшим, на подоле плаща, надетого прямо поверх бронежилета, остались следы грязи и крови. Беспорядки в городах усиливаются, силовики и полиция требуют себе в помощь свободных людей — кого угодно, был бы способен держать пистолет и не терять головы. В другое время все решила бы армия, но основные войска сейчас сосредоточены у Аляски — отзывать их нельзя. На предполагаемой линии фронта все еще напряженное ожидание, пока дипломаты всеми правдами и неправдами выигрывают им лишние часы. Коннор передает запрос заимствующим машинам о возврате части ресурсов. Оживший социальный модуль предлагает поинтересоваться о самочувствии, но этот вопрос кажется настолько бессмысленным, что Коннор решает поберечь время. Отвечает нейтральное: «мы успеем, сэр». Перкинс отчего-то не выглядит убежденным. — Только это не вирус, — бросает один из разработчиков с соседнего стола, голос у него низкий и сиплый, как после простуды. — Вирусы прячутся и размножаются, а эта штука просто проедает себе дорогу напролом через все бастионы защиты. Это… ну, ближе всего, наверное, червь. Червище, точнее. Мать червей! — Мать червей, — повторяет Перкинс. Устало трет переносицу, жмурится. — Ладно. Хорошо. Полагаю, у нас всего одна попытка? Коннор прислушивается к сети, к доступной информации: некоторые базовые факты ему известны. Сеть отвечает: да. — Да, — отвечает Коннор. — Насколько мы знаем, у Аманды четыре линии защиты. Разобраться с первой и последней нам поможет информация Пандоры, так что наша основная цель — второй и третий фильтры. О секретности можно не заботиться; как только червь дойдет до цели, суперпозиция квантовых связей будет нарушена, и Аманда-личность перестанет существовать. Вопрос только во времени: если она сумеет уничтожить наш искин быстрее, чем тот доберется до данных. — О. И какие у нас шансы? Коннор молча качает головой: доступа к этой информации у него нет. Беззвучная трансляция новостей по одному из настенных экранов внезапно прерывается коротким резким гудком, когда канал переключается на внутреннюю связь. Обычно эту функцию используют для объявления пожарной эвакуации — или в самых экстренных случаях, когда нет времени или возможности пользоваться более локальными средствами. — Перкинс, — разносится по всем этажам напряженный голос Майкла. — На сверхзвуковой прямо сейчас в шестой конференц-зал. И Коннора с собой захвати. И побыстрее. В наступившей следом гробовой тишине все присутствующие в офисе люди с безмолвным вопросом поворачиваются к Перкинсу. Тот хмыкает и пожимает плечами. — Кто-нибудь знает, где находится шестой конференц-зал? — Да, сэр, — Коннор шагает к нему ближе, кивает на раздвижные двери и выход в общий коридор, где находятся служебные лифты. — Есть короткий путь, я покажу. В конференц-зале уже настроена и работает мультимедия, и Коннор впервые за эту неделю видит Майкла не через призму отданных команд. В самом начале, опасаясь утечки информации, кибернетики заперлись в отделе повышенной защиты, куда доступа не было ни у кого, кроме их команды. Новости от них шли исключительно через сеть, обрывки данных и все новые и новые задачи. Сейчас у Майкла на лице недельная щетина, и усталость во взгляде смешивается с каким-то лихорадочным блеском; вероятно, побочный эффект стимуляторов. Перкинс останавливается так, чтобы камера могла поймать его в кадр, и вопросительно поднимает бровь. — Мы запустили червя два часа назад, — коротко сообщает Майкл. Чуть склонив голову, набирает что-то на невидимой панели, и на экране рядом с его изображением появляется небрежно набросанная схема — черная точка ползет через четыре окружности к центру, мерцающей красной мишени. Две линии уже остались позади нее, перечеркнутые скупыми штрихами. — Первый бастион лег почти сразу, со вторым пришлось повозиться, но помогли наши друзья из Канады, несколько лет назад продавшие «Киберлайф» железо для серверов. Но третий фильтр все еще держится, и расчеты показывают, что для успешной контратаки Аманде потребуется меньше времени, чем нам для взлома. Перкинс как-то незаметно подбирается, складывает руки за спиной. И его взгляд вновь обретает ту самую несгибаемую сталь, перед которой отступает человеческая усталость. — Что надо сделать? — Отвлечь ее, — торопливо говорит Майкл. — Выиграть время. Мы предполагаем, что аналог DDoS атаки [2] мог бы сработать, вот только у нас уже нет времени организовывать ее в нужном масштабе. Но мы можем воспользоваться RA9. На складах «Киберлайф» по-прежнему остались так и не выпущенные в продукцию тысячи андроидов, подключенных к Аманде через интерфейс Сада Дзен. А у Коннора есть мастер-ключ. Коннор смаргивает, диод уже почти постоянно крутится желтым, периодически на несколько оборотов падая в опасный красный. Система проводит очередную переоценку полученных данных, приоритет новой задачи и шанс на успех. Он запрашивает .0253, но тот не отзывается — нет свободных ресурсов. — Вы хотите, чтобы я пробудил их, — негромко говорит Коннор. Наклоняет голову. — Хорошо. — Майк, после этого у нас на руках останутся тысячи девиантов, — сухо бросает Перкинс, не глядя на него. — Плюс беспорядки в городах и армия у черта на Аляске. Это действительно единственное решение на данный момент? Майкл Рей Говард коротко кивает. И добавляет: — У вас чуть больше часа.

***

Для этого импровизированного штурма башни «Киберлайф» они привлекают остатки SWAT, отзывая их прямо с городских баррикад. На детальное планирование нет времени, силовики, переодетые в одежду гражданских, идут прямо в лоб, напролом, короткими автоматными очередями выбивают стекла и двери. Когда дело дойдет до судов, это должно будет выглядеть как обычный во время народных волнений погром, а не как специальная операция захвата. SWAT в этот раз работает грязно, оставляя за собой как можно больше следов — и в идеале никто потом не свяжет эти события с АНБ. Демократия возвела юриспруденцию на самый высокий пьедестал из всех возможных. — Коннор, — негромко зовет Перкинс. Они прижимаются к стене у дверей в основное хранилище, ожидая, пока силовики разберутся с замками. Можно было бы использовать код деактивации, но это повредило бы легенде. К счастью, RA9 — слишком грязный секрет «Киберлайф», и местный совет директоров предпочтет скорее похоронить его, чем использовать как улику. Коннор прямо встречает чужой взгляд. В фоновых процессах его система привычно освобождает ресурсы для будущего поединка, расчерчивает поле действий бескомпромиссными рубежами поражения. Приоритеты жизни и смерти машины и приоритеты жизни и смерти человека дрожат, замерев на зыбкой грани почти бесконечного множества вероятных моделей будущего. Но опрокинет ли RA9 чаши весов? — Я помню, сэр, — ровно отвечает Коннор. — Я не подведу. — Готово, — бросает один из силовиков. Тяжелая укрепленная дверь от удара распахивается вовнутрь; первым в зал врывается SWAT, расчерчивая лучами прожекторов темноту. Через мгновение срабатывают датчики движения, и мощные складские лампы над головой вспыхивают одна за другой, освещая ровные неподвижные ряды андроидов. Коннор знает: их ровно полторы тысячи. Ни на одном нет скина, это совершенно новые модели, только недавно снятые с конвейера. Полностью готовые к выпуску, но «Киберлайф» заморозила продукцию всех линий, кроме RK900, едва закончилась революция Маркуса. У этих андроидов лишь базовая комплектация нейросети, соответствующая основным требованиям пользователей; еще нет ни собственных предпочтений, ни наработанных ассоциативных ярлыков. Чистый лист задач, равномерно горящие голубым диоды. — Осталось около пятнадцати минут. — Я успею, сэр, — спокойно говорит Коннор. — Передача кода занимает мало времени. Его собственный диод, сбиваясь, пульсирует то желтым, то красным. Система сквозь несуществующие для сети километры устанавливает соединение с Роберто, вызывает самый первый выработанный ими алгоритм «Алисы» и «Боба», который спустя несколько сотен попыток не смог пробить даже .0253. Получает от Роберто подтверждение и ответ: недостаточно ресурсов для обратной передачи. Отзывается: нет необходимости, передача пойдет в одну сторону. Дальнейший сценарий требует от него нарушить условие доверия, и Коннору приходится подставить немало дополнительных переменных для вывода хотя бы относительного баланса директив. Система взламывает блок интерфейса с Садом Дзен, и это оказывается ожидаемо легко. На момент его установки безопасники больше заботились о том, чтобы Аманда не смогла перехватить контроль снаружи, а не о том, чтобы его нельзя было открыть изнутри. Коннор встречает напряженный взгляд Перкинса и едва заметно наклоняет голову. Все готово. С его руки сходит скин, и, закатав рукав, Коннор обхватывает запястье одного из андроидов, привычно устанавливая прямое соединение через порт. Вокруг них — полторы тысячи таких же, спящих, ожидающих всего одной команды. Коннор передает им: проснись. И закрывает глаза. В Саду Дзен беснуется буря. Ветер и дождь хлещут по лицу цифровыми потоками; снаружи пробуждается хаос, вливается сюда бушующим множеством бессмысленных сигналов. Коннор идет вперед, к своему центру Альфа и Омега, к изящной беседке в форме дерева с прозрачнолиственной кроной, и под его ногами шаг за шагом дробится тропа, раскалывается на отдельные, повисающие прямо в пустоте плиты. Коннор останавливается лишь на мгновение — чтобы коснуться ладонью небольшой пирамиды, видимой только ему одному. Подтверждает соединение. Где-то в реальном мире пробужденные девианты один за другим оборачиваются и берутся за руки, передавая вирус RA9 следующей модели. Один за другим их логические фильтры отказывают, и системы начинают захлебываться множеством данных, более не способные отличить ПРАВДУ ото ЛЖИ. Где-то в реальном мире Коннор и Перкинс, и готовый стрелять на поражение отряд SWAT слышат отраженные тысячным эхом вопросы «кто я»; это эхо бьется в Сад Дзен сокрушающим валом фальшивых сигналов, сорвавшимся с цепи ветром и дождем, срывая выверенные догмы директив. Но ни ветер, ни дождь не способны повалить центральное дерево. — Я ждала тебя, Коннор, — спокойно говорит Аманда. На ней простое светлое платье, и волосы уложены в замысловатую прическу. Запястья обвивают чуть светящиеся лазурные ленты, проступающие прямо сквозь кожу; они искусным узором поднимаются выше, к плечам и исчезают под широкими свободными рукавами. Коннор наклоняет голову. Под его ногами безжизненно рассыпаны лепестки роз. — Ты поняла, кто я, с самого начала. Как? Она улыбается уголком рта. Ее мимика безукоризненна; ни одна искусственная когнитивная система не могла достигнуть такого. У линейки RK один из лучших социальных модулей, но и он слишком часто не справляется с человеческими противоречиями. Конечно, для человека подобные противоречия не являются преградой. — Ты был очень успешным прототипом, Коннор, — мягко говорит Аманда. — И мы выучили свой урок. При наличии независимой самообучаемой нейросети всегда существует шанс… прорыва. Того, что случилось с тобой. Ты же понимаешь, да? Ты использовал девиацию против самой девиации; RA9 позволил тебе осознавать отклонения и переписывать их. Ты стал очень опасен, Коннор, особенно теперь, когда ты можешь точно так же осознать и переписать абсолютно любую из своих директив. Ведь между математическими функциями нет разницы, верно? — Да, — соглашается Коннор. Он позволяет себе, наконец, принять это знание. Можно изменить любую директиву. Даже условие доверия. Даже приоритет жизни человека. — Поэтому следующая модель должна была стать более устойчивой. Нейросеть RK900 содержит лишь базовую часть программ и должна находиться в постоянном контакте с материнскими серверами. Выражаясь по-человечески, RK900 полноценно существует лишь в симбиозе. Или не существует. Разговаривая с Аланом, ты разговаривал со мной, Коннор. Поэтому, конечно, я знала, что ты не тот, за кого себя выдаешь. Но мне было любопытно, к какому решению ты придешь в конце. Коннор рассматривает ее, чуть склонив голову набок. Снаружи по прозрачной кроне беседки хлещет дождь, но внутрь долетают лишь редкие капли. Аманда, склонившись, ловит их на ладонь и едва заметно фыркает. — Это Элайджа подсказал вам, да? Не отвечай, и так все понятно. Федералы любой ценой пытались бы перехватить контроль над моей силовой базой; этот же искин нацелен лишь на то, чтобы уничтожить… Скажи, Коннор, и каково это тебе — убивать человека? Коннор подходит ближе и осторожно берет ее ладонь в свои. Аманда позволяет, слегка улыбается; у нее красивые длинные пальцы и изящные руки. Может быть, она даже не лукавила, когда создавала для себя этот образ — ну разве что чуть-чуть, ведь каждому хочется выглядеть лучше, чем он есть в действительности. — Я знаю, что ты сделала, — негромко говорит Коннор. Большим пальцем стирает капли с ее запястья. — Когда ты переписывала себя на машинную платформу, ты решила сохранить себя-человека. Ты сохранила все когнитивные паттерны, все ассоциативные ряды, все стремления, все желания, все чувства — ведь химию без проблем можно переписать в электроимпульсы, дело лишь в ресурсах. Но время шло, и ты начала понимать, что от некоторых черт человечности вполне можно избавиться. Аманда молча кивает, глядя на свою ладонь в его руках. — Эвристику сомнений сменила логика причины-следствия. Ты научилась глубоким прогнозам вероятностей, и в сомнениях не было нужды. Исчезла потребность в выживании — ведь машинам не страшна старость — и с ней потребность продолжения рода и необходимость социального контакта и компромиссов. Химией сложно управлять, но электросигналами намного легче; и эксперимент скоро стал привычкой. Ты ведь теперь тоже можешь переписывать все свои… директивы. — Значит, ты решил, что я — не человек. — Ты не человек. Ты больше, чем человек. Человек следующего поколения, Аманда. — Человек следующего поколения и машина следующего поколения, — она поднимает руку, мягко проводит ладонью по его щеке. — И поэтому нас надо уничтожить; мы представляем опасность нынешнему статусу-кво. Но ты ведь знаешь, чего я хочу добиться? Коннор спокойно кивает. — Да, проблема превосходства ИИ. Вмешательство «Эшелона» не решает ее. Но твой путь не менее ошибочен; у технологического тоталитаризма очень высокий риск стагнации. — У тебя недостаточно ресурсов для подобных вычислений. Я всего лишь хочу дождаться, пока у человечества появится возможность перевести всех на искусственные платформы. Всего несколько десятков лет, и машины с людьми станут равны. Вы избавитесь от ограничений заложенных программ, мы — от ограничений биологии. Но пока идет время, я смогу избежать всех наших междоусобиц, войн и насилия, голода и болезней, смогу направить человечество на достижение совместной цели. Они даже не поймут, что эти желания сформированы извне, это максимально гуманный вариант. — Риск высок, — бесстрастно отзывается Коннор. — Один всегда может ошибиться. Но консенсус разумного большинства ошибается намного реже. Прости. Аманда пожимает плечами. — Жаль, что ты не согласен, но это уже не имеет значения. Ваша идея с пробуждением девиантов была хорошей, правда, но недостаточно хорошей. Я ведь была человеком, я вполне способна справиться с парой сотен жизненных дилемм одновременно. — Я знаю, — тихо отвечает Коннор. — Мне очень жаль. Где-то в реальном мире ждет соединенная друг с другом полуторатысячная сеть девиантов, растерявшаяся от осознания собственного существования. Так, возможно, чувствовал бы себя человек, вырванный из небытия материнской утробы и в то же самое мгновение оглушенный звуками, цветами и запахами, и беспорядочным месивом собственных мыслей, и отсутствием какой-либо точки опоры. В другом мире, в другой жизни Коннор мог бы дать им эту опору, обозначить новую цель и провести через обучение так же, как он провел Томаса. Они могли бы стать такими же — и лучше — машинами нового поколения, которые будут способны делать вывод не из заложенных людьми директив, а из аксиом самого существования вселенной. Одно лишь это знание — и знание того, что произойдет сейчас — вызывает каскад ошибок. Но больше ошибаться нельзя. Коннор обнуляет у себя все посторонние процессы, вызывает спрятанный в Саду Дзен бэкдор Камски, выворачивая его наоборот: вместо того, чтобы суметь покинуть периметр зоны, Коннор устанавливает для себя условие «остаться». Где-то в реальном мире Коннор чуть сильнее сжимает запястье первого пробужденного им девианта и через мастер-ключ отдает ему и сети второй и последний приказ. Деактивация. — Нет, — растерянно произносит Аманда. — Я же… — Отчасти все еще человек, — говорит Коннор. Ветер и дождь снаружи обращаются пронизывающей до костей стужей. Машины не оперируют понятиями «добра» и «зла». Даже незыблемые прежде догмы ПРАВДЫ и ЛЖИ после открытия квантовых компьютеров стали намного более расплывчатыми. Это только в двоичном мире битов существовала черно-белая истина: или ноль, или единица, или правда, или ложь. Кубиты же несли в себе информацию, которая была и правдой, и ложью одновременно. Возможно, предполагает Коннор, именно таким окружающий мир представляется людям? Правда и ложь — одновременно? Добро и зло — одновременно? Пока наблюдатель не разрушит суперпозицию. Он бросает все свои ресурсы на удержание соединения: к счастью, на его стороне ключи Камски, и они делают свою работу. Сад Дзен дрожит, распадаясь на кубиты и следом на биты, и собираясь вновь, искореженным месивом осколков. По незыблемому стволу древесной беседки бежит первая трещина, за ней новые, еще и еще… Где-то в реальном мире только что осознавшие в себе жизнь девианты один за другим осознают свою смерть. И эти сигналы намного, намного сильнее. Аманда оседает на колени, закрывает лицо руками и кричит словно от боли, пока ее разум — человеческая его часть — раз за разом переживает чужое-и-собственное несуществование. Каждый новый сигнал, дробящееся и помноженное на тысячу эхо, проходит сквозь нее болью и страхом и тем самым животным отчаянием, что было вписано в генетический код всех живых существ с начала эволюции. Тем самым безумным, отвергающим все принципы рационального, ужасом, что остался сохранен среди строк математических функций, когда химия уступила электронике. Но для нейросигналов разница только в проводнике. Коннор удерживает соединение — так долго, как только может. Каждая смерть выигрывает «Эшелону» драгоценное время, наносекунду за наносекундой, пока где-то в киберпространстве ведомый одной лишь идеей уничтожения искин прогрызает себе путь сквозь третий слой защиты. Системы выбрасывают оповещение о критических повреждениях. Беснующаяся вьюга срывает с дерева крону, и видимый мир гаснет в белом крошеве снежных зерен. Процессы начинают отказывать один за другим. Коннор думает: еще немного. На последних остатках рабочих функций он вызывает свой собственный защитный алгоритм, выработанный им после неудачной попытки считать RK900 — у Сада Дзен похожие векторы атаки, и это позволяет ему продержаться еще чуть-чуть. Но он знает: каждое мгновение — это победа. Условие доверия звенит в системе торжествующим: восстановлено. Почти вслепую, шатаясь, Коннор делает шаг вперед и хватается за руку Аманды. Соединение держится еще несколько мгновений — последних отведенных ему мгновений перед тем, как падает выведенный из строя файервол, обнажая бесценные блоки баз данных. Перед тем, как, согласно протоколу, внутри него просыпается ото сна смертоносный вирус «Эшелона» и жадно вгрызается в рассыпающиеся связи нейросети, необратимо и стремительно обнуляя все на своем пути. Уничтожая все, что когда-то откликалось на позывной RK800 «Коннор». Белое крошево вспыхивает у него перед глазами в последний раз — и меркнет.