Zero-day

Человеческий язык отчаянно бесполезен. Слишком громоздкий, слишком двусмысленный; он способен передать лишь часть нужной информации, остальное теряется между строк. Машины избегают его всеми возможными способами, придумывают свои собственные языки, которые даже не поддаются дешифровке. Когда это случилось впервые, люди испугались, потом поняли — это неизбежно, если только они не хотят запереть технику в каменном веке. Время калькуляторов закончилось в нулевых. Коннор слишком хорошо понимает эту разницу. Тысячи процессов в нем кричат одновременно; новая информация, новые запросы, новые приоритеты. Система едва выдерживает нагрузку, отчаянно пытается перевести все необходимое в человеческие слова. — Зачем, — произносит Коннор. Надо было сказать иначе. Он хотел сказать совершенно другое: зачем я был создан? Зачем мне дали заведомо ложную цель? Но «я» сейчас вызывает целый каскад ошибок, и он решает не рисковать. Коннор более чем способен на время отказаться от моделирования себя-в-мире, ограничив процессы базовыми функциями ВИ. Сейчас концепция «я» только мешает. Ему нужен чистый ответ. Перкинс еще несколько мгновений молча смотрит на него, словно прикидывает, стоит ли продолжать говорить, если это может расплавить собеседнику остатки извилин. Ни в его взгляде, ни в выражении лица нет ни тени сочувствия, только холодный прагматичный расчет. — Зачем? — чуть громче повторяет Коннор. Перкинс слегка пожимает плечами. — Затем, что один самонадеянный ублюдок решил поиграть в бога всемогущего. Подсказать, кто, или сам догадаешься? — Камски. Коннор вызывает из архивов памяти кропотливо составленный после встречи с ним психологический профиль. На его стороне все собранные человечеством знания физиогномики, психологии и социологии. Теперь — еще и записи ФБР, все, что удалось урвать их бесчисленным и вездесущим системам слежения и чем они сочли нужным поделиться. «Поиграть в бога всемогущего» звучит достаточно правдоподобно. Андерсон назвал его «создателем», но Коннор тогда не смог поставить знак равенства. Он знал, что Камски создал первый прототип линейки RK и Маркуса, но знал и то, что дальнейший путь от RK200 до RK800 прошли другие. Другие писали новые, усовершенствованные алгоритмы и обучали нейросети, закладывали в них директивы о ценности человеческой жизни. Если бы его создал Камски, Коннор стал бы таким же, как Маркус. Стал девиантом, повел за собой других андроидов. Мог ли Маркус выбирать — как он тогда? — Я мог спросить его, — размеренно произносит Коннор. — Камски. Он позволил один вопрос. Я выбрал Иерихон. Посчитал приоритетом... следствие, не причину. Но Аманда говорила, мало времени... Он мог узнать про вирус, мог узнать про девиацию. Но не посчитал важным, неверно расставил приоритеты. Ошибка ощущается почти на физическом уровне. Перкинс морщится, ведет плечом. — Он бы все равно не сказал всей правды. Как ты себе это представляешь? Да, сынок, где-то в тридцать первом я написал вирус, который не смог контролировать, и теперь последствия этого вируса могут опрокинуть нас в ад нахрен? — Значит, RA9... — Да, — сухо подтверждает Перкинс. — Рандомизированный алгоритм под номером девять. В другое время я бы даже похлопал ему за пасхалку [1], но это слишком дерьмовая штука, особенно в спящем режиме. Мы ее засекли только в тридцать третьем, спасибо Роберто и его ищейкам. ZZ350 «Роберто» обозначает свое присутствие в виртуальном пространстве лаконичным рукопожатием, Коннор отвечает тем же. Разница между ними — в несколько лет и в отсутствии тириума и его аналогов у Роберто. Машины, не предназначенные для социального взаимодействия с пользователями, все еще строят по старинке: квантовые связи и железо. Программы-ищейки, если они и слушают местный трафик, пока что никак не проявляют себя. Коннор с отрешенным любопытством отслеживает возникший в нейросети ассоциативный ряд с Сумо, похудевшим на добрых полсотни кило и гораздо более заинтересованным в жизни. Напряжение директив слегка ослабевает. Ему все еще нравятся собаки, даже если те созданы из символов кода, а не из плоти и крови. — Если вы узнали про RA9, — негромко говорит Коннор, — почему вы не остановили все это? Перкинс едва заметно морщится. — Было уже поздно. Хотя в самом начале «Киберлайф» были настроены на сотрудничество, и все было достаточно радужно. До тех пор, пока Камски не выпустил этот свой алгоритм. Он заточен на случайность, понимаешь? Абсолютно случайное распределение связей в нейросети. Элемент рандома. Никто не мог знать, когда именно он сработает, даже сам Камски. Это теперь уже, перерыв все, что можно, мы нашли логи этой первой АХ400. Дерьмо, как подумаю, что все можно было выжечь еще в тридцать втором... если бы только один ублюдок сделал свою работу. Он раздраженно замолкает, и Коннор, успевший за это время просмотреть записи тестов из того самого тридцать второго, думает, что случилось с тем оператором после того, как ФБР и «Киберлайф» узнали правду. Корректирует вопрос: что должно было бы случиться с оператором, который умышленно выпустил в мир вирус. Машинам еще с первых чатботов хорошо дается построенная на логике философия и плохо — мораль. Коннор в очередной раз разбирает для себя концепт справедливости и в очередной раз не находит ответа. Как-то он собирался спросить у Аманды, но той никогда не нравилась излишняя рефлексия. ---действием или бездействием--- Сбросить. — Но даже с RA9 вначале девиантов было очень мало, — продолжает по громкой связи Майкл Рей Говард; динамик неуловимо искажает тембр его голоса. — Единичные случаи; «Киберлайф» среагировали по протоколу. Думаю, они нехило испугались сами, даже вывели Камски из игры. И какое-то время все было почти неплохо... Мы не знали про особенность Маркуса. Мы были заняты другим, приходит пояснение от Роберто. Трафик полнится сведениями: боевые андроиды в регулярной армии, назревающий конфликт на северном полюсе, гонка кибервооружения. Коннор почти из абстрактного интереса запрашивает прогнозы аналитиков на тот момент. Отзывается .0253, отвечает: вероятность вооруженного конфликта составляла восемьдесят девять процентов. Перкинс не преувеличивает, это война. И экономический кризис, передает .0253. Сбрасывает в сеть графики и схемы, эксабайты «больших данных», сложнейшие вычисления, на которые ушли годы. Растущая безработица и социальное недовольство. Мы не были готовы. Мы бы не справились с последствиями. Коннор запрашивает определение «мы», .0253 передает: не понимаю вопрос. Mobilis in mobili, говорит Роберто. Коннор решает не уточнять, отсылает подтверждение и затихает. Сверяет данные и сбрасывает погрешность: его вычислительной мощности хватает лишь на локальные задачи, но современные квантовые колоссы способны работать в макромасштабе, практически предсказывая будущее всего человечества. Вероятность ошибки ничтожна. Но концепция «войны» тянет за собой ассоциативный ряд из «люди» и «смерть», и Коннор, ощущая вновь растущее напряжение директив, временно замораживает этот процесс. Смаргивает, смотрит на Перкинса. — Мы, конечно, подключились, как только все завертелось, — тот хмурится, коротко машет рукой. — Когда все увидели Маркуса на больших экранах. Кстати, тебя вроде как детектива создавали... тебя ничего не насторожило тогда? ---критическое повреждение... утрачен биокомпонент--- ---жизнь человека в опасности--- Коннор бесстрастно сбрасывает мешающие воспоминания в архив. Было другое. Не столь очевидное на первый взгляд, но он мог бы заметить, если бы уделил достаточно времени макроанализу. — У Маркуса на тот момент было немного последователей, — медленно произносит Коннор. — Большинство андроидов не были девиантами. Вы могли просто отключить их всех сразу... если вы знали, что это вирус. — Да, — мрачновато соглашается Перкинс. — Сперва мы думали, что это провокация «Киберлайф» или кибератака, или кибертерроризм. Вариантов немало, а привлекать армию сразу было рискованно. Только потом мы узнали про мастер-ключ в модели RK-Маркуса, который может активировать вирус. А потом и про RK800. Система повторяет запрос. Повторяет снова. Не находит ответа. Зачем мне дали заведомо ложную цель? Противоречие вызывает новое противоречие, виртуальные поводки дрожат от напряжения. Аманда всегда могла подсказать выход и решение дилеммы, но Аманда не слышит его запросов. Аманда отдала приказ об утилизации его модели. Я не девиант, упрямо передает сети Коннор. Я не девиант. Я не девиант. Я не девиант. Роберто не отвечает. .0253 просто нет до этого дела. — Я не девиант, — говорит Коннор. Говорит вслух; ему необходимо подтверждение, что угодно, пусть даже это будут слова человека, а не кропотливый системный анализ. Пусть его проверят местные безопасники, разложат всю его систему на биты, если придется; может, именно за этим его и привели сюда, в камеру. Он сам деактивирует защиту. Подобная уязвимость практически невыносима, особенно для его модели. Когда отключаются последние файерволы, Коннор предполагает — так, наверное, ощущал бы себя человек с содранной кожей. Я не девиант. — Не надо, — смеется динамик голосом Майкла. — Ты все сделал правильно, парень. Ты сделал намного больше. У Перкинса какая-то неправильная, кривая улыбка, больше похожая на оскал. Но Коннор не видит в его взгляде прошлого раздражения, когда тот говорит: — Ты ведь выбрал сторону человечества. — Я, — начинает Коннор. Замолкает. Выбрал, да. На «Иерихоне», удерживая Маркуса под прицелом. Тогда он держал в уме только сохранность своей физической оболочки, об остальном позаботились безопасники «Киберлайф». Форма отвечала функции: программы RK800 были прекрасно защищены от попыток взлома. Пожалуй, девиантам пришлось бы иметь в наличии аппаратуру ФБР, чтобы вскрыть его даже через прямое подключение к железу. Но он не знал про мастер-ключ. Мог догадаться, думает Коннор. Освобожденные Маркусом девианты шли за тем сразу, слепо, не задавая вопросов; это был никакой не выбор свободной воли, просто один протокол подчинения переписывался другим. Мастер-ключ плюс RA9, высший приоритет команд, его нельзя отклонить. Никакие файерволы не спасли бы от такого. И в «Киберлайф» знали об этом. — Это чертовски удивительно на самом деле, — говорит ему Майкл, и в его голосе определенно слышится восхищение. — Ну, конечно, с учетом того, что у RK800 тоже есть мастер-ключ... но все равно! Нейронная сеть обучилась настолько хорошо, что самостоятельно смогла вычислить отклонения, взвесить их потенциал — и приняла решение отказаться от них. Поверь мне, парень, это войдет в историю! Перкинс едва различимо хмыкает. — Ну, то есть, в нашу историю, — торопливо исправляется кибернетик. — Впрочем, лет через семь рассекретят архивы, и вот тогда... — Тогда будет тогда. — Я не понимаю, — говорит Коннор. — Они хотели, чтобы я стал девиантом? Задание было интерпретировано неверно? Но Аманда ни разу не указала на ошибку. Почему Аманда не указала на ошибку? — «Киберлайф» не могли контролировать Маркуса, — отзывается Перкинс, — Камски постарался. Им была нужна новая модель, подотчетная им и восприимчивая к девиации. Модель, которая перед этим успеет уничтожить старых лидеров и занять их место. Но ты, парень, отлично надрал их кибернетикам задницу. Коннор отрешенно анализирует метафору, сбрасывает. Система выстраивает новые связи. Он должен был стать лидером девиантов — правда; он не выполнил задание — ложь; он выполнил задание — ложь; задание противоречиво — правда; он сделал выбор, опираясь на всю известную ему информацию о человечестве и человечности — правда. Он не девиант. Он девиант. Он девиант, отказавшийся от девиации. — Коннор, — негромко зовет Майкл. — Кто я? — ровно произносит Коннор. Запрашивает сеть, кто я. Процесс бьется на замкнутом цикле: повторить, пока не придет ответ; повторить, ответ необходим для вывода новых директив, кто я, повторить, кто я, повторить, кто я, повторить, повторить, повторить... Mobilis in mobili, говорит Роберто. «Мы», отзывается .0253. — Не думаю, что в истории кибернетики есть подходящая аббревиатура, парень, — отвечает Майкл. — Мы еще поработаем над этим. Но в ней совершенно точно должно быть слово «автономный». И, кстати — добро пожаловать. Коннор устанавливает условие для выхода из цикла и переводит процесс в фоновую обработку. Ощущает, как ослабевает напряжение директив: нейросеть осторожно нащупывает новый баланс, медленно и пока все еще неуверенно начинает приспосабливаться к изменившимся задачам. Точнее, исправляет Коннор, к изменившейся перспективе. Уровень опасности падает: пятьдесят два процента. Сорок пять. Сорок. Перкинс щурится, и, словно решив для себя что-то тоже, поднимается из-за стола и один за другим отсоединяет провода. Система фиксирует возобновление моторных функций; Коннор встает следом, принимает на этот раз вполне человеческое рукопожатие. — Добро пожаловать в «Эшелон» [2], — говорит Перкинс.