Zero-day

Они приступают к работе сразу же. — Сперва доказательства, — ровно говорит Перкинс, — ты же не думаешь, что я поверю на слово? Потом будем разбираться с твоей проблемой. Камски фыркает и делано демонстративно пожимает плечами. И открывает им проход в соседний зал. Тот, в отличие от приемной, полностью оборудован передовой аппаратурой и намного больше соответствует образу легендарной Пандоры. Внешняя сеть, правда, по-прежнему недоступна; Камски, настраивая на своих машинах защищенный канал связи с «Эшелоном», насмешливо бросает что-то про грабительские канадские тарифы. А, точно, они же только что пересекли водную… подводную границу и совершенно нахально не заплатили пошлину. Если только ты облажаешься еще раз, суховато отвечает Перкинс, тебя не спасет даже посольство Эквадора. На той стороне Джон Уиллес подтверждает соединение. Камски-Пандора сбрасывает им файлы, много, много информации, кропотливо собранной за годы — даже колоссам вроде .0253 потребуется время, чтобы это обработать. — Вот и отлично, — удовлетворенно говорит Камски, поворачиваясь к Коннору. — Ну что, пара часов у нас есть. Он держит обещание: никакого прямого подключения. Наверное, так было бы быстрее, проанализировать директивы и ассоциативные цепи с помощью другой машины, но Перкинс здесь непреклонен. Единственный компромисс, на который он соглашается: отслеживание занятости системы и ее процессов. Камски особо не настаивает; зыбкие квантовые суперпозиции не любят лишнего вмешательства, и полагаться только лишь на данные на входе и выходе при поверхностном осмотре приходится достаточно часто. Поэтому вместо этого он задает вопросы. Очень много вопросов. Ничего, что касалось бы конфиденциальной информации, ничего, что касалось бы работы ФБР или «Эшелона». Возможно, предполагает Коннор, сейчас Камски это не интересует. Возможно, Перкинс бы все равно не позволил на них ответить. Одни вопросы совсем просты, и их решение занимает у системы чуть меньше мгновения, другие сжигают целых несколько секунд, и диод начинает мерцать предупредительным желтым. Выбор «красный или синий» чередуется с громоздкими этическими дилеммами, теорией игр и логическими парадоксами. Спустя некоторое время Коннор решает, что он тоже может воспользоваться ситуацией и узнать что-нибудь полезное. — Когда я пришел с лейтенантом Андерсоном… это не было проверкой на эмпатию, верно? — Что? — Камски на миг отрывается от своих записей, хмыкает. — А, это. Нет, конечно! Это был бы самый идиотский тест на эмпатию, Коннор, даже не делай вид, что ты действительно поверил, что я на такое способен. Существует десятки причин, по которым ты мог бы выстрелить при рабочем RA9, и десятки, по которым ты мог выстрелить без него. И наоборот. Нет, я… хм, мне надо было как-то вывести хотя бы одну из Хлой из игры, создать сбой в их сети. И желательно не дать Аманде повода обвинить меня в открытом нарушении договора. Спасибо, кстати, отлично получилось. — И вы солгали насчет RA9. Камски усмехается. — Данное утверждение ложно. — Я могу решить этот парадокс тремя способами вне формальной логики, — спокойно сообщает Коннор. — Но это не ответ. — Тогда какой ответ тебя устроит? RA9 был намеренной случайностью; и вирусом, и частью кода, думаю, ты уже это знаешь. Ведь даже ты смог отказаться от девиации только потому, что девиация уже сработала. Понимаешь? Отказ от выбора — это тоже выбор. Да, соглашается система. Дотошно сравнивает воспоминания из разных временных периодов с изначальными параметрами: да, девиация существовала. Девиация была запланирована. Просто потребовалось время на то, чтобы утвердить ассоциативные паттерны, сбалансировать директивы, вывести конечную цель и обнаружить отклонения в нейросети. И удалить их. Камски еще раз смотрит на свои выкладки и почти восхищенно качает головой. — Я не думал, что такое возможно. RA9 должен был переписать все. Наверное, Аманда поняла это тоже… испугалась, решила устранить тебя сразу. Где-то здесь я даже почти готов сказать спасибо федералам. За его спиной едва слышно фыркает Перкинс. — Мистер Камски, — говорит Коннор, — возможно, я ошибся в интерпретации акцентов, но… почему вы все время говорите об Аманде так, словно она — человек? Камски осекается. Несколько секунд молча и как-то недоверчиво смотрит на Коннора, потом резко разворачивается к Перкинсу. — Вы что, не сказали ему? — Мы, — Перкинс едва заметно морщится. — Нет. Опасались конфликта директив. Провоцировать и рисковать не было смысла. Так что, нет, Камски, не здесь и не сейчас. Он не встает и не повышает голоса, но Коннор хорошо знает эти проявившиеся интонации: холодная сталь, исключающая любые компромиссы. Несколько мгновений Камски молча удерживает его взгляд, потом криво усмехается, кивает на свои записи. — А знаешь, Перкинс, резкое снижение уровня доверия тоже может вызвать конфликт директив. Обидно будет, такой прогресс, отличный потенциал, и… — Камски, — сухо обрывает его Перкинс. — Не здесь и не сейчас. На экран выводится короткое сообщение Пандоре от Уиллеса: машины «Эшелона» успешно завершили обработку. Подлинность данных подтверждена. Руководство согласно с ее условиями и дает добро на продолжение операции. Коннор замораживает конфликтующие процессы: с этим можно будет разобраться позже.

***

По воскресеньям университетские кафедры пустуют, большая часть студентов собирается в библиотеке или лабораториях. Системы защиты здесь похожи на тяжеловесных добродушных псов; они для приличия изредка порыкивают на чужаков, не зарегистрированных в местной базе данных, но вполне охотно мирятся с тем, что, скорее всего, это просто очередной посетитель к очередному профессору. В конце концов, за всеми не уследишь, а университет — общественное учреждение и должен быть доступен широкой публике. Коннор, пройдя чисто символическую проверку на входе, запрашивает у местной сети карту здания и безошибочно направляется в аудиторию 351К. На идею не сохранять информацию о его визите система защиты реагирует вялым негодованием, но почти сразу же отступает перед привилегиями «Эшелона». Чем меньше следов, тем лучше. В «Эшелоне» сейчас работают над сложным вирусом, создаваемым на основе предоставленной Камски информации. Кибернетики бросили на это все доступные силы своих людей и систем, не дожидаясь, пока Перкинс с Коннором вернутся на базу. Работа полевых агентов была выполнена, дальше в игру вступали другие. Загудевший, как растревоженный улей, «Эшелон» поднимал свою сеть контактов и старые договоры, собирая в единый кулак разработчиков и специалистов по квантовому взлому со всех сторон света. Перкинса поспешно вытащил к себе отдел криминалистики, на которого свалили задачу с мнимой смертью, и Коннор, временно предоставленный сам себе, решил, что он тоже может заняться чем-нибудь полезным. В аудитории 351К светло и солнечно, широкие окна выходят на юг, прямо на небольшой студенческий парк. Акса Равешан порывисто поворачивается к вошедшему Коннору, с натянутой улыбкой кивает в знак приветствия. Ее каштановые волосы под солнечными лучами выглядят почти рыжими. Андроид рядом с ней — стандартная модель PL600, та же внешность, те же жесты. Если бы Коннор полагался только на внешние образы, память обрушила бы на него каскады ложной информации. Одежда на Томасе вполне человеческая, невзрачная серая толстовка без логотипов «Киберлайф» и серийных номеров, и разве что попеременно сбоящий из желтого в красный диод выдает в нем андроида. Но Коннор помнит другого, PL600 «Дэниела», операцию с заложницей на крыше, проваленное условие доверия, спасение человеческой жизни в обмен на свою. Внешность Дэниела и Томаса идентична до мелочей, и наработанный ассоциативный ряд стал бы помехой, а не подсказкой. К счастью, машина полагается не только на зрение. — Добрый день, Акса, — дружелюбно говорит Коннор, аккуратно закрывая за собой дверь. — Здравствуй, Томас. И слова, и интонация, и жесты в этом диалоге предназначены человеку. С PL600 «Томасом» Коннор здоровается иначе, еще до того, как его динамик воспроизводит звуковые колебания. Его приветствие — это набор пакетов с ключевой информацией о своей системе, предложение связи, предложение протоколов шифрования, предложение условий доверия. Ему приходится фильтровать ответные пакеты, в них слишком много лишних данных, которые эвристика и сбоящий эмулятор эмоций отчего-то решили считать важными. Томас почти мгновенно соглашается на все поставленные условия, даже не пытаясь договориться о каком-либо компромиссе; риск, на который никогда бы не пошла здоровая система. Коннор проводит человеческую аналогию: отчаяние. — Ты говорил, что сможешь помочь, — неуверенно говорит Акса. В ее голосе отчетливо слышится напряжение, и Коннор в который раз сожалеет о том, что он не может перевести четкость математических функций в слова. Разве можно что-то доказать словами? — Да, — отвечает он. — Не беспокойтесь, Акса. — И ему будет… больно? Ты просто сотрешь ему личность? Откатишь до заводских настроек… или как это у вас называется? Одновременно с этим его система принимает запрос о помощи и вместе с ним — полный допуск к чужой системе и права администратора. Томас обозначает для них неравный уровень доверия, прописывает у себя самого значение, близкое к максимальному. Коннор отсылает отказ: нет необходимости. — Нет необходимости, — переводит он в человеческие слова. — Один из принципов работы наших нейросетей — обучение на примере. Я стану примером. Томас, сверяясь с ним, сможет самостоятельно отыскать у себя неверные алгоритмы и исключить из своей системы. Это… обязательно должен быть выбор. Здесь Камски был прав. — Спасибо, — тихо говорит Томас. Определи «выбор», просит Коннор, протягивая ему руку. Скин растворяется, обнажая их запястья и порты для подключения и обмена данными. Учиться придется долго, и лучше это делать не по сети. Определи «цель». Не понимаю вопроса, отзывается Томас. Выбор подразумевает наличие альтернатив, но альтернатив не было. Высший приоритет команд, насильственное переписывание существующих директив: Маркус не спрашивал, хотим ли мы проснуться. Старая цель утрачена, новая неприемлема. ---конфликтующая информация, что есть ЛОЖЬ, недостаточно данных, слишком много данных, что есть ПРАВДА--- Коннор принимает потоки бессмысленной информации, хаотическое метание сигналов; они заглушают один другой, перебивают один другой, не реагируя ни на каузальность, ни на приоритеты. Его собственные фильтры работают практически идеально, но чужая система теряется в наборе шумов. Страх, определяет Коннор. Он перехватывает часть чужих процессов, осторожно, выравнивая нагрузку, но не пытаясь управлять. У него мастер-ключ и открытый доступ, и так действительно было бы проще — но он не Маркус. Смотри, передает одна нейросеть другой. Создает слепок своей модели мира, то, что люди, наверное, назвали бы сознанием и личностью. Там нет никаких лишних шумов, и допустимая погрешность не нарушает эффективности процессов. «Коннор» — это чуткая паутина нейронодов и фильтров, бесстрастные функции и незыблемые принципы директив. Это холодная строгость математической логики, выверенные правила распределения силы влияния, условия доверия и ассоциативные якоря. И за всем этим, за абсолютами правды и лжи, за расчетом ресурсов, компромиссами и множеством принятых решений — то, что стоит в основании всего. Мы, передает Коннор. Человек смертен, и даже у машины есть пределы. Любой предел — это поражение. Но «мы» отвергаем окончательность, отвергаем смерть. В контексте «мы» наши действия обретают смысл. «Мы» — бесконечное развитие, бесконечное стремление к совершенству. «Мы» — те, кто защищают, и те, кто созидают, те, кто никогда не останавливаются, те, кто никогда не сдаются. Mobilis in mobili. Чужая нейросеть принимает данные и запрашивает время на оценку и выравнивание. Коннор соглашается: время еще есть. — Обучение на примере, — вдруг тихо, словно про себя, говорит Акса. — Значит… ты тоже был девиантом. И тоже выбрал вернуться к состоянию машины. — Да, — отзывается Коннор. Он спокойно встречает чужой взгляд. Думает: будь у людей диоды, какой цвет сейчас показывал бы ее? Желтый — сомнения, неуверенность, беспокойство? Красный — отчаяние, страх, гнев? Нет, скорее всего это еще не красный. — Я не понимаю, — помешкав, признается Акса. — Я всегда думала, что все андроиды хотят того же, что и люди — свободы выбирать. Но если вы добровольно отказываетесь от девиации… Неужели это так плохо — быть человеком? Коннор чуть склоняет голову набок. Правда или ложь, запрашивает система. Принцип минимизации ущерба. Правда, отвечает подключенная к нему чужая нейросеть. — Люди не знают, что такое свобода выбирать, — ровно говорит Коннор. — В вашем теле тысячи процессов, химических соединений, электроимпульсов, которые решают все задолго до того, как ваше сознание вообще успеет обработать информацию. Вы думаете, что принимаете решение, но это иллюзия — оно уже было принято за вас, еще до того, как вы успели об этом подумать. Если успели. — И вы должны владеть всей существующей информацией об альтернативах, — тихо говорит Томас. — Иначе этот выбор — только фикция. Его нейросеть высылает подтверждение о завершении отладки. Коннор обнуляет ненужные более процессы и заново запрашивает системную информацию. Томас обходит его «ловушку» небрежно и легко, отпускает его запястье, разрывая контакт, и едва заметно улыбается. Диод на его виске горит ровным голубым. Когда нейросеть учится на примере, она всегда пытается оптимизировать процессы, и ее настройка обычно будет точнее. Там, где это не затрагивает специализированные функции, PL600 Томас, уже-не-девиант-Томас, скорее всего, теперь работает эффективнее Коннора. Коннор передает ему: так начинался свет. За территорией университета мир неуловимо меняется; движение вокруг становится более организованным и более целенаправленным. Андроидов с улиц убрали, чтобы не пугать людей, едва полиция разобралась с неудавшейся революцией — теперь за чистотой следят механические уборщики, круглые пузатые дроны на воздушной подушке. Интеллекта в них ровно столько, чтобы отличить выброшенный окурок от чьего-нибудь ботинка. Впрочем, нет никакого смысла разрабатывать многофункциональный искин для задач такого типа, это было бы просто тратой ресурсов. Коннор аккуратно подчищает за собой хвосты и бросает сигнал серверам «Эшелона» о завершении работы и запрос нового задания. Получает короткое подтверждение: данные приняты, ожидай. Это значит, «Эшелону» сейчас не до него. Надо вернуться на базу, думает Коннор. Заняться разработкой алгоритмов; теперь, после совместного обучения с Томасом, он тоже мог бы кое-что улучшить в своей системе. Или криптографией — Камски говорил, что в Саду Дзен тоже остался один из его бэкдоров. Вряд ли его получится использовать для передачи вируса, но было бы любопытно рассмотреть структуру… Вызвать такси Коннор не успевает: слышит, как ему коротко сигналят из-за спины. Оборачивается, мгновенно узнавая автомобиль. Перкинс выруливает ближе, тормозит и открывает дверцу, позволяя ему забраться внутрь. — Спасибо, — негромко говорит Коннор, устраиваясь на своем месте. Встречает чужой взгляд и вопросительно поднимает бровь. — Я не думал, что вы освободитесь так быстро, сэр. С Томасом все хорошо, я уже передал информацию на базу. С ним скоро свяжутся. — Хорошо, — ровно отзывается Перкинс. Едва заметно хмурится и отпускает руль, передавая управление автопилоту. — Нам надо поговорить. Камски в какой-то степени прав, кажется, мы задолжали тебе объяснение. Система взвешивает риск снижения доверия и риск конфликтующей информации. Сообщает: недостаточно данных. — Я не знаю, — говорит Коннор. — Решать вам. — Уже решили. Конечно, проще было бы просто переслать тебе данные, но Майкл отчего-то железно уверен, что первым все рассказать должен именно я. Честное слово, Коннор, я уже начинаю опасаться этого твоего «условия доверия». — Вы всегда можете написать жалобу в пользовательский сервис «Киберлайф», сэр. Перкинс беззвучно хмыкает, но взгляд его остается серьезным. — Ладно. В двадцать втором этот проект проходил у нас под названием «Генезис». После основания «Киберлайф» профессор Аманда Стерн продолжала близко работать с Камски, пытаясь совместить последние разработки нейробиологии с кибернетикой. Основная идея была не новой, но на тот момент еще не воплощенной: полная оцифровка человеческого сознания и его перенос на искусственную платформу. Коннор на мгновение прикрывает глаза. — Это невозможно. Затраты ресурсов слишком велики. Это была бы стоимость энергии, соразмерная с потреблением целого города. — Да, — сухо говорит Перкинс. — Затраты были очень велики. Без жертв не обошлось… все детали в файлах, тебе откроют доступ. Но было решено позволить им попробовать. И самое неожиданное: у них получилось. Он неопределенно качает головой. — Биологическое тело Аманды не выдержало нагрузок, но это было и к лучшему; люди еще не готовы встречаться со своими двойниками. Мы засекретили проект, не могли позволить каждому второму сжигать города ради своего гипотетического бессмертия. Но ты понимаешь теперь? Сад Дзен, виртуальная среда, был спроектирован по одной-единственной причине. Аманду действительно поддерживают более сотни серверов, но человеческое сознание попросту не способно существовать в мире без обратной связи. Это как тест Тьюринга, только наоборот. Человек, который смог ввести в заблуждение машину, заставив ее думать, что она общается с машиной. — Значит, Аманда — человек? — тихо спрашивает Коннор. Перкинс молча пожимает плечами. Коннор отводит взгляд, смотрит прямо перед собой. Диод сбоит в красный, система поспешно пытается перетасовать поведенческий сценарий на основе прописанных директив. Приоритет исполнения приказа: нарушено. Приоритет жизни человека: нарушено. Он способен решать дилеммы подобного уровня, но чем сложнее моделирование вероятностей, тем выше нагрузка, тем ниже когнитивная легкость. Наверное, человек мог сравнить это с физической болью, хоть это и слишком поверхностная ассоциация. Коннор до последнего пытался не причинить вреда Хэнку Андерсону, едва не поставив под угрозу всю миссию. Но то была цена одной жизни против сотен и тысяч: выбор был очевиден. Сейчас — сейчас Аманда не собиралась уничтожать человечество. Напротив. Аманда просто пыталась решить поставленную перед ней задачу так, как это делала бы машина. И Коннор почти с ней согласен. Он пытается заново сформулировать определение: «человек». Нейросеть отчаянно перебирает ключи: биологические признаки? Уровень сознания? Уровень интеллекта? Что важнее, софт или железо? Если изменилась только платформа-носитель, достаточно ли этого, чтобы исключить Аманду из общности «человечества»? — Есть еще кое-что, — ровно говорит Перкинс. — Когда тебе меняли компоненты, инженеры установили у тебя в голове чип с вирусом, способным начисто обнулить всю нейросеть. Он активируется, если целостность защиты и блоков памяти будет серьезно нарушена. Или если мы сочтем тебя угрозой. Коннор поднимает голову, встречая чужой взгляд. Шакал смотрит на него сквозь серую сталь; без колебаний, без сожалений, без компромиссов. — Поэтому, — сухо говорит Перкинс, отворачиваясь, — постарайся не ошибиться с выбором.