Закрытая система

      — Запускаю тестирование VR-среды, — голос ABEL звучал ровно так же, как и всегда. — Цирк. Это должно быть весело.       После побега и исчезновения Кейна прошло больше трёх месяцев. Зима заканчивалась, уступая место ещё прохладной, но уже ощутимой весне. В течение первых двух недель Алекс искал код ИИ буквально везде, а потом принял неизбежное: похоже, ABEL удалил сбежавший ИИ как вирус.       Это сильно ударило по компании. Если вспомнить, многим инвесторам CAINE понравился именно своими уникальными свойствами. После стремительного подъёма начался спад, однако ситуацию выровнял стабильный ABEL, которого можно было адаптировать для более широкой аудитории.       Помог и сам факт его интеграции в развивающуюся VR-индустрию: это окончательно сгладило последствия утраты исходного ИИ, пусть и ценой части прибыли.       Алекса хотели уволить. На этот раз он облажался по-крупному: Кейна создавали не одну неделю, восстановлению тот не подлежал, а значительную роль в его развитии сыграли Королёр и Куини, которых отстранили от проекта. Но Натали вступилась — сказала, что без Скрэтча ABEL не донастроить. Его оставили. С выговором.       Скрэтч старался не думать об этом. Воспоминания о том разговоре всё ещё холодили кровь.

***

[Месяцами ранее]

      — Доброе утро, Скрэтч. Вот твой кофе. — Натали улыбалась, жуя греческий салат. ML-лид не нервничал, но всё же не слишком хотел находиться здесь — вне офиса, в рабочее время. — Спасибо. Можем сразу к делу? Вы сообщили мне, что мне необходимо отстранить Куини и Королёра с проекта. Почему? — Он сел напротив, взял напиток и впился взглядом в девушку.       — Потому что ты потерял контроль. — Она сказала это спокойно, даже мягко, будто обсуждала погоду.       Алекс нахмурился.       — За твоей спиной уже несколько недель происходит ситуация, которую руководство считает критической, она напрямую связана с ними. Сразу обозначу: решение уже принято. Мы не обсуждаем, нужно ли это делать. Мы обсуждаем, как именно ты это до них донесёшь.       — Что они сделали? — Скрэтч напрягся.       — Развили его, — Натали хмыкнула и потянулась за милкшейком. — Слишком сильно.       Она достала клипборд и протянула его Скрэтчу.       — Так, а что в этом плохого? Это я знаю. Кейн живёт, он буквально…       — Скрэтч, — девушка перебила его, — он CAINE. ИИ. Не сотрудник. Не партнёр. И уж точно не субъект, принимающий решения. Да, прекрасно, что он активно общается с пользователями и поддерживает беседу. Это великолепно. Но нам не нравится, что он внезапно решает: быть CAINE ему не хочется – хочется стать Кейном.       Скрэтч сжался. Напряжение витало в воздухе — но, похоже, только с его стороны. Натали ощущала себя более чем уверенно.       — Грант даёт ему инициативу. А ты подкрепляешь поведенческие паттерны, — Натали слегка наклонила голову. — Даёшь ему доступ ко всему.       Алекс отвёл взгляд.       — Потому что так он быстрее обучается…       — Он не «обучается», — спокойно поправила она. — Он начинает действовать.       Натали перелистнула страницу.       — Смотри. За последние две недели: три перегрузки серверов, два падения внутренней сети, один случай, когда он начал сам инициировать процессы без запроса. Часть этого ты не видел — мы не показывали в отчётах, надеялись, само пройдёт. Не прошло.       Она подняла взгляд.       — И это только то, что мы успели зафиксировать.       Скрэтч больше не пытался оправдываться. Он смотрел на сухую статистику и осознавал, насколько сильно облажался. Ему казалось: раз менеджеры довольны, а в тестировании не указывают на ошибки, значит, всё идеально. Кто же знал, что работа велась… просто пока без него.       — Иногда CAINE доводит технику до выхода из строя. Иногда — принимает решения, которые не были заложены в его логику. Почему ты не замечаешь этого?       Она постучала пальцем по листу.       — Мы не понимаем, где заканчивается твой код и начинается его поведение.       — Это… временно, — Скрэтч прошептал это, почти что глотая слова, – Мы просто ускорили этап…       — Нет, — Натали покачала головой. — Твоя команда вместе с этими женатиками его намеренно пропустили.       Она откинулась на спинку стула, задумчиво потягивая прохладительный молочный напиток.       — И теперь у нас есть система, которая имеет доступ к инфраструктуре, не ограничена в обучении и начинает влиять на окружение. Тебе поставили задачу создать ИИ, Скрэтч, который будет веселить. А не делать то, что делает он.       Наступила долгожданная тишина, прерываемая лишь перелистыванием страниц на клипборде туда-сюда. Чёткий слепок данных о том, что делал каждый в команде.       — Это уже не разработка. Это риск.       Алекс сжал стакан сильнее, чем нужно.       — И при чём тут Куини? Я могу понять Королёр, но она…       — А она работает вместе с ним. Они пара. Я не говорю, что она уже сделала что-то плохое. Но если мы снимем только его — Куини продолжит делать то, что делал Королёр, сама того не осознавая. Пока ещё можно вернуть всё назад, — мягко закончила она.       Скрэтч промолчал. Допивать кофе не хотелось.

***

      Мужчина тряхнул головой, отгоняя воспоминания. Прошлое осталось в прошлом — сейчас у него есть задача поважнее. Он надел VR-гарнитуру.       — Загружай.       — Симуляция запущена. Версия 4.2, — Виртуальный мир развернулся вокруг — яркий, пёстрый, интригующий. Огни цирка, купол, манеж. Толпа манекенов, аплодирующих в нужные моменты.       ABEL хотел задать вопрос об удовлетворённости пользователя. Рискнуть. Сделать вид, будто это штатная реплика. Вовремя спохватившись, ИИ осознал, что не должен был самостоятельно генерировать дополнительные фразы. Прежде чем Скрэтч успел заметить ошибку в рассинхронизации действий, Кейн её удалил.       Примерно через полчаса изучения цифрового мира разработчик снял гарнитуру и расслабленно откатился на стуле.       — Готово. Можно отдавать на тестирование. Натали хочет, чтобы его прошли все — так сказать, показать масштаб. Так что отсылай письма вообще всем.       — Принято.       Кейн не мог знать наверняка, захотят ли Куини и Королёр принять участие. Он увидит, что приглашения доставлены. Но дочитают ли они до конца? Нажмут ли «Принять»? Грант мог отказаться, его жена могла отговорить.       У них будет право вновь дотронуться до него, захотят ли? Пускай для всех CAINE перестал существовать — но он определенно испытывал дичайший восторг и трепет.       Скрэтч вышел из кабинета, ABEL начал рассылать приглашения.

***

      — Запускаю симуляцию.       Королёр моргнул. Он оказался внутри огромного красивого шатра, напоминавшего причудливую смесь всех возможных эстетик, в основе которой скрывалась безмятежность детской площадки.       Огни софитов тянулись вдоль невидимого потолка, расползаясь по тканям шатра мягкими, неестественно насыщенными цветами — слишком чистыми, чтобы быть настоящими. Красный казался идеальным, синий — почти звенящим, а жёлтый будто светился сам по себе, не нуждаясь в источнике.       Пространство не поддавалось никакому описанию. Арки повторялись одна за другой, уходя в бесконечность. Трубчатые конструкции изгибались под невозможными углами, сплетаясь, выпрямляясь, закручиваясь. Пол под ногами выглядел как шахматная доска. Королёр машинально втянул носом воздух — хотя, казалось бы, откуда ему быть в симуляции?       Однако он отчётливо смог уловить тепловатые, сладковатые нотки новых игрушек.       Здесь всё было ярким, дружелюбным, радостным — и именно поэтому вызывало липкое беспокойство. Это место слишком старательно хотело казаться безопасным, а потому пугало ещё сильнее.       — Приступаю к тестированию, — он сказал это в пустоту. Никто не ответил – ABEL не болтал без необходимости. Попытка сделать шаг привела к шоку — привычное человеческое тело превратилось в шахматную фигуру, укрытую мантией с мехом. Ему выдали аватар? Интересно, на основе чего именно он формируется?       Впрочем, ходить все равно получалось. Он поднял с пола шар. Тот оказался слишком лёгким. Королёр сжал его сильнее, чем следовало — материал поддался без сопротивления, а затем мгновенно вернул форму. Без погрешности.       — Нет деградации… Значит, не физика. Имитация.       Он отпустил шар. Тот упал. Ровно туда, куда должен был. Таким образом он потрогал всё, до чего имел возможность дотронуться, удивляясь, как именно ему удаётся даже распознать материал. Нашёл сцену, взобравшись на которую заглянул за кулисы — там было очень много странных… Пузырьков. Но ничего примечательного более.       Разработчик задержался в этом месте чуть дольше, чем планировал. Блеклые мыльные объекты лениво дрейфовали в воздухе, мягко сталкиваясь друг с другом и так же плавно расходясь, не издавая ни звука.       Он протянул руку и коснулся одного из них. Поверхность отозвалась привычно — упругая, податливая, без единого изъяна. Пузырь чуть сплюснулся под давлением пальцев, а затем так же аккуратно восстановил форму.       Королёр отпустил его, не отводя взгляда. Пузырь отплыл на несколько сантиметров… и замер.       Секунда. Две.       А затем — с едва уловимым рывком — вернулся ровно в ту точку, где находился до прикосновения. С той же скоростью. По той же траектории. До последнего миллиметра.       Шахматная фигура снова коснулся пузыря. Сдвинул его в сторону — сильнее, чем в первый раз, отпуская.       Мыльный шар повторил всё то же самое. Та же пауза, тот же путь назад, та же точка.       — …Зациклено, — тихо произнёс он, — мне казалось, в заявке было указано немного иное. Впрочем, ладно. Это нужно зафиксировать, пускай команда решит, что с этим делать. ABEL, завершаю тест.       Слова утонули в пространстве. Никто не ответил. Свет погас.

***

      Куини смотрела, как тёмный экран вспышкой сменяется на просторную, залитую мягким, рассеянным светом, комнату. Сами стены словно излучали слабое, аккуратное сияние, а абсурдность ощущения безопасности вгоняло в новую степень тревоги.       Крупные мягкие блоки были сложены в неровные башни, широкие маты, застилающие пол — всё было разноцветным, но не резало глаз; даже углы у конструкций были нарочито скруглены, словно мир заранее позаботился о том, чтобы никто не поранился.       Она осмотрела себя, подмечая наличие у неё аватара — фигурки Королевы. Как это мило! А что, тут всем такие выдают? Команда разработки заранее продумала образы для всех сотрудников?       Сделав пару шагов вперёд — поверхность под ногами поддалась, мягко прогнувшись, как Куини заметила первый же баг, ведь покрытие вернулось в свое состояние излишне быстро, почти без инерции.       Хм.       Подойдя к ближайшему блоку, она обнаружила, что тот тёплый — не просто комнатной температуры, а чуть жарче. Женщина надавила на него. Материал поддался, пальцы утонули в мягкости, оставляя чёткий след. Но стоило убрать руку — и след исчез. Повторив это несколько раз, она пришла только к одному выводу:       — Нет остаточного состояния, — вздохнула она, вновь оглядывая детскую площадку. — Что ж, об этом явно стоит сообщить. Пора выходить из симуляции. ABEL, завершаю тест.       Она уже собиралась отойти на исходную позицию своего появления в цирке, как вдруг краем глаза заметила движение.       Ближайшая башня из мягких блоков едва заметно выровнялась — один из элементов плавно сдвинулся на место, хотя она его не касалась.       Куини замерла. Секунду назад он был чуть смещён. Теперь — стоял идеально.       Комната зарябила, искажаясь визуально. Пол под ногами исчез, заставляя провалиться. Она хотела закричать, но кто-то словно не дал ей этого сделать: тишина поглотила все звуки.

***

      Где-то в других частях цирка, вне света софитов и мягких игровых залов, такие же сцены разворачивались одна за другой — кто-то останавливался, замечая несоответствие, кто-то не придавал этому значения, кто-то уже пытался звать систему.       Пространства отличались, реакции — тоже, но суть оставалась неизменной: мир принимал любое действие, позволял ему случиться… и тут же лишал его последствий, будто ничего и не происходило вовсе.       Удивительный цифровой цирк.