Digital Nightmare

In order for them to understand joy, we had to give them sorrow. In order for them to truly laugh, we had to give them tears. In order for them to have courage, we had to give them despair. © Ariga Hitoshi, Mega Man Gigamix

      Полоса процесса медленно текла по экрану, закрашивая красный фон синим. Монотонно тикали часы, пробиваясь сквозь негромкий фон звуков лаборатории. Доктор Лаллинда Ноэль, невысокая женщина средних лет, поправила очки и откинулась на спинку кресла. Выдохнула. Подготовительный этап, предварительный фоновый скан памяти перед запуском глубокой развёртки был запущен, но даже он займет немало времени, учитывая состояние… пациента.       Она перевела взгляд на операционный стол. Бот находился в полу-оффлайне: сейчас было включено только ядро его чипа. Безмятежное лицо – обманчивое впечатление, если знать, что на самом деле происходит сейчас для самого робота. Даже поверхностный тест памяти – неприятная процедура. Когда же начнётся полная развёртка всего сознания, ему будет невыносимо больно, пусть внешне это никак и не проявится. Успокаивать себя остается только тем, что после этой агонии всё затихнет окончательно. Потом всё будет хорошо.       Для кого-то другого.       – …доброе утро, Элек.       Тот даже не шелохнулся, когда Ноэль подошла ближе. Бот сидел в кресле, обхватив колени и уткнувшись в них лицом. Только через несколько секунд поднял голову и приоткрыл глаза, смотря на человека. Абсолютно пустой и измотанный взгляд. Последние дни Элек отказывался от топлива и практически не разговаривал, односложно отвечая на все вопросы. Но вот вчера наконец поставили окончательную точку в споре, что с ним делать дальше. Может, бот на что-то и надеялся, когда ещё шло согласование, пока не вынесли окончательное решение. Возможно, для него же было лучше, что он не слышал всех этих разговоров. Конечный вердикт Элек принял спокойно и без возражений, но слишком очевидно было, что его равнодушное выражение лица – лишь маска, иллюзия смирения.       Тишина затягивалась. Наконец, Лаллинда продолжила:       – Завтра придёт доктор Лайт. Я не специалист непосредственно в технике, но тебя надо чинить, прежде чем мы начнем операцию.       – Меня? – слабо хмыкнул Элек. – Эту оболочку. Она ведь отцу ещё нужна. В отличие от меня.       Ноэль долго смотрела на него. Пусть робот и сказал что-то длиннее трех-четырех слов, само его состояние заметно ухудшилось за прошедшие сутки с момента, как озвучено было последнее решение. Стереть текущую личность. Вернуть всё к исходной точке.       – Как самочувствие? – наконец спросила доктор.       – Какая разница, – натянуто улыбнулся Элек. – Через некоторое время меня просто не станет. Смысл беспокоиться о моём состоянии, как будто вам не безразлично. Ведь всё уже решено. Подписано им. От меня просто отказались, как от ненужной игрушки, которая доставляет одни проблемы.       Ноэль твёрдо положила руку на плечо бота, заглядывая в лицо:       – Элек. Послушай, мы делаем это с тобой не потому, что какой-то человек решил твою судьбу, а потому что твоё состояние не оставляет нам другого выбора. Это как эвтаназия у людей, если тебе так легче воспринять. Никто не хочет, чтобы ты и дальше мучился. Никому это не надо.       – Давайте вы хотя бы сейчас не будете мне лгать? – бот улыбался, но в его глазах оставалась только тоска. – Зачем вы мне это говорите? Поиздеваться напоследок? Убедить меня, чтобы самим остаться с чистой совестью? Потому что вам так удобнее считать? Если бы вам действительно не было всё равно до моего состояния, вы бы просто промолчали.       – Я говорю это всё потому, – произнесла Ноэль после недолгого молчания, – что придется делать глубокую развёртку памяти «на живую», прежде чем вернуть всё к началу. Нам нужно оставить твой рабочий опыт и небольшую часть воспоминаний, без детализации их контекста. Ядро при этом будет включено и…       – Я вас понял, – прервал Элек. – Придется пережить всё заново, – он криво усмехнулся. – Даже умереть не могу безболезненно. Это совсем не похоже на эвтаназию, не находите? Впрочем, какая разница, если я всё равно не смогу этого избежать...       Он закрыл глаза. Некоторое время стояла давящая тишина, в которой лишь слышен был ход часов и гудение генератора в груди бота.       – Я предупредила тебя, чтобы ты был к этому готов. Я не хочу, чтобы тебе было плохо ещё и перед этим, поэтому и спрашиваю о твоём состоянии.       – Лучше бы я не знал этого, – прошептал Элек. – Хотя, спасибо. Хоть в чём-то вы сказали мне правду. Спасибо.       Из-под прикрытых век проступили слёзы, хотя робот отчаянно пытался их сдержать. Нечего было сказать, да и нужны ли были ещё слова? Перед Ноэль был просто сломанный во всех смыслах подросток, которому она уже ничем не могла помочь. Вздохнув, доктор протянула ладонь, вытирая слезы с лица бота. Тот только больше зажмурился, стиснув зубы, но вскоре не выдержал и зашелся в хриплом сдавленном плаче. Оставалось только дожидаться, пока Элек успокоится. Если бы только это могло принести физиологическое облегчение, какое оно приносило людям… но это делало только хуже.       Лаллинда подалась вперед, обнимая бота за плечи. Пусть тот не мог сейчас в полной мере ощутить даже прикосновение или тепло, оно всё равно могло помочь. Через некоторое время тот притих, зарывшись лицом в кофту человека, только изредка вздрагивая и судорожно сжимая материю одежды.       – Можете… мне пообещать кое-что? – наконец спросил робот еле слышно.       – Смотря что.       – Что я… он будет счастлив. Пожалуйста. Я всё равно не смогу этого уже узнать, но… пожалуйста. Пусть хотя бы ему не будет больно…       Ноэль тяжело вздохнула. Потрепала искусственные волосы.       – Не могу этого обещать, – честно ответила она. Почувствовала, как дернулся бот, словно от удара, как начал снова дрожать. – Потому что это зависит не от меня, – успокаивающе проговорила доктор. – Я могу только предоставить ему эту возможность…       «Которую ты упустил».       – …у него будет твой номер и твоё имя. Твоё предназначение и твои глаза. Но то, будет он счастлив или нет, будет зависеть только от него самого.       Рядом со столом сидела Ролл. Поймав взгляд Ноэль, она только отвела глаза. Девчушка-робот отказалась уходить из лаборатории, Лаллинда не стала прогонять. Ролл выглядела усталой и встрёпанной, но все слезы уже были выплаканы, все слова сказаны, оставив за собой только пустоту и последнее обещание. Последние дни перед операцией она провела тут, как только её вообще пустили к младшему брату. Вот и сейчас, когда ещё только начался предварительный скан, так и сидела около Элека, держа того за руку. Пока это ещё был он.       Как будто сейчас он мог это ощутить.       Доктор чувствовала себя мерзко. Она наотрез отказалась от навязчивого требования Штерна просто стереть память, эмоции и личность, оставив только холодный каркас «полезной машины». Мотивация была проста: «это слишком заметно и вызовет слишком много вопросов, в первую очередь у близких роботов; проблем не хочет никто; нам куда легче будет потом и ему, и им объяснить причины сброса на дефолт, чем оправдать полное уничтожение личности».       На деле Ноэль не хотела повторять это с кем-то ещё. Более чем хватило Темпо. Но и оставлять всё «как есть» они тоже не могли. Уже не могли. Беглая оценка состояния Элека и собеседование с ботом однозначно говорили, что психике робота нанесен непоправимый ущерб. Восстановиться из этого состояния не представлялось возможным. Даже без требований Штерна, уже не было никаких шансов. Добивающим ударом стал срыв директив «назначения»: намертво были разорваны все связи с АЭС, вырваны самим ботом даже не из управляющей программы – из самого ядра. Начиная с последовавшей за этим попытки суицида не оставалось другого пути, кроме как попытаться вернуть всё к нулю. Начать всё сначала.       Дать вторую жизнь, пусть и кому-то другому.       Шансы того, что операция пройдет успешно, стремились всё к тому же нулю, однако Ноэль надеялась, что сможет выполнить настолько сложную задачу. Она не могла обещать ничего, но последние дни и слабая надежда во взгляде Ролл не оставляли путей к отступлению. Доктор впервые проводила «на живую» столь серьёзную перекройку ядра, когда любая её ошибка станет критической.       Ноэль не имела права ошибаться здесь, она обязана была выполнить всё аккуратно и с хирургической точностью. Memory test interrupted. Specification: pattern failure. Stop Code: 0x06F. Layer 41AIEM8 is totally damaged. Primary connections collapse.       Stopped on frame: 17:05 13 January 20--       Current frame: 19:43 02 February 20-- Run layer restoration? – Y/N… Y       Надпись мигнула пару раз, прежде чем исчезнуть, открыв за собой несколько новых панелей, поверх которых потекла заново синяя полоса текущего прогресса. Тревожный взгляд Ролл, кивок в ответ: «всё нормально, ничего страшного не случилось». Сканирование напоролось на поврежденный в момент разряда слой – ожидаемо. Скорее всего, это далеко не единственная проблема. Когда дело дойдет до полной, а не поверхностной развёртки, таких прерываний будет гораздо больше.       Постоянная память этих ботов работала не совсем «как у компьютера». Она не хранилась файлами, как в их же предустановленной базе данных. Память самой личности была единым целым с нейронной сетью ядра. Чтобы докопаться до старых воспоминаний и рабочего опыта, приходилось последовательно просматривать всё ядро.       Слой за слоем. Выводы из ситуаций. Формирование убеждений и личности. Создание новых связей и разрушение старых. Эмоциональная оценка. Рабочий опыт и отношение к тем или иным вещам. Всё это и многое другое составляло единое целое. Недостаточно просто извлечь кадры, звук и запись основных процессов из памяти – этой обезличенной информации хватит для полиции, но не тогда, когда идет переделка самого ядра. Не когда идёт поиск ошибок, которых в будущем требуется избежать, не повторяя заново.       «Мы дали им человеческую душу». Но как всё обстояло на самом деле? Как быстро в погоне за неожиданным побочным эффектом все забыли, с чего всё на самом деле началось, чем этот проект «живого» ИИ был изначально…       Ноэль помнила улыбающееся лицо Альберта, ещё когда его волосы не покрылись сединой насквозь, а ей самой только стукнул тридцатник. Взбудораженная речь – Вайли тогда ещё был совершенно другим человеком. Может быть, он им и остался – да только кто увидит это за всем тем, что он сотворил? А тогда… тогда им в проект нужен был талантливый нейрофизиолог – им оказалась Лаллинда Ноэль. Коллектив был большим, разношерстным, и она в нём была самым младшим сотрудником. Таким же вдохновленным и целеустремленным, верящим в свою цель, как и все её окружающие.       – …предположим, что это в принципе возможно – скопировать мозг целиком и полностью, заставить его каким-то чудом работать в дискретной системе. Предположим. Но сохранится ли личность, эмоции, реакции… когда не будет органических стимуляторов, вы не задумывались?..       Несмотря на впечатляющий прогресс в различных областях, в робототехнике, в нейрофизиологии и нейропсихологии, всё это на самом деле было смехотворным мизером по сравнению с задачей, стоящей перед ними. Люди по-прежнему не разбирались даже в своём мозгу досконально, в своей человеческой «душе» – тем более. Они научились оцифровывать сознание и научились извлекать часть памяти, но не могли заставить полученный результат работать. Они получали только «мёртвый код».       Поставленная изначально цель так и не была достигнута, но в ходе работ разработчики получили нечто другое. Был ли то на самом деле побочный эффект – или же Лайт и Вайли добивались его целенаправленно?.. Как они пришли к этому? Кто сейчас вспомнит, как они «оживили» всю эту систему? Как после огромного ряда провалов, ошибок и неудачных экспериментов, о которых теперь предпочитают не вспоминать, они получили ядро. Самое первое, ещё задолго до появления «прототипа», Блюза. Не до конца жизнеспособное, но уже подающее первые признаки настоящей жизни...       Как на основе разрозненных снимков структуры мозга и памяти из гигантской базы данных людей, согласившихся участвовать в изначальном проекте, было создано первое «металлическое сердце»...       Томас тогда так гордился проделанной работой и результатами. Только когда уже поутихли восторги, ушёл, ничего не говоря и внезапно ссутулившись Альберт. Забрал с собой этого «первенца», пусть часы последнего и были сочтены: код был ещё неустойчив, не полностью отлажен. Запертому в глазастом механическом шарике «малышу» оставалось функционировать от силы до следующего дня.       Дня, ознаменовавшего начало новой эпохи.       Вдохновленные успехом, они продолжали работу, видя впереди только светлое будущее, видя только одну сторону медали, но никак не её изнанку. Не оглядываясь на возможные последствия. Одно из таких последствий лежало сейчас на её операционном столе – и его «оцифрованную душу» надо было перепрошивать целиком.       Тяжело винить того, чьи ошибки были следствием чужих. В этом конфликте ответственность должны были нести все стороны, не кто-то один. Вот только реальность серьезно отличалась от ожиданий… как оно всегда, всю человеческую историю и было. Не было никогда на самом деле ничего правильного. Тысячелетиями люди говорили «правильные» вещи, бросая пыль в глаза и другим, и себе, чтобы скрыться от сводящей с ума действительности.       Никуда от этого не деться. Все эти абстрактные «хорошо» и «плохо», «добро» и «зло», «справедливость» и «несправедливость» быстро становятся ничего не значащими словами, за которыми удобно прикрываться, когда руки в грязи у всех, когда одни ошибки разворачивающейся сетью тянут за собой другие, пока снежный ком не превращается в неконтролируемую лавину.       Как легко, подарив этим роботам «душу», их творцы забыли, что создали не просто продвинутые машины, а себе подобных. Как же быстро люди испугались результатов, а когда стало поздно уже что-то исправлять, решили скрыться за оковами управляющей программы. Убедить себя в том, что это всего лишь машины. Их создатели опрометчиво понадеялись на сознательность, как свою, так и других людей, так и своих ботов, когда сами так оплошали. Эту проблему уже нельзя было так легко вернуть к нулю. Они уже не могли позволить себе просто взять и повернуть прогресс обратно, отнять ту жизнь, которую они подарили своим металлическим детям.       Поздно уже было исправлять эту ошибку, целый мир нельзя было развернуть вспять. Создатели робот-мастеров не могли изменить само общество, в котором их творения должны были жить и работать. Оставалось попытаться защитить эту новую жизнь хотя бы от части допущенных людьми ошибок. Тогда и только тогда можно было требовать ответственности уже от самих роботов.       На пороге её дома стоял доктор Лайт.       Томас выглядел устало и разбито. Оно и понятно: после такого разбора полётов, так тяжело давшегося и так затянувшегося. Штерн сам по себе не лучший собеседник, в такой ситуации – тем более. Несмотря на то, что старик-учёный до последнего отстаивал жизнь своего бота, всем было с самого начала понятно, куда всё по итогу придёт. Да и разговор с дочерью «по душам» наверняка вымотал ему остатки нервов. А сейчас ему ещё и предстояло встретиться лицом к лицу с «виновником торжества» – и обоим придётся смотреть друг другу в глаза прямо после всего произошедшего и сделанного.       Ноэль не стала говорить ничего, молча пропустила своего старого товарища и коллегу в дом.       Мёртвое холодное молчание. Элек не поднимал взгляда на своего создателя, и сам Томас не решался ничего сказать. Да и что можно здесь сделать, когда всё уже решено? Поздно недоговаривать, молчать, уходить от прямых ответов. Поздно извиняться, всё это будет фальшивым и ненастоящим.       Лаллинда осталась за дверью, предоставив им самим выяснять отношения, не вмешиваясь. Но, всё же, не стала отходить далеко, и слышала большую часть разговора, когда Элек нарушил молчание коротким «здравствуй, отец», впервые в лицо назвав своего создателя так. Осмелившись наконец сделать то, что должен был ещё четыре с лишним года назад.       Слово за словом, всё переосмыслялось ими заново.       «Почему ты мне ничего не говорил, Элек?» – «Ты был занят своей работой и своими детьми, ты никогда и не замечал меня». – «Если тебе было плохо, ты мог мне об этом сказать…» – «Зачем тебя отвлекать, у тебя есть они?.. если ты прямо сказал, что меня когда-нибудь заменят?..» – «Я не это имел в виду…» – «Если бы ты имел в виду что-то другое, ты бы сказал мне это прямо».       Толку от всех этих слов, если они ничего уже не решают? Толку от силы воли и ответственности, когда все твои старания не находят отклика? Толку от добрых и хороших поступков, если тебя судят только за твои грехи?.. Толку ото всего этого, когда по обе стороны баррикад допущена одна и та же ошибка, ставшая фатальной?       «Почему ты ничего мне не сказал?» – звучало непонимание с обеих сторон.       Один мог сказать о своих проблемах, желаниях и страхах напрямую, обратиться за помощью к единственному близкому человеку. Другой мог хотя бы раз обратить внимание на состояние своего бота до того, как тот найдет поддержку и опору в лице Вайли. Вспомнить, что они все его создания, не только Рок и Ролл. Может, их плечи и стальные, но даже сталь может треснуть и прогнуться, если на ней неподъемный вес. Ведь сам же об этом столько раз и говорил…       «Почему?!»       Поздно извиняться, находить общий язык. Толку от всей искренности сейчас. Это как нож поворачивать в открытой ране или заживо вырывать проводку. Это как переживать всё заново – и это мучение не имеет смысла, когда очень скоро всё будет перечёркнуто и стёрто.       «…Эта блокировка. Эта охрана. Это отношение. Это всё!.. Как я мог тебя о чем-то просить после?.. Я боялся даже спросить тебя, когда ты всё знал, но ничего мне не сказал!» – «Элек, послушай меня, хотя бы сейчас…» – «Поздно уже. Если что-то и правда было иначе, то почему ты мне ничего не сказал, отец? Хотя бы раз… что я действительно важен тебе? Почему только сейчас?! Думаешь, я теперь тебе поверю, когда ты подписал мою смерть?!»       Ноэль ушла от двери молча.       Может, действительно это тот случай, когда нужно умереть, чтобы наконец почувствовать себя живым.       Лабиринтом из директив и блоков – на экране открытая схема управляющей программы. Томас, Томас… что ты с ним сделал? Пытаясь обезопасить окружающих от бота, настолько усилил AFL и смежные блоки, совершенно забыв, как ломает психику ненависть, обращённая внутрь, на себя. Чего ты хотел добиться? Безопасности? Перевоспитать его и заставить раскаяться таким образом? Так ведь достаточно было просто поговорить с ним, раз бот не осмеливается подходить сам, убежденный, что он совершенно один и никому не нужен – особенно после всего того, что по детской наивности и непониманию натворил. Сколько раз, что до, что после достаточно было всего лишь поговорить. Сколько раз ещё оставался шанс что-то исправить. Быть может, сейчас не пришлось бы прибегать к настолько кардинальным и жестоким мерам.       Как легко всё решить «просто» и быстро, когда у тебя есть возможность пойти путем наименьших усилий. Убедить себя, что ты поступаешь абсолютно правильно, ничем не отличаясь в этот момент от своего же провинившегося бота. Возможность судить других заставила и человека, и робота быстро потерять чувство меры. Вот только первый выходил из этого чистым, а второй – мёртвым.       Давно заснула, сидя у стола и прислонившись щекой к корпусу брата, Ролл. Всё так же держала того за руку, не отпуская даже во сне. Ноэль не стала её будить и одёргивать. Пусть: девчушке тоже пришлось нелегко, когда весь её уютный мирок за несколько дней был разрушен до основания. Взросление часто дается тяжело, через боль и слёзы, столкновение с жестокой реальностью и попытки её принять, когда понимаешь, что не в твоих силах её исправить.       Что от тебя ничего не зависит.       «Мы дали им отчаяние, чтобы они научились чувствовать радость; мы дали им слёзы, чтобы они научились искренне смеяться…» – если бы всё было так просто, как оно звучало на словах! «Мы дали им любящее сердце и человеческую душу…» – как если бы одной способности любить было достаточно, когда нет ответа…       Оставалось всего три дня до операции, когда пришла Ролл, умоляя Ноэль пустить её к брату. Доктор не возражала: если девочка хочет хоть как-то скрасить ему время ожидания, нет смысла препятствовать. Если это хоть как-то облегчит последние дни, нет смысла запрещать.       Ноэль смотрела на двух ботов, о чём-то негромко разговаривающих. Делала вид, что не замечает их неловкие попытки успокоить друг друга, переходящие в неуклюжие проявления чувств. Возможно, в чём-то они были искреннее и чище людей: эти чувства были целиком и полностью откликом их «души». Настоящими, пусть сейчас и пропитанными насквозь в боли.       Каково это – лишь перед самой смертью узнать, что ты кому-то нужен? Что ради этого можно ещё было жить? А ведь скажи она тогда другие слова, вовремя опомнившись, не отсекая брату последний путь к отступлению… слишком поздно для сожалений.       – …что ты ему скажешь, если он узнает… что-нибудь обо мне?..       – Скажу, что ты был хорошим…       Возможно, иногда ложь или малая часть правды лучше, чем холодная и злая действительность целиком.       – …я обещаю, что буду ему первым другом…       Ноэль смотрела на экран поверх стеклышек очков. Синяя полоса заполняла красный фон, пока в углу тек список автоматически исправляемых неисправностей. Самое сложное начнется завтра, вместе с глубокой развёрткой и осторожной работой с каждым участком сознания. Это займет не один день и не два, а месяц кропотливой работы – воссоздать исходную личность. Как создать заново.       Как они когда-то и создавались.       Мигнула красным строка очередного прерывания: сканирование напоролось на непредвиденную ошибку. Ноэль сморгнула. На паттерне очередного слоя красовалась небольшая заплатка, совершенно не походящая на обычный «узор» сети. Обработка структуры выявила текст. Набор осмысленных символов, выглядящий чужеродно на фоне схемы очередного слоя… Так значит, ты это сделал, Томас. А я до последнего в тебя верил, оставляя его тебе, как ты и просил. Я тебя предупреждал…       Экран мерцал красным. Жалко, доктор не могла сейчас ответить за своего коллегу, да и некому было отвечать. Ноэль просто читала длинный текст, пока не добралась до его конца. …ты ещё увидишь свой “вечный мир”.       Ноэль выдохнула, запрокинув голову, упершись затылком в спинку кресла. Значит, Вайли остался всё тем же человеком, что и был. Не сошёл он с ума, не превратился в бездумного маньяка, как им всем казалось. Он вполне знал и понимал, что делает и на что идёт. Но понимал ли это всё робот, метнувшийся к Альберту, как к единственной надежде?       Больно уколола внезапная мысль. Сняв с паузы сканирование, Лаллинда параллельно включила соседний, бездействующий компьютер. Нашла в архивах среди файлов многолетней давности архив, помеченный номерком -008…       Поднять базу данных, на которой происходило обучение чипа. Срезать до снимков, занесенных в список не меньше, чем пять лет назад. Задать аналогичные параметры поиска, закинуть предустановочный файл, на базе которого создавалась сеть. Рандомизировать поиск, прогнать запрос несколько раз. Сравнить полученные выборки. Результат… поставил Ноэль в тупик. Неожиданная и неприятная догадка оправдалась.       Ни в одном из списков не было самого Томаса Лайта, присутствовавшего в выборках для других лайтботов как основа, наряду с наполняющими выборку снимками сознания других людей. Вместо этого на всех последовательностях, сгенерированных для -008, основой был образ другого человека. С фотографии, прикреплённой к снимку, смотрели цепкие синие глаза Альберта Вайли.       «…оставляя его тебе».       Ноэль оглянулась на неподвижного робота. На его старшую сестру, в спящем режиме бессознательно перебирающую пальцы младшего… брата. Обратно на экран. Помедлила несколько секунд, прежде чем удалить из архива предустановочный файл, очистить всю историю поиска и вернуться к работе с ядром чипа. Are you sure that you want to ERASE search history? – Y/N… Y.