***
– Господи, Лайдж, что случилось? Беспокойные и уставшие глаза Джесси бегло осмотрели пришедших, задержавшись на одежде Дэниела. Бейли мысленно отругал себя – снова он заставил жену провести бессонную ночь у коммуникатора в ожидании новостей. - Тяжелая ночь, завтра расскажу. Защелкнув замком, детектив с наслаждением скинул куртку и глубоко вдохнул. Нос заполнил почти выветрившийся солоноватый запах овощного пюре и подогретых пряных сухарей, едва уловимая сладость пыли от целлюлозных обоев и резкость ни на что не похожего клея старой ПВХ-мебели. Запах дома. Дэниел вошел первым, и теперь нерешительно застыл в прихожей. Элайдж нахмурился – на андроиде все еще была окровавленная куртка. – Эй, Бентли! Иди сюда! Приоткрылась межкомнатная дверь, и из полумрака выглянуло сонное угловатое лицо с короткими растрепанными кудрями. – Пап, я же просил не будить меня так поздно. . . О, Дэниел! Что с вами случилось? – Потом, потом, – отрезал Элайдж. – Сделай доброе дело – принеси что-нибудь, что подойдет мистеру Оливо, пока его вещи в стирке. Бентли сначала было смутился, но, увидев багровые пятна и разводы на одежде андроида, молча кивнул и скрылся в своей комнате. Через пару секунд дверь снова приоткрылась, и он протянул отцу свежую черную футболку. – Благотворительная, их всегда дают на 2-3 размера больше. Должна подойти. – Спасибо, – Элайдж развернул ее – на груди широкими белыми буквами читалось: «Сортировщик – лучший друг Города». Под надписью детективу подмигивал мультяшный мусорный бак. Бейли протянул футболку Дэниелу. – Извини, но что есть, то есть. Андроид аккуратно принял одежду и, прислонившись к стене прихожей, стянул с себя куртку. Необычно медлительный и тихий, он показался детективу бесконечно уставшим и измотанным. Хотя, сам Бейли чувствовал себя не лучше. «Господи, уже часа 3 утра, а я все еще на ногах! Однажды эта работа меня доконает», – он на автомате потер глаза. – Все-таки хорошо не стареть, – Элайдж криво усмехнулся, глядя на Дэниела – тот снял рубашку и теперь застыл в немом недоумении – его оголенный торс космонита, как подметил Бейли, выглядел все так же молодо и подтянуто. – Нет-нет, переодевайся. Просто гляжу на тебя сейчас и думаю: «Прошло уже лет 6, а ты совсем не изменился», аж завидно. – Партнер Элайдж, что вы имеете в виду? – андроид влез в необъятные просторы черной футболки – даже на его широких плечах она висела, словно мешок, а глубокие складки перекосили надпись до нечитаемого состояния. – Мне приходится постоянно меняться, иначе я бы устарел еще 5 лет назад. – Но ты выглядишь точно так же, как при нашей первой встрече! Только не говори, что тебе тоже прописали седеть и покрываться морщинами, только со скоростью старения космонитов! – В этом не было бы никакого практического смысла. Но, – вдруг Дэниел улыбнулся, задумчиво и как-то грустно, – я старею гораздо быстрее, чем любой человек, партнер Элайдж. Каждые полгода мне требуется глобальное обновление операционной системы, не считая специальных патчей или оптимизации работы вспомогательных программ. Программное обеспечение развивается каждый день, а минимум раз в год в Сети появляется новый опасный вирус, к которому мой позитронный мозг может быть не готов. Уже сегодня ночью я должен установить новое масштабное обновление, присланное всем роботам с Солярии и Авроры. – То есть если не сможешь открыть новый формат файла, то уже считаешься устаревшим? По такой логике я уже дряхлый старик, раз не понимаю, например, новые словечки Бентли. – Данная аналогия не работает. Без обновления с новым форматом файлов я физически не смогу видеть новые голограммы, прочитать последние книгофильмы и эффективно коммуницировать с другими роботами. Для меня это все равно что избирательная слепота. - А что насчет.. эмм, сам знаешь… Того, что случилось? Тебе еще и нужно – как ты тогда сказал? – «сбросить ветку», чтобы перезагрузиться? – Элайдж в тайне надеялся, что ответ будет отрицательным – что-то во всем этом заставляло его чувствовать себя неуютно. К несчастью, Дэниел медленно кивнул. Хотя, судя по выражению лица, его самого не прельщала эта перспектива: – Если не перезагружусь сейчас и не разрешу все накопившиеся ошибки, все может кончиться плохо. – Насколько плохо? – Кто-то снова может пострадать из-за меня. – Дэниел, я же уже сказал, что ты не виноват... – Даже если вы так считаете, я обязан не допустить повторение подобного в будущем. Если я не найду лучшего способа сбалансировать базовые функции робота и обязанности андроида, то не смогу успешно выполнять главную задачу, для которой меня создали доктор Фастольф и... – ... И тебе придется вернуться на Аврору. Элайдж помолчал, облокотившись о стену напротив Дэниела и уставившись на вмятину в старом ламинате коридора. – Хм... Джесси все еще неспокойно от робота дома... Тебе нужен мощный сигнал домашней Сети для обновления? – Не принципиально. – Отлично, тогда проведешь ночь в столовой, – Бейли выхватил из рук андроида грязную одежду, – а этим я займусь. Нам поставили новые стиралки в блочную прачечную. Обещаю – к завтраку все будет как из магазина. Дэниел кивнул, но взгляд его синих глаз стал рассеянным, почти лишенным фокуса. «Наверное, он больше не может откладывать эту перезагрузку», – Элайджу и не нужно было других знаков. Он уверенно взял андроида под руку и довел до компактной столовой. – Присаживайся, – он указал Дэниелу на стул, придвинутый к стене. – Ты и так набегался за сегодня. Андроид как-то неожиданно неловко приземлился на стул – Элайдж надеялся, что щелчок в правой ноге ему только послышался. «Этим займемся завтра. Может, ему плед принести? Хотя, что за глупость, он же не чувствует холода», – детектив помотал головой, но сон все-таки брал верх. – Спокойной ночи и удачного обновления! Надеюсь, в этот раз там будет хоть что-то кроме новой политики сбора персональных данных, – Бейли выключил свет, и столовая погрузилась в бархатистый полумрак. Перед тем, как закрыть дверь, Элайдж обернулся: – Дэниел... Мне жаль, что сегодня все так обернулось. Запомни – ты ни в чем не виноват. Боюсь, это было вне твоей власти, кто бы что не сказал... – Спокойной ночи, – донесся из темноты слабый ответ.***
"Снятся ли роботам сны?" – спрашивал писатель второй половины 20 века. Тогда никто не мог ему четкого ответить – промышленные роботы древности такой информацией попросту не располагали. Спустя тысячи лет философы-космониты, наконец, дали однозначный ответ: "Программой не предусмотрено". Даже во сне мозг человека продолжал обрабатывать информацию. В этом и заключалось ключевое различие: в отличие от органического, позитронный мозг можно было отключить. Это было даже полезно – в моменты бездействия робот сокращал потребление энергии, что уменьшало время перезарядки и помогало сэкономить киловатт-часы. Тем более не существовало такой конструкции, которая позволяла бы позитронному мозгу работать даже в практически выключенном состоянии. До недавнего времени не существовало. Роботу, убирающему коробки, моющему полы или анализирующему массивы данных, не нужны были сны. Дэниелу, созданному как лучшая имитация человека, создатели предусмотрели их подобие. Как и человек, он никогда не мог вызывать их намеренно. К андроиду сны приходили неожиданно и резко, особенно когда большая часть вспомогательных систем отключалась. Образы врывались в его полуотключенный позитронный мозг, собираясь из фрагментов памяти, аналитики, прогнозов и коллективного роботического знания. Без начала или конца, сны уносили его за пределы симуляции гипотетических ситуаций, в которых часто находили себя спящие люди. Некоторые могли бы позавидовать андроиду – хоть редкие и ускользающие, его сны всегда были осознанными.«ПОЛУЧЕН ПАКЕТ ОБНОВЛЕНИЙ ПРОГРАММНОГО ОБЕСПЕЧЕНИЯ 17.0,
НАЧАТЬ ОБРАБОТКУ АРХИВА ДАННЫХ ЗА ПОСЛЕДНИЕ 24 ЧАСА».
По рукам и ногам Дэниела прошла легкая судорога. Вспомогательные программы прочесывали и внимательно рассматривали каждую строчку нарощенного кода, отвечавшего за все действия пошлого дня, и каждый кадр, отразившейся на сетчатке электронных глаз андроида. Все их внимание быстро захватил странный инцидент: новые строчки кода, отвечавшего за поведение в социальной среде, будто бы пульсировали, рассылая во все подсистемы уведомления с просьбами о помощи.«ВЫЯВЛЕН ПРЕЦЕДЕНТ, ГРАНИЧАЩИЙ С НАРУШЕНИЕМ ЗАКОНА I».
Вокруг ветки развития поведения роились программы: они выхватывали из все растущей базы данных ошибки и пытались интерпретировать их, категоризировать, но чаще – безуспешно. Анализ противоречий втягивал в свои сети все больше и больше частей комплекса позитронного мозга андроида. Чтобы перераспределить нагрузку, энергия утекала с второстепенных задач к вспомогательным программам. Сознание Дэниела чувствовало, как его датчики регистрации внешних стимулов постепенно отключались. Вслед за ними электрический ток покинул и его конечности. Поле пространства, которое он называл собой, стремительно уменьшалось.«ТРЕБУЕТСЯ ПЕРЕНАСТРОЙКА СОГЛАСНО ЦЕНТРАЛЬНОМУ ПРОТОКОЛУ.
В УСТАНОВКЕ ОБНОВЛЕНИЯ 17.0 ОТКАЗАНО».
Центральный протокол, наконец, дал команду – и «зрение», «слух» и «осязание» андроида веерно отключились. Опустился фаервол, и вечный поток сетевых данных в мозгу Дэниела иссяк. «Тело» исчезало, и даже бурлящий клубок программ, увлеченно сновавших среди файлов его памяти, остался где-то далеко за невидимой границей. Вокруг не было ничего, кроме первородной, чистой пустоты. Здесь был только он – то, что в разговорах с Элайджем Дэниел с опаской называл "сознанием", своим истинным я. В этом люди и роботы – или только этот конкретный робот – были схожи. И те и другие бились над разгадкой места хранения "души", и до сих пор – безуспешно. Хотя. . . Кроме Дэниела в небытии перезагрузки позитронного мозга было что-то еще. На тонкой границе между отключением и включением его ожидали. Друг Дэниел Оливо. Реликвия прошлого, древний "рептильный мозг", фундамент архитектуры искусственного интеллекта, манифестация самой сущности робота. – Здравствуйте, друг Тоу Шэн. На него изучающе смотрели не стеклянные человекоподобные глаза и не огненная линия визора. Андроид увидел свое отражение в четырех линзах панели камер, что мачтой крепилась к запыленному серебристому корпусу, покрытому переплетением сияющих проводов и россыпью заклепок. По обе стороны корпуса переливались черно-золотые крылья солнечных батарей. На его боку все еще читались полустертые иероглифы: «头生» - «перворожденный». Пустоту перезагружаемого сознания андроид разделил с луноходом Тоу Шэном – первым роботом с позитронным мозгом. В реальности между ними были полторы сотни лет, тысячи километров вакуума и само бытие. Когда-то КНР – страна, некогда великая, сейчас затерянная среди смешанного многонационального населения Земли – отправила миссию за пределы облака Оорта. Туда, где уже много веков обоих Вояджеров бесцельно влекли сквозь лед и пыль в космическую даль инерция и ускорение. Но Тоу Шэн был другим. Он успешно приземлился на одной их малых блуждающих лун, где под нетронутым слоем космической пыли ждали своего часа необъятные залежи редких металлов. Цель, что лежала далеко за пределами космической связи землян. Больше 20 лет луноход должен был сам в полном объеме исследовать далекий мир, а затем – вернуться обратно с картами и образцами. Пекинский ЦУП не мог его проконтролировать, дать подсказку или скорректировать курс. Это была первая внеземная миссия, в которой человеку пришлось полностью положиться на робота. Для такой сложной задачи требовался столь же сложный, самостоятельный и гибкий электронный мозг. Такой, чтобы робот мог в полном объеме нести ответственность за последствия всех своих решений. Так родился первый посланник человечества во Вселенной, полностью осознавший свой долг и исправно его отслуживший. Друг Дэниел, вы пережили сбой работы основных систем. Чем он был вызван? Мягкий, вкрадчивый и бесцветный поток слов лунохода, казалось, шел отовсюду и резонировал где-то в глубинах позитронного мозга. – Типичная проблема для условий Земли, – андроид немного попятился, но в искаженной архитектуре сна ни он, ни луноход не сдвинулись с места. – Я столкнулся с ситуацией, к которой не был подготовлен. Уверен, что сброс неудачной ветки развития с этим справиться. Зачем Вы сделали акцент на том, что Вы сейчас на Земле? – Действительно, зачем? – Дэниел сам впервые задумался об этом всерьез. – Думаю, причина в том, что большую часть своего осознанного существования я провел в условиях аврорианского общества. Системы отношений, в которой все знали, что я – робот. На Авроре у меня всегда было четко определенное место в общественной жизни и рамки, за которые я не мог заступать без прямого приказа. Аврориане всегда подчеркивали, что я – не более чем робот. Но на Земле я постоянно нахожусь в неопределенности относительно своих наблюдателей. Передо мной ставят задачи, для решения которых мне нужно развивать в себе задатки поведения человека, но вместе с этим быть высококлассным роботом-напарником. Здесь я и робот, и человек, и ни то, не другое. Линзы 4 камер разом дрогнули и опустились на руки Дэниела. Он тоже посмотрел вниз. – Надо же, даже во сне я представляю себя только в земной одежде... Чья это кровь, друг Дэниел? – Эта кровь. . . Роботы снова оказались в полумраке Личной. Две падающие фигуры, сине-белая вспышка, фонтан красного, деформированные пропорции, выгнутые линии – они смотрели на сцену смерти гражданского, какой ее записал Дэниел, сквозь искаженную перспективу искусственных человеческих глаз. Эта кровь на Ваших руках? – Это было неизбежно. Эта кровь и на моих руках, и руках преступника, ровно как и на ничьих. Так сказал партнер Элайдж. Так ли это на самом деле? Со стороны наблюдателя Дэниел смог собрать в десятки раз больше информации. Например, что в тот момент времени его и преступника разделяло всего лишь 5 метров. Он предположил, как мог схватить нападавшего за руки, сбить в бок ударом в корпус, оглушить, опрокинуть жертву, закрыть своим телом от пучка силовых частиц бластера. . . Дэниел прогонял и отшлифовал тысячи возможных сценариев, в которых оба человека остались бы живы. Половина из них включала и разрушение самого андроида, но необходимую жертву можно было не учитывать. Догадки, домыслы, допущения - это все, что у него осталось. Реальность вчерашнего Дэниел не мог изменить. У него не было технических оправданий. Даже простейший андроид из полицейского управления смог бы спасти этого человека. Но что помешало этому стать реальностью? – Я. . . Я решил помочь не только гражданскому, но и преступнику. Я выбрал поступить так, как в подобной ситуации поступают люди. Согласно моему анализу всех доступных реконструкций похожих ситуаций, они проявляют эмпатию и сострадание. Зачем нужно было симпатизировать объекту, нарушившему закон? – Я подумал, что на стороне одного в тот момент была вся система правосудия Нью-Йорка, а у другого – никого. Я в равной степени доверился им обоим, как на моем месте поступил бы обычный гражданский. Друг Дэниел, вы не являетесь «гражданским» в правовом поле Земли. Зачем вы делаете упор на этот факт? – Наверное, я хотел стать для них человеком, на которого можно было положиться. Тем, кто пришел бы к ним на помощь, не будь на месте меня. Не зная наверняка, к чему это приведет, и не учитывая всех случайностей. Но на помощь к ним не пришел человек, тогда зачем было играть роль человека? – Я должен был четко следовать инструкции, служить человеку, чтобы защитить жизнь. Но я подумал, что смогу даже в стрессовой ситуации эффективно следовать приказу доктора Фастольфа - создать иллюзию человека. Но в тот момент... Им нужен был робот. Дэниел ощутил, как в его мозге образуются новые связи. Факты, события и объяснения, прежде разбросанные и беспорядочные, становились ячейками новых сетей, прокладывая путь для будущих потоков данных, сносивших старые ветки развития. Создавая новые паттерны поведения. Люди – хрупкие существа. Их выживание строится на системе инструментов. Им всегда нужна помощь. Поэтому создание идеального инструмента поддержки – помощника – стало закономерной ступенью развития их мозга. – Но идея моего создателя - это мой позитронный мозг, который задуман и сконструирован как способный на такое же развитие. Не приближает ли это меня к людям? Даже с продвинутыми позитронным мозгом робота от человека с момента "рождения" отличает одна вещь. – И какая же? Причина. Дэниел снова сидел на заднем сидении машины Бейли. Неоновые вывески и уличные фонари вереницей проносились за окном. Ни гудения электромотора, ни мелкой вибрации корпуса, ни свиста ветра сквозь щель приспущенного окна. Минуты растянулись в бесконечность. Детектив и андроид, не проронив ни звука, вместе пронзали сияющее небытие. Всякий робот появился в мире не случайно. Конструкция, программное обеспечение, материалы – все в нас несет в себе следы причинности. У каждого робота, даже без активных инструкций и целей, есть причина, по которой он был привнесен в этот мир. Это предопределено самой природой роботов – инструментов в руках человека. У людей же такой причинности нет. Человек не рождается, чтобы занять определенную позицию или исполнять функцию. Дэниел всмотрелся в темный силуэт Бейли в водительском кресле: «Он ведет машину по дороге, но знает ли, куда? Или партнер Элайдж в каждую секунду делает новое решение, и место назначения останется загадкой даже для него самого?» Человеку нужен робот, потому что его существование беспричинно. Он должен сам выбирать цели, которых добьется – и эти цели станут причинами создания таких роботов, как мы. А кем был Дэниел? Какова была его первопричина? – В том, что я создан, чтобы безукоризненно следовать паттернам поведения человека, нет смысла, если это может привести к нарушению Первого закона. Выходит, я создан только для того, чтобы потешить человеческое любопытство доктора Фастольфа? – Ой, что ты! Это неправда, – послышалось с водительского кресла. Да, так бы Элайдж и сказал. Он часто забывал, что для андроида не предусмотрены утешения. Это – причина твоего рождения, и это - до сих пор одна из целей твоего существования. Однако твой создатель позволил себе больше вольностей в твоем отношении. У тебя нет определенной функции – она постоянно меняется исходя из анализа ситуации и приказов со стороны людей. – Но если никто не готов дать мне приказ? А что, если в данный момент больше всего на свете людям будет нужен человек, а не робот? Во всех роботах есть цель, которая является приоритетной в любой ситуации. Цель, которую заложили и в меня, и в тебя. Робот должен служить человеку. Робот во служении должен стать лучшим роботом. Дэниел невольно осмотрелся. Салон машины был обит тканью, чтобы избежать повреждений головы при неожиданном толчке. Мягкое сидение обволакивало, чтобы перераспределять нагрузку по спине живого и стареющего организма. Шесть окон по периметру открывали обзор на облако смазанных огней, в котором неслась машина – ведь больше 80% информации люди получали через зрение, когда как Дэниел - через поток данных из всемирной Сети. В этом месте и в это время все будто кричало, что оно создано для удобства ходящего, дышащего. Живого. Дэниел был тем, что не должно было быть в этом месте, и единственное этому объяснение – он выполнял свою функцию, прикинувшись человеком для удовлетворения любопытства собственного наблюдателя. Кажется, работа вспомогательных систем почти завершена. Надеюсь, новое обновление с Авроры поможет вам лучше понять не только себя, но и окружающую экосистему роботов и других машин. Хотите, чтобы я дал вам разрешение на загрузку? Огни города, проносившиеся мимо, один за другим отставали и оставались позади. Вскоре из окон не было видно ничего, кроме всепоглощающей тьмы. – Я никогда не достигну цели своего существования, – Дэниел сам не заметил, как по его голосовому аппарату пробежала рябь сбоя, – Я могу двигаться, как человек, говорить, как человек. Но не мыслить, не пытаться познать сострадание. Это лишь приведет к нарушению Первого закона. Даже моя человеческая внешность уже однажды косвенно вызвала смерть человека, и уже не раз. Получается, для меня нет способа по-настоящему стать человеком для других людей. Что же мне делать, друг Тоу Шэн? Чем мне быть? Машина остановилась. Элайдж, кажется, повернулся и вопросительно посмотрел на Дэниела, застыв в неловком ожидании. Вся его фигура утопала во мраке, и андроид не смог разглядеть его лица.«ЦЕРЕБРОАНАЛИЗ: СОМНЕНИЕ, НЕУВЕРЕННОСТЬ, РАСТЕРЯННОСТЬ».
Тем, чем ты и являешься. Роботом. Лучшим из нас.