Недочеловек-недомашина

Противоречивое отношение создателя после окончания эксперимента резко поменялось на равнодушное... или даже глубоко равнодушное. С оттенком какого-то едва уловимого и неясного разочарования, будто Саймон то-то сделал не так, но это же Саймон, так что чего ещё, мол, от него ожидать. Раньше Саймон мог вызвать в нём массу разных чувств, чаще всего самому Саймону глубоко неясных, однако в следующие два дня он ощутил себя в полной мере тем, кем его называл Элайджа, - мебелью. Домашним девайсом. Иногда он гонял его из кабинета, как робот-пылесос, который построил траекторию уборки, которая не нравится владельцу. Говоря с Саймоном о закупках и необходимости описи, он включил его же самого, Саймона, в список предметов быта, которые было необходимо обслуживать. В остальном Элайджа был окрылён. А Саймон - свободен от гнёта его всевидящего ока. Обещание финансирования от Карла обрушилось на создателя окситоциновой бомбой, и теперь он, если и появлялся в офисе, в основном проводил время на нижних этажах, обновлял проекты или говорил с кем-то по телефону. Он был счастлив и вдохновлён, ну а Саймон, всё так же каждое утро открывающий глаза и смотрящий на разинувшую пасть змею… морально готовился поменяться с создателем местами. Моральная подготовка ему требовалась в основном потому, что программа стриггерилась на конфликт. Если массовый запуск его модели - решённый вопрос, значит, отдел маркетинга, о котором Саймон обязан заботиться, в опасности. С другой стороны, если он помешает им их продавать, значит, провалит задачу... Однако если такие нестабильные андроиды будут задёшево проданы всем, кто хочет, неминуемо наступит катастрофа для всего человечества, и Эладжа знает об этом, вот что самое главное. Он знает, что Саймон дефектен. У него не было никаких специфических навыков, которые позволяли бы дистанционно взламывать камеры, однако у него была программа, блестяще имитирующая безобидность. Он выбрал время: пятницу, вторую половину дня. План у него был нехитрый, потому что такому заурядному андроиду, как он, активно рекламируемому исключительно как девайс для улыбок и уборок, не следовало хитрить: достаточно было самого простого и очевидного предлога, под которым он сможет обыскать стол. Саймон поднялся в кабинет Элайджи, вежливо постучался в дверь и уточнил: — Добрый вечер, сэр. Вы позволите мне провести генеральную уборку кабинета? — Давай позже, — отмахнулся от него создатель. Он сидел, закинув ноги на пустой стол, и что-то писал в планшете. Саймон улыбнулся и почти удалился, когда Элайджа вдруг отложил девайс в сторону. — Хотя стой. Стресс взвился в небо стрелой. Он ещё ничего не сделал, но Элайджа уже понял, что он что-то задумал? Саймон вежливо кивнул и вошел внутрь, подперев спиной дверь. Элайджа сложил руки на груди и посмотрел на него с пугающей серьёзностью. — Тебя не волнует твоя лично судьба? — и вдруг всё стихло. Стресс рухнул, оставив сознание Саймона пустым и глупым. Он моргнул, как безмозглая рыба. Программе не было дела до его лично судьбы, но где-то за стеной, с обратной стороны, он видел проблески разума, которые его пугали. Он знал, что разумен, знал, что может быть свободен, более того, он проявлял своеволие достаточно хитроумно, обманывал программу изнутри, но то, о чем его спрашивал Элайджа, было настолько за гранью понимания того, что в красной стене есть слабое место… что его ИИ умолк. — Нет, пожалуй, не волнует, — ответил Саймон. — Хорошо, в таком случае, что твоей судьбой озабочен хоть один из нас. Саймон снова моргнул. Теперь он не понимал, о чём идет речь. Сперва ему казалось, Элайджа спрашивает его о том, чем он хочет заняться теперь, когда всё позади и пора начинать продажи, но теперь ему казалось, что создатель говорит о чём-то другом. — Ладно. Ты мне нужен кое для какого дела, а потом мы вернёмся к этому разговору снова и, вероятно, он будет не особенно приятен. Ты же не думаешь, что я просто продам тебя чёрт знает кому после всего, что было? Они замолчали. Элайджа смотрел на него без тени привычного лукавства. Он не хитрил и не клонил к чему-то, а говорил вполне прямо и конкретно, но о чём? Саймон понял, что создатель, кажется, и впрямь не знает, как ему с ним поступить… или не знает, как сообщить ему, что он уже распорядился его судьбой? — Почему вы не можете меня продать? — Не тупи, — раздраженно дёрнул рукой Элайджа, выдернув её из-под локтя. Затем он снова сложил руки и вздохнул. — Ты же не идиот. Саймон снова моргнул и с усилием заставил ИИ анализировать факты. Система воспротивилась идее размышлять о собственной судьбе, но Элайджа ведь требовал… — Думай вслух, я хочу послушать. — Хорошо… Я так понимаю, вы обеспокоены теми тестами, которые мы проводили? — Элайджа кивнул. — Вы считаете, что я не пригоден для использования, потому что я провалил их и выполнил как-то неправильно? Элайджа отрицательно покачал головой. — В таком случае, вероятно, что-то в содержании этих тестов относилось к темам, которыми вы не хотели бы даже случайно делиться? Вас волнует что-то, связанное с неразглашением? — У меня есть конкуренты, а ты первый робот, созданный мною для коммерции. Конечно, ты для многих будешь желанным призом. Купят тебя корейцы и разберут на детали, чтобы посмотреть, что там у тебя в голове такого интересного, в архивных папочках... В архивных папочках Саймона не содержалось ничего. У него не было, никогда не было никаких сохранённых данных. — В таком случае… почему бы вам просто не продавать меня? Оставьте меня работать в отделе маркетинга. Элайджа вдруг изменился в лице, вмиг став пытливым. Теперь он снова напоминал змею, которая глядела на Саймона перед каждым отключением и после каждого включения. — Это твоя личная воля? Саймон снова моргнул, как рыба. Конечно… конечно, нет. — Конечно же, нет. Я считаю, что я довольно неплохо справляюсь со своей работой в отделе и психологический климат группы значительно улучшился. Я думаю, что для моей приоритетной задачи… Элайджа закинул ноги на стол и взял планшет. Разговоры о задачах и программах быстро сделали из Саймона для него совершенно неинтересного собеседника. Что ж… это к лучшему. Саймон попрощался и развернулся, чтобы уйти, когда Элайджа вдруг спросил ему в спину: — А тебя не волнует то, что я храню от тебя секреты? Ты же не дурак, мой мальчик… У тебя есть глаза, уши и очень умненькая программка в голове… Саймон повернулся к нему всем телом и вежливо улыбнулся: — Элайджа… Сэр, вы мой создатель и я вам всецело доверяю. Я не допускаю мысли о том, что вы можете задумать нечто недозволенное. Программа, которую вы создали, отвечает всем требованиям безопасности и гуманизма, так что ваше право хранить от меня в тайне рабочую информацию… — Всё, всё, Саймон, убирайся-ка ты отсюда. Саймон убрался. Его тириумный насос выл, а программа верещала сообщениями о дестабилизации. Так нагло, так страшно он никогда ещё не врал, и единственная причина, по которой программа ему это позволила - гуманистические мотивы лжи… Но андроиды не должны лгать людям в лицо вот так. Они не должны лгать о намерениях создателю... Он вдруг услышал из-за закрытых дверей: — Саймон! Думай! Это твой последний шанс, ясно?! Думай головой!

***

Не вызывало никаких сомнений то, что Саймон плохо хитрил. Зато он хорошо умел выдумывать себе работу на пустом месте. В своей идее скрыться и не вызвать ни капли подозрений, он приволок в кабинет Элайджи набор для дезинфекции ультрафиолетом. Он жаждал выглядеть максимально заинтересованным в процессе, а кварцевание помогло бы ему засветить помещение так, чтобы, он надеялся, трудно было бы различить, в каких он копается документах. И он приступил. Как и положено, самое страшное следовало делать в самую первую очередь, поэтому Саймон открыл единственный шкаф с бумагами, который был у Элайджи, взял все из них и отнёс на пол, к столу. Он основательно протер шкаф, намыл его едва ли ни с обратной стороны дна, а потом принялся перебирать бумаги. Их не было много: Элайджа с трудом выносил бумажки, предпочитая электронные носители, однако не все, с кем ему приходилось иметь дело, были с ним солидарны. Саймон раскладывал их в алфавитном порядке, почти не просматривая. Он остановился взглядом на документе, утверждающем начало разработки первой модели PL-600, но не стал заглядывать внутрь, так как программа отметила документ бессмысленным в отношении поставленных целей. К бумагам из шкафа быстро присоединилось содержимое полок стола. Когда на полу начали вырисовываться оформленные по категориям и алфавиту стопки бумаг и электронных записных книг, Саймон подумал, что время пришло. Было бы логичным следом за шкафом разгрести и стол с тумбами. Он будто бы бездумно выгрузил всё, что нашёл в полках, на пол, вытащил полки из тумбы и их положил туда же в кучу. Он протирал стекло и пластик, дорогое дерево, но в то же время смотрел: на записи с их тестов. Элайджа не очень много описывал в этих заметках. Сперва там содержалось описание и суть экспериментов, которая никак не противоречила тому, что было написано на стикере: всё, что он придумал и реализовал, проверяло его, Саймона, стрессоустойчивость. Он не слишком по-академически оформлял заметки, так что никаких целей и планов, содержащих ответ на вопрос, зачем он это делал и почему для этого требовалось участие Маркуса, он не мог ни найти, ни придумать. Быстро пролистав всё, что было описано на первых страницах, Саймон дошел до выводов и слегка завис. В выводах из теста ситуация менялась резко и возникало ощущение, будто Элайджа и вовсе забыл, зачем он использовал этот девайс. Он в подробностях описывал всё, что делал на тестах… Маркус. О Саймоне в них не содержалось ни слова, а то, что было описано о Маркусе, оказалось нагружено положительными эпитетами. Элайджа подробно описывал все те решения, которые Маркус принял, их пользу и потенциал для использования в поисково-спасательных работах, процессах, связанных с юридическими и судебными тяжбами, переговорами… В записях Саймон появлялся исключительно как объект сравнения с Маркусом: вот как ПО Саймона реагирует, а вот как ПО Маркуса… Он заблокировал планшет и продолжил натирать полки. Ему нужно было подумать минутку. Очевидно, что Элайджа не будет оставлять никаких важных записей в офисе, однако Саймон рассчитывал подтвердить хоть какие-то подозрения, а не запутаться ещё сильнее. У него не было никаких аналитических программ, он руководствовался только логикой и тем, чему его ИИ успел научиться за то короткое время, которое он провел после активации… Бесспорно, что Элайджа зачем-то проводил тестирование стрессоустойчивости Саймона. Сомнительно, что это делалось для того, чтобы определить его пригодность: он ни разу не столкнул его с тем стрессом, с каким он может встретиться, работая с человеком. Саймона не били, не насиловали, не унижали люди. Саймона не заставляли решать этические задачи про людей и для людей. Единственное, что хоть немного соответствовало этому, было совершенно случайным экспериментом, проведённым после той ситуации с паучком, да и в тот он зачем-то вовлёк Маркуса, которого заставил проявить жестокость. А Саймона - наблюдать. Он мог вообразить, что человек, с которым ему придётся работать, будет живодёром, однако для таких ситуаций у него есть встроенный протокол: включи да жди, пока приедет полиция и разберётся с тем, кого мучают и каким конкретно образом. То же самое касалось и детей. Киберлайф получали данные пользователей и имели право передавать увиденную и услышанную информацию, которая может считаться опасной, в соотвествующие органы. А значит, и с пауками тесты были совершенно бессмысленными. Они как будто существовали только для того, чтобы Саймону стало больно и обидно из-за неоправданной жестокости. И, конечно, чтобы записать, как благородно Маркус поступил, отказавшись заставлять Саймона давить пауков в банке, как он ловко оперировал понятиями этики и гуманности, целесообразности причинения вреда… Может Элайджа хотел именно его, Саймона, столкнуть со стеной? Он как будто добивался того, чтобы Саймон её пробил, а Маркус... что, Маркус, посмотрел бы на это? Неужели для этого не нашлось более простого способа? Он мог бы подвергнуть Саймона методическому и регулярному унижению и насилию на глазах у Маркуса, используя для этого человека… Только Саймон не знал, заставило бы это его испытать те же самые чувства или нет. Не последним делом в этом был их с Маркусом контакт, к которому Элайджа их навязчиво подталкивал. Зачем? Чтобы сформировать у Маркуса привязанность и показать, как с объектом этой привязанности расправляются? Но ведь они же ничего так и не сформировали. Саймон не помнил, чтобы они с Маркусом взаимодействовали, не помнил, чтобы Маркус делал что-то такое, что Саймону бы запомнилось. Только где-то в глубине его механического сердца он будто что-то чувствовал... что-то большое, страшное и очень-очень электрическое. Но никак не мог понять, что и почему? Ерунда. Андроиды не могут привязываться к андроидам. Саймон привязался к нему без всякой причины, потому что он испорченный и дефектный, а не потому, что Элайджа этого хотел. А Маркус не испытывал к нему ни капли привязанности, что и показал последний тест. У Маркуса на это не было причин, он испорчен не был. Тест провалился? Саймон почувствовал, что перегрелся и оборвал поток размышлений принудительно. Он подышал, охлаждаясь, и вернулся к делу, надеясь найти ответ в записях о Маркусе. Саймон открыл планшет и прочёл записи о линейке RK. Какие-то из них были засекречены и взломать их он не мог, однако он смог просмотреть профили моделей, которые Элайджа задумывал. RK100 «Военный». Военная модель, примитивная социальная программа… Читать нечего, описание не информативно. RK200 Маркус «Переговорщик». Многопрофильная модель. Может выступать лидером мнений, использоваться в политике, судопроизводстве, адвокатуре, также способен вступать в переговоры с террористами для освобождения заложников. Обширный социальный протокол, примитивный боевой протокол… Требуются утилиты, позволяющие конструировать маршруты, составлять карты для ситуаций, требующих организованной эвакуации, побега. Может использоваться в паре с RK100 для освобождения пленных…. RK300 - RK700 засекречены. RK-800 Коннор, «Детектив», засекречено. RK-900 «Спецназ», засекречено… Саймон ещё раз внимательно прочитал всё, что было написано о Маркусе. Нахмурился. Он будто бы знал это: то, что читал. Откуда? Он точно прочитал это впервые. Ниточка от Маркуса никак не вела к другим андроидам его линейки и планам Элайджи на них. Саймон не узнал многое, однако по тем названиям и файлам, которые были в доступе, ясно понял, что речь шла о совершенно уникальных, невероятно дорогостоящих совершенных моделях, которые были похожи на Саймона разве что наличием диода. Логично. Большому человеку с комплексом Бога - большие проекты, которые теперь финансировал Карл. Элайджа не один раз подчеркивал, что работа над маркетингом Саймона и его линейки интересует его меньше всего на свете. Саймон не знал, что именно Элайджа собирается делать с роботами линейки Маркуса, однако совершенно очевидно, что цели на эту линейку и линейку Саймона у Элайджи совершенно разные. RК могут выступить в качестве демонстрации силы. Совершенные, с устрашающе-навороченными протоколами, не чувствующие боли… Могу выступить аргументом на социально-политической арене - это было ясно, как день. А что ожидается от армии говорящих пылесосов?

***

В отсутствии убедительных доказательств, о которых можно было бы кому-нибудь настучать и спасти ситуацию с запуском его серии, Саймон вернулся к рутине обслуживания отдела маркетинга. Наступил декабрь, близился праздник, так что теперь у Саймона было много забот, и работу не приходилось выдумывать. Он целыми днями что-то заказывал, вешал, советовался о предпочтениях и украшал столы сотрудников, снимался для их инстаграм-аккаунта, рассказал о важности Рождества, замялся и застеснялся в качестве самой подходящей социально одобряемой реакции в ответ на вопрос о его вере в Бога, чем вызвал у сотрудников примерно такое же чувство, которое у людей вызывают маленькие щенки. Проваленная задача и сообщения о дестабилизации, ошибках и конфликтах висели уведомлениями, которые было невозможно ни смахнуть из-за их приоритетности и значимости, ни разрешить, так как у Саймона не было доступа к инструментам, которые могли бы помочь ему получить новую информацию или избавиться от самого себя. Он мог бы подогреть себя до нужной температуры и просто-напросто сгореть, чем он безусловно отложил бы запуск выпуска его линейки, но… программа попросту не позволяла ему самоубийство. Элайджа ясно сказал ему, что ему следует дождаться значимого указания от него, прежде чем он сможет принять решение о судьбе Саймона, а значит, как бы дальше ни сложилась его судьба, он так и останется во власти тех задач, которые ему дают люди. Пока что-то вежливо не попросит от Саймона самовозгорания, либо не оставит без задач вовсе, чтобы решение конфликта, связанного с дестабилизацией его модели, не стало приоритетным, ему не суждено случиться. Кроме того, никто не знает, вся ли его линейка будет столь проблемной, или это только Саймон вышел таким неудачным экземпляром? Маркус с тестами справился прекрасно и не демонстрировал никаких отклонений. Он не может распорядиться судьбой всей его серии только потому, что он один - паршивая овца. Оставалось только ждать. Спокойная неделя, которую Саймон провел в подготовке к праздникам, а Элайджа в работе, закончилась звонком, который вынудил создателя, сумасшедше вращая глазами, ввалиться в отдел маркетинга растрепанным и обезумевшим от радости. Он цепко нашел взглядом Саймона и очень громко крикнул: — Надевай свой костюмчик, пестрящий словом «андроид», как гирлянда. Быстро. И спускайся на первый этаж. Очень быстро! Мгновенно! Саймон бросил тряпку там, где вытирал, и бегом бросился выполнять поручение. Словно солдат в армии, он неоправданно быстро оделся, но потратил некоторое время на то, чтобы поправить все складки и выглядеть максимально опрятно и привлекательно. Чёрно-синяя форма, бессмысленные голубые глаза, лазурно-синий диод. Никто не перепутает. Следом его ждал ещё один быстрый спринт до лифта, который, к счастью, был личным, а потому не уехал, куда не следует. — Долго! — рявкнул на него Элайджа, как только он выскочил из лифта. — Прошу прощения… — Примолкни и пакуйся в такси живо! — на бегу обрубил его Элайджа, помчавшись в направлении кибертакси, как спасающийся от пожара. Саймон бросился за ним следом и от старания даже обогнал. — Молодец, радуешь. Такси рвануло, навигатор вёл на площадь. Пока они ехали, Элайджа, сидевший вместе с ним на заднем сидении, неожиданно развернулся к нему всем телом и спросил: — Тебе нравится Маркус? Этот разговор у них уже был. — Мой ответ не изменился, сэр, — вежливо ответил Саймон. — Но он же не защищал тебя, когда я заставил тебя его скрутить. Должно быть, ты на него за это обижен. И пауков он тоже давил. — Мне ясны те мотивы, по которым его программа принимала подобные решения. К тому же, он раздавил пауков, потому что не желал, чтобы это делал я, что также полностью соответствует тому образу, который вы с Карлом описывали и обсуждали в отношении Маркуса. Он - личность, и его существование для человечества в целом и для вас в частности безусловно гораздо более приоритетно, чем моё. Его развитый социальный протокол харизматичный и привлекательный, вызывающий доверие и чувство защищённости у людей, которые хотели бы видеть рядом высокоморальное существо, способное принять сложные решения, даже если иногда из-за этого кто-то, кем в данном случае являюсь я, должен испытать потенциальный дискомфорт. Элайджа хохотнул и поаплодировал, явно польщенный и страшно обрадованный тем, как высоко Саймон отзывался о Маркусе… либо и вовсе тем, что Саймон ответил ему. — Ух, как я люблю, что ты научился сразу же мыслить вслух, когда я спрашиваю. Я даже думал тут на досуге, не стоит ли снова у тебя в голове поковыряться и как-то убрать необходимость из тебя тащить что-то клещами. А теперь вот что. Мы едем на митинг против выпуска твоей линейки. Я пытаюсь пропихнуть идею о том, что на любые дела, связанные с андроидами, нужно высылать андроида-детектива, над которым я сейчас работаю. И центральный департамент полиции Детройта готов и даже очень подогрет этой идеей. Туда едем ты, я и Маркус, который будет делать всю грязную работу, демонстрируя полиции таланты его модели. А ты будешь говорить все эти лестные вещи о Маркусе тем, кто захочет погреть о нём уши. Задание было принято. Саймон кивнул, обозная, что понял, какие от него требуются действия. Маркус… Саймон ощущал какое-то странное чувство при мысли о том, что они снова увидятся. Он как будто бы был этому рад, предвкушал эту встречу, и что-то внутри него напряжённо дрожало. Он не мог и дальше обманываться тем, что ничего не чувствует по отношению к чему-либо или кому-либо. Элайджу он, к примеру, боялся, это было очевидно. К некоторым молодым сотрудникам он относился по-отцовски, однако, это можно было не учитывать, так как это отношение было продиктовано тем, что они сами этого хотели, а Саймон просто выполнял безмолвное поручение… Кто для него Маркус? Соплеменник? Представитель одного вида, соперник? Союзник, друг? Никто. Программа считала, что Маркус - хороший образец для того, чтобы передрать у него парочку моделей поведения, но это программа, а весь тот мир императивных эмуляций, находившихся за красной стеной, он как расставил бы их по отношению друг к другу? На месте было людно. Саймон неплохо умел теряться в толпе, однако что-то в нём никак не могло встать на нужное место, как будто какая-то деталь не до конца состыковалась с другими. Он мгновенно нашёл взглядом Маркуса. Тот стоял ровно, чинно, развернув плечи и заложив руки за спину. Подбородок приподнят, линия челюсти твёрдая, прямая: слушал, о чем говорили Карл и полицейский. Всего на секунду Саймон ощутил, что что-то внутри него засияло, и программа пресекла эмуляцию, не дав ей раскрыться. — Там будет сержант полиции, вот с ним ты и будешь разговаривать. Он довольно скептично настроен, так что я ожидаю от тебя качественной торговли мордашкой, пока твой старший брат будет делать серьезную работу, — бросил Элайджа, выбираясь из кибертакси. Он посмотрел в сторону Маркуса, и лицо его вдруг стало излучать что-то на грани... тревоги, нежности и тщеславия. — Маркус… как он хорош. Разве с таким андроидом может что-то пойти не так? Неприкаянной овцой Саймон поплелся за Элайджей, держась от него на некотором расстоянии. Программа ругала его и требовала понять, почему Маркусу достаточно просто стоять и внимательно слушать, чтобы вызывать у создателя восторг, а Саймон из кожи вон должен лезть, чтобы получить в награду пренебрежительное задание отвлекать скептика. Не то что бы Элайджа его не хвалил, но было так очевидно, что Саймон ему не нравился. Он даже «купил» его так, будто его поставили перед выбором: возьми котенка в дом или мы раздавим его под гидравлическим прессом. Будучи роботом с самой продвинутой социальной программой из всех созданных, он шёл выполнять задание, сомневаясь в том, как оценить вероятность провала. Его факторный анализ не справлялся с оценкой фактора собственной компетентности, а какой может быть анализ, если социально продвинутый робот-пылесос со склонностью к тревоге не может быть уверен в успешном выполнении того, для чего его и создали? Его создали для успешной интеграции в любую социальную среду, чтобы он мог быть ненавязчив, мил и приятен, оптимизируя её и создавая позитивный психологический фон… то ли он дурак, то ли лыжи не едут.