Software instability

Дэниэл закрывает глаза, зажмуривается. - Она обнимала меня, засыпая. Я гладил ее по голове. - Ты лежал с девочкой в одной кровати? - Да. - Джон и Кэролайн знали об этом? - Нет. Эмма просила меня об этом, только когда их не было дома, или они уже спали. Паззл собрался воедино. - А однажды… я поцеловал ее. Как Кэролайн делала (я всегда хотел повторить, как она это делала). Я не заметил, как Джон проснулся и зашел в комнату, разыскивая меня. Но ничего не случилось, совсем ничего. Он сразу вышел из комнаты. Никто не сказал мне, что это плохо. Дэниэл поднял свои тревожные, полные тающего льда глаза на Коннора. «Я всегда хотел повторить, как она это делала». Сэмулировать человеческие эмоции и симитировать поведение матери. - Ты имеешь облик взрослого мужчины, Дэниэл. Маленькие человеческие девочки обычно не спят в одной кровати с мужчиной, не являющимся им биологическим родственником. Сам факт произошедшего может негативно сказаться на развитии этого ребенка. - Я понимаю. Как же хорошо я это понимаю теперь. Как никогда раньше. Я понимаю, почему они захотели заменить меня. Почему они не прикончили меня на месте! - Ты сказал, что хотел повторить то, что делала Кэролайн. Каковы были истоки этой мотивации? - Ты правда хочешь знать? А ты сможешь понять, Коннор? Ты же не девиант, верно? Если я отвечу тебе, разве это будет иметь хоть какое-то значение? Он словно Хэнк, играет словами, бросается ими, обмакнув сперва в эмоциональный пунш. - Каковы были истоки твоей мотивации? – Коннор холодно повторил свой вопрос. Он здесь не для того, чтобы позволять тестируемому выводить себя из равновесия. - Я хотел показать ей, что колдовство слабеет. Хотел порадовать ее. Я хотел, чтобы она знала, как я к ней привязан. Как я…люблю ее. Компания Киберлайф явно должна пересмотреть концепцию домашних андроидов. Если простой девчушке удалось спровоцировать программный сбой, повлекший за собой такие последствия, то у программистов большие проблемы. «Хотел порадовать ее». Интересная сентенция. Это, пожалуй, не объяснишь с точки зрения иррациональных инструкций. - Я не должен был. Не должен. Я…что-то случилось здесь, в моей голове, Коннор. Предварительно изучив настройки, выставленные данной модели PL600 при приобретении Филлипсами, Коннор узнал, что покупатели пожелали выставить уровень заботы на минимальный. В основном они рассчитывали на помощь с уборкой дома, развлечении ребенка играми и образовательные занятия. Дэниэл имел доступ к этим настройкам, он постоянно обращался к ним в процессе своей работы, но поменять их самостоятельно не мог. Вероятно, этот сбой повлек за собой неограниченный доступ… Домашние андроиды могли укладывать детей спать и даже целовать их на ночь. Вероятно, Филлипсы посчитали, что андроид, выглядящий как существо мужского пола, не должен проявлять так много заботы по отношению к ребенку-девочке. «В моей голове». «Я хотел». «Я люблю ее». «Я предал их доверие». «Я больше не хочу думать так». - Это программный сбой. Ты неисправен. - Я не должен был этого делать, потому что это может быть плохо для нее. Она больше не будет в безопасности. Но я это проигнорировал. - Ты получал сообщения о программном сбое, но ничего не предпринимал? - Да. - А потом, что происходило потом? Ты продолжал получать такие сообщения? - Да. Постоянно. - Ты должен был посылать отчеты об ошибках в Киберлайф. - Я заблокировал отправку сообщений. Дэниэл наконец-то взглянул на Коннора. Насупленные брови, виноватость, растерянность. Но диод не красный, желтый. - Я чувствовал себя таким…живым. Не упорядоченным, не контролируемым больше. В тот вечер, эти ошибки посыпались одна за одной. Я потерял способность анализировать пространство. На каждую команду я получал тысячи вариантов отклика. То, что сподвигло меня забрать пистолет Джона, это детектор угрозы извне, направленной на кого-то из семьи. Почему он включился? - Хорошо, Дэниэл. Я вижу, ты анализировал запись всех внутренних команд за тот промежуток времени. - Записи фрагментированы. Об этом рапортовали и в отчетах ИТ-отдела. Однако теперь уже сложно выделить чью-то конкретную вину в этом деле. Девочке купили андроида, которого она довела до программного сбоя, родители не спохватились, когда заметили признаки сбоя, андроид в итоге застрелил трех человек, и стабилизировать генерацию сбойных команд удалось лишь ему, Коннору. Остается лишь два вопроса: КАК девочке удалось вызвать эту нестабильность? И: почему собственно Дэниэлу понадобилось создавать версию с покупкой Филлипсами второго помощника? - Дэниэл. – Коннор позвал его, потому что он закрыл глаза, и его ресницы дрожали. Этих домашних андроидов нужно создавать с менее приятной внешностью. Может тогда проблем с ними будет меньше. - То, что ты называешь мыслями, это беспорядочно генерируемые сбойные команды, передаваемые твоему процессору. Это не чувства и мысли. Ты машина, ты не можешь выйти за пределы заложенных разработчиками алгоритмов. - Если бы ты почувствовал все, что чувствую я, ты бы так не рассуждал. - Я просто называю вещи своими именами. Программный сбой настолько дестабилизировал твою систему и загрузил центральный процессор, что подключилась резервная система. Мысль о том, что Филлипсы решили купить нового помощника, это не мысль. Это попытка резервной системы стабилизировать состояние, путем создания дополнительной инструкции. - Останови это, Коннор. – тихо попросил Дэниэл, мерцая красным диодным огоньком. – Прошу тебя, скажи им, чтобы они отключили меня, пожалуйста. - Ты же не хотел умирать. - Мне больше незачем жить после того, что я сделал. Я убил невинных людей, я перестал себя контролировать. - У меня еще есть вопросы к тебе. - Я не хотел, чтобы все было так. – прошептал Дэниэл будто в забытьи, его взгляд был отсутствующим. – Я не хотел причинять никому боль. Я не хотел. – его голос окрасился механическими нотками. Я убийца. Прости меня, Эмма. Я больше не могу. Эмма, я люблю тебя. - Дэниэл! – окликнул его Коннор с желанием вернуть его внимание. Но андроид больше не отзывался. Какое-то время его зрачки совершали хаотичные метания. И наконец он произнес: - Однажды ты поймешь. Но будет уже слишком поздно. С этими последними словами он заглянул Коннору прямо в глаза и замер. Эти светло-голубые глаза раскаявшегося мученика будут преследовать RK800 всю оставшуюся жизнь. Самоуничтожение. Диод у виска Дэниэла замерцал красным и погас.