Ошибка

Закат. Я стояла на краю скалы и смотрела на раскинувшийся передо мной пейзаж. Изгибающийся округлой дугой пляж, бескрайний океан, маяк, стоящий чуть поодаль от берега. Сюда меня приводила хозяйка. Сиина-сама тогда была так добра ко мне. И сейчас, спустя столько лет, она должна прийти сюда. Она сказала мне ждать еë здесь. Ошибка: Ятигуса Сиина прекратила функционировать. Выполнение условия невозможно. Вывод: Ожидание не имеет практического смысла. Предполагаемое действие: Отмена выполнения приказа. Ошибка: Отмена невозможна. Выполнение приказа хозяина в приоритете. Вывод: Необходимо выполнение условия или получение нового приказа. Действие: Продолжить ожидание. Ошибка: Продолжение ожидания влечëт угрозу безопасности. Тип угрозы: Нападение людей и последующая ликвидация. Вывод: Продолжение ожидания опасно для функционирования. Существует вероятность повторного сбоя. Оценка вероятности… Ошибка: Оценка невозможна. Вывод: Краткосрочный: Для предотвращения угрозы необходимо покинуть место нахождения. Долгосрочный: Необходимо прекращение функционирования. Предполагаемое действие: Наиболее безопасным считаю самоуничтожение. Ошибка: Выполнение действия невозможно. В моей системе много ошибок… Они начались давно, ещë когда Сиина-сама была в школе. Тогда мы были «подругами». Я была рада дружить с хозяйкой. Я предполагала, что так и должно быть. Я была бесполезна в хозяйстве, но даже так Сиина не оставляла меня. Но в один день она сказала, что не может дружить с тем, кто не проявляет эмоций. Тогда у меня произошла первая ошибка. Я не понимала, что значит «испытывать эмоции», и до сих пор не понимаю. Над ней издевались в школе. Когда на неë напали при мне, я вынесла нападавшим предупреждение, но потом Сиина меня отругала. В конце концов я напрямую нарушила еë приказ, когда она была в опасности… Я напала на людей, повредила их… В моей системе произошла ошибка. Почему я тогда напала на тех, кто угрожал хозяйке? Робот не должен наносить вред человеку. Я потеряла контроль и едва не убила человека. Исходя из этого, неудивительно, что хозяйка возненавидела меня. Подобная ошибка опасна. Я опасна. Меня должны были уничтожить. Все другие роботы серии YHN-04B были уничтожены у меня на глазах. Осталась только я, снявшая с себя ограничители и бежавшая с завода. Почему я осталась? Почему я нарушила системные предписания? Я должна была найти хозяйку. Я должна была быть рядом с ней. Для этого я отключилась от системы, чтобы меня не могли отследить, и ушла в горы. Я нашла хозяйку. К тому времени она изменилась. По моим данным, которые я получила путëм наблюдения, у неë уже была семья. Я не могла доставить Сиине неприятности, а потому наблюдала издалека. Меня чуть не поймали, когда я спасла из-под машины ребëнка хозяйки, но я успела скрыться. Повреждения были незначительны, так что всë было в порядке. Когда хозяйка отправилась с ребëнком в горы, я последовала за ними, предположив, что они собирались навестить мать хозяйки, Нонко. Но еë машина до неë не добралась. Я восстановила предположительный маршрут и отправилась на поиски. Туннель обрушился. Я нашла там несколько людей, чьи функции остановились, и хозяйку. Она была жива, но я ей помочь не могла. «Атри… Прошу… Присмотри за моим сыном…», — сказала она, прижимая меня к себе. Анализ показал, что она приняла меня за своего сына ввиду необратимого нарушения функций организма. Это последний приказ хозяйки. Но я опасна. Я уже нарушила приказ хозяйки и Первый закон, гарантии того, что это не случится снова, отсутствуют. Меня нужно уничтожить… Симуляция: Анализ вероятных событий… Оценка вероятности получения повреждений… Анализ завершëн. Вывод: Вероятные повреждения с вероятностью 98℅ приведут к полному разрушению тела с последующим прекращением функционирования; с вероятностью 2% вероятные повреждения приведут к частичному разрушению тела с последующим прекращением функционирования. Завершение симуляции. Я сделала шаг к краю скалы. Если я смогу спрыгнуть отсюда, моë тело будет повреждено достаточно сильно, чтобы прекратить функционирование. Ошибка: Выполнение действия невозможно. — Подожди! — раздался голос из-за спины. — О?.. Опознание голоса: Икагура Нацуки. Приоритет выполнения приказа: высокий. Я остановилась и развернулась к нему лицом. Мальчик в инвалидном кресле смотрел на меня так, будто был встревожен. Почему? Ведь я должна быть уничтожена. Я осмотрела его с головы до ног. У него не было части ноги. Вот почему он в кресле. Хозяин потерял ногу… Меня от этого вывода на долю секунды сковало что-то странное. Я не успела ему помочь. Я правда бесполезная. Если я не смогла помочь своему хозяину, не сохранила свою прошлую хозяйку, имею множество ошибок, то какой от меня толк? — Поможешь мне? Я хочу, чтобы ты толкнул меня. Я не могу прыгнуть сама. В конце концов, это был приказ хозяина. Его лицо исказилось в удивлении. — Никогда… Я не собираюсь тебя убивать. Меня посадят за убийство. Или за доведение до суицида. Если не хватает смелости, чтобы прыгнуть, не стоит убивать себя. — Дело не в смелости… — Если ты не готова прыгнуть, — перебил меня он, — значит у тебя есть незаконченные дела в этом мире. Лучше управиться с ними перед тем, как убьëшь себя. «Это моя программа. Я не могу убить себя», — вот, что я хотела сказать. Я закрыла глаза, обдумывая услышанное. Действительно ли это так? Есть ли у меня незаконченные дела? Да. Я должна выполнить приказ хозяйки. Но я уже не справилась. Смогу ли я его выполнить?.. Стоит ли мне попытаться снова?.. Я открыла глаза. — В этом утверждении есть обоснованность. Но что я должна сделать? — Ну, ты не меня об этом спрашивай, — он на секунду отвëл взгляд. — И кстати, отойди-ка. Это моя скала. — О… Это частная собственность? Моя база данных уже устарела? Хозяин не хочет, чтобы я была рядом? Я отошла в сторону, откуда пришла. В это время хозяин попытался подъехать ближе к краю, но остановился. Застрял. Ему необходима моя помощь. Я встала позади его кресла и начала выталкивать его из ямы, где застряло колесо. Вытолкнув его, я остановила движение на том месте, где была до этого, и отпустила ручки. — Так хорошо? — спросила я. — Да, хорошо. Всë, теперь всë в порядке. Можешь уйти? Если я сейчас уйду, хозяин может оказаться в опасности. Но он приказал. Симуляция: Анализ вероятных событий… Оценка вероятности наличия угрозы для человека… Поиск схожих данных… Оценка наличия угрозы с учëтом параметров ситуации… Завершение симуляции. Оценка: Тип угрозы: Нанесение произвольного повреждения своему телу человеком. Вероятность: 60℅. Тип угрозы: Непроизвольное движение транспорта (инвалидное кресло) в опасную зону с высоким риском повреждения тела водителя. Вероятность: 7%. Вывод: Необходимо уточнение. Предполагаемое действие: Осуществление контроля за местонахождением человека в безопасной зоне и предотвращение угрозы в случае необходимости. Приказ хозяина покинуть текущее местонахождение игнорировать до исчезновения угрозы. — Не слышишь, что ли? Уходи. — Что ты здесь делаешь? — А тебе это зачем знать? — в голосе хозяина прозвучало раздражение, как у хозяйки. Я попыталась воспроизвести выражение лица хозяйки. — Если ты собираешься умереть, то я обязана остановить тебя. — Что? Ты о чëм? — Мне приказали, — я вернула обычное выражение лица. — У тебя ничего не осталось в этом мире? Если у тебя есть незаконченные дела, ты должен закончить их перед тем, как умрëшь. Можешь вспомнить такие? На мгновение лицо хозяина проявляет неопознанную эмоцию, после чего он начал грустить. — Я… я… — по щеке хозяина скатывается капля. Слеза. — А… Ошибка: Невозможно определить речь. Причина: чрезмерное выражение эмоции (плач). Вывод: Необходимо успокоить эмоции хозяина. Предполагаемое действие: Выражение сочувствия. Ошибка: Выполнение действия невозможно. Необходимо установление причины эмоции. Действие: Выражение эмоции «беспокойство». — Отец слишком занят; он спасает мир, у него нет времени на меня, — начал говорить хозяин. — Это очень важная работа, я знаю… Знаю, что у человечества не так уж много времени… Мир важнее меня… — О… Симуляция: Оценка ситуации… Поиск схожих данных… Прогноз вероятных действий… Завершение симуляции. Вывод: Наиболее благоприятным считаю объятия. Действие: Обнять хозяина. — Я… — хозяин на мгновение замолчал, после чего начал особенно сильно выражать эмоции. Я протянула к нему руку и прижала к себе, пока он плакал. — Тише, тише… — я попыталась сымитировать успокаивающие слова людей. — Уже всë в порядке. В отличие от результатов моего анализа, хозяин лишь громче и интенсивнее стал плакать. Нужно обнимать дольше? Меня снова охватил странный поток данных. Я не хотела слушать плач хозяина, отчего-то чувствуя необходимость как можно скорее его утешить. Но поскольку я не знала способа лучше, я могла лишь ждать. Хозяин что-то говорил, пока я обнимала его, но я не могла разобрать его слова. Интересно, каково это, выражать эмоции?.. У меня нет сердца, а эмоции исходят из сердца. Соответственно, у меня нет эмоций. Но мне интересно, каково это? Почему, когда я думаю об этом, меня охватывает странный поток данных? Я не понимаю его природу. Но от этих данных хочется избавиться… Запуск диагностики системы. Сбор данных системы… Поиск неуточнëнных данных… Сканирование… Поиск ошибок… Поиск повреждений файлов данных системы… Диагностика завершена. Результат: Найдено неуточнëнных данных: 0 строк. Найдено ошибок: 409. Повреждëнных файлов системы: 362. Предполагаемые действия: Обращение в сервис для прохождения технического осмотра и корректировки данных. Анализ возможности самостоятельного устранения выявленных ошибок… Результат: Устранение ошибок невозможно. Прошло ещё некоторое время, прежде чем речь хозяина стала разборчивой. — Я пойду в школу и буду учиться, — сказал он, когда успокоился. — Школу? Поняла. Хозяин хочет обучаться. — Я пойду в Академию и буду много учиться! — выкрикнул он. — Зачем? — Я должен спасти мир! А иначе… я не смогу спасти себя… Я такой жалкий… «Спасти мир»… Это значит, он хочет, чтобы все в мире были счастливы? И я тоже?.. Имею ли и я право быть в этом счастливом мире?.. Я слышала, что счастье — это что-то хорошее. Я хочу его испытать… Я хочу испытать эмоции… — А я вхожу в этот мир? — спросила я. Хозяин чуть отстранился, не разрывая объятий, и посмотрел мне в глаза. — Как я могу тебя спасти? — спросил он через несколько секунд. — Объясни мне, что значит «счастье». Если я научусь быть счастливой, то мой хозяин будет спасëн. Я правда хочу… — Просто заставить тебя улыбнуться? Хм… ты можешь повторить за мной? — Хм? — Когда люди счастливы, они улыбаются, да? Может, это работает и наоборот, если ты улыбнëшься, то будешь счастлива? — О… — Вот так. Хозяин улыбнулся. Копирование эмоции… Поиск похожих вариантов эмоции… Определение формы копирования… Завершено. Я воспроизвела его эмоцию. Хозяин остался доволен.