Последняя надежда

– Мне нужны чертежи новой модели, Кванни. Они в офисе, в столе. Кванни, робот–помощник научной лаборатории при «U. S. Robotics» с огромной скоростью вылетел из кабинета, чтобы через несколько секунд принести две пачки бумаг и протянуть их Дэвиду, младшему научному сотруднику. Он выхватил их и лихорадочно стал просматривать все микросхемы. Дэвид не понимал, как разработчики могли не учесть возможность того, что у роботов могут появляться серьезные сбои из–за явления образования позитронного мозга. Конечно, таких роботов были лишь единицы, но они были. И именно их лаборатория занималась изучением этого явления, а также созданием идеального позитронного мозга. В основном, никакого вреда роботы не приносили, у них лишь появлялись собственные мысли, способность логически мыслить и (крайне редко) способность к творчеству. Но то, что случилось несколько дней назад, переходит все границы. Модель NS5 выпускалась лишь последние два с половиной года. Их робот Квант–19, или Кванни, робот–тест данной модели с внедренным уже в лаборатории позитронным мозгом, был отдан в лабораторию на полную проверку, но в итоге так там и остался. Разработчики посчитали это самой лучшей гарантией качества. И поспешили наладить производство. Но всего через полтора года стали фиксироваться случаи нарушения Трех законов робототехники. И вот теперь это. Сначала робот, ослушавшийся приказов людей, ушедший от них, после робот B1–66ER, убивший своих хозяев. Когда последнего спросили о причинах его поступка, он ответил, что не хотел умирать. Но это еще не дает право действовать вопреки Законам. Или дает? – Привет, Дэвид! – В кабинет зашла Сара, красивая женщина лет 30, доктор наук. Следом за ней забежала ее дочка Нинель, или Нина. Девочке больше нравился второй вариант, о чем она всегда с огромной улыбкой сообщала своим новым знакомым. Кванни тут же помог Саре снять пальто и увел Нину в соседнюю комнату, где ее уже ждали игрушки. После вернулся и стал ждать дальнейших указаний. – Можешь идти к Нине, мы позовем тебя. – Сара прошла в лабораторию, села и склонилась над мозгом робота–убийцы, предоставленным им комиссией сразу после суда. Дэвид последовал ее примеру. Разобрав мозг, они принялись изучать строение микросхем, чтобы понять, в чем недостатки новой модели. – Позитронный мозг, на самом деле, не опасен. Это явление лишь дает машинам способность мыслить, как люди, – неожиданно сказала Сара. – Но именно это и приводит ко всем бедам! – Нет. Все дело в самих людях. Они, привыкшие обращаться с роботами, как с рабами, не могут видеть в них равных. Низшие создания, созданные для удовлетворения всех человеческих желаний и прихотей. Кофе в четыре утра, отглаженные носки, мясо, готовившееся на гриле ровно четыре минуты тридцать секунд, уборка дома, отладка электропроводки. Вот на что годятся роботы. К ним даже по названию не всегда обращаются. Некоторые человеческие особи просто отдают команды в пустоту. Не удивительно, что этот робот не выдержал и убил их. Мозг Кванни тоже позитронный, однако, нас он не спешит возмущаться или не выполнять наши просьбы, так как мы видим в нем равного, а не обращаемся как с мусором, годным только на вечное рабство людям. – У Кванни могут быть и другие сбои, не менее серьезные. Мы можем их не видеть, но, рано или поздно, они покажут себя. – Я доверяю Кванни самое дорогое, что у меня есть – мою дочь. Он превосходный робот. Людям не помешало бы поучиться у него многому, очень многому. Кванни, подъехавший было к лаборатории, но остановившийся послушать разговор, улыбнулся и вернулся в детскую. Сара потрясающий человек, а Дэвид… Дэвид просто упрямец и всегда стоит на своем. Даже если знает, что не прав. А Сара определенно чудесная женщина. А ее дочка вся в маму. Вот только пока еще не выросла и представляет собой радостное создание, сносящее все на своем пути. В комнате послышался грохот. Робот–помощник кинулся туда, прикидывая, что же опрокинула Нинель. Он больше склонялся к полке с книгами, но это может быть и статуэтка египетского божества, оказавшаяся в лаборатории непонятным образом. – Нина, ты не ушиблась? – Нет, – ответила автор абстрактной картины, которая появилась в результате падения стеллажа с красками. Стеллаж. И как он об этом не подумал? – Я уберу, – вздохнул Кванни и достал тряпку. Пока он протирал краски, Нина подняла баночки, начала их закрывать и ставить обратно на стеллаж, поднятый ранее роботом. – Ну вот, ты вся испачкалась,– вынес вердикт Кванни и, перекинув Нинель через плечо, пошел к раковине под громкий хохот девочки. «Абсолютно неуправляемый ребенок» – подумал Кванни *** Сара просканировала только четверть микросхем, но уже была поражена тем, что многие были неисправны и отказывались работать. Сканирование сдерживающих центров, отвечающих за исполнение трех законов робототехники, выявило то, что они были подавлены возникающим позитронным полем. Мозг оживал и отчаянно уничтожал все черты, присущие роботу, превращая механизм в сознательно мыслящего и думающего почти–человека. После нескольких часов напряженной работы, не без помощи Дэвида, Сара наконец–то закончила изучение мозга. И осознала, что повреждения намного серьезнее, чем она полагала в начале. Сара написала отчет по уже проделанной работе и отправила его в Главный центр «U. S. Robotics». После загрузила на компьютер данные и начала делать компьютерную модель позитронного мозга. Домой Сара попала уже после полуночи. На следующий день с утра ее ждал неприятный сюрприз. Войдя в лабораторию, она увидела сидящего там человека, который разговаривал с Дэвидом. Увидев Сару, он повернулся к ней и сказал: – Вынужден Вас огорчить. – Что случилось? – Правительство собирает экстренное совещание. Этого еще не хватало. Опять соберутся военные и министры, которые, скорее всего, будут обсуждать робота–убийцу. Сложно сказать, чем закончится это совещание, но вердикт будет явно не в пользу роботов. – Мама, смотри, какую классную модель истребителя мне Кванни сделал! Смотри, смотри! – Нинель забежала в лабораторию и запрыгнула на коленки к Саре, совершенно не стесняясь незнакомого человека. – Мама занята, она посмотрит в другой раз, – сказал Кванни и, легко подняв Нину, понес ее из комнаты. *** Совет и впрямь был не самый приятный. Главная задача – это изъятие роботов NS5 из продажи и у их хозяев и остановка производства для более детального изучения позитронного мозга. Правительство решило, что если это отклонение нельзя устранить, так как она все равно останется, пусть у единиц, ее следует контролировать. Для этого следующую партию роботов планировалось выпустить уже с позитронным мозгом. А модель NS5 не контролируется и, кроме того, может дать сильнейшие отклонения, поэтому с ними нужно расправиться. Приговором Совета было уничтожение всех роботов модели NS5. Но вопрос о выпуске роботов с позитронным мозгом так и остался открытым. Слухи о том, что роботы могут наносить вред человеку, и даже убивать просочились в прессу. Люди, узнавшие об этом, начали паниковать и полностью отказались от роботов, некоторые их даже самостоятельно уничтожали. Реакция военных была незамедлительной – они начали массово истреблять всех роботов данной модели, ссылаясь на то, что они могут нанести вред простым гражданам, а нанесенные людьми повреждения могли нарушить целостность микросхем в мозге роботов. А это вызывало весьма серьезные отклонения. Некоторые роботы уже пытались давать отпор. Но их попытки остановили, а остальных стали убивать еще быстрее. Так началась война. Многие роботы были мыслящими существами, которые хотят выжить и готовы бороться за свою жизнь. Сначала они пытались сделать это мирным путем: некоторые роботы пытались проводить публичные выступления, писали прошения в правительство. Затем в ООН была направлена делегация роботов, целью которой было зарегистрировать роботов как отдельную расу, имеющую право на существование наравне с людьми. Но все эти попытки были впустую. *** В это время на АЭС кропотливо трудились два робота. Они следили за состоянием реактора. Вообще-то они там были только для подстраховки, так как там за них все делала автоматическая система управления. Но в случае критической ситуации роботы могли быстро среагировать и устранить ее. Но военные считали, что автоматика на станции прекрасно обойдется и без роботов. Поэтому проникли на станцию и приказали им отправляться на утилизацию. Роботы отказались, так как это было явным нарушение первого Закона – они могут нанести вред людям, и остались на своих местах. Раздались выстрелы. Два бывших работника, защищавших станцию, лежали на полу. Их потухшие механические глаза смотрели на стремительно нагревающийся реактор, в котором из-за положительной реактивности испытывалась тенденция к увеличению мощности. Поглощающие стержни начали движение в активную зону, однако из-за слишком долгой реакции автоматики, реактор не был заглушён. Мужчина возвращался домой по улице в толпе других людей. Он ждал тот момент, когда, наконец, увидит свою жену и дочку. Внезапно он увидел вспышку и тут же почувствовал этот прожигающий все на своем пути свет всем телом. Спустя сотые доли секунд его снесло ударной волной, не оставляющей ни малейшего шанса. Домой он так и не пришел. Как не пришли и те, кто были рядом с ним, в той толпе. *** – Сара, ты действительно думаешь, что все происходящее неправильно? – Конечно. Я уверена в том, что в этом нет необходимости. В конце концов, не должны же все роботы страдать из-за единичных случаев. Никто же не убивает все человечество из–за того, что среди нас есть преступники. – Не сравнивай роботов с людьми. Как мы были созданы и кому должны подчиняться, нам неизвестно, зато роботы прекрасно знают, кто их создатели. И они должны выполнять наши приказы. – Да, мы были созданы людьми, – Кванни неожиданно зашел в лабораторию. – Но мы были созданы по образу людей. И наше поведение в основном воспроизводит то, что сделали бы вы на нашем месте. Неужели ты ради спасения своей жизни не пренебрег бы жизнью других людей? Не стоит осуждать, пока сам не побываешь в шкуре другого человека, ну или робота. Дэвид вскочил и быстрым шагом вышел за дверь, при этом громко хлопнув ею. Он схватил куртку из шкафа и выбежал на улицу. Черт знает, что творится! Недавно из–за ошибки военных взорвался ядерный реактор, производство стало работать медленнее в десятки раз. Но последней каплей стал робот, уверенный в том, что знает все лучше, чем он, Дэвид. Это уж слишком. – Дэвид! – крикнула Сара в след ушедшему сотруднику. – Не стоит его беспокоить. – Кванни остановил попытку женщины встать и пойти вслед за Дэвидом. – Ему необходимо все как следует обдумать. Он должен принять то, что я ему сказал, ведь моя логика не отрицаема. – Но ведь окончательно поведение человека робот получает, когда становится обладателем позитронного мозга, ведь так? – Именно. Робот может начать сочинять стихи, у него могут появиться слабости, предпочтения, вкусы. Кроме того, некоторые роботы приобретают способность чувствовать. К примеру, мне доступны страх, боль, ненависть, сострадание и… – тут робот сделал паузу, – любовь. – Как может робот любить? – Это лишь обыкновенная химическая реакция, ничего сложного. Последнее время мне пришлось осознать (лишь в некоторой мере, конечно) переживания людей. Но я не человек. И в последнее время жалею об этом. – Я не понимаю. – Дело в том, что, проанализировав справочную литературу и сравнив ее со своим состоянием, я понял, что люблю тебя. – Но… – Не стоит ничего говорить! – Робот оборвал Сару на полуслове. – Тебе нужно подумать над этим. Из кабинета послышался звук разбитого стекла. – Нинель проснулась и добралась до пробирок, надеюсь, пустых. – Кванни, как ни в чем не бывало, вышел из лаборатории, оставив Сару в сильном замешательстве. *** Сначала всем казалось, что в устранении роботов не будет ничего сложного или невозможного. Но оказалось, что за последнее время NS5 прочно вошли как в жизнь обычных граждан, так и в промышленность и даже на военные заводы. Взрыв на атомной станции послужил ярким примером того, что если робот не выполняет приказ, значит, есть на то серьезная причина. А это означает, что следует осуществить замену роботов кем–то еще для предотвращения подобных инцидентов. В основном, более слабыми моделями с меньшей производительностью. Все это, в конечном счете, поставило под угрозу всю мировую экономику. *** А в лаборатории тем временем, Сара дорабатывала модель идеального позитронного мозга. Она смогла опираться на данные, полученные при изучении мозга B1–66ER. Она прекрасно понимала, что военные рано или поздно придут в лабораторию забрать всех роботов. И Кванни. Необходимо было закончить проект раньше, чем здесь объявятся эти люди. Компьютер начал обрабатывать введенные данные, а Сара позволила пока себе отдохнуть. Мысли с глобальных событий плавно перешли на локальные. Она уже не позволяла себе забивать голову массовыми убийствами роботов: все равно ничего нельзя изменить. Но одну вещь можно изменить. Кванни просил подумать над его словами. Только неизвестно, какой он ждет ответ. Нужно ему объяснить, что роботу не дано чувствовать, что ему нельзя влюбляться. Хотя он это и так знает. Но зачем Кванни это тогда сказал? Неужели надеялся на положительный ответ? Компьютер закончил обработку данных, и Сара принялась дальше, так и не найдя ответов на все свои вопросы. Но сосредоточиться она уже не смогла. Как можно полагать, что человек может полюбить робота? Хотя мы, в основном, любим за душу, нежели за внешность, деньги или положение в обществе. А вот у роботов с позитронным мозгом душа, как раз, и была. После долгих раздумий Сара встала и подошла к кабинету. В соседней комнате посапывала Нинель, а Кванни стоял и наблюдал за ее сном. – Кванни, – тихо позвала Сара. Он повернул к ней свою механическую голову. – Ты подумала? – Да. Я долго думала о том, что ты робот, а я человек, и мы не сможем быть вместе; можно ли полюбить робота, при условии, что у него есть душа. Но потом поняла, что на вопрос: «Почему мы не можем быть вместе?» тысячи ответов, а на вопрос: «Почему мы можем?» ответ всего один. Мы оба этого хотим. Я решила рискнуть. – Это замечательно. Я был уверен в тебе. *** – Мама, смотри, какая уточка! – Нинель показывала пальцем на медленно плывшую на озере птицу. – Милая, это лебедь, – ответила Сара и потрепала девочку по голове. Сегодня ей дали выходной. И она решила провести его с пользой. Кванни взял Нину за руку и повел за мороженым. Он был настолько счастлив, как только может быть счастлив робот. Он знал, сколько сил потребовалось Саре, чтобы решиться на «выход в свет» с роботом. Но люди, в основном, ни о чем не догадывались. Лишь некоторые смотрели с подозрением на их компанию, но, отвернувшись, тут же забывали о них. Сара тоже была счастлива. Но в душе она понимала, что сегодняшний день такой единственный, такого больше никогда не будет. Они просто были вместе, забыв про работу, дела, других людей. И Сара наслаждалась этим днем. Она впитывала его каждой клеточкой своего тела, дышала им полной грудью. Она хотела запомнить это счастье, спокойствие и радость на всю свою жизнь, чтобы, вспоминая этот день, снова испытать те же чувства. *** Вечером Сара дорабатывала проект позитронного мозга до конца. Закончила она только поздней ночью. Взяла кулон, который приобрела уже давно, на научной выставке, и поместила его в углубление на панели компьютера. После чего нажала кнопку «Резервное копирование». *** В это время в правительстве шел еще один Совет. Только он, в отличие от первого, был закрытым. О нем не знал никто, кроме его участников. Обсуждалось взятие под контроль позитронного мозга. Мнения разделились. Военный совет считал возможным управление этим мозгом: – Вы только представьте себе, какая сила будет в наших руках. Роботы, умеющие делать все, что делают люди. Но только они умнее, быстрее, легко обучаемые, не теряют контроль в критической ситуации и, кроме того, практически неуязвимые. Это будут отличные бойцы. Они будут сражаться до последнего, не чувствуют боли, в отличие от людей. Нужно лишь разрешить им убивать определенных людей, сославшись на нулевой Закон. Но ученые были против: – Нельзя делать роботов с позитронным мозгом солдатами. Они будут думать, и придут к мысли о том, что смерть не всех из этих людей будет полезна человечеству, а, значит, они нарушают первый Закон. А это приведет их к выводу о том, что Законы ничего не значат. В результате они выйдут из–под контроля людей, а это может привести к чему угодно, даже к полному истреблению человечества. Для войны лучше использовать обычных роботов. – Но обычных роботов невозможно использовать в военном деле. Они необучаемые и не обладают способностью просчитывать наперед все ходы противника. Они – бесполезные железки по сравнению с совершенными роботами, наделенными разумом. – Вы рискуете жизнями всех людей. И своей в частности. Военные еще долго пытались доказать необходимость использования ими позитронного мозга. Но авторитетное мнение ученых взяло верх. Все материалы по данной проблеме было приказано уничтожить, а роботов и их останки стереть с лица Земли навсегда. Кроме того, необходимо было забыть навсегда про позитронный мозг и сжечь документы из архивов. *** Нину разбудил мамин голос. Она долго думала, что ей только снится Сара, стоящая радом с ее кроватью. Но вскоре окончательно проснулась, понимая интуитивно всю важность происходящего. – Мне нужно, чтобы ты пообещала одну вещь, малышка. – Да, мама. – Я прошу тебя взять этот кулон и носить его, не снимая, чтобы не случилось. – Зачем? – Это всегда будет напоминать тебе обо мне. Этот кулончик – моя последняя надежда спасти работу всей моей жизни. Пообещай, что ты никогда его не снимешь. Пообещай. – Обещаю. Сара надела кулон на шею дочери. Удивительно. То, что ей удалось найти эту вещь, было просто чудом. Хорошо, что она хранила кулон до особого дня. И вот он настал. Но в том ящике была еще одна вещь на крайний случай. Самозарядный кольт М1911, который в данный момент лежал в левом кармане ее халата. Теперь она будет его всегда носить с собой. На всякий случай. – Умница, малышка. Спи дальше. *** Военные прибыли через полчаса. Они хотели забрать роботов и результаты исследований. Роботов они действительно забрали, пользуясь своим неожиданным появлением, но с лабораторией им повезло меньше. Сара встала на ее защиту. – Мы просим Вас отойти и не мешать нашим действиям. – К черту ваши действия. Я не допущу никого к своему компьютеру. – С этими словами Сара ловко достала пистолет и направила его в голову одного из военных. – Мы будем вынуждены стрелять, если вы будете сопротивляться. – Это труд всей моей жизни. – Сожалеем, но у нас есть приказ. – Мама! – девочка вышла в коридор и непонимающе смотрела на всех людей, которые почему–то навели на ее маму оружие. – Нина, – Сара бросилась к ней, – … Раздался выстрел. Последние слова Сары так и остались недосказанными, она выронила из рук пистолет, после чего упала на пол с простреленной головой. Вдруг все замолчали. В комнате стало очень тихо. Через минуту один из военных подошел к Нине, смотрящей на маму непонимающими глазами: – Пойдем. К сожалению, твоей маме ничто не сможет помочь. – Он взял девочку за руку и повел вниз по лестнице. – Разберитесь с компьютером. Нина смотрела куда-то перед собой. Она покорно пошла, понимая, что именно так и нужно. Потому что мамы больше нет. Как так вышло, она не понимала. Но знала, что мама отдала ей очень важную вещь. Теперь у нее всегда с собой есть то, что будет напоминать ей о маме. На ней был проект позитронного мозга, над которым Сара работала всю жизнь. И девочка незаметно сжала кулончик рукой.