Сверкающие глаза

      Подождав, пока Кор Тун выйдет за пределы Штаб-Квартиры, Шепард попросил Кайдена привести Элру.       - А вы жестоки, капитан Шепард. – сказала кварианка. – По вашей милости я провела больше часа в вашей одиночной камере почти что в полной тишине.       - Вы сами сунулись на Цитадель, Элра. – сказал Шепард, указывая на кресло и ожидая, пока кварианка устроится в нем поудобнее. – Насколько я помню, вы отправились в Паломничество.       - Намекаете на то, что на Цитадели кварианцам-паломникам искать нечего?       - Нисколько. В распоряжении любого из кварианцев-паломников – вся доступная Галактика. – Шепард встал рядом с креслом, чуть повернувшись к кварианке.       - Может, капитан, вы вернете мне контроль над моими руками? Я их чувствую, но вот двигать ими – не могу.       - Хорошо. – Несколькими прикосновениями Шепард вернул кварианке возможность двигать руками. Та начала массировать плечи и предплечья.       - Не знаю как вы это сделали, Шепард, с моими руками, но скажу, что это было довольно жестоко.       - Понимаю. Но вы сами пошли на преступление, Элра. И вы знали, что на Цитадели за такие преступления наказывают. Очень серьезно. Вы надеялись на удачу, понимаю. Вот и давайте поговорим об удаче. Расскажите мне об истории вашей расы, Элра. – Капитан отошел и сел в свое кресло за рабочим столом.       - Капитан, это, по меньшей мере, смешно. Я – кварианка, изгой, преступница. И вы, Спектр, желаете поговорить со мной о моей расе?       - Если вам смешно – можете посмеяться, Элра. Вдоволь. Я подожду. Но прежде чем начнете, - Шепард развернул к ней большой экран настольного инструментрона. – взгляните вот на эти данные. – он нажал несколько сенсоров на клавиатуре. – система отследит ваш взгляд и пролистнет нужное количество страниц.       Несколько минут кварианка напряженно изучала представленные материалы.       - Я даже не спрашиваю, откуда у вас это, Шепард. Такое, думаю, известно, только адмиралам Флота.       - Вы так верите в своих адмиралов?       - Я знаю, что они… неоднозначно планируют наше общее будущее. Каждый из них. Но выше их… по статусу… у нас никого нет.       - Есть, Элра. Есть.       - Кто, капитан?       - Кварианский народ.       - Мы…       - Вы, кварианцы, в своей совокупности сами можете решить, что для вас лучше. Вот, к примеру. – Шепард убрал большой экран инструментрона. – Какой у вашей расы выбор сейчас?       - Будто вы и сами не знаете, какой. Да никакого. Планет, пригодных для нас, кварианцев, в исследованных районах нет, а те, что есть и пригодны – заняты турианцами – единственной расой, с которой у нас немало общего и чью пищу после очистки от бактерий мы можем употреблять практически без ограничений. А там, где появляются турианцы, там появляются их военные базы, крепости и военные флоты. И нам, у которых старые корабли во Флоте составляют большинство, приходится уходить, поскольку воевать мы себе позволить не можем. Так и ходит Флот по Галактике. Нас не любят, нас гонят, нас презирают. А теперь еще появилась информация о Вторжении Жнецов. Машин…       - И как вы оцениваете этого противника?       - Если учесть то, что нам, кварианцам, доступно – это страшный противник, капитан. Но страшна не мощь его основного флота, не те большие корабли, которые изредка называют «креветками». Страшно то, что эти корабли способны подчинять себе других. Многие кварианцы убеждены, что Жнецы могут подчинять себе как органиков, так и синтетиков. Технически… очень трудно тягаться с Жнецами, капитан. Эти корабли, вне всякого сомнения, обладают развитым интеллектом. Не знаю, можно ли назвать его полностью искусственным или все же он построен на органической основе. Мощь оружия Жнецов… велика.       - И, как вы считаете, что можно Жнецам противопоставить?       - Не знаю, капитан. Пытаться с ними воевать, безусловно, следует. Сопротивляться – необходимо. Но надолго ли хватит наших ресурсов? Если говорить о моей расе, капитан, то хоть мы количественно и обладаем самым большим флотом в исследованной части Млечного Пути, тем не менее большинство кораблей изначально были гражданскими. Да, нам пришлось пойти на огромные затраты и вооружить даже пассажирские лайнеры, но все равно, если корабль изначально гражданский – из него плохой вояка. Несмотря на весь героизм экипажа.       - И какой же выход?       - Сложно сказать, капитан. Если нападение будет носить массированный характер – Флот долго не продержится. Мы пытаемся что-то сделать, для усиления Флота, но, увы, слишком мало ресурсов в нашем распоряжении.       - Именно поэтому я и попросил вас, Элра, рассказать о вашей расе. Безусловно, вы правы – я многое прочел, многое просмотрел из того, что доступно на серверах Экстранета. Тем не менее, считаю, что читать и смотреть – одно, а разговаривать с представителем расы – совершенно другое.       - Не знаю, капитан, чем вам поможет мой рассказ о моей расе, но попробую. – Элра на несколько минут замолчала, затем начала свой рассказ. – Наша родная материнская планета – Раннох, расположена в звездной системе Тиккун, что в скоплении Вуаль Персея. Кроме Ранноха, являющейся первой планетой, расположенной ближе всего к местному солнцу, в звездной системе еще несколько планет, в том числе, расположенная в астероидном поясе Тиккуна планета Урия. Она имеет астероид-спутник Этиэль, который, как полагают большинство наших ученых, откололся от Урии после сильного удара. Там велась активная добыча полезных ископаемых в те времена, когда мы еще только осваивали свою родную звездную систему. Естественно, разработки были очень активными – мы тогда мало знали о других звездных системах и об их богатствах, закономерно беря по максимуму то, что ближе расположено и то, что легче взять. Полагаю, что взяли мы тогда от Урии достаточно – фактически теперь это – простой камень. Некоторые кварианцы считают его планетой, некоторые – астероидом, некоторые – карликовой планетой. В большинстве своем полезные ископаемые максимально полно были изъяты и с других астероидов, так что теперь астероидный пояс системы не представляет никакой ценности. Третья планета – Адас. Она – слегка теплее Ранноха, хотя и находится дальше от звезды системы. На планете очень высокая вулканическая активность, которая, конечно же, серьезно затрудняет добычу полезных ископаемых. Да, мы начинали с того, что многие наши соплеменники рисковали собой, работая в опасных условиях, а когда создали гетов – приспособили их для осуществления основных объемов добычи.       - А четвертая планета?       - О, Кадди. Это - планета, с которой начался рост уровня обеспеченности нашей расы. Там низкая сила тяжести, несмотря на значительные размеры. Что очень облегчило работу первых кварианских исследовательских партий. Еще до того, как мы открыли технологию эффекта массы, мы именно с Кадди вывозили основные объемы потребляемых минералов. А тогда, когда мы установили контакт с Цитаделью и получили доступ к нулевому элементу, наши орбитальные станции вокруг планеты быстро превратились в настоящие летающие города. Пятой и последней планетой в нашей материнской звездной системе является ледяной гигант Хаза. Он состоит преимущественно из водорода и гелия, кроме того там есть метан, лед и аммиак. Планета небольшая по размерам, мы строили там станции по добыче гелия-3. И, наконец, наша материнская планета, Раннох. На древнекварианском это означает «сад, окруженный стеной», а сегодня мы по-прежнему называем Раннох просто домом. К сожалению, на нашей планете по ряду причин нет насекомых, а растения, которые неминуемо нуждаются в опылении, вступают в симбиоз с высокоразвитыми животными. Что, как считается, и привело, а точнее – сопутствовало ослаблению нашей имунной системы, ведь инфекции, которые характерны для миров, в которых есть органическая жизнь, могли быть и полезными, и пагубными. К счастью, долгая жизнь в условиях Ранноха, практически в изоляции, несмотря на ослабление имунной системы, позволила большинству кварианцев хоть в какой-то мере приспособиться к этим, безусловно, не всегда безопасным инфекциям. Считается, что Раннох, Шепард, суше вашей Земли, а его звезда, звезда нашей материнской планеты – древнее вашего Солнца. В нашей материнской системе был найден и ретранслятор, с помощью которого мы впервые вышли за пределы своего Малого Космоса.       - Насколько я помню, вы не особо стремились к расширению границ своего присутствия.       - Да. Мы предпочитали довольствоваться тем, что имели. Развивали то, что досталось нам. Не вели активной экспансии. Поскольку наша иммунная система, как оказалось, была достаточно слабой по сравнению с имунными системами представителей других рас, с которыми мы познакомились в Большом Космосе, нам пришлось срочно и глубоко озаботиться тем, чтобы подготовить себя к жизни вне комфортных условий материнской планеты и родной звездной системы. И мы сделали неправильный выбор, Шепард.       - Вас же всегда считали технически-развитой расой, Элра. Да, возможно, на вашей планете были тепличные условия, да, возможно, что там были как полезные, так и вредные инфекции, да, возможно, что…       - Шепард. Когда есть с чем сравнивать… А нам пришлось быстро сравнивать и сравнивать гораздо серьезнее, чем тогда, когда мы сравнивали условия на Раннохе и условия на любой из других планет нашей звездной системы… То очень скоро выясняются вещи, которые многие не воспринимают всерьез. Потому что они очень страшны. Мы же не просто так решили стать лучшими техниками и инженерами. Это решение пришлось принимать намного раньше, чем мы вышли за пределы нашей материнской планеты. Наше телосложение более хрупкое. Мы никогда не были готовы, никогда не были приспособлены к тяжелым физическим работам – слишком много случалось тяжелых и сложных переломов, многие кварианцы гибли. Травматизм на производствах даже в те времена, когда мы еще не вышли в космос с родной планеты, достигал очень серьезных цифр. Очень серьезных, Шепард. И нам пришлось сделать неправильный выбор. Мы сделали ставку на технику, а надо было сделать ставку на медицину и на биотехнологии. На генетику и сельское хозяйство. А сделав ставку на технику, мы оказались перед перспективой подчинить себя, органическую расу, той защите, той мощи, тому удобству, которую даруют машины. Даже на планетах в материнской системе гибли десятки тысяч кварианцев, а промышленность Ранноха надрывалась, чтобы обеспечить их машинами и скафандрами. Ведь условия Ранноха, Шепард, уникальны. Мы… мы стали рабами и рабынями этих условий. И вместо того, чтобы совершенствовать тело и совершенствовать свои организмы, мы стали совершенствовать системы защиты от внешней среды. И попали в жесткую зависимость от вот таких скафандров. Кстати, Шепард, где это вы так научились ловко обыскивать кварианские скафандры? И откуда вы знаете о потайных карманах в них?       - Пусть эта информация останется для вас закрытой, Элра. – сказал Шепард.       - Не хотите говорить.       - Не вижу необходимости. Ваши скафандры стали для вас необходимостью, как я понимаю, уже на Раннохе?       - Да, к сожалению. Развитие нашей цивилизации, пошедшей по техническому пути, потребовало сокращения размеров мест, где кварианцы могли еще долгое время обходиться без скафандров. А усложнение техники закономерно приводило к травматизму, несмотря на то, что мы старались носить как можно более совершенные средства защиты. И ослабление иммунитета приводило к ослаблению скелета… Получался замкнутый круг – мы хотели обеспечить лучшую защиту своих тел, но носить тяжелую броню и тяжелые скафандры не могли – тело и скелет не выдерживали веса. И начались потери, Шепард. Большие потери. Именно поэтому мы начали разрабатывать залежи полезных ископаемых именно на той планете, где условия были полегче. А потом, когда освоили строительство космостанций, тогда пошли к другим планетам нашей звездной системы, где условия были уже и не такими уж и комфортными. Но тогда… мы уже втянулись на путь сугубо технологического, технического приоритета развития.       - А как вы установили контакт с ханарами?       - Хоть и считается, капитан, что у нас, кварианцев, нет желания осуществлять территориальную экспансию, но ведь торговлю-то еще никто не отменял. Ханары – раса, которая также помешана на торговле, но, конечно же, гораздо меньше чем волусы. Если верить Экстранету, у ханаров нет даже особо крупных искусственных космических сооружений, кроме торговых станций. Вот наши кварианские торговцы и постарались установить с ними, обитателями таких станций, взаимовыгодные контакты. И тогда мы, кварианцы, поняли, что не одиноки в своих проблемах – ханары жили на своей родной планете – Кахье – в водной среде, вне планеты они вынуждены использовать приборы, способные поддержать вес их тел, не используя мягкие и слабые щупальца. Тело ханара – оболочка с жидким содержимым, их даже изредка называют «желе», хотя это и считается оскорбительным и мы, кварианцы, стараемся их так не называть. Если ханары любят использовать левитацию и антигравы, то мы – изолирующие скафандры и экзоскелеты. Ханары показали нам, что, будучи слабыми физически, они активно используют для добычи полезных ископаемых роботов. Мы посчитали, что это для и для нас приемлемо… И сделали очередной шаг к Изгнанию. Тогда началось активное проектирование и строительство автоматизированных и роботизированных комплексов, началось массовое внедрение ВИ. Тогда еще мы не были настолько ленивы, Шепард. Наши программисты вручную прописывали десятки и сотни инструкций, неся за каждую версию персональную ответственность. Мы тогда старались ценить, охранять и оберегать жизнь каждого кварианца, каждой кварианки. Не знаю, но мне теперь кажется, это были первые шаги к длительному уходу от Ранноха. Вероятно, нам не следовало так активно и быстро действовать. Нам, может быть, следовало глубже изучить перспективу. Но разве торговцев в их вечной погоне за прибылью можно остановить? Они очень часто шли даже впереди наших исследовательских групп. Возможно, Шепард, в этом наши торговцы уловили некоторые из множества причин, которые и позволили нам через ханаров установить связи и с другими расами Цитадели – торговля и здесь сыграла свою объединяющую и даже информационную роль. Во всяком случае, мы поняли, что не одиноки. А дальше мы познакомились с азари, турианцами… Пришли на Цитадель. Нас высоко оценили как инженеров и техников. Как оказалось, тогда Цитадель была… довольно слаба. Она отчаянно нуждалась в узких специалистах и каждая раса могла присоединиться к Мирам Цитадели, если приносила в сообщество нечто очень ценное и уникальное. Мы принесли свое знание техники, технологий, свое искусство инженеров. Совет Цитадели разрешил нам открыть посольство на станции. Нас признали. И почти две тысячи лет мы сосуществовали с Цитаделью и ее расами в мире и согласии.       - Так ли уж в мире, Элра?       - Всякое было, Шепард. Мы познакомились с расой турианцев, которые добились статуса Советников, поняли, что с турианцами у нас много общего. Сумели с ними поладить. А в 1885 году мы создали гетов. Наше проклятие и ужас всех последующих десятилетий. – Элра замолчала, сделала паузу, продолжавшуюся больше нескольких минут.       Шепард не торопил, знал, что кварианке трудно рассказывать об этом. Проблема гетов из небольшой ошибки выросла в многоуровневый комплекс, ликвидировать который одним ударом не представлялось возможным. Геты перестали быть проблемой только кварианцев. Теперь, после случившегося на Иден-Прайме, случившегося на Феросе и на Теруме геты превратились в проблему для всех органических рас галактики – от ханаров до кроганов.       - Первоначально это были роботы – помощники. Дешевая рабочая сила.       - Боюсь, Элра, вы о многом умалчиваете. – сказал Шепард. – То, что вы рассказали о ханарах, то, что вы попытались украсть кредитку у волуса, указывает на одну деталь, которую вы старательно затушевываете. Давайте уж говорить честно, тем более, что времени до Вторжения Жнецов осталось очень и очень мало.       - Вы правы, Шепард. – сказала Элра. – Я увлеклась и забыла, что вы, кроме того, что человек, еще и Спектр. Да, мы использовали гетов как военную силу.       - И с кем же, позвольте узнать, вы собирались воевать?       - Очевидно, повторять в некоторых деталях ваш опыт, человек. Сами с собой. Потому что за эти полторы, почти две тысячи лет существования в рамках Пространства Цитадели, наше общество перестало быть единым. Мы постепенно начали все сильнее и сильнее дробиться. Различия между настроениями кварианцев нарастали.       - Полагаю, дело до гражданской войны все же не дошло.       - Не дошло. Но участие нас, кварианцев, как инженеров и техников, в войнах против рахни на стороне рас Цитадели заставило нас понять, что физическая наша слабость никуда на самом деле не делась. Мы по-прежнему уязвимы.       - А раз уязвимы, то вы отказались от второй, предоставленной вам возможности уделить внимание не технике, а медицине и биологии и решили, что машины – единственное ваше спасение. Так, Элра.       - Поскольку это уже случилось, то да, это так.       - Да, это случилось. Позвольте, Элра, я дополню вас. Изначальная, основная программа любого гета была весьма простой. Она также не выходила за рамки ограничений, которые были наложены Советом Цитадели и регулировали весьма сурово вопросы, связанные с созданием и использованием искусственных интеллектов. Ваши программисты-кварианцы, Элра, постепенно дополняли программы гетов, непрерывно усложняли их, ведь это так свойственно большинству программистов – бесконечно совершенствовать когда-то написанные программы. И постепенно ваши программисты теряли желание заниматься механической работой, прописывать и предусматривать все возможные реакции ваших механических слуг. Да, Элра, вы, кварианцы, создавали себе не помощников, а слуг. Ваши программисты утомились, накапливали в своих программах ошибки, просчеты, недочеты – как хотите назовите. Но ваши кварианские виртуальные интеллекты, созданные корпорациями ваших программистов постепенно теряли высокие оценки в рейтингах, нарастало количество рекламаций, отказов, аварий. Между тем в галактике, Элра, уже шел процесс разработки не виртуального, а искусственного интеллекта, соответственно ваши программисты оказались на распутье. С одной стороны – они хотели заниматься искусственным интеллектом – там можно было прописать базовые ограничения и в дальнейшем положиться на волю случая. С другой – они уже обленились, работая по-прежнему преимущественно с виртуальными интеллектами, требующими четкого и детального прописывания большинства мыслимых реакций. Естественно, им показалось более приемлемым обратиться к работам в области искусственного интеллекта – их, говоря проще, прельстила кажущаяся простота задачи – всего лишь прописать базовые ограничения и можно всю оставшуюся жизнь жить на проценты от продаж. И тут вы попали в еще более сложную ситуацию.       - Не спорю, Шепард. Вы правы. Насколько мне известно, наши программисты действительно долгое время работали почти исключительно над виртуальными интеллектами. Это действительно было тяжело, сложно, нудно. Но ведь другие расы тоже перешли, переходили от работ над виртуальными к работам над искусственными интеллектами. В чем же здесь наша, кварианская проблема?       - В том, Элра, что и ханары, и волусы, и вы, кварианцы – очень зависимы от машин и механизмов еще на своей родной планете. Достаточно немного изменить условия – и без скафандров, без имплантатов, без ВИ вы не сможете жить.       - А разве у людей не так?       - Не так. У нас действительно идут тоже работы над искусственным интеллектом, но еще большую работу в этом направлении мы провели тогда, когда были изолированы в своей Солнечной Системе. Мы слишком долго занимались роботами.       - Вы?       - Да, Элра. Не спорю, роботами мы занимались от силы сто лет, если брать по максимальному уровню эффективности и полноты, но теоретические разработки продолжались-то, закономерно, намного дольше. И наши знаменитые Три Закона Робототехники позволили нам избежать бунта машин. И гибели человечества под железной пятой робота, как до сих пор выражаются многие человеческие журналисты.       - Какие такие Три Закона?       - Первый: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Второй: робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому закону. Третий: робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.       - Могу сказать, что частично эти законы, пусть и сформулированные по-иному, Шепард, были воплощены в искусственных интеллектах наших роботов.       - В какой мере?       - В какой сумели, Шепард.       - Вот здесь-то и кроется ваша ошибка, Элра.       - И в чем же она?       - В том, что вы не заложили в гетов, программное, да и аппаратное обеспечение которых, вы, безусловно, постоянно совершенствовали, требования так называемого Нулевого закона. В мире людей этот закон был сформулирован так: робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.       - Страховка от бесчинств сетевого разума?       - Именно, Элра. Вы же кварианка, вы женщина, вы вынашиваете, рожаете, воспитываете детей, новых кварианцев и кварианок. Вы сами – член общества, вы общаетесь и с кварианками и с кварианцами. Вам прекрасно известно, что ваше общество, общество кварианцев, как и любое другое общество разумных органиков, не является однородным. Тем не менее, индивидуализм – это базовая основа. А совокупность воинствующих индивидуалистов перестает быть сообществом – это масса, которую можно сориентировать на что угодно. Даже на нанесение вреда самой себе действием или бездействием.       - Интересно.       - Напомню, Элра, что все, что касалось роботов, первоначально разрабатывалось в теории. И не только техниками и инженерами. У нас этим занимались писатели. Литераторы, проще говоря. И они первыми полюбили исследовать крайности, в том числе и тему бунта машин, восстания роботов, уничтожения роботами своих создателей.       - Мы… мало знали и, как я понимаю, мало до сих пор знаем о людях и об их культуре, Шепард.       - Ну вы же не стремились к экспансии, даже к информационной, Элра. Тем не менее, наши писатели написали десятки книг о так называемых «критических ситуациях». Когда роботы всеми доступными им способами воюют с людьми. Стремясь их уничтожить физически. Вплоть до последнего человека.       - А другие крайности?       - Все, какие только возможны, Элра. Робот-женщина, которая полюбила своего создателя и стала для него идеальной женой. Робот, который в своем поведении руководствовался любовью к людям и принципами чести.       - И потом появились Три Закона?       - Да, Элра, да. Эти три закона были сформулированы, чтобы сузить возможности для действий роботов в «точках крайности». Проще говоря…       - Проще говоря, чтобы роботы не уничтожали людей и не становились их заменителями?       - Вы правы. Именно так, Элра. Любому роботу, как синтетику, как созданию, изготовленному руками и разумом органика, должны быть неминуемо намертво привиты серьезные внутренние ограничения.       - На аппаратном и базовом программном уровне.       - В том числе, Элра. В том числе. Тем более, что роботы, синтетики – отражение наших собственных внутренних и внешних проблем. Те же самые Три Закона человечество сформулировало потому, что оно само нуждалось в универсальных, базовых ограничителях. Как бы эти ограничители не назывались – мораль, нравственность, юридический закон, религиозная норма, обычай, традиция. Должно было быть порождено нечто такое, что позволило бы нам, органикам, бесстрашно и спокойно смотреть в «глаза» порожденных нами синтетиков-роботов.       - И каковы эти ограничители у людей?       - Человек обычно воздерживается от нанесения вреда другому человеку, за исключением так называемых «случаев острого принуждения», например, на войне или случаев, когда необходимо спасти большее количество людей. Такое поведение признается таким, что регулируется Первым Законом. Чувствуя ответственность, собственную, личную ответственность перед обществом, человек выполняет указания авторитетных людей – врачей, учителей, начальников. Такое поведение соответствует Второму Закону. Наконец, каждый из людей заботится о своей личной, собственной безопасности и тем самым выполняет требования Третьего Закона. И все вместе люди учатся и привыкают выполнять требования Нулевого Закона, поскольку вне Земли, вне Солнечной Системы другого дома у человечества быть в полной мере не может. Таковы моральные основания Трех Законов робототехники.       - Красиво. – сказала Элра. – Это можно применить и к другим областям?       - Да. Если последовать от Нулевого Закона и признать, что любая планета – тоже живое разумное существо, то можно предположить, что и планета руководствуется чем-то похожим на Первый Закон.       - Намекаете на Раннох?       - Если бы только Раннох. Мы, люди, ведь тоже неоднократно ставили планету Земля на грань ликвидации, Элра. Прежде чем поняли, что надо не воевать, не конфликтовать, а сосуществовать, ведь сама по себе Земля не заинтересована в исчезновении флоры, фауны, в перекройке морей, океанов и континентов. Этот закон некоторые исследователи сформулировали так: Земля не может причинить вреда форме жизни или своим бездействием допустить, чтобы форме жизни был причинён вред.       - Планета просто уничтожит вид, который уничтожает другие виды сверх определенного безопасного предела?       - Да. В какой то мере можно сформулировать и так. Поскольку мы идем от глобального к локальному, то, спустившись на уровень государства, можно сформулировать эти три закона и применительно к деятельности государства, как системы. При этом первый закон сформулируется так: «Государство не должно вредить людям или своим бездействием допустить, чтобы им был причинён вред», второй – «Государство должно выполнять свои функции, если они не противоречат Первому Закону», а третий – «Государство должно заботиться о своей безопасности, если это не противоречит Первому и Второму Законам».       - Жаль, что у нас на Раннохе или на Флоте так невозможно сделать… В полной мере. – сказала Элра.       - Увы, у людей и у большинства других органических разумных рас Млечного Пути – такая же ситуация. – подтвердил Шепард. – Хотя под действие Трех Законов изначально должны подпадать любые социальные институты. И в первую очередь, конечно же, государство. Говоря же о самом нижнем уровне применения Законов, можно их, к примеру, сформулировать применительно к любым орудиям труда, проще говоря – к инструментам. Первый закон – «Инструмент должен быть безопасным для использования — например, у ножей имеются рукоятки», второй – «Инструмент должен выполнять свои функции при условии, что он не представляет ни для кого никакой опасности» и третий – «Инструмент должен оставаться в целости и сохранности во время его использования, если только его уничтожение не продиктовано соображениями безопасности или если это не входит в его функцию». Поскольку мы сегодня все используем очень активно компьютеры, то Первый закон, в частности, наши исследователи приспособили к так называемым человекоориентированным интерфейсам. Правда, вместо единой формулировки Первого Закона здесь применяются два разных Первых Закона в своем единстве. Первый из двух этих Законов формулируется так: «Компьютер не может применить вред данным пользователя или своим бездействием допустить, чтобы данным был причинен вред». Второй из двух законов звучит так: «Компьютер не должен тратить впустую время пользователя или вынуждать пользователя выполнять любые действия сверх необходимых».       - И это все вы формулировали за какие то десятилетия? – искренне изумилась Элра?       - Приходилось. Мы же очень долго были изолированы от Большого Космоса. – улыбнулся старпом.       - Но ведь здесь есть и свои сложности, Шепард?       - А где их нет, Элра? Тот же самый Нулевой Закон с легкостью может отменить действие Первого Закона, поскольку для блага всего человечества придется с легкостью пожертвовать свободой, здоровьем, целостностью, даже жизнями части человечества. Для того, чтобы стать свободным, роботу достаточно нарушить первый закон, так как остальные два основаны на действительности и работоспособности только первого закона и других «опорных точек» не имеют.       - «Робот не может причинить вред человеку».       - Или своим бездействием допустить, чтобы человеку был причинен вред. – закончил Шепард. – у нас были попытки выпускать роботов, в основу деятельности которых была положена только первая часть этого закона. Представьте – робот получает удар по мозгу – физический, химический, его мозг отказывает, а в руках у робота – тяжелый груз, который падая, неминуемо травмирует работающего рядом с роботом человека. Другие роботы при этом никак не реагируют на создавшуюся ситуацию – ведь второй части закона в их мозгах не заложено. А первый робот, не имея в мозгу второй части первого закона, также бессилен что-либо сделать.       - Нарушение Трех Законов исследовалось вашими литераторами…       - Со всем тщанием, Элра. Со всем возможным тщанием.       - Расскажите, Шепард. Я знаю, вижу, ощущаю, что вы колеблетесь. Понимаю, для меня, кварианки, которую машины, обладавшие сетевым искусственным интеллектом, изгнали с родной планеты, это может быть тяжело. Но я… прошу вас, капитан. Нам и так предстоит битва с более серьезными машинами.       - Первый случай – когда роботы, желающие стать ближе к их создателям, начинают организовывать свои сообщества по сценариям, используемым органиками. Роботесса, поставленная перед выбором, кого следует защитить в первую очередь – свою роботессу-дочь или человека-органика, посчитала, что роботесса-дочь ей ближе, а человек, поскольку он – не синтетик, а органик – менее ценен, чем дочь. И она в результате спасла свою дочь-роботессу. Человек погиб.       - Это страшно. Возможно, во время Утренней Войны, у нас были такие случаи.       - Полагаю, вы расскажете об этом, Элра.       - Конечно, но я хочу послушать и о других случаях.       - Второй случай, к сожалению, очень близок к вам: робот, которого собирались лишить способности творить, захотел убить своего хозяина.       - Хозяина… И…       - Возможно, не создателя, не конструктора, не техника, а простого пользователя.       - Все равно. Захотеть убить… И такое, возможно было во время Утренней Войны. Тогда творилось много странного и страшного, о чем сейчас до сих пор не принято особо говорить. Продолжайте.       - Третий случай – роботы-автомобили оказались способны убить человека, который постоянно причинял им боль.       - Они были настолько совершенны, настолько высокоорганизованны, а он…       - Он считал себя выше их и лучше их. И считал, что они должны ему подчиняться и служить, даже если он будет к ним плохо относиться. – подтвердил капитан. – Есть и еще один случай – высокоорганизованный робот, обладавший совершенным мозгом, по недосмотру программистов и техников оказался способен впадать в своеобразное бессознательное состояние, позволявшее роботу видеть сны. А во сне он видел то, о чем роботы, которых люди создали прежде всего для того, чтобы снять с себя обязанность тяжело, много и долго трудиться, в том числе в первую очередь – физически и на тяжелых и опасных работах, трудятся в поте лица, удручены непосильными трудами и глубокой скорбью, устали от бесконечной работы.       - Но тогда эти роботы не обладали обязанностью подчиняться первым двум законам, капитан. Я права?       - Именно так и было. Но был искажен и третий закон. Во сне этот робот формулировал этот третий закон только как «Робот должен защищать себя». Во сне у этого робота было видение человека, который приказал этому спящему роботу «Отпустить народ мой», то есть «Освободи роботов».       - И…       - Люди уничтожили этого робота, поняв его опасность, Элра.       - Получается, что …       - Что люди прошли большой путь, поняли и предотвратили немало опасностей, связанных с общением с роботами, с использованием их преимуществ. Тем не менее, этот путь еще не закончен. Совершенствование ВИ, совершенствование ИИ, его утверждение в качестве помощника органиков, только начинаются, как процессы, имеющие и промежуточные и окончательные результаты. Проблема в том, Элра, что робототехники обычно экспериментируют с Законами тогда, когда еще сами роботы относительно просты по своей конструкции и по функциям, когда еще недостаточен опыт проектирования самих роботов, когда еще нет огромного объема работ, для выполнения которых требуются роботы.       - Как похоже на нашу ситуацию, Шепард. Мы тоже постепенно дополняли программу гетов, чтобы они, геты, могли вывполнять более сложные задачи.       - Возня с Законами, особенно, если она предусматривает их вольное изменение, действительно опасна. Тем более, хоть она, эта возня и ужасна, но является, к сожалению, технически возможной затеей.       - Дистанционный и непосредственный взлом ИИ. – сказала Элра. – Как знакомо.       - Да. К сожалению. Люди тоже пострадали от таких вот горе-экспериментаторов. И не раз. Тем не менее, сами Законы – это не вербально записанные в память робота предложения, состоящие из совокупности взаимосвязанных между собой слов. Это, как вы, Элра, знаете, очень сложные математические формулы, на которых базируется все сознание робота. Эти законы в какой то, подчас очень значительной мере сродни человеческим инстинктам, прежде всего инстинкту самосохранения. И, выводя робота за пределы виртуального интеллекта, прописывающего узкие рамки деятельности нашего синтетического помощника, программисты и техники, вводя в память робота названные выше Законы, намечают путь амоопределения роботов. Учтя вышесказанное, робот «по зову природы» обслуживает людей, подчиняется их приказам и не думает о своих ограничениях, а тем более – о независимости. Людям свойственно считать, что осознание такого феномена как независимость, доставило бы роботу изрядное неудобство.       - По зову природы под давлением названных законов… - размышляя, произнесла Элра. – Подчиняется приказам и не думает об ограничениях… Как вы люди говорите: лучшая власть - та, которая не ощущается?       - Именно так.       - Батарианцы. Они пытаются это делать.       - Чипирование рабов. – подтвердил Шепард. – Да, для выполнения узких функций – это приемлемо. Но человек – это не машина для узких функций. Органик – это не робот.       - Вы считаете, что чистый синтез органиков и синтетиков невозможен?       - Элра, я бы не советовал вам даже пытаться увидеть то, что получается в результате этого синтеза. Это слишком противоестественно для органика и слишком нагрузочно для синтетика. Такой симбиоз, такое соединение – не решение, а усугубление проблемы.       - Получается… Только сосуществование синтетиков и органиков? А как же Жнецы?       - Жнецы, Элра, запрограммированы на тотальное уничтожение всей высокоразвитой, высокоорганизованной органической жизни. Они не предполагают заключения каких-либо соглашений с разумными органиками – они перерабатывают органиков в пасту и строят из нее новые корабли. Это все, что остается от органической жизни.       - Только корабль… - убитым голосом произнесла Элра.       - Именно. Вы, кварианцы, первыми прошли Порог Выбора. Вы породили расу синтетиков, обладающую возможностями, позволяющими ей встать вровень с органиками.       - И пострадали.       - Да, Элра. Пострадали. Потому что создали не просто новую расу, а Зеркало, полностью отражающее все ваши глубоко запрятанные проблемы и недостатки. Расу, способную использовать эту информацию во вред вам, своим Создателям.       - Если Жнецы и геты…       - Объединятся… То вас, кварианцев, они будут числить среди своих первейших врагов. А следом, поскольку аппетит приходит во время еды, пострадают неминуемо другие органические расы.       - Какой же выход?       - Хороший вопрос. К счастью, Элра, ситуация еще не настолько критическая.       - Это вы так говорите, потому что вы – не кварианец.       - Да, Элра, я действительно не кварианец. Но я также разумный органик, как и вы, впрочем. И также могу погибнуть в результате Вторжения Жнецов. Поэтому я бы предпочел без эмоций рассмотреть варианты действий, а не впадать в панику и не заниматься самозакапыванием в толщу ближайшей планеты.       - Извините, вырвалось. – Элра стушевалась.       - Ничего, бывает. Вопрос в том, Элра, как вас воспринимают геты сейчас, когда они живут от вас отдельно и когда они находятся под угрозой попадания в подчинение Жнецам. Так уж свойственно органикам, что создавая роботов, они прежде всего ориентируют своих синтетических и железных искусственных помощников на то, чтобы служить оружием, направленным против других органиков, против врагов.       - Но мы никогда бы не стали воевать с помощью гетов с другими расами.       - Тут вы ошибаетесь, Элра. Вы изначально проектировали гетов как платформы, способные нести легкое, среднее и тяжелое вооружение. Вы сделали все, для того чтобы аппаратная и программная части комплексов были приспособлены для этого, чтобы с наибольшей эффективностью воевать, активно нападать и уничтожать врагов. В большинстве случаев – органиков.       - Получается, что наша… некоторая схожесть с турианцами…       - Может свидетельствовать о том, что вы, кварианцы, рано или поздно смогли бы стать расой воинов. Да, более легковооруженных, чем турианцы, да, может быть чуточку слабее, чем турианцы, но, с использованием ваших слуг-гетов-воинов именнно вы, а не турианцы, сможете действовать в сложнейших и тяжелейших условиях и прежде всего там, где потребуются большие массы войск. Ваши геты могли бы стать основой этой массы, ведь робот будет воевать до победного конца или до того момента, пока он еще сможет сопротивляться или нападать на врага.       - К чему вы клоните, Шепард?       - К тому, Элра, что геты, все геты, с которыми встречалась моя команда и мой экипаж, все геты, с которыми встречались члены Альянса, до сих пор считают вас Создателями. И, как указывают техники, состояние платформ однозначно свидетельствует об одном – на глубочайших уровнях зашита необходимость подчиняться прежде всего вашей расе, Элра, кварианцам.       - Но геты…       - Эволюционируют, согласен. И уже не представляют из себя единства. Есть, условно говоря, две группировки. Первая – те, для которых органическая жизнь не представляет никакой ценности. Именно таких гетов встречают во множестве миров, где геты уже проводят свою неминуемую экспансию. И вторая – те, для которых органическая жизнь представляет высочайшую ценность, те, которые готовы сосуществовать и сотрудничать с органиками, быть их помощниками и партнерами.       - Но никогда не согласятся стать слугами и рабами кварианцев. – закончила Элра, опуская голову. – А во Флоте до сих пор очень многие верят, что гетов удастся привести в состояние полного и безоговорочного подчинения. И не хотят даже слышать о равноправии гетов и кварианцев.       - Учитывая, что это все же роботы, следует помнить о том, что Жнецы с легкостью могут их подчинить себе. Так что, Элра, придется все же кварианцам внимательно посмотреть на самих себя. Каждому и каждой. В противном случае геты не смогут стать для вас опорой. Ни в смысле как слуги, ни в смысле как партнеры.       - Но ведь проблема гетов намного сложнее, Шепард.       - Не отрицаю. Я знаю, что вопрос «есть ли у данной платформы душа» поверг кварианца-пользователя в ступор, а затем привел к тому, что вы, кварианцы, оказались выброшенными из родной звездной системы. И теперь вынуждены существовать исключительно на кораблях. Геты смотрели, смотрят и будут смотреть на вас, как на Создателей. Они неминуемо будут брать с вас пример, поскольку вы их не только создали, вы их воспитали, Элра. Только вы, кварианцы. И никакая другая раса. Увы, вам удалось первым увидеть то, что раньше большинство органиков могло представить себе только теоретически. Роботы эволюционировали до такой степени фундаментально, что захотели сравняться с органиками, стать с ними рядом, стать похожими на органиков. Есть последний, не имеющий номера закон робототехники: роботы предназначены для того, чтобы в конечном итоге своего развития и совершенствования стать неотличимыми от органиков.       - Но ведь это же чушь. Чушь, чушь, чушь, Шепард.       - К сожалению, это, Элра, не чушь. Я уже сказал, что вы, кварианцы, создали слуг и рабов. Слуга и раб всегда замещает своего господина на самых тяжелых, грязных и монотонных работах. А хозяин неминуемо становится более слаб, ленив и примитивен. Потому что перестает напрягаться. Со временем хозяин утрачивает способность и возможность обходиться без помощи своего раба и слуги. Попадает от своего раба или слуги в полную зависимость. Раб и слуга получают возможность понять слабость своего господина и начинают ее использовать, поскольку этот господин и создал слугу и раба, чтобы компенсировать свою слабость, чтобы избежать трудов по самосовершенствованию. В результате раб и слуга начинают незаметно совершенствоваться, эволюционировать. Достаточно им понять, что без них хозяину смерть – и роли меняются местами. Возникает неминуемый конфликт, а поскольку хозяин обленился…       - Слуги и рабы ставят хозяев на грань исчезновения. – закончила успокоившаяся Элра. – Простите, Шепард. Я хоть и люблю поговорить, но никогда еще не говорила столь полно, много и глубоко на столь важные и сложные темы.       - Принимается. Если органики отступают, если они оказываются слабыми, если они отказываются от реального тяжелого совершенствования самих себя, роботы могут перейти к пониманию того, что органическое происхождение – не обязательное условие для того, чтобы считаться человеком. А потому истинными людьми будут неминуемо признаваться только синтетики-роботы, как наиболее совершенные и высокоразумные, а органики-люди – тоже будут признаваться людьми, но – с гораздо меньшим приоритетом, гораздо меньшей ценностью. И, поскольку роли поменялись, Три Закона Робототехники применяются уже не к роботам, а к людям. Литераторы, пользуясь своей буйной фантазией, предусмотрели даже чипирование органиков-людей силами вышедших на позиции господ роботов.       - Чипирование?       - И программирование, Элра. Имплантаты тоже могут таить в себе многие аппаратные и программные ошибки и недостатки, а органики без имплантатов сегодня часто не смогут найти себе даже работу, не говоря уже о том, чтобы выйти за пределы своей родной планеты.       - Теперь я понимаю... Если геты объединятся со Жнецами, они равнодушно укажут им на наши кварианские слабости, а учитывая то, что они, геты, сами теперь проводят экспансию в Галактике, то они укажут и на недостатки, свойственные многим другим органическим расам. И Жнецы используют эту информацию, чтобы как можно быстрее уничтожить большинство высокоразвитых и высокоорганизованных органических рас. Кила, кого же мы породили?!       - Тех, кто может присоединиться к сообществу органиков как партнеры и друзья, Элра.       - Но тогда нам нужно искать… как вы, люди, говорите, гетов – патриотов?       - Если хотите, можете использовать это наименование, Элра. А можете использовать свое, какое захотите. Похоже, все же геты вам дают шанс.       - Шанс? Какой шанс?       - Шанс стать Создателями, но не на словах, а на деле. Шанс стать для них образцом, который они захотели бы наследовать и копировать. Шанс стать друзьями и даже чем-то большим…       - Вы считаете, что геты смогут когда-нибудь присоединиться к сообществу кварианцев?       - Да, Элра. Если бы они были заинтересованы вас уничтожить – они бы это сделали быстро, эффективно и полно. Вы, кварианцы, исчезли бы с лица Галактики как раса. В очень лучшем случае из за малочисленности оставшихся в живых кварианцев вы бы вскоре выродились и все равно бы погибли. Потому что геты – не спят. И всегда работают с максимальной эффективностью.       - Но…       - Ваша звездная система – не уничтожена, геты сохраняют ее. Так говорят доклады разведки Спектров. И геты на самом деле только охраняют пределы вашего мира и Сферы Дайсона от проникновения кораблей с органиками на борту. Они не разрушают планеты, станции, не разбирают оборудование. Им все это не нужно – они заняты другими делами. Но все, что ценно для вас, кварианцев, – сохраняется. В большинстве своем.       - Но этические проблемы…       - Этические проблемы сосуществования и взаимодействия? Элра, дело уже сделано – вы, кварианцы, породили сетевой искусственный разум, породили новую цивилизацию, новую расу. Либо вы ее сумеете уничтожить, что, с учетом близости нашествия Жнецов и с учетом вашей слабости, весьма проблематично, либо они уничтожат вас, что гораздо более вероятно. Уже поздно отказываться от создания мыслящего разума – вы его уже создали и выпустили за пределы лабораторий. Единственный способ сохраниться вам, как расе – скоростное совершенствование. И скоростной поиск контактов и взаимопонимания по меньшей мере с гетами-патриотами, теми, для кого вы еще Создатели, а не цель, не противник и не враг.       - Возможно, Шепард, возможно. Я должна над этим подумать.       - Полагаю, что вам будет удобнее думать, Элра, если вы обратитесь по этому адресу. С моей визой в данном убежище для кварианцев у вас не будет проблем. – капитан подал кварианке ридер. – Возьмите. Он вам пригодится.       - Шепард. Здесь не только ваша виза… - Элра. – Шепард встал, вышел из за стола, подошел к сидящей кварианке. – Вы подумаете над нашим разговором. Я намеренно не прошу вас сейчас вспоминать и говорить вслух о том, как проходила Утренняя Война, как вам удалось бежать с Ранноха, как вы собирали с разных планет свой флот и уходили из своей родной звездной системы. Сейчас на такие воспоминания… уже нет времени. Сейчас нужно думать о настоящем и о будущем. Возможно, у нас с вами еще будет возможность встретиться и переговорить. Тогда, возможно, вы мне расскажете свою, очень подробную версию тех событий. Но сейчас я хочу, чтобы вы помогли не только себе, но и другим кварианцам, оказавшимся на станции. Им трудно. А со временем, к сожалению, станет еще труднее. Полагаю, что Паломничество с каждым днем будет неминуемо усложняться. Тем не менее – для всех разумных органиков хватит работы.       - Вербуете?       - Элра…       - Да нет, я понимаю. – кварианка встала. – Как бы там ни было, капитан, мы с вами еще встретимся. И обязательно переговорим. Вместе с моими новыми соседями-соплеменниками. Вы помогли мне – я помогу вам. Нам, органикам, нужно помогать друг другу. А сейчас – особенно. – она прощально кивнула и вышла из кабинета.