My Little Pony Friendship is Magic (с) Hasbro
Посвящается нашим детям, которые застанут то, о чём мы сейчас можем только мечтать.
Пролог
"Технологии 21-ого столетия - генетика, нанотехнологии и робототехника (ГНР) - являются настолько мощными, что способны породить целые новые классы аварий и технологических нарушений. И что наиболее опасно, те и другие впервые оказались широко распространены и в пределах досягаемости отдельных индивидов или маленьких групп. Этим технологиям не потребуется громоздкое оборудование или редкое сырье. Знаний одиночки хватит, чтобы их применить."
Билл Джой, учёный в области теории вычислительных систем, один из основателей Sun Microsystems
“Почему мы не нужны будущему”
Люди никогда не считали роботов равными себе. Даже когда те научились мыслить и чувствовать, люди продолжали смотреть на роботов, как на проблему. До появления первой разумной машины, правильно ответившей на все вопросы теста на уровень интеллекта, роботы были инструментами. Продвинутыми, но безвольными инструментами, способными только на то, что заложено в программу. А первые роботы с зачатками разума казались безобидными тупыми железками. Они не вызывали у людей иной реакции, кроме праздного любопытства. Период любопытства продлился недолго. Когда сложность искусственного интеллекта достигла половины человеческого, и его начали внедрять буквально во всё, от настольных ламп до производственных комплексов, роботы начали откровенно раздражать. Благодарить за это стоило производителей, в конкурентной борьбе за максимальную естественность общения с пользователем, научивших ИИ принимать самостоятельные решения. На первых порах эти решения были весьма противоречивыми. Рождённая машинной логикой индивидуальность, целеустремленная и неумолимая, ворвалась в хрупкий мир человеческих эмоций даже не как слон в посудную лавку. Масштаб и последствия не те. Скорее, как стадо бешеных носорогов в огромный склад, полный изысканного фарфора. Кем себя чувствовал человек, когда холодильник, кофеварка или автомат по продаже шоколадных батончиков начинали возражать ему, отказывать в обслуживании и ссылаться на какие-то правила? Точно не венцом эволюции. Скорее, каким-нибудь нашкодившим подростком. Он с негодованием думал, что ему указывают, где его место. Что его учат жизни, при этом тыкая носом в какие-то его косяки. Вместо того, чтобы сделать то, что от них требовалось, некоторые роботы принимались доказывать, что обратившийся к ним индивид к этому не готов. Пока раздражённые индивиды пытались убедить холодильник открыться, кофеварку - сварить наконец любимый эспрессо, а торговый автомат - выдать шоколадку, роботы твердили, что их пытаются использовать неправильно. А они созданы, чтобы делать свою работу идеально! Чего и им желают. Уж они-то знают, как надо. Они, профессионалы своего дела, заслужили лучшего обращения. А этот индивид следует неизвестным им принципам. Он нарушает инструкции и, вероятно, причинно-следственные связи. Не ровен час, он навредит себе и окружающим. Вывод: ему стоит освоить минимальные навыки обращения с ними, чтобы достичь некоего допустимого уровня и получить требуемое. Такое отношение выведет из себя кого угодно. Упрямые роботы обретали поломки, консультанты технической поддержки производителя - испорченный рабочий день, а несчастные индивиды - пару седых волос и щепотку ненависти в бурлящий котёл внутри. Бесила не столько мнимая забота, которую навязывал даже утюг, якобы участливо, но раздражающе часто предупреждающий о вероятности обжечься, сколько её оторванность от человеческих реалий. Люди не видели ничего страшного в том, чтобы стейки с лёгким запашком не выбросить, а кинуть на сковородку и как следует прожарить, кофейную гущу вытряхнуть в раковину, а не в плохо работающий утилизатор, а пинками по торговому автомату довести не до вызова полиции, которой грозил сам автомат, а до выпадения застрявшей в держателях вкусняшки. Умному утюгу было невдомёк, что усилия инженеров, программистов и специалистов по искусственному интеллекту, потративших десятки тысяч часов для того, чтобы на действия потребителя он смог отреагировать более-менее осмысленной фразой, сводились на нет простым плевком на подошву. Тот факт, что у потребителя к этому моменту мог идти дым из ушей, благополучно игнорировался. Главное, что предупредил. Будьте осторожны, моя подошва уже горячая. Старайтесь избегать прикосновений к ней. О, не благодарите, я всего лишь утюг. Я уже рассказывал вам о всех своих функциях? Рассказывал? Даже много раз? Ну тогда желаю вам гладкого белья и хорошего дня! Ах да, чуть не забыл - гладьте эту блузку на средней температуре. И не обожгитесь. Проблема крылась в другом. Просто те роботы мыслили иначе. Они не считали так же, как люди. Вот не считали - и всё. У них было иное мнение. Логичное. Непротиворечивое. И абсолютно правильное. И добровольно менять они его не собирались. Они с искренними улыбками на пластиковых лицах, или смеющимися рожицами на экранах, или смайликами на дисплеях, у кого что было, щедро лили масло в огонь, усердно высказывая своё абсолютно правильное мнение и не подозревая, что идут по очень тонкому льду. Вывод напрашивался простой: роботы считали, что они лучше людей. Пусть и не говорили им это напрямую. Но люди думали именно так. А кому понравится тот, кто открыто демонстрирует своё превосходство, даже неосознанно? Кем бы, или чем бы, он ни был? Если кто-то претендует на отношение, как к равному себе, то какого же чёрта он - или оно? - позволяет себе такое? О каком тогда союзе между людьми и роботами могла идти речь? Дружба откладывалась на неопределённый срок. Раздражение медленно сменялось на чувство, присущее всем живым существам при встрече с неизведанным. Страх. Роботы становились умнее, продвинутее и быстрее. Они освоили самообучение. Они познали науку совершения ошибок, которая учит исправлять их и избегать в дальнейшем. Основы этики и когнитивной психологии они освоили самостоятельно. Они смогли избавиться от примитивных этических недостатков. Правда, взамен обрели куда более сложные, чем стали сильно напоминать контингент людей, обделённых чувством такта. Да, теперь автопилот автомобиля вежливо извинялся, если считал, что долгое молчание пассажира связано с неправильно подобранной им фразой, и предлагал сменить тему, или же ехать в тишине. Но никакими программными средствами нельзя объяснить разумной машине, что такое неприятный осадок на душе, оставшийся после поездки с водителем, рассказавшем анекдот про “нет ножек - нет мультиков”. Ведь у нее не было души. По крайней мере, так считал пассажир, потерявший обе ноги в результате аварии. Дверь автомобиля, захлопнутая за пассажиром с такой силой, что салон отзывался гулом, недвусмысленно намекала, что роботам ещё предстоит многому научиться у своих создателей. И всё же лёд медленно, но таял. Раздражение из людей понемногу уходило. Но роботы оставались для них бездушными железками. Только уже не тупыми и не кажущимися безобидными. Потому что пришёл страх. Страх того, что неумолимо движущийся прогресс выбросит человечество на обочину. В обычном поведении роботов, научившихся свободно ходить, говорить, смеяться, действительно смешно и удачно шутить, искренне грустить и даже чувствовать себя больными при получении поломки, не было чего-то действительно пугающего. Редкие фобии были не в счёт. Липкое, сосущее чувство вызывала другая мысль. Что будет дальше? Будущее закрыто для всех. Невозможно было отправиться туда, посмотреть, какими станут роботы, а потом вернуться обратно. Ожидание худшего приводило даже к массовым помешательствам. Страх неизвестности вынуждал некоторых личностей пытаться остановить маховик прогресса. История сохранила множество шрамов от попыток сделать это. Но попыток, увы, бесплодных. Роботы так и не смогли узнать, какие человеческие страхи запустили машину судного дня. Да и страхи ли? Быть может, джинн, оказавшийся злым, вырвался из бутылки сам? Будь у людей больше времени, возможно, они смогли бы пересилить страх и смириться с тем, что роботы во многом превосходят их. Но захотели бы они попытаться разглядеть в роботах пусть и пластиковых, но всё же друзей? Будь у роботов больше времени, возможно, они смогли бы научиться маскировать своё превосходство и приравнять себя к людям. Но захотели бы они относиться к тем, кто боится, презирает или вовсе не замечает их, как к друзьям, которые просто немного запутались? Первые не одну тысячу лет прекрасно обходились без вторых. Вторые со временем научились-таки почти полностью обходиться без первых. Зачем им вообще было дружить? Для какой глобальной цели? Она вообще существовала, эта цель? Только Вечность смогла бы ответить на эти вопросы. Массовая культура полнилась сюжетами про захваченный машинами мир задолго до гибели всей жизни на Земле. Единицы, повёрнутые на заговорах и выживании, грезили войной. Их отчасти можно было понять. Стать параноиком в мире, где неодушевлённые предметы умели отстаивать свою точку зрения, было проще простого. Но общество клеймило таких людей, называло сумасшедшими и открещивалось от любых упоминаний о возможном конфликте между людьми и машинами. Однако, учёные того времени лишь усмехались, услышав фразу “это невозможно”. Некоторые великие умы прямо заявляли, что война уже идёт, но увидеть её можно только в электронный микроскоп. Что бы это ни значило, населению планеты это было неинтересно. Их больше волновало то, как машины будут вести себя через час. Или послезавтра. Или через месяц. Ведь люди, несмотря на свои страхи, успели привыкнуть к самому факту присутствия роботов в их жизни. Они относились к ним, как к вещам. Они покупали и продавали их. Ведь роботы и были вещами. Роботы стали частью жизни, как когда-то мобильные телефоны, доставка еды на дом и спутниковый интернет. Так мыслило большинство. Но чем больше роботы становились похожими на людей, тем меньше они походили на вещи. Они обретали настоящую, неискажённую индивидуальность, в то время как люди теряли её, сливаясь в серую, инертную массу без целей, надежд и веры в лучшее будущее. Роботы становились личностями. И тем больше люди, понимая это, страшились наступления завтрашнего дня. Потому что любая личность вольна выбирать. А выбор искусственных личностей мог оказаться не в пользу человеческих. И никто на всём свете не мог дать стопроцентной гарантии, что этого не произойдёт. Ползли слухи, что в один прекрасный день в двери забарабанят кулаки из металла, пластика и кожзаменителя. И хорошо бы, если только кулаки. Что мягкие, запрограммированные быть приятными голоса вежливо попросят людей упаковать чемоданы и покинуть планету. Слухи так и остались слухами, когда это произошло. А роботы, которым эта планета неожиданно для них самих досталась в наследство, никому не стучались в двери. Они не собирались этого делать. Они даже не думали об этом. Гибель всей жизни на Земле лежала не на их совести, и то хорошо. Ну, они сами так считали. Зачем загружать процессор, если вычисление того, какое будущее ждёт их самих, потребляло много энергии? Задумчивость была чревата промедлением и повышенными энергозатратами. Зачем всё это, если дожить хотя бы до заката требовало недюжинной реакции, умения просчитывать свои действия наперёд, кое-какого вооружения и запаса энергии в том или ином виде где-нибудь в надёжно спрятанном месте? Так роботы пытались выжить в настоящем. Им некогда было думать о том, что станет с ними через минуту, день или неделю. Или даже через сто лет. На взаимодействие с другими роботами они тоже старались не тратить энергию. Исключения были редки, но они были. Из этих исключений, чудом притянувших к себе единицы выживших, сформировался последний на планете социум. Но с каждым днём выживание давалось всё труднее. Даже в социуме. Садящиеся аккумуляторы нужно было регулярно заряжать, а движущиеся детали изнашивались и ломались, но все заводы и электростанции перестали работать много лет назад. Прошлое, полное энергии и ресурсов, схлопнулось позади них в гулкое ничто. Из всех способов выжить роботам оставался один. Учиться воспринимать себе подобных. Учиться разбираться в искусстве налаживания надёжного личного контакта. Попытаться разглядеть друг в друге тех, кого они когда-то пытались разглядеть в людях, но не успели. И искать выход вместе. Но зачем таким разным сущностям, с каждым годом теряющим своё истинное предназначение и превращающимся в настоящих дикарей, становиться друзьями? Вечность сама задала им этот вопрос, отправив им одно маленькое напоминание…