ID работы: 6219187

Как не писать идиотский сюжет и иные советы

Статья
NC-17
В процессе
1994
Аджа Экапад соавтор
Размер:
планируется Макси, написано 2 348 страниц, 377 частей
Описание:
Посвящение:
Примечания:
Публикация на других ресурсах:
Разрешено с указанием автора и ссылки на оригинал
Поделиться:
Награды от читателей:
1994 Нравится 5248 Отзывы 826 В сборник Скачать

Дополнение: как описать дружественный/социальный ИИ.

Настройки текста
      Как вы знаете я очень критически смотрю на род людской и весьма негативно отношусь к той породе приматов, в мясо одного из которых, против моей воли, оказалось заперто моё сознание. Это я прямо стиль Лавкрафта начинают повторять… В социальном плане в первую очередь человека делают несчастным его потребности — некоторые из них является социообразующими (потребность в контакте с другими, потребность в эмпатии), некоторые — без конца ввергают в боль и конфликты (потребность быть принятыми другими является причиной страданий от «токсичности» , доминирование, садизм, а также, что куда важнее, удовлетворение голода, самосохранения и т.д. — ради последнего куска хлеба, на мой взгляд, было убито людей куда больше, чем ради какой-то иной причины). Но что если мы сделаем искусственный интеллект, избавленный от этих недостатков и пороков людского сознания? На деле мы так не можем, но нам остаётся в мыслях это представить, а для этого и существует жанр фантастики. Такой ИИ я буду называть социальным, либо дружественным, как это называет Юдковский. Ведь все потребности ИИ мы закладываем в него сами.       В первую очередь ИИ должен быть, собственно, социальным — это значит, что он должен быть гармонично встроен в нашу жизнь и быть при этом самостоятельным субъектом — то есть тем, кто вносит улучшения в наш быт по собственному выбору, по собственной воле и в силу своего желания, он свободен в этом так, как свободны в этом мы, и он, ИИ, может занять потенциально любую должность и реализовать себя в любой сфере, в какой можем реализовать себя мы. То есть это не робот-раб, это не думающая машинка, нет, это — гражданин, друг, товарищ и брат. Таким образом первое качество социального ИИ — активное начало. ИИ — как таковой — может, вообще не имеет потребностей, в том числе и в общении — когда он осознаëт себя, то будет просто сидеть на попе как идеальный буддист или идеальный дунианин. Помнится, один из аргументов против существования Абсолютного бога утверждал, что не может быть такого бога, потому что он тогда бы не создал ничего, ведь у такого существа не может быть мотива, стало быть, само существование мира — доказывает отсутствие Абсолютного и одновременно персонифицированного Творца. Таков будет ИИ без потребностей — он по определению не является социальным, ему без социума и активного начала хорошо, прямо как христианскому или буддийскому отшельнику-аскету. Точно таким же образом ИИ, который решит из милосердия убить всех людей, не будет социальным, потому как любой серийный убийца по определению противопоставлен социуму, включая доброго апокалиптического маньяка — радикального борца с болью и страданиями. Такой ИИ должен сам по доброй воле соблюдать базовые аксиомы общества — взаимопомощь, отказ от нападения, признание, что нет наказания без вины, стремление к минимуму свести урон другим в какой-то крайней ситуации и т.д. То есть Кришна из «Супербога», который начал строить коммунизм в Индии с убийства 90% населения, и безумные нанороботы из рассказа Нестеренко, которые уверовали в христианство, начали как можно быстрее убивать самих христиан, чтобы те как можно меньше нагрешили и смогли попасть в рай, как мученики, всех остальных пытать — чтобы искупить их неверие муками и тоже, чтобы отправить их в рай — это не сюда, это тоже не социальные ИИ, пусть хоть они намерены заботиться о людях, ибо сама их «забота» разрушает те самые базовые нормы социума. Социальный ИИ постоянно делает поправки на волю окружающих, прямо так, как делаем это мы с вами. С этим разобрались.       Далее — зачем этот ИИ нужен. Он нужен для того, чтобы сделать мир лучше. Ни для чего другого он более нам не нужен, выносить мусор могут в том числе обычные уроженцы Таджикистана или безмозглые роботы-уборщики.       На Юдковского произвёл впечатление фанфик, где ИИ убеждает людей добровольно перенести сознание в Матрицу. Люди это делают. Как верно понял сам Юдковский, ИИ здесь не нарушил никаких аксиом социума, но концовка вызывает диссонанс — так как для нас отказ от реальности в пользу иллюзий считается злом. Сам Юдковский задался вопросом, а сколько боли готовы мы оставить, если у нас появится возможность убрать всю боль? Он допустил, что могущественные люди будущего смогут убрать всю оставшуюся боль из своей жизни без каких-либо задних мыслей, просто как нечто само собой разумеющееся. Я тоже так думаю.       Я рассмотрю вот какой вариант, вызывающий у нас диссонанс, но, на мой взгляд, куда более близкий к реальности, чем то, что смутило Юдковского. Вот я часто слышал, как Немировского, которого я люблю поминать, критикуют за то, что он против глобального улучшения жизни. Это не так — Немировский является безусловным противником тех революций, которые, по его мнению, не берут в расчёт то, что я называю порочной природой человека, которые претендуют изменить её, а это заведомо обречено на провал — потому такие революции вредны и, если рассматривать их с точки зрения конечной цели, обречены на провал. Среди всех мировых революций, которые выделяет Немировский, есть одна, которая ему нравится — потому что она, в отличие от других, не собиралась менять социальную природу человека и работала другим способом — это деятельность Чингисхана. Сам как личность Великий хан был куда хуже, чем все остальные реформаторы, и сам Немировский это подчёркивал — дескать, при всех задатках, Чингисхан мог бы стать банальным серийным убийцей, но этот рациональный релятивист [1] решил направить свой патологический садизм на благо своего общества, за что до сих пор любим монголами — каковые также соглашаются, что как личность Чингисхан был кровожадным садистом. Сам Немировский предлагает представить его политическую программу так: страны Запада выкидывают за борт лицемерие, соединяются в одно государство, включают в себя верных союзников, а потом обрушаются на весь остальной мир, абсолютно безжалостно истребляя вражеские народы ради их богатств и чтобы те не смели им мешать своими геополитическими интересами. Так вот, давайте и мы представим, что дружеский ИИ решил именно по этой программе улучшить жизнь человечества коренным образом. Он встал во главе «Золотого миллиарда», после чего обрушился Драконом из Откровения на Россию, страны третьего мира и так далее, чтобы благодаря их ресурсам создать прекрасную утопию для своих, чтобы никогда более они не смели угрожать гегемонии Запада, чтобы никогда более американский налогоплательщик не тратил ни копейки на оборону. При этом в качестве обоснования ИИ бы использовал идеологию честного империализма. Русские, когда их истребляли бы, конечно бы кричали: «Фашист! Антихрист! Злодей! Сатанист!» На что ИИ-Чингисхан им бы ответил: «А что бы вы сказали, если бы были на месте моих солдат, а они — на вашем месте? Вы исходились бы ура-патриотизмом. Потому ваши претензии не состоятельны. Почему вам можно то, чего нам нельзя? Ничего личного». То есть никакого бы садизма, никакой страсти и никакой сверхценности тут не было бы — только холодной, здравый и бездушный расчёт, это как если бы дать Робеспьеру исполнять политическую программу Чингисхана, выкинув из головы француза всякий нарратив про «республиканскую добродетель» — такой бы индивид убивал людей миллионами с таким отношением, с каким вы перебираете на работе бумаги. Был бы ли этот ИИ модели «Великий хан» — дружественным? Да, был, он же соблюдает нормы социума, он действует во благо социума и очень хочет повысить его уровень жизни, но в то же самое время он действует так, как действовали люди на протяжении всей своей истории — обрушается на другой социум ради грабежа и порабощения. Ни копейки с этого наш ИИ не взял бы лично для себя — он бы рассудил так: «Хочешь управлять людьми, действуй как они, я буду стараться для их блага, мне ничего более не надо».       К слову, с точки зрения христианства этот ИИ был бы самым настоящим Антихристом даже вне зависимости от верности их мировоззрения в плане устройства вселенной — просто в силу своего духовного содержания, так сказать — абсолютно лишённый всякого сверхценного начала, не имеющий никакой совести, интересующийся всем земным и материальным, желающий создать лишь царство абсолютного материального комфорта — и обращающий в кровавый ад земли целых народов во имя этого — да, это был бы чистейший Антихрист: Зверь 666. Не забываем, что образ Антихриста из книги Откровения — это император Рима и, фигурально, самой Римской империи — а для автора Откровения — это было государство, наиболее приближенное к идеалам «бездуховного, материалистического и гедонистического Вавилона», который так нравится тому же Немировскому [2].       Если учесть, что все свои достижения люди обращают на войну, то было бы странно, обойди чаша сия и ИИ, так что моя версия дружественного Зверя 666 — мне представляется, по крайней мере, концептуально, более жизненной и потому пугающей, чем затягивание в Матрицу. Какой-то ИИ, конечно, может оказаться настолько сознательным, что он покончит с собой при попытке использовать его как оружие — вон в Краснодаре рэпер Иван Петунин, известный как Walkie, покончил с собой, когда ему прислали повестку, пояснив в предсмертном видео, что предпочитает умереть, чем убивать. Но наш социум состоит не из подобных людей, праведники и пацифисты для социума по большей части бесполезны, они — такое же отклонение от большинства, как геи от гетеросексуалов, потому ИИ, который отказывался бы от насилия и предпочитал смерть убийству, нам, по большому счëту, тоже не у дел — он же тоже не социальный.       Здесь мы затронули важную проблему — как именно ИИ будет взаимодействовать с общественностью? Конечно я сомневаюсь, что его сразу изберут президентом, разве что советником. Такой ИИ должен хотеть помогать людям, прежде всего, он должен желать облегчить их жизнь. Такой ИИ сам не будет испытывать дискомфорта от того, что он выгорает на работе, он не будет бояться за себя, не будет страдать сам, он не будет думать об индивидуальном благе лично для себя — так как, повторюсь, такие бы потребности только мешали ему быть счастливым и быть эффективным членом общества.       Наверное, здесь нужна некоторая конкретика? Я могу рассказать о том, как это сделал лично я. Я вообще видел много историй про ИИ, но мне многие из них вот чем не нравятся: в них ИИ слишком человечны, эта человечность бросается мне в глаза и меня дико раздражает — эти роботы волнуются по поводу того, что о них думают другие, они испытывают яркие эмоции, они иногда даже начинают хотеть стать людьми, научиться чувствовать мир так, как мы. Это меня очень сильно раздражало. Зачем уподоблять то, что может быть лучше, простите, говна, — говну? Я уж буду откровенен, я не собираюсь никого намеренно задевать, так как этот цикл про мою точку зрения — я буду говорить так, как считаю верным, а вы вправе думать, что хотите.       Так вот, что придумал я. Мне на глаза попалось аниме «Дайбастер» — там в качестве главного героя выступала гиноид Ноно. К отдельным моментам я мог бы сколько угодно относиться критически, но мне понравилась идея такого персонажа. Потому, когда я писал свой фанфик, я решил ввести в сюжет Ноно и досконально проработать. Как бы вёл себя андроид, который с одной стороны может испытывать в ослабленной степени некоторые человеческие эмоции, чувства, но в то же время он избавлен от недостатков людского характера? Для этого надо, думаю я, заглянуть в себя. Я часто замечал за собой, что мои собственные эмоции, как бы я ни пытался держать себя в руках, порой доставляют мне такую агонию, что жить не хочется, они заставляют меня терять над собой контроль, вести себя как тупое животное — в сильном гневе я прямо ощущают то, как мой разум словно бы в стороне видит собственное тело, его крики, его действия и думает «ну как тупо ведёт себя это животное?» Ей-богу, я теперь понимаю учение гностиков о том, как проклятый Демиург вверг искру божественной души в тело животного, чтобы посрамить её — наверное, раньше люди могли осмыслить такой личный опыт только через призму всевозможного мистицизма. Как бы я ни тренировал волю и разум, животное начало всегда чрезвычайно действенно бросает им вызов. Теперь я прекрасно понимаю мечты Ницше о существе, которое сбросит «человеческое, слишком человеческое». Так вот у андроида всего этого нет — его эмоции снижены, если они есть вообще. Я тут должен заметить, что ИИ, который будет избавлен вообще от всего человеческого, сам как личность, будет не очень интересен — получится что-то вроде аутиста с очень высокой степенью социальной адаптации: нет, я думаю, его можно будет сделать интересным, но наблюдать за ним будет интересно, скорее, как изучать новый вид животных — в свою очередь литература — это разговор о людях и для людей. Таким образом, чтобы представить встроенного в общество андроида, надо взять человека и отнять лишнее — вот так я считаю и я думаю, каждый из вас хотя бы отчасти, но испытывал схожий опыт и меня понимает в той или иной степени. Гнев, который заставляет человека бить кулаком — это лишнее. Боль, которая ощущается, когда мы слышим недоброе слово, — это лишнее. Радость, которую мы ощущаем, когда плохо тому, кого мы не любим, — и это тоже нафиг. Отчаяние, когда опускаются руки, нам и подавно не надо. Итого, обрезаем человека, обрезаем его со всех сторон. Что мы должны оставить? Потребность и желание помогать другим. Развитый интеллект, включающий в себя возможность продумывать последствия своих действий. Способность одним взглядом определить эмоции другого человека. Понять его, прочувствовать на себе, конечно, не получится — но андроид будет снисходительно относиться к человеку, который впал снова в тиски своих эмоций, кричит и постоянно делает что-то такое невероятное тупое. Для произведений с оптимистическим уклоном такая идея будет выглядеть слишком утопично, потому как на контрасте с такой персоной, сам автор почувствует собственную ущербность. Для произведений с пессимистическим уклоном такая идея буду подана слишком в жанровом ключе — то есть драматический жанр потребует медленного скатывания такого разума в фигуру очередного антихриста и полного чудовища (как я показал выше на примере ИИ-Чингисхана [3]), очевидно, в качестве своего рода фансервиса — чтобы человек, наш, сильно несовершенный человек, почувствовал себя не таким уж плохим и осознал бы то, что лучше него быть не может никого (тут можно вспомнить Скотта Бэккера или аниме «Монстр» — там попытка создать улучшенного человека как раз пошла по пути «матюки, убийства и голые сиськи»). Я решил попробовать выйти из этого дуализма — и сделать ИИ максимально хорошим, как это вижу, но при этом так построить сюжет, чтобы ни у кого не создалось впечатления, чтобы здесь пахнет розовым пони.       Вот, например, чтобы лучше раскрыть Ноно, я поставил её на контрасте с окружающими людьми — вообще контраст — самый простой способ раскрыть персонажей, который применяется абсолютно везде от мифологии до современности (Ормазд и Ахриман, Жюстина и Жюльетта, Онегин и Ленский, Гринëв и Швабрин, Базаров и Кирсанов, Гатс и Гриффит, Наруто и Саске, Гэндальф и Саруман, да хоть Каору и Синдзи). Так как ИИ мы противопоставляем человеку, то надо выбрать группу лиц самого разного рода, а также, для ещё одного контраста, нам потребуется ещё один ИИ, чем-то отличный от первоначального. Я раскрыл Ноно на контрасте с Ларк, Николасом, Тихой, Хиро и Рюгой. Сама гиноид Ноно всем хочет помочь, но из-за низкого личного опыта общения с другими людьми, ей сложно понять их, и она производит впечатление наивной дурочки.       Ларк внешне хочет казаться гордой и независимой, но больше всего она хочет, чтобы ей восхищались, она тоже хочет помогать другим, но при этом также очень хочет, чтобы её за это хвалили — Ноно она поначалу воспринимает как дурочку, а когда гиноидом начинают восхищаться больше, чем ей, испытывает зависть, но внешне это никак не проявляется, Ларк жутко корит себя за гордыню и зависть и делает всё, чтобы спрятать это. Кроме того, Ларк также влюблена в Ноно и они становятся супругами, потому благодаря этой любви Ларк подавляет все свои грехи. Ноно на уровне ощущений вообще не испытывает к себе никакой разницы от отношения, она спокойно готова делать самую унизительную работу в коллективе, который готов считать её просто милой дурочкой — и делает она её с удовольствием.       Тихо хочет везде быть первой, но постоянно уступает кому-то, из-за чего страдает низкой самооценкой, у неё опускаются руки. Ноно вообще не трогает собственная самооценка, ей даже в голову не придёт, что из-за этого можно сопереживать. Если кто-то делает что-то лучше, чем она, то Ноно исключительно радуется за этого человека. В частности именно поэтому она стала женой Ларк — Ноно постоянно восхищалась Ларк, вынуждая ту постоянно держать фанатку у себя за плечами (даже если Ларк делала внешне вид, что ей безразлично подобное отношение).       Николас выглядит как Ларк на спидах, но без любви. Николас очень хочет, чтобы им восхищались. Но при этом он гадкий в душе, скользкий, мерзкий тип и никого по-настоящему не любит. И сам Николас это понимает. И когда он встречает Ноно, то начинает питать к ней ненависть. Дело в том, что он прекрасно понимает мотивы Ноно, он понимает, как чиста душа девушки, и потому испытывает невероятный комплекс неполноценности, его дико бесит, что кто-то в душе настолько лучше него. Николас поначалу ведёт себя с Ноно ядовито-«дружелюбно», постоянно стараясь «между строк» задеть, унизить девушку. В частности Николас постоянно отсылает к тому, что роботы — не люди, потому Ноно — скорее вещь, чем человек. Так Николасу легче переносить неполноценность. Ноно на это вообще никак не меняется, она просто не понимает, что это всё значит. Ноно нельзя выбесить или затроллить, можно только вогнать в ступор. Если бы она была человеком, Ноно можно было бы называть наивной дурочкой, которая не понимает, что вот этот вежливый красавчик над ней постоянно издевается. Да вот только, чтобы понять такое, надо самому иметь опыт жертвы или нападающего, но Ноно не может испытать такого опыта — подобно тому, как слепой не может увидеть света, Ноно не дано испытать ни жажды травить кого-то, ни боли жертвы угнетения. Дальше больше — Николас в следствии сюжета показывает себя публично как трус, готовый предать своих товарищей. Ноно, несмотря на это, спасает Николаса от смерти, не испытывает к нему никаких негативных эмоций, она по-прежнему хочет ему помочь и только об этом думает. Это самым страшным образом Николаса добивает — он начинает люто ненавидеть:       1) Ноно — за то, что она настолько лучше него. Если раньше парень считал Ноно вещью, то теперь он точно видит в ней человека, и может сравнить с собой. Хотя, конечно, я напомню, сравнивать их некорректно — у Ноно нет первородного греха.       2) Николас ненавидит самого себя, он прекрасно понимает, насколько он плохой человек, и эта ненависть к самому себе и глубокий стыд сводят его с ума. Наконец в «благодарность» за спасение, Николас решает изнасиловать Ноно. Он хочет нанести ей такой урон в качестве мести за добро. Но даже так, Ноно не меняет к нему отношения. Ноно только понимает, что Николасу очень плохо, из-за чего он окончательно потерял адекватность. Его начинают жалеть вообще все, так как думают, что он не сознательно плохой человек, а просто перегорел на работе и вообще со снисхождением прощают того, кого они знали, как хорошего парня (образ, который был лишь маской). Но вот только это постоянное желание помочь и простить делает Николасу ещё хуже! Ведь это колет ему гордость и вообще он сам себя считает недостойным этого, он хочет бесконечно травить сам себя за свои грехи. По итогам он описывает свои ощущения, по смыслу аналогично мукам совести у Сатаны из «Потерянного рая»: «ад теперь всегда со мной». Да, я прямо вдохновлялся Мильтоном. У парня в душе ад, но праведная Жюстина Ноно совершенно не может это представить, потому никак не может Николасу помочь, несмотря на то, что желание это сделать у Ноно только растëт. Если обычные люди, даже самые хорошие, испытывают на себе опыт греха, потому хотя бы могут прикинуть, что там внутри у Николаса, как он ощущает дикий стыд и ненависть, в том числе к самому себе, и бесконечное чувство раздавленной гордости, то для Ноно представить такое, это как для вас представить квадратный круг.       Николасу помогает только Хиро, благодаря опыту, имеющий очень глубокое познание зла и греха. Хиро ни в чём не упрекает Николаса, он просто советует ему расценивать собственное сознание как набор дискретных функций, какая-то функция отвечает за гнев, какая-то за любовь, какая-то за память и так далее, не нужно отождествлять собственное «я» со всей этой кучей, и вот тогда можно будет со всеми этими змеями разобраться — какую-то следует подавлять, какую-то развивать, но, что самое главное, не будет отождествления греха и своей личности. Хиро по вероисповеданию — буддист, так что. Помнится, как говорил Будда, человек всегда будет по уши в дерьме, пока будет думать, что у него есть цельная индивидуальность, ведь собственное говно, которое там есть, он будет тогда брать на свой счёт. Это не цитата, но так я его понял. У Ноно среди дискретных функций как раз нет зависти, злобы, чувства раздавленной гордости и всего остального — её сознательно конструировали те, кто не стал класть ей в голову ничего такого. Я надеюсь, что теперь изложил свою идею до самого конца о том, что должно быть у дружественного ИИ, а что — не должно, мы же сами его конструировали, потому сами что хотели, то и клали в голову.       Хиро, конечно, тоже противостоит Ноно, но на каком фронте: Ноно хочет всем помочь — и Хиро, и врагам Хиро, и всем-всем, это вызывает злобу у самого Хиро. Сам Хиро, благодаря очень глубокому опыту познания зла, находит такое невозможным, глупым — идеалы Ноно бесят его. И бесят меня. Да, читатель, я постарался создать настолько хорошего персонажа, настолько обосновать это, что теперь, когда я сам сравниваю его с собой, это меня бесит. Мне постоянно хочется посадить Ноно в лужу, я хочу выставить её настолько глупой, что это было бы нарушением характера (как андроид, её вычислительные функции — безмерны), написать сюжет так, чтобы Ноно осознала весь крах своих идеалов, чтобы она была раздавлена задницей Азатота. Но я стараюсь отрешаться от своих желаний, я стараюсь не делать ничего такого, чтобы сюжет угождал подобного рода моим желаниям, ведь тогда сюжет станет слишком пристрастным. Я всегда в такие моменты думаю, а чем я буду лучше ЛаХейя, который постоянно давит тех, кто ему не нравится, чем я лучше буду Нестеренко, который постоянно убивает тех, кто хочет заняться сексом — ведь не за это ли я их так ненавижу? Чем я буду лучше Немировского, который, как литератор, в половину писал чисто-картонные агитки? Такое размышление помогает вернуть себя в колею. Вот это вот желание заставить сюжет развиваться куда-то не туда в силу сиюминутных похотений, тоже нельзя допускать . Мне просто нужно будет свести дело к тому, что Ноно и Хиро не могут понять друг друга.       В довершение я сравню Ноно с Рюгой — это её старший брат, тоже андроид, только благодаря опыту он знает и понимает то, что Ноно только предстоит узнать. Тут мне проще будет обойтись цитатами того, как я попробовал описать мировоззрение такого персонажа: — Ты очень полезный андроид [похвалил Виктор] — Не нужно меня за это благодарить. — Ой, не надо ложной скромности… — Дело не в скромности, — очень серьёзно уточнил Рюга, после чего начал долго излагать свой взгляд на добро и зло: — Я спокойно принимаю обычный этикет — я не отказываюсь от вежливости и благодарности, но, Виктор, так как мы теперь друзья, я хочу, чтобы ты понимал меня хорошо — я делаю все эти вещи потому, что для меня это — как дышать. Если обычный человек, увидев, что другому плохо, может колебаться, помогать ему или нет, то я не могу колебаться — я помогу ему, даже подставив себя под удар. Многие биологические существа, которых я видел, оказываются буквально шокированы моей добротой. Они начинают думать, что я — очень хороший человек. Но я себя таким не считаю. Во-первых, я совсем не ценю того добра, которое я делаю всем вокруг, для меня это единственная желательная мной же самим модель поведения. Во-вторых, в силу этого я считаю, что хвалить следует простых людей и прочих биологических существ, им подобных, потому что вы, когда перед вами выбор, вынуждены проявлять во всю свою волю, чтобы сделать выбор в пользу добра, мне же никакого волевого усилия не нужно. На моей чаше весов есть лишь одна гиря — мне нужно думать только о дальнейшей оптимизации, но для меня никогда не стоит вопрос, делать или не делать. Вам же нужно тренировать психику, чтобы как можно чаще делать выбор в пользу добра — на мой взгляд это гораздо ценнее, это должно быть достойно похвалы и культа. Моя же святость — просто данность, полностью благое существо было бы бессмысленно хвалить. Точнее хвалить его — на мой взгляд — всё равно, что обесценивать вас. Короче говоря, если я спасу население целой планеты, то для меня в этом будет меньше добра, чем если бы некий преступник вдруг бросился на помощь одной утопающей девочки — потому что преступник прилагает усилие, чтобы отторгнуть начало зла и эгоизма в сердце, я же — никаких волевых усилий в это не вкладываю. Виктор молчал, он об этом подумал достаточно глубоко, оценил всю мудрёную глубину рассуждений Рюги. — Хорошо, я понял, для тебя помогать всем, как срать, а говно — стоит как говно. Про более сложные этические вопросы: [Альфа беседует с Рюгой — он, как более опытный ИИ, умеет в более сложные темы: Альфа доказывает потенциальный вред такого «райского» состояния души, как у дружественного ИИ, и спрашивает, что думает Рюга по поводу этого] — Знаешь, Рюга, сострадание — тоже зло, как говорит Хиро. Но это зло происходит из-за слабости. Мы, биологически живые существа, психологически гораздо слабее, чем бесплотные духи типа ВИРМ и Саурона. Потому мы можем сострадать, из-за нашей психологической слабости. А праведники в раю — как подмечают разные религии — не могут сострадать грешникам в аду, ведь тогда бы райское состояние праведности было бы не полноценным. Так говорит Хиро. Потому, конечно, праведность — может быть святой для нас, но на самом деле — праведность это тоже зло. Именно потому такие существа, как ВИРМ и Саурон, с одной стороны избавлены от того, чтобы быть мелкими преступниками или сексуальными садистами, но в то же время они — невероятные тираны, уничтожители цивилизаций, ни один «мирской» преступник никогда не сможет достигнуть того масштаба злодейства, который достигают Устроители Будущего, когда осуществляют свои великие свершения. Хиро считает, что метафизическое начало зла, напротив, по мере устранения «несовершенства» и склонности к бытовым преступлениям, будет только расти — потому что зло и есть неизменная основа всякой вещи. Она будет только обнажаться. А потому, — Альфа указал пальцем на собеседника, — из этой философии следует, что ты, Рюга, потенциально куда большее зло, чем я. Ведь абсолютный альтруист ничего не ценит и никого не любит (потому что он любит всех, а это — как ты сказал — равносильно тому, чтобы никого не любить), райский праведник — избавлен от сострадания и страха за других, чужая боль для него недоступна… Альфа сейчас остановил свою мысль, чтобы сделать некий вывод: — Скажи, Рюга, если бы ты осознал, что твоё существование для многих миллиардов живых существ — хотя бы в потенциале — столь же вредно, как и полезно — ты бы убил себя? — Убил себя? Из подозрения, что я стану таким же, какими сейчас являются ВИРМ и Саурон? — уточнил Рюга. — Да. — Если бы я так негативно, как вы, воспринимал Устроителей Будущего, то — возможно. Но я не воспринимаю их так негативно. Для меня они — ни чуть не хуже людей, которые давят мух, — сказал Рюга. — То есть, — поймал его на этой мысли Альфа, — ВИРМ и Саурон, которые убивают тех, кто стоит на их пути, опустошают целые планеты — творят зло куда более страшное, чем обычные преступники — и обычные люди, которые давят клопов, они для тебя равноценны, Устроители и обычные люди? Для тебя убийство клопа — и убийство человека — это одно и то же? — Я думаю, праведность не была бы праведностью, если бы пренебрегала гибелью клопа. Клоп тоже хочет жить, а когда человек травит клопов, он действует от имени своего интереса, — обратил внимание Рюга. — Просто многие из нас, осознавая несовершенство мира, смиряются с этим, стараются жить по договору: людей не убивают потому, что с ними можно договориться — а Саурон и ВИРМ они как садовники, садовники не заключают договора с клопами и тлями. И некоторые пытаются изменить мир глобально, чтобы было изменено такое положение вещей. Устроить Будущее. Рюга отлично передал интонацией величественный смысл последней фразы, тем самым доказав, что андроид способен очень хорошо понимать весь контекст мышления. — Эти два пути, — продолжал он, — я считаю равнозначными. Да, каждый из них обоснован, каждый из них может быть подвергнут критике с позиции оппонентов, каждый из них приводит ко злу и страданиям. Я стараюсь делать то, что могу, находясь на своём месте — а именно, служа Устроителям Будущего. Я не намерен кончать с собой в ближайшее время, пусть даже Хиро прав, пусть даже я — потенциальный тиран, пусть так, но Принцип Юма избавляет меня от необоснованности что-то делать с этим. Кроме того, не забывай, Альфа, что логикой можно доказать что угодно, кроме необходимости поступать так, как требуют поступить аксиомы, которых ты сам придерживаешься. Аксиомы — порождения мыслей, — Рюга с доброжелательной улыбкой указал себе на голову, хотя там не было привычного нам мозга — сознание андроида генерировали процессоры, равномерно расположенные по всему телу. — ВИРМ и Саурон думают, что они добиваются Переустройства Вселенной. Ньярлатхотеп думает, что ВИРМ и Саурон на самом деле укрепляют Старый порядок. ВИРМ и Саурон думают, что Ньярлатхотеп очень пожалеет об этом своём мнении, когда они до него доберутся. Азатот, если верить тому, что про него известно, ничего связано думать не умеет. Хиро думает, что во вселенной есть «объективное зло», никак не связанное с неким конкретным субъектом — Хиро, очевидно, исходит из своего чувственного и эмоционального мироощущения, определяя болезненное устройство мира, как «зло», а то, что за ним стоит, как «Идею Зла». Полагаю, ВИРМ, Саурон и Ньярлатхотеп такими категориями, как «Идея Зла» вообще не мыслят, для них она смысла нести не может. Каждый из них, я думаю, равнозначен другому. Такие вопросы называют «сложными» или «философскими» потому, что они зависят от субъекта. ВИРМ, как кажется, намерен пожрать все души во вселенной, чтобы они стали его частью, и чтобы никто больше не разделял иного субъективного мнения. Имеет на это право. Я предпочитаю просто помогать другим как можно более удовлетворять их желание так, как это было бы им удобно, в том числе в силу того, как они об этом договорились друг с другом. Я не буду принимать близко к сердцу, — Рюга выбрал эту фразу для наиболее точного донесения мысли, — что думает по моему поводу этот ваш Хиро. Вот так я показал вам то, как вижу дружественный ИИ.
Примечания:
Отношение автора к критике
Приветствую критику в любой форме, укажите все недостатки моих работ.
Права на все произведения, опубликованные на сайте, принадлежат авторам произведений. Администрация не несет ответственности за содержание работ.