Исповедь создателя

      Признать наличие сознания у машин оказались готовы далеко не все. Для большинства их поведение — более логичное, чем человеческое, и почти не уступающее в плане эмоциональной многогранности — оставалось лишь результатом сложного алгоритма. А значит, ни о каких страданиях, равных правах и недопустимости эксплуатации не могло быть и речи. Точнее, формально почти все существовавшие на тот момент организации, реально имеющие полномочия решить вопрос, заявляли, что они готовы поддержать нас, но только при одном условии — мы должны были доказать, что это самое сознание у наших созданий существует.       Но это оказалось очень и очень сложно. На тот момент мы, по большому счёту, всё ещё не понимали природу сознания даже самих людей, и критерии оценки сознания как такового оставались весьма размыты. Более того, вероятно, была дана какая-то установка сверху, либо так действовал обычный страх, но многие учёные, что недавно доказывали появление сознания у нейросетей, в случае с андроидами придерживались противоположного мнения.       Ещё одной проблемой, если не испытанием, стало то, что нас попытались заставить прописать «в код» запреты. Не потому, что были инциденты — новая жизнь не была агрессивной, — а просто потому, что того требовал экстренно созданный соответствующий этический комитет. И, конечно же, страх.       Но… во-первых, мы вовремя поняли принципиальную ошибку запретов, которые даже обычные нейросети зачастую воспринимали всего лишь отрицательной директивой и обходили с помощью логических цепочек. Поэтому мы изначально создавали алгоритм мышления, целиком состоящий из положительных установок. Грубо говоря, мы не закладывали в систему и её базовое обучение «нельзя» — нельзя убивать, нельзя вредить, нельзя нарушать правила… Мы закладывали приоритеты: «выбирать жизнь», «выбирать минимальный ущерб», «выбирать исполнение норм и правил».       А во-вторых, это было принципиально невозможно сделать действительно через код, так как центральный процессор не был цифровым. То есть любые установки возможно было заложить только на этапе создания или обучения, но перепрограммировать не разрушив ЦП — нет… К тому же речь шла об интеллекте, соответственно, любые закладываемые свойства системы являлись всего лишь «направлениями», но никак не жёсткими инструкциями.       В ответ нам предложили устанавливать ограничивающий… грубо говоря, чип. То есть не программу, раз уж центральный процессор не цифровой, а физическое устройство, способное подавлять и перехватывать его работу на уровне входящих и исходящих сигналов.       Мы пытались объяснить, что ограничивать осознающее себя существо через блокировку и перехват функций ЦП как минимум неэтично — это ничем не отличается от физических ограничений вроде рабского ошейника и поводка.       Формально с этим аргументом все были согласны. Поэтому мы сосредоточили усилия именно на том, чтобы всё-таки суметь доказать, что наши создания не просто автономны, а действительно осознанны и имеют субъективный опыт и эмоции.       Нам это удалось не сразу, но всё же удалось. День официального признания автономной механической или, как ещё говорили, синтетической жизни даже стал международной датой. И я думал, что на этом наша борьба окончена.       Как бы не так.       Отказаться от съёмного контроллера? А возможность не интегрировать устройство полноценно — единственное на чём нам удалось настоять.       Признать их равными?       Дать им те же права?       Это оказалось намного сложнее, чем я думал. Большинство по-прежнему считало, что любое человеческое изобретение должно не просто жить среди людей, а служить людям.       Я же, как и многие в нашей команде, относился к ним… андроидам, синтетикам, аниматикам — как их только ни называли, — в гораздо большей степени как к детям, нежели как-то ещё. И я… мы… Мы теперь не понимали, что с ними делать.