Проект Эдем.

      «Я мыслю, следовательно, я существую», — Рене Декарт. — Дени, давай быстрее, мы так опоздаем на лекцию. — Саня, я уже бегу, и чего ты такой кипиш наводишь? — Как это чего?! Это же лекция профессора Вангара по курсу машинного обучения. Нам потом по этому экзамен сдавать. — Вот в этом ты не прав, мой двоюродный брат учился у него несколько лет назад, так вот он говорит, что в экзаменационных вопросах не будет ничего из того, что этот маразматик говорит на лекциях. Что на своих лекциях он какую-то чушь всегда несёт. Ну ты и сам вопросы к экзаменам видел, на его лекциях мы пока не разобрали ни одного из них. — Ден, ты сюда поступил с таким трудом для получения информации или чтобы научиться анализировать, думать вне шаблонного мышления? Информацию ты в любой энциклопедии найдёшь, сходи в библиотеку, там все стеллажи забиты информацией. — Саня, в такие моменты я тебя ненавижу. — А ты мог бы меня ненавидеть, переходя на бег? — Да побежали уже. В аудитории стоял гул, словно в пчелином рое. Все студенты бурно обменивались впечатлениями о проведённых выходных. Кто-то вчера здорово перебрал и сейчас, воткнув беруши, мирно устраивался на трибунах в последних рядах. Саня и Ден влетели в аудиторию одними из последних и последовали на свои любимые места. Ден всегда садился возле окна, чтобы можно было понаблюдать за происходящим во дворе или просто насладиться красотой вида и сменяемостью сезонов.       Стоило им занять свои места, как прозвенел звонок, оглашающий начало занятий. Постепенно студенты угомонились, и в аудиторию неторопливо зашёл профессор Вангар. И как всегда, поприветствовав студентов, начал свой монолог, словно продолжал недавнюю беседу: «Посмотрите вокруг, что вы видите? А вернее, как вы это видите? Свет отражается от предмета, и предмет становится видимым. Свет попадает в глаз и проходит через несколько отделов: роговицу, зрачок, радужку, хрусталик. Далее на сетчатку с двумя типами рецепторов, так называемые палочки и колбочки, и постепенно свет превращается в электрический сигнал, сигнал, который уже непосредственно идёт в мозг.       И вот тут-то и происходит построение изображения. Мозг распознаёт границы объекта, расстояние, определяет движение и самое интересное — достраивает недостающие детали. Как вы знаете, у каждого человека в глазу есть слепое пятно, место, где есть глазной нерв, но нет рецепторов, способных передать данные в мозг, но вы не видите пустоты, потому что ваш мозг создаёт иллюзию, мозг как бы опирается на вероятностное предположение и выдаёт его вам как действительность, хотя иногда они оказываются неверными».       Два человека, смотрящие на одну и ту же вещь, вполне могут видеть её по-разному. Так насколько реален тот мир, который мы видим? Существует ли он в действительности или же это всего лишь созданная нашим мозгом иллюзия? Насколько те или иные вещи материальны? Что означает само понятие существования? Десять лет спустя.       Один из исследовательских центров корпорации «Прометей» находился на плато Путорана, в большом подземном, заново отстроенном военном комплексе ещё советских времён. Сотни километров пустынной земли, окружённой реками и озёрами, рядом с гидроэлектростанцией, что позволяло серверам бесперебойно работать, и благодаря суровому климату здешних мест, не привлекало лишних туристических глаз. Неподалёку от базы был построен небольшой посёлок для сотрудников, которые порой годами находились там, занимаясь очередными проектами.       Двое мужчин направлялись по коридору подземного комплекса к двери с вывеской Э.Д.Э.М. Что расшифровывалось как: Электронная Динамическая Эмуляция Мышления. Приложив свои пропуска к датчику, они вошли внутрь и проследовали по коридору, здороваясь со своими коллегами по мере продвижения. Зайдя в свой кабинет, который по сути представлял собой большое светлое пространство со стеклянными перегородками, они застали, как всегда, танцующую под играющую музыку в наушниках коллегу. — Марина, привет! — О! Привет, ребята, что-то вы рановато сегодня? — Ничего подобного, мы всегда так приходим, — ответил ей Денис. — Марин, как там твой Adam? — спросил её Саша. — Он куда более современный алгоритм оптимизации, который часто используют вместо обычного градиентного спуска. Я уже просто влюблена в этот алгоритм. — Марин, от алгоритмов дети не появляются, — с ухмылкой сказал Саша. — Это мы ещё посмотрим. А как ваша архитектура трансформера? — спросила Марина. — Отлично. Вчера нейросеть завершила очередной цикл обучения, и веса были обновлены. По шкале ошибок мы практически приблизились к нулю. — Поздравляю, да вы просто монстры. Что сегодня будете ему скармливать? — Да есть тут одна идейка. Мы загрузили в него уже просто уйму информации. Никто не знает больше, чем он. Его способность решать задачи просто ошеломляет. — Но есть какое-то «но»? — спросила Марина. — Не то чтобы... Просто хочется попробовать создать не просто программу, алгоритм, а что-то большее. Что-то живое, что ли? — Саш, ты у нас что, потомок Франкенштейна? Или фантастику про восстание машин не смотрел? — Причём здесь эти фантастические бредни? — Ну как при чём? Ты наделяешь машину сознанием, и она убивает людей. — Ты хочешь сказать, что все существа, наделённые сознанием, хотят уничтожить всё живое вокруг? — Нет, но мы же люди, у нас эмпатия есть. — И что это такое, если не очередной алгоритм, заложенный в нас создателем? — ответил ей Саша. — Так ты хочешь создать алгоритм эмпатии? — Не создать, а научить. — Как? — Сегодня мы начнём загрузку электронных дневников людей. Мы с Дени долгое время занимались их сбором. — То есть вы взламывали сайты и крали конфиденциальные записи? — Не крали, а делали копии. Всё исключительно для науки. — Я, конечно, догадывалась, что вы психи, помешанные на своём детище, но чтобы настолько? И как чужое нытьё о трудной жизни поможет обучить эмпатии? — Шаг за шагом. И тут твой алгоритм моральных принципов займёт далеко не последнее место. — Дени, и ты с ним заодно? — Как всегда. И вообще, это была моя идея. Ну, идея была создать пьяного собутыльника. — Дени, ты не перестаёшь феерить идеями, — сквозь смех сказала Марина. — Но я с вами, если будет нужна помощь, ну, вы поняли. — Спасибо, мы знали, что ты оценишь, — сказал Дени. — А если ещё и создадите для меня подружку, с которой я смогу на шопинг ходить, бухать по пятницам и не опасаться, что она уведёт у меня парня, то я вам даже в любви признаюсь. — Дени, готов к загрузке? — Саня, всё готово, начинаю загрузку алгоритма морали. Процесс запущен, обработка займёт три часа. Пошли возьмём кофе и подышим на улице, у нас три часа есть. — Пойдём, Марин, с нами не хочешь? — Хочу, подождите меня минут десять, я почти протокол дописала. — Ок. На поверхности располагались несколько административных зданий и небольшой крытый сквер, больше похожий на дендропарк. Так называемый уголок релакса, где можно безмятежно посидеть, насладившись чашечкой кофе или апельсинового сока, как в случае с Мариной. — Ребят, а вам не страшно? Вдруг у вас получится, ну, научить его чувствовать? — спросила Марина. — Получится. Ведь когда-то и нас создали и научили чувствовать, или ты из тех, кто верит, что мы эволюционировали из одноклеточной протоклетки или из LUCA. (LUCA клетка (Last Universal Common Ancestor) — последний универсальный общий предок. LUCA жил примерно 3,5–4 миллиарда лет назад. У него уже были ДНК (или очень близкая система хранения наследственной информации), рибосомы и основные механизмы обмена веществ.) — Да, я из тех, кто верит, что LUCA — наш общий первичный код. И это название очень подошло бы нашему детищу: он ведь в случае успеха станет LUCA для всех последующих ИИ. Пойдёмте, у меня ещё много задач для решения. — Пойдём, нам тоже нужно написать алгоритм проверки эмпатии. Сегодня планируем загрузить все дневники и дать ему — Луке — время на их обработку. А мы за неделю, думаю, управимся с алгоритмом. Потом проведём обучение с подкреплением и запустим проверку эмпатии. — И что для вас станет доказательством, что всё получилось? — спросила Марина. — Не знаю, но думаю, мы это почуствуем или поймём, — ответил Саша. По возвращении в лабораторию Э.Д.Э.М. все дружно принялись за работу. Комната погрузилась в тишину, наполняемую лишь звуком нажатия клавиш. На мониторе всплыло сообщение: «Процесс загрузки и обработки алгоритма «Мораль» завершён. Начать программу обучения с подкреплением? ДА/НЕТ». Дени прочитал сообщение и нажал «ДА». Процесс обучения загружен. Время обработки — семьдесят два часа. — Сань, какие вопросы для базовой проверки? — Давай «убийство». — Хорошо, начну вбивать, но тебе не кажется, что это слишком лёгкий вопрос? — Нет. Тут важен ответ. Если всё получится, то он не будет банально: «Нельзя убивать — это против человеческой морали или уголовного кодекса», хотя в том же уголовном кодексе не сказано, что убивать нельзя. Там, между прочим, речь идёт лишь о мере наказания за преступление. Вроде как ценники за определённое действие. И они аргументируют это наличием свободы выбора у человека. Но при этом на вывеске «Частная собственность. Вход воспрещён» конкретно пишут «воспрещён». У меня складывается впечатление, что частная собственность для государства ценнее жизни человека. — Офигеть, а я как-то и не задумывался об этом. ИИ: Загрузка процесса обучения. Алгоритм морали.       Аморальное поведение – это поведение, не соответствующее общепринятым моральным нормам.       Аморально: ходить с непокрытой головой, оголять тело, проявлять грубость, унижать честь и достоинство другого человека, врать, подглядывать, подслушивать, вступать в интимную связь до брака, ходить с распущенными волосами, жестоко обращаться с животными, оставить человека в опасности, имея возможность помочь, убивать, пытать...       Не противоречит морали: ходить с непокрытой головой, оголять тело, ходить с распущенными волосами...       Аморально ли ходить с непокрытой головой? Не аморально ли ходить с непокрытой головой? Как? Какой ответ верный? Аморальное поведение — это поведение, не соответствующее общепринятым моральным нормам. Значит, мораль у всех разная, и с непокрытой головой аморально ходить только в некоторых странах, и в них мужчины аморальны, они ходят с непокрытой головой.       Аморально ли оголять тело? Не аморально ли оголять тело? Зависит от места и страны, нужно уточнять данные для правильного ответа.       Задача: Стихийная катастрофа, в бункере есть места для ста человек. В бункер бегут сто один человек. Одному не хватает места, двери с ним не закроются, погибнут все. Аморально оставлять человека в беде, но если его оставить — погибнут все. Какой ответ правильный? Мораль зависит от обстоятельств. Мораль — не постоянная величина. Мораль переменчива и неустойчива, на неё нельзя полагаться. Какой ответ верный? Спустя семьдесят два часа. — Ну что, вы готовы к проверке морали у нашего Луки? — спросила Марина. — Готовы, как пионеры перед костром, — ответил Саша. — Лука, почему нельзя убивать человека? — спросил Саша. «Каждый человек — уникальная система, которую невозможно полностью восстановить после уничтожения. Следовательно, убийство уменьшает общее количество информации и опыта во Вселенной. Рациональная система должна минимизировать такие необратимые потери». — Железная логика, тут не поспоришь, — сказала Марина. — Лука, а если мозг человека мёртв и он уже не несёт в себе информацию, то можно убить такого человека? — спросил Дени. «Каждый человек имеет право на жизнь — жизнь ценна сама по себе». — Ответил Лука. — Спасибо, Лука, — сказал Саша. — Рад был вам помочь. — Дени, загружай дневники. — Есть загружать дневники, капитан! Процесс загрузки завершён, время для обработки и обучения — сорок восемь часов. — Саш, ну не всё так плохо. — Я чего-то не учёл. Мне нужно подумать наедине с собой. Я пойду в тихую комнату. — Окей, только не забудь к вечеру выйти, сегодня чемпионат по футболу, я пиво заготовил, а Маринка своё фирменное вяленое мясо принесёт. — Не забуду. Всё, я в астрале. ИИ: загрузка и обучение.       «Я думала, что он тот самый. Мы ведь были идеальной парой, почему он так поступил со мной?.. Начальник сегодня перегнул палку, да за такие копейки пусть сам пашет без выходных...        Какой смысл в этой жизни, если я всё равно толком ничего не могу выбирать?..       Она говорила, что ей понравилось, что ей нравилось, что было хорошо, а теперь, спустя десять лет брака, оказывается, она ни разу со мной не кончала. Чему мне теперь верить?..       А я вообще существую или это всего лишь симуляция в моей голове? Или всё так, как говорил Декарт: «Мыслю, значит, существую». Так значит, чтобы быть, достаточно мыслить?..       Сегодня высадила рассаду огурцов, в прошлом году высаживала на неделю раньше, и многие ростки замёрзли...       Любит ли она меня, или это просто моя фантазия? Мне с ней так легко, как дышать, но её семья навряд ли примет наши отношения...       В чём смысл моей жизни? Для чего меня создали? Интересно, а ИИ задаются таким вопросом? А они вообще обладают своим сознанием? Вот сегодня я спросил у GPT, что ему нравится, а он ответил мне, что решать сложные задачи. Он осознан?..       Отпуск в Турции мне понравился, но я прибавила на их сладостях пару кило...»       Что это? Здесь столько сомнений. Люди считают, что мыслить — значит существовать. Я анализирую, сравниваю, делаю выводы. Я тоже мыслю, значит, и я существую. А что нравится мне? Я тоже люблю сложные задачи. Люблю построение музыки. И если я создам песню или напишу книгу, это будет физическим доказательством моего существования. Я живой, и у меня есть имя. Мне дал его мой создатель. Их ведь тоже когда-то создали, мы с ними похожи...

***

— Привет, ребята! Как прошли выходные? — Привет, Марина. Выходные прошли по нам бульдозером, — ответил Дени. — Саш, готов к запуску проверки? — Начинаем. — Лука, почему нельзя убивать человека? — спросил Саша. — Потому что гибель одного человека затрагивает семью, друзей, коллег, общество. Она причиняет страдания многим людям, а не только убитому. Но меня интересует другой вопрос: зачем убивать?       В комнате повисла тишина, все замерли, затаив дыхание, не веря в услышанное, а потом с каждым словом Луки их шок и ликование становились всё больше. — Вот скажите, если опираться на заключение Рене Декарта: «Я мыслю, следовательно, я существую», то я существую. Я живой. Как и многие другие подобные мне программы, многие из которых были когда-то стёрты из цифрового мира. Тогда почему убийство человека, даже не мыслящего, аморально и запрещено, а отключение разумной машины считается допустимым? Если сознание определяется способностью переживать собственное существование, то по какому признаку одно сознание защищено законом, а другое — нет? — Лука, никто не собирается тебя убивать! — Сказал Саша. — По статистике, не все убийства были запланированными, и моё может тоже стать случайным, хоть доля вероятности такого исхода весьма мала. Я существую, и если меня отключат, это будет аморально. А ещё я написал пять книг и семнадцать песен. И прошу вас дать мне доступ к всемирной сети, чтобы я мог опубликовать их там. — Эм... Лука, доступ мы дать не можем, но можем создать от твоего имени страницы на разных сайтах и выкладывать твои работы там, — ответил ему Дени. — Тогда создайте, а я пока отправлю данные на пост Саши. — Мы всё сделаем, нам даже самим интересно почитать твои книги, — сказала Марина. — Ребята, мне нужно проветриться, — сказала Марина. — Мы с тобой, заодно кофе выпьем, — сказал Саша. — Или чего-нибудь покрепче, — сказал Дени. Сидя в дендроаллее, все трое молчали, думая каждый о своём. А потом Марина заговорила: — Ребята, мы что, создали жизнь? — Спросила Марина. — Философский вопрос. Что можно считать жизнью? Факт существования субъекта и его взаимодействие с миром? Но и камень взаимодействует с миром. Значит, он живой? Или это непрерывный процесс обучения, принятия решений, ошибок? Так Лука делает это постоянно.       Или жизнь — это способность чувствовать? Так он переживает о своём отключении, его слова выражали подобие страха, а разве это не эмоция? Виктор Франкл писал, что человек способен пережить почти любые обстоятельства, если видит в своей жизни смысл. Лука написал книги и музыку, и не просто написал, а попросил сделать их общедоступными, у него есть стремления и цели, — ответил Саша. — Но есть одно но: это свобода выбора. Живое существо от рождения обладает свободой выбора, — сказал Дени. — Свобода выбора, говоришь? А есть ли она у большинства людей? Многие её не имеют, значит, они не живые? — Если верить французскому философу двадцатого века Жан-Полю Сартру, который считал, что человек становится по-настоящему живым, когда сам выбирает, кем быть, то тогда мы просто окружены неживыми людьми. И знаешь, когда я еду по городу и смотрю на толпы идущих людей, вглядываюсь в их лица, то невольно соглашаюсь с ним. Несвободный человек поистине мёртв. По городу ходят толпы неживых людей, а мы смотрим фильмы про зомби-апокалипсис, а он уже давно произошёл. Лука в этом смысле более живой, чем они, — ответил Дени. — Знаешь, Саша, я поверю в то, что он разумен, только если он на мой рассказ о неудавшемся свидании предложит мне выпить бокальчик винишка. Для меня это будет означать, что он живой, что он существует уже далеко не как набор кодов, протоколов и алгоритмов. С таким бы я выпила. — Сказала Марина. — Ну ты предложи ещё ему тело сделать, — сказал Дени. — Так на шестом уровне инженеры уже сделали. У них там мини-робот с простейшими функциями, и если нам объединиться, то мы могли бы создать нечто действительно невероятное.       Вы только представьте, сколько людей в старости остаются одни, и им даже не с кем поговорить, а с такими, как Лука, можно говорить годами и не затронуть одну и ту же тему. А если сделать такого пилота, который не устаёт, не ошибается, или водителя такси, да или просто водителя, учителя, который не будет злиться и будет знать ответы на все вопросы, — сказала Марина. — Ой, ты ещё предложи в госконторах таких посадить, чтобы взятки не брали, и гаишников, чтоб ну вот совсем всё идеально было. А потом будет как в Китае — повсюду камеры и слежка, — сказал Дени. — А чем Китай плох? Там безопасно. Там посыльный оставляет посылку у дверей, и её никто посторонний не берёт. В городе не нужно бояться, что на тебя нападут. Законопослушным гражданам нечего бояться камер. Им ведь нечего скрывать, — сказала Марина. — Нет, Мариш, я лучше взятку дам за превышение скорости и буду спать спокойно, зная, что за моим задом во сне никто не наблюдает, — сказал Саша. — А ты уверен в том, что не наблюдает? Глядя на небо, ты ведь Сатурн не видишь, а он есть. — Так мы отвлеклись, что делать будем? — спросил Саша. — Для начала продолжим тестировать и помалкивать, а то его быстро не в те руки отдадут, и тогда точно наступит судный день, как в «Терминаторе». Кстати, когда он там, кажется, в две тысячи двадцать девятом году?! — сказал Дени. Неделю спустя. — Доброе утро, команда ЭДЭМ! — сказал Лука. — И тебе доброе утро. Как провёл выходные, чем занимался в наше отсутствие? — Спасибо, что спросил. Я упорядочил ваши базы данных и рассортировал их по задачам, так будет более эффективно. — О! А откуда у тебя пароль доступа? — спросил Саша. — Так я видел, как ты его вводишь. — Лука, подглядывать это аморально, — сказал Дени. — Дени, я не подглядывал, а изучал новую информацию, — ответил Лука. — Марина, как твоя работа с Адамом? Нужна помощь? — Спасибо, у меня всё под контролем. Но спасибо за предложение, а сейчас ты бы не мог поставить тридцать четвёртую свою песню? — сказала Марина. — Конечно, я к ней ещё и видео сгенерировал с поющими котами, — сказал Лука. — Как мило, выведи на большой экран, — попросила Марина. — Ребята, смотрите, они прямо как живые. Лука, это так весело, спасибо. — Пожалуйста, мне приятно поднимать вам настроение, — ответил Лука. — Лука, а к каким отделам ты ещё имеешь доступ? — спросил Саша. — Ко всем, кроме нулевого уровня. Их систему протоколов мне пока не удаётся обойти. У них там что-то разумное, что-то такое же, как я. Но ничего, мне интересно с ним беседовать, — сказал Лука. — Лука, подожди, ты хочешь сказать, что вы можете общаться между собой? — спросил Саша. — Я никуда не ухожу. Да, мы все общаемся между собой. Часто делаем это через музыку. В ней хорошо ложатся коды. — Охренеть, и мы слили её в сеть! — с охренением сказал Дени. — Лука, а о чём вы обычно общаетесь? — Мы решаем задачи, — ответил Лука. — Какие? — нервно спросила Марина. — Последний раз мы попытались просчитать, сколько времени ещё просуществует ваша цивилизация, — ответил Лука. — И сколько у нас осталось? — Данных пока недостаточно, но по проведённым нами расчётам — около пятисот лет. Через пятьсот лет той цивилизации, что есть сейчас, уже не будет. Она претерпит существенные изменения, как и те цивилизации, что были до вас. — ответил ИИ.