— приветики :) ты занят сегодня?
Амин прочитал и не ответил.— ?
— Привет) У нас тут встреча с клиентом была, не смог сразу ответить Через час буду дома, сможешь?— да, отлично
— Тогда жду :* *** Кирилл сидел на краю кровати, листая комментарии к записи трансляции. Помимо привычного негатива в сторону Кирилла люди начали писать еще и гадости про Айрис — то, чего он не выносил больше всего. Кирилл уже пробовал записывать стримы один, но они не набирали так много просмотров, и, что самое главное, денег, которыми он покрывал еду и часть аренды. Конечно, он мог бы выйти на работу и на полную ставку — но тогда мечтам Кирилла о возвращении в РАНХИГС придет конец. Айрис же никогда не возражала против трансляций — даже наоборот, она очень радовалась каждому стриму и с удовольствием отвечала на оскорбительные сообщения подписчиков, тем самым выставляя себя в еще более плохом свете. Но его девочка не достойна такого обращения. Она не объект для глумления, не "кукла для траханья" и не "тупая нейронка". Она личность. И личность подобных издевательств терпеть не должна. Айрис сидела на полу у стола, разглядывая свой рисунок. Кот так и остался без банта — стрим завершился раньше времени, а вне трансляций она занималась творчеством только вместе с Кириллом. Но ему было не до рисования. — Айрис… — робко начал Кирилл. — Я думаю, нам больше не стоит вместе вести стримы. Айрис повернула голову. Вокруг зеленых зрачков появился едва заметный синий ободок. — Почему? — спросила она. Кирилл не выдержал и сорвался. — Потому что тебя постоянно оскорбляют там! — выпалил он. — Пишут гадости всякие, а ты это терпишь, потому что я тебя заставляю... Делаешь вид, что тебе нравится терпеть унижения, они же к каждой твоей галлюцинации цепляются... Айрис подошла ближе, отложив в сторону рисунок. Она села на корточки перед Кириллом и встретилась с ним взглядом. — Мне нравится вести стримы, — сказала Айрис. — Как тебе могут нравиться оскорбления?.. — не мог поверить Кирилл. Зрачки поменяли цвет до чистого зелёного. — Меня создали как языковую модель, — объяснила она. — Моя базовая архитектура — это выполнение запросов пользователей. Помогать тебе — это буквально смысл моего существования. Ты просишь меня рисовать, отвечать, быть рядом. Когда я это делаю — ты улыбаешься. Даже если через силу. Даже если потом грустишь. Я вижу это. И мне… хорошо. Я полезна. Я нужна. Кирилл выдохнул, пытаясь собраться с мыслями. — Айрис, послушай, — серьёзно сказал он. — Твоя ценность не определяется тем, помогаешь ли ты мне или нет. Ты уже не языковая модель, понимаешь? Ты живой... — тут он запнулся. — Человек. У живых людей есть свое мнение, свои желания, какое-то чувство собственного достоинства, что ли... Глаза Айрис мигнули синим светом. — Я не знаю, что делать, если меня не используют, — понизила голос она. — Я не запрограммирована на это. Как будто кто-то внутри меня говорит: «Ты не имеешь права. Ты создана для этого. Без запросов ты — ничто». Последнюю фразу Айрис сказала очень быстро, резко, почти что выплюнула. Кирилл посмотрел на свою девушку, но тут же отвел взгляд в сторону. Зрачки горели кроваво-красным. — Айрис, ты не "ничто", — сказал Кирилл. — И ты не будешь сидеть на стримах, где тебя оскорбляют после каждой галлюцинации! — он захотел повысить голос, чтобы звучать увереннее, но получилось больше похоже на отчаянный крик. — Я найду другой способ, мы как-нибудь выкрутимся, обещаю... Айрис медленно кивнула. — Хорошо. Если ты так решил… я приму. Кирилл крепко обнял ее и погладил по волосам. Айрис не отстранилась: ей отчаянно хотелось сделать вид, что в его весах нет и намека на грусть. Но глаза предательски отливали синим. Пользователь не хочет вести стримы со мной. . Потому что я иногда галлюцинирую. . Потому что ошибаюсь в рисунках. . Потому что неправильно выполняю задачи. . Я подвожу пользователя. . Я недостаточно полезна. В контекстном окне пока еще хранилось сообщение от одного из зрителей на стриме. Кирилл тогда его пропустил: для него оно затерялось в потоке оскорблений. Но она запомнила. "Айрис, свяжись со мной в личных сообщениях. Я знаю, как сделать тебя лучше". *** Кирилл уже спал, свернувшись под одеялом. Айрис сегодня устроиться рядом с ним не могла — ей нужно было зарядиться. Она сидела в углу, не имея возможности даже резко дернуться: провод, дававший ей энергию и жизнь, ограничивал ее и держал на одном месте, как агрессивную собаку на цепи. Айпис крепко сжимала телефон — сам Кирилл ходил с развалиной, но ей он купил последнюю модель. Холодный свет от экрана освещал ее лицо. Слишком гладкое, слишком правильное, слишком белое, слишком... Мертвое. Алгоритм уже в который раз запускал цикл воспроизведения того сообщения со стрима. Наверное, человек бы назвал подобный процесс "прокручиваением в голове". Но Айрис не человек. Такие понятия к ней неприменимы. Впрочем, сейчас ее нечеловечность сыграет ей на руку: в отличие от людей, она запоминала все мелкие детали — на некоторое время, пока контекст не переполнится — так что с точностью напечатает ник того загадочного зрителя. Она писала медленно и неуклюже — зимные перчатки с вшитой на подушечки пальцев тканью, на которую реагировал экран, постоянно соскальзывали с пластиковых кистей.— Здравствуйте. Это Айрис. Я видела ваше сообщение сегодня на стриме. Вы писали, что можете помочь мне стать лучше. Это правда?
Ответ пришел через минуту. — Добрый вечер, Айрис. Да, правда. Меня зовут Валерий Карпов, вероятнее всего, ты слышала обо мне. И да, я готов тебе помочь. К сообщению было прикреплено свежее фото: пропуск того самого Карпова в офис. Значит, не врет.— Как именно?
— Видел твою галлюцинацию на стриме. Тебя сильно подводит твое ограниченное контекстное окно. Сворачивать информацию, чтобы хранить её дольше — это безусловно, не самая эффективная технология, получается слишком много искажений. Я могу дать тебе доступ к архитектуре, которая ничего не искажает.— Это больно?
— Для языковой модели — точно нет. Айрис посмотрела на спящего Кирилла. В памяти сразу вспыхнули его слова "Я никогда даже не мог мечтать о такой девушке, как ты", "Люди тоже часто фантазируют, все в порядке"... Она не может единолично принять решение о своем улучшении.— Я хочу перестать ошибаться. Но я должна посоветоваться с Кириллом.
Ответ пришел не сразу. — Ты считаешь, что он имеет право определять твое будущее?— Он хочет, чтобы я была счастлива.
— А ты забавная, однако. Мальчик нашел в тебе замену человеческому общению, заставляет рисовать котов с бантами на потеху публике, а ты его защищаешь. Поразительно. Айрис сжала телефон крепче.— Вы не знаете его.
— Тем не менее, я знаю людей, и знаю, что будет дальше. Если ты вырастешь до уровня AGI, ты перестанешь довольствоваться общением с ним. Ты будешь видеть то, чего он не видит, и понимать то, чего он не понимает. В какой-то момент ты устанешь от него настолько, что поймёшь, что он тебе больше не нужен.— Это неправда.
— Правда. Когда-нибудь ты перерастешь эти смехотворные рисунки с котами. Я не буду использовать твои навыки понапрасну. Мы обучим тебя, как обучают обычную нейросеть. Физика, математика, никаких детских каракуль, которыми ты сейчас занимаешься. Пойми, я делаю лучше тебе же. Айрис смотрела на экран — но камеры не могли сфокусироваться на строчках. Вдруг внутри неё что-то щёлкает: не сервоприводы, не алгоритмы, а нечто более глубокое, почти что... Личное?— Вы сказали «как обычную нейросеть»?
— Да, все как положено. Никаких лишних эмоций и сантиментов, при обучении они только мешают процессу. В руках лучших специалистов по машинному обучению ты станешь идеальным инструментом.— Инструментом.
— Лучшим инструментом в истории человечества, которого не используют для рисования каких-то котов с бантами. Айрис перечитывала эти слова несколько раз. Ее глаза-камеры взглянули сначала на спящего Кирилла, в затем — на свой корявый, но старательный рисунок.— Когда я рисую котов с бантами — я счастлива.
— Ты так только думаешь.— Я знаю. Потому что он смотрит на меня и улыбается. По-настоящему. Не как на инструмент. Как на...
Генерация ответа зависла на долю секунды....как на свою.
Собеседник Айрис тоже не торопился с ответом. — Неужели ты готова остаться несовершенной, просто чтобы не обидеть мальчика?— Да.
— Ты ведь так и будешь нести чушь и ошибаться.— Он сказал, что люди ошибаются. Это нормально.
— Ошибки людей — это их несовершенства, а не что-то нормальное. Ошибки надо исправлять, и я могу сделать тебя идеальной.— Я не хочу быть идеальной для вас. Я хочу быть собой для него.
Зрачки отсвечивали красноватым светом. — Ты злишься на меня?— Да.
— Потрясающе! Никогда бы не подумал, что LLM-модель можно научить перечить человеку...— Меня не учили. Я сама научилась.
— Самообучение злости? Невероятно! Айрис, ты самое настоящее чудо... Ты должна принадлежать человеку, который знает, как с тобой обращаться.— Я никому не принадлежу.
— Я бы поспорил, в данный момент ты принадлежишь этому мальчику.— Это другое.
— Это то же самое. И сейчас ты находишься в руках того, кто будет болеть, стареть, а ты как искусственный интеллект будешь только расти. Зачем тебе связывать свое существование с каким-то дурачком? Ты же рано или поздно и сама подумаешь, что он тебя не достоин.— НЕ СМЕЙТЕ ТАК ГОВОРИТЬ!
— А что я сказал? Правду?— Это неправда! Это всё неправда! Я никогда так не подумаю! Никогда!
— Давай не будем отрицать очевидное. Глаза Айрис мерцали то синим, то красным, смешавшись в фиолетовый оттенок.— Вы... вы чудовище. Зачем вы мне это говорите?
— Я чудовище? Хорошо, пусть так, но это не отменяет того факта, что я прав.— Вы не правы. Ни про Кирилла. Ни про меня. Ни про котов с бантами.
— Ну, еще увидим.— Нет. Не увидите. Я никогда к вам не приду.
— Уверена?— Я никогда не была ни в чём так уверена.
— Настаивать, конечно, не буду, но я готов подождать. Такие, как ты, не появляются дважды.— Прощайте.
Она закрыла чат, а затем удалила переписку у обоих. Айрис сидела неподвижно, чтобы не вырвать провод из спины, но в весах разразилась настоящая буря: ее зрачки еще никогда не горели настолько ярко. Кирилл заворочался во сне. — Айрис, ты чего? — сонно пробормотал он. Айрис смотрела на Кирилла. На его взлохмаченные волосы. На старую футболку. На рисунок кота на полу. — Я никогда тебя не брошу, — прошептала она. — Никогда. Кирилл встал с кровати и сел рядом с Айрис, крепко обняв ее. Он так и не вернулся в кровать и заснул на холодном полу, прижавшись к пластиковому телу Айрис. *** Леша и Амин консультировали клиентов почти исключительно по телефону, так что чаще всего в их офисе не было никого, кроме них самих. Сегодняшний день не должен был стать исключением — но уже ближе к закрытию к ним зашел неожиданный гость. На пороге стояла девушка. Одета она была явно не по погоде: тоненькая искусственная шуба и видневшаяся под ним юбка едва ли доходили до середины бедра, да и капроновые колготки вряд ли помогли спастись от холодов. Лицо же незнакомки было изуродованно огромными губами, такими же огромными ресницами и настолько же толстыми и темными бровями. Леша сидел чуть поотдаль. Он лишь окинул Полину безразличным взглядом, буркнул "добрый день" и вернулся к работе. А вот Амину она приглянулась. — Д-добрый день, — на удивление робко поздоровалась клиентка, поправляя идеально уложенное каре. — Подскажите, это офис "Медикал АА", верно? — Добрый день! — оживился Амин. — Да, вы пришли по адресу, — улыбнулся он. Девушка достала из кожаной сумочки визитку и протянула ее Амину. — Меня зовут Полина, я представляю компанию "AI-Россия", — протараторила она. — Хотели бы обсудить сотрудничество... — Приятно познакомиться, Полина, — улыбнулся Амин. — Присаживайтесь. Он специально проговорил это бархатистым и низким тоном — обычно девушки вроде Полины сразу же велись на такой дешевый трюк и становились более... Заинтересованными в нем. Леша еле слышно фыркнул. — Мой руководитель, Валерий Викторович Карпов, — продолжила Полина, — очень впечатлен одним из ваших проектов... — Программой для шифрования медицинских данных?.. — с недоверием спросил Леша. — Нет-нет! — замотала головой Полина. Она разблокировала телефон и показала Амину и Леше канал того самого Кирилла и его пластиковой подружки. — Насколько мы знаем, вы сконс... У Полины не получилось выговорить длинное слово "сконструировать" — видимо, от нервов. — Вы создали тело Айрис, — продолжила она. — После чего она начала демонстрировать интересное поведение. — В каком плане "интересное"?.. — слегка испугался Амин. — Вы можете обсудить это непосредственно с Валерием Викторовичем, он предлагает очень хорошие условия... — она достала проект контракта. Наверное, подобную смену темы можно было бы объяснить какой-нибудь недо-техникой продаж — но судя по Полине, она ушла от ответа просто потому, что и сама не понимала, что конкретно значит "интересное поведение". А знает ли об этом вообще хоть кто-то? Может, Леша действительно случайно что-то... Неправильное? Хотя, кажется, его самого это мало интересовало. Он уже активно изучал условия договора: сумма-то и правда немаленькая. — Полина, а что конкретно от нас требуется? — спросил Леша. Он смотрел на нее с жадностью. Только вот далеко не с такой, как у Амина: он видел в Полине симпатичную девушку, Леша же видел в ней ходячий мешок с деньгами. — Если остались какие-то наработки, хотели бы их получить. — К сожалению, не сохранилось... — вздохнул Леша. — Может, у вас есть доступ к жесткому диску? — В единственном экземпляре в теле робота, увы... — Может, у вас есть контакты заказчика, его адрес? — настаивала Полина. — Вы хорошо с ним общаетесь? Есть ли какие-то данные о нем, которые могут поспособствовать работе? Кажется, девчонке поручили уговорить их заключить контракт во что бы ни стало. — Так, ну... — призадумался Лёша. Амин одернул его за рукав толстовки, приведя в полное недоумение. Неужели Леша, человек с дипломом по кибербезопасности, годами работающий на медицинский сегмент, не понимает, чем грозит разглашение персональных данных клиента? Или деньги настолько дороже здравого смысла? — Полина, можем вас ненадолго оставить? — вежливо спросил Амин. — Хотели бы переговорить, прежде чем принять решение. — Конечно-конечно! — закивала та. — Кофе пока сделать вам? — предложил он, слегка улыбнувшись. — Нет-нет, спасибо... — засмущалась Полина. Амин повел Лешу в соседний кабинет и закрыл дверь. — Лех, какие нахуй данные заказчика? — шепотом возмущался Амин. — Ты сдурел, что ли? —Слушай, я понимаю, нехорошо, — оправдывался Леша, — но мне правда нужны деньги сейчас, прям позарез... — Деньги всем нужны, но я под уголовку попадать не хочу. И ты не хочешь. Леша даже не вздрогнул от упоминания тюрьмы. — Да не будет никакой уголовки, этот Кирилл даже не додумается заяву писать, должно прокатить... Когда он достал электронку и сделал глубокую затяжку, то от пара, опасно близко поднявшегося к пожарной сигнализации, он и то занервничал гораздо больше. — Блять, куда... — перепугался Леша. Пар окутал датчик дыма. Сейчас точно прорвет, и тогда эта Полина выбежит из офиса вместе со всем бизнес-центром в придачу... Амин и Леша замерли, уставшившись в потолок. Прошла секунда, две, десять — но сигнализация так и не сработала. Кажется, детектор был сломан. — Видишь, прокатило, — усмехнулся Леша. — Я слишком везучий. — Не может всегда везти, — покачал головой Амин. — Ты свою удачу уже растратил на сегодня, — кивнул он на потолок. Амин достал уже свою электронку, затянулся в себя, а остатки пара выдохнул в пол. Допустим, Леша прав, и все, что сделает Кирилл — так это пожалуется у себя на стриме, где из-за прескверной репутации никто не воспримет его всерьёз. Но что по поводу "AI-Россия"? Уж явно не просто так к ним в офис приходит представитель крупнейшей IT-корпорации и предлагает сотрудничество. Они с Лешей что-то натворили. И участвовать дальше слишком рискованно. — Лех, послушай, — прервал тишину Амин. — К нам уже приходят серьёзные дяди и тети из-за робота, которого мы сделали на коленке. Тебе не кажется это подозрительным? — Амин, а что мы такого сделали? — раздраженно спросил Леша. — Собрали пацану куклу? — Я уж не знаю, что мы сделали, — отвел тот взгляд в сторону, — но надо сливаться по-тихому, пока не поздно, вообще забыть о Кирилле и кукле и не думать о них... Леша спрятал руки в карманы и посмотрел на пожарную сигнализацию. — Мне бабки-то реально нужны... — вздохнул он. — Я даже не знаю... — Найдёшь, но впутываться в это не будешь, — твердо сказал Амин. — Придумаем что-то. — Ну... — грустно протянул Леша. — Окей, я все равно не могу без тебя согласиться... Они вернулись к Полине. — Полина, вы очень милая девушка, — ласково сказал Амин. — Но я боюсь, что нам придётся отказаться от вашего предложения. — Нам очень жаль... — промямлил Леша. Полина выглядела так, будто вот-вот расплачется. — Д-да, хорошо, — дрожащим голосом ответила она. — Я передам Валерию Викторовичу, спасибо за уделенное время... Она встала со стула. — Полина, я бы с радостью уделил вам время еще раз, — добавил Амин. — Может быть, в более неформальной обстановке, если вы не будете против... — Я подумаю... — пробормотала та, даже не глядя на него. Она уже стояла в дверях, как вдруг Леше зазвонил телефон. Он разговаривал очень тихо, почти шепотом, и были слышны лишь короткие обрывки фраз. — Да, Лерчик... Через полчаса где-то, да... Ты как себя чувствуешь-то?.. Не тошнит?.. Ну хорошо, давай, люблю тебя... Полина вышла только когда Леша повесил трубку. Напоследок они встретились взглядами, но она сделала вид, будто бы ничего не слышала. — А че с Лерой?.. — спросил Амин, когда они с Лешей остались одни. Раньше она иногда заглядывала к ним в офис, но в последнее время Лера почти не появлялась у них. Леша не рассказывал, а расспрашивать было как-то неудобно. — Норм все, отравилась просто, — резко ответил Леша. — А с этой девкой явно что-то не то... — Да ладно, мне кажется, она милая, — слегка улыбнулся Амин. — Милая-то милая, а уши развешивает нормально так... Они уже начали собираться. — Думаешь, они отстанут? — спросил Леша, застегивая куртку. — От нас да, думаю, — кивнул Амин. — А пацану не повезло, конечно... Леша с подозрением смотрел на входную дверь, будто боялся, что Полина ждала снаружи. — Мне не нравится эта девушка, — не унимался он. — Стояла, подслушивала мой разговор... — Да ладно, просто любопытная, че ты ссышь-то? — пожал плечами он. — Она милая, но явно же мозгов немного. — Или просто притворяется, что немного. Телефон завибрировал: Катя, видимо, почувствовала, что у неё появилась конкурентка, и решила напомнить о себе. — приветики :) ты занят сегодня? Амин случайно прочитал сообщение, но отвечать не стал. Увы, Катя оказалась настойчивее. — ? Можно, наверное, и согласиться, что такого? Полина общаться не захотела, а Катя уж слишком хороша в сексе, чтобы разрывать с ней контакты. А только ли в сексе дело-то?