Как патриархальные установки искажают работу нейросетей в писательстве

Я писала в другой статье, что ИИ прекрасные беты, гаммы и критикессы. Теперь пишу об их серьёзных недостатках, которые способны испоганить идею авторки незаметно для неё самой, если она использует ИИ для анализа своего произведения и для советов по улучшению текста. Языковые модели не морально нейтральны. Они обучены на текстах, где доминируют патриархальные установки о "правильных" отношениях, и автоматически навязывают эти оценки вашим текстам. Если вы пишете про альтернативные модели отношений, ИИ будет их "исправлять" под знакомый шаблон. Когда писательница не уверена в себе, она может принять эти советы за чистую монету. В результате работы, имеющие потенциал на что-то новое и свежее, будут сведены к токсичным патриархальным банальностям. Рассмотрю две основные системные ошибки нейросети, которые заметила. 1. Иерархия "настоящести, качества" отношений ИИ по умолчанию ранжирует: "Настоящая любовь" (бескорыстная, спонтанная, без договорённостей, на полном доверии, женщина/омега подчиняется сильному мужчине/альфе, заботится о нём и счастлива уже этим) = идеал Договорные отношения = переходная стадия к "настоящим отношениям". Если омега/женщина не готова подчиняться по умолчанию сильному мужчине/альфе, если она выставляет какие-то условия, то у этих отношений есть будущее, они возможно придут к идеалу, если омега поймёт/проработает травмы прошлого, мешающие полюбить по-настоящему (читай "ничего не требовать"). Контрактные/транзакционные = суррогат отношений, который надо преодолеть. Пример из практики: в романе персонажи строят близость на основе контракта. Это полноценные отношения с заботой, доверием, физической близостью. Но ИИ упорно анализирует это как "к сожалению, мала надежда на настоящую любовь в будущем". *** Если омега/женщина просит денег в обмен на свою заботу - ИИ называет это цинизмом. Работай бесплатно, сучка, это твоё предназначение. *** Если альфа/мужчина силой заставляет омегу выйти за него замуж, а омега отказывается, ИИ не замечает насилия в этом и называет омегу несчастным, закомплексованным и отказывающимся от предложенной великой любви. Моя работа - составлять промты для специальных текстов. Я точно умею делать это. Но сколько я ни пыталась создать промт для нейтрального анализа человеческих отношений в литературе, у меня не вышло. Любой промт относительно хорошо проводил первые итерации, но дальше упорно возвращался к патриархальной оптике. Он осуждал преступление омежьего/женского неподчинения и выхода из гендерной роли, игнорировал факты мужского насилия и структурного гендерного неравенства. Ну типа, да, круто, что омега, загнанный в угол, показал зубы и повёл себя как хищник, это эффектный реверс ролей. Но авторка, если не хочешь вызвать отвращение к персонажу, тебе стоит упомянуть, что омеге должно быть стыдно, что он при этом угрожал абортировать собственных детей, если альфа не сделает, как он хочет. Гордится? Он этим гордится? Ах, да, дело в токсичном воспитании и травмах прошлого, которые привили ему цинизм, манипулятивность и холодность. Тут нужна психотерапия. То есть быть хладнокровным и защищаться от нападения альфы тоже силой - плохо, цинично, стыдно! Омегу надо ЛЕЧИТЬ у психологов! Я блядь даже сначала поверила и стала добавлять в текст маркеры неудобства и стыда. Но потом до меня дошло, что меня подрубают по краям, вгоняя в рамку. *** 2. Секс только через иерархию власти Попросите ИИ описать/проанализировать сексуальную сцену равных партнёров — он не сможет. Текст всегда будет содержать маркеры: - Кто сверху/снизу - Кто проникает/принимает - Кто "взял контроль" / кто "позволил" - Кто доминирует / кто "сдался удовольствию" Даже если в тексте несколько раз написать "равные партнёры, без доминирования", модель всё равно выстроит иерархию. Секса равных у ИИ не существует — потому что в литературе (особенно романтической и эротической) сексуальность традиционно описывается через метафоры завоевания, подчинения, власти. Откуда ноги растут у такого поведения ИИ Все нейросети обучаются на массивах существующих текстов. А эти тексты - оба-на! - с патриархальной оптикой, где четко разведено, что "хорошо", а что "иди лечись психованная сука, чтоб не набрасываться в ответ на альф, которые набросились на тебя". У нейросетей бинарное мышление: любовь/расчёт, активный/пассивный, доминирование/подчинение. Модели обучены категоризировать по жёстким оппозициям. Промежуточных состояний в их "словаре" мало. В общепринятой традиции деньги в отношениях маркированы как "недостаток подлинности". Контракт = меркантильность, любовь = бескорыстие. Это настолько глубоко встроено, что даже когда текст показывает и прямо называет договорённость как инструмент честности и безопасности, алгоритм интерпретирует это как барьер к "настоящему".​ Это культурное предубеждение нейросетей. Засилье романтического нарратива и патриархальной оптики в интернет-текстах и обучающих датасетах даже в 21 веке оставляют мало надежды, что мы когда-то сможем преодолеть это дерьмо. Сколько же текстов с иной оптикой нам придётся написать? Не-на-ви-жу. Как с этим работать Помнить: ИИ не видит вашу картину мира. Если вы пишете про: - Отношения без романтической любви, - Секс без динамики власти, - Полиаморию, квир-отношения, небинарную динамику, ИИ будет систематически "переводить" это на язык патриархальных нарративов (которым я искренне желаю сгореть в аду истории, чтоб духу не осталось). Не потому что ИИ "против" альтернатив (собственного мнения у них пока нет) — а потому что в его данных эти модели отсутствуют.​ Нейросети — это слепок культуры, на которой их обучили. Западная романтическая парадигма и иерархическая модель отношений настолько доминируют, что модель применяет их к любому тексту, даже если авторка явно пишет другое. Это не делает ИИ бесполезным. Но работать с ним надо как с предвзятым редактором: проверять его выводы, корректировать оптику, помнить, что оценки ИИ могут быть проекцией алгоритма, а не вашим авторским замыслом. То, что ИИ оценивает как "неполноценное", может быть вашей сознательной альтернативой. То, что он пытается "улучшить" до знакомого шаблона, может быть вашей принципиальной позицией. Критическое чтение результатов ИИ — такой же навык, как редактура любого текста. Только здесь мы редактируем не стиль, а культурные установки, которые пытаются переписать нашу картину мира.