Принципы работы нейросетей
Фактчекинг как одно из достоинств нейросетей — это вообще такой нож в спину для меня, так как я до этого, хоть и не в статье, но в качестве одного из примеров, где нейросети могут использовать, указывал как раз фактчекинг. Но уже в момент написания этой части наткнулся в ютубе на видео, которое буквально называется «почему нейросети всегда врут? (и почему это уже не исправить)», в нём автор разбирает сам базовый принцип работы нейросетей. Пересказываю, как я это понял (в деталях могу быть неточным), любую единицу информации нейросеть делит на “токены”, при этом при генерации нейросеть случайно выбирает один из токенов, которые может попадаться с наибольшей вероятностью. Ещё раз, я заострю ваше внимание на том, что результат сам по себе предполагает некоторую долю случайности. Это я к тому, что нейросети не используют никакие базы данных, не сверяются с какими-то источниками, и не анализируют свою информацию. Ну, то есть, вы можете подключить нейросеть к интернету или базе данных, закидывая информацию оттуда в котёл генеративного варева, но это бесполезно по одной причине. Она в самой сущности своей работы просто на ходу выдумывает какую-то шизу, и если повезёт,эта шиза на выходе будет иметь какой-то смысл, но не потому что нейросеть сработала как-то осмысленно и рационально, а блять потому что в этот раз при броске кости d20 выпала 20 и свершился критический успех. В ходе этого хвалёного “обучения” нейросеть на деле не собирает информацию для формирования какой-то рациональной базы данных, она просто запоминает вероятность выпадения слов после того результата, который они уже успели сгенерировать (в случае текстовых генераций, у иллюстративных, например, само собой другие термины, но проблемы те же). Обращали внимание на то, что текстовые генераторы не заканчивают генерацию в какую-то одну секунду, а постепенно выписывают результат? Ну так, это потому что нейросеть “думает”, какое слово чаще других может попасться как продолжение уже имеющегося предложения. По сути это даже “ИИ” называть в корне не верно, в этом нет никакого интеллекта, нет разума, нет мышления, есть только набор вероятностей и гигантское поле для совершения ошибок. В конце концов, нейросеть не может вернуться назад, чтобы отредактировать свой результат, не может признаться в том, что ошиблась, для неё не существует преград, есть путь только вперёд к тому, чтобы ответить хоть как-то. Она будет лишь очень убедительно делать вид, что что-то понимает. Автор видео, например, сделал запрос: «В каком году Гагарин совершил свой первый полёт на луну?», и получил формально аргументированный ответ. Плюс, автор сам же ещё добавил, что формально у более развитых моделей “ИИ” есть некие фильтры анти шизы в генерациях, но на деле их наличие значит только то, что сломать нейронку будет чуть сложнее. Чуть — это ещё не значит, что сломать её будет реально трудно. Просто осознайте масштаб абсурда, весь этот “ИИ”-сыр-бор случился из-за грёбаного чат-бота, у которого вместо четырёх тупых вариантов ответа, которые зачастую не попадают в правильный контекст, есть условный миллион, но большинство из них всё равно не попадает в контекст, потому что такого механизма, как распознавание контекста, тут в принципе нет! В общем, перепроверяйте дважды любую информацию, которую вы от нейросетей получали (ссылку на ролик я оставлю в конце этой части). И знаете, именно когда я всё это узнал, эта деталь стала той самой последней не достающей частичкой пазла из конца предыдущей части. Именно с ней всё начало вставать на свои места, и теперь стали понятны все эти многочисленные и мемные баги “ИИ”. Начиная от уже легендарных “6 пальцев” и заканчивая всем тем, что я уже упоминал в предыдущей части и буду упоминать здесьПарадокс понимания
Мой собственный термин, связанный с темой, которую я слегка затронул в первой части, но слабо раскрыл. Суть парадокса понимания в том, что пока у тебя низкий навык в той или иной форме творчества, ты не можешь задать для нейросети хороший промпт, потому что просто не понимаешь, в каком направлении её толкать, из-за чего получается плохая генерация... но при этом для того, чтобы знать, куда направить нейросеть, ты должен достаточно хорошо разобраться в теме, что требует много времени на изучение, а потом ещё много времени на то, чтобы создать крайне подробный промпт; и того и другого при этом требуется настолько много, что в итоге для уже опытного человека нейросеть будет около бесполезна (ну или полезна только для точечного применения в отдельных мелочах). Посудите сами. Абсолютно у каждого жанра есть свой набор приёмов и тропов, которые так или иначе используются при его реализации. Знание этих вещей отличает опытного и искусного автора от новичка. Например у комедии по одним только типам юмора есть: сарказм, ирония, сатира, буфонада, стёб, пародия, чёрный юмор, сортирный юмор (какое-никакое, но направление) и т.д, список можно продолжать долго. Из того, что все знают, из инструментов юмора есть ещё сетапы и панчлайны. У хоррора есть: саспенс, скримеры, психологический ужас, монстры как заковыристая метафора, жуткие смерти, вещи пострашнее смерти... (я не шарю за хорроры, отстаньте). И так далее. Суть в том, что для понимания всего этого нужно потратить очень много времени, притом, что скорее всего ну там за условные 5-10 лет, после которых вас можно будет назвать опытным автором, вы успеете углубиться только в любимые вами жанры и те, с которыми вы работаете, не буду утверждать сколько конкретно таких вещей будет, но допустим условно 3-4. И в контексте нейросетей я тут вижу две проблемы. Первая состоит в том, что новички, которые решат сильно полагаться на нейросети, по сути стреляют самим себе же по ногам. Ведь новичок вместо того, чтобы учиться, будет тратить время на то, чтобы делать базовый и абстрактный промпт только чтобы получить на выходе мусор как в примерах из прошлой главы. Вторая проблема вот в чём: для того, чтобы задать детализированный промпт, его автор уже должен иметь некоторый опыт и понимание художественных приёмов, которые он не может получить при использовании нейронки. То есть, чтобы от “ИИ” был смысл, тебе всё равно нужно будет штудировать десятки статей о сценарном/писательском мастерстве, знакомиться с хорошими произведениями лично, регулярно залезать на TV Tropes/Posmote.li, банально много практиковаться и прочее. Но даже если вы уже смешарик, и все равно решите побыть “писателем нового образца”, тут скорее всего будет одна из двух ситуаций. В одной вы получите хуету/середняк, но хотя бы будете понимать, как это отредактировать до состояния шедевра, и скорее всего заебётесь в процессе правок настолько, что встанет вопрос, стоило ли оно того, но это какой-никакой старт, убирающий “страх пустого листа”, так что запишем в около плюсик (видите! я объективный и не хейтэр!). В другой ситуации вы посмотрите на то, сколько всего надо будет напечатать в промпте (очень очень точным и исключительно формальным языком, который нейросеть может понять), и сколько раз это всё потом ещё и надо будет повторить даже с одинаковым запросом (потому что нейросеть постоянно глючит (мы уже разобрались, почему)), и сколько полученное надо будет потом редактировать, после чего вы с высокой долей вероятности подумаете «не, в пизду, даже долотом по бересте быстрее сделаю». Ну при условии, что у вас есть какая-то конкретная идея, которую просто надо реализовать, разумеется. Так что, возможности нейросети по экономии вашего времени довольно сомнительны, помогут разве что если вас не заботит качество. Кстати, ещё одно преимущество нас, мясных мешков, состоит в том, что мы даже без чётких и конкретных знаний художественных концепций на академическом уровне, можем попросту чувствовать определённые вещи и как бы в слепую к ним двигаться в рамках творчества, руководствуясь тем, что мы видели в чужом творчестве, но в полной мере не осознавали.ИИ в других творческих областях
Можете в целом пропустить весь этот раздел, так как напрямую с контентом фикбука тут связана лишь отчасти только генерация изображений, но я её сделал, потому что общую картину он дополняет и мне хотелось поговорить и об этом. Начну я с того, с чем я взаимодействовал как минимум не меньше чем с текстовыми генераторами — с нейросетей для генерации изображений. Зачем я вообще это использовал? Ну, я такой человек, которому порой довольно таки сложно описывать персонажей, предметы и локации, не имея перед собой какого-то чёткого визуального референса, ну а ещё я порой просто не уверен, удачная ли идея для дизайна находится в моей голове. При этом, как мой ориджинал на фикбуке, так и та игра, которую я упоминал в первой части статьи, имеют одну очень важную особенность. Их сюжет происходит в сеттинге космо оперы/космического фэнтэзи, а что это для нас значит в контексте видеоигры? Правильно, романсабельные секси инопланетяне. Сама специфика подобных персонажей подразумевает то, что они по сути почти полностью идут из головы, а значит для них не хватает референсов, либо их вообще нет... «не хватает референсов»... Как вы уже поняли, именно здесь нейронки для меня начали сыпаться как карточный домик, перед которым включили вентилятор. Я словил наверное все возможные виды визуальных багов, на какие только нейросети способны. У персонажа специфический цвет кожи навроде красного или зелёного? Нейронка скорее всего решит, что персонаж тупо смуглый ну или, что ещё хуже, даст случайно в паре мест нужный цвет и остальное покроет коричневым. У персонажа есть специфические элементы анатомии? Пойдут в топку. Даже мелкие детали навроде шипов на тельце? Конечно ИИ не осилит и их. Может разве что дать человеку звериные уши и хвост (потому что есть аниме), и дать человеку крылья (потому что есть демоны и ангелы). К примеру, есть у меня в ориджинале такой персонаж. Староста в студенческой группе главной героини, он из расы гуманоидных (иногда) арахноидов, из-за чего проистекают “паучьи лапы” на спине и 6 глаз, ну и ещё угольно-чёрная кожа с белыми волосами, плюс специфические очки, которые покрывают все его глаза. По задумке, он, не смотря на свой откровенно стрёмный вид, такой хороший вежливый и интеллигентный парень, хоть и предприимчивый по части продажи своих знаний более ленивым студентам. Как следствие, большую часть времени у него либо спокойное выражение лица, либо лёгкая дружелюбная улыбка. Как же нейронка справилась с этим образом? Да никак, лол. Она просто нарисовала мне стандартного человека, но рядом с ним отдельно были пририсованы мультяшные пауки разной степени всратости, но мой любимый пример, это тот, на котором паучок в мини-юбке! нависает над лежащим человеком (так она адаптировала тег “студенческая униформа” из промпта, скорее всего), я этот шедевр наверное скину в свой тг канал, если там 20 человек наберётся. Вот эти паучьи проблемы это просто один из свежих примеров, все траблы с нейроизображениями, которые у меня были по этой части, я уже и не вспомню, их просто было слишком много. И некоторые из вас тут могут сказать: «ну это ты фрик, и очевидно, что такие сложные запросы без референсов сложно будет сделать даже живому художнику». Но проблема в том, что на деле и в генерации обычных, казалось бы, людей, у нейросетей очень много проблем. Вы даже не представляется, насколько сложно получить от нейронки изображение девушки мулатки с нужным оттенком кожи или привлекательной женщины за 30 без абсурдных “арбузов” размером с буквальные арбузы, это такой “Mission Imposible” что даже сам Том Кукуруз нервно закурит в сторонке (а ещё практически невозможно получить изображение мужчины кицунэ или мужчины эльфа, который не будет выглядеть как фембойчик или неотёсанный человек, а вот именно как тот самый изящный зрелый мужчина с длинными волосами и острыми ушами. Ну, по крайней мере, если вас заботит качество и вы не хотите закинуть на обложку изображение с невнятной кляксой вместо лица, как у некоторых). А ведь это я ещё молчу про проблемы с одеждой, нейросеть банально не знает, что такое “каффы” (это такие серёжки, которые как бы крепятся без прокола) “engagaеntes” (сам не помню уже, что это) или “митенки” (перчатки с вырезами). Но более бесячая штука касается языковых проблем, когда ты просишь пиджак и раз за разом получаешь куртку, потому что в английском блин и то и другое это Jacket, даже те нейронки, которые делали вид, что понимают русский язык, на деле как бы говорили мне “English, motherfucker, do you speak it?!». И поверх всего этого ещё наслаивается часть тех проблем, которые и для генераторов текста справедливы, ведь даже когда ты добавляешь в промпт по несколько уточнений на каждый из этих пунктов, нейросеть будет буквально десятки раз подряд игнорировать каждый из них, чтобы потом сделать один удачный вариант и вернуться к своему тупому и искажённому варианту “я художник я так вижу”. Короче говоря, получить хотя бы приемлемые обложки или арты с персонажами для вашей литературы через нейросети крайне проблематично, хоть и не невозможно... Напомните, а почему это куча художников осталась без работы и заказов? Актёры озвучки. Вкратце... я вообще должен говорить, что тут нейросеть не справится вот вообще никак? Ну я хз, попробуйте дать какие-то эмоциональные диалоги гугл-переводчику или донатному голосу стримеров, до оскара там будет так же далеко, как до альфа центавры раком на инвалидной коляске. Тем не менее, слегка парадоксальным образом сильнее, чем они от нейросетей пострадали, наверное, только художники. В эту сферу стало заметно сложнее влиться, так как всякие роли “третьего справа в десятом ряду” из игр и дешёвого аниме начали отдавать ИИ в целях экономии. Личности со звёздными ролями ещё как-то живут, потому что их участие могут использовать в маркетинговых целях, а вот простые работяги и новички актёры бугуртят. Но как бы продюсеры издревле ещё меньше за людей держали, наверное только рабочих аниматоров, которые всей грязной скучной и рутинной работой занимаются... кстати о них. Анимация и аниматоры. Если вкратце, примерно то же самое, что и генераторы статичных картинок, только теперь они ещё крайне неестественно и стрёмно двигаются, вызывая эффект зловещей долины. А ведь тут нам в качестве безумно наглядного примера Беларусь на налоги граждан! подкинула первый нейросетевойНейросети и этичность
ИИ — это воровство, точка. Однако воровство от ИИ это всегда очень скользкая тема, главная проблема тут состоит в том, что пользователь не может полностью проконтролировать то, какой материал нейронки будут использовать, то есть там может быть вообще всё от работ тех авторов, которые запрещали использовать своё творчество для генерации, и до того, что пользователю не принадлежит, но уже стало частью нейронки. То, что использование текстов от ИИ по крайней мере пока юридически не приравнено к воровству, ещё не значит, что оно им не является. Но даже если это признают воровством, то отслеживать это будет крайне проблематично если вообще возможно. ИИ — это массовые сокращения, в ходе которых бездушные корпорации бездушно лишают тысячи людей работы, не столько потому, что нейросети лучше справляются, сколько потому, что они всегда ищут способы заработать или сэкономить на чём-либо, им плевать на свою репутацию до тех пор, пока репутационные потери не конвертируются в проблемы финансовые. Сотрудники в таких реалиях это расходный материал, нейросети дали корпорациям ещё один повод вытереть о них ноги, случаев таких увольнений уже слишком много, чтобы на чём-то одном внимание заострять.У нейросетей проблемы?
Я от нейронщиков часто встречаю мнение, что наша жизнь уже окончательно и бесповоротно изменилась на «до нейросетей» и «после», что фарш уже не провернуть назад, и что нам всем придётся просто окончательно принять этот дивный и кринжовый новый мир. Как минимум один разумист до удаления его аккаунта на фикбуке вообще в крайне грубой форме писал «адаптируйся или сдохни» и напрямую называл в своей статье его оппонентов “долбаёбами”. Даже часть антинейронной оппозиции высказывалась об этом............ но так ли это? Ну, в смысле, вы не подумайте. Я не утверждаю, что нейросети полностью исчезнут просто потому, что я так хочу. К сожалению, это не так, в какой-то форме они действительно уже останутся с нами навсегда (как и то, что они уже породили), особенно в свете того, что они как-то да развиваются. Но я, по ряду причин, считаю, что их популярность и уровень свободы со временем сильно упадут. Почему я так думаю? Ну, для начала, самый очевидный пункт, кампания Open Ai — создатели Chat GPT и некоторых других нейросетевых разработок каждый год терпит только убытки (технически доходы тоже растут, но расходы растут сильнее). Просто представьте, насколько ебанутое количество вычислительных мощностей тратится на обработку информации необходимой для генерации запросов миллионов людей на планете, каждый, мать его, день. Мы, скорее всего, говорим о числах с десятками, если не сотнями нулей. Для поддержания всего этого требуются колоссальные денежные траты. Добавьте к этому то, что нейросети сами по себе приносят не так уж много денег,Почему нейросети всё равно цветут и пахнут в творчестве (пока)?
Делюзия — это стойкое, ложное убеждение, которое не соответствует реальности и не поддается коррекции логическими аргументами или фактами. Спасибо, гугл. Как это относится сейчас к нам? Всё довольно просто. Я имею в виду, наш мозг на самом деле довольно ленивая штука, он никогда не хочет реально работать, чтобы экономить ресурсы. И это не что-то уникальное, у каждого из нас есть какие-то свои вещи, которые мы хотим сделать... но каждый раз, когда мы думаем об их непосредственной реализации, включается лень, «как нибудь потом», или «да у меня все равно не получится». Вопрос лишь в том, что мы всё-таки реализовываем, а на что-то забиваем. В то же самое время вокруг творчества есть некий ареол чего-то прекрасного, чувственного, возвышенного и приятного, особенно если результат этого самого творчества реально заходит людям. Я это к тому, что, прости сатана, “нейрописатели”, “нейрохудожники” и прочие “нейро- кто-то” просто тоже хотят прикоснуться к ощущениям, которые может подарить творчество, но при этом вообще нихуя не хотят реально стараться ради этого. Оно и понятно, стиль формируется долго, путём проб ошибок и нелестной критики, скилл нарабатывается годами, и даже после того, как ты выходишь на уровень, на котором твои работы ну объективно как минимум неплохи, они всё ещё будут нравиться далеко не каждому, потому что банально у всех разные вкусы, а свои работы ведь ещё и раскручивать надо... Ну и в таких реалиях может стать привлекательной идея просто сделать промпт для “творчества нового образца”, это будет всяко проще. Поэтому и за делюзию того, что нейронщики теперь тоже творцы, они цепляются настолько сильно, насколько могут. В этой ситуации поражение для них по сути означает признать, что они до сих пор ничего не добились. А наш мозг тот ещё любитель когнитивных искажений, он очень сильно не хочет признавать, что проебался. Нейронщикам после всего этого я разве что могу сказать «нормально делай, нормально будет». Если хочешь реально быть писателем/художником/музыкантом, изволь реально стараться и прикладывать усилия, а не просто блин прогонять уже сгенерированный текст через нейросеть снова, это не старание. А промпт «напиши в стиле Сапковского» это не придание индивидуальности, это наглый плагиат.Послесловие
Примеров самого разного нейро кринжа попросту слишком много, так как список обновляется в реальном времени. А как следствие, я физически не способен охватить все проблемы нейросетей даже в рамках писательства (по крайней мере в адекватный срок), но я парень не гордый и способный работать в команде. Тем более, что мне уже человек 5 или 7 через публичную бету указали на разные ошибки указывали в прошлой главе (за что им честь и хвала), это уже, можно сказать, народная статья, лол. Поэтому я предлагаю тем, кто это прочитает, рассказать мне в личке о своём опыте применения нейросетей, либо опыте знакомства с нейропродуктами. Особенно если вы можете раскрыть отдельные темы под каким-то незатронутым мною углом, особенно если вы можете что-то сказать о нейронках в той же музыке, или ещё больше о нейронках в иллюстрациях, ну или если у вас просто хотя бы будет что-то смешное или запоминающееся. Уверен читатели смогут подкинуть контента не меньше, чем авторы. Если материала наберётся достаточно, я сделаю ещё одну часть этой статьи в которой этот опыт будет собран. Я как минимум укажу авторство ваших мыслей в тексте, как максимум вообще укажу вас как соавтора/бету/гамму (не важно), если материал будет ну очень хорош. Я хочу сделать так, потому что ну, скажем прямо, очень много людей читает только содержимое самого фанфика, не заглядывая в комменты вообще, либо заглядывая только на самый верх (да я и сам так делаю, если честно), так что, если все эти мысли будут собраны в полноценной главе, то скорее всего больше людей это увидят. Кроме того, я собрал набор ссылок на материалы авторов не с Фикбука, которые так же высказывались на эту тему. Если у вас есть какие-то хорошие ролики или статьи на тему, также пишите мне в личку, я добавлю их в эту статью с указанием на героя, который эту ссылку дал (после ознакомления с материалом, само собой). Вот кстати мой телеграмм канал, если хотите увидеть нейро паука в юбке, который харасит бедного студента. (https://t.me/Time_toAction)Дополнительные материалы. Видео
Ролик на тему, почему нейросети всегда врут. Автор Тостер скрипт (https://www.youtube.com/watch?v=Ip2_wpHLv-k) Ролик о физическом вреде нейросетей. Автор Netstalkers (https://www.youtube.com/watch?v=oNPgSDG4QPo&t=46s) О май гад, ролик о том, как творцы могут защитить своё творчество от нейросетей путём "отравления" своего материала, без писательского пункта к сожалению, но все равно любопытен сам факт, что этого можно добиться. Автор Netstalkers (https://www.youtube.com/watch?v=CWic8pzEr4I&t=257s) Ролик о том, что нейросетевые продукты не вывозят. Автор Netstalkers (https://www.youtube.com/watch?v=5at0RCoPrhU) Почти часовой ролик, который можно приурочить к проблемам нейросетей по части изображений и анимации. Автор Аниманьяк (https://www.youtube.com/watch?v=zsIPQ3cFEag&t=2167s) Обзор беловежской пущи с большим количеством кадров этого шедевра, если вы ещё не видели. Автор Chuckrewiew (https://www.youtube.com/watch?v=noBHDhmjl5s&t=18s) Проблемы нейросетей в сфере видеоигр с затрагиванием актёров озвучки. Автор Дмитрий Бурдюков (https://www.youtube.com/watch?v=6-gA_rcVh_0) Бомбёж художницы на то, что у другой художницы нейронка скопировала стиль против её воли. Автор Лера Руки-Пэнселы (https://www.youtube.com/watch?v=3pSpP3VFqp8) Разбор на ролик от одного премного неуважаемого блогера в сфере анимации который нейронки защищает. Автор Levi Overdeath препарирует DTV Animation (https://www.youtube.com/watch?v=GGvSaq2u-wQ) Бомбёж художницы на ситуацию в целом, осторожно, тут очень много мата. Автор Marias (https://www.youtube.com/watch?v=mr-LxzVZvDc) Ролик про нейросети в книжной индустрии. Автор Полина Парс. (https://www.youtube.com/watch?v=957hOfzAols) Нейросети в видео на ютубе. Автор Сыендук (https://www.youtube.com/watch?v=0Lcg3601Opk) Нейросети в рекламе. Автор Сыендук (https://www.youtube.com/watch?v=_PtFdKqLF_E) Ещё нейросети в анимации. Автор Сыендук (https://www.youtube.com/watch?v=tk-zdYbaO6Y&t=242s) Нейросетевой кринж. Автор сыендук (https://www.youtube.com/watch?v=bt4RA3z8cU8) Ещё один ответ разбор художницы на видео одного скептика. Автор Liza Padal разбирает ролик от Conway. (https://www.youtube.com/watch?v=ICf186zyAfk) Дополнение от 31.01.2026. Ролик о том что нейросети это один большой и переоценённый пузырь. Авторы Point (https://www.youtube.com/watch?v=F_WrPU79r1A)Дополнительные материалы. Статьи.
Статья не только об этом но тут я нашёл инфу об иске от гильдии авторов. (https://trends.rbc.ru/trends/industry/65d6f9339a7947162696954f) Статья об иске от художников на Mid jorney. (https://www.theverge.com/2023/1/16/23557098/generative-ai-art-copyright-legal-lawsuit-stable-diffusion-midjourney-deviantart) Статья на фикбуке о том как распознавать ии текст. Автор maseranas (https://ficbook.net/readfic/019bf5f9-0659-7eee-b049-41691207757b)