А вы знали, что ИИ не только выдумывает несуществующие источники, но и неверно прикрепляет существующие?

Фейковые источники почти гарантированы, если вы просите ИИ накидать вам план по какой-то теме и подтащить к нему базу из пяти и более источников. Выдуманных там может оказаться от 10 до 50%. Причём, когда вы на них смотрите в списке, выглядеть они будут очень убедительно: какие-то смутно знакомые фамилии авторов, свежая дата, релевантный и убедительно звучащий заголовок. Когда же вы используете ИИ как поисковик-обзорщик, он даёт вам сгенерированный ответ на вопрос, который, якобы, подтверждается ссылками на источники. А теперь внимание: точность ответов, скажем, Google AI Overviews (если что, классического поиска гугл больше нет - то, что мы видим, только слегка имитирует его интерфейс) повышается и может достигать 91%, при этом он неправильно атрибутирует источники в 11% по одним источникам (https://arxiv.org/pdf/2605.14021) и от 37 до 56% - по другим (https://searchengineland.com/google-ai-overviews-accuracy-wrong-answers-analysis-473837). Ищите по ключевой фразе "ungrounded answers". Что это значит, если посмотреть на количество правильных ответов и количество неправильных ссылок одновременно? То, что пользователи всё ещё получают миллионы сгаллюцинированных ответов и при этом не могут быстро проверить информацию, потому что им просто дают не те ссылки. Ну, то есть одно дело, когда тебе правильно сказали, что новые вакцины от ковида помогают избежать госпитализации в 72% случаев, и при этом дали ссылку непонятно куда, и совсем другое, когда ты видишь в ссылках ВОЗ, Mayo Clinic или CDC, а в ответе что-то про лечение кори витамином А. В связи с этим и не только с этим я особенно радуюсь /сарказм/, когда вижу заявления о том, что ИИ хейтят те, кто его не понимает или не умеет им пользоваться. Riiiight. И разработчики из самого Гугл, которые на внутреннем форуме постят мемы про дерьмовость ИИ - это тоже такие недалёкие люди, которые едва-едва начали разбираться, что к чему😅 Бедный, несчастный, никем не понятый ИИ, давайте его пожалеем. Нет. Дисклеймер: да не хейтит автор ИИ! Я просто говорю, что с ним нужно обращаться осторожно и, наверное, не засовывать его в те сферы жизни, где люди и так справлялись.