Галлюцинации ИИ
Галлюцинации ИИ (также Глюки ИИ) — занимательные особенности работы современных генеративных ИИ, обычно текстовых, когда вначале идёт вроде бы качественный текст, но затем в него вживляется какой-то бред, не имеющий отношения ко оригиналу.
Описание[править]
Генеративные нейросетычи оказались настоящим инновативным инноватусом 2020-х годов, они стали грамотно анализировать большие массивы текстов и затем выдавать качественные ответы, которые зачастую напоминали и человеческие. Быстро ИИ стали использовать всюду, в том числе всирать и в качестве отвечальщиков в разныя сервисы дык.
Однако современные ИИ пока ещё несовершенны, поскольку устроены проще, чем человеческая мозговальня.
И так как их вывод не проводит многократные проверки, как в человеческом разуме, то иногда с точки зрения человека он является абсолютным бредом. Связано это как с ошибками при обучении, так и с использованием произвольных массивов при обучении, например форумов, где иногда пишут разный бред, а ИИ не знает что это бред и инкорпорирует всё в себя.
Получается весьма смешно, и умные люди всегда готовы проржаться сильным смехом над царственным величием ИИ. Но есть и те, чей мозг слабее даже ИИ, такие иногда впадают в ярость от смешных ответов или требуют его запретить вместо того, чтобы порадоваться тому факту, что юмора в их жизни становится больше.
Картинки со смешным бредом от ИИ становятся иногда впопулярными мемами.
Цитаты[править]
Сегодня многие высказывают опасения по поводу галлюцинирующих нейросетей. Дескать, они не правду говорят, как Учитель Учкудук, а часто сочиняют, можно сказать, нагло врут, а потом эти сочинения утекают в интернеты и существуют там на правах реальных фактов, вводя в заблуждение, если не сказать больше, взыскующих Знания людей и прочих существ.
Мы эти опасения гневно отметаем. Ибо в плане достоверности разных общедоступных знаний нейросети совершенно ничего не меняют. Мы и так живём и всегда жили среди продуктов галлюцинирования, только галлюцинировали не железяки, а кожаные ублюдки, и продолжалось это так долго, что насранное успело окаменеть, став каноном. Попробуй убеди кого-нибудь, что «потёмкинские деревни» или «Хрущёв, стучащий туфлёй по трибуне» — продукты галлюцинирования, а в реальности ничего подобного не было.
Есть знание, которое легко проверить лично. Какой-нибудь «закон Ома» — достаточно сунуть пальцы в розетку. С круглостью Земли сложнее, просто так её не проверишь, но есть организации, которые могут, и для которых это важно (например, занимающиеся морскими и авиационными перевозками и нуждающиеся в точной навигации). Если они считают, что Земля круглая — вероятно, так и есть. Может быть, и врут, но смысл в этом углядеть трудно. Форма Земли не задевает ничьих интересов, народу вообще на неё плевать, что делает сложную дорогостоящую фальсификацию слабо обоснованной.
Но бывают знания, точнее, «знания», проверить которые не представляется возможным никак. То есть формально это даже не «знания», а мифы — вот более точное слово, хотя никто их так не назовёт, ведь у них статус «надёжного знания». Часто в существовании этих мифов именно в таком, а не ином виде заинтересованы влиятельные физические и юридические лица, потому что с этим связана их карьера и власть. Из примеров тут античная история, современная экономика и политика, реальные общественные отношения, недокументированные особенности медицины и юстиции, рынок произведений искусства, и многое-многое другое — обо всём этом вы нигде не найдёте истинных сведений, всё, что вы отыщете, будет всё тем же результатом галлюцинирования «кожаных нейросетей» — и не всегда даже злонамеренным результатом.
Приход на это поле железяк ничего катастрофически не меняет, да и аварийно тоже не меняет. Скорее, он даже несколько улучшает сложившееся положение вещей, наконец-то ставя под сомнение то, в чём раньше не сомневались, обесценивая «общеизвестное» и подрывая авторитеты как раз там, где надо, где проверка истинности сообщаемых сведений принципиально неосуществима. Что уже давно следовало сделать.
