Стохастический попугай (stochastic parrot) — то, как на самом деле работают ИИ. Если для человека понимания языка означает, что он сопоставляет реальные видимые объекты со словами, то LLM по сути просто выдаёт самый вероятный токен без какого-то понимания, что вообще этот токен обозначает в реальности, как всем известный попка дурак.
В крайние времена многие стали раскочегаривать ИИ-модели, которые наполняли всё большим количеством параметров и при этом полагали, что если произведут всирание достаточно большого количества материала, то ИИ станет более умным, нежели человек, и сможет решить вообще все проблемы, стоящие перед человечеством. Надежды на это были весьма потужные.
Как все знают, попугай может повторять речь человека, но смысла её не понимает. Так же делает и нейросеть, но объём данных, которые она повторяет, значительно больше. Если при словах кот поймал мышь, человек вполне хорошо себе представляет мощного жирного кота и мышку, то нейронка знает только, что в большом количестве текста эти слова следуют друг за другом.
LLM неплохи в обработке длинных контекстов и статистических зависимостей, но остаются чисто формальными системами. Они не обладают моделью мира и подлинным семантическим пониманием, которое может следовать только из работы с таковой моделью мира. Для них существует только текст. Генерация текста представляет собой поиск следующего токена, в ходе которого модель выбирает следующее слово по вероятностям, выученным из датасета. Это приводит к неплохому на поверхности тексту, но потенциально бессмысленному содержанию.
 Дана им власть летать, они и летают броу |
| Крылатые | Angry Birds • Surfin' Bird • Боклан • Газетная утка • Дятел • Кар • Китайские пингвины • Кишечник • Омская ворона • ОРЛЫ? • Робоцып • Совы нежные • Тукс • Утка на колёсах • Чёрный Плащ • Чирок-свистунок • Красный птеродактиль • Голубь • Пингвин • Ворона • Удар клюва • Пернатый • Питохуй • Орёл • Летучая мышь • Роение • Клюв • Гриф • Птицы • Муха це-це • Осоед • Кукарекалка • Мотыльки на стенах • Мотыльки летят на свет • Мотыльки • Светлячки • Пчёлы • Пчелиный волк • Насекомые • Гнездо • Моль • Выдалбливание • Клювастый • Дятел • Angry Birds Star Wars • Angry Birds Classic • Angry Birds Space • Вакиньян • Стриж • Тарнеголь • Птица мира • Павлин • Сорока • Лебедь • Великий Гоготун • Перья • Язык птиц • Гриф вцепился в хозяина • Почему ворона садится на дерево, а не на землю? • Крылышки есть, он и летает • Змеепетух • Лыбедь • Голубиная почта • Попочки • Дятел спрятался за ствол дерева • Кормление серых гусей • Поескот хуже вороны • Полёт гуся в космос • Высадка гуся на Луну • Горный гусь • Гоготание • Холмогорские гуси • Утята плывут за уткой • Жатецкий гусь • Птахи небесные • Коршун • Пеликан • Не беси гуся • Стохастический попугай • Кто лучше ловит мышей, кошка или сова? • Израильские совы против мышей • Кошки, которым сова преподаёт искусство ловли мышей • Кстати о птичках • Ворон падалью питается да триста лет живёт |
| Властные | Пьяные птицы • Попугай • Утка • Шмель • Орлы с ножами • Трамп летит на орле • Птица-вор • Вультура • Чёрный Морриган • Боевой петух • Петух в городских условиях • Камасоц • Любовь и голуби • Алая Птичка • Тосетакс • Сасналкахи • Кокко • Нападение петуха на человека • Бойтата • Аваскара • Оса • Пуганая ворона куста боится • Гусь • Удод • Стая • Нохча • Фазан • Сова • Атака птицы на человека • Шипение лебедя • Геноцид гусей и уток лебедями • Отличия лебедя от гуся • Дрофа • Фразы про уток, гусей и лебедей • Домашний ворон • Довольно слабый петух • Разведение птиц • Археоптерикс • Орёл (символ Тонатиуха) • Пиесив • Сигве • Corvus Corax • Angry Birds Rio • Вороны Одина • Наблюдение за гусём • Летающие крысы • Одноразовые голуби • Лебединая песня • Птичий язык • Лебедь, рак и щука • Обидчивые вороны • Сокол • Гусь и противень • Кукушка улетела в теплые края • Что пнём о сову, что совой об пень • Медитация на гуся • Гусевой командор • Гусевед • Гусезаводчик • Цвет гуся • Лапы гуся • Клюв гуся • Зрение гуся • Гусиные бои • Тульский бойцовый гусь • Чёрный петух • Голубь в трюфелях • Значимые птичьи зоны • Утка это вам не шутка • Птица села на дельтаплан • Дельтапланерист ведёт за собой гусей • Ушастая сова • Сипуха • Совятник • Выгул голубей • Мурмурация скворцов • Нильский гусь • Гусь атакует дроны • Получить гуся в школе |
| Мемы | Пьяный орёл • Драка индюка и петуха • Птицы это динозавры • Любовь и голуби • Куры • Дятел долбит • С высоты птичьего полёта • Каркалка • Ворона сидит на дереве • Зубастая птица • Благородные хищные птицы vs Жуткий стервятник • Гуси-лебеди • ДятлЪ • Жуткая сова vs Мудрая сова/Милая совушка • Жуткие птички • Забавный попугай vs Жуткий попка • Индюк надутый • Милая уточка • Милый пингвинчик • Мудрый ворон vs Нахальная ворона • Петушок — золотой гребешок/Золотой цыплёнок vs Курочка-дурочка • Поругание птиц в Липецке • Белоголовый орлан • Ручная птица • Гусь гонится за человеком • Гусь спрашивает Кто разгоняет? и преследует • Отлетание • Зовут зовуткой, а величают уткой • ПажЫлой гусь (мультфильм) • Феникс и что-то не то • Old goose • Удод не урод • Атака стаи ворон • Петух улетел в тёплые края • Улетел в тёплые края • Перелётные птицы • Арзамасский гусь • Павел Николаевич Девятов • Павел Алексеевич Твердохлебов • Василий Васильевич Ковшира • Михаил Фёдорович Серов • Виталий Юркин • Евгений Петрович Бевз • Литовский серый гусь • Полёт серого гуся • Пироги, вино и гусь • Серый гусь • Год серого гуся • Египетские гуси как вестник Апокалипсиса • Белая ворона • Последний гусь • Содержание гусей в квартире • Кеннеди спасает скворца • Gooseling (дунхуа) |
| Мета | Мощные звери • Животные |
