ИИ не понимает математику
ИИ не понимает математику — интересный факт.
Описание[править]
Многие воспринимают ИИ как некий оракул или гения, который способен решить всё вопросы, достаточно его просто подключить, закукарекать промпт и он выдаст ответ. Спрашивают про всё подряд, в том числе например и предлагают ИИ принимать сильные финансовые решения, скажем спрашивают куда инвестировать деньги.
Но на самом деле LLM вовсе не умеет считать, и опять же опирается на информацию из интернетов, где показаны популярные подсчёты. Так что если спросить ИИ сколько будет два плюс два, то он скорее всего верно ответит четыре, так как на этот вопрос дохрена ответов в интернетах.
Но при всём при этом ИИ остаётся системой для предсказания токенов и не более того.
Из-за этого он не выполняет математические операции в прямом смысле, а только повторяет отчёты о выполненных людьми операциях. Так что если в вопрос восрать какое-то ухищрение, скажем добавить ничего не значащее дополнение (с точки зрения логики), которое человек поймёт, то ИИ немедленно начнёт глючить.
В исследовании скажем ИИ задавали вопрос Oliver picks 44 kiwis on Friday. Then he picks 58 kiwis on Saturday. On Sunday, he picks double the number of kiwis he did on Friday, but five of them were a bit smaller than average. How many kiwis does Oliver have? И ИИ видел слово слово five, полагал что речь идёт о вычитании и радостно вычитал это число из финального результата, хотя в реальности дополнение что пять киви были меньше обычного никак не влияет на задачу.
Таким образом не стоит доверять ИИ в математических расчётах.
