Цепочка мыслей
Цепочка мыслей (Chain of Thought, CoT), также Цепь мыслей — особенность работы LLM, которые разделяют сложную задачу на несколько и постепенно её выполняют. При этом их рассуждения оказываются доступны для задавателя вопроса и разработчиков, что позволяет оценить, как решается вопрос.
Описание[править]
Если ИИ задаётся довольно сложный вопрос или используется сильный контекст, то вполне вероятно, что он может взять и ошибиться. Чем больше и сложнее запрос, чем больше нюансов, тем больше странных ошибок возникает в нейросети, и она становится на практике бесполезной, так как постоянно ошибается.
И вот было найдено решение — для таких задач делается разбиение задачи на некоторые шаги, которые затем исполняются по очереди. Каждая задача проста логически и соответственно нейросеть с высокой степенью вероятности может её корректно выполнить, а соответственно и вся задача оказывается отработана.
Нынче такая методика применяется во всех ИИ, где используется модификатор Thinking. Робот как бы последовательно думает над тем, что было задано в качестве вопроса. В результате часто получается отличный результат, который наполнен нюансами, в процессе мышления ботыч может и делать запросы в сеть.
Особенности[править]
Интересно, что механика цепочки мыслей использовалась для наблюдения за намерениями модели, которая радостно начинала жульничать, если считала, что таким образом более эффективно выполнит поставленное задание. При этом намеренное обучение против жульничества учило скрывать методы из цепочки мыслей, но жульничество оставалось.
