SillyTavern
SillyTavern — программа для ролевых игр с использованием нейросетей, которая появилась в мае 2023 года. Стала набирать популярность из-за мощной цензуры на Character.AI и ухудшения качества представленных там ботов.
Суть[править]
Напоминает весьма известное междулицие от Automatic1111, которое позволяет бдительно жужжать с использованием StableDiffusion, и таким образом снабжать свой ЭВМ царственными, властными картинками, которые при этом буквально выходят из генератора, в котором они и появились. Но эта же система построена для LLM, и по этой причине работает несколько иначе.
Теоретически может работать с локальными LLM, которые однако весьма ресурсоемки и могут пожрать и 50 Гб памяти, так что в условиях стандартного компа или тем более ноутбука мало кто их использует, и обычно применяют API.
Так что по сути после постановки программы, которая применяется весьма хитросрако и использует, что ли, локальный скрипт .bat (что переводится как летучая мышь, что как бы намекает), надобно ещё стяжать в себя возможность использовать API, для чего применяются провайдеры инференса. Зачастую применяют OpenRouter для оплаты по токенам или иные провайдеры.
В общем в итоге всирается адрес API и дальше можно пользоваться системой как обычным сайтом для ролевых игр, но при этом есть возможность мощно и потужно редактировать системный промпт, определять параметры вроде температуры и т.д., то есть настраивать весьма и весьма специфично.
Главным вопросом остаётся кто такой Силлай, именем которого названа программа.
Подробности[править]
Это программа-интерфейс, доступная для Windows и мобильных операционных систем, которая позволяет легко взаимодействовать с нейросетями для генерации текста. По сути сама программа не содержит в себе никакой нейросети, она просто взаимодействует с публично доступными моделями, выдавая для них набор инструкций, которые заставят ИИ воспроизводить определённого персонажа или ситуацию.
В числе прочего работает с NovelAI, OpenAI и прочими подобными моделями, тем не менее, как утверждается, может использоваться для обхода цензурных ограничений и генерации материалов определённого характера, что очень популярно у активных пользователей интернета. При этом в кратком описании программы указывается, что «разработчики удивлены такому развитию событий и внимательно наблюдают за ним».
Тем не менее, указывается, что например при попытке работать с GPT-4, стоимость работы с API сильно возрастает из-за особенностей работы программы (посылается вся история общения и описание персонажа), и например после 7 тысяч слов, отправленных в системе, стоимость одного сообщения составит 25 центов, а после 32 тысяч слов — 2 доллара за одно сообщение.
If you’re the child of a Saudi oil sheik, or a nepo baby paid a fortune to do nothing on the board of a Ukrainian gas company, then you’re in luck, you can experience the state of the art right now. For the rest of us however, GPT-4 is too expensive as anything but an occasional treat.
Вообще, описания программы наполнены неплохим юмором, например ссылки на материалы персонажей других пользователей описываются так:
these sites are filled to the brim with weird sh*t. Like, you’ll be lucky if half the characters aren’t furry, or even alive. You’re probably better off not clicking these links, and just write your own characters, without poisoning your soul by exposing it even for a second to the f**ked up sh*t conceived by the Internet
Также система позволяет редактировать не только свои сообщения, но и сообщения бота, что открывает дополнительные возможности по автонаписанию истории.
Ссылки[править]
sillytavernai.com
