OpenRouter
OpenRouter — мощный провайдер инференса, который работает с оплатой за токены в основном.
Описание[править]
Это очень большой и потужный сайт, который позволяет всираться по API в произвольные модели нейросетей, в том числе и платные. В таком режиме нейронка начинает требовать оплаты за каждое принятое в себя, переработанное и вышедшее тугим потоком слово, так что в зависимости от частоты использования цена на это может значительно таки отличаться.
Хорошо это тем, что на API практически всегда значительно меньше цензуры и нет настолько жирного и малоосмысленного промпта, также иногда можно модифицировать дополнительные параметры, которые обычно редактировать вовсе нельзя.
Имеются и некоторые бесплатные модели, но чтобы в них жужжать как шмель, надобно вначале пополнить баланс. Видимо, так защищаются от ботов, которые делали бы много аккаунтов и затем перегружали систему, работая непрерывно.
Иногда появляются модели сокрывательства, которые имеют кодовое название и с ними можно пожужжать, часто бесплатно, оценить их возможности. Такие модели предоставляют сильные поставщики услуг симулякерного мышления, которые желают проверить свои модели посредством их тестирования людьми. Так что обычно спустя несколько дней такая модель скурвляется, получает имя и как и всякая курва становится платной, причём цена может оказаться внушительной.
В целом сайт жужжит хорошо, как приятный такой жирненький шмель.