ProxyAPI Pro: Assistants API, Code Interpreter, Vector Store

По многочисленным просьбам мы добавляем поддержку OpenAI Assistants API вместе с Code Interpreter и Vector Store в наш сервис!

Что такое Assistants API?

Всем, кто работал с OpenAI API, известно, что языковые модели могут поддерживать диалог так, что каждое новое сообщение добавляется к истории переписки. Вместо того чтобы каждый раз начинать диалог заново, можно посылать дополнительные вопросы, сохраняя общий контекст. Однако программист, занимающийся интеграцией, должен был самостоятельно отправлять всю историю общения с моделью. Assistants API берет на себя задачу хранения истории переписки и выбора сообщений, которые будут непосредственно отправлены в языковую модель для запроса с помощью алгоритмов, которые были использованы в знаменитом ChatGPT.

Что такое Vector Store?

Это хранилище данных, к которым модель может обращаться для формирования ответа и которые нет необходимости передавать вместе с контекстом. Размер таких данных может значительно превышать контекстное окно. Например, в векторное хранилище (vector store) можно загрузить всю документацию по проекту и спрашивать модель о ней без необходимости задавать дополнительный контекст. API автоматически выберет нужную информацию из хранилища и отправит её вместе с запросом к модели.

Что такое Code Interpreter?

В 2023 году по сети разлетелись ролики, в которых пользователи загружали файлы с данными в ChatGPT и просили проанализировать их, построить графики или провести какие-то вычисления. Это стало возможным благодаря тому, что языковые модели генерировали код и исполняли его на стороне API, возвращая пользователю конечный результат. Этот механизм называется Code Interpreter, и он теперь тоже доступен в ProxyAPI.

Подписка

Раньше доступ к этому расширенному функционалу OpenAI был возможен только в рамках нашего предложения ProxyAPI Business с высокими требованиями к минимальному бюджету и длительности контракта. Теперь получить доступ к Assistants API и остальным инструментам, о которых мы здесь упомянули, может любой пользователь ProxyAPI, оформив подписку в личном кабинете.

Больше информации:

Если есть вопросы:

Я правильно понимаю, что при оплате за месяц использование Assistants API, Vector Store и Code Interpreter безлимитно?

В стоимость подписки входит собственно доступ к расширенному функционалу. Потребление Assistants API тарифицируется как обычные запросы к языковой модели, Vector Store тарифицируется по объему данных (первый гигабайт бесплатно), Code Interpreter тарифицируется по сессиям. Для более подробной информации смотрите раздел ProxyAPI Pro. Цены: ProxyAPI - Тарифы