Совместимость с OpenAI

Careti поддерживает широкий спектр провайдеров моделей ИИ, которые предлагают API, совместимые со стандартом OpenAI API. Это позволяет использовать модели от провайдеров, отличных от OpenAI, при этом используя привычный интерфейс API. Сюда входят такие провайдеры, как:

• Локальные модели, работающие через такие инструменты, как Ollama и LM Studio (которые описаны в соответствующих разделах).
• Облачные провайдеры, такие как Perplexity, Together AI, Anyscale и многие другие.
• Любой другой провайдер, предлагающий эндпоинт API, совместимый с OpenAI.

Этот документ посвящен настройке провайдеров, отличных от официального OpenAI API (у которого есть собственная страница конфигурации).

Общая конфигурация

Ключом к использованию провайдера, совместимого с OpenAI, в Careti является настройка следующих основных параметров:

1. Base URL: Это эндпоинт API, специфичный для провайдера. Это не будет https://api.openai.com/v1 (этот URL предназначен для официального OpenAI API).
2. API Key: Это секретный ключ, который вы получаете от выбранного провайдера.
3. Model ID: Это конкретное имя или идентификатор модели, которую вы хотите использовать.

Вы найдете эти настройки в панели настроек Careti (нажмите на иконку ⚙️):

• API Provider: Выберите "OpenAI Compatible".
• Base URL: Введите Base URL, предоставленный вашим провайдером. Это важный шаг.
• API Key: Введите ваш API Key от провайдера.
• Model: Выберите или введите Model ID.
• Model Configuration: Этот раздел позволяет настраивать расширенные параметры модели, такие как:
  • Max Output Tokens
  • Context Window size
  • Image Support capabilities
  • Computer Use (например, для моделей с вызовом инструментов/функций)
  • Input Price (за токен/миллион токенов)
  • Output Price (за токен/миллион токенов)

Поддерживаемые модели (для нативного эндпоинта OpenAI)

Хотя тип провайдера "OpenAI Compatible" позволяет подключаться к различным эндпоинтам, если вы подключаетесь напрямую к официальному OpenAI API (или эндпоинту, который его полностью дублирует), Careti распознает следующие Model ID на основе определения openAiNativeModels в своем исходном коде:

• o3-mini
• o3-mini-high
• o3-mini-low
• o1
• o1-preview
• o1-mini
• gpt-4o
• gpt-4o-mini

Примечание: Если вы используете другого провайдера, совместимого с OpenAI (например, Together AI, Anyscale и т. д.), доступные Model ID будут отличаться. Всегда обращайтесь к документации вашего конкретного провайдера для уточнения названий поддерживаемых моделей и уникальных деталей конфигурации.

v0 (Vercel SDK) в Careti:

• Для разработчиков, работающих с v0, документация их AI SDK содержит ценные сведения и примеры интеграции различных моделей, многие из которых совместимы с OpenAI. Это может быть полезным ресурсом для понимания того, как структурировать вызовы и управлять конфигурациями при использовании Careti с сервисами, развернутыми на Vercel или интегрированными с ним.

• v0 можно использовать в Careti с провайдером OpenAI Compatible.

• Быстрый старт

• 1. Выбрав провайдера OpenAI Compatible, установите Base URL на https://api.v0.dev/v1.
• 2. Вставьте ваш v0 API Key
• 3. Установите Model ID: v0-1.0-md
• 4. Нажмите Verify, чтобы подтвердить соединение.

Устранение неполадок

• "Invalid API Key": Убедитесь, что вы правильно ввели API Key и что он предназначен для нужного провайдера.
• "Model Not Found": Убедитесь, что вы используете допустимый Model ID для выбранного провайдера и что он доступен по указанному Base URL.
• Connection Errors: Проверьте правильность Base URL, доступность API вашего провайдера с вашего компьютера, а также отсутствие проблем с брандмауэром или сетью.
• Unexpected Results: Если вы получаете неожиданные результаты, попробуйте другую модель или перепроверьте все параметры конфигурации.

Используя провайдера, совместимого с OpenAI, вы можете задействовать гибкость Careti с более широким спектром моделей ИИ. Не забывайте всегда обращаться к документации вашего провайдера за наиболее точной и актуальной информацией.