Skip to main content

VS Code Language Model API

Careti предлагает экспериментальную поддержку VS Code Language Model API. Этот API позволяет расширениям предоставлять доступ к языковым моделям непосредственно внутри среды VS Code. Следовательно, вы сможете использовать модели из:

  • GitHub Copilot: При условии, что у вас есть активная подписка Copilot и установлено расширение.
  • Другие расширения VS Code: Любое расширение, реализующее Language Model API.

Важное примечание: Данная интеграция в настоящее время находится в экспериментальной фазе и может работать не так, как ожидалось. Её функциональность зависит от того, насколько корректно другие расширения реализуют VS Code Language Model API.

Предварительные требования​

  • VS Code: Language Model API доступен через VS Code (в настоящее время он не поддерживается в Cursor).
  • Расширение-провайдер языковой модели: Требуется расширение, которое предоставляет языковую модель. Примеры включают:
    • GitHub Copilot: При наличии подписки Copilot расширения GitHub Copilot и GitHub Copilot Chat могут выступать в роли провайдеров моделей.
    • Альтернативные расширения: Изучите VS Code Marketplace на предмет расширений, упоминающих «Language Model API» или «lm». Могут быть доступны другие экспериментальные варианты.

Шаги настройки​

  1. Убедитесь, что аккаунт Copilot активен и расширения установлены: Пользователь, вошедший в расширение Copilot или Copilot Chat, должен иметь возможность получить доступ через Careti.
  2. Откройте настройки Careti: Нажмите на иконку шестеренки (⚙️), расположенную в панели Careti.
  3. Выберите провайдера: Выберите «VS Code LM API» в выпадающем меню «API Provider».
  4. Выберите модель: Если расширения Copilot установлены и пользователь вошел в свой аккаунт Copilot, выпадающий список «Language Model» через некоторое время заполнится доступными моделями. Соглашение об именовании — vendor/family. Например, если Copilot активен, вы можете увидеть такие варианты, как:
    • copilot - gpt-3.5-turbo
    • copilot - gpt-4o-mini
    • copilot - gpt-4
    • copilot - gpt-4-turbo
    • copilot - gpt-4o
    • copilot - claude-3.5-sonnet ПРИМЕЧАНИЕ: эта модель не работает.
    • copilot - gemini-2.0-flash
    • copilot - gpt-4.1

Для достижения наилучших результатов с провайдером VS Code LM API мы рекомендуем использовать модели OpenAI (GPT 3, 4, 4.1, 4o и т. д.)

Текущие ограничения​

  • Статус экспериментального API: VS Code Language Model API все еще находится в стадии активной разработки. Будьте готовы к возможным изменениям и нестабильности.
  • Зависимость от расширений: Эта функция полностью зависит от того, предоставляют ли другие расширения доступ к моделям. Careti не контролирует напрямую список доступных моделей.
  • Ограниченная функциональность: VS Code Language Model API может не включать все функции, доступные через других API провайдеров (например, возможность ввода изображений, потоковые ответы, подробные метрики использования).
  • Отсутствие прямого управления затратами: На пользователей распространяются структуры ценообразования и условия обслуживания того расширения, которое предоставляет модель. Careti не может напрямую отслеживать или регулировать связанные с этим расходы.
  • Ограничение частоты запросов (Rate Throttling) GitHub Copilot: При использовании VS Code LM API с GitHub Copilot имейте в виду, что GitHub может накладывать ограничения на частоту использования Copilot. Эти ограничения регулируются GitHub, а не Careti.

Советы по устранению неполадок​

  • Модели не появляются:
    • Убедитесь, что VS Code установлен.
    • Проверьте, что расширение-провайдер языковой модели (например, GitHub Copilot, GitHub Copilot Chat) установлено и включено.
    • При использовании Copilot убедитесь, что вы ранее отправляли хотя бы одно сообщение в Copilot Chat, используя нужную модель.
  • Неожиданная работа: Если вы столкнулись с непредвиденным поведением, скорее всего, проблема связана с базовым Language Model API или расширением-провайдером. Рассмотрите возможность сообщения о проблеме разработчикам расширения-провайдера.