- Início
- Assistente de Código AI
- LiteLLM
LiteLLM
LiteLLM is an open-source library that simplifies LLM completion and embedding calls. It provides a convenient and easy-to-use interface for calling different LLM models.
LiteLLMIntrodução
O que é LiteLLM?
LiteLLM é uma biblioteca de código aberto que simplifica a conclusão e incorporação de chamadas de LLM. Ele fornece uma interface conveniente e fácil de usar para chamar diferentes modelos de LLM.
Como usar LiteLLM?
Para usar o LiteLLM, você precisa importar a biblioteca 'litellm' e definir as variáveis de ambiente necessárias para as chaves da API do LLM (por exemplo, OPENAI_API_KEY e COHERE_API_KEY). Uma vez que as variáveis de ambiente são definidas, você pode criar uma função Python e fazer chamadas de conclusão LLM usando LiteLLM. LiteLLM permite que você compare diferentes modelos de LLM, fornecendo um campo de jogo de demonstração onde você pode escrever código Python e ver as saídas.
Casos de uso do LiteLLM
Recursos principais do LiteLLM
As principais características do LiteLLM incluem chamadas simplificadas de completação e incorporação de LLM, suporte a vários modelos de LLM (como GPT-3.5-turbo e comando noturno de Cohere) e um campo de jogo de demonstração para comparar modelos de LLM.
FAQ do LiteLLM
Quais modelos de LLM o LiteLLM suporta? LiteLLM pode ser usado para fins de pesquisa? LiteLLM tem seus próprios preços?
Qual é o parque de jogo de demonstração no LiteLLM?