LiteLLM

LiteLLM是一個開源庫，簡化了LLM完成和嵌入調用。 它為調用不同的LLM模型提供了一個方便易用的介面。

要使用LiteLLM，您需要導入“LiteLLM”庫，並為LLM API鍵設定必要的環境變數（例如OPENAI_API_KEY和COHERE_API_KEY）。 設定環境變數後，您可以創建一個Python函數，並使用LiteLLM進行LLM完成調用。 LiteLLM允許您通過提供一個演示平臺來比較不同的LLM模型，您可以在其中編寫Python程式碼並查看輸出。