模型概况

模型管理用于对接供应商的大语言模型,支持对接主流的大模型,包括本地私有大模型(Llama 3 / Qwen 2 等)、国内公共大模型( DeepSeek / SILICONFLOW / Kimi / 通义千问 / 智谱 AI / 百度千帆 等)和国外公共大模型(OpenAI / Azure OpenAI / Anthropic / Gemini 等),支持的类型包括文本生成、向量模型、重排、语音识别、语音合成、视觉模型、图片生成等。

各供应商支持的类型详情见下表(按字母排序):

大语言模型 向量模型 重排模型 语音识别 语音合成 视觉模型 图片生成
阿里云百炼
Anthropic
Amazon Bedrock
Azure OpenAI
DeepSeek
Gemini
kimi
OpenAI
通义千问
SILICONFLOW
腾讯云
腾讯混元
火山引擎
千帆大模型
讯飞星火
智谱 AI
本地模型
Ollama
vLLM
Xorbits Inference

登录 MaxKB 系统后,可以先对接模型,也可以在创建应用时再添加模型。添加模型时,可先点击【添加模型】,然后选择供应商,也可以左侧先选择供应商,然后点击【添加模型】。