模型概况
模型管理用于对接供应商的大语言模型,支持对接主流的大模型,包括本地私有大模型(Llama 3 / Qwen 2 等)、国内公共大模型( DeepSeek / SILICONFLOW / Kimi / 通义千问 / 智谱 AI / 百度千帆 等)和国外公共大模型(OpenAI / Azure OpenAI / Anthropic / Gemini 等),支持的类型包括文本生成、向量模型、重排、语音识别、语音合成、视觉模型、图片生成等。
各供应商支持的类型详情见下表(按字母排序):
大语言模型 | 向量模型 | 重排模型 | 语音识别 | 语音合成 | 视觉模型 | 图片生成 | |
---|---|---|---|---|---|---|---|
阿里云百炼 | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ |
Anthropic | ✔ | ✔ | |||||
Amazon Bedrock | ✔ | ✔ | |||||
Azure OpenAI | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | |
DeepSeek | ✔ | ||||||
Gemini | ✔ | ✔ | ✔ | ✔ | |||
kimi | ✔ | ||||||
OpenAI | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | |
通义千问 | ✔ | ✔ | ✔ | ||||
SILICONFLOW | ✔ | ✔ | ✔ | ✔ | ✔ | ||
腾讯云 | ✔ | ||||||
腾讯混元 | ✔ | ✔ | ✔ | ✔ | |||
火山引擎 | ✔ | ✔ | ✔ | ✔ | ✔ | ||
千帆大模型 | ✔ | ✔ | |||||
讯飞星火 | ✔ | ✔ | ✔ | ✔ | |||
智谱 AI | ✔ | ✔ | ✔ | ||||
本地模型 | ✔ | ✔ | |||||
Ollama | ✔ | ✔ | ✔ | ✔ | |||
vLLM | ✔ | ✔ | ✔ | ||||
Xorbits Inference | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ |
登录 MaxKB 系统后,可以先对接模型,也可以在创建应用时再添加模型。添加模型时,可先点击【添加模型】,然后选择供应商,也可以左侧先选择供应商,然后点击【添加模型】。