模型概况
模型管理用于对接供应商的大语言模型,支持对接主流的大模型,包括本地私有大模型(Llama 3 / Qwen 2 等)、国内公共大模型( DeepSeek / SILICONFLOW / Kimi / 通义千问 / 智谱 AI / 百度千帆 等)和国外公共大模型(OpenAI / Azure OpenAI / Anthropic / Gemini 等),支持的类型包括文本生成、向量模型、重排、语音识别、语音合成、视觉模型、图片生成等。
各供应商支持的类型详情见下表(按字母排序):
| 大语言模型 | 向量模型 | 重排模型 | 语音识别 | 语音合成 | 视觉模型 | 图片生成 | |
|---|---|---|---|---|---|---|---|
| 阿里云百炼 | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ |
| Anthropic | ✔ | ✔ | |||||
| Amazon Bedrock | ✔ | ✔ | |||||
| Azure OpenAI | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | |
| DeepSeek | ✔ | ||||||
| Gemini | ✔ | ✔ | ✔ | ✔ | |||
| kimi | ✔ | ||||||
| OpenAI | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | |
| 通义千问 | ✔ | ✔ | ✔ | ||||
| SILICONFLOW | ✔ | ✔ | ✔ | ✔ | ✔ | ||
| 腾讯云 | ✔ | ||||||
| 腾讯混元 | ✔ | ✔ | ✔ | ✔ | |||
| 火山引擎 | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | |
| 千帆大模型 | ✔ | ✔ | |||||
| 讯飞星火 | ✔ | ✔ | ✔ | ✔ | |||
| 智谱 AI | ✔ | ✔ | ✔ | ||||
| 本地模型 | ✔ | ✔ | |||||
| Ollama | ✔ | ✔ | ✔ | ✔ | |||
| vLLM | ✔ | ✔ | ✔ | ||||
| Xorbits Inference | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ |
登录 MaxKB 系统后,可以先对接模型,也可以在创建应用时再添加模型。添加模型时,可先点击【添加模型】,然后选择供应商,也可以左侧先选择供应商,然后点击【添加模型】。