模型概况

模型管理用于对接供应商的大语言模型，支持对接主流的大模型，包括本地私有大模型（Llama 3 / Qwen 2 等）、国内公共大模型（通义千问 / 智谱 AI / 百度千帆 / Kimi / DeepSeek 等）和国外公共大模型（OpenAI / Azure OpenAI / Gemini 等），支持的类型包括文本生成、向量模型、重排、语音识别、语音合成、图片理解等。

各供应商支持的类型详情见下表（按字母排序）：

	大语言模型	向量模型	重排模型	语音识别模型	语音合成模型	图片理解模型
阿里云百炼	✔	✔	✔	✔	✔
Amazon Bedrock	✔	✔
Azure OpenAI	✔
DeepSeek	✔
Gemini	✔
kimi-月之暗面	✔
Ollama	✔	✔
OpenAI	✔	✔		✔	✔	✔
通义千问	✔					✔
腾讯混元	✔	✔				✔
vLLM	✔
火山引擎	✔			✔	✔
本地模型		✔	✔
千帆大模型	✔	✔
讯飞星火	✔	✔		✔	✔
Xorbits Inference	✔	✔	✔	✔	✔
智谱 AI	✔

登录 MaxKB 系统后，可以先对接模型，也可以在创建应用时再添加模型。添加模型时，可先点击【添加模型】，然后选择供应商，也可以左侧先选择供应商，然后点击【添加模型】。