Skip to content

模型配置

每个供应商下可配置多个模型,模型是 Agent 调用的具体 AI 实例。

新增模型

  1. 进入「AI 中心」→「模型管理」
  2. 点击「新增」,填写信息:
字段说明示例
模型名称显示名称GPT-4o
模型标识供应商的模型 IDgpt-4o
所属供应商选择已配置的供应商OpenAI 生产环境
模型类型对话/图片/语音对话
上下文长度最大上下文 Token 数128000
状态启用/禁用启用
  1. 点击保存

模型参数

每个模型可配置以下运行参数:

参数说明取值范围建议
temperature输出随机性0.0 - 2.0事实性任务 0.3,创意任务 0.7
maxTokens最大输出长度1 - 4096根据任务复杂度调整
topP核采样概率0.0 - 1.0默认 1.0
presencePenalty话题惩罚-2.0 - 2.0默认 0

参数选择建议

场景temperaturemaxTokens
代码生成0.22048
文档总结0.31024
客服对话0.51024
创意写作0.94096

默认模型

  • 系统支持设置一个全局默认模型
  • 新建 Agent 时自动选择默认模型
  • 默认模型可在模型列表中切换

模型测试

  1. 在模型列表中点击「测试」按钮
  2. 在测试对话框中输入消息
  3. 系统使用该模型发送请求
  4. 查看返回结果和响应时间

测试时关注的指标:

指标说明
响应内容模型输出是否符合预期
响应时间从发送到收到回复的耗时
Token 消耗输入 Token + 输出 Token

模型类型说明

类型说明支持的操作
对话模型文本对话文本问答、总结、翻译
图片模型图片生成/理解文生图、图片描述
语音模型语音识别/合成ASR、TTS

并非所有供应商都支持全部模型类型,具体能力取决于供应商。

下一步

Forge Admin — 基于 Vue3 + Spring Boot 的企业级后台管理框架