功能介绍
「大模型」连接器能够让流程直接调用大模型能力,对数据进行智能化处理。开发者可以在该节点灵活设计和构建提示词,使大模型更好的适应业务场景需求。
前置准备
配置步骤
- 添加节点
进入流程编辑器,新增节点选择「AI」中的「大模型」。
250px|700px|reset

- 基础配置
- 在「模型选择」列表中所需模型
250px|700px|reset

- 构建和设计提示词
可通过提示词模版选择现有提示词或自行填写,若选用提示词模版需要替换模版中的变量
250px|700px|reset

- 生成内容随机性:用于控制 AI 生成内容的随机性,值约大,生成内容随机性越高,适合创意性内容;值越小,生成内容的确定性越高。
- 生成内容最大长度:用于控制 AI 单次生成内容的最大长度,各模型参数值上限不一致。参数值为空时,默认使用当前模型的官方指定最优值
250px|700px|reset

- 高级配置
可以根据需要,设置操作执行失败时的重试策略:
配置项 | 说明 |
重试次数 | 请求失败后的自动重试次数,默认 0 次 |
重试间隔 | 每次重试之间的间隔时间,默认 5000 ms |
超时时间 | 每次重试的 HTTP 请求超时时间,上限为 60000ms |
250px|700px|reset

- 输出
输出节点执行后的响应数据结构。节点配置完成后,在流程中会同时自动生成一个 JSON 格式的变量,变量中将承载节点执行后获取到的响应数据内容,可供后续节点引用:
字段 | 说明 |
content | AI 生成的内容 |
model | 所使用的模型 |
temperature | 生成内容随机性配置 |
promptTokens | 输入内容的 token 数 |
completionTokens | 输出内容的 token 数 |
250px|700px|reset

示例演示
- 场景说明:业务方需要通过流程将用户反馈内容进行总结和打标然后入库。
- 流程配置:
250px|700px|reset
