OpenAI
业务组件 用于按提供商归类那些将第三方服务接入 SkillFlaw 的组件。
本页介绍 OpenAI 业务组件中的可用组件。
关于 OpenAI 组件所使用的 OpenAI 功能与行为,请参阅 OpenAI 官方文档。
OpenAI 文本生成
OpenAI 组件基于 OpenAI 语言模型 生成文本。
它能访问与核心 Language Model 组件相同的 OpenAI 模型,但同时提供了更多用于定制 OpenAI API 请求的参数。
它既可以输出 Model Response(Message),也可以输出 Language Model(LanguageModel)。
当你希望将某个特定 OpenAI 模型配置作为另一个 LLM 驱动组件(例如 Agent 或 Smart Transform)的底层模型时,应使用 Language Model 输出。
更多说明请参阅语言模型组件。
OpenAI 文本生成参数
有些参数在可视化编辑器中默认处于隐藏状态。 你可以通过组件标题栏菜单中的 控件 来修改全部参数。
| Name | Type | Description |
|---|---|---|
| api_key | SecretString | 输入参数。你的 OpenAI API Key。 |
| model | String | 输入参数。要使用的 OpenAI 模型名称,例如 gpt-3.5-turbo、gpt-4。 |
| max_tokens | Integer | 输入参数。允许生成的最大 token 数;设置为 0 表示不限制。 |
| temperature | Float | 输入参数。控制输出随机性。范围:0.0 到 1.0。默认:0.7。 |
| top_p | Float | 输入参数。控制 nucleus sampling。范围:0.0 到 1.0。默认:1.0。 |
| frequency_penalty | Float | 输入参数。频率惩罚。范围:0.0 到 2.0。默认:0.0。 |
| presence_penalty | Float | 输入参数。存在惩罚。范围:0.0 到 2.0。默认:0.0。 |
OpenAI Embeddings
OpenAI Embeddings 组件使用 OpenAI embedding 模型 生成向量嵌入。
它可以访问与核心 Embedding Model 组件相同的 OpenAI 模型,但额 外提供了更多用于定制 embedding API 请求的参数。
有关 embedding 模型在流程中的使用方式,请参阅Embedding 模型组件。
OpenAI Embeddings 参数
有些参数在可视化编辑器中默认处于隐藏状态。 你可以通过组件标题栏菜单中的 控件 来修改全部参数。
| Name | Type | Description |
|---|---|---|
| OpenAI API Key | String | 输入参数。用于访问 OpenAI API 的 API Key。 |
| Default Headers | Dict | 输入参数。HTTP 请求默认头。 |
| Default Query | NestedDict | 输入参数。HTTP 请求默认查询参数。 |
| Allowed Special | List | 输入参数。允许参与处理的特殊 token。默认:[]。 |
| Disallowed Special | List | 输入参数。禁止参与处理的特殊 token。默认:["all"]。 |
| Chunk Size | Integer | 输入参数。处理时的 chunk 大小。默认:1000。 |
| Client | Any | 输入参数。发起请求时使用的 HTTP client。 |
| Deployment | String | 输入参数。模型 deployment 名称。默认:text-embedding-3-small。 |
| Embedding Context Length | Integer | 输入参数。embedding 上下文长度。默认:8191。 |
| Max Retries | Integer | 输入参数。失败请求最大重试次数。默认:6。 |
| Model | String | 输入参数。要使用的模型名称。默认:text-embedding-3-small。 |
| Model Kwargs | NestedDict | 输入参数。模型额外关键字参数。 |
| OpenAI API Base | String | 输入参数。OpenAI API 基础地址。 |
| OpenAI API Type | String | 输入参数。OpenAI API 类型。 |
| OpenAI API Version | String | 输入参数。OpenAI API 版本。 |
| OpenAI Organization | String | 输入参数。与 API Key 绑定的组织信息。 |
| OpenAI Proxy | String | 输入参数。请求使用的代理服务器。 |
| Request Timeout | Float | 输入参数。HTTP 请求超时时间。 |
| Show Progress Bar | Boolean | 输入参数。是否显示处理进度条。默认:false。 |
| Skip Empty | Boolean | 输入参数。是否跳过空输入。默认:false。 |
| TikToken Enable | Boolean | 输入参数。是否启用 TikToken。默认:true。 |
| TikToken Model Name | String | 输入参数。TikToken 模型名称。 |