跳到主要内容

Groq

Bundles 按提供方对组件进行分组,这些组件可将第三方服务与 SkillFlaw 集成。

本页介绍 Groq bundle 中可用的组件。

有关更多信息,请参见 Groq documentation

Groq 文本生成

该组件使用 Groq 的语言模型生成文本。

它可以输出 Model ResponseMessage)或 Language ModelLanguageModel)。 具体来说,Language Model 输出是根据组件参数配置的 ChatGroq 实例。

当你希望将 Groq 模型作为其他 LLM 驱动组件(如 AgentSmart Transform 组件)的 LLM 使用时,请使用 Language Model 输出。

有关更多信息,请参见语言模型组件

Groq component in a basic prompting flow

Groq 文本生成参数

NameTypeDescription
groq_api_keySecretString你的 Groq API key。
groq_api_baseStringAPI 请求的基础 URL 路径。默认值:https://api.groq.com
max_tokensInteger要生成的最大 token 数。
temperatureFloat控制输出中的随机性。范围:[0.0, 1.0]。默认值:0.1
nInteger为每个 prompt 生成的聊天补全数量。
model_nameString要使用的 Groq 模型名称。输入 API key 和 URL 后,会从 Groq API 动态获取可选项。要刷新模型列表,请点击 Refresh
tool_mode_enabledBoolean启用后,组件仅显示可与工具一起使用的模型。