跳到主要内容

LM Studio

Bundles 按提供方对组件进行分组,这些组件可将第三方服务与 SkillFlaw 集成。

LM Studio bundle 中的组件让你可以使用来自本地或托管 LM Studio 实例的模型。 组件可能需要使用 LM Studio API key 进行身份验证。有关 LM Studio 模型、连接和凭据的信息,请参见 LM Studio documentation

LM Studio 文本生成

LM Studio 组件使用 LM Studio 的本地语言模型生成文本。

它可以输出 Model ResponseMessage)或 Language ModelLanguageModel)。

当你希望将 LM Studio 模型作为其他 LLM 驱动组件(如 AgentSmart Transform 组件)的 LLM 使用时,请使用 Language Model 输出。

有关更多信息,请参见语言模型组件

LM Studio 文本生成参数

有些参数在可视化编辑器中默认处于隐藏状态。 你可以通过组件标题栏菜单中的 控件 来修改全部参数。

NameTypeDescription
base_urlString输入参数。LM Studio 运行的 URL。默认值:"http://localhost:1234"
api_keyLM Studio API Key输入参数。如有需要,用于 LM Studio 身份验证的 API key。
max_tokensInteger输入参数。响应中要生成的最大 token 数。默认值:512
temperatureFloat输入参数。控制输出中的随机性。范围:[0.0, 2.0]。默认值:0.7
top_pFloat输入参数。通过 nucleus sampling 控制多样性。范围:[0.0, 1.0]。默认值:1.0
stopList[String]输入参数。遇到这些字符串时停止生成。
streamBoolean输入参数。是否以流式方式返回响应。默认值:false
presence_penaltyFloat输入参数。对重复 token 施加惩罚。范围:[-2.0, 2.0]。默认值:0.0
frequency_penaltyFloat输入参数。对频繁出现的 token 施加惩罚。范围:[-2.0, 2.0]。默认值:0.0

LM Studio Embeddings

LM Studio Embeddings 组件使用 LM Studio 模型生成 embeddings。

有关在 flow 中使用 embedding model 组件的更多信息,请参见 Embedding model components

LM Studio Embeddings 参数

有些参数在可视化编辑器中默认处于隐藏状态。 你可以通过组件标题栏菜单中的 控件 来修改全部参数。

NameDisplay NameInfo
modelModel输入参数。用于生成 embeddings 的 LM Studio 模型。
base_urlLM Studio Base URL输入参数。LM Studio API 的基础 URL。
api_keyLM Studio API Key输入参数。用于 LM Studio 身份验证的 API key。
temperatureModel Temperature输入参数。模型的 temperature 设置。