LM Studio
Bundles 包含支持与 Langflow 特定第三方集成的自定义组件。
LM Studio 包中的组件允许您使用本地或托管的 LM Studio 实例中的模型。 组件可能需要使用 LM Studio API 密钥进行身份验证。有关 LM Studio 模型、连接和凭据的信息,请参阅 LM Studio 文档。
LM Studio 文本生成
LM Studio 组件使用 LM Studio 的 本地语言模型生成文本。
它可以输出 模型响应 (Message
) 或 语言模型 (LanguageModel
)。
当您想将 LM Studio 模型用作其他 LLM 驱动组件(如 Agent 或 Smart Function 组件)的 LLM 时,请使用 语言模型 输出。
有关更多信息,请参阅 语言模型 组件。
LM Studio 文本生成参数
在可视化编辑器中,部分参数默认情况下是隐藏的。 您可以通过组件的头部菜单中的 控件 来修改所有参数。
Name | Type | Description |
---|---|---|
base_url | String | 输入参数。LM Studio 运行的 URL。默认值:"http://localhost:1234" 。 |
api_key | LM Studio API Key | 输入参数。用于与 LM Studio 身份验证的 API 密钥(如果需要)。 |
max_tokens | Integer | 输入参数。响应中要生成的最大令牌数。默认值:512 。 |
temperature | Float | 输入参数。控制输出中的随机性。范围:[0.0, 2.0] 。默认值:0.7 。 |
top_p | Float | 输入参数。使用核心采样控制多样性。范围:[0.0, 1.0] 。默认值:1.0 。 |
stop | List[String] | 输入参数。遇到时停止生成的字符串列表。 |
stream | Boolean | 输入参数。是否流式传输响应。默认值:false。 |
presence_penalty | Float | 输入参数。对重复令牌进行惩罚。范围:[-2.0, 2.0] 。默认值:0.0 。 |
frequency_penalty | Float | 输入参数。对频繁令牌进行惩罚。范围:[-2.0, 2.0] 。默认值:0.0 。 |
LM Studio 嵌入
LM Studio Embeddings 组件使用 LM Studio 模型生成嵌入向量。
有关在流程中使用嵌入模型组件的更多信息,请参阅 嵌入模型 组件。
LM Studio 嵌入参数
在可视化编辑器中,部分参数默认情况下是隐藏的。 您可以通过组件的头部菜单中的 控件 来修改所有参数。
Name | Display Name | Info |
---|---|---|
model | Model | 输入参数。用于生成嵌入向量的 LM Studio 模型。 |
base_url | LM Studio Base URL | 输入参数。LM Studio API 的基础 URL。 |
api_key | LM Studio API Key | 输入参数。用于与 LM Studio 身份验证的 API 密钥。 |
temperature | Model Temperature | 输入参数。模型的温度设置。 |