跳到主要内容

LM Studio

Bundles 包含支持与 Langflow 特定第三方集成的自定义组件。

LM Studio 包中的组件允许您使用本地或托管的 LM Studio 实例中的模型。 组件可能需要使用 LM Studio API 密钥进行身份验证。有关 LM Studio 模型、连接和凭据的信息,请参阅 LM Studio 文档

LM Studio 文本生成

LM Studio 组件使用 LM Studio 的本地语言模型生成文本。

它可以输出 模型响应 (Message) 或 语言模型 (LanguageModel)。

当您想将 LM Studio 模型用作其他 LLM 驱动组件(如 AgentSmart Function 组件)的 LLM 时,请使用 语言模型 输出。

有关更多信息,请参阅 语言模型 组件

LM Studio 文本生成参数

在可视化编辑器中,部分参数默认情况下是隐藏的。 您可以通过组件的头部菜单中的 控件 来修改所有参数。

NameTypeDescription
base_urlString输入参数。LM Studio 运行的 URL。默认值:"http://localhost:1234"
api_keyLM Studio API Key输入参数。用于与 LM Studio 身份验证的 API 密钥(如果需要)。
max_tokensInteger输入参数。响应中要生成的最大令牌数。默认值:512
temperatureFloat输入参数。控制输出中的随机性。范围:[0.0, 2.0]。默认值:0.7
top_pFloat输入参数。使用核心采样控制多样性。范围:[0.0, 1.0]。默认值:1.0
stopList[String]输入参数。遇到时停止生成的字符串列表。
streamBoolean输入参数。是否流式传输响应。默认值:false。
presence_penaltyFloat输入参数。对重复令牌进行惩罚。范围:[-2.0, 2.0]。默认值:0.0
frequency_penaltyFloat输入参数。对频繁令牌进行惩罚。范围:[-2.0, 2.0]。默认值:0.0

LM Studio 嵌入

LM Studio Embeddings 组件使用 LM Studio 模型生成嵌入向量。

有关在流程中使用嵌入模型组件的更多信息,请参阅 嵌入模型 组件

LM Studio 嵌入参数

在可视化编辑器中,部分参数默认情况下是隐藏的。 您可以通过组件的头部菜单中的 控件 来修改所有参数。

NameDisplay NameInfo
modelModel输入参数。用于生成嵌入向量的 LM Studio 模型。
base_urlLM Studio Base URL输入参数。LM Studio API 的基础 URL。
api_keyLM Studio API Key输入参数。用于与 LM Studio 身份验证的 API 密钥。
temperatureModel Temperature输入参数。模型的温度设置。
Search