跳到主要内容

IBM

Bundles 包含支持与 Langflow 特定第三方集成的自定义组件。

IBM 包提供对 IBM watsonx.ai 模型的访问,用于文本和嵌入生成。 这些组件需要 IBM watsonx.ai 部署和 watsonx API 凭据。

IBM watsonx.ai

IBM watsonx.ai 组件使用 IBM watsonx.ai 中的支持的基础模型生成文本。

您可以在流程中需要语言模型的任何地方使用此组件。

一个基本的提示流程,使用 IBM watsonx.ai 组件作为核心语言模型组件。

IBM watsonx.ai 参数

在可视化编辑器中,部分参数默认情况下是隐藏的。 您可以通过组件的头部菜单中的 控件 来修改所有参数。

NameTypeDescription
urlString输入参数。您的部署和区域的 watsonx API 基础 URL
project_idString输入参数。您的 watsonx 项目 ID
api_keySecretString输入参数。用于验证对指定 watsonx.ai 部署和模型的 watsonx API 访问的 watsonx API 密钥
model_nameString输入参数。要使用的 watsonx 模型的名称。选项从 API 动态获取。
max_tokensInteger输入参数。要生成的最大令牌数。默认值:1000
stop_sequenceString输入参数。生成应停止的序列。
temperatureFloat输入参数。控制输出的随机性。默认值:0.1
top_pFloat输入参数。控制核心采样,将模型限制在概率低于 top_p 值的令牌范围内。范围:默认值:0.9
frequency_penaltyFloat输入参数。控制频率惩罚。正值会降低重复令牌的概率,负值会增加重复令牌的概率。范围:默认值:0.5
presence_penaltyFloat输入参数。控制存在惩罚。正值会增加引入新主题的可能性。默认值:0.3
seedInteger输入参数。模型的随机种子。默认值:8
logprobsBoolean输入参数。是否返回输出令牌的对数概率。默认值:true。
top_logprobsInteger输入参数。在每个位置返回的最可能令牌的数量。默认值:3
logit_biasString输入参数。要偏向或抑制的令牌 ID 的 JSON 字符串。

IBM watsonx.ai 输出

IBM watsonx.ai 组件可以输出 模型响应 (Message) 或 语言模型 (LanguageModel)。

当您想将 IBM watsonx.ai 模型用作另一个由 LLM 驱动的组件(如 代理智能函数 组件)的 LLM 时,请使用 语言模型 输出。 有关更多信息,请参阅 语言模型 组件。

IBM watsonx.ai 组件的 LanguageModel 输出是根据组件参数配置的 ChatWatsonx 实例。

IBM watsonx.ai Embeddings

IBM watsonx.ai Embeddings 组件使用 IBM watsonx.ai 中的支持的基础模型进行嵌入生成。

输出是使用 WatsonxEmbeddings 生成的 Embeddings

有关在流程中使用嵌入模型组件的更多信息,请参阅 嵌入模型 组件。

使��用 IBM watsonx.ai Embeddings 组件的基本嵌入生成流程

IBM watsonx.ai Embeddings 参数

在可视化编辑器中,部分参数默认情况下是隐藏的。 您可以通过组件的头部菜单中的 控件 来修改所有参数。

NameDisplay NameInfo
urlwatsonx API 端点输入参数。您的部署和区域的 watsonx API 基础 URL
project_idwatsonx 项目 ID输入参数。您的 watsonx 项目 ID
api_keyAPI 密钥输入参数。用于验证对指定的 watsonx.ai 部署和模型的 watsonx API 访问的 watsonx API 密钥
model_name模型名称输入参数。要使用的嵌入模型的名称。支持 默认嵌入模型,并在连接到 watsonx.ai 部署后自动更新。
truncate_input_tokens截断输入令牌输入参数。要处理的最大令牌数。默认值:200
input_text在输出中包含原始文本输入参数。确定是否在输出中包含原始文本。默认值:true。

默认嵌入模型

默认情况下,IBM watsonx.ai Embeddings 组件支持以下默认模型:

  • sentence-transformers/all-minilm-l12-v2: 384 维嵌入
  • ibm/slate-125m-english-rtrvr-v2: 768 维嵌入
  • ibm/slate-30m-english-rtrvr-v2: 768 维嵌入
  • intfloat/multilingual-e5-large: 1024 维嵌入

输入您的 API 端点和凭据后,组件会自动从您的 watsonx.ai 部署中获取可用模型列表。

另请参阅

Search