跳到主要内容

将 NVIDIA G-Assist 与 Langflow 集成

NVIDIA System-Assist 组件将您的流程与 NVIDIA G-Assist 集成,通过自然语言提示实现与 NVIDIA GPU 驱动程序的交互。 例如,使用 "What is my current GPU temperature?""Show me the available GPU memory" 提示 G-Assist 来获取信息,然后告诉 G-Assist 修改您的 GPU 设置。 有关更多信息,请参阅 NVIDIA G-Assist 仓库

先决条件

NVIDIA System-Assist 组件需要在 Windows 操作系统上配备 NVIDIA GPU。

它使用 gassist.rise 包,该包包含此组件的所有 Langflow 版本都会安装。

在流程中使用 NVIDIA G-Assist

  1. 创建一个包含 Chat Input 组件、NVIDIA System-Assist 组件和 Chat Output 组件的流程。

    这是一个仅使用三个组件的简化示例。 根据您的用例,您的流程可能会使用更多组件或不同的输入和输出。

  2. Chat Input 组件连接到 NVIDIA System-Assist 组件的 Prompt 输入。

    Prompt 参数接受由 NVIDIA G-Assist AI 助手处理的自然语言提示。 在此示例中,您将聊天输入作为提示提供。 您也可以直接在 Prompt 输入中输入提示或连接另一个输入组件。

  3. NVIDIA System-Assist 组件的输出连接到 Chat Output 组件。

  4. 要测试流程,请打开 Playground,然后询问有关您 GPU 的问题。 例如,"What is my current GPU temperature?"

    通过 NVIDIA System-Assist 组件,NVIDIA G-Assist 根据提示查询您的 GPU,然后将响应打印到 Playground

    该组件的输出是一个包含 NVIDIA G-Assist 响应的 Message。 包含已完成操作结果的字符串响应在 Message 对象的 text 键中可用。

Search