LlamaHub 简介

LlamaHub 是一个包含数百个集成组件、智能体和工具的注册中心,这些资源均可用于 LlamaIndex 框架。

在本课程中我们将使用多种集成组件,因此让我们首先了解 LlamaHub 及其如何助力开发。

接下来我们将学习如何查找和安装所需组件的依赖项。

安装

LlamaIndex 的安装说明可通过结构清晰的**LlamaHub 官网获取。 初次接触可能会感到有些复杂,但大多数安装命令都遵循易于记忆的格式**:

pip install llama-index-{component-type}-{framework-name}

让我们尝试使用 Hugging Face 推理 API 集成 安装 LLM 组件的依赖项。

pip install llama-index-llms-huggingface-api

用法

安装后,我们可以看到使用模式。您会注意到导入路径跟在安装命令后面! 下面,我们可以看到LLM 组件的 Hugging Face 推理 API 的使用示例。

from llama_index.llms.huggingface_api import HuggingFaceInferenceAPI

llm = HuggingFaceInferenceAPI(
    model_name="Qwen/Qwen2.5-Coder-32B-Instruct",
    temperature=0.7,
    max_tokens=100,
    token="hf_xxx",
)

llm.complete("Hello, how are you?")
# I am good, how can I help you today?

太棒了,我们现在知道如何查找、安装和使用我们所需组件的集成。 让我们深入了解这些组件,看看如何使用它们来构建我们自己的智能体。

小结

  • LlamaHub 是 LlamaIndex 生态的集成注册中心,提供数百个组件、智能体与工具。
  • 安装命令遵循统一格式 pip install llama-index-{component-type}-{framework-name},组件名与导入路径一一对应。
  • 以 Hugging Face 推理 API 集成为例,安装后即可用 HuggingFaceInferenceAPI 接入指定模型完成文本补全。

参考与延伸阅读