服务端

### 一、前言

在现代 AI 应用开发中，**Agent** 能够自主决策和执行任务，极大地提升了自动化能力。**LangChain JS** 是一个专注于 JavaScript/TypeScript 环境下的强大 AI 编排框架，支持多种 LLM（大语言模型）集成。**Ollama** 则是一个本地化的 LLM 运行平台，支持如 Llama2、Mistral 等主流模型。本文将介绍如何基于 LangChain JS 实现 Agent，并使用 Ollama 提供的模型，实现智能任务处理。

***

#### 二、背景知识

要顺利学习本教程，建议具备以下知识：

| 前置知识                  | 简要说明                                   |
| --------------------- | -------------------------------------- |
| JavaScript/TypeScript | 熟悉基本语法和 Node.js 环境                     |
| LLM 基础                | 理解大语言模型的基本原理和应用场景                      |
| API 调用                | 能够进行 HTTP 请求和处理响应                      |
| LangChain 基础          | 了解 LangChain 的核心概念，如链（Chain）、工具（Tool）等 |
| Ollama 基础             | 了解 Ollama 的安装、模型管理及 API 调用方式           |

***

#### 三、核心内容讲解

##### 1. LangChain JS Agent 概念

* **Agent**：一种能根据输入，自主决定调用哪些工具或链，最终完成任务的智能体。
* **工具（Tool）**：Agent 可调用的外部功能，如 Web 搜索、数据库查询等。
* **LLM（语言模型）**：Agent 的“思考核心”，用来理解任务、生成决策。

##### 2. Ollama 模型集成原理

* Ollama 提供本地 RESTful API，支持多种 LLM。
* LangChain JS 可通过自定义 LLM Provider 集成 Ollama。

##### 3. 流程图

```mermaid
graph TD
    A[用户输入] --> B[Agent]
    B --> C[LLM (Ollama)]
    B --> D[工具/链]
    C --> B
    D --> B
    B --> E[输出结果]
```

***

#### 四、实操步骤/案例

##### 步骤 1：环境准备

1. 安装 Node.js（建议 v18+）
2. 安装 Ollama 并拉取模型（如 llama2）

```bash
# 安装 Ollama
brew install ollama

# 启动 Ollama 服务
ollama serve

# 拉取模型
ollama pull llama2
```

1. 初始化项目

```bash
mkdir langchain-ollama-agent
cd langchain-ollama-agent
npm init -y
npm install langchain @langchain/community axios
```

##### 步骤 2：创建 Ollama LLM Provider

```js
// ollama-llm.js
import { BaseLLM } from "langchain/llms/base";
import axios from "axios";

export class OllamaLLM extends BaseLLM {
  constructor(model = "llama2") {
    super();
    this.model = model;
  }
  async _call(prompt, options) {
    const response = await axios.post(
      "http://localhost:11434/api/generate",
      {
        model: this.model,
        prompt: prompt,
      }
    );
    return response.data.response;
  }
}
```

##### 步骤 3：定义 Agent 与工具

```js
// agent-demo.js
import { OllamaLLM } from "./ollama-llm";
import { initializeAgentExecutorWithOptions } from "@langchain/community/agents";
import { Tool } from "@langchain/community/tools";

// 示例工具：简单计算器
const calculator = new Tool({
  name: "calculator",
  description: "执行简单数学计算",
  func: async (input) => {
    try {
      return eval(input).toString();
    } catch {
      return "输入错误";
    }
  },
});

const llm = new OllamaLLM("llama2");

async function main() {
  const agent = await initializeAgentExecutorWithOptions(
    [calculator], // 工具列表
    llm,
    {
      agentType: "zero-shot-react-description",
      verbose: true,
    }
  );

  const result = await agent.call({
    input: "请计算 12 * 8，并用中文回答我。",
  });
  console.log(result.output);
}

main();
```

##### 步骤 4：运行与测试

```bash
node agent-demo.js
```

输出示例：

```
12 * 8 = 96
```

***

#### 五、常见问题与解决方案

| 问题           | 解决思路                            |
| ------------ | ------------------------------- |
| Ollama 服务未启动 | 确认 `ollama serve` 已运行，端口为 11434 |
| 模型未下载或名称错误   | 使用 `ollama list` 检查模型，确保名称正确    |
| Agent 无法调用工具 | 检查工具注册与描述，确保 Agent 能识别工具        |
| 网络请求失败       | 检查本地防火墙、端口占用或 axios 配置          |
| 中文输出不理想      | 尝试在 prompt 中明确要求中文回答            |

***

#### 六、结论与拓展阅读

本文介绍了如何基于 LangChain JS 构建 Agent，并集成 Ollama 本地模型，实现智能任务处理。通过自定义 LLM Provider 和工具扩展，可以灵活构建多样化的 AI 应用。

**推荐拓展资料：**

* [LangChain JS 官方文档](https://js.langchain.com/docs/)
* [Ollama 官方文档](https://ollama.com/docs)
* [LangChain Agents 介绍](https://js.langchain.com/docs/modules/agents/)
* [LLM 原理与应用](https://zhuanlan.zhihu.com/p/638724629)

​


一、在现代AI应用开发中，Agent能够自主决策和执行任务，极大地提升了自动化能力。LangChainJS是一个专注于JavaScript/TypeScript环境下的强大AI编排框架，支持多种LLM（大语言模型）集成。Ollama则是一个本地化的LLM运行平台，支持如Llama2、Mistral等主流模型。本文将介绍如何基于LangChainJS实现Agent，并使用Ollama提供的模型，实现

如何基于 LangChain 实现 AI Agent

前端

客户端

算法

工程

产品

信息安全

运维

LangChain 是一个开源框架，用于构建基于大型语言模型（LLM）的应用程序。LLM 是基于大量数据预先训练的大型深度学习模型，可以生成对用户查询的响应，例如回答问题或根据基于文本的提示创建图像。LangChain 提供各种工具和抽象，以提高模型生成的信息的定制性、准确性和相关性。