LangChain 概述

#2024/09/13 #langchain #agi/langchain

1. 前置知识点

基本来说，各大厂大模型发布的时间，都在 2023 年上半年
- 腾讯：混元
ChatGPT 需要分成两部分
- GPT
- Chat 是一种对话的方式，即针对对话应用
通用的提示词模板：
- 定义角色 + 背景信息 + 任务目标 + 输出要求
Token
- 类似于字符是编程语言的最小单位
- Token 大模型的基本单位
  - 英语中的一个简单句子可能会被拆分成多个标记
  - 而中文由于字符的特性，通常一个字符就是一个标记
模型支持的上下文长度
- 8k：8000 个标记（token） × 0.75 ≈ 6000 个英文单词
  - 注意：标点符号、特殊符号，数字等等都会影响 token 数量
- GPT-4 Turbo：支持最多 128,000 个 token
- GPT-4：有两个版本
  - 8K 版本：支持最多 8,192 个 token
  - 32K 版本：支持最多 32,768 个 token
大模型幻觉
- 大模型的“幻觉”是指它们在缺乏理解能力的情况下生成不准确或虚假的信息。
- 本质源于其基于统计学习的生成机制，缺乏事实验证和真正的理解能力
大模型预训练与微调
- 预训练：在大规模通用数据集上训练模型，学习语言的广泛模式和结构。
- 微调：在特定任务的数据上进一步训练，以适应特定应用需求。

2. LangChain 简介

定义：是大模型的编程框架
- 连接开发者和复杂的 LLM 应用
LangChain 提供开发过程中的一序列工具（百宝箱），比如
- SQL提示词模板，方便查询
组件与链
- 组件：具有明确功能和用途的单元
- 链：链定义了组件的调用序列
- 例子：问“今天天气如何？同事告诉我量子力学是什么？”
  - 链会确保调用 搜索工具组件 和 维基百科组件
Langchain 的应用场景
- 数据查询和分析：LangChain 可以与数据库集成，允许用自然语言进行复杂的数据查询和分析
- 代码生成理解
- 自动问答机器人

LangChain 的 6 大模块

模型 I/O
- 不提供大模型，而是提供各大模型的统一接口
数据增强：
- 能够有效地补充LLM的知识库，解决其知识更新滞后的问题
- LangChain 的数据增强模块也被称为 LEDVR 工作流，这是一个多功能的数据增强集成工具。LEDVR 代表：
  - L: Loader (加载器)
  - E: Text Embedding Model (嵌入模型包装器)
  - D: Document Transformer (文档转换器)
  - V: Vector Store (向量存储)
  - R: Retriever (检索器)
链
- 多个 LLM 模型和其他多个组件进行连接
记忆
- 链会读取和写入数据到记忆中
- 又分为短期记忆和长期记忆
  - 短期记忆主要用于处理最近的对话
  - 而长期记忆则帮助系统从历史记录中提取有用的信息，以便在对话中提供更丰富的上下文支
代理（Agents）：强调动态、智能
- 功能：实现动态决策和工具使用。
- 类型：
  - 自我提问代理（Self-ask agent）：能够提出和回答自己的问题。
  - 计划和执行代理（Plan and execute agent）：制定计划并执行任务。
  - ReAct 代理：结合推理和行动。
回调处理器（Callback）
- 对各个阶段干预

LangChain 的开发流程

获取 open ai key

淘宝买吧，使用 gpt-4o-mini 最经济实惠
秘钥保存，记得别提交了

第一个程序：让 OpenAI 帮忙翻译

# 导入 os 模块, 用于设置环境变量，但已经将环境变量设置到了 .zshrc 中了
# 所以这里不需要导入 os 模块
# import os

# 从 langchain_openai 模块中导入 ChatOpenAI
from langchain_openai import ChatOpenAI
from langchain_text_splitters import python
model = ChatOpenAI(model='gpt-4o-mini')

# 导入用于构建对话消息的
from langchain_core.messages import HumanMessage, SystemMessage
messages = [
    # 设置系统指令，要求模型将英语翻译成意大利语
    SystemMessage(content="Translate the following from English into chinese"),
    # 设置人类消息，内容为 "hi!"
    HumanMessage(content="hi!"),
]

# 使用之前创建的模型实例，调用 invoke 方法，传入消息列表
res = model.invoke(messages)

print(res);

# 输出结果如下：
"""
{
    "content": "你好！",
    "additional_kwargs": {
        "refusal": None
    },
    "response_metadata": {
        "token_usage": {
            "completion_tokens": 2,
            "prompt_tokens": 20,
            "total_tokens": 22,
            "completion_tokens_details": {
                "reasoning_tokens": 0
            }
        },
        "model_name": "gpt-4o-mini-2024-07-18",
        "system_fingerprint": "fp_483d39d857",
        "finish_reason": "stop",
        "logprobs": None
    },
    "id": "run-a72df3a8-7229-44cc-86c7-3c555f40ef20-0",
    "usage_metadata": {
        "input_tokens": 20,
        "output_tokens": 2,
        "total_tokens": 22
    }
}
"""

3. 参考

《LangChain 入门指南 · 构建高可复用、可扩展的 LLM 应用程序》

liguwe's site

LangChain 概述

目录

1. 前置知识点

2. LangChain 简介

LangChain 的 6 大模块

LangChain 的开发流程

获取 open ai key

第一个程序：让 OpenAI 帮忙翻译

3. 参考