Langchain

Langchain 是一个用于开发由语言模型驱动的应用程序的框架。

文档网址

https://python.langchain.com.cn/docs/get_started/introduction

安装

# 安装langchain
pip install langchain

# 安装langchain-cli
pip install langchain-cli

还有一些额外的依赖，如：

langchain-community，langchain-core。(由langchain自动安装)

langServe(由langchain-cli自动安装)

模板生成

from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "你是个助手，简单回答用户的问题"),
        ("user", "{input}"),
    ]
)

response = prompt.invoke({"input": "你是谁？/no_think"})
print(response)

模型调用

from langchain_core.prompts import ChatPromptTemplate
from langchain.llms import LlamaCpp
from langchain_core.messages import AIMessage, HumanMessage, SystemMessage
from langchain_core.output_parsers import StrOutputParser

model = LlamaCpp(
    model_path="./models/Qwen3-1.7B-Q8_0.gguf",
    temperature=0.75
)

messages = [
    SystemMessage(content="你是个翻译助手，将翻译下面的内容为中文"),
    HumanMessage(content="What is the meaning of life?")
]

parser = StrOutputParser()

result = model.invoke(messages)

print(result)

response = parser.invoke(result)

# print(response)

链式调用

链式调用，就是将多个操作串在一起，形成一个链式调用。

# 同上个例子的其他代码
parser = StrOutputParser()

chain = model | parser

response = chain.invoke(messages)

print(response)