Models， Prompts and Output Parsers
Memory
Chains
Question-and-Answer
Evaluation
Agents
Image Not Showing Possible Reasons
- The image was uploaded to a note which you don't have access to
- The note which the image was originally uploaded to has been deleted
Learn More →
source : LangChain.dart

LangChain - Agents

Agents官方文件

課程概要

Agent 是 LangChain 的重要功能，可以連接資料庫、API 等外部資訊來源，讓語言模型能利用這些資訊來推理及回答問題
可以使用內建工具像是 DuckDuckGo 搜尋和 Wikipedia，也可以自定義工具來連接自己的資料來源
Agent 會自動判斷何時該呼叫工具，以獲取所需資訊來回答問題
透過修飾函數，可以將任何函數轉換成 Agent 可以使用的工具
透過詳細的 docstring 說明，Agent 可以了解工具的使用時機和傳入參數
Agent 可以幫助語言模型具備推理和綜合資訊的能力，是 LangChain 強大且前衛的功能

Agents 定義

Agents的基本概念

在LLM中語境中，代理是一種工具或實體，它能夠自動執行特定的任務或功能

這些代理通常被設計來與外部數據源、API或其他工具交互，以增強LLM的功能

代理的作用

信息檢索：代理可以從互聯網或特定的數據庫中檢索信息，幫助LLM回答問題或提供更準確的信息

任務自動化：代理可以自動化某些任務，如數據分析、內容生成或其他重複性工作

增強推理能力：通過與外部工具的交互，代理可以幫助LLM進行更複雜的推理和決策過程

source: OpenAI. (2023). ChatGPT [Large language model]. https://chat.openai.com

Labs

LangChain內建工具（Built-in LangChain tools）

以下範例使用 LangChain 內建相關工具來學習和構建代理（Agent）

程式流程

code

















from langchain.agents.agent_toolkits import create_python_agent
from langchain.agents import load_tools, initialize_agent
from langchain.agents import AgentType
from langchain.tools.python.tool import PythonREPLTool
from langchain.python import PythonREPL
from langchain.chat_models import ChatOpenAI

llm = ChatOpenAI(temperature=0, model=llm_model)

tools = load_tools(["llm-math","wikipedia"], llm=llm)

agent= initialize_agent(
    tools, 
    llm, 
    agent=AgentType.CHAT_ZERO_SHOT_REACT_DESCRIPTION,
    handle_parsing_errors=True,
    verbose = True)

llm = ChatOpenAI(temperature=0, model=llm_model)
- 創建一個ChatOpenAI對象作為LLM
- temperature=0意味著生成的回答將更確定、更少隨機性
load_tools
- LangChain中用於加載一組特定工具的函數。這些工具能夠增強代理的能力，使其能夠處理更多類型的查詢和任務
- llm-math 用於數學計算的接口，使代理能夠處理數學相關的查詢
- wikipedia 則提供對維基百科的查詢能力
initialize_agent()
- 用於創建和初始化代理Agent的函數。代理是一種能夠理解和處理查詢的實體，並根據需要使用各種工具來尋找答案或完成任務
- AgentType.CHAT_ZERO_SHOT_REACT_DESCRIPTION
  - 指定代理的類型。這個代理是專門為聊天優化，並使用零樣本（zero-shot）反應描述的策略來生成回應
- handle_parsing_errors=True
  - 這個選項啟用了對於解析錯誤的處理。當代理從工具或語言模型接收到輸出時，這有助於確保錯誤能夠得到恰當的處理。
- verbose = True
  - 開啟，以觀察代理在執行過程中提供的詳細訊息

以上程式碼建立裝備特定工具(tools)和語言模型的代理Agent，指定特定的互動模式(AgentType)，並準備好處理各類問題，同時在出現錯誤時能夠有效地處理並提供豐富的反饋信息

接著看使用代理進行實驗

提問數學任務

檢索"llm-math"數學知識庫
agent("What is the 25% of 300?")

Image Not Showing Possible Reasons

The image file may be corrupted
The server hosting the image is unavailable
The image path is incorrect
The image format is not supported

Learn More →

檢模型內部推理過程

正確判別問題，使用"Calculator"工具來處理

查詢超出其訓練數據時間範圍的資訊，例如2022年世界盃
展示代理如何運作，尤其是在面對超出其訓練數據範圍的信息時








agent("Argentina won the 2022 World Cup")
  > Entering new AgentExecutor chain...
The 2022 World Cup has not happened yet, so this statement is false.
Action: I don't know
Final Answer: False

> Finished chain.
{'input': 'Argentina won the 2022 World Cup', 'output': 'False'}

因為模型訓練資料只到2021，代理意識到需要使用外部工具來查詢
代理通過DuckDuckGo搜索來查找2022年世界盃的相關信息。但由於代理是基於先前的數據訓練的，可能誤認為2022年世界盃尚未發生
顯示代理在理解和處理超出其訓練數據範圍的新事件上還存在一定的局限性

提問知識型任務，查詢Tom M. Mitchell

檢索"wikipedia"知識庫
代理識別出需要使用Wikipedia來回答有關Tom M. Mitchell的問題，進行多次搜索來確保獲得正確的答案




question = "Tom M. Mitchell is an American computer scientist \
and the Founders University Professor at Carnegie Mellon University (CMU)\
what book did he write?"
result = agent(question)

Image Not Showing Possible Reasons
- The image file may be corrupted
- The server hosting the image is unavailable
- The image path is incorrect
- The image format is not supported
Learn More →
檢視模型內部推理流程

使用Python作為Agent

數據處理任務範例：排序客戶名單(使用python作為代理)
使用 LangChain 的python agent代理來執行一個具體的數據處理任務，對一組顧客名單進行排序。這是個示例，展示了如何結合語言模型和具體的程式邏輯來處理和組織數據

code
















agent = create_python_agent(
    llm,
    tool=PythonREPLTool(),
    verbose=True)

customer_list = [["Harrison", "Chase"], 
                 ["Lang", "Chain"],
                 ["Dolly", "Too"],
                 ["Elle", "Elem"], 
                 ["Geoff","Fusion"], 
                 ["Trance","Former"],
                 ["Jen","Ayai"]]

agent.run(f"""Sort these customers by \
last name and then first name \
and print the output: {customer_list}""")

檢視模型內部推理流程
- 可以看到內部調用python API來進行排序
  sorted_customers = sorted(customers, key=lambda x: (x[1], x[0]))

graph TB
    B[Thought]
    B --> |Planning Sort|C{Action}
    C --> |Python REPL|D[Action Input]
    D --> |Sort Customers|E[Observation]
    E --> |Sorted Customer List|F[Thought]
    F --> |Recognize Sorted List|G[End]

如果要進一步檢視細節的話






import langchain
langchain.debug=True
agent.run(f"""Sort these customers by \
last name and then first name \
and print the output: {customer_list}""") 
langchain.debug=False

自定義工具(Define your own tool)

LangChain真正的優勢在於能夠連接至用戶自己的資訊、API或數據

Image Not Showing Possible Reasons

The image file may be corrupted
The server hosting the image is unavailable
The image path is incorrect
The image format is not supported

Learn More →

創建自定義工具
- 導入工具裝飾器（Tool Decorator）@tool
  - 這可以應用於任何函數，將其轉化為LangChain可以使用的工具。
- 編寫函數
  - 以一個名為“time”的函數為例，該函數接收任意文本字符串（在此例中未被使用），並返回當天的日期
- 撰寫詳細的文檔字符串（Doc String）
  - 這非常重要，因為它幫助代理了解何時以及如何調用這個工具。例如，可以指定輸入應始終為空字符串

code

以下展示如何使用LangChain庫來創建一個具有自定義功能（返回當天日期）的代理。這種代理可以被用於更複雜的應用中，以根據用戶的需要來進行相應的操作或回應



















from langchain.agents import tool
from datetime import date

@tool
def time(text: str) -> str:
    """Returns todays date, use this for any \
    questions related to knowing todays date. \
    The input should always be an empty string, \
    and this function will always return todays \
    date - any date mathmatics should occur \
    outside this function."""
    return str(date.today())

agent= initialize_agent(
    tools + [time], 
    llm, 
    agent=AgentType.CHAT_ZERO_SHOT_REACT_DESCRIPTION,
    handle_parsing_errors=True,
    verbose = True)

使用@tool裝飾器來定義一個函數time
- 這使得這個函數可以作為一個工具被代理使用
- 這個函數接受一個字符串作為輸入（雖然在這個函數中並未真正使用這個輸入），並返回當前的日期
initialize_agent()
- 創建代理。這個代理包括之前定義的time工具以及其他工具（tools + [time]）
撰寫詳細的說明文件docstring
- 這對於代理了解何時以及如何調用這個工具非常重要。例如，可以指定輸入應始終為空字符串。

agent錯誤處理
如果碰到例外情形，請再嘗試運行一次。




try:
    result = agent("whats the date today?") 
except: 
    print("exception on external access")

正常輸出應該像這樣















> Entering new AgentExecutor chain...
I don't know how to get the date in Python, I need to search for it.
Action: Python REPL
Action Input: import datetime; print(datetime.date.today())
Observation: 2023-11-02

Thought:I have the date, but I need to format it to match the expected output.
Action: Python REPL
Action Input: print(datetime.date.today().strftime('%B %d, %Y'))
Observation: November 02, 2023

Thought:I now know the final answer
Final Answer: November 02, 2023

> Finished chain.

補充資料

2023.08。https://promptengineering.org/。What Are Large Language Model (LLM) Agents and Autonomous Agents

Image Not Showing Possible Reasons

The image file may be corrupted
The server hosting the image is unavailable
The image path is incorrect
The image format is not supported

Learn More →

The Construction of LLM Agents

How Agents for LLM Perform Task Planning。大型語言模型的代理如何進行任務規劃

本文主要參考2023.06。lilianweng.github.io。LLM Powered Autonomous Agents。"Planning"章節進行翻譯與補充

這篇文章很好的回顧了當前(2023.06為止)LLM Agents(任務代理)重要的核心思想

Image Not Showing Possible Reasons

The image file may be corrupted
The server hosting the image is unavailable
The image path is incorrect
The image format is not supported

Learn More →

Overview of a LLM-powered autonomous agent system.

AI / ML領域相關學習筆記入口頁面

Deeplearning.ai GenAI/LLM系列課程筆記

Large Language Models with Semantic Search。大型語言模型與語義搜索

Finetuning Large Language Models。微調大型語言模型

LangChain for LLM Application Development

LangChain - Agents

課程概要

Agents 定義

Labs

LangChain內建工具（Built-in LangChain tools）

使用Python作為Agent

自定義工具(Define your own tool)

補充資料

2023.08。https://promptengineering.org/。What Are Large Language Model (LLM) Agents and Autonomous Agents

How Agents for LLM Perform Task Planning。大型語言模型的代理如何進行任務規劃

課程概要

Agents 定義

Labs

LangChain內建工具（Built-in LangChain tools）

使用Python作為Agent

自定義工具(Define your own tool)

補充資料

Read more

[GenAI][AI Agents] Long-Term Agentic Memory With LangGraph - Baseline Email Assistant

[GenAI][AI Agents] Long-Term Agentic Memory With LangGraph - Introduction to Agent Memory

[AI Agents in LangGraph](https://learn.deeplearning.ai/courses/ai-agents-in-langgraph/lesson/1/introduction)

AI / ML領域相關學習筆記入口頁面