# 【生成式AI】能夠使用工具的AI：New Bing, WebGPT, Toolformer

[Youtube Video](https://www.youtube.com/watch?v=ZID220t_MpI&ab_channel=Hung-yiLee)

related to [【生成式AI導論 2024】第4講：訓練不了人工智慧？你可以訓練你自己 (中) — 拆解問題與使用工具](/QLShUU82Q8-XY81lqkb6ng?both=#%E8%AA%9E%E8%A8%80%E6%A8%A1%E5%9E%8B%E5%A6%82%E4%BD%95%E4%BD%BF%E7%94%A8%E5%B7%A5%E5%85%B7)，講述大型語言模型使用工具插件的功能。

## Prometheus

* New Bing 的搜尋+GPT模型稱為Prometheus，會有一個GPT去Bing做搜尋，然後在產生答案。

## WebGPT

* WebGPT使用搜尋引擎也是文字接龍
* 靠產生symbol去控制搜尋
* 步驟:
1. 產生`搜尋`取得搜尋結果並編號
2. 使用搜尋結果作為input，搭配`點選`symbol生成要點選編號幾。點開後ChetGPT還會選擇要擷取哪一些段落。
3. 根據1、2、3取得的結果，使用`收藏`symbol儲存認為有用的內容
4. 可以選擇要不要繼續接龍搜尋更多結果
5. 如果不要繼續搜尋，則使用`回答`symbol，使用後就只留下搜藏的結果
↓只留下搜尋的結果↓
6. 接著就使用取得的內容，繼續去做文字接龍
* 學習搜尋的過程也可以用督導式學習，OpenAI就是設計一個GUI，紀錄人類老師進行搜尋、選擇資料的結果。

## ToolFormer

* ToolFormer除了搜尋之外，也可以使用其他工具。
* 雖然可以用多種工具，但本質都是指令的文字接龍。
* 如何產生資料來訓練模型使用工具?
1. 使用另一個語言模型來產生資料: 任務是叫語言模型把一些API塞到文字裡面去。目標如圖:但這階段還不Work，雜訊太大。
2. 檢驗由1產生的指令是否合理: 先做沒有插入呼喚API的文字接龍，再做有實際去跑產生出來API的文字接龍。檢驗生成正確率是否較高，如果有就把這個答案留下來。
* 實驗結果可以看到模型太小的話沒辦法學會怎麼用工具。並且比較了執行階段有給呼叫API跟不給呼叫API的模型。