使用 tools 让 gpt 更加强大

调用 tools 的流程

首先需要一个有 tools_call 能力的大模型，现在的 gpt-4 系列和 glm-4 系列, claude 部分模型基本都支持了，我这里用的是 glm-4-flash, 智谱免费的大模型。gpt 跟 glm 的调用是一样的。

const messages = [
  {
    role: 'user',
    content: '帮我查询航班',
  },
]
fetch('api_url', {
  method: 'POST',
  headers: {
    'Content-Type': 'application/json',
    'Authorization': 'Bearer xxx',
  },
  body: JSON.stringify({
    model: 'glm-4-flash',
    messages,
  }),
})
  .then(response => response.json())
  .then((data) => {
    message.push(data.choices[0].message)
  })

这是一般调用接口的办法。这里没用库，直接用的 http 请求。如果要启用 tools 的话，应该加上 tools 字段，告诉大模型有哪些工具

const messages = [
  {
    role: 'user',
    content: '帮我查询航班',
  },
]
fetch('api_url', {
  method: 'POST',
  headers: {
    'Content-Type': 'application/json',
    'Authorization': 'Bearer xxx',
  },
  body: JSON.stringify({
    model: 'glm-4-flash',
    messages,
    tools, 
  }),
})
  .then(response => response.json())
  .then((data) => {
    console.log(data.choices[0].message.content)
    message.push(data.choices[0].message)
  })

其中 tools 是一个对象数组，这个对象应该是这样的

interface tool {
    type: string // 一般是'Function', 有些大模型本身提供了一些工具，如智谱提供了web_search
    function?:{ // 如果type是'Function', 那应该有这个属性。一般与type相同
        name:string // 函数名
        description:string // 一段描述，告诉大模型这是什么，怎么用，什么时候用
        parameters:{
            type: 'object'
            properties:{
                // 参数名:参数描述
                [key: string]: {
					description: string // 告诉ai这个参数是什么
					type:string // 告诉ai这个参数应该是什么类型
				}
            },
            required:string[] // 声明哪些是必要的
        }
    }
}

我的查询航班功能应该是这样的

const tools = [
  {
    type: 'function',
    function: {
      name: 'get_flight',
      description: '根据起点和终点、日期，查询对应日期的航班号',
      parameters: {
        type: 'object',
        properties: {
          departure: {
            description: '起点',
            type: 'string',
          },
          destination: {
            description: '终点',
            type: 'string',
          },
          date: {
            description: '日期',
            type: 'string',
          },
        },
        required: ['departure', 'destination', 'date'],
      },
    },
  },
]

如果没有提供参数的话，大模型会要求你提供(如果是能力低的模型有可能编造数据，不过应该不太可能吧)。 有了告诉了 ai 有什么 tools 之后还需要自己实现这些方法。如果参数齐全的话，ai 的回复会发生改变。一般data.choices[0].message是这样的

interface message {
	role: string;
	content: string;
}

启用 tools 后会变成这样

interface message {
	role: string;
	content: string | null;
	tool_calls?: {
		id: string;
		function: {
			name: string; // 调用的函数名
			arguments: string; // 参数
		};
	}[];
}

当 content 为空的时候，就说明调用了 tool，此时 tool_calls 存在

const tools = [
  // 略
]
const messages = [
  {
    role: 'user',
    content: '帮我查询2024-12-11，北京到上海的航班',
  },
]
async function sendToAI() {
  const res = await fetch(api_base, {
    method: 'POST',
    headers: {
      'Content-Type': 'application/json',
      'Authorization': 'Bearer xxx',
    },
    body: JSON.stringify({
      model: 'glm-4-flash',
      messages,
      tools,
    }),
  })
  const data = await res.json()
  const message = data.choices[0].message
  if (message.content) {
    messages.push(message)
  }
  else {
    const result = useTools(message)
    messages.push(result)
    sendToAI()
  }
}

async function useTools(message) {
  const tool_call = message.tool_calls[0]
  const result = callTool(
    tool_call.function.name,
    tool_call.function.arguments
  )
  return {
    role: 'function', // 貌似一些旧的时function，一些是tool，我以前的代码时function
    tool_call_id: tool_call.id,
    name: tool_call.function.name,
    content: result,
  }
}

async function callTool(toolName, arg) {
  switch (toolName) {
    case 'get_flight': {
      const obj = JSON.parse(arg)
      return get_flight(obj)
    }
    default: {
      break
    }
  }
}

function get_flight(arg) {
  // 获取航班信息的操作
  return '1234'
}

这个 tool_calls 虽然是个数组，但是 openai 的文档里好像写不推荐并行函数调用，智谱的文档也没写并行函数调用该怎么做，我也没遇到过并行函数调用的情况，这里直接选择第一个元素了。 如果需要并行函数调用的话，那 useTools 应该返回一个数组，然后

messages = [...messages, ...result]

简单写了一下，如有错误还请指出