使用 Qwen3 与 vLLM 开发支持 Function Call 的推理服务
一、背景介绍
Function Call 是大语言模型(LLM)的一种重要功能,允许模型根据用户输入动态调用外部工具函数,实现与外部系统交互。本教程介绍如何使用 Qwen3 模型和 vLLM 框架搭建支持 Function Call 功能 的推理服务。
Function Call 是大语言模型(LLM)的一种重要功能,允许模型根据用户输入动态调用外部工具函数,实现与外部系统交互。本教程介绍如何使用 Qwen3 模型和 vLLM 框架搭建支持 Function Call 功能 的推理服务。