Flutter轻量级代理核心插件lite_agent_core_dart的使用

LiteAgent核心插件dart版

特性

• 支持纯文本代理，无需JSON Spec。
• 支持OpenAPI/OpenRPC/OpenModbus/OpenTool JSON Spec。
• 支持LLM功能调用至HTTP API/json-rpc 2.0 over HTTP/Modbus以及其他自定义工具。

使用方法

准备工作

1. 准备一些可调用的OpenSpec json文件，根据/example/json/open*/*.json路径。
2. 运行你的工具服务器，该服务器在json文件中描述。
3. 在example文件夹下添加.env文件，并在.env文件中添加以下内容：

baseUrl = https://xxx.xxx.com         # LLM API BaseURL
apiKey = sk-xxxxxxxxxxxxxxxxxxxx      # LLM API ApiKey

1. 使用以下方法运行代理服务。

方法1（推荐）：AgentService

• 根据/example/service_example目录。
• 支持通过会话ID进行多代理会话。
• 支持在同一代理中处理多个任务，通过taskId识别不同的任务。完成任务后，任务消息可以作为新的任务上下文添加到会话中。

Future<void> main() async {
  CapabilityDto capabilityDto = CapabilityDto(
      llmConfig: _buildLLMConfig(),       // LLM配置
      systemPrompt: _buildSystemPrompt(), // 系统提示
      openSpecList: await _buildOpenSpecList()  // 可用的OpenSpec描述字符串列表
  );
  SessionDto sessionDto = await agentService.initChat(
      capabilityDto,
      listen        // 订阅代理消息，代理与用户/客户端/LLM/工具角色对话
  ); // 获取会话ID
  
  String prompt = "<USER PROMPT, e.g. call any one tool>";
  UserTaskDto userTaskDto = UserTaskDto(taskId: "<Identify different tasks, NOT more than 36 chars>", contentList: [UserMessageDto(type: UserMessageDtoType.text, message: prompt)]);  // 用户内容列表，支持文本/图片URL类型
  await agentService.startChat(sessionDto.id, userTaskDto);
}

• 多代理支持

Future<void> main() async {
  SessionDto sessionDto1 = await _buildTextAgent();
  SessionDto sessionDto2 = await _buildToolAgent();

  CapabilityDto capabilityDto = CapabilityDto(llmConfig: llmConfig, systemPrompt: systemPrompt,
      sessionList: [sessionDto1, sessionDto2]
  );

  SessionDto sessionDto = await agentService.initChat(capabilityDto, listen);

  UserTaskDto userTaskDto = UserTaskDto(contentList: [UserMessageDto(type: UserMessageDtoType.text, message: prompt)]);
  await agentService.startChat(sessionDto.id, userTaskDto);
}

• 反射支持

Future<void> main() async {
  CapabilityDto capabilityDto = CapabilityDto(
      llmConfig: _buildLLMConfig(),
      systemPrompt: _buildSystemPrompt(),
      openSpecList: await _buildOpenSpecList(),
      /// 添加反射提示列表
      toolReflectionList: await _buildToolReflectionList()
  );
  SessionDto sessionDto = await agentService.initChat(capabilityDto, listen);
  String prompt = "<USER PROMPT, e.g. call any one tool>";
  UserTaskDto userTaskDto = UserTaskDto(taskId: "<Identify different tasks, NOT more than 36 chars>", contentList: [UserMessageDto(type: UserMessageDtoType.text, message: prompt)]);
  await agentService.startChat(sessionDto.id, userTaskDto);
}

方法2：ToolAgent

• 根据/example/agent_example目录。
• 纯原生调用，支持单一会话。
• 方法1 AgentService 是对此的友好封装。

Future<void> main() async {
  ToolAgent toolAgent = ToolAgent(
      llmRunner: _buildLLMRunner(),
      session: _buildSession(),
      toolRunnerList: await _buildToolRunnerList(),
      systemPrompt: _buildSystemPrompt()
  );
  String prompt = "<USER PROMPT, e.g. call any one tool>";
  toolAgent.userToAgent(taskId: "<Identify different tasks, NOT more than 36 chars>", [Content(type: ContentType.text, message: prompt)]);
}