refactor: 抽取独立 session 模块
将 Session/SessionManager 从 gateway 抽取到独立的 session 模块: - 新建 src/session/ 目录 - mod.rs: 模块导出 - error.rs: SessionError 类型 - commands.rs: SessionCommand 枚举 - events.rs: SessionEvent 枚举 - session.rs: Session 和 SessionManager 实现 - 更新 src/gateway/mod.rs - 移除 pub mod session - 改用 crate::session::SessionManager - 更新 src/lib.rs - 添加 pub mod session - 删除 src/gateway/session.rs (内容已移动) 注意: ControlInbound/ControlOutbound/ControlMessage 保留在 bus/message.rs, cli_chat 仍通过消息总线与 SessionManager 通信,待后续简化。
This commit is contained in:
parent
75281952d0
commit
5ce5502c56
@ -1,346 +0,0 @@
|
|||||||
# Picobot 工具机制增强实现日志
|
|
||||||
|
|
||||||
## 实现记录
|
|
||||||
|
|
||||||
### 1. SchemaCleanr - 跨 Provider Schema 归一化
|
|
||||||
|
|
||||||
**日期**: 2026-04-07
|
|
||||||
**Commit**: `d5b6cd2`
|
|
||||||
|
|
||||||
#### 背景
|
|
||||||
不同 LLM provider 对 JSON Schema 支持差异很大:
|
|
||||||
- **Gemini**: 最严格,不支持 `minLength`, `maxLength`, `pattern`, `minimum`, `maximum` 等
|
|
||||||
- **Anthropic**: 中等,只要求解决 `$ref`
|
|
||||||
- **OpenAI**: 最宽松,支持大部分关键词
|
|
||||||
|
|
||||||
#### 实现方案
|
|
||||||
|
|
||||||
创建 `src/tools/schema.rs`,提供:
|
|
||||||
|
|
||||||
1. **`CleaningStrategy` enum**
|
|
||||||
```rust
|
|
||||||
pub enum CleaningStrategy {
|
|
||||||
Gemini, // 最严格
|
|
||||||
Anthropic, // 中等
|
|
||||||
OpenAI, // 最宽松
|
|
||||||
Conservative,
|
|
||||||
}
|
|
||||||
```
|
|
||||||
|
|
||||||
2. **`SchemaCleanr::clean()`** - 核心清洗函数
|
|
||||||
- 移除 provider 不支持的关键词
|
|
||||||
- 解析 `$ref` 到 `$defs`/`definitions`
|
|
||||||
- 将 `anyOf`/`oneOf` 合并为 `enum`
|
|
||||||
- 将 `const` 转换为 `enum`
|
|
||||||
- 移除 `type` 数组中的 `null`
|
|
||||||
|
|
||||||
3. **`SchemaCleanr::validate()`** - Schema 验证
|
|
||||||
|
|
||||||
#### 使用方法
|
|
||||||
```rust
|
|
||||||
use picobot::tools::{SchemaCleanr, CleaningStrategy};
|
|
||||||
|
|
||||||
// Gemini 兼容清洗(最严格)
|
|
||||||
let cleaned = SchemaCleanr::clean_for_gemini(schema);
|
|
||||||
|
|
||||||
// Anthropic 兼容清洗
|
|
||||||
let cleaned = SchemaCleanr::clean_for_anthropic(schema);
|
|
||||||
|
|
||||||
// OpenAI 兼容清洗(最宽松)
|
|
||||||
let cleaned = SchemaCleanr::clean_for_openai(schema);
|
|
||||||
|
|
||||||
// 自定义策略
|
|
||||||
let cleaned = SchemaCleanr::clean(schema, CleaningStrategy::Conservative);
|
|
||||||
```
|
|
||||||
|
|
||||||
#### 工具 Trait 增强
|
|
||||||
|
|
||||||
在 `src/tools/traits.rs` 的 `Tool` trait 中新增:
|
|
||||||
|
|
||||||
```rust
|
|
||||||
pub trait Tool: Send + Sync + 'static {
|
|
||||||
// ... 原有方法 ...
|
|
||||||
|
|
||||||
/// 是否只读(无副作用)
|
|
||||||
fn read_only(&self) -> bool { false }
|
|
||||||
|
|
||||||
/// 是否可以与其他工具并行执行
|
|
||||||
fn concurrency_safe(&self) -> bool {
|
|
||||||
self.read_only() && !self.exclusive()
|
|
||||||
}
|
|
||||||
|
|
||||||
/// 是否需要独占执行
|
|
||||||
fn exclusive(&self) -> bool { false }
|
|
||||||
}
|
|
||||||
```
|
|
||||||
|
|
||||||
这些属性为后续的并行工具执行提供基础。
|
|
||||||
|
|
||||||
#### 测试
|
|
||||||
- 12 个单元测试覆盖所有清洗逻辑
|
|
||||||
- 运行 `cargo test --lib tools::schema` 验证
|
|
||||||
|
|
||||||
### 2. file_read 工具
|
|
||||||
|
|
||||||
**日期**: 2026-04-07
|
|
||||||
**Commit**: `a9e7aab`
|
|
||||||
|
|
||||||
#### 功能
|
|
||||||
- 读取文件内容(支持 offset/limit 分页)
|
|
||||||
- 返回带行号的内容,便于引用
|
|
||||||
- 自动处理二进制文件(base64 编码)
|
|
||||||
- 可选的目录限制(安全隔离)
|
|
||||||
|
|
||||||
#### Schema
|
|
||||||
```json
|
|
||||||
{
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"path": { "type": "string", "description": "文件路径" },
|
|
||||||
"offset": { "type": "integer", "description": "起始行号(1-indexed)" },
|
|
||||||
"limit": { "type": "integer", "description": "最大行数" }
|
|
||||||
},
|
|
||||||
"required": ["path"]
|
|
||||||
}
|
|
||||||
```
|
|
||||||
|
|
||||||
#### 使用方法
|
|
||||||
```rust
|
|
||||||
use picobot::tools::FileReadTool;
|
|
||||||
|
|
||||||
// 基本用法
|
|
||||||
let tool = FileReadTool::new();
|
|
||||||
let result = tool.execute(json!({
|
|
||||||
"path": "/some/file.txt",
|
|
||||||
"offset": 1,
|
|
||||||
"limit": 100
|
|
||||||
})).await;
|
|
||||||
```
|
|
||||||
|
|
||||||
#### 测试
|
|
||||||
- 4 个单元测试
|
|
||||||
- `cargo test --lib tools::file_read`
|
|
||||||
|
|
||||||
### 3. file_write 工具
|
|
||||||
|
|
||||||
**日期**: 2026-04-07
|
|
||||||
**Commit**: `16b052b`
|
|
||||||
|
|
||||||
#### 功能
|
|
||||||
- 写入内容到文件
|
|
||||||
- 自动创建父目录
|
|
||||||
- 覆盖已存在文件
|
|
||||||
|
|
||||||
#### Schema
|
|
||||||
```json
|
|
||||||
{
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"path": { "type": "string", "description": "文件路径" },
|
|
||||||
"content": { "type": "string", "description": "写入内容" }
|
|
||||||
},
|
|
||||||
"required": ["path", "content"]
|
|
||||||
}
|
|
||||||
```
|
|
||||||
|
|
||||||
#### 测试
|
|
||||||
- 5 个单元测试
|
|
||||||
- `cargo test --lib tools::file_write`
|
|
||||||
|
|
||||||
### 4. file_edit 工具
|
|
||||||
|
|
||||||
**日期**: 2026-04-07
|
|
||||||
**Commit**: `f3187ce`
|
|
||||||
|
|
||||||
#### 功能
|
|
||||||
- 编辑文件,替换 old_text 为 new_text
|
|
||||||
- 支持多行编辑
|
|
||||||
- 模糊匹配处理微小差异
|
|
||||||
- replace_all 选项批量替换
|
|
||||||
|
|
||||||
#### Schema
|
|
||||||
```json
|
|
||||||
{
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"path": { "type": "string", "description": "文件路径" },
|
|
||||||
"old_text": { "type": "string", "description": "要替换的文本" },
|
|
||||||
"new_text": { "type": "string", "description": "替换后的文本" },
|
|
||||||
"replace_all": { "type": "boolean", "description": "替换所有匹配", "default": false }
|
|
||||||
},
|
|
||||||
"required": ["path", "old_text", "new_text"]
|
|
||||||
}
|
|
||||||
```
|
|
||||||
|
|
||||||
#### 测试
|
|
||||||
- 5 个单元测试
|
|
||||||
- `cargo test --lib tools::file_edit`
|
|
||||||
|
|
||||||
### 5. bash 工具
|
|
||||||
|
|
||||||
**日期**: 2026-04-07
|
|
||||||
**Commit**: `68e3663`
|
|
||||||
|
|
||||||
#### 功能
|
|
||||||
- 执行 shell 命令
|
|
||||||
- 超时控制
|
|
||||||
- 危险命令检测(rm -rf, fork bombs)
|
|
||||||
- 输出截断
|
|
||||||
- 工作目录支持
|
|
||||||
|
|
||||||
#### Schema
|
|
||||||
```json
|
|
||||||
{
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"command": { "type": "string", "description": "Shell 命令" },
|
|
||||||
"timeout": { "type": "integer", "description": "超时秒数", "minimum": 1, "maximum": 600 }
|
|
||||||
},
|
|
||||||
"required": ["command"]
|
|
||||||
}
|
|
||||||
```
|
|
||||||
|
|
||||||
#### 测试
|
|
||||||
- 7 个单元测试
|
|
||||||
- `cargo test --lib tools::bash`
|
|
||||||
|
|
||||||
### 6. http_request 工具
|
|
||||||
|
|
||||||
**日期**: 2026-04-07
|
|
||||||
**Commit**: `1581732`
|
|
||||||
|
|
||||||
#### 功能
|
|
||||||
- HTTP 客户端支持 GET/POST/PUT/DELETE/PATCH
|
|
||||||
- 域名白名单
|
|
||||||
- SSRF 保护(阻止私有IP、localhost)
|
|
||||||
- 响应大小限制和截断
|
|
||||||
- 超时控制
|
|
||||||
|
|
||||||
#### Schema
|
|
||||||
```json
|
|
||||||
{
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"url": { "type": "string", "description": "请求 URL" },
|
|
||||||
"method": { "type": "string", "description": "HTTP 方法", "enum": ["GET", "POST", "PUT", "DELETE", "PATCH"] },
|
|
||||||
"headers": { "type": "object", "description": "请求头" },
|
|
||||||
"body": { "type": "string", "description": "请求体" }
|
|
||||||
},
|
|
||||||
"required": ["url"]
|
|
||||||
}
|
|
||||||
```
|
|
||||||
|
|
||||||
#### 测试
|
|
||||||
- 8 个单元测试
|
|
||||||
- `cargo test --lib tools::http_request`
|
|
||||||
|
|
||||||
### 7. web_fetch 工具
|
|
||||||
|
|
||||||
**日期**: 2026-04-07
|
|
||||||
**Commit**: `8936e70`
|
|
||||||
|
|
||||||
#### 功能
|
|
||||||
- 获取 URL 并提取可读文本
|
|
||||||
- HTML 转纯文本
|
|
||||||
- 移除 scripts, styles, HTML 标签
|
|
||||||
- 解码 HTML 实体
|
|
||||||
- JSON 格式化输出
|
|
||||||
- SSRF 保护
|
|
||||||
|
|
||||||
#### Schema
|
|
||||||
```json
|
|
||||||
{
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"url": { "type": "string", "description": "要获取的 URL" }
|
|
||||||
},
|
|
||||||
"required": ["url"]
|
|
||||||
}
|
|
||||||
```
|
|
||||||
|
|
||||||
#### 测试
|
|
||||||
- 6 个单元测试
|
|
||||||
- `cargo test --lib tools::web_fetch`
|
|
||||||
|
|
||||||
---
|
|
||||||
|
|
||||||
## 工具清单
|
|
||||||
|
|
||||||
| 工具 | 名称 | 文件 | 功能 |
|
|
||||||
|------|------|------|------|
|
|
||||||
| calculator | 计算器 | `src/tools/calculator.rs` | 25+ 数学和统计函数 |
|
|
||||||
| file_read | 文件读取 | `src/tools/file_read.rs` | 带分页的文件读取 |
|
|
||||||
| file_write | 文件写入 | `src/tools/file_write.rs` | 创建/覆盖文件 |
|
|
||||||
| file_edit | 文件编辑 | `src/tools/file_edit.rs` | 文本替换编辑 |
|
|
||||||
| bash | Shell 执行 | `src/tools/bash.rs` | 带安全保护的命令执行 |
|
|
||||||
| http_request | HTTP 请求 | `src/tools/http_request.rs` | API 请求 |
|
|
||||||
| web_fetch | 网页获取 | `src/tools/web_fetch.rs` | HTML 内容提取 |
|
|
||||||
|
|
||||||
## 工具机制增强
|
|
||||||
|
|
||||||
### SchemaCleanr
|
|
||||||
跨 LLM Provider 的 JSON Schema 归一化,支持:
|
|
||||||
- Gemini (最严格)
|
|
||||||
- Anthropic (中等)
|
|
||||||
- OpenAI (最宽松)
|
|
||||||
- Conservative (保守)
|
|
||||||
|
|
||||||
### 工具属性
|
|
||||||
```rust
|
|
||||||
fn read_only(&self) -> bool { false } // 是否只读
|
|
||||||
fn concurrency_safe(&self) -> bool { true } // 是否可并行
|
|
||||||
fn exclusive(&self) -> bool { false } // 是否独占
|
|
||||||
```
|
|
||||||
|
|
||||||
## 运行测试
|
|
||||||
|
|
||||||
```bash
|
|
||||||
cargo test --lib # 所有测试
|
|
||||||
cargo test --lib tools::schema # SchemaCleanr
|
|
||||||
```
|
|
||||||
|
|
||||||
## 工具注册
|
|
||||||
|
|
||||||
工具在 `src/gateway/session.rs` 的 `default_tools()` 函数中注册:
|
|
||||||
|
|
||||||
```rust
|
|
||||||
fn default_tools() -> ToolRegistry {
|
|
||||||
let mut registry = ToolRegistry::new();
|
|
||||||
registry.register(CalculatorTool::new());
|
|
||||||
registry.register(FileReadTool::new());
|
|
||||||
registry.register(FileWriteTool::new());
|
|
||||||
registry.register(FileEditTool::new());
|
|
||||||
registry.register(BashTool::new());
|
|
||||||
registry.register(HttpRequestTool::new(
|
|
||||||
vec!["*".to_string()], // 允许所有域名
|
|
||||||
1_000_000, // max_response_size
|
|
||||||
30, // timeout_secs
|
|
||||||
false, // allow_private_hosts
|
|
||||||
));
|
|
||||||
registry.register(WebFetchTool::new(50_000, 30));
|
|
||||||
registry
|
|
||||||
}
|
|
||||||
```
|
|
||||||
|
|
||||||
SessionManager 使用这些工具创建 AgentLoop 实例,所有工具自动对 LLM 可用。
|
|
||||||
|
|
||||||
## 更新日志
|
|
||||||
|
|
||||||
| 日期 | Commit | 变更 |
|
|
||||||
|------|--------|------|
|
|
||||||
| 2026-04-07 | `d5b6cd2` | feat: add SchemaCleanr |
|
|
||||||
| 2026-04-07 | `a9e7aab` | feat: add file_read tool |
|
|
||||||
| 2026-04-07 | `16b052b` | feat: add file_write tool |
|
|
||||||
| 2026-04-07 | `f3187ce` | feat: add file_edit tool |
|
|
||||||
| 2026-04-07 | `68e3663` | feat: add bash tool |
|
|
||||||
| 2026-04-07 | `1581732` | feat: add http_request tool |
|
|
||||||
| 2026-04-07 | `8936e70` | feat: add web_fetch tool |
|
|
||||||
| 2026-04-07 | `b13bb8c` | docs: add implementation log |
|
|
||||||
| 2026-04-08 | `98bc973` | feat: register all tools in SessionManager |
|
|
||||||
cargo test --lib tools::file_read # file_read
|
|
||||||
cargo test --lib tools::file_write # file_write
|
|
||||||
cargo test --lib tools::file_edit # file_edit
|
|
||||||
cargo test --lib tools::bash # bash
|
|
||||||
cargo test --lib tools::http_request # http_request
|
|
||||||
cargo test --lib tools::web_fetch # web_fetch
|
|
||||||
```
|
|
||||||
322
PERSISTENCE.md
322
PERSISTENCE.md
@ -1,322 +0,0 @@
|
|||||||
# PicoBot 持久化设计说明
|
|
||||||
|
|
||||||
本文档介绍 PicoBot 当前的会话持久化实现,目标读者是需要维护或集成该模块的技术人员。
|
|
||||||
|
|
||||||
## 1. 总览
|
|
||||||
|
|
||||||
PicoBot 使用 SQLite 持久化会话和消息历史,当前只有一份数据库文件:
|
|
||||||
|
|
||||||
- 默认路径:`~/.picobot/storage/sessions.db`
|
|
||||||
- 初始化入口:`SessionStore::new()`
|
|
||||||
- 核心实现:`src/storage/mod.rs`
|
|
||||||
|
|
||||||
数据库启动时会完成以下初始化:
|
|
||||||
|
|
||||||
- 打开 SQLite 连接
|
|
||||||
- 创建父目录
|
|
||||||
- 打开 WAL 模式
|
|
||||||
- 打开外键约束
|
|
||||||
- 自动建表和建索引
|
|
||||||
|
|
||||||
当前持久化只覆盖两类核心数据:
|
|
||||||
|
|
||||||
- `sessions`:会话元数据
|
|
||||||
- `messages`:会话内的消息流水
|
|
||||||
|
|
||||||
内存中的 `Session` 负责运行态处理,SQLite 负责跨进程、跨重启保留历史。整体设计是“内存缓存 + SQLite 事实来源”。
|
|
||||||
|
|
||||||
## 2. 持久化在系统中的位置
|
|
||||||
|
|
||||||
相关模块职责如下:
|
|
||||||
|
|
||||||
- `src/gateway/session.rs`
|
|
||||||
- 管理运行时 `Session`
|
|
||||||
- 在收到消息时确保持久化会话存在
|
|
||||||
- 首次访问某个 `chat_id` 时从数据库加载历史
|
|
||||||
- 在新消息产生后同时写入数据库和内存历史
|
|
||||||
- `src/storage/mod.rs`
|
|
||||||
- 封装 SQLite 访问
|
|
||||||
- 提供会话和消息的增删改查
|
|
||||||
- `src/bus/message.rs`
|
|
||||||
- 定义持久化消息结构 `ChatMessage`
|
|
||||||
- `src/providers/*`
|
|
||||||
- 将历史消息转换为不同 LLM provider 需要的格式
|
|
||||||
|
|
||||||
典型关系如下:
|
|
||||||
|
|
||||||
1. 网关收到用户消息。
|
|
||||||
2. `SessionManager` 定位到对应 channel 的运行时 `Session`。
|
|
||||||
3. `Session::ensure_persistent_session(chat_id)` 确保数据库里有对应会话记录。
|
|
||||||
4. `Session::ensure_chat_loaded(chat_id)` 在内存中没有历史时,从 `messages` 表加载该会话全部历史。
|
|
||||||
5. 新的用户消息先写入 `messages`,再放入内存历史。
|
|
||||||
6. Agent 执行后产生的 assistant/tool 消息按实际顺序继续写入 `messages`。
|
|
||||||
7. 下次进程重启或 session 过期后,可从数据库完整恢复上下文。
|
|
||||||
|
|
||||||
## 3. 会话标识规则
|
|
||||||
|
|
||||||
数据库中的会话主键并不总是随机 UUID,而是依据 channel 类型区分:
|
|
||||||
|
|
||||||
- CLI 会话:`session_id == chat_id`
|
|
||||||
- 非 CLI 会话:`session_id = "{channel_name}:{chat_id}"`
|
|
||||||
|
|
||||||
这套规则由 `persistent_session_id(channel_name, chat_id)` 统一生成,目的是:
|
|
||||||
|
|
||||||
- 对 CLI 支持显式创建、切换和管理多个会话
|
|
||||||
- 对外部渠道(例如飞书)让同一个 chat 稳定映射到同一条持久化会话
|
|
||||||
|
|
||||||
## 4. 表结构
|
|
||||||
|
|
||||||
### 4.1 sessions
|
|
||||||
|
|
||||||
保存会话级元数据,每条记录代表一个可被恢复的历史会话。
|
|
||||||
|
|
||||||
字段说明:
|
|
||||||
|
|
||||||
| 字段 | 类型 | 含义 | 当前用途 |
|
|
||||||
| --- | --- | --- | --- |
|
|
||||||
| `id` | `TEXT PRIMARY KEY` | 会话主键 | 作为会话唯一标识,被 `messages.session_id` 引用 |
|
|
||||||
| `title` | `TEXT NOT NULL` | 会话标题 | CLI 展示、重命名 |
|
|
||||||
| `channel_name` | `TEXT NOT NULL` | 来源渠道名 | 例如 `cli`、`feishu` |
|
|
||||||
| `chat_id` | `TEXT NOT NULL` | 渠道侧会话标识 | 用于恢复和路由到同一聊天 |
|
|
||||||
| `summary` | `TEXT` | 会话摘要 | 预留字段,当前 schema 中存在,但当前代码未写入实际摘要 |
|
|
||||||
| `created_at` | `INTEGER NOT NULL` | 创建时间 | 毫秒级 Unix 时间戳 |
|
|
||||||
| `updated_at` | `INTEGER NOT NULL` | 最近元数据更新时间 | 重命名、归档、追加消息时更新 |
|
|
||||||
| `last_active_at` | `INTEGER NOT NULL` | 最近活跃时间 | 追加消息、清空历史时更新,用于排序 |
|
|
||||||
| `archived_at` | `INTEGER` | 归档时间 | 非空表示会话已归档 |
|
|
||||||
| `deleted_at` | `INTEGER` | 删除时间 | 预留字段,当前读取逻辑会过滤该字段,但当前删除实现是物理删除 |
|
|
||||||
| `message_count` | `INTEGER NOT NULL DEFAULT 0` | 消息数 | 追加消息时自增,清空历史时重置 |
|
|
||||||
| `reset_cutoff_seq` | `INTEGER NOT NULL DEFAULT 0` | 逻辑重置切点 | `/reset` 后默认只恢复 `seq > reset_cutoff_seq` 的活动段 |
|
|
||||||
|
|
||||||
索引:
|
|
||||||
|
|
||||||
- `idx_sessions_channel_archived(channel_name, archived_at, last_active_at DESC)`
|
|
||||||
- 用于按渠道列出会话,并支持过滤归档态和按最近活跃排序
|
|
||||||
- `idx_sessions_updated_at(updated_at DESC)`
|
|
||||||
- 用于最近更新时间维度的查询优化
|
|
||||||
|
|
||||||
### 4.2 messages
|
|
||||||
|
|
||||||
保存会话中的消息流水。这里的“消息”不仅包括用户和助手文本,还包括工具调用结果。
|
|
||||||
|
|
||||||
字段说明:
|
|
||||||
|
|
||||||
| 字段 | 类型 | 含义 | 当前用途 |
|
|
||||||
| --- | --- | --- | --- |
|
|
||||||
| `id` | `TEXT PRIMARY KEY` | 消息唯一标识 | 对应 `ChatMessage.id` |
|
|
||||||
| `session_id` | `TEXT NOT NULL` | 所属会话 | 外键指向 `sessions.id` |
|
|
||||||
| `seq` | `INTEGER NOT NULL` | 会话内顺序号 | 保证同一会话消息顺序稳定 |
|
|
||||||
| `role` | `TEXT NOT NULL` | 消息角色 | 典型值为 `user`、`assistant`、`system`、`tool` |
|
|
||||||
| `content` | `TEXT NOT NULL` | 消息正文 | 文本内容或工具结果文本 |
|
|
||||||
| `media_refs_json` | `TEXT NOT NULL` | 媒体引用列表 JSON | 存储附件、本地文件路径等上下文引用 |
|
|
||||||
| `tool_call_id` | `TEXT` | 工具调用 ID | 仅 `role=tool` 时通常有值,用来关联某次工具结果对应哪一个 tool call |
|
|
||||||
| `tool_name` | `TEXT` | 工具名称 | 例如 `calculator`、`file_write` |
|
|
||||||
| `tool_calls_json` | `TEXT` | assistant 发起的工具调用列表 JSON | 仅 assistant 发出工具调用时有值 |
|
|
||||||
| `created_at` | `INTEGER NOT NULL` | 消息创建时间 | 毫秒级 Unix 时间戳 |
|
|
||||||
|
|
||||||
约束和索引:
|
|
||||||
|
|
||||||
- 外键:`FOREIGN KEY(session_id) REFERENCES sessions(id) ON DELETE CASCADE`
|
|
||||||
- 唯一约束:`UNIQUE(session_id, seq)`,确保同一会话内顺序号不重复
|
|
||||||
- 索引:
|
|
||||||
- `idx_messages_session_seq(session_id, seq)`,按顺序读取历史
|
|
||||||
- `idx_messages_session_created(session_id, created_at)`,按时间维度检索
|
|
||||||
|
|
||||||
## 5. 字段与运行时结构的映射
|
|
||||||
|
|
||||||
持久化层存储的消息对象是 `ChatMessage`,关键映射关系如下:
|
|
||||||
|
|
||||||
| `ChatMessage` 字段 | 对应数据库字段 | 说明 |
|
|
||||||
| --- | --- | --- |
|
|
||||||
| `id` | `messages.id` | 消息唯一 ID |
|
|
||||||
| `role` | `messages.role` | 消息角色 |
|
|
||||||
| `content` | `messages.content` | 文本主体 |
|
|
||||||
| `media_refs` | `messages.media_refs_json` | 序列化为 JSON 数组 |
|
|
||||||
| `timestamp` | `messages.created_at` | 时间戳 |
|
|
||||||
| `tool_call_id` | `messages.tool_call_id` | 工具结果与调用的关联 ID |
|
|
||||||
| `tool_name` | `messages.tool_name` | 工具名 |
|
|
||||||
| `tool_calls` | `messages.tool_calls_json` | assistant 发起的工具调用列表 |
|
|
||||||
|
|
||||||
设计上分成 `tool_call_id` 和 `tool_calls_json` 两种字段,是因为两者表达的是不同方向的信息:
|
|
||||||
|
|
||||||
- `tool_calls_json` 表示“assistant 想调用哪些工具”
|
|
||||||
- `tool_call_id` 表示“这一条 tool 结果是在回应哪一次工具调用”
|
|
||||||
|
|
||||||
## 6. 数据写入流程
|
|
||||||
|
|
||||||
### 6.1 创建会话
|
|
||||||
|
|
||||||
有两种进入方式:
|
|
||||||
|
|
||||||
- CLI 模式调用 `create_cli_session()` 显式创建会话
|
|
||||||
- 渠道消息进入时调用 `ensure_channel_session()` 自动创建或复用会话
|
|
||||||
|
|
||||||
创建时会写入 `sessions` 表,初始状态:
|
|
||||||
|
|
||||||
- `summary = NULL`
|
|
||||||
- `archived_at = NULL`
|
|
||||||
- `deleted_at = NULL`
|
|
||||||
- `message_count = 0`
|
|
||||||
|
|
||||||
### 6.2 追加消息
|
|
||||||
|
|
||||||
消息持久化统一走 `append_message()`,写入过程是一个 SQLite 事务:
|
|
||||||
|
|
||||||
1. 查询当前会话 `MAX(seq) + 1` 作为下一条消息顺序。
|
|
||||||
2. 将 `media_refs` 序列化为 `media_refs_json`。
|
|
||||||
3. 将 `tool_calls` 序列化为 `tool_calls_json`。
|
|
||||||
4. 插入一条 `messages` 记录。
|
|
||||||
5. 更新 `sessions.message_count`、`updated_at`、`last_active_at`。
|
|
||||||
6. 将 `sessions.archived_at` 置空。
|
|
||||||
7. 提交事务。
|
|
||||||
|
|
||||||
其中第 6 步很重要:归档会话一旦收到新消息,会自动恢复为活跃态。
|
|
||||||
|
|
||||||
### 6.3 读取历史
|
|
||||||
|
|
||||||
`load_messages(session_id)` 会按 `seq ASC` 读取当前活动段历史,并把 JSON 字段反序列化回 `ChatMessage`。活动段的定义是:
|
|
||||||
|
|
||||||
- 只返回 `seq > sessions.reset_cutoff_seq` 的消息
|
|
||||||
- 因此 `/reset` 之后,旧消息仍然保留在数据库中,但不会默认回灌到运行时上下文
|
|
||||||
|
|
||||||
如果需要审计、导出或查看完整历史,应使用全量读取接口 `load_all_messages(session_id)`。
|
|
||||||
|
|
||||||
因此运行态恢复的是“当前活动段的逻辑顺序”,而不是简单按创建时间排序。只要 `seq` 连续,重放顺序就稳定。
|
|
||||||
|
|
||||||
## 7. 典型时序
|
|
||||||
|
|
||||||
### 7.1 普通问答
|
|
||||||
|
|
||||||
1. 用户消息进入网关。
|
|
||||||
2. 如果数据库中没有对应会话,先插入一条 `sessions`。
|
|
||||||
3. 用户消息写入 `messages`,`role = user`。
|
|
||||||
4. Agent 基于历史生成回复。
|
|
||||||
5. assistant 回复写入 `messages`,`role = assistant`。
|
|
||||||
6. 会话的 `message_count` 增加 2,`last_active_at` 更新时间。
|
|
||||||
|
|
||||||
### 7.2 带工具调用的问答
|
|
||||||
|
|
||||||
1. assistant 先生成一条带 `tool_calls_json` 的消息,`role = assistant`。
|
|
||||||
2. 系统执行对应工具。
|
|
||||||
3. 每个工具结果作为独立消息写入 `messages`,`role = tool`。
|
|
||||||
4. 这些 `tool` 消息会带 `tool_call_id` 和 `tool_name`。
|
|
||||||
5. assistant 最终整理工具结果后再写入一条普通回复。
|
|
||||||
|
|
||||||
这样保存后,即使进程重启,后续仍能完整恢复:
|
|
||||||
|
|
||||||
- assistant 当时发起了哪些工具调用
|
|
||||||
- 每个工具调用返回了什么
|
|
||||||
- 最终 assistant 给了什么结论
|
|
||||||
|
|
||||||
## 8. 会话生命周期操作
|
|
||||||
|
|
||||||
### 8.1 重命名
|
|
||||||
|
|
||||||
`rename_session(session_id, title)`:
|
|
||||||
|
|
||||||
- 更新 `sessions.title`
|
|
||||||
- 更新 `sessions.updated_at`
|
|
||||||
|
|
||||||
### 8.2 归档
|
|
||||||
|
|
||||||
`archive_session(session_id)`:
|
|
||||||
|
|
||||||
- 将 `sessions.archived_at` 设为当前时间
|
|
||||||
- 更新 `sessions.updated_at`
|
|
||||||
- 不删除消息数据
|
|
||||||
|
|
||||||
列出会话时:
|
|
||||||
|
|
||||||
- `include_archived = false` 只返回 `archived_at IS NULL` 的会话
|
|
||||||
- `include_archived = true` 返回全部未删除会话
|
|
||||||
|
|
||||||
### 8.3 清空消息
|
|
||||||
|
|
||||||
`clear_messages(session_id)`:
|
|
||||||
|
|
||||||
- 删除该会话在 `messages` 中的所有记录
|
|
||||||
- 将 `sessions.message_count` 重置为 0
|
|
||||||
- 将 `sessions.reset_cutoff_seq` 重置为 0
|
|
||||||
- 更新 `updated_at` 和 `last_active_at`
|
|
||||||
- 保留会话本身
|
|
||||||
|
|
||||||
这适合“保留会话入口,但丢弃聊天内容”的场景。
|
|
||||||
|
|
||||||
### 8.4 逻辑重置
|
|
||||||
|
|
||||||
`reset_session(session_id)`:
|
|
||||||
|
|
||||||
- 不删除 `messages` 中的任何记录
|
|
||||||
- 将当前会话的 `MAX(seq)` 写入 `sessions.reset_cutoff_seq`
|
|
||||||
- 更新 `updated_at` 和 `last_active_at`
|
|
||||||
- 后续默认恢复和发给模型的历史,只包含这次重置之后新增的消息
|
|
||||||
|
|
||||||
这适合“开始新对话,但保留完整历史以便审计或未来检索”的场景。
|
|
||||||
|
|
||||||
### 8.5 删除会话
|
|
||||||
|
|
||||||
`delete_session(session_id)`:
|
|
||||||
|
|
||||||
- 显式删除 `messages`
|
|
||||||
- 再删除 `sessions`
|
|
||||||
|
|
||||||
虽然表结构中存在 `deleted_at` 字段,并且查询时也会过滤 `deleted_at IS NULL`,但当前实现并没有做软删除,而是直接物理删除。换句话说:
|
|
||||||
|
|
||||||
- `deleted_at` 当前是保留字段
|
|
||||||
- 如果后续需要回收站或审计恢复,可以基于它演进成软删除
|
|
||||||
|
|
||||||
## 9. 并发与一致性
|
|
||||||
|
|
||||||
当前 `SessionStore` 的一致性策略比较直接:
|
|
||||||
|
|
||||||
- 进程内使用 `Arc<Mutex<Connection>>` 保护单连接访问
|
|
||||||
- 追加消息时使用 SQLite 事务
|
|
||||||
- 单条消息的写入与会话计数更新在同一事务中完成
|
|
||||||
|
|
||||||
这意味着:
|
|
||||||
|
|
||||||
- 对单进程场景,消息顺序和 `message_count` 是一致的
|
|
||||||
- `seq` 通过事务内 `MAX(seq) + 1` 分配,避免同一连接并发下的顺序错乱
|
|
||||||
- WAL 模式提升读取和写入并存时的稳定性
|
|
||||||
|
|
||||||
需要注意的是,当前设计主要面向单进程本地运行。如果未来要扩展到多进程或多实例共享同一数据库,需要重新评估:
|
|
||||||
|
|
||||||
- 单连接模型
|
|
||||||
- `MAX(seq) + 1` 的扩展性
|
|
||||||
- 会话加载缓存和跨实例同步
|
|
||||||
|
|
||||||
## 10. 当前实现中的保留点
|
|
||||||
|
|
||||||
下面这些字段或能力已经在 schema 中出现,但还没有完整业务闭环:
|
|
||||||
|
|
||||||
- `sessions.summary`
|
|
||||||
- 当前代码没有把 `ContextCompressor` 产出的摘要写回数据库
|
|
||||||
- 目前摘要只参与运行时上下文压缩,不参与持久化
|
|
||||||
- `sessions.deleted_at`
|
|
||||||
- 当前查询逻辑兼容软删除
|
|
||||||
- 当前删除实现仍然是物理删除
|
|
||||||
- `sessions.reset_cutoff_seq`
|
|
||||||
- 当前已用于实现 `/reset` 的非破坏性逻辑重置
|
|
||||||
- 只影响默认恢复的活动段,不影响数据库中的全量历史
|
|
||||||
|
|
||||||
这说明当前 schema 已经为“会话摘要”和“软删除”预留了演进空间,但并未完全落地。
|
|
||||||
|
|
||||||
## 11. 给维护者的快速判断指南
|
|
||||||
|
|
||||||
如果你要排查持久化问题,可以先按下面的思路判断:
|
|
||||||
|
|
||||||
- 会话查不到:先看 `persistent_session_id` 是否和实际 `channel_name/chat_id` 一致
|
|
||||||
- 重启后没历史:检查 `ensure_chat_loaded()` 调用链,以及数据库文件路径是否正确
|
|
||||||
- `/reset` 后重启又带回旧上下文:检查 `sessions.reset_cutoff_seq` 是否已写入,以及恢复路径是否走了活动段读取而不是全量读取
|
|
||||||
- 消息顺序不对:检查 `messages.seq`
|
|
||||||
- 工具调用上下文异常:同时检查 `tool_calls_json` 和 `tool_call_id`
|
|
||||||
- 会话列表里看不到记录:检查 `archived_at` 和 `include_archived` 参数
|
|
||||||
- 清空后仍有上下文:确认是内存历史没清掉,还是数据库 `messages` 没删掉
|
|
||||||
|
|
||||||
## 12. 总结
|
|
||||||
|
|
||||||
PicoBot 当前的持久化设计比较克制,核心目标只有两个:
|
|
||||||
|
|
||||||
- 让同一会话在重启后可以恢复上下文
|
|
||||||
- 让工具调用链可以被完整回放
|
|
||||||
|
|
||||||
从实现上看,它不是通用 ORM,也不是复杂事件存储,而是一层针对聊天历史的轻量 SQLite 封装。对于当前单机、单进程、聊天驱动的运行方式,这个设计足够直接,也便于继续演进。
|
|
||||||
@ -1,5 +1,4 @@
|
|||||||
pub mod http;
|
pub mod http;
|
||||||
pub mod session;
|
|
||||||
pub mod ws;
|
pub mod ws;
|
||||||
|
|
||||||
use std::sync::Arc;
|
use std::sync::Arc;
|
||||||
@ -12,7 +11,7 @@ use crate::channels::base::{Channel, ChannelError};
|
|||||||
use crate::config::Config;
|
use crate::config::Config;
|
||||||
use crate::logging;
|
use crate::logging;
|
||||||
use crate::protocol::SessionSummary;
|
use crate::protocol::SessionSummary;
|
||||||
use session::SessionManager;
|
use crate::session::SessionManager;
|
||||||
|
|
||||||
pub struct GatewayState {
|
pub struct GatewayState {
|
||||||
pub config: Config,
|
pub config: Config,
|
||||||
|
|||||||
@ -3,6 +3,7 @@ pub mod providers;
|
|||||||
pub mod bus;
|
pub mod bus;
|
||||||
pub mod agent;
|
pub mod agent;
|
||||||
pub mod gateway;
|
pub mod gateway;
|
||||||
|
pub mod session;
|
||||||
pub mod client;
|
pub mod client;
|
||||||
pub mod protocol;
|
pub mod protocol;
|
||||||
pub mod channels;
|
pub mod channels;
|
||||||
|
|||||||
11
src/session/commands.rs
Normal file
11
src/session/commands.rs
Normal file
@ -0,0 +1,11 @@
|
|||||||
|
/// Session management commands issued by Channel to SessionManager
|
||||||
|
#[derive(Debug, Clone)]
|
||||||
|
pub enum SessionCommand {
|
||||||
|
CreateSession { title: Option<String> },
|
||||||
|
ListSessions { include_archived: bool },
|
||||||
|
LoadSession { session_id: String },
|
||||||
|
RenameSession { session_id: String, title: String },
|
||||||
|
ArchiveSession { session_id: String },
|
||||||
|
DeleteSession { session_id: String },
|
||||||
|
ClearHistory { session_id: String },
|
||||||
|
}
|
||||||
22
src/session/error.rs
Normal file
22
src/session/error.rs
Normal file
@ -0,0 +1,22 @@
|
|||||||
|
use thiserror::Error;
|
||||||
|
|
||||||
|
#[derive(Debug, Error)]
|
||||||
|
pub enum SessionError {
|
||||||
|
#[error("session not found: {0}")]
|
||||||
|
NotFound(String),
|
||||||
|
|
||||||
|
#[error("session error: {0}")]
|
||||||
|
Other(String),
|
||||||
|
}
|
||||||
|
|
||||||
|
impl From<crate::channels::base::ChannelError> for SessionError {
|
||||||
|
fn from(e: crate::channels::base::ChannelError) -> Self {
|
||||||
|
SessionError::Other(e.to_string())
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
impl From<crate::storage::StorageError> for SessionError {
|
||||||
|
fn from(e: crate::storage::StorageError) -> Self {
|
||||||
|
SessionError::Other(e.to_string())
|
||||||
|
}
|
||||||
|
}
|
||||||
14
src/session/events.rs
Normal file
14
src/session/events.rs
Normal file
@ -0,0 +1,14 @@
|
|||||||
|
use crate::protocol::SessionSummary;
|
||||||
|
|
||||||
|
/// Session events emitted by SessionManager to Channel
|
||||||
|
#[derive(Debug, Clone)]
|
||||||
|
pub enum SessionEvent {
|
||||||
|
SessionCreated { session_id: String, title: String },
|
||||||
|
SessionList { sessions: Vec<SessionSummary> },
|
||||||
|
SessionLoaded { session_id: String, title: String, message_count: i64 },
|
||||||
|
SessionRenamed { session_id: String, title: String },
|
||||||
|
SessionArchived { session_id: String },
|
||||||
|
SessionDeleted { session_id: String },
|
||||||
|
HistoryCleared { session_id: String },
|
||||||
|
Error { code: String, message: String },
|
||||||
|
}
|
||||||
10
src/session/mod.rs
Normal file
10
src/session/mod.rs
Normal file
@ -0,0 +1,10 @@
|
|||||||
|
pub mod error;
|
||||||
|
pub mod commands;
|
||||||
|
pub mod events;
|
||||||
|
pub mod session;
|
||||||
|
|
||||||
|
pub use error::SessionError;
|
||||||
|
pub use commands::SessionCommand;
|
||||||
|
pub use events::SessionEvent;
|
||||||
|
|
||||||
|
pub use session::{Session, SessionManager};
|
||||||
Loading…
x
Reference in New Issue
Block a user