设置 & 个性化
选模型、换主题、装扩展。
模型管理、云端配置、权限控制、数据维护——都在这里。
设置页分为 7 个子页面:常规 / 云端 AI / 知识库 / 隐私安全 / 模型下载 / 环境检查 / 关于。
常规
- 模型管理:下拉选择已安装的本地模型,一键切换或卸载
- 设备切换:CPU / GPU(Vulkan)推理设备切换,切换后自动重载模型
- 自动预热:启动时自动加载上次使用的模型
- Reranker 常驻:控制知识库重排序模型是否常驻内存(关闭可节省 ~2GB 内存,但 KB 检索会变慢)
- 深色模式:亮/暗主题切换
- 数据维护:缓存管理、导出备份(ZIP)、恢复备份
云端 AI
- API 配置:填写服务商 API 地址 + Key + 模型名
- 连接测试:一键验证 API Key 是否有效(不消耗 token)
- 数据发送策略:完整发送 / 仅当前消息 / 精简历史(保留最近 N 轮)
- 用量统计:查看云端 token 用量
支持所有 OpenAI 兼容协议的服务商:DeepSeek、通义千问、GLM、Kimi、OpenAI 等。
知识库
- 标签打标引擎:选择文档自动打标使用本地 LLM 还是云端 LLM(独立于全局模式)
- 文档统计:总数/就绪/处理中/失败
- 审计日志管理:查看和清空检索审计日志
- 重置知识库:清空所有文档和向量索引(不可撤销)
隐私安全
- 工具开关:知识库检索、联网搜索、文件读写、内网访问(可单独控制)
- CORS 严格模式:限制跨域访问(开启前会二次确认,仅在明确需要时打开)
- 隐私声明:数据存储说明、云端通信说明
模型下载
| 档位 | 体积 | 建议内存 | 上下文窗口 |
| ------ | ------ | --------- | ----------- |
| 0.8B | ~0.5GB | 16GB | 4096 |
| 2B | ~1.3GB | 24GB | 8192 |
| 4B | ~2.7GB | 32GB | 8192 |
- 知识库模型:bge-m3 + bge-reranker-v2-m3 组合,约 4.5GB
- 下载源:魔搭 ModelScope(国内推荐)/ HuggingFace(国际)
- 断点续传:下载中断后可继续
- 从本地安装:导入 .sidemate 离线包(安装后注册为扩展,可在此管理/卸载)
环境检查
检查 Python 运行时、推理引擎、依赖包和模型加载状态;发现依赖缺失可一键修复(仅安装白名单内的依赖包)。
关于
程序版本、运行状态、系统信息、产品描述、AI 免责声明、团队信息、法律信息。
---
Model management, cloud config, permissions, data maintenance — all here.
Settings has 7 tabs: General / Cloud AI / Knowledge Base / Privacy / Model Download / Environment Check / About.
General
- Model management: Dropdown to select installed local models, switch or unload
- Device switch: CPU / GPU (Vulkan) inference device — model auto-reloads after switching
- Auto warmup: Automatically load last-used model on startup
- Reranker resident: Control whether KB reranker stays in memory (off = saves ~2GB but slower KB search)
- Dark mode: Light/dark theme toggle
- Data maintenance: Cache management, export backup (ZIP), restore
Cloud AI
- API config: Provider API URL + Key + model name
- Connection test: One-click API Key validation (no token cost)
- Data policy: Full / current-only / slim-history (last N rounds)
- Usage stats: Cloud token usage
Supports all OpenAI-compatible providers: DeepSeek, Qwen, GLM, Kimi, OpenAI, etc.
Knowledge Base
- Tagging engine: Choose local or cloud LLM for document auto-tagging (independent from global mode)
- Document stats: Total/ready/processing/failed
- Audit log management: View and clear search audit logs
- Reset KB: Clear all documents and vectors (irreversible)
Privacy & Security
- Tool toggles: KB search, web search, file I/O, internal network access (individually controllable)
- CORS strict mode: Restrict cross-origin access (asks for confirmation first; only enable when you specifically need it)
- Privacy notice: Data storage and cloud communication details
Model Download
| Tier | Size | Recommended RAM | Context Window |
| ------ | ------ | --------- | --------------- |
| 0.8B | ~0.5GB | 16GB | 4096 |
| 2B | ~1.3GB | 24GB | 8192 |
| 4B | ~2.7GB | 32GB | 8192 |
- KB models: bge-m3 + bge-reranker-v2-m3 combo, ~4.5GB
- Source: ModelScope (recommended for China) / HuggingFace (international)
- Resume: Downloads can resume after interruption
- Local install: Import .sidemate offline packages (registered as extensions after install; manage/uninstall here)
Environment Check
Checks Python runtime, inference engine, dependency packages and model loading status; missing dependencies can be repaired in one click (whitelist-only installs).
About
Version, runtime status, system info, product description, AI disclaimer, team, legal info.
---
品牌与商标声明:本文中提及的产品名称均为各自所有方的商标或注册商标,仅用于客观功能对比说明。Sidemate 与上述公司无隶属、合作或背书关系。
对比说明:本页对比反映 Sidemate v0.9.7 当前设计与公开资料,实际表现可能因版本、时间、用户环境而异。
AI 输出声明:Sidemate 是软件运行平台,不直接提供 AI 模型。离线模式下的模型(如 Qwen 系列)是开源第三方,在线模式下的云端模型由您配置的第三方服务商(如 OpenAI / DeepSeek / 通义千问 等)提供。AI 输出的文本、图表、文档等内容由模型本身决定,可能存在错误、遗漏或偏差。涉及医疗、法律、财务、安全等重要决策时,请人工核对或咨询专业人士。Sidemate 不对 AI 输出内容的准确性、完整性或适用性承担责任。
数据与隐私:离线模式下,对话、文件、知识库存储于用户本机;在线/并行模式下,提问发往所选云端模型服务商,相关政策遵循该服务商,非 Sidemate 保证。