Sidemate
桌伴Sidemate Wiki

设置 & 个性化

选模型、换主题、装扩展。

模型管理、云端配置、权限控制、数据维护——都在这里。

设置页分为 7 个子页面:常规 / 云端 AI / 知识库 / 隐私安全 / 模型下载 / 环境检查 / 关于

常规

  • 模型管理:下拉选择已安装的本地模型,一键切换或卸载
  • 设备切换:CPU / GPU(Vulkan)推理设备切换,切换后自动重载模型
  • 自动预热:启动时自动加载上次使用的模型
  • Reranker 常驻:控制知识库重排序模型是否常驻内存(关闭可节省 ~2GB 内存,但 KB 检索会变慢)
  • 深色模式:亮/暗主题切换
  • 数据维护:缓存管理、导出备份(ZIP)、恢复备份

云端 AI

  • API 配置:填写服务商 API 地址 + Key + 模型名
  • 连接测试:一键验证 API Key 是否有效(不消耗 token)
  • 数据发送策略:完整发送 / 仅当前消息 / 精简历史(保留最近 N 轮)
  • 用量统计:查看云端 token 用量

支持所有 OpenAI 兼容协议的服务商:DeepSeek、通义千问、GLM、Kimi、OpenAI 等。

知识库

  • 标签打标引擎:选择文档自动打标使用本地 LLM 还是云端 LLM(独立于全局模式)
  • 文档统计:总数/就绪/处理中/失败
  • 审计日志管理:查看和清空检索审计日志
  • 重置知识库:清空所有文档和向量索引(不可撤销)

隐私安全

  • 工具开关:知识库检索、联网搜索、文件读写、内网访问(可单独控制)
  • CORS 严格模式:限制跨域访问(开启前会二次确认,仅在明确需要时打开)
  • 隐私声明:数据存储说明、云端通信说明

模型下载

  • LLM 三档
档位体积建议内存上下文窗口
--------------------------------
0.8B~0.5GB16GB4096
2B~1.3GB24GB8192
4B~2.7GB32GB8192
  • 知识库模型:bge-m3 + bge-reranker-v2-m3 组合,约 4.5GB
  • 下载源:魔搭 ModelScope(国内推荐)/ HuggingFace(国际)
  • 断点续传:下载中断后可继续
  • 从本地安装:导入 .sidemate 离线包(安装后注册为扩展,可在此管理/卸载)

环境检查

检查 Python 运行时、推理引擎、依赖包和模型加载状态;发现依赖缺失可一键修复(仅安装白名单内的依赖包)。

关于

程序版本、运行状态、系统信息、产品描述、AI 免责声明、团队信息、法律信息。

---

Model management, cloud config, permissions, data maintenance — all here.

Settings has 7 tabs: General / Cloud AI / Knowledge Base / Privacy / Model Download / Environment Check / About.

General

  • Model management: Dropdown to select installed local models, switch or unload
  • Device switch: CPU / GPU (Vulkan) inference device — model auto-reloads after switching
  • Auto warmup: Automatically load last-used model on startup
  • Reranker resident: Control whether KB reranker stays in memory (off = saves ~2GB but slower KB search)
  • Dark mode: Light/dark theme toggle
  • Data maintenance: Cache management, export backup (ZIP), restore

Cloud AI

  • API config: Provider API URL + Key + model name
  • Connection test: One-click API Key validation (no token cost)
  • Data policy: Full / current-only / slim-history (last N rounds)
  • Usage stats: Cloud token usage

Supports all OpenAI-compatible providers: DeepSeek, Qwen, GLM, Kimi, OpenAI, etc.

Knowledge Base

  • Tagging engine: Choose local or cloud LLM for document auto-tagging (independent from global mode)
  • Document stats: Total/ready/processing/failed
  • Audit log management: View and clear search audit logs
  • Reset KB: Clear all documents and vectors (irreversible)

Privacy & Security

  • Tool toggles: KB search, web search, file I/O, internal network access (individually controllable)
  • CORS strict mode: Restrict cross-origin access (asks for confirmation first; only enable when you specifically need it)
  • Privacy notice: Data storage and cloud communication details

Model Download

  • LLM tiers:
TierSizeRecommended RAMContext Window
------------------------------------
0.8B~0.5GB16GB4096
2B~1.3GB24GB8192
4B~2.7GB32GB8192
  • KB models: bge-m3 + bge-reranker-v2-m3 combo, ~4.5GB
  • Source: ModelScope (recommended for China) / HuggingFace (international)
  • Resume: Downloads can resume after interruption
  • Local install: Import .sidemate offline packages (registered as extensions after install; manage/uninstall here)

Environment Check

Checks Python runtime, inference engine, dependency packages and model loading status; missing dependencies can be repaired in one click (whitelist-only installs).

About

Version, runtime status, system info, product description, AI disclaimer, team, legal info.

---