ETOS LLM Studio

一个运行在 iOS 和 Apple Watch 上的原生 AI 客户端。支持 OpenAI、Anthropic Claude、Google Gemini 与本机 GGUF / llama.cpp 模型，内置 MCP 工具调用、Agent Skills 技能包、本地 RAG 记忆、世界书、每日脉冲、应用锁与 SQLCipher 全盘加密、CloudKit / WatchConnectivity 双端同步以及 Siri 快捷指令。

English | 繁體中文 | 日本語 | Русский

📸 截图

👋 写在前面

在学校的日子挺无聊的，平时又总会冒出很多想问 AI 的问题。当时我嫌 App Store 上的 AI 应用要么贵得离谱，要么功能太残废（尤其是手表端），索性就自己动手搓了一个。

从最初那个只有 1,800 行代码、API Key 还要硬编码的简陋版本，到现在 641 个 Swift 源文件、226,381 行 Swift 代码（仅计算项目内 Swift，不把 llama.cpp 子模块和 VitePress 文档站依赖算进来）的工程，它确实已经长大了不少。虽然名字叫 "ETOS LLM Studio" 听着有点唬人，但它本质上还是我拿来探索大模型应用边界的试验场。

现在它已经不只是一个手表端 App 了：我把 iOS 端也一点点补成了完整版本，方便在手机上管理云端模型、本地 GGUF 权重、工具、记忆、世界书和每日脉冲；两端数据还能通过内置同步引擎自动互通。

因为我平时主要还是用 Mac 和 Watch，iPhone 端偶尔会有一些还在继续打磨的边角，不过我会继续慢慢补齐。

主要功能

聊天与模型

• 双端原生体验：iOS 和 Apple Watch 原生适配，两端界面风格统一，但会针对不同屏幕尺寸分别优化交互；iOS 会话列表采用卡片样式，文件夹与会话分组分明，横屏自动切换为固定双栏侧栏布局。
• 会话管理增强：支持会话全文检索、命中上下文预览、消息序号定位、文件夹分类、Finder 式彩色标签、快捷筛选、嵌套移动、批量操作、全屏会话管理入口与单会话跨端发送，会话历史改为无限滚动加载。
• 多模型支持：原生适配 OpenAI Chat、OpenAI Responses、Anthropic（Claude）和 Google（Gemini）等接口格式，支持在 App 内动态管理提供商与模型，拉取模型列表，并可长按拖动调整提供商顺序。
• 端侧本地模型：支持导入 GGUF 权重并作为“本地模型”提供商使用，底层通过 llama.cpp C ABI 桥接执行；支持流式输出、GGUF Jinja chat template、本地工具调用解析、思考内容解析、本地嵌入模型路由与后台 detached completion。
• 本地模型高级调参：每个 GGUF 权重可按需覆盖上下文长度、输出上限、GPU 层数、batch / ubatch、KV offload、flash attention、seed、采样链、grammar、重复惩罚与对话模板透传等参数，也支持常用 llama.cpp-style CLI 参数导入、模型缓存开关和 iOS 高内存限制。
• 高级请求配置：支持自定义请求头、参数表达式、结构化请求控制、键值对 Payload 编辑、原始 JSON 请求体与请求预览，方便折腾兼容接口和特殊模型。
• 消息正则替换规则：支持对发送与接收消息按规则批量改写，可在偏好设置中管理多条规则并随提供商页快速进入。
• 单条 AI 回复重写：可以对历史中某条 AI 回复单独重写，重写时可引用同一消息的其他版本，避免为了局部调整重跑整段会话。
• 模型计费与费用估算：支持为模型配置本地价格（含阶梯价格区间），自动按 Token 用量估算每条消息的成本。
• 多模态与图像生成：支持发送语音、图片与文件附件；图片可走独立 OCR 通道，文件附件会在发送前文本化，图像生成入口已收敛为助手图片相册。
• 会话导入导出：支持导入 ETOS / .elsbackup、Cherry Studio、RikkaHub、Kelivo、ChatBox、ChatGPT conversations 等第三方会话，并可导出 PDF / Markdown / TXT。
• 语音输入（STT）：接入系统 SFSpeechRecognizer 流式识别，iOS / watchOS 录音流程内嵌到聊天输入栏，支持实时转写、音频直发和识别结果回填输入框。
• 语音朗读（TTS）：支持系统 TTS、云端 TTS 与自动回退，可单独选择 TTS 模型和朗读参数。
• 并发会话请求：不同会话可以保持独立请求状态，支持会话级取消、后台完成通知与通知跳转回对应聊天。

显示与阅读体验

• 显示系统可定制：支持自定义字体（含 WOFF / WOFF2）、字号比例、字体样式槽位优先级、气泡/文字颜色配置、聊天配色 Profile、按时间自动切换配色与关闭助手气泡。
• 本地性能监视面板：iOS 使用本地模型聊天时可在输入栏上方显示 CPU、Metal 与内存占用，面板支持收起、拖动、触控透传和位置记忆。
• 气泡功能栏：聊天气泡下方可挂载自定义功能栏，支持单行横滑、关闭外围边框、iOS 与 watchOS 分别设置默认项目并随用户/助手身份切换，watchOS 可拖拽调整顺序。
• 字体回退策略：支持整段/单字粒度的字体回退范围配置，提升中英混排与符号场景的稳定性。
• 思考与工具时间线：支持滚动思考预览、自定义/响应式预览高度、流式阶段隐藏完整思考正文、思考耗时、异步思考摘要、工具调用连线时间线、错误重试续跑与多版本回复切换；工具审批改造为行列式选项的原生问答 Sheet。
• Markdown 与代码块增强：支持代码高亮、复制反馈、折叠切换、iOS 代码块预览、Mermaid 渲染、SwiftMath 数学公式、引用块竖线样式、流式尾字淡入与扫光动效。
• watchOS 图片阅读：Markdown 图片和生成图片预览支持数码表冠缩放与拖拽查看，小屏也能认真看图。

工具与自动化

• 工具中心 + 拓展工具：统一管理 MCP / Shortcuts / 内建本地工具 / 自定义 JavaScript 工具 / Agent Skills 与内置 getSystemTime 等能力，支持按来源和用途分组、聊天工具开关、审批策略、会话级启用、分类收纳与工具详情页。
• Agent Skills 技能包：支持从本地目录、GitHub 仓库链接、GitHub raw / 嵌套目录、默认分支与隐藏目录导入技能包；技能资源支持文本编码读取、大文本分块、文档抽取与图片 OCR，技能元数据暴露给模型用于按需启用。
• 结构化问答工具（ask_user_input）：支持单题逐步作答、单选/多选互斥规则、自定义输入与返回上题。
• 自定义 JavaScript 工具：支持分离式 JS 执行与 AI 生成脚本工具，脚本保存在 CustomJSTools 独立目录，创建前会执行脚本验证，可像普通工具一样启用、禁用和配置审批策略。
• 拓展工具能力补齐：内置系统时间、SQLite 数据库增删改查、网页卡片展示、输入框填充、沙盒文件操作与反馈工单自动提交工具。
• 沙盒文件系统工具：支持搜索、分块读取、差异查看、局部编辑、移动 / 复制 / 删除等文件操作。
• MCP 工具调用：基于官方 Swift Model Context Protocol SDK，支持远程调用、Streamable HTTP / SSE 传输、重连、超时、握手治理、元数据刷新、资源/模板/提示词读取与能力协商；支持服务器拖拽排序、工具级启用/审批策略、内置服务器删除与恢复，可按聊天暴露开关延迟自动连接。
• 内建 MCP 服务器：内置搜索、本地工具和个人数据 MCP 服务器；个人数据服务器可在工具真正调用时按需申请 HealthKit、日历和提醒事项权限。
• Siri 快捷指令：集成 Shortcuts 框架，支持通过快捷指令调用 AI 能力、自定义工具并通过 URL Scheme 路由。
• 应用内文件管理：内置可浏览目录的文件管理器，支持直接查看与管理应用沙盒文件，纯文本文件可直接预览。

记忆与知识组织

• 本地 RAG（记忆）：Embedding 可调用云端 API，也可走已登记的本地嵌入模型，但向量数据库完全本地运行（SQLite）；支持文本分块、嵌入进度可视化、记忆编辑、单条记忆重新嵌入、检索时间戳发送控制与主动检索工具。
• GRDB 关系化持久化：核心数据持久化从 JSON 迁移到 GRDB + SQLite，覆盖会话、配置、MCP、世界书、记忆、反馈、快捷指令、用量统计与全局提示词等模块；底层可选启用 SQLCipher 全盘物理加密。
• 世界书（Worldbook）：类似 SillyTavern 的 Lorebook 系统，支持角色背景设定管理、条件触发、会话绑定隔离发送、system 注入与 URL 导入；进一步完善了 SillyTavern 多本同时注入、注入预算控制与字段隔离兼容性。
• 广泛格式兼容：兼容 PNG naidata、JSON 顶层数组与 character_book 等常见世界书格式。
• 请求日志与测速分析：内置独立请求日志、Payload 详情页展开、可选的请求明文消息记录、细分 Token 汇总，并提供流式响应速度统计与详情图表。
• 用量统计：记录文本请求、模型排行、Token 与缓存 Token，提供 iOS / watchOS 双端统计页、绿色热力图、缓存命中率与跨端同步；今日趋势按小时切分，并提供按模型的 Token 趋势图、占比分析与全部历史范围。
• 高级渲染：内置 Markdown 渲染器，支持代码高亮、表格和 LaTeX 数学公式。

Daily Pulse 主动情报

• 每日脉冲（Daily Pulse）：每天生成一组主动情报卡片，把“你今天可能值得看什么”先整理出来。
• Pulse 任务机制：卡片可以直接转成待跟进任务，这些未完成项会跨天保留，并参与下一次 Pulse 生成。
• 反馈历史学习：点赞、降权、隐藏、保存等反馈会沉淀成长期偏好信号，持续影响后续结果。
• 晨间提醒与继续聊：支持定时提醒、通知快捷动作、保存为会话和继续聊天，iOS 与 watchOS 两端都能接上这条链路。

安全、同步与运维

• 应用锁：基于 Keychain 持久化的 PBKDF2 主密码与生物识别（Face ID / Touch ID）双重保护，支持修改密码时验证旧密码、锁屏自动唤起验证，iOS 与 watchOS 均接入。
• 数据库全盘加密：通过 SQLCipher 对核心 SQLite 数据库做物理层加密，支持加密迁移、新密码校验与从加密分库读取，App 内文件浏览与调试工具均兼容。
• 快照备份与加密：基于 SQLite Online Backup API 构建脱机数据库快照（含 FTS 剥离），支持完整快照模式、简单密码与 PBKDF2 双模式 AES-256-GCM 加密，并提供二进制 .elsbackup 上传与安全恢复流程。
• 跨端同步：内置 iOS ↔ watchOS 同步引擎，提供商配置、会话、会话标签、世界书、工具配置、每日脉冲、用量统计、用户画像、全局提示词等数据可自动互通，并支持 Manifest/Delta 差异同步、WatchConnectivity 快速通道、iCloud 漫游同步、会话分叉离线隔离与同消息重试版本合并。
• 多通道云备份：支持 ETOS 数据包导出/导入、.elsbackup 快照导入、手表端全量导入、CloudKit 传输（含 APNs 静默推送触发后台同步）、iCloud Drive 备份导出/导入、启动备份、损坏自愈，以及通过 S3 兼容对象存储（AWS S3 / Cloudflare R2）签名上传快照、浏览远端快照并从云端下载恢复。
• AppConfigStore 配置中心：全量替代 @AppStorage，所有运行时配置走 GRDB 持久化、运行时缓存读取并以后台异步写入派发回主线程，避免主线程 I/O 与多设备配置漂移；支持旧版 UserDefaults 配置的一次性迁移。
• 更新时间线：无后端的版本追踪系统，本地从 Build 信息与缓存重建发布时间线，AI 摘要按 Markdown 渲染，iOS 分批展示、watchOS 拆分二级页浏览。
• 应用内反馈助手：支持反馈分类、环境信息采集、Git 提交哈希、PoW 提交链路、工单评论对话、引用提交跳转至更新时间线、上传分发通道信息以及双端同步。
• 网络代理能力：支持全局/提供商级 HTTP(S)/SOCKS 代理（含鉴权）。
• 通知与反馈中心增强：支持工单评论对话、开发者标记展示、状态自动刷新与高优先级本地通知跳转。
• 局域网调试：内置局域网调试客户端，并提供 Go 版 TUI 调试工具与内置 Web 控制台；支持 Bonjour 自动发现、文件/SQLite/Provider/模型高级配置/MCP 管理、应用配置编辑与 OpenAI 请求捕获。
• 文档站：新增 VitePress 文档站，覆盖安装、首聊、提供商配置、界面导览、模块说明、设计文档和使用建议。
• 本地化：支持英语、简体中文、繁体中文（香港）、日语、俄语、法语、西班牙语、阿拉伯语共 8 种语言，并可在 App 内切换语言。

💸 关于收费与开源

说实话，我最开始是想做免费软件的。 但 Apple Developer Program 每年 $99 的费用，对我一个学生来说确实有点吃力。

后来有位投资人帮我垫付了这笔钱，代价是我需要通过软件收费来偿还这笔投资（而且还要分成给他）。所以 App Store 版本象征性地收了一点费用，这就当是大家众筹帮我还债，顺便买个“不用每七天重签一次”的便利服务。

但是，开源是我的底线。

所以现在的规则很简单：

1. 想省事/支持我：App Store 见，感谢你的“可乐钱”。
2. 想折腾/白嫖：代码就在这儿，GPLv3 协议。如果你有 Mac 和 Xcode，完全可以自己编译安装，功能上没有任何区别。
3. 想体验最新版本：可以加入 TestFlight 👉 https://testflight.apple.com/join/d4PgF4CK

技术本该共享，我不希望因为几十块钱的门槛，挡住了同样对代码感兴趣的你。

🛠️ 技术栈

• 语言: Swift 6, C / C++（llama.cpp 桥接层）
• UI: SwiftUI
• 架构: MVVM + Protocol Oriented Programming
• 数据: GRDB + SQLite + SQLCipher（核心持久化、本地向量数据库与可选全盘物理加密）, JSON（导入导出与兼容格式）
• 配置: AppConfigStore（替代 @AppStorage，GRDB 持久化 + 运行时缓存 + 后台异步写入）
• 安全: SQLCipher 全盘加密、Keychain PBKDF2 主密码、LocalAuthentication 生物识别、AES-256-GCM 快照加密
• 网络与传输: URLSession（API 请求）, Streamable HTTP / SSE（MCP 传输）, WatchConnectivity / CloudKit / APNs 静默推送（跨端与云传输）, WebSocket / HTTP Polling（局域网调试）
• AI 协议: Model Context Protocol（基于官方 swift-sdk）, OpenAI Chat / Responses, Anthropic Messages, Gemini API, 本地 local-llama-cpp 提供商
• 本地推理: llama.cpp / GGUF, Swift ↔ C ABI ↔ C++ 桥接, CMake + Ninja 预编译 libetos-llama.a, Accelerate / Metal（watchOS 运行期固定 CPU 路径）
• 系统能力: Siri Shortcuts, WatchConnectivity, CloudKit, UserNotifications, BackgroundTasks（iOS）, LocalAuthentication, Speech / AVFoundation
• 文档站: VitePress / Teek（仅文档站使用；README 中的代码规模不统计其依赖）
• 依赖管理: Swift Package Manager（当前显式依赖 GRDB.swift(Eric-Terminal fork)、SQLCipher.swift、swift-sdk(MCP)、swift-markdown-ui、SwiftMath、ZIPFoundation、Cepheus(watchOS 第三方键盘)，并包含其传递依赖 networkimage、swift-cmark、eventsource、swift-nio 等）+ llama.cpp Git submodule + CMake/Ninja 静态库构建脚本

🏗️ 项目架构

项目采用双层结构：平台无关的 ETOSCore 框架 + 各平台独立的视图层。最近一轮重构引入了 Config/AppConfigStore 配置中心，全量替代 @AppStorage，并新增 LocalLLM / LocalLLMBridge 把本机 GGUF 推理接入现有聊天生命周期；同时把 MCP、同步导入、局域网调试和会话标签继续拆成独立模块。当前最大 Swift 文件约 1,540 行（Sync/WatchSyncManager.swift），本地模型管理页、同步引擎和工具中心仍是后续继续拆分的重型模块。

ETOSCore/ETOSCore/                         ← 平台无关业务逻辑（293 个 Swift 源文件）
├── AppTool/                            ← 本地工具、自定义 JS 工具、ask_user_input、SQLite 与沙盒文件工具
├── Attachments/                        ← 文件附件文本抽取
├── Chat/                               ← 聊天模型、消息版本、导出、渲染状态
│   └── Service/                        ← ChatService 请求编排、响应解析、重试、工具、记忆与世界书注入
├── Config/                             ← AppConfigStore 配置中心、键定义与旧版 UserDefaults 迁移
├── ConfigLoader/                       ← Provider 配置、SQLite 存储、背景与一次性下载状态
├── Core/                               ← 核心模型、JSONValue、请求体控制与共享基础设施
├── DailyPulse/                         ← 每日脉冲生成、筛选、投递、反馈与任务数据
├── Feedback/                           ← 应用内反馈助手、环境采集、DTO 与本地存储
├── Font/                               ← 自定义字体库、字体路由与回退范围
├── LocalDebugServer/                   ← 局域网调试客户端、Web 控制台、文件 / SQLite / Provider 命令与请求捕获
├── LocalLLM/                            ← 本地 GGUF 模型记录、提供商桥接、参数映射与 Swift 推理入口
├── LocalLLMBridge/                      ← llama.cpp C ABI / C++ 桥接层与静态库链接边界
├── Math/                               ← LaTeX/数学公式渲染引擎
├── MCP/