在 ai-memory 中使用图灵模型
ai-memory 是一个开源(MIT)的本地记忆服务。它运行在你自己的电脑上,通过 Claude Code、Codex 等 Agent 的 hooks 记录会话,让另一个 Agent 能召回之前的工作,或接着做同一个任务。它是第三方项目,不由图灵维护或提供支持。
本页只说明怎样让 ai-memory 的模型和 Embedding 请求走图灵 API。安装、接入 Agent 和日常使用,以 ai-memory 官方文档 为准。
Agent Memory 保存你确认过的长期偏好和决策,存在图灵,供各个 Agent 和 Portal 共用;ai-memory 记录本机的会话,用来接续当前任务,数据留在你的电脑上。两者可以同时使用:Agent Memory 通过 Skill 工作,不安装 hooks,不会和 ai-memory 的 hooks 冲突。
为什么要配置模型
ai-memory 不配置模型也能用:会话按规则汇总,检索用本地向量模型。这个本地模型在首次启动时从 huggingface.co 下载,国内网络可能下载失败,失败后只用关键词检索;它也主要面向英文。
配置图灵模型后:
- Embedding 由图灵生成,不再需要下载本地模型,中文内容也能按语义检索;
- 对话模型会把会话整理成更易读的页面。
开启后,会话页面的文本会发送到图灵 API,用量计入你的 API Key。已有的页面会在后台重新生成向量,这部分也会产生用量。
前置要求
- 已按 ai-memory 安装文档 安装,并用
ai-memory setup启动了后台服务; - 一个图灵 API Key,见获取 API Key。建议给 ai-memory 单独创建一个,便于按 API Key 查看用量。
配置
下面以中国区为例。其他区域把地址换成该区域的 API 地址(见获取 API Key),模型也换成该区域可用的模型:
- 对话模型选非推理的小模型即可,ai-memory 只用它做摘要整理;
- 换 Embedding 模型时,把
embedding_dim改成该模型的输出维度。
- macOS
- Linux
-
打开
~/Library/Application Support/ai-memory/config.toml,把下面几行加在文件开头,也就是第一个[...]段之前。加在文件末尾会落进[auth]段,配置不会生效。llm_provider = "openai-compat"llm_base_url = "https://live-turing.cn.llm.tcljd.com/api/v1"llm_model = "qwen3.8-flash"embedding_provider = "openai-compat"embedding_base_url = "https://live-turing.cn.llm.tcljd.com/api/v1"embedding_model = "aliyun/text-embedding-v4"embedding_dim = 1024 -
API Key 只能通过环境变量
LLM_API_KEY传给服务。macOS 上的服务是 LaunchAgent,没有环境变量文件,需要写进它的 plist:打开~/Library/LaunchAgents/com.github.akitaonrails.ai-memory.plist,在最外层的<dict>里加上:<key>EnvironmentVariables</key><dict><key>LLM_API_KEY</key><string>你的图灵 API Key</string></dict> -
收紧 plist 的权限,并重新加载服务(修改 plist 后必须先
bootout再bootstrap):chmod 600 ~/Library/LaunchAgents/com.github.akitaonrails.ai-memory.plistlaunchctl bootout gui/$(id -u)/com.github.akitaonrails.ai-memorylaunchctl bootstrap gui/$(id -u) ~/Library/LaunchAgents/com.github.akitaonrails.ai-memory.plist
重新运行 ai-memory setup 会按模板重写这个 plist,EnvironmentVariables 会被去掉,之后要按第 2、3 步重新加上。
-
把下面的内容写进
~/.config/ai-memory/env,ai-memory setup创建的服务会读取这个文件:LLM_API_KEY=你的图灵 API KeyAI_MEMORY_LLM_PROVIDER=openai-compatAI_MEMORY_LLM_BASE_URL=https://live-turing.cn.llm.tcljd.com/api/v1AI_MEMORY_LLM_MODEL=qwen3.8-flashAI_MEMORY_EMBEDDING_PROVIDER=openai-compatAI_MEMORY_EMBEDDING_BASE_URL=https://live-turing.cn.llm.tcljd.com/api/v1AI_MEMORY_EMBEDDING_MODEL=aliyun/text-embedding-v4AI_MEMORY_EMBEDDING_DIM=1024 -
限制文件权限,并重启服务:
chmod 600 ~/.config/ai-memory/envsystemctl --user restart ai-memory
Embedding 没有单独设置 Key 时会复用 LLM_API_KEY,不需要第二个 Key。
验证
ai-memory status
Optional models 下的两行显示图灵的模型并且是 ok,就说明配置已生效:
llm: openai-compat/qwen3.8-flash ok (last call: ...)
embedding: openai-compat/aliyun/text-embedding-v4 (1024d) ok (last call: ...)
服务刚重启、还没有调用时显示 unknown (no calls yet),用 Agent 做几轮对话后再看。显示 error 时,括号里是图灵返回的状态码和错误信息。
遇到问题
- 图灵返回的错误(如 401、403、429):对照错误码参考排查,或通过获取帮助联系运营团队。
- ai-memory 本身的问题:到它的 GitHub Issues 反馈。