10.4K! AnythingLLM 让大模型真正“看懂”你所有文档
代码蜂巢X
探索编程的无限可能
编辑：嘉禾
无需折腾环境，也不用写一行代码，把 PDF、Word、网页统统拖进去，即刻拥有一个私有化 ChatGPT——这就是 AnythingLLM 的魔法。
项目概述
AnythingLLM[1] 是 Mintplex-Labs 推出的「全家桶级」AI 应用：
- o 桌面与 Docker 双形态（Windows / macOS / Linux）
- o 内置 RAG（检索增强生成），支持任何 LLM 与向量数据库
- o 零代码 AI Agent 构建器 + MCP 原生兼容
- o 多用户、多模态、可嵌入网页
把任何文档变成大模型的“长期记忆”，再让 AI 帮你读、帮你写、帮你做任务
为什么需要 AnythingLLM？
传统大模型对话只能基于训练时的知识，无法直接访问企业私档或个人资料。
常见的痛点：
- o 敏感文件不能上传公网
- o 自建 RAG 链路需要折腾向量库、切分策略、Prompt 模板
- o 想让 AI 定时抓取网页、调用 API，又得写 Agent 框架
AnythingLLM 以「开箱即用」的思路一次性解决：
本地运行、私有部署、可视化操作、插件式扩展。
功能亮点
功能一句话卖点 MCP 兼容直接接入 Model Context Protocol 生态，秒连外部工具 无代码 Agent拖拽式流程编辑器，让 AI 自动浏览网页、调用接口 多模态同时支持闭源（GPT-4o、Gemini）与开源（Llama3、Ollama）模型 多用户 & 权限Docker 版支持团队共享，文档级权限隔离 网页挂件一行 <script> 把对话窗口嵌进你的网站 文档宇宙PDF、DOCX、TXT、网页、音频……一股脑拖进去即可向量化 精准引用回答自动给出原文段落，拒绝“幻觉” 省算力独创「文档缓存」策略，超大文件也只需切分一次
技术细节
AnythingLLM 采用「前端 + 后端 + 收集器」三段式架构：
- 1. Frontend – Vite + React
- 2. Server – Node.js Express，负责 LLM 调用、向量库管理、权限控制
- 3. Collector – Node.js 服务，专注文档解析与向量化
同时内置 Developer API，方便你把问答能力无缝集成到现有系统。
支持的底座
- o LLM：OpenAI、Azure、AWS Bedrock、Anthropic、Google Gemini、Groq、Ollama、LM Studio …… 30+ 提供商
- o 向量库：LanceDB（默认）、PGVector、Pinecone、Weaviate、Chroma、Milvus ……
- o 嵌入 & 语音：OpenAI、Cohere、LocalAI、ElevenLabs、PiperTTS 等
真正做到“只换配置、不动代码”。
安装与使用
1. 桌面版（推荐尝鲜）
直接下载安装包：
AnythingLLM Desktop[2]
2. Docker 一条命令（推荐生产）
docker run -d -p 3001:3001 \
--cap-add SYS_ADMIN \
-v ${PWD}/storage:/app/server/storage \
-e STORAGE_DIR="/app/server/storage" \
mintplexlabs/anythingllm官方还提供 AWS、GCP、Render、Railway 等 一键部署模板[3]。
3. 本地开发
git clone https://github.com/Mintplex-Labs/anything-llm.git
cd anything-llm
yarn setup # 自动生成 .env
yarn dev:server # 启动后端
yarn dev:frontend # 启动前端应用案例
- o 个人知识库：把 10 年笔记扔进 AnythingLLM，随时问答
- o 客服机器人：上传产品手册，30 分钟上线网页挂件
- o 法律/医疗团队：私有部署，敏感文件 0 出网，权限到人
- o 开发者集成：利用开放 API，在内部 OA、CRM 中嵌入“对话式 BI”
项目地址
GitHub 开源（MIT 协议）：
https://github.com/Mintplex-Labs/anything-llm
文档与 Roadmap：
https://docs.anythingllm.com
如果你厌倦了“提示词玄学”和“环境地狱”，AnythingLLM 会是你最省心的大模型增强方案。立即下载或 docker run，让你的文档秒变 AI 外挂！
引用链接
[1] AnythingLLM: https://github.com/Mintplex-Labs/anything-llm
[2] AnythingLLM Desktop: https://anythingllm.com/desktop
[3] 一键部署模板: https://github.com/Mintplex-Labs/anything-llm#-self-hosting