博客

岚迹（Lanjii）是一款基于 Spring Boot + Vue3 技术栈构建的现代化前后端分离企业级管理系统，遵循 MIT 开源协议，支持商用且无复杂依赖，开箱即用，可快速助力企业或个人搭建 CRM、OA、博客等各类 Web 后台系统，也适用于企业项目开发与个人学习实践。

一、核心技术栈

岚迹采用主流且稳定的技术组合，兼顾性能、扩展性与开发效率，具体技术栈如下：

技术类别	技术框架/工具	版本信息	核心作用
后端框架	Spring Boot	3.3.12（近期升级至 3.5.9）	提供稳定的后端服务架构，支持快速开发与部署
AI 集成	Spring AI	1.1.2	实现大模型集成、RAG 知识库功能，支撑 AI 智能对话
数据访问	MyBatis Plus	3.5.12	简化数据库操作，提供 CRUD 封装与性能优化
数据库	MySQL	8.0.33	存储系统业务数据、用户信息、AI 知识库等核心数据
前端框架	Vue3	3.5.13	构建响应式前端界面，支持组件化开发
状态管理	Pinia	3.0.1	管理前端全局状态，优化组件间数据通信
UI 组件库	Element Plus	2.9.8	提供丰富的企业级 UI 组件，快速搭建美观界面
监控工具	Druid	●	实时监控 SQL 执行、慢查询分析、数据库连接池状态

二、核心功能与模块

岚迹覆盖企业级管理系统的全场景需求，同时集成 AI 智能能力，功能模块划分清晰，具体如下：

1. 系统管理模块（核心基础）

提供完整的企业级权限与配置管理能力，支持细粒度控制与组织架构维护：

● 用户管理：用户增删改查、角色/岗位分配、密码重置、状态管控；

● 部门管理：多级部门树形结构维护、部门人员统计与信息编辑；

● 角色管理：角色创建、权限分配（菜单/按钮/数据权限）、角色状态控制；

● 菜单管理：菜单树维护、路由配置、权限标识设置、菜单图标管理；

● 字典管理：字典类型维护、字典数据增删改查、下拉选项配置；

● 系统配置：全局参数配置、系统缓存刷新、个性化参数自定义。

2. 监控与日志模块（安全与运维）

保障系统稳定运行，支持操作追溯与性能优化：

● 在线用户监控：实时查看在线用户列表、会话管理、异地登录检测、一键踢出用户；

● SQL 监控：基于 Druid 展示 SQL 执行统计、慢查询分析、数据库连接池状态；

● 日志管理： 操作日志：记录用户操作行为、操作轨迹追踪、异常操作告警；

○ 登录日志：用户登录记录、登录 IP 统计、登录失败分析、安全审计。

3. 内容与工具模块（业务支撑）

满足日常办公与内容管理需求，提供实用工具：

● 通知公告：公告编辑发布（集成 wangEditor 富文本，支持图文/表格/代码高亮）、WebSocket 实时推送、阅读状态跟踪；

● 文件管理：文件上传下载、预览、存储分类、文件类型过滤；

● 外部链接：集成 Gitee 源码仓库、Element Plus 官方文档等快捷入口，支持新窗口打开。

4. AI 智能模块（核心特色）

集成大模型与 RAG 知识库技术，支持企业级 AI 应用场景：

● 模型配置：管理多 AI 模型（如 DeepSeek、OpenAI 等）、支持模型切换、默认模型设置、启用状态控制；

● 知识库管理（RAG）：对接多数据源（数据库、PDF/TXT/Markdown/HTML 文档）、数据解析与向量化处理、向量索引刷新；

● 元数据配置：自定义知识库文档元数据结构、字段类型定义（如分类、标签）；

● 角色与提示词：AI 角色设定（如“物流订单智能客服”）、系统提示词模板配置、角色状态管控；

● AI 聊天：智能对话界面、RAG 知识库检索、上下文记忆、流式响应输出，支持智能客服、文档问答、代码生成等场景。

5. 控制台（数据可视化）

系统首页仪表板，展示核心数据与快捷操作：

● 关键指标：用户总数、今日访问量、本月新增用户、本月收入等；

● 数据图表：订单销量柱状图/折线图、趋势分析；

● 待办事项：优先级排序、状态跟踪（待处理/进行中/已完成）；

● 系统公告：实时推送系统更新、安全提示、运营提醒。

三、项目特色

1.  细粒度 RBAC 权限控制：支持菜单权限、按钮权限、数据权限的精准控制，可实现“按钮级”显示/隐藏逻辑；

2.  AI 智能集成：融合大模型与 RAG 技术，支持多数据源解析与向量化，适用于智能客服、文档助手等场景；

3.  界面个性化：提供 4 种布局模式（经典、顶部菜单、混合、简约），内置多套主题换肤，支持暗黑模式、色弱模式；

4.  无复杂依赖，开箱即用：无需额外配置复杂中间件，提供完整 SQL 脚本与部署文档，快速启动；

5.  MIT 开源协议：可自由使用、修改、分发，支持商用，且仅需保留原始版权与许可证声明；

6.  富文本与可视化：集成 wangEditor 富文本编辑器与 ECharts 图表，满足内容编辑与数据展示需求。

四、短期规划与开发进度

项目持续迭代更新，当前核心功能开发进度如下：

规划功能	功能描述	开发进度
RAG 能力增强	1. 对接数据库数据，支持解析、向量化与动态维护；2. 支持 PDF/TXT/Markdown/HTML 等多文档解析与向量化	✅ 已完成
AI 大模型集成	1. 集成常见 LLM 模型，支持多 AI 服务商接入；2. 支持上下文记忆与内存向量化数据存储	✅ 已完成（上下文记忆待完善）
多租户架构	支持多租户配置与管理，实现用户、数据资源完全隔离	🚧 开发中

五、体验与资源

1.  在线演示： 演示地址：http://106.54.167.194/admin/login

a.  测试账号：admin / 123456（可体验全功能模块与 AI 聊天）；

2.  源码仓库：https://gitee.com/leven2018/lanjii（提供完整源代码、SQL 脚本、更新日志）；

3.  问题反馈：通过 Gitee 仓库 Issues 提交 Bug 反馈或功能建议，作者会不定期处理。

六、适用场景

● 企业级项目：快速搭建 CRM、OA、ERP、人力资源管理系统等；

● 个人学习：学习 Spring Boot + Vue3 前后端分离开发、RBAC 权限设计、AI 大模型集成；

● 二次开发：基于现有框架扩展行业定制功能（如电商后台、教育管理系统）。

一、OpenBMB 开源社区概述

OpenBMB（Open Lab for Big Model Base）是由清华大学自然语言处理实验室(THUNLP) 和面壁智能共同发起的大模型开源社区，致力于打造大规模预训练语言模型库与相关工具链，降低百亿级以上大模型的训练、微调与推理门槛，推动大模型生态标准化、普及化和实用化。

核心使命与定位

● 构建大模型基础设施，加速大模型技术落地

● 降低大模型使用门槛，让技术惠及更多开发者

● 推动大模型开源社区建设，促进技术交流与创新

主要开源项目

● MiniCPM系列：轻量级高性能大模型，适合端侧部署

● Eurux系列：推理性能突出的开源大模型，被称为”理科状元”

● UltraRAG：基于MCP协议的低代码RAG框架（本文重点介绍）

● BMTools：大模型工具学习引擎，支持接入16000+真实API

● AgentCPM系列：端侧智能体模型，支持本地化深度调研与报告生成

二、UltraRAG 框架深度解析

UltraRAG是OpenBMB联合清华大学THUNLP、东北大学NEUIR、AI9stars等团队推出的首个基于Model Context Protocol (MCP)架构的RAG框架，专为简化复杂RAG系统开发而设计，以低代码、高扩展性和可视化调试为核心优势。

1. 核心技术架构：MCP 协议

MCP（Model Context Protocol）是UltraRAG的灵魂，它将RAG流程拆解为一系列独立、可通信的标准化MCP Server，实现组件完全解耦：

核心组件	功能说明
Corpus Server	知识语料管理与索引
Retriever Server	文档检索与重排序
Generator Server	答案生成与优化
Evaluation Server	RAG效果评估与分析
Router Server	流程路由与逻辑控制

这种设计让开发者只需编写YAML配置文件，就能声明串行、循环、条件分支等复杂推理逻辑，以极低代码量实现多阶段推理系统。

2. 核心特性（v3.0最新版）

（1）低代码开发，极速原型验证

● 47行YAML替代500+行Python代码，快速构建复杂RAG流程

● 可视化Pipeline构建器，”所见即所得”的开发体验

● 支持一键部署，降低工程实现成本

（2）原生多模态支持（v2.1+）

● 文本、图像、表格、公式统一向量化，支持跨模态混合检索

● 新增VisRAG Pipeline，实现从本地PDF建库到多模态检索生成的完整闭环

● 适配主流视觉语言模型，无需额外开发即可处理复杂文档

（3）全链路可解释，拒绝”盲盒”开发（v3.0新特性）

● 推理过程可视化，每一步逻辑清晰可见

● 内置性能分析工具，定位瓶颈并优化检索与生成效果

● 支持细粒度日志追踪，便于问题排查与模型调优

（4）智能开发助手（v3.0新特性）

● 自然语言对话辅助生成Pipeline配置

● 自动优化各环节Prompt，提升模型指令遵循能力

● 交互式解答框架使用问题，提供上下文相关指导

（5）高度可扩展，兼顾灵活性与易用性

● “单反相机”级精细化配置：支持自定义组件、算法与模型

● “卡片机”式一键操作：适合快速搭建原型系统

● 兼容主流大模型与向量数据库，轻松集成现有技术栈

3. 版本演进与关键更新

版本	发布时间	核心突破
v1.0	2025年初	基础RAG框架，支持文本检索与生成
v2.0	2025年10月	基于MCP架构，低代码YAML配置，复杂逻辑支持
v2.1	2025年11月	原生多模态、知识接入自动化、统一评估体系
v3.0	2026年1月	可视化推理、智能开发助手、全链路可解释性

4. 典型应用场景

1.  企业知识库构建：快速搭建内部问答系统，支持多格式文档检索

2.  科研论文助手：自动整理文献、生成综述，加速科研进程

3.  行业专属RAG系统：金融、医疗、法律等领域的专业知识服务

4.  端侧智能应用：基于AgentCPM系列模型，实现本地化、私有化部署

5.  复杂任务推理：支持多轮对话、动态检索与自适应知识组织

5. 快速上手指南

# 1. 克隆代码库
git clone https://github.com/OpenBMB/UltraRAG
cd UltraRAG
 
# 2. 创建并激活环境
conda create -n ultrarag python=3.10
conda activate ultrarag
 
# 3. 安装依赖
pip install -r requirements.txt
 
# 4. 配置MCP服务（编写config.yaml）
# 5. 启动服务
python -m ultrarag.server --config config.yaml

注：详细配置与示例可参考官方文档与examples目录

6. 开源协议与社区支持

● 采用Apache-2.0开源协议，允许商业使用与二次开发

● 活跃的社区支持，定期更新文档与教程

● 提供Discord、GitHub Issues等交流渠道，快速响应开发者问题

三、总结与价值亮点

OpenBMB作为大模型开源社区，为开发者提供了从基础模型到应用工具的完整生态；而UltraRAG作为其核心项目之一，以MCP架构和低代码理念彻底革新了RAG系统开发方式，让复杂推理系统构建变得简单高效。

核心价值

1.  降低技术门槛：无需深厚工程能力即可搭建高性能RAG系统

2.  提升开发效率：将开发周期从数周缩短至数天甚至数小时

3.  增强系统可解释性：解决传统RAG”黑盒”问题，提升可靠性

4.  促进技术创新：让研究者专注算法创新，而非工程实现

UltraRAG特别适合科研人员快速验证新思路、企业开发者快速搭建行业解决方案，以及需要处理复杂多模态文档的各类场景。

FlashMLA（Multi-head Latent Attention Kernels）是由DeepSeek AI开发的高性能注意力计算内核库，专为英伟达Hopper架构GPU（H100/H800/H200/B200等）优化，旨在解决大模型推理中变长序列处理效率低的核心痛点，已在DeepSeek-V3和V3.2系列模型中大规模部署验证。

一、核心定位与价值

FlashMLA是大模型推理的”性能加速器”，专注于优化Transformer架构中的多头潜注意力（MLA） 计算，通过硬件级优化与算法创新，将高端GPU的算力与带宽利用率提升至极限，同时大幅降低显存占用，为大模型生产环境部署提供关键技术支撑。

二、核心功能

FlashMLA提供完整的注意力计算解决方案，覆盖大模型训练与推理全流程：

功能模块	具体实现	特点
稀疏注意力内核	1. 预填充阶段token级稀疏注意力2. 解码阶段token级稀疏注意力（支持FP8 KV缓存）	适配DeepSeek Sparse Attention (DSA)，显存占用降低93.3%
稠密注意力内核	1. 预填充阶段稠密注意力2. 解码阶段稠密注意力	支持MQA（Multi-Query Attention）与MHA（Multi-Head Attention）两种模式
分页KV缓存	64字节块大小的分页管理机制	动态分配显存，消除静态填充导致的70%空间浪费
混合精度计算	BF16主计算 + FP8 KV缓存（稀疏模式）	兼顾速度与精度，显存占用进一步降低

三、技术亮点与创新

1.  Hopper架构深度优化：充分利用SM90/SM100架构特性（如Tensor Core、异步拷贝），实现内存带宽与计算性能双突破

2.  变长序列并行优化：动态调度计算资源，解决序列长度差异导致的资源浪费问题

3.  极致带宽利用率：H800上内存绑定场景可达3000 GB/s，逼近硬件理论极限

4.  计算性能飙升：计算绑定场景最高达660 TFLOPS（H800 SXM5，CUDA 12.8），较传统实现提升50%+

5.  FP8稀疏解码内核：创新地将KV缓存量化为FP8，主计算保持BF16，实现性能与精度平衡

四、性能表现

场景	硬件	性能指标
稠密MLA解码（计算绑定）	H800 SXM5	660 TFLOPS
稠密MLA解码（内存绑定）	H800 SXM5	3000 GB/s
稀疏MLA解码（FP8 KV）	H800 SXM5	410 TFLOPS
稀疏MLA预填充	H800 SXM5	640 TFLOPS
稀疏MLA预填充	B200	1450 TFLOPS
稠密MHA预填充（前向）	B200	1460 TFLOPS

注：2025年4月更新版本为计算密集型工作负载带来5%~15%额外性能提升，接口完全兼容旧版本

五、适用场景

FlashMLA特别适合以下大模型应用场景：

1.  长文本处理：文档摘要、法律/医疗文本分析、代码理解等上下文窗口大且长度不一的任务

2.  对话系统：多轮对话中历史上下文动态增长的场景，KV缓存优化效果显著

3.  多模态推理：图像+文本混合输入的动态序列处理，如视觉问答、图文生成

4.  低成本部署：在有限硬件资源下实现更大模型或更长上下文的推理服务

5.  大模型训练：稠密MHA预填充内核支持前向/反向计算，提升训练效率

六、技术栈与部署要求

类别	具体要求
硬件	SM90/SM100架构GPU（H100/H800/H200/B200等）
软件	CUDA 12.8+（SM100需12.9+），PyTorch 2.0+
语言	C++（65.7%）、CUDA（25.7%）、Python（8.2%）
许可证	MIT开源许可，商业使用友好

七、安装与使用

安装步骤

git clone https://github.com/deepseek-ai/FlashMLA.git flash-mla
cd flash-mla
git submodule update --init --recursive
pip install -v .

快速使用示例

1. 稠密MLA解码

from flash_mla import get_mla_metadata, flash_mla_with_kvcache
 
# 初始化元数据（解码循环前调用一次）
metadata = get_mla_metadata(
    s_q=1, h_kv=1, h_q=32, d_qk=576, d_v=512, 
    page_block_size=64, is_fp8_kvcache=False
)
 
# 解码循环中调用
out, lse = flash_mla_with_kvcache(
    q, kv_cache, block_table, metadata, sm_scale
)

2. 稀疏MLA解码（FP8 KV缓存）

# 启用FP8 KV缓存
metadata = get_mla_metadata(..., is_fp8_kvcache=True)
out, lse = flash_mla_with_kvcache(
    q, kv_cache, block_table, metadata, sm_scale,
    indices=sparse_indices  # 稀疏索引张量
)

3. 稀疏MLA预填充

from flash_mla import flash_mla_sparse_fwd
 
out, max_logits, lse = flash_mla_sparse_fwd(
    q, kv, indices, sm_scale
)

八、生态支持与社区发展

FlashMLA已形成跨硬件平台的适配生态，支持多种国产与国际GPU：

● MetaX GPU：MetaX-MACA/FlashMLA

● 摩尔线程GPU：MooreThreads/MT-flashMLA

● 海光DCU：OpenDAS/MLAttention

● 燧原NNP：Intellifusion/tyllm

● 天数智芯GPU：Deep-Spark/FlashMLA

● AMD Instinct：AITER/MLA

项目GitHub已获得11.8k stars、905 forks，社区活跃，持续迭代优化。

九、总结

FlashMLA是大模型推理加速领域的”性能标杆”，通过硬件感知优化与算法创新，将Hopper架构GPU的潜力发挥到极致，为大模型落地提供了关键的”软加速”方案。对于需要处理变长序列、追求高吞吐量与低延迟的大模型应用，FlashMLA是理想的推理优化选择，尤其适合资源受限但需高性能推理的中小团队与企业。

Logto是Silverhand公司推出的现代开源身份认证与访问管理（CIAM/IAM）基础设施，核心价值在于以OIDC/OAuth 2.1/SAML为标准，为SaaS、AI应用等提供开箱即用的认证授权能力，兼顾快速集成与企业级安全，支持本地部署与完全自定义，同时提供云托管版本，可替代Auth0等商业方案。

核心功能

1.  认证与登录支持邮箱/短信无密码登录、社交登录（微信、Google、GitHub等30+）、企业SSO（SAML/OIDC）、MFA（TOTP/安全密钥/备用码）、邀请注册、账号绑定。

a.  开箱即用且高度可定制的认证UI，支持自定义CSS与流程，适配Web/SPA/移动端/M2M场景。

2.  授权与访问控制RBAC（用户/组织级）、JWT/不透明令牌校验、自定义令牌声明、API防护，适配多租户隔离需求。

a.  组织模板、成员邀请、按组织启用MFA，支持即时开通（JIT）与租户级登录体验定制。

3.  用户与合规管理用户模拟、创建/挂起/邀请、审计日志、用户迁移，支持数据隔离与全程TLS加密。

a.  符合SOC 2 Type II认证，内置数据加密与隐私保护机制，适配GDPR等合规要求。

4.  集成与生态30+框架SDK（React/Vue/Next.js/Flutter/Go/Python等），支持无代码集成与自定义连接器。

a.  兼容OIDC/OAuth 2.1/SAML，可对接主流IdP（Azure AD/Okta/Google Workspace）与社交平台。

适用场景

场景	核心价值	典型应用
SaaS多租户	组织隔离、SSO、RBAC、租户级定制	企业协作平台、B2B SaaS、垂直行业云服务
AI应用/Agent	模型上下文协议适配、安全访问、M2M认证	AI助手、智能API服务、自动化工作流
移动/SPA	密码less登录、社交集成、自定义UI	客户APP、会员系统、电商用户中心
企业内部系统	SSO、MFA、审计日志、RBAC	ERP、OA、数据中台、员工门户
M2M/API服务	令牌校验、服务账号、最小权限	微服务间通信、CLI工具、第三方API集成

技术栈

● 后端：Node.js（TypeScript）、Express/Fastify、PostgreSQL（数据存储）、Redis（缓存/会话）。

● 前端：React（管理控制台）、Svelte（登录UI），支持自定义CSS与组件替换。

● 容器化：Docker/Docker Compose，支持Kubernetes部署，提供Helm Chart。

● 协议：OIDC 1.0、OAuth 2.1、SAML 2.0，兼容主流标准，避免协议陷阱。

部署方式

1.  本地/自托管（OSS免费）Docker Compose（推荐）：一行命令启动，适合开发/测试/小规模生产。

git clone https://github.com/logto-io/logto.git
cd logto && docker-compose up -d

a.  Kubernetes：使用Helm Chart部署，支持大规模与高可用，适配AWS/Azure/GCP/私有云。

b.  手动部署：Node.js环境+PostgreSQL+Redis，适合深度定制场景。

2.  Logto Cloud（托管服务）免费版：5万MAU，按需付费，零运维，支持快速迁移至OSS版本。

a.  企业版：SLA保障、高级支持、专属隔离环境，适合大规模生产与合规敏感场景。

核心优势

● 开源可控：MIT协议，可完全自定义代码与数据存储，避免供应商锁定。

● 成本友好：OSS永久免费，Cloud免费版覆盖中小规模需求，按需付费无陷阱。

● 开发者友好：低代码集成、详细文档、活跃社区（GitHub 11.2k+星），支持Discord实时交流。

● 安全合规：SOC 2 Type II认证、Argon2加密、全程TLS、审计日志，适配企业级安全要求。

快速上手步骤

1.  部署：使用Docker Compose启动服务，访问http://localhost:3001进入控制台。

2.  配置：创建应用→选择认证方式（密码less/社交/SSO）→启用RBAC/组织管理。

3.  集成：接入对应SDK，前端调用登录接口，后端校验JWT/令牌。

4.  定制：修改UI样式、添加自定义字段、扩展连接器，适配业务流程。