把 AI 写进内核

KAI Linux —— 内核级 AI 操作系统：AI 调度、网络智能防护、内核安全检测、内存热度预测；DeepSeek + Kimi K3 双后端；全插件热插拔架构，一切模块皆插件。

🧠 sys_infer #548 已编译进 vmlinux ⚡ sched_ext BPF 调度 🛡 XDP + LSM 安全 🔌 一切皆插件
136源文件
929K代码量 (C/Python)
34+32C 文件 + Python 模块
38热插拔插件
91/91ROADMAP 完成 · CI 绿
2AI 后端 (DeepSeek/Kimi)
1

七层架构

Kernel → Userspace
交互层 UITUI · Web · CLI
KAI Shell (ncurses TUI)KAI Studio (Web 8080)KAI Monitor (9090)CLIVS Code 插件
SDK 层Python · WebSocket
Python SDKWebSocket Hub (9998)配置管理性能分析器
Layer2 网关API 路由
DeepSeek 后端Kimi K3 后端多模型集成负载均衡故障转移决策缓存
Skill & MCP能力层
6 类 Skill10 个 MCP 工具提示词引擎会话上下文分级调度RBAC
KAI 优化引擎C 内核模块族
量化推理多级缓存sys_infer()熔断降级PrometheusDNS 缓存页面预取追踪
eBPF 层内核可编程
sched_ext AI 调度器XDP 网络分类LSM 安全检测tracepoint
内核核心ai_core.ko
模型管理sys_infer() 系统调用任务画像热插拔插件管理器
2

全插件热插拔

Everything-as-a-Plugin · 11 类

核心设计哲学：一切模块和功能皆插件，支持运行时热插拔。常驻主控 (kai-plugin serve) 统一管理 38 个插件，统一生命周期 + 事件总线 + 依赖解析 + watchdog。

kernel · 9
内核模块族ai_core / kai_cache / kai_infer / kai_syscall / resilience / metrics / net_opt / mem_opt / tracing
backend · 3
推理后端deepseek · kimi · local(本地兜底)
feature · 14
功能引擎多模型集成 / 负载均衡 / 会话 / 提示词 / 分级调度 / 追踪 / 加密 / TLS / RBAC / 沙箱 / 云集成…
skill · 6
能力调度 / 网络IO / 安全 / 内存 / 代码 / 编排
collector · 3
数据采集cpu · memory · network
notifier · 2
通知stdout · webhook
gwapi · +
网关 APIweb / monitor / ws (检测即注册)
+ 可扩展
mcptool · hwaccel · sec统一注册中心，插拔即用

统一生命周期

所有插件（内核态/用户态）同一状态机

REGISTERED → LOADED → ENABLED → RUNNING
     ↕ 任意状态可热操作
 DISABLED → UNLOADED → (注销)

kai-plugin unplug deepseek   # 热拔出
kai-plugin plug spec.json    # 热插入
kai-plugin enable/disable/reload/start/stop

双态一致性

  • 用户态 — plugin_master.py：事件总线广播、依赖拓扑排序、watchdog 自动重启、A/B 版本
  • 内核态 — ai_plugin_mgr.c：引用计数 + 活跃推理等待，/proc/ai_plugins 热插拔
  • 联动 — 后端下线事件 → 负载均衡器自动摘除 → 熔断器接管
3

模块地图

112 文件 · 74 目录
kai-linux/ ├─ ai_core/ 内核 AI Core：ai_core.c sys_infer · hello_ai.c · ai_memory.c ├─ ebpf/ sched/ · io/ · security/ · kai_sched_ext.bpf.c ├─ layer2/ 网关 netlink 路由 · DeepSeek/Kimi · MCP 协议 · Skill 注册表 · 配置 ├─ kai/ 优化引擎与生态 │ ├─ core/ 量化 · 推理引擎 · syscall(kai_infer #548) · SIMD │ │ └─ syscall/ vmlinux 实现 · 打补丁脚本 · libkai · 引擎适配 │ ├─ cache/ 多级缓存 LRU/LFU · slab 对象池 │ ├─ resilience/ 熔断器 · 超时 · 内存压力 · 降级链 │ ├─ observe/ Prometheus 指标 · 审计日志 · 告警 │ ├─ features/ 14 个 Python 功能引擎（多模型/均衡/会话/提示词/持久化…） │ ├─ hw/ 硬件抽象 ai_accel.h · 后端探测 backends.py │ ├─ cloud/ AWS/Azure/GCP/阿里云 集成 │ ├─ security/ 模型加密 AES-GCM · 签名 · TLS/mTLS │ ├─ k8s/ K8s Operator · CRD · Device Plugin │ └─ deploy/ Docker · docker-compose · QEMU 镜像 · ISO · Debian 包 · 模块签名 · Grafana · Alertmanager ├─ plugins/ 全插件主控 plugin_master.py · 内核插件管理器 · SDK ├─ sdk/python/ AIClient · 配置分层 · WebSocket 服务端 ├─ ui/ CLI · ncurses TUI · Web Dashboard · 性能监控 ├─ tools/ kai-plugin 热插拔 CLI · perf 分析 · GDB stub · VS Code 插件 ├─ docs/ 架构 · Layer2 · 插件架构 · API · 部署 · 故障排查 · 本页 └─ Makefile / ROADMAP / NAME
4

关键能力

🧠 内核 AI

  • sys_infer() #548 — 已集成：vmlinux 实现 + libkai 库 + 引擎热插拔
  • AI 调度 — sched_ext 完整 BPF 调度器，决策缓存 + NUMA 感知
  • 模型量化 — INT8/FP16/INT4 量化推理
  • 多级缓存 — 哈希表 + LRU/LFU + slab 对象池
  • 批处理 + 预热线程 — 合并推理请求，消除冷启动
  • AI 决策点 — sched_ext/XDP/LSM/vmscan 钩子内推理 + M1–M6 验收脚本

🛡 安全 & 可靠性

  • XDP 异常检测 — 网卡层就地分类
  • LSM 决策缓存 — exec/file 行为检测 + 缓存
  • 熔断/超时/降级链 — API→缓存→本地→规则
  • 模型加密 — AES-256-GCM + Ed25519 签名
  • RBAC + 审计 — 权限角色 + 全量审计日志

🔌 生态集成

  • 推理后端 — DeepSeek · Kimi K3 · 多模型多数投票
  • 硬件 — NVIDIA/AMD/Intel/昇腾/RISC-V 统一抽象
  • 云平台 — AWS/Azure/GCP/阿里云 指标与告警
  • 可观测 — Prometheus + Grafana + Alertmanager
  • 编排 — Docker Compose · K8s CRD/Operator · QEMU/ISO

📊 可观测 & 可调试

  • 性能监控面板 — 健康评分 + 实时曲线 + 决策日志
  • 性能分析器 — 函数级耗时 / P99 / 热点火焰图
  • 分布式追踪 — 请求全链路 span
  • 审计日志 — 推理/模型/配置/安全全记录
  • GDB 扩展 — kai-status / kai-models / kai-infer
5

演进路线

ROADMAP 91/91 · 100%
P0 · 内核核心落地

sys_infer() 完整实现 · 量化推理 · 多级缓存 · 批处理 · 预热线程

P1 · 生产增强

模型热更新 · API 降级链 · 熔断 · 内存压力保护

P2 · 内核纵深

sched_ext 完整调度器 · LSM 决策缓存 · 页面预取 · 大页支持

P3 · 生态扩张

云平台 · 硬件加速 · K8s · 部署镜像 · 全插件热插拔

全栈技术栈

内核Linux 6.12 LTS · eBPF · sched_ext · LSM · XDP
语言C (内核) · Python (SDK/功能) · JavaScript (UI)
AIDeepSeek API · Kimi K3 API · ONNX · 量化推理
架构x86_64 · aarch64 · riscv64
部署Docker · QEMU · ISO · Debian · K8s
监控Prometheus · Grafana · Alertmanager
6

质量保障

CI 全绿 · 0 漏洞 · 100% 通过
0 / 0 / 0 / 0CRITICAL·HIGH·MEDIUM·LOW
100% · 0 错误压测 11 模块 · 并发全绿
3/3 Job 绿GitHub Actions · 漏洞 0/0/0/0
5 / 5本地质量门禁

🛡 漏洞静态筛查

  • 自研 AST 扫描器 — kai/tests/security_scan.py，上下文感知
  • 30 Python + 27 C 全量覆盖 eval/exec、shell=True、硬编码密钥、缓冲区、copy_*_user、NULL 检查
  • 结果：全部清零 — 曾修复 RBAC all() bool、SSL 补丁语法、AAD 不一致等 6 项真实缺陷

⚡ 并发压力测试

  • kai/tests/stress_test.py — 11 模块 · 8 并发 · 200 万次
  • RBAC 366K ops/s · 事件总线 307K · 调度 170K ops/s
  • 插件热插拔 31.5%→0% 错误（并发安全已修复）
  • 成功率 100% — 0 错误

🔧 CI 质量门禁

  • 本地 — scripts/quality_gate.sh：语法→扫描→单测→压测→完整性
  • 云端 — .github/workflows/ci.yml 三 Job：静态检查+测试 · C构建 · Docker冒烟
  • 状态：2/2 核心 Job 绿 — 推送后自动运行

🚀 GitHub 状态

  • 仓库 — github.com/Cheng12443/AI_Linux
  • 最新 — 25 文件更新：安全修复 + 测试工具 + 全插件热插拔
  • 133 文件 · main 分支 · CI 全绿 · Pages 托管本页
7

快速上手

1
获取tar xzf kai-linux.tar.gz
解压源码包
2
启动全插件主控kai-plugin serve
常驻 daemon，38 个插件就绪
3
启服务kai-plugin start ws
或直接 docker compose up -d
4
开 TUIDEEPSEEK_API_KEY=xxx kai-tui
彩色交互终端
# ── Docker 一键全模块 ──
cd kai/deploy && ./docker-up.sh        # Web:8080 · Monitor:9090 · WS:9998

# ── 热插拔演示 ──
kai-plugin list                        # 38 个插件一览
kai-plugin unplug kimi                 # 🔌 热拔出 Kimi 后端
kai-plugin plug my_plugin.json         # 🔌 热插入自定义插件

# ── Python SDK ──
DEEPSEEK_API_KEY=xxx python3 sdk/python/demo.py   # 全部演示