AI大模型 分类

MiniMax H3：全能多模态音视频生成模型 · 本地部署与使用最全指南

TRL：HuggingFace大模型RL训练库安装与使用指南

TRL：HuggingFace大模型RL训练库安装与使用指南 TRL：HuggingFace大模型RL训练库安装与使用指南 官方信息 项目名称 TRL（Transformer Reinforcement Learning） 仓库地址

GLM-4：智谱开源大模型部署与推理指南

BitNet：1-bit 大模型推理部署指南

BitNet：微软 1-bit 大模型本地推理框架完整指南 microsoft/BitNet（bitnet.cpp）是微软开源的 1-bit 大模型官方推理框架，当前 Star 数约 41.2k，采用 MIT 协议。它专为 BitNet b1.58 这类三值（1.58-bit）大模型优化，提供了一套

HKUDS/LightRAG：知识图谱增强的轻量级RAG框架

一、官方信息 项目名称 LightRAG 仓库地址 https://github.com/HKUDS/LightRAG 官方网站 https://lightrag.github.io/ 最新更新 2026 年持续活跃更新 项目定位<

Mamba：选择性状态空间模型训练与推理指南

Tabby：自托管、支持消费级 GPU 的开源 AI 代码补全助手（GitHub Copilot 本地替代）｜部署与使用全指南

Tabby 是自托管 AI 编码助手，GitHub Copilot 的开源本地替代，内置 SQLite 与 OpenAPI，支持本地与 OpenAI/Ollama 远程模型，配套主流编辑器扩展。本文覆盖 Docker/Compose 部署、各平台安装、模型配置、备份升级与排查。

Guidance：大模型结构化提示生成引擎指南

Guidance：大模型结构化提示生成引擎指南 guidance-ai/guidance 是微软研究院发起的开源项目，实时 Star 数约 21.8k，是一套「引导大模型输出」的编程范式。本文基于官方 README 完整翻译整理，从项目定位、安装方式、Pythonic 接口、约束生成、自定义函数、J

Text Generation Inference：HF 生产级推理服务器部署指南

Text Generation Inference（简称 TGI）是 Hugging Face 官方开源的大语言模型推理部署工具包，它用 Rust、Python 与 gRPC 构建了一套高性能文本生成推理服务器，并在 Hugging Face 自家生产环境中被实际使用，为 Hugging Chat、

DeepSeek-OCR：文档/表格转 Markdown 模型部署与 vLLM 推理指南