Loading...

文章背景图

DeepSeek-VL2:MoE 视觉语言模型部署与使用指南

2026-10-27
0
- 字
- 分钟
|

DeepSeek-VL2 是 DeepSeek 的 MoE 视觉语言模型系列,在 DeepSeek-VL 基础上大幅改进,覆盖视觉问答、OCR、文档/表格/图表理解、视觉定位。分 Tiny(激活 1.0B)、Small(2.8B)、VL2(4.5B)三档,序列长度 4096。

一、项目官方信息

项目 信息
GitHub 仓库 https://github.com/deepseek-ai/DeepSeek-VL2
官方网站 https://www.deepseek.com
Hugging Face https://huggingface.co/deepseek-ai
论文 https://arxiv.org/abs/2412.10302
开源协议 代码 MIT;模型遵循 Model License(支持商用)
主要语言 Python(约 93.5%)
Star 数 约 5.4k

二、官方图片

DeepSeek-VL2 视觉语言模型:

DeepSeek-VL2

三、环境要求

  • Python ≥ 3.8;
  • 单图推理:README 注明 small 约需 80GB 显存,VL2 更大;
  • Tiny 可在小卡上跑。

四、完整部署步骤

1. 克隆并安装

git clone https://github.com/deepseek-ai/DeepSeek-VL2.git
cd DeepSeek-VL2
pip install -e .

2. 下载模型

模型 序列长度 下载
deepseek-vl2-tiny 4096 https://huggingface.co/deepseek-ai/deepseek-vl2-tiny
deepseek-vl2-small 4096 https://huggingface.co/deepseek-ai/deepseek-vl2-small
deepseek-vl2 4096 https://huggingface.co/deepseek-ai/deepseek-vl2

3. 单图推理示例

import torch
from transformers import AutoModelForCausalLM
from deepseek_vl2.models import DeepseekVLV2Processor, DeepseekVLV2ForCausalLM
from deepseek_vl2.utils.io import load_pil_images

model_path = "deepseek-ai/deepseek-vl2-tiny"
vl_chat_processor = DeepseekVLV2Processor.from_pretrained(model_path)
tokenizer = vl_chat_processor.tokenizer
vl_gpt = AutoModelForCausalLM.from_pretrained(model_path, trust_remote_code=True)

4. 在线 Demo

Hugging Face Space:https://huggingface.co/spaces/deepseek-ai/deepseek-vl2-small 。

五、使用方法

能力

  • 视觉问答(VQA);
  • OCR;
  • 文档/表格/图表理解;
  • 视觉定位(grounding)。

评估

VLMEvalKit 已集成,支持增量预填充(incremental pre-filling)。

Gradio Demo

仓库提供 Gradio 示例,本地启动可视化界面。

六、常见问题 FAQ

1. 为什么叫 VL2? DeepSeek-VL 是第一代,VL2 是 MoE 升级版。

2. 三档怎么选? Tiny 实验、Small 平衡、VL2 最强;Small 已需 80GB 显存。

3. 支持视频吗? 主要面向图像与文档,视频能力见后续版本。

4. 支持商用吗? 代码 MIT;模型遵循 Model License,允许商用。

5. 与 Janus 区别? VL2 专注理解;Janus 统一理解 + 生成。

6. 上下文多长? 4096。

七、跳转链接

评论交流

文章目录