阿里巴巴的Qwen 2.5 VL大模型是通义千问团队推出的开源多模态视觉语言模型,以强大的视觉理解、视频解析和跨模态推理能力为核心突破,被业界认为是目前最先进的开源多模态算法之一。
Qwen 2.5 VL采用三模块架构:
- 大语言模型(LLM):基于Qwen2.5语言模型预训练权重,引入多模态旋转位置编码(MRoPE)对齐时间、空间与文本模态。
- 视觉编码器(ViT):重新设计的动态分辨率ViT,支持原生分辨率输入,通过窗口注意力机制(最大窗口112×112)和二维旋转位置编码(2D-RoPE)降低计算复杂度,同时保持空间感知精度。
- 视觉-语言融合模块:采用多层感知机(MLP)压缩视觉特征序列,提升与LLM的交互效率。
其创新技术包括:
- 动态帧率(FPS)训练与绝对时间编码:通过时间戳对齐实现长视频理解(支持1小时以上)和秒级事件定位
- 结构化输出设计:生成JSON格式的坐标、属性数据,以及QwenVL HTML格式的文档版面还原
- 设备操作能力:无需微调即可控制电脑、手机完成多步骤任务(如订机票、修图)
下面介绍一下如何使用VL模型进行图像识别和视频识别。在HF-Mirror.com网站中下载Qwen2.5-VL-7B-Instruct-AWQ的权重,这是7B参数量的量化版本,可以在我的3090显卡上运行。以下代码是加载模型
from transformers import Qwen2_5_VLForConditionalGeneration, AutoTokenizer, AutoProcessor
from qwen_vl_utils i

5064

被折叠的 条评论
为什么被折叠?



