DeepSeek新模型被硅谷疯夸！用二维视觉压缩一维文字，单GPU能跑

花花

DeepSeek最新开源的模型，已经被硅谷夸疯了！

因为实在太DeepSeek了。3B规模、指数级效能变革、大道至简，甚至被认为把谷歌Gemini严防死守的商业机密开源了。

唯一的问题可能就是被“OCR”命名耽误了。

是的，DeepSeek刚刚开源即火爆的模型就叫：DeepSeek-OCR。

这个模型瞄准的是大模型处理长文本时的算力爆炸难题……虽然模型参数很小，但四两拨千斤，其背后所代表的“用视觉方式压缩一切”的思想，大道至简，既是人类智能的现实，也不断出现在诸如《三体》的科幻作品中。

简单来说，由于一张图能包含大量文字（用的token还更少），所以他们想到并验证了“将视觉作为文本压缩媒介”这一方法——就好比优秀的人看书都是扫一眼就知道内容，不必一字一句读完才理解内容。

一图胜千言。

而且DeepSeek研究后发现，当压缩率小于10倍时（即文本token数是视觉token数的10倍以内），模型OCR解码准确率高达97%；即使压缩率高达20倍，准确率依旧能保持在60%左右，效果相当能打。

更主要的是，DeepSeek再次展现了高效能风格，他们的方法之下，生成训练数据——仅凭一块A100-40G GPU，每天就能生成超过20万页的优质LLM/VLM训练数据。

所以这个研究一经公布，已经快速在GitHub斩获了3.3K star。HuggingFace则已经热榜第二……X上热议，好评声一片。

刚“尖锐”评价过AI现状的卡帕西说：我很喜欢……特别是图像比文字更适合LLM输入，妙啊。

还有人认为这是“AI的JPEG时刻”，AI记忆架构打开了新路径。

还有爆料猜测，谷歌Gemini的核心商业机密被开源了：

当然，如此火爆的工作还带了更多思考——不少人看过论文后，认为这种统一视觉与语言的方法，或许是通往AGI的大门之一。

以及DeepSeek还在论文中，谈到了AI的记忆和“遗忘”机制。

所以，DeepSeek的新模型，论文究竟是怎么说的？

DeepSeek新研究：两大核心组件实现“以小博大”

概括而言，DeepSeek这次提出了一种名为“上下文光学压缩”（Contexts Optical Compression）的思路。

其灵感来自这样一个巧妙的逆向思维：

既然一张图片能“装下”成千上万个字，那我们能不能把文字信息压缩到图片里，让模型通过“看图”来理解内容呢？

本质上来说，这就是一种视觉-文本压缩范式，通过用少量的视觉token来表示原本需要大量文本token的内容，以此降低大模型的计算开销。

为验证这一想法，他们构建了3B大小的DeepSeek-OCR模型，结果发现它在主流文档解析基准OmniDocBench上取得了新SOTA。

下图显示，DeepSeek-OCR（红色圆点）在“平均每张图的视觉token数”（横轴）上位于最右侧，这说明它使用的token数量最少；而在“整体性能”（纵轴，越低越好）上，它却达到了SOTA水平，而且大多还是“以小博大”。

更具体的对比如下：

这一切背后都不开DeepSeek-OCR架构的两大核心组件：

这里重点说一下整个系统的创新关键——编码器DeepEncoder。

其核心使命为，在处理高分辨率图像时，能够产出数量极少但信息密度极高的视觉token。

为此它采用了“先局部处理，再压缩，后全局理解”的串行设计：

此外值得一提的是，为了灵活应对不同的压缩比需求和实际应用场景，DeepEncoder被训练成支持从“Tiny”（512x512, 64token）到“Gundam”（动态分块，近800token）等多种输入模式。

就是说，同一个模型可以根据任务需要，随机应变地调整其“压缩强度”。

总之，基于以上原理和组件搭配，目前DeepSeek-OCR除了具备常规识别能力，还支持对金融报表、化学分子式、数学几何图、100多种语言等更为复杂的图像进行深度解析。

三位作者亮相