DeepSeek能否扛住V4冲击波，得问代达劢

文 | 字母 AI元股门户

据新浪创智记报道，DeepSeek 创始人梁文锋在内部沟通中透露，新一代旗舰大模型 DeepSeek V4 将于 4 月下旬正式发布。

然而比起新模型，我更关注 DeepSeek 的服务器。

3 月 29 日晚上 9 点 35 分，DeepSeek 又双叒叕崩了。

这一次不是小打小闹的"服务器繁忙"，而是史诗级的 12 小时 58 分钟全面瘫痪。网页端、APP 双双失守，修复了又崩，崩了又修复，直到第二天上午 10 点才喘过气来。

DeepSeek-V4 还没正式发布，冲击波已经如此强劲，一旦正式发布，目前 DeepSeek 的基础设施真的扛得住吗？

这就是为什么我们要关注代达劢，他是 DeepSeek 的基础设施负责人。

他负责的不是模型有多聪明，而是模型能不能在百万级用户同时涌入时不崩盘。

V4 传闻四起，发布时间从 2 月推到 3 月，又推到 4 月，外界都在盯着性能跑分，但真正的压力测试，其实在代达劢这边。

服务器是 DeepSeek 的软肋，这已经不是秘密。问题是，留给代达劢的时间还有多少？

DeepSeek 基础设施掌门人

圈内也有人管他叫"戴大麦"。2024 年博士毕业于北京大学计算机学院计算语言所，师从穗志方教授。

在学术圈，他是个狠人。发表 20 余篇顶会论文，Google Scholar 显示引用次数超过 28000 次。2023 年，他作为第三核心作者，拿下了 EMNLP 最佳长论文奖，这也是中国大陆机构首次获得该奖项。

这篇获奖论文名为《Label Words are Anchors: An Information Flow Perspective for Understanding In-Context Learning》（标签词是锚点：从信息流视角理解上下文学习），研究的是上下文学习的工作机制，从信息流的视角揭示了大模型如何通过示例中的标签词进行预测。

在读博期间，代达劢还获得过国家奖学金、校长奖学金、微软学者提名奖、北京市优秀毕业生、北京大学三好学生标兵等一系列荣誉。

代达劢博士论文入选了中国中文信息学会"博士学位论文激励计划"，研究的是预训练语言模型的知识增强与推理能力对齐。

他的研究方向聚焦在大模型基础设施和系统优化。说白了，就是怎样让模型跑得更快、更稳、更省钱。

代达劢还参与了一篇综述类文章，在 AI 圈内也很火。标题是《A Survey on In-Context Learning》（上下文学习综述）。

文章讲的是 In-Context Learning（上下文学习）这个方向的整体研究进展，也就是总结这个领域"大家都做了什么、怎么分类、有哪些解释、还有哪些问题没解决"。

从 DeepSeek V1 到 V3，代达劢参与了全程。在 DeepSeek，他负责的是整个推理系统的工程优化与规模化部署，包括多硬件平台的性能调优、分布式系统架构设计，以及那些用户看不见但至关重要的底层管道。

DeepSeek 能在开源大模型领域实现弯道超车、以极低推理成本对标头部闭源模型的核心技术支撑，就是 DeepSeekMoE。

DeepSeekMoE 所解决的，是传统 MoE 架构的专家知识冗余、专业化不足的行业痛点，这才让 DeepSeek 能在同等计算成本下实现了模型性能的大幅跃升。

提出这个架构的论文，叫《DeepSeekMoE: Towards Ultimate Expert Specialization in Mixture-of-Experts Language Models》，于 2024 年 1 月发表在 ACL 2024。

而这篇论文的第一作者，正是本文的主角代达劢。

DeepSeekMoE 架构提出了"细粒度专家分割"的创新思路，让每个 token 可以激活多个专家，提升知识融合能力。传统的 MoE 架构像 GShard，激活 top-K 个专家。

但如何确保每个专家真正专业化，获取不重叠的、聚焦的知识？代达劢团队的方案是把专家细分成更细粒度的单元，从 N 个专家变成 mN 个，激活时从 K 个变成 mK 个，这样组合更灵活。

同时隔离出一些共享专家，专门捕获通用知识，减少路由专家之间的冗余。

这套架构后来成为 DeepSeek-V2 和 V3 的核心基础。

论文提出的 MoE 架构在 145B 参数规模上，只用 28.5% 的计算量就达到了 DeepSeek 67B 的性能。更关键的是，DeepSeekMoE 2B 的表现接近同等总参数量的稠密模型，这为 MoE 模型设定了性能上限。这不是纸面数据，而是真刀真枪跑出来的工程成果。

从理论到工程，代达劢不只是提出创新架构，更要确保这套架构能在真实环境中稳定运行。这种"理论上好使，工程上也能跑"的能力，正是 DeepSeek 能用这么低的算力，跑出如此高性能的原因。

不过这些成就，都是在模型训练和架构设计层面。真正考验基础设施的，是当百万用户同时涌入时，系统能不能撑住。

3 月 29 日那场 12 小时的崩溃，恰恰暴露了这个问题。

DeepSeek 的崩溃与代达劢的硬仗

DeepSeek 总是崩，跟代达劢有没有关系？

有，但不全是他的锅。

DeepSeek 现在最大的问题，就出在它的交付系统上。

面对流量高峰，DeepSeek 的交付系统不够稳定。模型再强，如果推理集群扛不住并发、负载均衡没做好、容错机制不够健壮，照样会崩。

算法团队可以把模型训练得再聪明，但如果基础设施撑不住，用户看到的就是"服务器繁忙"四个大字。

代达劢负责的基础设施，就是这条链路上的关键一环。推理集群的调度策略、请求的分发逻辑、GPU 资源的动态分配、故障时的降级预案，这些看不见的管道，决定了系统能不能在压力下稳住。

3 月 29 日晚上 9 点 35 分，DeepSeek 开始出现大规模服务中断。网页端、手机 APP 均无法正常使用，大量用户反馈无法发起新对话、现有对话中断。技术团队立即启动紧急排查，于当日 23 时 23 分完成首次故障修复，部分用户反馈可短暂登录平台，但随后服务再次出现波动。

3 月 30 日 00 时 20 分，技术团队再次针对服务性能异常问题展开调查，于 01 时 24 分实施二次修复方案，期间平台服务始终处于不稳定状态，股票配资，多空杠杆，全国持牌平台，配资开户直至 30 日上午 10 时左右，所有服务才完全恢复正常。从首次发现异常到彻底恢复，全程耗时超过 12 小时，创下 DeepSeek 成立以来单次服务中断时长的最长纪录。

其实咱们如果回顾 DeepSeek 的历史你就会发现，DeepSeek 虽然也会偶尔卡顿，但网页端服务从未出现过超过 2 小时的中断。

虽然宕机对于目前的大模型而言属于正常现象，但这么长时间的宕机，以 DeepSeek 的技术能力而言，不应该发生。

现在的问题是，这套系统在 V3 时代已经显得吃力，V4 来了怎么办？

不仅如此，根据最新的消息，V4 不只是模型升级，它是一次底层硬件的全面切换。

DeepSeek V4 将全面基于国产芯片完成适配和优化。

这可不是说像你打游戏换块显卡那么简单。大模型要从英伟达的 CUDA 生态迁移到国产芯片框架，意味着底层代码要大量重写，推理系统要重新调优，性能瓶颈要重新排查。

核心差异在于算子生态。

CUDA 积累了 15 年，覆盖几乎所有场景。国内的框架到现在还在补课阶段，只不过从以前的网课，变成线下实体课程了。

尤其是 Flash Attention、Triton 自定义算子这类高性能优化层，适配工作量相当大。

GPU 和 NPU 的计算是高度并行的，同一个矩阵乘法可能被分拆成几千个线程同时计算，最后求和。而浮点加法不满足结合律，不同芯片的并行分拆策略不同，导致累积误差的路径也不同。

对于那种几十亿参数量的小模型来说，这个误差的确是可以忽略不计的。

但 V3 就已经是百亿级模型了，V4 只可能更大，尤其是在处理长上下文时，误差会随层数和序列长度累积，在输出层可能产生明显的误差。