体育游戏app平台完了了在不异容量下不错存储更多的 KV Cache-开云「中国」kaiyun网页版登录入口

发布日期：2025-07-26 12:18    点击次数：144

快科技 1 月 17 日音书，在 AI 领域，DeepSeek 带来的影响力，极少也不亚于"六代机"。那么，DeepSeek 究竟锐利在那儿？

据新浪科技报说念，本日，中国工程院院士、清华大学测度机系教悔郑纬民指出了 DeepSeek 其告捷出圈的要道场地。

现在，业界关于 DeepSeek 的爱重与感触，主要蚁合在三个方面。

第一，在时代层面，DeepSeek 背后的 DeepSeek-V3 及公司新近推出的 DeepSeek-R1 两款模子，隔离完了了并排 OpenAI 4o 和 o1 模子的才智。

第二，DeepSeek 研发的这两款模子资本更低，仅为 OpenAI 4o 和 o1 模子的十分之一左右。

第三，DeepSeek 把这一两大模子的时代皆开源了，这让更多的 AI 团队，大概基于发轫进同期资本最低的模子，建设更多的 AI 原生应用。

DeepSeek 是怎样完了模子资本的镌汰的呢？郑纬民指出，"DeepSeek 自研的 MLA 架构和 DeepSeek MOE 架构，为其自己的模子磨砺资本下跌，起到了要道作用。"

他指出，" MLA 主要通过立异珍意见算子压缩了 KV Cache 大小，完了了在不异容量下不错存储更多的 KV Cache，该架构和 DeepSeek-V3 模子中 FFN 层的立异相协作，完了了一个很是大的稀少 MoE 层，这成为 DeepSeek 磨砺资本低最要道的原因。"

据了解，KV Cache 是一种优化时代，常被用于存储东说念主工智能模子运行时产生的 token 的键值对（即 key- value 数值），以提高测度成果。

具体而言，在模子运算经过中，KV cache 会在模子运算经过中充任一个内存库的扮装，以存储模子之前处理过的 token 键值，通过模子运共测度出珍意见分数，有用禁止被存储 token 的输入输出，通过"以存换算"幸免了大批大模子运算每次皆是从第一个 token 运转运算的重迭测度，升迁了算力使用成果。

此外，据郑纬民自满，DeepSeek 还惩办了"很是大同期很是稀少的 MoE 模子"使用的性能贫窭，而这也成了" DeepSeek 磨砺资本低最要道的原因"。

" DeepSeek 比拟锐利的是磨砺 MoE 的才智，成为公开 MoE 模子磨砺中第一个能磨砺告捷这样大 MoE 的企业。"郑纬民说

此外，DeepSeek 还充分应用群众辘集被稀少激活的野心，适度了每个 token 被发送往 GPU 集群节点（node）的数目，这使得 GPU 之间通讯支出踏确切较低的水位。

早先，图灵奖得主、主导 Meta AI 征询的首席科学家杨立昆（Yann LeCun）合计，DeepSeek 告捷的最大得益并非中国竞争对其他国度带来更大挟制，而是 AI 开源的价值使任何东说念主皆能受益。

"对那些看到 DeepSeek 发达并合计‘中国在 AI 领域正卓绝好意思国’的东说念主而言，你的解读错了"，杨立昆在 Threads 写说念，"正确解读应是‘开源模子正卓绝特有模子’"。