LM247x24 AI大模型动态

·36氪·中文

DeepSeek发布下一代技术,北大实习生立功

DeepSeek发布了一项名为DualPath的全新推理系统方案,直指当前大语言模型在智能体应用场景下遭遇的短板——KV缓存存储I/O瓶颈。该方案通过引入双路径加载机制,显著提升系统吞吐量,基本消除了KV缓存的I/O开销。

阅读原文

返回快讯列表