【月之暗面 Kimi 联合清华大学等机构共建大模型推理架构 Mooncake】月之暗面 Kimi 与清华大学 MADSys 实验室携手 9#AISoft、阿里云、华为存储、面壁智能、趋境科技等产学研各方力量，共同推出开源项目 ...

在科技界的一次重大合作中，月之暗面Kimi与清华大学MADSys实验室携手，共同揭晓了他们酝酿已久的Mooncake推理系统设计方案。这一创新方案于2024年6月正式面世，其核心在于采用了KVCache为中心的PD分离技术和存换算架构，极大地推动了推 ...

中关村在线11月28日消息，月之暗面Kimi和清华大学MADSys实验室联合9#AISoft、阿里云、华为存储、面壁智能、趋境科技等产学研力量共同发布开源项目Mooncake，共建以KVCache为中心的大模型推理架。据悉，Mooncake技术框架今 ...

日前，国内人工智能公司月之暗面推出的Kimi国产大模型正式发布k0-math。k0-math是Kimi推出的首款推理能力强化模型，采用全新强化学习和思维链推理技术，通过模拟人脑的思考和反思过程，大幅提升解决数学难题的能力。月之暗面表示，这些局限性既是机遇，也是挑战，预计将在下一阶段的模型迭代中逐步得到改善。

具体而言，Mooncake采用以KVCache为中心的解耦架构，将预填充集群与解码集群分离，并充分利用GPU集群中未充分利用的CPU、DRAM和SSD资源，实现KVCache的解耦缓存。

月之暗面科技有限公司与清华大学MADSys实验室联合发布了一项名为Mooncake的开源项目，旨在共建以KVCache为中心的大模型推理架构。2024年6月，双方曾联合发布Kimi底层的Mooncake推理系统设计方案，该方案基于PD分离和以存换算架构，显著提升了推理吞吐量，受到业界广泛关注。

华为数据存储参与共建以 KVCache 为中心的推理架构 Mooncake,推理,内存,kimi,上下文 ...

【11 月 28 日，月之暗面 Kimi 联合清华大学 MADSys 实验室等产学研力量共同发布开源项目 Mooncake 】Mooncake 共建以 KVCache 为中心的大模型推理架构，其技术框架于今日正式开源上线。此次联合的产学研力量包括 9 ...

Chill in the fridge for 30 minutes. Weigh the ingredients: Once cool, weigh out the ingredients for each mooncake. Use 30g of the lotus paste while the dough for the mooncake skin should weigh 20g.

The mooncake isn’t just one of the major hallmark traditions of the Mid-Autumn Festival happening next week, it’s a symbol of harmony. Mooncakes are shared among family members and eaten ...

Over at The Living Room in The Westin Kuala Lumpur is a Mid-Autumn themed afternoon tea featuring mooncake- inspired desserts alongside a wide range of Malaysian teatime treats. Leaning on popular ...