GitHub 中文社区
回车: Github搜索    Shift+回车: Google搜索
论坛
排行榜
趋势
登录

©2025 GitHub中文社区论坛GitHub官网网站地图GitHub官方翻译

  • X iconGitHub on X
  • Facebook iconGitHub on Facebook
  • Linkedin iconGitHub on LinkedIn
  • YouTube iconGitHub on YouTube
  • Twitch iconGitHub on Twitch
  • TikTok iconGitHub on TikTok
  • GitHub markGitHub’s organization on GitHub
LMCache

LMCache / LMCache

星标3.18 k
复刻349


问题 官网
 
Loading

关于

Supercharge Your LLM with the Fastest KV Cache Layer

lmcache.ai
amdCUDAinferencekv-cache大语言模型PyTorchrocmvllmfastspeed
创建时间

2024-05-28

是否国产

否

  修改时间

2025-07-16T08:16:10Z


语言

  • Python90.5%
  • Cuda5.9%
  • Shell3.0%
  • Dockerfile0.3%
  • C0.2%
  • C++0.1%


该仓库已收录但尚未编辑。项目介绍及使用教程请前往 GitHub 阅读 README


0 条讨论

登录后发表评论

LMCache 的其他开源项目

Loading...

数据准备中,请稍后重试