下载 KTransformers

获取适用于您平台的最新版本 KTransformers

最新版本
0.3.1
发布于 2026-01-15
所有版本

更新内容:

  • Improved MoE offloading performance
  • Added support for DeepSeek-R1-671B
  • Fixed memory leak in long conversations
  • Better error messages for CUDA initialization

选择您的平台

🐧
Linux
Ubuntu 20.04+, CUDA 11.8+
pip install ktransformers

AppImage 内置 CUDA 运行时,无需安装系统 CUDA Toolkit,仅需 NVIDIA 驱动

Windows
Windows 10/11, CUDA 11.8+
pip install ktransformers
快速安装
通过 pip 安装 KTransformers 是最简单的方式
pip install ktransformers

有关包括 CUDA 设置在内的详细安装说明,请参阅 安装指南.

系统要求

最低配置

  • Python 3.9+
  • CUDA 11.8+ (for GPU acceleration)
  • 16 GB RAM
  • NVIDIA GPU with 8GB+ VRAM

推荐配置(大模型)

  • Python 3.10+
  • CUDA 12.0+
  • 256 GB+ RAM
  • NVIDIA RTX 4090 or higher