DeepSeek V4 Flash 开源：消费级硬件也能跑前沿大模型

DeepSeek V4 Flash 正式版现已开源，KTransformers 提供原生无损支持，精度完全对齐，用户下载即可直接运行。

核心要点

消费级硬件性能表现优异：双卡 RTX 5090 + AVX512 CPU 环境下，预填充速度超 1000 tok/s，解码速度达 30+ tok/s。

硬件支持与部署

支持 RTX 30/40/50 系列显卡及 AVX2/AVX-512 CPU，单卡多卡均可运行，需配备不少于 200GB 系统内存。提供 Docker 镜像一键部署方案。

部署优势

Docker 一键启动服务，提供 OpenAI 兼容接口，部署门槛低至无需编译代码。

总结

开源模型 + 高效推理框架 + 消费级硬件的组合，推动大模型技术走向更广泛的应用场景。

如有侵权，请联系删除。