💧 #小众软件
Strata 0.2.10 发布:DFlash2 默认启用,8GB 显卡可运行 128K 上下文

Strata 是用于运行本地大模型的开源工具。0.2.10 版本默认采用 DFlash2 推测解码,优化低显存和多显卡推理,并新增编程模型及 Agent 修复。

提供 Windows、macOS 和 Linux 版本,免费开源。8GB 显卡运行 128K 上下文会占用系统内存和 SSD,建议至少配备 32GB 内存;Strata 与引擎需要分别更新。

阅读原文:https://www.appinn.com/strata-0-2-10/

💧小众软件 · 投稿 · 爆料