💧 #小众软件
BaseRT：专为 Apple Silicon 优化，让 Mac 本地大模型快 6.4 倍
https://www.appinn.com/basert/
Apple Silicon 跑本地大模型，速度还能再提升多少？BaseRT 给出了一个答案：在 M5 Pro 上，它的提示词处理速度最高达到 llama.cpp 的 6.4 倍，MLX 的 3.9 倍
BaseRT：专为 Apple Silicon 优化，让 Mac 本地大模型快 6.4 倍
https://www.appinn.com/basert/
Apple Silicon 跑本地大模型，速度还能再提升多少？BaseRT 给出了一个答案：在 M5 Pro 上，它的提示词处理速度最高达到 llama.cpp 的 6.4 倍，MLX 的 3.9 倍
小众软件
BaseRT：专为 Apple Silicon 优化，让 Mac 本地大模型快 6.4 倍 - 小众软件
Apple Silicon 跑本地大模型，速度还能再提升多少？BaseRT 给出了一个答案：在 M5 Pro 上，它的提示词处理速度最高达到 llama.cpp 的 6.4 倍，MLX 的 3.9 倍
