我们与 @AMD 合作,将本地模型推理带到 AMD NPU 上。 NPU 提供强大的计算性能,同时功耗比传统 GPU 低 2–4 倍。

我们携手实现了更低功耗运行模型! Strix、Gorgon、Krackan 等。

博客:https://newsroom.amd.com/news/amd-unsloth-bring-npu-support-agentic-ai-applications/