皇上,还记得我吗?我就是1999年那个Linux伊甸园啊-----24小时滚动更新开源资讯,全年无休!

AMD 推出在本地运行大模型的开源项目 Gaia

AMD 推出在本地运行大模型的开源项目 Gaia

在 PC 上本地运行大模型日益流行,AMD 也推出了自己的在本地运行大模型项目 Gaia。源代码托管在 GitHub 上,采用 MIT 许可证。Gaia 目前只支持 Windows 11 Pro/Home,不支持 macOS 或 Linux。Gaia 提供了两个安装程序,一个适用于任何 Windows PC 的 Generic Mode,基于 Ollama 后端;另一个为 AMD 的 Ryzen AI 处理器进行优化的 Hybrid Mode,能利用其 NPU 和 iGPU 执行计算,以获得更好的性能。AMD 从 Zen4 APU 开始整合 NPU,但此前很少有程序能直接利用 NPU。
github.com/amd/gaia