早在 2023 年,ONNX 和 AMD 就宣布将 TurnkeyML 作为“AI 洞察工具链”。从那时起,关于 TurnkeyML 的消息就没有太多了,他们现在将该项目本身描述为“无代码 AI 工具链”,而本周则发布了大型 TurnkeyML 6.0 软件。
TurnkeyML 旨在通过“无代码 CLI 和低代码 API”及其交钥匙优化器和用于大型语言模型 (LLM) 的 Lemonade SDK 以及 OnnxRuntime GenAI (OGA) 轻松利用 ONNX 生态系统中的工具。
随着 TurnkeyML 6.0 的发布,他们推出了一个新的 OpenAI 兼容服务器。TurnkeyML 已经用兼容 OpenAI 的服务器取代了他们之前的“serve”工具,开发人员也在追求 Ollama 的兼容性。
TurnkeyML 6.0 还在新的“夸克”工具中增加了对夸克量化的支持、基准测试工具改进和其他改进。通过 GitHub 上的 onnx/turnkeyml 下载有关 TurnkeyML 6.0 的更多详细信息。
转自 TurnkeyML 6.0 Released With OpenAI-Compatible Server, Other Changes – Phoronix
这都不会还面试个啥劲?