Linuxeden开源社区在 0.9 版本中，您可以摆脱云 LLM 提供商的束缚，至少在代码完成方面是这样。我们现在支持 CodeLlama-7B-QML 和 DeepSeekCoder v2 Lite。只需单击几下并执行一个 CLI 命令，即可在计算机上使用 LLM 自托管技术 Ollama 运行它们。
在最新版 Qt AI Assistant 发布的同时，我们正在向 HuggingFace 和 Ollama 上的每个人提供我们最强大的微调模型。我们将发布 CodeLlama-7B-QML 和 CodeLlama-13B-QML。这些模型已经在超过 5000 个 QML 代码片段上进行了训练，而之前为 4000 个。此外，我们还改进了训练数据，以更好地放置右括号。根据我们的 QML100FIM 基准测试，CodeLlama-7B-QML 以类似于 Claude 3.7 Sonnet 的级别执行代码完成。DeepSeekCoder v2 Lite 以 GPT4o 的质量执行代码补全（请继续关注有关最新基准测试结果的博客文章）。
Qt AI Assistant v0.9 Experimental 包括许多新功能和可用性改进，例如对提示的响应的文本流、创建内联代码注释以及为 C++ 代码创建 Google 测试。
文本流
在此版本中，我们进行了大量可用性改进。其中最大的挑战是在内联提示窗口中将来自 LLM 的响应作为文本流处理。AI Assistant 现在不会等待 LLM 的响应完成再显示内容，而是在内容传入时发布内容。这意味着在获得编码帮助之前的等待时间会大大减少。在重构文本流式处理代码时，我们还添加了语法高亮显示，使建议中的任何代码更易于阅读。
Google 测试创建
虽然我们目前仍然专注于Qt AI Assistant，但还是放在QML和UI开发上，但根据早期用户的反馈，我们增加了对为C++代码创建Google Test单元测试的支持。
内联注释
Qt AI Assistant 现在可以为您的 QML 和 C++ 代码生成内联注释，从而提高可维护性和可读性。只需单击一下，即可将注释应用于代码。
如何升级
Qt AI Assistant 使用 Qt Creator 的最新和最强大的功能。您需要升级到 Qt Creator 版本 16.0.1 才能将 Qt AI Assistant 更新到 v0.9。
如果您已经在使用 Qt AI Assistant，则可以在升级到 Qt Creator 16.0.1 后单击扩展视图中的更新按钮。
如果您是 Qt AI Assistant 的新用户，则需要先在扩展视图中激活外部存储库的使用，以便获取新的扩展，例如 Qt AI Assistant。
如果您还没有，现在是试用 Qt AI Assistant 的最佳时机。
转自 Qt AI Assistant v0.9 Released – Deploy LLMs Locally and Enjoy the Upgraded User Experience