嘿 guys,这 是一 个开放源码 的推理层,为您的应用程序添加局部模型,您可以使用几行代码,在您的应用程序内署会话机器人和代理人,
链接:https://github.com/iBz-04/quaynor

它具有
全离线推理:无 API 密钥,无外部调用。模型在本地运行或从 Hugging Face/URLs 加载。
跨平台一致性:Python,Flutter 和 React Native 之间的一致的会话式 API。
流式传输 + 完成功能:支持令牌流式传输和完整响应。
工具调用:语法基于的功能执行整合到原生代码(Python/移动)。