
MacPaw(一家乌克兰软件公司,旗下知名产品为 Mac 清理工具 CleanMyMac)近日宣布与 Liquid AI 达成战略合作,为 App Store 开发者带来设备端推理能力。此次合作基于 MacPaw AI 助手 Eney 的精简版本,该版本完全运行于离线环境,并采用 Liquid AI 的轻量级模型。通过在边缘设备嵌入推理功能,开发者可为应用添加对话功能、情境推荐或实时代码辅助,无需依赖云端 API,从而大幅降低延迟并解决数据隐私问题。
此次集成的技术核心是 Liquid AI 的跨平台 SDK,该 SDK 提供了一个 C++ 推理引擎,并为 Swift、Objective-C 甚至 Python 提供了封装。SDK 内置预量化 Transformer 模型,仅需占用数百 MB 内存,使 macOS 设备能够在典型用户查询下实现低于 150 毫秒的推理速度。开发者可通过 Swift Package Manager 获取 SDK:
let package = Package( name: "EneyEdge", dependencies: [ .package(url: "https://github.com/liquidai/edge-sdk.git", from: "1.2.0") ], targets: [ .target(name: "EneyEdge", dependencies: ["LiquidAI"]) ] )
安装后,开发者仅需一行代码即可实例化模型:
import LiquidAI let model = try! LLMModel(configuration: .eagerQuantized, modelName: "eney-small") let response = try! model.generate(prompt: "用一句话解释 git rebase") print(response)
除 SDK 外,MacPaw 还在 GitHub 上发布了一系列示例项目,展示了如何安全沙盒化模型、处理用户数据加密,以及在设备内存不足时回退至云端推理。这些示例还展示了如何与 MacPaw 自身的 App Store 元数据 API 集成,使开发者能够在应用内直接生成 AI 描述或动态入门提示。
从生态角度看,此次合作标志着桌面环境边缘 AI 的成熟。以往,设备端推理主要集中在移动平台,因电池和连接限制驱动了本地模型的需求。MacPaw 的举措表明,隐私、延迟和带宽等同样问题正在桌面软件中变得日益重要,尤其是随着用户对云端数据传输的警惕性提升。
此次合作还降低了开源贡献者的参与门槛。Liquid AI 的模型库采用 MIT 许可证,MacPaw 承诺通过 Pull Request 接受社区提交的模型优化。这种协作模式有望加速领域特定助手的开发——例如 IDE 插件的代码审查机器人或任务管理应用的个性化生产力教练。
总而言之,由 Liquid AI 驱动的 MacPaw 设备端 Eney 为开发者提供了即用型边缘推理技术栈,推动 macOS 上隐私优先、低延迟 AI 体验的新浪潮。随着更多开发者采用这一技术栈,我们有望在 App Store 中看到 AI 功能成为基础期望而非高端附加功能。
图片:Anthony Riera / Unsplash (https://unsplash.com/@frenchriera)
LangChain’s latest blog argues that businesses must own their agents, governance, context, and feedback loops to turn generic AI into a durable advantage.

评论