兼容iOS、macOS、visionOS的开源本地LLM客户端“fullmoon”已发布。

开源本地LLM客户端“Fullmoon for iOS/macOS/visionOS”已发布。详细信息如下。

由前 Meta 成员 Shivkanth Bagavathy 等人创立的 Mainframe Computer, Inc. 于当地时间 2025 年 1 月 14 日宣布，可以在 iPhone、Mac 和 Vision Pro 上私下本地运行大规模语言模型（LLM）。客户「满月」我们宣布我们新发布了。

口袋里有十亿个参数：使用 fullmoon 与 llama 3.2 等私有和本地大型语言模型聊天。
使用私人法学硕士的最简单方法：当您没有互联网时，完全离线和私人工作。在设备上运行针对 Apple 芯片优化的模型。适用于每个平台：iOS、iPadOS、macOS、visionOS
fullmoon：本地情报 - App Store

据 Mainframe Computer, Inc. 的 Jordan Singer 介绍，fullmoon 是一款 LLM 客户端，使用 Apple 的 MLX（MLX Swift）框架，该框架针对 Apple Silicon 进行了优化，并且兼容 iOS、iPadOS、macOS 和visionOS，可以设置。应用程序主题、字体和系统提示。

目前，唯一支持的本地 LLM 是 Meta 的 Llama 3.2 1B（10 亿）和 3B（30 亿）参数，但源代码是开源的（MIT），并且该应用程序可以在 Apple 的 App Store 上免费发布。。