Local icon

Local

Local 是一款 macOS 应用,可在本机运行 AI,将聊天、编码和会议工作流留在设备上处理。会根据你的 Mac 芯片和内存推荐模型,也可通过你的 API key 访问云端模型。

Local

macOS 上的私密 AI

Local 是一款用于在你自己的机器上运行 AI 的 macOS 应用。它围绕私密、设备端使用而设计:网站声称不会有任何内容离开你的设备,无需账户,记忆也会保留在 Mac 上。

该应用覆盖多种常见 AI 工作流,包括聊天、编码、会议记录和模型选择。它还会读取你的 Mac 芯片和内存,然后推荐适合该硬件的模型,并在首次启动时使用 BaseRT(其针对芯片的运行时)优化推理。

功能

设备端 AI 工作流

在你的 Mac 上运行聊天、编码和会议工作流,让请求保留在设备上,而不是发送到云服务。

与文件聊天

向文件提问,直接放入 PDF 进行总结,并在本地聊天界面中起草文本。

在工作区中本地编码

将 Local 指向某个项目,然后在文件夹内直接编辑和运行代码,而无需上传代码库。

设备端会议记录

在设备上录制并转写会议,书面输出中还会包含说话人标签。

可编辑记忆

在机器上保留一份可见、可编辑的长期信息列表,并可将其中一项标记为敏感内容,使其永远不会离开 Mac。

本地分析与成本对比

查看 token 数量、各模型速度,以及同样工作通过云端 API 需要花费多少。

Local 的常见使用方式

  • 私密文档辅助

    使用 Local 来询问文件内容、总结 PDF,并在保持工作留在 Mac 上的同时起草文本。

  • 本地编码与项目工作

    在 Local 中打开代码库,然后让它直接在项目文件夹中读取、编辑和运行代码,而无需上传仓库。

  • 会议转写与整理

    录制会议,在设备上完成转写,并生成带说话人标签的笔记,供日后查看。

  • 为你的机器选择模型

    根据你 Mac 的内存和芯片让 Local 推荐模型,从而选择一个适合硬件的配置。

  • 偶尔使用云端备用方案

    仅在需要时使用你自己的 API key 调用云端模型,然后再回到本地模型进行日常工作。

Pros and Cons

Pros

  • 在 Mac 上本地运行 AI,可将请求和记忆保留在设备上。
  • 在一个应用中支持多种日常工作流,包括聊天、编码和会议记录。
  • 根据你机器的芯片和内存提供模型推荐。
  • 在初始应用和模型下载后可离线使用。
  • 需要时可使用你自己的密钥选择云端模型。

Cons

  • 目前仅支持 Apple silicon Mac;页面说明 Windows 和 Linux 即将推出。
  • 部分云端模型仅在使用你自己的 API key 时可用,因此并非所有工作流都能完全保持本地。
  • 页面未提供详细的定价方案或支持的集成列表。

FAQ

Local 可以在没有互联网的情况下使用吗?

是。网站说明,Local 需要联网下载应用和模型,但之后一切都会在你的 Mac 上离线运行。

支持哪些 Mac?

可以。Local 支持任何搭载 Apple silicon 的 Mac。它会使用你机器的内存来选择合适的模型,因此内存更大的 Mac 可以运行更大的模型。

Local 会收集或发送我的数据吗?

根据网站说明,不会。所有内容都保存在你 Mac 上的数据库中,页面还表示没有账户,也没有遥测。

我可以使用 GPT 或 Claude 之类的云端模型吗?

可以,前提是使用你自己的 API key。页面说明可以使用 GPT 和 Claude,但这些请求会发送给对应提供商,因此在隐私模式开启时,云端模型不可用。

为什么 Local 比其他本地 AI 应用更快?

Local 使用 BaseRT,这是一个在首次启动时针对你的芯片编译的推理引擎。网站表示,这个定制版本比其他本地应用自带的通用引擎更快。

Quick Facts

类别
私密 AI 应用
平台
macOS;Windows 即将推出;Linux 即将推出
主要用途
聊天、编码、会议和本地模型选择
数据处理
在设备上运行;未说明账户或遥测
公司
Base Compute
网站
basecompute.co