KernelAI icon

KernelAI

KernelAI 是一款移动 AI 应用,可在 iPhone、iPad 和 Android 设备本地运行 53 个开放权重模型,支持聊天、文档与图像处理、编程及离线使用,无需账号或订阅。

KernelAI

移动设备上的私密 AI 处理

KernelAI 是一款移动 AI 应用,可在 iPhone、iPad 和 Android 设备本地运行开放权重语言模型和多模态模型。它提供来自 15 家实验室的 53 个模型,每个模型都会下载到设备上,可用于聊天、编程、文档问答、图像理解和翻译等任务。

该应用面向不需要云端账号或持续网络连接的工作流程。模型下载完成后,可以继续离线进行对话;设备会检查可用内存,并隐藏无法容纳的模型。可选的网页搜索通过用户提供的 Tavily 或 Exa 密钥获取最新信息,但在用户开启前会保持禁用状态。

功能与能力

设备端模型运行

通过 llama.cpp 在手机的 CPU 和 GPU 上运行量化开放权重模型。模型下载完成后,无需通过互联网往返即可处理提示词。

模型目录

可从 15 家实验室发布的 53 个模型中进行选择,下载大小从 112 MB 到 3.11 GB 不等。目录包含文本、编程、多语言、推理、视觉、角色扮演和网页搜索模型。

文档和图像输入

附加 PDF、Word 文件或电子表格,并在不上传附件的情况下提问。支持视觉能力的模型还可以理解照片、屏幕截图、标志、菜单、图表和收据。

可选的来源网页搜索

仅在需要时,通过添加个人 Tavily 或 Exa API 密钥来启用网页搜索。支持的模型会返回带来源的答案,同时密钥会保存在 iOS Keychain 中。

自定义指令和模型导入

设置系统提示词或使用预设,为不同对话定义语气、格式或角色。用户还可以从“文件”或 URL 导入兼容的 GGUF 模型;此功能为实验性功能。

语音和快捷指令

使用设备端听写和系统语音进行语音交互,还可以通过“Ask KernelAI”和“Extract Text from Document”快捷指令操作来调用本地 AI。

实际用途

  • 离线写作和研究

    出行前下载合适的模型,然后在飞行模式或信号不稳定的地方起草文本、提问或梳理想法。

  • 私密文档审阅

    附加 PDF、Word 文件或电子表格并请求解释或特定信息,同时将文件保留在设备上,而不是上传到 KernelAI。

  • 图像和文本理解

    使用视觉模型读取拍摄的标志、菜单、图表、收据或屏幕截图,包括图像中包含的文字。

  • 移动编程和自动化

    请求编写函数、协助调试或进行解释,即使处于断网状态,也能获得带语法高亮的代码。快捷指令还可以传递提示词或提取文档文本,作为手机自动化的一部分。

Pros and Cons

Pros

  • 将下载的模型运行在手机本地,并支持离线使用。
  • 当前功能未说明需要账号、订阅、使用上限或必须登录。
  • 支持文档、图像、编程、听写、自定义指令、快捷指令,以及可选的带来源网页搜索。
  • 显示设备内存要求,并停用无法容纳的模型。

Cons

  • 模型文件必须单独下载,大小从 112 MB 到 3.11 GB 不等,因此存储空间和设备内存会影响哪些模型适合使用。
  • 较大的模型通常会占用更多存储空间,生成响应的速度也可能更慢;目录中的自有模型导入功能为实验性功能。
  • 网页搜索默认不包含在内;需要当前在线信息时,用户必须提供 Tavily 或 Exa API 密钥。

FAQ

KernelAI 免费吗?

KernelAI 可免费使用,网站未说明需要账号、订阅、使用上限或功能受限的小费层级。可选的小费仅用于支持开发,不会解锁功能。

如何开始使用并选择模型?

从 App Store 或 Google Play 安装应用,选择一个模型并单独下载。模型下载到设备后,即可在没有网络连接的情况下运行。应用会检测设备可用内存,并停用无法容纳的模型。

支持哪些设备和操作系统?

该应用支持运行 iOS 16.4 或更高版本的 iPhone 和 iPad,以及运行 Android 7.0 或更高版本的 Android 设备。可用模型取决于设备检测到的内存。

哪些数据会离开设备?

根据网站信息,普通聊天、附件文档、图像和听写内容都会在设备上处理。模型下载和可选的网页搜索会使用网络。网页搜索默认关闭,需要用户提供自己的 Tavily 或 Exa API 密钥;搜索查询会发送给所选的服务提供商。

可以运行自己的模型吗?

可以。用户可以从“文件”中导入 GGUF 文件,也可以通过直接 URL 导入,包括导入自己网络中的服务器上的文件。此功能标记为实验性功能,因为不同文件之间的兼容性可能有所不同。

Quick Facts

类别
AI 聊天;生产力;开发者工具
平台
iOS 16.4 或更高版本;Android 7.0 或更高版本
模型目录
来自 15 家实验室的 53 个开放权重模型
模型下载
112 MB 至 3.11 GB;其中 18 个模型小于 1 GB
离线工作流
下载一次模型,之后无需网络连接即可使用
网页搜索
可选;由用户提供 Tavily 或 Exa 密钥,默认关闭