设备端模型运行
通过 llama.cpp 在手机的 CPU 和 GPU 上运行量化开放权重模型。模型下载完成后,无需通过互联网往返即可处理提示词。
KernelAI 是一款移动 AI 应用,可在 iPhone、iPad 和 Android 设备本地运行开放权重语言模型和多模态模型。它提供来自 15 家实验室的 53 个模型,每个模型都会下载到设备上,可用于聊天、编程、文档问答、图像理解和翻译等任务。
该应用面向不需要云端账号或持续网络连接的工作流程。模型下载完成后,可以继续离线进行对话;设备会检查可用内存,并隐藏无法容纳的模型。可选的网页搜索通过用户提供的 Tavily 或 Exa 密钥获取最新信息,但在用户开启前会保持禁用状态。
通过 llama.cpp 在手机的 CPU 和 GPU 上运行量化开放权重模型。模型下载完成后,无需通过互联网往返即可处理提示词。
可从 15 家实验室发布的 53 个模型中进行选择,下载大小从 112 MB 到 3.11 GB 不等。目录包含文本、编程、多语言、推理、视觉、角色扮演和网页搜索模型。
附加 PDF、Word 文件或电子表格,并在不上传附件的情况下提问。支持视觉能力的模型还可以理解照片、屏幕截图、标志、菜单、图表和收据。
仅在需要时,通过添加个人 Tavily 或 Exa API 密钥来启用网页搜索。支持的模型会返回带来源的答案,同时密钥会保存在 iOS Keychain 中。
设置系统提示词或使用预设,为不同对话定义语气、格式或角色。用户还可以从“文件”或 URL 导入兼容的 GGUF 模型;此功能为实验性功能。
使用设备端听写和系统语音进行语音交互,还可以通过“Ask KernelAI”和“Extract Text from Document”快捷指令操作来调用本地 AI。
出行前下载合适的模型,然后在飞行模式或信号不稳定的地方起草文本、提问或梳理想法。
附加 PDF、Word 文件或电子表格并请求解释或特定信息,同时将文件保留在设备上,而不是上传到 KernelAI。
使用视觉模型读取拍摄的标志、菜单、图表、收据或屏幕截图,包括图像中包含的文字。
请求编写函数、协助调试或进行解释,即使处于断网状态,也能获得带语法高亮的代码。快捷指令还可以传递提示词或提取文档文本,作为手机自动化的一部分。
KernelAI 可免费使用,网站未说明需要账号、订阅、使用上限或功能受限的小费层级。可选的小费仅用于支持开发,不会解锁功能。
从 App Store 或 Google Play 安装应用,选择一个模型并单独下载。模型下载到设备后,即可在没有网络连接的情况下运行。应用会检测设备可用内存,并停用无法容纳的模型。
该应用支持运行 iOS 16.4 或更高版本的 iPhone 和 iPad,以及运行 Android 7.0 或更高版本的 Android 设备。可用模型取决于设备检测到的内存。
根据网站信息,普通聊天、附件文档、图像和听写内容都会在设备上处理。模型下载和可选的网页搜索会使用网络。网页搜索默认关闭,需要用户提供自己的 Tavily 或 Exa API 密钥;搜索查询会发送给所选的服务提供商。
可以。用户可以从“文件”中导入 GGUF 文件,也可以通过直接 URL 导入,包括导入自己网络中的服务器上的文件。此功能标记为实验性功能,因为不同文件之间的兼容性可能有所不同。
Grok 4.7 是 xAI 推出的软件开发与知识工作模型,支持长时间编码任务和专业分析,可通过 Grok Build、Cursor、Grok API 等平台使用,输入每百万 token 起价 2 美元,输出每百万 token 起价 6 美元。
ByteAsk 是面向 C 和 C++ 的终端优先 AI 编码 agent,可直接编辑仓库,并在展示 diff 前用真实编译器、调试器、sanitizers 和测试验证修改。提供免费版与付费方案。
GitBot 是基于本地浏览器的工作区,可借助 Claude Code、Codex 或 OpenCode 创建可复用的编程机器人,跨仓库文件夹运行代理,并保留持久线程与可配置权限。
Ghost 是一款基于终端的 AI 助手,可在命令行中聊天、生成代码并运行任务。内置免费模型,支持 Linux、macOS 和 Windows,且为开源项目。
Vi3ecode 是面向 AI 编程代理的持续开发环境,保留项目上下文、终端、Git、记忆、流程、评审与沟通,围绕你正在使用的 agent 协同工作。
AakarDev AI 帮助团队在一个仪表板中管理 AI provider 访问、项目级设置、日志和分析,支持 BYOK 工作流,并涵盖 OpenAI、Google Gemini、Anthropic、Groq、Mistral AI 和 Perplexity AI。