Unsloth icon

Unsloth

Unsloth 是一款免费的开源桌面应用,用于在本地硬件上运行和训练 AI 模型。支持 macOS、Windows、Linux 和 WSL,提供模型下载、智能体连接、媒体生成与私密研究。

Unsloth

概述

Unsloth 是一款免费的开源桌面应用,用于在你自己的本地硬件上运行和训练 AI 模型。该产品定位为本地 AI 工作区,可用于下载模型、与模型聊天、训练模型,并在默认情况下不将工作发送到设备外的情况下连接其他工具。

该桌面产品支持 macOS、Windows、Linux 和 WSL,文档还描述了针对文本、扩散图像/视频、音频、MLX 和 GGUF 模型的工作流。它还提供 OpenAI 兼容 API 和 unsloth start 命令,因此编码智能体和现有应用可以通过熟悉的接口连接到本地模型。

Unsloth 面向希望在一个桌面环境中完成本地模型访问、媒体生成、微调、智能体工作流和私密网页搜索的人群。定价页面显示有免费的开源版本,并提供 Pro 和 Enterprise 选项,用于更高性能的训练和额外的部署功能。

功能

适用于主流平台的本地桌面应用

在 macOS、Windows、Linux 或 WSL 上安装桌面应用,然后选择模型即可开始聊天,无需单独的设置流程。应用支持本地硬件,并会显示它可使用的设备。

多模型本地工作流

通过同一界面下载并运行文本、图像、视频、音频、MLX 和 GGUF 模型。文档说明支持从本地硬件进行微调、部署和媒体生成。

图像和视频生成工具

使用受支持的扩散模型和 LoRA 适配器创建并训练图像和视频输出。源码还描述了图像变换、修复、扩展、放大、参考和编辑工作流。

通过 unsloth start 连接智能体

使用 unsloth start 让 Claude Code、Codex、Hermes、OpenCode、Pi 以及其他智能体连接到本地模型。Unsloth 会为启动配置端点、提供方、API 密钥、模型和上下文长度。

兼容 OpenAI 且支持云端的 API

使用 OpenAI 兼容 API,让现有应用、脚本和 SDK 可以通过熟悉的接口连接到本地模型。应用也可以通过同一个聊天界面连接到云端模型提供方。

内置网页搜索与研究

在桌面应用内使用私密网页搜索和深度研究进行网络搜索。文档说明搜索可以在模型思考时运行,并能生成带引用的报告。

工具调用与沙盒化代码执行

在安全沙盒中执行 Bash 和 Python,并使用自我修复的工具调用来检测、修复和重试失败。文档还提到权限控制以及在用户批准后可选的直接文件访问。

使用场景

  • 与下载的模型进行本地聊天

    下载模型,选择适合你的设备的量化方式,然后在本地开始聊天,无需单独的服务器设置。这适合希望在自己的机器上获得简洁离线模型工作区的人。

  • 训练和微调本地模型

    使用无代码训练工作流,从本地文件(如 PDF、CSV、JSON 或图像集合)中微调文本、扩散、音频或图像模型。文档还提到了 LoRA、完整微调和预训练。

  • 本地图像和视频创作

    使用受支持的扩散模型和 LoRA 适配器生成或编辑图像和视频,包括修复、扩展、放大和基于参考的编辑。这适合希望在本地处理媒体生成任务的创作者。

  • 在本地 LLM 上运行编码智能体

    通过 unsloth start 将 Claude Code、Codex 或其他智能体连接到本地模型,使编码工作流可以在你的机器上运行。集成指南说明 Unsloth 会为每次启动处理端点和会话配置。

  • 私密研究与来源收集

    当你需要在同一桌面环境中进行私密、带引用来源的研究时,可使用内置网页搜索和深度研究工具。对于希望模型回答基于最新来源、又不想切换应用的用户来说,这很有用。

Pros and Cons

Pros

  • 免费且开源,可完全离线运行桌面工作流。
  • 支持 macOS、Windows、Linux 和 WSL。
  • 将本地聊天、模型训练、媒体生成、网页搜索和智能体连接整合在一个应用中。
  • 为现有应用、脚本和 SDK 提供 OpenAI 兼容 API。
  • 包含权限控制和用于工具执行的安全沙盒。

Cons

  • 某些高级智能体工作流需要特定的模型格式或启动选项;例如,文档指出 Codex 目前需要通过 llama-server 提供的 GGUF 模型。
  • 文档说明旧硬件可能不太受支持。
  • 许多功能依赖本地模型可用性和设备能力,因此性能和兼容性会因配置而异。

FAQ

Unsloth Desktop 支持哪些平台?

Unsloth Desktop 支持 macOS、Windows、Linux 和 WSL。下载页面还提供按平台划分的安装程序和基于终端的安装选项。

Unsloth 会收集遥测数据或需要联网吗?

不支持。文档说明没有遥测,并且该应用可以完全在你自己的硬件上离线运行。

其他应用和编码智能体可以连接到 Unsloth 中的本地模型吗?

可以。文档说明 Unsloth 提供 OpenAI 兼容 API,也可以将 Claude Code 和 Codex 等智能体连接到本地模型。

Unsloth 可以处理哪些类型的模型?

Unsloth 可以在本地运行和训练文本、扩散图像/视频、音频,以及部分 MLX/GGUF 模型。文档还说明可以通过同一聊天界面使用云端模型。

所有编码智能体都以相同方式受支持吗?

对于某些智能体工作流,可以。集成指南说明 Codex 目前需要通过 llama-server 后端提供的 GGUF 模型,而其他智能体可以更直接地使用 unsloth start。

Quick Facts

类别
本地 AI 桌面应用
平台
macOS、Windows、Linux、WSL
部署
默认本地运行;可使用 Cloudflare HTTPS 隧道
定价
免费的开源版本;提供 Pro 和 Enterprise 方案
集成
Claude Code、Codex、Hermes、OpenCode、Pi、OpenAI 兼容 API