Unsloth 是免费开源的吗?本地运行有什么优势?

是。Unsloth 官网把 Unsloth Desktop 标注为开源、免费、100% 本地运行的桌面应用,提供 Mac、Windows、Linux 三个平台的下载包。它适合希望把模型和数据留在自己机器上、又不想写代码就能跑模型的人;代价是算力由你自己的硬件承担,模型能不能跑得动取决于设备配置。

授权与费用:官网怎么说

Unsloth 首页对 Unsloth Desktop 的定位是“The first desktop app to run and train AI models. Open-source. Free. 100% Local.”,即开源、免费、完全本地。下载入口按平台划分:

平台 安装包 适用版本
Mac .dmg Apple Silicon 与 Intel
Windows .exe Windows 10 及更高版本
Linux .deb Ubuntu 及兼容发行版

官网还提供“View all downloads”入口,用于查看全部平台与版本。需要说明的是,资料中没有出现订阅、付费墙或支付方式的信息,因此这里只陈述官网的“免费、开源”表述,不对是否存在其他商业服务做推断。

本地运行带来的三个实际优势

隐私:数据不出本机

官网强调“built to keep your work local”。模型推理、图像视频生成、代码执行都在本地完成,不需要把提示词、素材或代码上传到云端服务。对处理内部文档、未公开素材或敏感代码的场景,这一点比“便宜”更重要。

成本:省掉按量计费的 API 开销

本地运行不产生按调用次数计费的 API 费用,长期高频使用时的边际成本接近电费。但这不是“零成本”:你需要自有硬件承担算力。官网给出的一个参照是,在 NVIDIA B200 上,MiniMax-H3 生成 960×544、124 帧视频耗时 13 秒(8 步),而此前需要 70 步以上——这类速度依赖高端显卡,普通笔记本的体验会明显不同。

开放:可自行查看、参与,并接入自有工具

作为开源项目,代码可查看、可参与。在集成层面,Unsloth 暴露 OpenAI 兼容 API,现有应用、脚本和 SDK 可以用熟悉的接口连到本地模型;也可以通过 unsloth start 命令把 Claude Code、Codex 等智能体接到本地模型上,换模型时不必改动智能体侧的工作流。

本地能做什么:能力范围

Unsloth Desktop 覆盖文本、图像、视频、音频模型的运行与训练:

  • 图像与视频生成:支持 Qwen-Image-2.1、MiniMax-H3、FLUX、Z-Image 及 LoRA 适配器;视频侧支持 Wan 和 LTX。图像可做变换、修补、扩展、放大、参考和编辑。
  • 智能体接入:unsloth start claude 之类的命令把外部智能体指向本地模型。
  • 联网搜索:内置网页搜索,可在模型思考时检索,或用 Deep Research 生成带引用的报告。
  • 代码执行:在安全沙箱中运行 Bash 和 Python,官网称自愈式工具调用可把工具调用准确率提升最多 50%。
  • 模型管理:内置模型中心,支持 Qwen3.8、NVIDIA、GLM、Gemma 等新模型的 Day Zero 支持,并按设备推荐合适的量化版本。
  • 远程访问:通过免费的 Cloudflare 隧道以 HTTPS 暴露本地或 Colab 模型,可从手机或其他设备查看运行情况。

怎么判断它是否适合你

适合的情况:你有一台配置尚可的 Mac、Windows 或 Linux 机器,在意数据不外传,想不写代码就跑和训练模型,或者想把本地模型接进已有的智能体与脚本。

需要再权衡的情况:你的硬件较弱,尤其是想跑视频生成或大参数模型;或者你只需要偶尔调用一次模型,云端 API 的即时可用性可能更省事。官网没有给出最低硬件要求,建议先下载对应平台的安装包,用内置模型中心按设备推荐选择量化版本再试跑。

上手路径

  1. 从官网下载对应平台的安装包(Mac 用 .dmg,Windows 用 .exe,Linux 用 .deb)。
  2. 打开 Unsloth Desktop,在模型中心按设备推荐下载合适的量化模型。
  3. 直接开始对话,或按需启用图像视频生成、联网搜索、代码执行。
  4. 要接智能体时:启动 Unsloth、加载模型、打开项目文件夹,再运行 unsloth start claude;其他应用可通过 OpenAI 兼容 API 接入。
  5. 需要远程查看时,用 Cloudflare 隧道把本地模型以 HTTPS 暴露出去。

常见卡点集中在硬件:模型越大、量化越轻,速度与质量之间的取舍越明显;视频生成对显存的要求通常高于文本对话。官网未列出具体硬件门槛,遇到跑不动的情况,优先换更小的量化版本而不是反复重装。

unsloth.ai
Unsloth is an open-source, no-code deskop UI for training and running open models on your local hardware.