网站深度测评
Unsloth是什么网站?
Unsloth 是一个开源、免费的本地 AI 工作台,核心产品是 Unsloth Desktop——一个无需写代码的桌面应用,让你在自己的电脑上运行和训练 AI 模型,数据全程留在本地。
主要用途
- 本地运行与训练模型:支持文本、图像、视频、音频等多种模型,内置模型中心可按设备推荐合适的量化版本下载。
- 图像与视频生成:可用 Qwen-Image-2.1、FLUX、Z-Image 等生成图像,用 Wan、LTX 生成视频,也支持 LoRA 适配器、局部重绘、扩图、放大等编辑操作。
- 连接 AI 代理:通过
unsloth start命令把 Claude Code、Codex 等代理接到本地模型上;同时提供 OpenAI 兼容 API,现有脚本和 SDK 可直接对接。 - 本地联网搜索:内置无限制、私密的免费网页搜索,还提供 Deep Research 生成带引用的报告。
- 代码执行:工具调用带自动检测与重试机制,可在安全沙箱里运行 Bash 和 Python。
适合谁用
在意数据隐私、不想把内容上传到云端的人;想在本地跑最新开源模型(如 Qwen、GLM、Gemma)的开发者;需要给 AI 代理接本地模型、又不想改工作流的用户;以及想用消费级硬件做图像/视频生成的人。
支持平台
Mac(Apple Silicon 与 Intel,.dmg)、Windows 10 及以上(.exe)、Linux(Ubuntu 及兼容发行版,.deb)。
与其他方案的区别
它偏向「桌面一站式」而非命令行工具或纯云端服务:无需写代码,模型、代理、搜索、沙箱都集成在一个应用里,且免费开源。若你只想要纯 API 或云端算力,它并不是同类替代品。
想开始用,直接到官网下载对应系统的安装包,再从内置模型中心挑一个适配你硬件的模型即可。
如何在本地下载和安装Unsloth Desktop?
Unsloth Desktop 提供 Mac、Windows、Linux 三个平台的安装包,直接在官网下载对应文件安装即可。它是开源、免费的本地桌面应用,安装后模型和数据都留在本机。
下载与安装步骤
- 打开 Unsloth 官网,进入 Unsloth Desktop 的下载区。
- 按系统选择安装包:
- Mac:
.dmg,支持 Apple Silicon 和 Intel 芯片 - Windows:
.exe,要求 Windows 10 及以上 - Linux:
.deb,适用于 Ubuntu 及兼容发行版
- Mac:
- 下载后按各平台常规方式安装(Mac 拖入应用、Windows 双击运行、Linux 用包管理器安装
.deb)。 - 打开应用,从内置模型中心挑选并下载适合你设备的量化版本,即可开始对话、训练或生图。
装好后能做什么
- 本地运行和训练文本、图像、视频、音频模型,官网标注支持 Qwen、GLM、Gemma、NVIDIA 等新模型的 Day Zero 支持。
- 用
unsloth start claude之类的命令,把 Claude Code、Codex 等 Agent 接到本地模型上,换模型不用改 Agent 工作流。 - 通过 OpenAI 兼容 API,让已有脚本、SDK 连到本地模型。
- 借助免费 Cloudflare 隧道,把本地或 Colab 模型用 HTTPS 暴露出去,在手机或别的设备上查看运行情况。
什么情况适合装
- 想在自己电脑上跑开源模型,又不想碰命令行配置环境。
- 需要把模型和推理数据留在本地,不依赖云端服务。
- 手头有 N 卡等本地算力,想顺带做 LoRA 微调或图像、视频生成。
选择条件与下一步
先确认系统版本是否满足(Windows 10+、Ubuntu 类发行版、Mac 双架构均支持),再按显卡显存挑量化档位——官网模型中心会按设备推荐合适的量化版本。装完可先用一个小模型试跑,确认硬件和驱动正常,再下载更大的模型。
Unsloth支持哪些模型和量化版本?
Unsloth 本身不限定模型清单,它提供的是本地运行与训练的框架,具体可用模型和量化版本以它内置的模型库为准,并随新模型发布持续更新。
支持哪些模型
- 文本模型:资料提到 Day Zero 支持 Qwen3.8、GLM、Gemma 等新发布模型,也支持 NVIDIA 相关模型。
- 图像模型:Qwen-Image-2.1、MiniMax-H3、FLUX、Z-Image,并可搭配 LoRA 适配器。
- 视频模型:Wan、LTX。
- 覆盖范围表述为“几乎所有模型”,涵盖文本、图像、视频、音频。
- 模型通过内置 model hub 发现、管理和下载。
量化版本怎么选
- 资料只说明模型库会帮你找到“适合你设备的正确量化版本”,没有列出具体量化档位(如 Q4、Q8、GGUF 等)。
- 实际做法是:在 Unsloth Desktop 的模型库里按你的设备显存/内存筛选,它会推荐对应量化。
- 量化选择直接影响能否跑起来以及生成速度,例如资料中 MiniMax-H3 在 NVIDIA B200 上生成 960×544、124 帧视频只需 13 秒(8 步),这类性能数据与硬件和量化档位相关。
适合谁用
- 想在 Mac、Windows、Linux 本地跑模型的个人用户:下载模型后直接对话、生成图像视频。
- 想微调模型的用户:用 LoRA 适配器在本地训练。
- 需要把本地模型接入 Agent 的用户:用
unsloth start claude连接 Claude Code、Codex 等,或通过 OpenAI 兼容 API 接入已有脚本和 SDK。
下一步
打开 Unsloth Desktop 的模型库,按设备筛选量化版本;想确认某个具体模型是否支持,以模型库内实际列出为准。
如何用Unsloth在本地训练模型或添加LoRA适配器?
Unsloth Desktop 把“跑模型”和“训模型”都放进了一个本地桌面应用里,开源、免费、数据不出本机。要训练模型或挂 LoRA 适配器,入口就是它内置的模型管理和训练面板,不需要自己写训练脚本。
训练与 LoRA 的实际路径
- 先装后选模型:从官网下载 Mac(Apple Silicon / Intel)、Windows 10+、Linux(Ubuntu 及兼容发行版)对应安装包,打开后在内置 model hub 里按设备显存挑合适的量化版本下载。
- LoRA 适配器:资料里明确提到图像生成侧可以配合 LoRA adapters 使用(Qwen-Image-2.1、FLUX、Z-Image 等)。也就是说,你可以在已有基座模型上挂自己的 LoRA,做风格或特定任务的微调,而不是从头训一个大模型。
- 训练对象覆盖广:文本、图像、视频、音频模型都能在本地 run 和 train,官方强调对新发布模型有 Day Zero 支持(如 Qwen 系列、NVIDIA、GLM、Gemma)。
训练完之后怎么用
- 接 Agent:加载模型后运行
unsloth start claude,可以把 Claude Code、Codex 这类 agent 接到你本地训好的模型上,换模型不用改 agent 工作流。 - 当 API 用:Unsloth 暴露 OpenAI 兼容接口,已有的脚本、SDK、应用可以直接连本地模型。
- 远程查看:通过免费的 Cloudflare tunnel 把本地或 Colab 上的模型用 HTTPS 服务出去,手机上也能看训练/推理状态。
适合谁、什么情况下选它
- 想微调开源模型但不想碰命令行训练框架的人;
- 对数据隐私敏感,要求训练和推理都在本机完成;
- 需要把本地模型接进现有 agent 或 OpenAI 兼容工具链的开发者。
和其他方案的侧重差异
- 对比纯推理工具(如 Ollama):Ollama 偏“下载即聊天”的推理体验,Unsloth 额外覆盖训练和 LoRA 挂载。
- 对比图形化本地前端(如 LM Studio):LM Studio 侧重模型运行与对话管理,Unsloth 在训练、工具调用自修复、代码沙箱执行上更靠前。
- 对比云端微调平台:Unsloth 的卖点是 100% 本地、免费开源,代价是受你自己硬件的显存和算力限制。
下一步
先去 unsloth.ai 下载对应平台安装包,在 model hub 里选一个适配你显存的量化模型跑通推理,再在图像/文本模型上挂一个 LoRA 试训一轮,确认流程后再接 unsloth start 把 agent 连上。
怎么把Claude Code或Codex等外部Agent连接到Unsloth的本地模型?
Unsloth 提供了 unsloth start 命令,作为外部 Agent(如 Claude Code、Codex)接入本地模型的入口。
连接步骤
- 启动 Unsloth Desktop,加载你要用的本地模型。
- 打开你的项目文件夹。
- 在终端运行
unsloth start claude(换成 Codex 等其他 Agent 时,把claude替换成对应名称)。
之后 Agent 就会走本地模型,而你在 Unsloth 里切换模型时,不需要改动 Agent 的工作流。
兼容其他应用的方式
Unsloth 还暴露了一个 OpenAI 兼容 API。已有的应用、脚本和 SDK 可以直接通过这个熟悉的接口连到本地模型,不必只限于 Claude Code 或 Codex 这类命令行 Agent。
适用场景
- 想让 Claude Code / Codex 用本地模型跑,避免把代码和对话发到云端。
- 想在同一个本地模型上切换不同 Agent,或在不同模型间切换而不重配 Agent。
- 已有基于 OpenAI API 的工具,想零改造指向本地推理。
下一步
按官方 setup guide 走一遍即可;如果只是想验证连通性,先跑 unsloth start claude 看 Agent 是否正常响应,再决定是否接入其他应用。
Unsloth Desktop在本地运行和训练模型需要什么硬件配置?
Unsloth Desktop 官方下载页没有给出统一的最低配置表,硬件要求取决于你要跑的是文本、图像还是视频模型,以及模型参数量。资料中只提到一个具体例子:在 NVIDIA B200 上,MiniMax-H3 生成 960×544、124 帧视频用时 13 秒(8 步),官方称此前需要 70 步以上。这是高端 GPU 的表现,不代表普通设备。
平台支持
- Mac:Apple Silicon 与 Intel,提供 .dmg
- Windows:Windows 10 及以后,提供 .exe
- Linux:Ubuntu 及兼容发行版,提供 .deb
按用途判断大致方向
- 只想本地聊天、跑中小型文本模型:消费级独显或 Apple Silicon 统一内存通常够用,具体看量化版本。
- 图像生成与编辑(FLUX、Qwen-Image-2.1 等):更依赖显存,低显存需选低比特量化。
- 视频生成(Wan、LTX):显存和算力要求最高,资料中的 B200 属于数据中心级 GPU。
- 训练/微调:比推理更吃显存,模型越大、序列越长,需求越高。
怎么选到合适的版本 Unsloth Desktop 内置模型 hub,会按你的设备推荐对应的量化版本,可以先下载推荐项试跑,再根据速度与显存占用调整。如果本机跑不动,资料提到可以把本地或 Colab 模型通过免费的 Cloudflare 隧道以 HTTPS 方式对外提供,用手机或另一台电脑访问。
下一步 先确认你的显卡显存或 Mac 统一内存容量,再到 Unsloth 下载对应平台安装包,用内置 hub 的推荐量化模型实测;跑视频或大模型前,优先考虑租用云端 GPU。
用户评价(0)