先看怎么选
希望下载模型后直接聊天并组织项目,可从Jan Desktop开始;已有界面或开发工具、需要本地模型服务,可研究Ollama。两者都有云端或外部连接路径,按实际模型与工具配置确认使用范围。
| 这一步要完成 | 相关工具 | 工具介绍 |
|---|---|---|
| 桌面聊天与模型Hub | 查看介绍 | |
| 模型服务与API | 查看介绍 |
想在自己的电脑运行模型,可以从桌面聊天开始,也可以把模型变成其他应用能调用的本地服务。Jan和Ollama都支持本地模型,但界面、服务与外部连接的组织方式不同。
先从完整桌面体验开始:Jan
Jan Desktop把模型下载、聊天、项目和工具连接放在桌面应用中。当前快速开始提供模型Hub与硬件适配提示,也能配置云提供方或自定义端点。适合希望先直接使用本地模型,再逐步连接文件、项目与其他工具的人。桌面入门区分了本地与云模型;文档入口还明确Jan Desktop与单独分发的Jan Agent是不同产品入口。
对第一次使用本地模型的人,这使“下载、选中、开始聊天”的过程较集中。若后续想给其他应用提供接口,可以继续研究本地API Server;需要的是独立编码Agent时,则应查看Agent对应说明,而不是把桌面功能全部视作同一个运行包。
先把模型作为服务接进工具:Ollama
Ollama既提供模型运行与管理,也提供API和应用集成,适合要把本地模型接到编辑器、知识应用或自己的程序的人。当前官方文档同时列出云模型与本地模型,因此选择时要确认实际用的是哪一种。官方文档将“在电脑上运行模型”和“调用云模型”分开说明。
如果已经有熟悉的前端或编程工具,Ollama的价值是成为背后的模型服务,而不必重新选择所有界面。模型加载、内存和并发会影响体验,尤其是同一台机器同时供多个客户端使用时。
用途决定先装哪一层
| 现在的目标 | 可以从哪里开始 |
|---|---|
| 下载模型后直接聊天、组织项目 | Jan Desktop |
| 给已有工具或程序提供模型服务 | Ollama |
| 本地模型与云模型混用 | 两者都支持相关路径,核对实际提供方 |
桌面界面与服务不是永久二选一。关键是先补齐现有工作里缺的一层,避免为了本地聊天同时安装多套功能重叠的工具。
本地推理只说明模型计算在设备上。Jan内置联网工具与MCP,Ollama也有外部集成与云模型;启用这些能力后,应用链路可能包含网络请求。对离线工作,按实际启用功能关闭或配置外部连接即可。选对模型大小和所需功能,通常比先追求最大的模型更能让这台电脑持续可用。
工具推荐与取舍
相关工具
Jan
桌面聊天与模型Hub
Jan Desktop集中提供模型Hub、聊天、项目与工具连接,也有本地API Server。适合先获得完整桌面使用体验,再逐步增加外部工具;Jan Agent则是独立分发的入口。
- 适合谁用
- 希望在桌面中下载模型、直接聊天并组织材料的人。
- 选择前要知道
- 当前应用可混用本地和云模型,也有联网工具;离线范围取决于实际启用配置。
查看交付与边界
- 项目、工具和本地API
Ollama
模型服务与API
Ollama提供模型运行、API与集成路径,适合将模型接到已有应用和开发工具中。使用者可以沿用熟悉的前端,让Ollama承担背后的本地模型服务。
- 适合谁用
- 已有界面或程序,希望连接本地模型能力的开发者。
- 选择前要知道
- 当前也提供云模型;需确认实际模型位置,并按内存和并发安排资源。
查看交付与边界
- 连接已有应用和工具
推荐依据
依据各产品官方文档与公开功能说明,按本篇任务的接入方式、交付产物和使用边界筛选。选择建议为编辑分析;示例另行标注,不构成性能实测或全面排名。
官方资料研究与编辑选用分析;未经运行的示例不标为实测。封面为编辑示意图。
参考资料
功能、套餐与使用条件,以对应产品的最新资料为准。
内容更新于 2026-11-11



