Ollama 在终端中运行,但大多数用户更喜欢类似 ChatGPT 的图形界面(GUI)。以下是为你的本地 LLM 提供友好界面的最佳工具。
1. Open WebUI(原 Ollama WebUI)
最接近 ChatGPT 界面的克隆版,可直接连接 Ollama。
- 功能: 聊天记录、代码语法高亮、语音输入以及图像生成支持。
- 安装(需要 Docker):
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main- 访问: 在浏览器中打开
http://localhost:3000。
2. LM Studio
一款一体化应用,让你下载模型并与之对话。如果你完全不想使用命令行,它非常合适。
- 优点: 便捷的模型发现,GPU 卸载的可视化配置。
- 缺点: 闭源(但免费使用)。
- 下载: lmstudio.ai
3. Text-Generation-WebUI(Oobabooga)
面向高级用户的"瑞士军刀"。支持所有加载器(ExLlamaV2、AutoGPTQ、GGUF)。
- 适合: 测试不同的量化格式和扩展。
- 安装: 从 GitHub 克隆仓库,运行
start_windows.bat或start_linux.sh脚本。
4. Jan.ai
简洁的原生桌面应用,可离线运行。开源且对新手非常友好。
- 下载: jan.ai