教程 3:聊天机器人网页应用与界面

作者: Jakub Rusinowski最后更新 5 分钟阅读Beginner

Ollama 在终端中运行,但大多数用户更喜欢类似 ChatGPT 的图形界面(GUI)。以下是为你的本地 LLM 提供友好界面的最佳工具。

1. Open WebUI(原 Ollama WebUI)

最接近 ChatGPT 界面的克隆版,可直接连接 Ollama。

  • 功能: 聊天记录、代码语法高亮、语音输入以及图像生成支持。
  • 安装(需要 Docker):
bash
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main
  • 访问: 在浏览器中打开 http://localhost:3000。

2. LM Studio

一款一体化应用,让你下载模型并与之对话。如果你完全不想使用命令行,它非常合适。

  • 优点: 便捷的模型发现,GPU 卸载的可视化配置。
  • 缺点: 闭源(但免费使用)。
  • 下载: lmstudio.ai

3. Text-Generation-WebUI(Oobabooga)

面向高级用户的"瑞士军刀"。支持所有加载器(ExLlamaV2、AutoGPTQ、GGUF)。

  • 适合: 测试不同的量化格式和扩展。
  • 安装: 从 GitHub 克隆仓库,运行 start_windows.bat 或 start_linux.sh 脚本。

4. Jan.ai

简洁的原生桌面应用,可离线运行。开源且对新手非常友好。