跳到主要内容

可视化界面操作指南

除了通过命令行与模型交互外,CSGHub-Lite 还提供了一个直观的可视化 Web 界面,方便用户更便捷地管理模型。

如何打开界面

在终端中运行以下命令即可启动可视化服务:

# 启动可视化界面
csghub-lite serve

启动成功后,您将看到类似如下的输出信息:

csghub-lite server listening on :11435
Web UI: http://localhost:11435/
Ollama API: http://localhost:11435/api/chat
OpenAI API: http://localhost:11435/v1/chat/completions

此时,您只需在浏览器中访问 http://localhost:11435/ 即可进入可视化操作界面。

核心版块

整个 UI 分为四个核心功能区域:

1. 仪表盘 - 实时运行监控

这是用户打开后的默认页,显示系统的“健康状态”和当前正在运行的推理任务。

  • 资源占用卡片: 实时监控 CPU 使用率、RAM 内存占用、GPU VRAM 占用。
  • 运行中模型列表: 以表格形式列出模型名称、加载时长。
  • 操作项: 提供 [卸载] (停止模型并从内存中卸载) 和 [API 调用] (查看该模型的 API 地址)操作。
  • 实时流日志: 下方区域滚动显示选中的模型运行日志。 alt text

2. 模型库 - 本地模型管理

管理用户已下载到本地的所有模型文件。

  • 搜索与筛选: 置顶搜索框支持按名称搜索,或按格式(GGUF/SafeTensors)进行筛选。
  • 模型列表卡片: 显示模型名称,格式,文件大小及最后使用时间。
  • 操作组:
    • [运行]:点击即可快速启动模型,进入运行状态。
    • [删除]:从本地删除该模型文件。 alt text

3. 市场 - 发现与下载

对接 csghub-lite search 功能,让用户无需离开客户端即可发现新模型。

  • 全局搜索: 页面中心的大搜索框,支持关键字检索 CSGHub 官方模型。
  • 搜索结果: 每项包含模型名、下载量、简短描述。
  • 下载逻辑: 点击 [下载] 即可原地展开进度条,显示下载速度 (MB/s) 和 ETA(剩余时间),支持暂停/恢复。
  • 数据集展示: 同时支持数据集的查看及下载。 alt text

4. 聊天室 - 交互式对话

测试模型效果的实验场,包含更多参数控制。

  • 模型选择器: 在对话输入框的左侧,可切换当前对话使用的模型。
  • 右侧配置栏:
    • 系统提示词: 自定义角色的系统提示词。
    • Parameters: 包含 Temperature (温度)、Top-PContext Length (上下文长度) 等滑块调节。 alt text