跳到主要内容

一键部署开源大模型，打造企业私有问答机器人

📌 场景概述​

适用对象：政府机关 / 国企单位 / 大型企业 IT 部门
使用产品：CSGHub 企业版 + CSGChat 私有化部署
核心目标：在企业私有网络中部署开源大模型，实现企业员工可用的内部知识问答助手，保障数据安全、响应高效、易于集成。

🧭 操作流程​

1. 在企业内网部署 CSGHub​

  • 通过私有化部署方案，将 CSGHub 安装在企业自有服务器或专属云环境中；
  • 启用企业身份认证和权限系统，确保内部人员可控访问。

2. 同步开源模型资源​

  • 登录 CSGHub 后，进入【模型中心】，使用多源同步功能，从“传神开源社区”获取最新大模型；
  • 支持 DeepSeek、Qwen、InternLM 等模型的同步与版本管理；
  • 同步完成后模型保存在企业局域网内，确保全流程离线运行。

3. 部署模型为公共服务 API​

  • 管理员进入【后台管理】模块；
  • 将需要用于问答的模型（如 Qwen-7B）部署为公共推理服务； alt text
  • 部署完成后，模型详情页右侧出现“推理API”入口，可以直接在页面中使用模型服务； alt text
  • 企业的应用均可通过 API 调用该模型服务; alt text

4. 部署 CSGChat​

  • 部署 CSGHub 配套组件 CSGChat，在 CSGChat 后台配置部署的模型 API 地址； alt text
  • 在 CSGHub 中可部署多个公共模型 API，在CSGChat中可以切换不同模型进行问答。

5. 配置企业知识库，实现智能问答​

  • 在 CSGChat 中创建并上传企业知识库（支持 Word、PDF、HTML 等格式）； alt text
  • 系统自动完成文本解析、向量索引构建；
  • 企业用户登录后，即可通过自然语言提问，获取智能问答响应；
  • 支持基于企业身份认证的知识库访问权限控制。 alt text

🌟 最终效果​

  • 员工可随时通过“智能问答机器人”查询政策流程、制度说明、项目文档；
  • 不依赖外部大模型 API，100% 数据留存企业内部；
  • 具备统一入口、统一语义风格和可迭代优化能力。