很多人学习 AI 大模型时,都会遇到一个问题:会调用模型 API,却不知道如何将 AI 真正应用到企业业务中。
实际上,一个企业级 AI 项目远不只是调用一次模型,而是要围绕业务需求设计完整的解决方案,包括需求分析、模型接入、智能体开发、工作流编排、知识库建设、系统集成以及最终部署上线。
本文以一个真实的企业办公场景为例,演示如何从零搭建一套完整的 AI 智能办公助手。
一、项目背景
某企业每天都会收到大量客户咨询,例如:
- 产品价格是多少?
- 有没有库存?
- 可以什么时候发货?
- 如何申请售后?
- 合同在哪里下载?
- 订单目前进行到哪一步?
客服每天需要重复回答这些问题。
除此之外:
每天还要:
- 查询 ERP
- 查询 CRM
- 查询库存
- 查询订单
- 查询物流
工作十分繁琐。
企业希望开发一个 AI 助手,实现:
- 自动回答客户问题
- 自动查询业务系统
- 自动生成日报
- 自动发送通知
- 自动处理审批
于是,一个企业 AI Agent 项目正式开始。
二、第一步:需求分析
首先梳理业务流程。
传统流程:
客户咨询
↓
客服登录 CRM
↓
查询 ERP
↓
查看库存
↓
回复客户
↓
记录工单
平均需要:
3~5 分钟。
目标流程:
客户提问
↓
AI 自动理解问题
↓
调用 ERP
↓
查询数据库
↓
生成答案
↓
回复客户
整个过程控制在 5 秒以内。
需求拆解如下:
模块一:
自然语言理解。
模块二:
企业知识库。
模块三:
ERP 查询。
模块四:
CRM 查询。
模块五:
订单系统。
模块六:
消息通知。
每个模块最终都由 AI Agent 调度。
三、第二步:模型接入
企业决定采用本地部署的大模型。
部署环境:
Ubuntu 22.04
GPU:
RTX 4090
首先安装 Ollama:
curl -fsSL https://ollama.com/install.sh | sh下载模型:
ollama pull deepseek-r1:8b同时下载:
ollama pull qwen3:8b查看:
ollama list输出:
deepseek-r1:8b
qwen3:8b启动:
ollama serve测试接口:
curl http://localhost:11434/api/chat返回:
{
"message":"Hello"
}说明模型部署完成。
四、第三步:开发 AI Agent
企业 AI 助手不能只是聊天。
需要拥有:
- 查询数据库
- 调接口
- 查询知识库
- 调用 ERP
- 调用 CRM
因此设计多个工具(Tools)。
例如:
查询库存:
def query_stock(product_id):
...查询订单:
def query_order(order_no):
...查询物流:
def logistics(order_no):
...查询客户:
def customer(id):
...然后向模型注册这些工具。
例如:
用户:
查询订单XXXXXXXXXXXX模型判断:
需要调用:
query_order()
返回:
{
"status":"已发货"
}模型自动组织语言:
您的订单已经发货,目前正在运输途中。
整个过程用户无需知道背后调用了数据库和接口。
五、第四步:企业知识库建设
企业整理:
产品说明:
product.pdf售后政策:
service.pdf员工制度:
employee.docx合同模板:
contract.pdf上传后:
系统自动:
第一步:
解析 PDF。
第二步:
文本切分。
例如:
800 字一段。
第三步:
生成向量。
第四步:
写入向量数据库。
第五步:
建立索引。
用户:
售后多久?Agent:
先检索知识库。
再生成答案。
整个过程无需人工查找文档。
六、第五步:自动化工作流
工作流采用事件驱动。
例如:
官网收到客户留言。
↓
Webhook 触发。
↓
工作流启动。
↓
调用 Agent。
↓
Agent 查询:
CRM
ERP
知识库
↓
AI 生成回复。
↓
发送邮件。
↓
企业微信通知销售。
↓
CRM 更新状态。
整个流程无需人工参与。
七、第六步:接入企业系统
企业已有:
ERP:
/api/erpCRM:
/api/crmOA:
/api/oa库存:
/api/stock订单:
/api/order工作流调用:
GET
/api/order?id=20260709返回:
{
"status":"运输中"
}Agent:
直接告诉客户:
您的订单正在运输途中。
八、第七步:部署企业服务器
整个系统采用 Docker Compose 部署。
包括:
nginx
FastAPI
Ollama
Open WebUI
MySQL
Redis
Milvus
MinIO
RabbitMQ部署:
docker compose up -d查看:
docker ps输出:
ollama
mysql
redis
milvus
fastapi
nginx全部正常运行。
九、第八步:权限管理
企业员工:
登录:
SSO。
角色:
管理员。
销售。
客服。
财务。
不同角色:
看到不同数据。
例如:
客服:
不能查看工资。
财务:
不能查看客户聊天。
AI:
根据权限:
决定是否回答。
避免数据泄露。
十、第九步:日志监控
每次调用:
记录:
用户。
时间。
模型。
Token。
响应时间。
工具调用。
数据库查询。
错误日志。
例如:
09:21
查询订单
耗时:
2.1 秒
模型:
DeepSeek
Token:
1580方便后续分析和优化。
十一、第十步:完整业务流程
整个流程如下:
客户咨询
↓
Nginx
↓
FastAPI
↓
AI Agent
↓
判断问题类型
↓
查询知识库
↓
调用 Tool
↓
ERP
↓
CRM
↓
数据库
↓
生成答案
↓
返回客户
↓
记录日志所有操作均可自动完成。
十二、项目上线后的效果
项目上线后,客服工作方式发生了明显变化。
以前,一个客服每天需要处理数百条重复咨询,大量时间花在查询订单、库存和售后政策上。部署 AI Agent 后,这些标准化问题由系统自动完成,客服人员主要负责处理复杂或特殊案例,整体工作效率显著提升。
企业还将日报生成、会议纪要整理、合同模板查询、审批提醒等场景接入工作流平台,多个部门开始共享同一套 AI 服务,实现了业务数据互通和办公流程自动化。
经过一段时间运行,企业发现客户响应速度更快,员工重复劳动减少,内部知识查询效率提升,管理人员也能够通过自动生成的分析报告及时掌握业务动态。
总结
企业级 AI 项目的核心并不是简单地调用一次大模型,而是围绕真实业务需求,完成需求分析、模型部署、智能体开发、知识库建设、工具调用、自动化工作流设计以及系统集成部署,最终形成一套稳定、可扩展的智能办公平台。
通过这种从需求到上线的完整实践,企业不仅能够提升办公效率,还能够让 AI 真正融入日常业务流程,承担客服咨询、知识检索、审批流转、数据分析和流程执行等工作,推动企业向智能化、自动化方向持续发展。
