Skip to content
YUANFAN / INSIGHTS

Ideas, insights & progress

Notes on building software, thinking through technology and exploring what comes next.

大模型应用落地实践:企业如何从 Demo 走向生产级 AI 系统

2024 年,几乎每家企业都跑过大模型 Demo:上传几份文件问几个问题,效果令人惊艳。但从 Demo 到稳定运行的生产系统,中间横着一条鸿沟——大量企业在这里折戟。本文总结元帆科技服务 20+ 企业大模型落地项目的核心经验,帮你避开最常见的坑。 一、Demo 好用,生产踩坑:五大根本原因 1. 数据质量问题 Demo 阶段用的是精心准备的干净文档。生产环境里,企业文档往往格式混乱(扫描件、表格截图、手写备注)、内容过时(2018 年的产品手册还在用)、结构化程度低。大模型对输入数据质量极其敏感,垃圾数据进,垃圾答案出。 2. 幻觉(Hallucination)未被控制 大模型在不确定时会”自信地编造”答案。Demo 场景下,用户对 AI 保持警惕,每个答案都会核实。生产场景下,用户开始信任系统后,一个错误的合同条款解读或药品剂量建议可能造成真实损失。 3. 响应延迟无法接受 Demo 阶段等 10 秒结果没问题。生产客服场景,用户 5 秒没响应就会离开。私有化部署的大模型如果没有合理的推理服务配置(vLLM 并发、批处理等),在高并发时延迟会急剧恶化。 4.…

Read article ↗

业务流程自动化实战:RPA + 工作流引擎,消灭企业里的重复劳动

一家 200 人的制造企业,每天有多少人在做”把数据从一个系统复制到另一个系统”的工作?根据麦肯锡对中国中型企业的调研,这类纯手工重复操作平均占一线员工工作时间的 25%–40%。业务流程自动化(BPA)的目标,就是让系统替代人完成这些可标准化的工作。 一、什么值得自动化?判断三原则 不是所有流程都适合自动化,优先自动化符合以下特征的流程: 高频重复:每天/每周重复执行相同步骤,频率越高 ROI 越高 规则明确:判断逻辑可以写成”如果…那么…”的规则树,不需要主观判断 数字化输入:操作的数据来源是系统、文件、表单,而非口头沟通或需要现场观察 典型的高价值自动化场景:月末财务报表生成(每月重复 2–3 天工作)、订单录入(每天 100+ 条手工录入)、员工入职 IT 账号开通(每次 2 小时人工操作)、供应商对账(每月 4–5 天核对工作)。 二、RPA vs 工作流引擎:选哪个? RPA(机器人流程自动化) RPA 的本质是”数字员工”——软件机器人模拟人的鼠标键盘操作,在系统界面上执行操作。核心优势是无需改造现有系统,即使是没有 API 的老旧系统也可以自动化。…

Read article ↗

企业管理系统定制开发完全指南:ERP、CRM、OA 如何选型与实施

很多企业在选型企业管理系统时面临两难困境:市面上的通用 ERP 功能复杂、实施周期长、与自身业务差距大;但完全从零自研又担心成本高、周期长、风险大。本文系统梳理企业管理系统的选型决策框架,以及定制开发的核心优势与实施路径。 一、企业管理系统定制开发 vs 通用软件:如何选择? 通用 ERP(如 SAP、用友、金蝶)适合流程标准化程度高、业务逻辑与通行规范高度一致的大型企业。但对于大多数中型制造、贸易、服务企业而言,通用系统存在以下问题: 业务适配差:通用系统按行业”平均值”设计,企业往往需要为了系统而改变业务流程 实施成本高:SAP 全套实施费用通常在 300 万元以上,中小企业难以承受 升级绑定:依赖供应商的版本更新节奏,数据迁移和定制化成本极高 源码不交付:无法根据自身业务变化进行二次开发 定制开发的核心优势在于:系统 100% 按照企业真实业务逻辑构建,流程不需要妥协;源码完整交付,企业完全掌控系统演进路径;中长期总拥有成本通常低于大型通用 ERP。 二、企业管理系统的核心模块 1. ERP(企业资源规划) ERP 是企业管理系统的”主干”,核心模块包括: 采购管理:供应商管理、询报价、采购订单、入库对账 销售管理:客户管理、报价单、销售订单、发货、回款跟踪 库存管理:多仓库、出入库、盘点、安全库存预警 生产管理:BOM(物料清单)、生产工单、工序管理、产能规划 财务管理:应收应付、费用报销、总账、资产管理…

Read article ↗

企业内部本地部署 DeepSeek:从硬件选型到服务上线全过程

DeepSeek 是目前性能最强、开放程度最高的国产大语言模型之一。将 DeepSeek 部署在企业内网,可以获得接近顶级云 API 的推理能力,同时确保所有业务数据不离开企业边界。本文从硬件选型到服务上线,完整记录企业本地化部署 DeepSeek 的全过程,适合有一定 Linux 运维基础的技术团队参考。 一、理解 DeepSeek 模型家族 在动手之前,先搞清楚 DeepSeek 的模型体系。DeepSeek 当前主要有两个系列: DeepSeek-V 系列(通用推理):最新版为 DeepSeek-V3,参数量 671B(Mixture-of-Experts 架构,实际激活参数约 37B),是当前开源模型中综合性能最强的选手之一,在代码、数学、中英文理解上表现突出。 DeepSeek-R 系列(深度思考):最新版为 DeepSeek-R1,在复杂推理、数学证明类任务上超越 GPT-4o,适合需要”慢想”的高价值判断场景。 此外,DeepSeek 提供多种量化蒸馏版本,如 DeepSeek-V3-0324…

Read article ↗

公有云 API 还是私有化部署?企业 AI 架构选型决策指南

大多数企业在评估 AI 系统时,都会陷入一个共同的困惑:到底该选择公有云 AI 服务,还是在企业内部私有化部署?这个选择没有通用的正确答案,但有一套清晰的决策框架。本文从安全性、成本、能力和运维复杂度四个维度,帮助你做出适合自己企业情况的选择。 公有云 AI 服务的优势与局限 以 OpenAI、阿里云百炼、百度千帆为代表的公有云 AI 服务,是大多数企业 AI 项目的起点。其核心优势在于: 零基础设施投入:按 Token 计费,无需服务器,小规模使用成本极低 最新模型即时可用:模型提供商发布新版本,调用方无感知升级 高并发弹性:业务峰值时无需扩容,服务商负责算力调度 但公有云服务存在两类不可回避的局限:数据主权风险——企业的核心业务数据需要离开企业边界,进入第三方服务商的服务器,对于制造业的配方数据、金融机构的客户数据、医疗机构的病历数据而言,合规风险极高;成本陷阱——在高频使用场景下,Token 费用会随规模线性增长,超过某个临界点后,私有化部署的综合成本会低于云服务。 私有化部署的适用条件 私有化部署(On-Premise 或 Private Cloud)适合满足以下任意一个条件的企业: 业务涉及法规明确禁止数据出境的行业(金融、医疗、政府、军工) AI 调用量已超过每月 1000…

Read article ↗

AI 赋能服务业:五大高价值落地场景解析

从 ChatGPT 引发的 AI 浪潮,到如今 Agentic AI 开始真正进入企业流程,AI 技术的商业化落地速度远超预期。对于服务业企业而言,AI 的机会尤为突出——大量依赖信息处理和人工判断的业务场景,都具备极高的 AI 改造潜力。本文从元帆在服务业的实践案例出发,梳理 AI 赋能服务业的五大核心场景。 场景一:智能客服与工单处理 传统客服中心面临的典型困境:客服人员重复回答相同问题、工单分类准确率低、夜间无人值守导致响应延迟。AI 客服 Agent 能够全天候接收用户咨询,基于企业知识库给出准确回答,并将复杂问题智能路由给对应的人工客服,同时自动生成工单并分类。 某物业管理公司引入 AI 客服后,常规咨询的首次解决率从 61% 提升至 88%,人工客服将大量精力从重复性工单处理中解放出来,专注于需要情感沟通的投诉处理。夜间自助解决率达到 72%,大幅提升了业主满意度。 场景二:合同与文档智能审阅 法务部门每年需要审阅数百份合同,逐条核查标准条款的合规性是一项高度重复且容错要求极高的工作。AI 合同审阅 Agent…

Read article ↗

多 Agent 协作系统:设计原则与企业落地架构

单一 AI Agent 能解决单一任务,而真正复杂的企业业务流程,需要多个专业化 Agent 协同工作。多 Agent 系统(Multi-Agent System,MAS)正在成为企业级 AI 应用的主流架构。本文介绍多 Agent 协作的核心设计原则与常见架构模式。 为什么需要多 Agent? 想象一个完整的采购流程:需求申请 → 供应商询价 → 价格比对 → 审批 → 合同起草 → 付款对接。如果用一个 Agent 处理所有环节,它需要同时具备供应链知识、法律合同知识、财务规则知识、系统操作能力——这会导致上下文过长、注意力分散、错误率上升。 更好的设计是将流程分解:询价 Agent、合规审查…

Read article ↗

AI Agent 的 ROI 计算:如何向管理层证明 AI 投资价值

当你向企业管理层汇报 AI 项目投资计划时,最常遇到的问题是:”这个 AI 系统能带来多少回报?”这个问题看似简单,却是许多 AI 项目迟迟无法立项的核心障碍。本文提供一套可操作的 AI Agent ROI 计算框架,帮助你用数字说话。 为什么 AI ROI 难以计算? 传统 IT 项目的 ROI 相对好算:减少了多少人力、降低了多少错误率、节省了多少时间。但 AI Agent 项目的价值往往更加多维: 直接成本节约(可量化) 质量提升带来的收入增加(部分可量化) 员工体验和保留率改善(难量化) 决策速度提升带来的竞争优势(难量化) 知识沉淀和风险规避(难量化) 难以量化不等于没有价值,关键是建立一套”有限度地量化 +…

Read article ↗