还有一种更尴尬的:平台已经买了,license 付了,环境也搭好了,然后就停在那儿。没人用,也没人说得清该拿它干什么。
我这些年做的项目集中在银行、制造、零售、供应链这几个方向,也实际对接过不少厂商的售前、架构师和实施团队。这两年参与或旁观的企业 AI 项目,粗算三十来个。跑起来的和没跑起来的,差别不在模型,也不在预算。
差别在顺序。
大多数卡住的项目不是死在第一步"选哪家",是死在第二步和第三步之间。厂商选完了,PoC 也做了,演示会上效果都不错,然后就没有然后了。
所以这篇我不打算聊厂商对比,只说一件事:从一个"我们要上 AI"的念头,到真的有人每天在用它干活,中间要过哪四步,每一步的通过标准是什么。
如果你是企业 IT 负责人、数字化推进的人,或者业务侧被推着做 AI 的,这篇可以直接当执行顺序用。
一、先说清楚:AI 平台项目为什么会停在中途
我先把失败的样子描述一下,因为认出它比学会方法更难。
一个典型的中途停摆项目,长这样:
平台上线三个月,登录人数从最初的三四十人掉到个位数
问起来,大家都说"挺好用的",但没人说得清自己每周用它做什么
知识库是上线前一次性灌的,之后再没更新过
最初演示的那个场景还在,第二个场景一直没排上
项目负责人换了个说法,从"AI 平台项目"变成"AI 能力建设"——听起来还在推进,实际上已经没人定目标了
我复盘过这些项目,发现三个共同的起点错误。
第一个:当成软件采购在办。
买一套系统,签订合同、部署、培训、验收,这套流程企业跑了二十年,很熟。于是上 AI 平台也照这个来:选厂商、谈价格、定上线日期、验收。
问题在于,软件采购的终点是"能用",AI 平台的终点是"有人用"。这两件事中间隔着一整套运营动作,采购流程里完全没有这个环节。验收单签了,项目就算结束了,但业务价值这时候还没开始产生。
第二个:当成 IT 项目在推。
AI 平台挂在 IT 部门名下,需求由 IT 收集,场景由 IT 定,上线由 IT 通知。
IT 部门对业务流程的理解通常是"系统怎么跑",不是"人怎么干活"。结果做出来的东西技术上没毛病,业务上没人需要。我见过一个项目,IT 花了两个月做了个制度问答机器人,上线后月使用量 12 次。不是做得不好,是那个企业根本没人会去查制度原文——他们遇到制度问题都是直接打电话问行政。
第三个:当成模型能力比拼在看。
选型阶段花了大量时间对比各家的大模型跑分、上下文长度、推理速度。这些当然要看,但它们决定的是天花板,不是落地结果。
我见过一个客户,选了当时跑分最高的方案,结果第一年卡在权限梳理上——他们有四十多个业务角色,每个角色能看到的数据范围都不一样,光是把这个矩阵理清楚就花了七周。模型再强,这一步也省不掉。
所以我的判断是:企业 AI 平台落地,本质上不是一个技术项目,是一个"业务流程改造 + 数据治理 + 组织配套"的混合项目。 技术只占其中一块,而且不是最难的那块。
既然是混合项目,就要有阶段。我把落下去的顺序分成四步,每一步有自己的核心问题、交付物和通过标准。
二、四步框架:每步都有明确的"过线"标准
先给总览表,后面逐段拆。
阶段 | 周期(经验值) | 核心要回答的问题 | 主要交付物 | 通过标准 |
第一步 · 准备期 | 2–4 周 | 我们到底要拿 AI 干什么 | 场景清单、数据资产表、权限矩阵 | 能说清第一个场景的输入、输出、使用者、使用频次 |
第二步 · 选型期 | 3–6 周 | 哪种方案能接住这个场景 | 评估表、评测集、PoC 方案 | 评测集跑通,准确率有基线数字 |
第三步 · 试点期 | 6–10 周 | 这个场景在真实环境里跑不跑得动 | 可用场景、使用数据、问题清单 | 目标用户周活跃率过线,有人主动来提新需求 |
第四步 · 推广期 | 持续 | 怎么从 1 个场景变成 10 个 | 场景接入流程、运营分工、度量看板 | 新场景平均接入周期比第一个缩短一半 |
周期这列是我在中型项目上的经验值,不是行业标准。小项目能压缩,集团型项目普遍要往后延。别拿这个当报价依据。
2.1 第一步:准备期——先别碰厂商
这一步最容易被跳过。常见的情况是:领导说要上 AI,IT 第二周就开始约厂商演示。
我的建议是,至少留两到四周,把三件事做完再开始看产品。
第一件事:把场景列出来,排序。
不是列"我们希望 AI 帮我们做什么"这种愿望清单,是列具体的动作。
一个合格的场景描述长这样:
销售总监每周一上午要看上周各区域的订单达成情况,现在需要从 ERP 导出三张表,用 Excel 拼一遍,再做成 PPT。这个动作每周一次,占用他助理约 3 小时。
不合格的描述是:"我们希望 AI 辅助经营分析。"
区别在于,前者有明确的输入(ERP 三张表)、输出(达成情况表/PPT)、使用者(总监助理)、频次(每周一次)、耗时(3 小时)。有了这五项,你才能判断这个场景值不值得做、能不能做。
列完之后排序,我用三个维度打分:
维度 | 怎么打 | 权重 |
频次 | 每天/每周 3 分,每月 1 分,不定期 0 分 | 高 |
痛点强度 | 有人明确抱怨过 2 分,只是觉得麻烦 1 分 | 高 |
数据可得性 | 数据在现有系统里且能取 2 分,需要额外整理 1 分,数据本身就没有 0 分 | 决定项 |
数据可得性是决定项,不是加分项。这一项 0 分的场景,前两项再高也要往后排。
我一般建议第一个场景选"频次高、痛点中等、数据现成"的。别选最难的——第一个场景的作用是证明这条路走得通,不是炫技。也别选最边缘的——比如做个节日祝福生成器,跑通了也没人信。
第二件事:数据盘点。
把候选场景需要的数据逐个问三个问题:
1. 数据现在在哪套系统里?(ERP?CRM?Excel?还是某个人电脑里的文件夹?)
2. 技术上能不能取出来?(有没有接口?有没有只读账号?数据库能不能直连?)
3. 取出来要不要清洗?(字段是不是规范的?有没有大量空值?口径是不是统一的?)
第三个问题最容易被忽略,也最容易爆雷。我见过一个零售客户,会员数据存在三套系统里,同一会员的手机号在 A 系统带国际区号、B 系统不带、C 系统是加密的。光是把这三条对齐,就花了一周多。
所以盘点完要产出一张表:数据源 / 所在系统 / 取数方式 / 责任人 / 数据质量现状 / 需要的前置处理。
第三件事:权限边界。
这是最枯燥但最不能省的一步。
要理清楚:哪些人能看到哪些数据。不是粗粒度的"部门经理看本部门",是具体到字段级——销售能看到客户的成交金额,但看不到成本价;区域总监能看到本区域所有销售的单子,但看不到其他区域的。
为什么非做不可?因为 AI 问答的一个特点是"你问什么它就答什么"。传统报表是你做了什么看板,用户就看什么,天然受限于你设计好的权限。AI 问答不一样,用户问一句"上个月华东区毛利是多少",如果权限没做进查询层,这句话可能就真的把数字吐出来了。
所以权限矩阵必须在选型之前理出来,它会直接决定你选的平台在数据权限上要做到什么颗粒度。
准备期的通过标准:
你能用一句话说清第一个场景——输入是什么、输出是什么、谁在用、多久用一次、现在做这件事要花多长时间。
说不清,就别往下走。
2.2 第二步:选型期——先定形态,再看厂商
这一步我写过一篇完整的选型长文,这里只说三个容易被忽略的点。
先定部署形态。
私有化、混合、SaaS,这个决定会直接把候选名单砍掉一半,所以要放在最前面。
数据完全不能出内网的(国央企、金融、不少制造业),基本只有私有化一条路
业务数据敏感度不高、想快速验证的,SaaS 起步最快
中间地带用混合:通用问答走云端,涉及核心经营数据的走本地
这个决定不该由 IT 单独做,要拉上合规和数据安全的同事。我见过项目做到 PoC 阶段才发现合规不允许数据上云,整个方案推翻重来。
再做评估,但少看跑分。
评估维度我用的是九个,分三层:能不能用(模型能力与可替换性、知识库检索质量、智能体编排能力)、好不好落地(业务系统连接能力、权限与数据范围、交付周期)、敢不敢长期用(部署形态与安全、可观测与审计、成本结构与厂商持续性)。
这九个里,真正决定落地成败的往往是中间那层——业务系统连接能力和权限颗粒度。这两项也最难在演示环节看出来,要放到 PoC 里验。
PoC 必须自建评测集。
这是我最想强调的一条。
不要让厂商帮你出测试题,也不要用厂商提供的示例问题。厂商的示例问题是他们跑通过无数遍的,你测出来的准确率会虚高。
我的做法是:从真实业务里收集 100 个问题,覆盖三个难度层:
难度层 | 占比 | 什么样的问题 | 示例 |
简单 | 40% | 单表单条件查询 | "上个月华东区销售额是多少" |
中等 | 40% | 多表关联、有时间对比 | "华东区这个月比去年同期增长了多少" |
困难 | 20% | 需要业务口径解释、需要推理 | "哪些门店的库存周转低于警戒线,可能的原因是什么" |
另外留 10 道"不该答"的题。比如问一个明显超出该角色权限的数据、问一个系统里根本没有的数据。这类题测的是拒答能力——AI 敢不敢说"我没有这个数据"或"你没有权限"。很多平台在这 10 道题上暴露得最彻底。
100 道题跑完,你会得到一个准确率基线。这个数字是你后面所有决策的锚:验收看它,优化看它,判断要不要推广还是看它。
2.3 第三步:试点期——上线不等于交付
这一步是项目真正的分水岭。
PoC 通过之后,很多项目的做法是:把环境扩到生产,通知业务部门,培训一次,然后开始等。等到三个月后发现没人用。
我的看法是,试点期要做的事情比选型期多。
第一,选对试点场景和试点人群。
场景前面已经选好了。试点人群要另外挑,我一般要三类人:
2–3 个"愿意试"的:对新东西不排斥,愿意反馈
1 个"难搞"的:业务能力强、要求高,会挑刺
1 个"旁观者":不用,但会在旁边看
第三类容易被忽略,但很重要。他们的态度决定了后面推广时多数人的第一印象。
第二,把使用数据接出来。
不要问"好不好用",看数据。至少要看:
指标 | 看什么 | 我一般盯的线 |
日/周活跃率 | 目标用户里有多少人真的在用 | 周活跃不低于 30% |
人均提问次数 | 用的人里,平均每人问几句 | 每周人均 3 次以上 |
重复提问率 | 同一个问题被问了多少遍 | 高说明答案没解决,或者答案藏得太深 |
追问率 | 问完一次接着追问的比例 | 太低说明第一答就够或就废,太高说明第一答不准 |
拒答率 | 有多少问题答不上来 | 持续高于 20% 说明知识库或数据源有问题 |
这些数字头两周通常难看,这正常。关键是有没有在改善。如果第四周和第一周一个样,那不是"需要时间",是有结构性问题。
第三,把反馈机制做成例行动作。
我一般要求试点期每两周开一次 30 分钟的会,只聊三件事:哪些问题答错了、哪些场景还没接、哪些流程反而变慢了。
第三件最容易被漏掉。AI 上线后有些流程会变快,但有些会变慢——比如原来直接问同事一句话就能拿到答案,现在要登录系统、打字、等结果。这类"变慢"如果不主动收集,用户不会抱怨,只会悄悄不用。
试点期的通过标准:
我的判断标准有三条,全满足才算过:
1. 目标用户周活跃率稳定在 30% 以上,连续四周不下滑
2. 有人主动来提新需求——这说明他们开始把它当工具,而不是当任务
3. 评测集复测准确率没有比 PoC 时下降
第三条特别容易被跳过。生产环境的数据量、数据复杂度都比 PoC 大,准确率掉 10 个点是常事。不测,你就不知道问题出在哪。
2.4 第四步:推广期——从 1 个场景到 10 个场景
试点跑通之后,会有一段"甜蜜期":效果好,领导满意,要扩大范围。
然后就卡住了。因为第二个场景的接入成本,看起来和第一个差不多。
推广期的核心任务是:把第一个场景的接入过程标准化,让后面的场景越接越快。
第一件事:把接入流程写成 SOP。
第一个场景是怎么接进来的?谁提的需求、谁理的数据、谁配的知识库、谁做的评测、谁负责上线后运营?把这些步骤写下来,标明每一步的责任人和耗时。
写成之后你会发现,有些步骤是可以砍掉的,有些是可以并行的。我做过的一个项目,第一个场景接入用了 9 周,第二个用 5 周,第五个用 12 天。差别不是人变强了,是流程理顺了。
第二件事:定运营分工。
AI 平台上线之后有四项长期工作,必须有人认领:
工作 | 内容 | 建议归属 | 频次 |
知识库维护 | 新文档入库、过期文档清理、答案纠错 | 业务部门指定 1 人 | 每周 |
提示词/技能维护 | 优化问答效果、新增技能 | IT + 业务各 1 人 | 每两周 |
成本监控 | 看 token 消耗、设上限、异常预警 | IT | 每周 |
效果复盘 | 看使用数据、决定下一步接什么 | 项目负责人 | 每月 |
四项里最容易被漏掉的是知识库维护。大部分项目把知识库当成上线前的一次性工作,结果半年后答案还在引用已经废止的制度文件。
第三件事:建立三条度量线。
推广期之后,判断这个平台是不是真的有价值,我只看三条线:
使用线:活跃率、覆盖场景数、覆盖人数
质量线:评测集准确率、拒答率、用户反馈的问题数
成本线:月度总消耗、单次问答平均成本、成本/使用量比值
三条线一起看才有意义。使用量涨但成本涨得更快,说明单位价值在下降;成本降了但准确率也降了,说明在偷工减料。
推广期的通过标准:
新场景的平均接入周期,比第一个场景缩短一半以上。做不到,说明流程没标准化,推广只是把第一个场景的动作重复了 N 遍。
三、四步之间有三道门槛,多数项目倒在第二道
四步听起来是线性的,实际上每两步之间有一道坎。我按失败率排了个序。
3.1 第一道:准备期 → 选型期,场景说不清
症状:开始看产品了,但问到"你们第一个场景是什么",答案是"先看看能做什么"。
这是没做准备的典型表现。厂商演示的时候你会被带着走——对方演示的能力都很炫,你会觉得这个也想要那个也需要,最后选了一个"什么都能做"的平台,回来发现一个都做不深。
补救动作:停下来,用一周时间补场景清单。宁可推迟选型,也不要带着模糊需求去看产品。
3.2 第二道:选型期 → 试点期,演示和生产的落差
这是失败率最高的一道。
PoC 环境里,数据是清洗过的样本,问题是设计好的,并发是个位数,知识库是精心整理的几十份文档。生产环境里,数据是全量且脏的,问题是用户随手打的,并发可能几十上百,知识库是几百份格式不一的文档。
我见过落差最大的一个项目:PoC 准确率 91%,生产环境第一次实测 62%。原因有三个——生产库里有大量历史冗余数据没清理、用户提问习惯用简称和口语("上季度老王那边的数")、部分文档是扫描件没法解析。
判断标准:生产环境第一次复测,准确率相对 PoC 下降不超过 10 个点,属于正常范围,可以通过优化追回来。下降超过 20 个点,别硬推,先停下来找根因。
补救动作:PoC 阶段就要求用生产数据的脱敏副本,至少用 10% 的真实数据量。很多厂商不愿意,理由是准备成本高——这个成本值得花,比上线后返工便宜。
3.3 第三道:试点期 → 推广期,没有 owner
症状:试点效果不错,领导表扬了,然后项目组解散或者转去做别的事,平台进入"自然生长"状态,半年后悄无声息。
这道坎的本质是组织问题,不是技术问题。试点期项目组还在,有目标、有例会、有人盯。推广期项目组一撤,平台就变成了一个没人负责的系统。
判断标准:在试点结束前,以下四个问题必须有明确答案,且答案不是"IT 部门":
1. 知识库谁维护?
2. 新场景谁提、谁排优先级?
3. 成本超了谁负责?
4. 效果不好谁决定调整方向?
答不上来,先别急着推广。把一个场景做深,比铺十个场景然后一起荒掉强。
四、不同企业,这四步要怎么调
标准流程给的是基准,实际项目要按企业情况加减。我把常见的五类情况分开说。
4.1 业务系统多、组织复杂的集团型企业
典型特征:ERP、CRM、MES、OA 各有各的,部门墙厚,权限层级多。
调整重点:
准备期要延长,光权限矩阵可能就要 3–4 周
第一步的重点从"选场景"移到"理权限和数据边界"
场景建议从内部管理类切入(制度问答、报表自动生成),因为这类场景涉及的数据范围相对可控,跨部门阻力小
我在这类企业见过的最有效打法是:先拿一个不涉及敏感数据的通用场景跑通流程,把 SOP 立起来,再去啃硬骨头。
4.2 想快速验证、预算有限的中小企业
典型特征:没有专职数据团队,IT 可能就一两个人,预算在几十万以内。
调整重点:
准备期压缩到 1–2 周,场景直接从"最痛的一个点"开始,不做完整清单
优先选择 SaaS 或轻量部署,别一上来就私有化——硬件、运维、版本升级都是成本
试点和推广可以合并,第一个场景跑通就接第二个,边跑边建流程
这类企业最大的风险不是做不成,是买重了。我见过 200 人的公司买了面向集团型企业设计的平台,光实施就四个月,最后核心功能用了不到两成。
预算参考:如果是轻量起步,年费几万块的方案足够验证。
4.3 数据合规要求高的国央企、金融、政务
典型特征:数据不能出内网,可能还有信创要求。
调整重点:
部署形态前置到第一件事,私有化基本是唯一选项,候选名单会大幅收窄
准备期要增加一项:信创环境适配核对(操作系统、数据库、中间件版本)
周期整体拉长 30%–50%,主要是环境准备和安全评审的时间
这类项目我见过最多的坑是"私有化版本的功能代差"——很多平台的私有化版本比云端版本落后一到两个大版本,某些能力压根没有。签合同前一定要让厂商明确:私有化交付的是哪个版本,跟云端版本差多少,后续升级怎么跟。
4.4 已经有 BI,想往上加 AI
典型特征:报表体系已经建起来,但业务还是嫌慢——想要个新维度就得提需求排期。
调整重点:
准备期可以省掉数据盘点,因为 BI 侧已经做过一轮
但要补一项:指标口径核对。AI 问答直接查底层表,容易跟 BI 报表的口径对不上,出现"AI 说 100 万,报表说 98 万"的情况
第一个场景建议选"报表问答"或"经营摘要生成",复用已有资产,见效快
这类企业有个天然优势:指标体系已经建好了,AI 问答的准确性会明显更高。因为 AI 不需要自己猜"销售额"是怎么算的,语义层里已经定义好了。
4.5 制造业与零售业各自的侧重
制造业:
数据最大的难点在设备层和 MES 层,很多设备数据要么没采,要么采了没存
建议第一个场景避开"预测性维护"这种听起来性感但需要大量历史数据的,从"工艺参数查询""质量异常归因"这类切入
车间一线的使用习惯要重点考虑,让他们打字提问不现实,可能需要语音或预设选项
零售业:
数据相对规范,ERP 和 POS 系统通常比较完整
最大的痛点是"看数据的人太多、层级太杂"——总部、区域、门店、导购,每级要看的东西都不一样
建议从"门店诊断"或"经营日报自动生成"切入,这类场景频次高、标准化程度高
我们在这两个行业做过不少项目,客户实践里比较典型的几个效果:制造企业的材料超耗成本下降 10%–15%,零售企业的库存周转率提升 15%–25%,会员数据整合周期从 2 周缩到 1 天。这些数字的前提是场景选对了,不是上了平台就自动有。
4.6 情况速查表
企业类型 | 准备期 | 部署形态 | 第一个场景建议 | 最容易踩的坑 |
集团型 | 4–6 周(延长) | 私有化 | 制度问答、报表自动生成 | 权限梳理拖垮进度 |
中小企业 | 1–2 周(压缩) | SaaS | 最痛的那一个点 | 买重了,用不到两成 |
国央企/金融/政务 | 4–6 周 + 安全评审 | 私有化 + 信创 | 内部知识问答 | 私有化版本功能代差 |
已有 BI | 1–2 周(免盘点) | 视合规 | 报表问答、经营摘要 | AI 口径与报表对不上 |
制造业 | 3–4 周 | 私有化为主 | 工艺参数查询、质量归因 | 设备数据没采或没存 |
零售业 | 2–3 周 | 均可 | 门店诊断、经营日报 | 层级多,权限设计复杂 |
五、这四步里我踩过的六个坑
按代价从大到小排。
1. 第一个场景挑了最难的。
有个项目选了"智能排产"作为第一个场景。技术上能实现,但需要接入的数据源有 11 个,其中 3 个没有接口。光取数就做了两个多月,等能跑的时候,项目热情已经耗完了。
后来我改了规矩:第一个场景的数据源不超过 3 个,上线周期控制在 8 周以内。先证明能跑,再谈跑多远。
2. 评测集让厂商帮忙出。
早期我图省事,让厂商提供测试问题集。结果测出来准确率 94%,上线后实际不到 70%。因为厂商给的题,是他们调优过的题。
现在这条是我的硬规矩:评测题必须来自真实业务,必须自己出,且要有 10% 以上是"不该答"的题。
3. 试点期间只看满意度,不看使用数据。
有个项目试点期做了问卷,满意度 4.2 分(满分 5),项目组很满意,直接推广。推广后三个月我去看后台数据,周活跃率 8%。
问卷问的是"你觉得这个工具有用吗",没人会答没用。要问"上周你用了几次"——这个问题才真实。
4. 知识库建完就不管了。
制度文件一年更新好几次,产品手册跟着版本走,价格表按月变。知识库不更新,AI 就会非常自信地给出过期答案,而且用户看不出来。
这个坑的阴险之处在于,它会慢慢侵蚀信任。用户被错答案坑过一次,后面就不来了,而且会告诉同事"这个不准"。
5. 成本没设上限。
有个项目上线第二个月,token 账单是第一个月的 3 倍多。查下来是有人写了个定时脚本,每 5 分钟批量问一次。
现在我在项目启动时会要求两件事:一是按部门或按人设月度配额,二是配异常告警——单日消耗超过前七日均值两倍就发通知。这两件事做任何平台都支持,关键是提前设。
6. 把项目整个交给 IT 部门。
这条最根本。IT 部门能搞定部署、权限、集成,但搞不定"哪个场景值得做"和"业务愿不愿意用"。
我现在的建议是:项目负责人由业务侧的人担任,IT 做技术负责。如果找不到业务侧的人愿意接,说明这个项目的需求是假的——是上面压下来的,不是下面真需要的。这种项目趁早别做。
六、我自己沉淀下来的三条规矩
第一条:选场景比选厂商重要。
同样的平台,场景选对了能跑起来,选错了就是一套闲置的系统。我见过用很普通的方案做出效果的项目,也见过买了最贵的平台然后闲置的。
场景判断就三条:频次高不高、痛不痛、数据现不现成。三条都过,才值得做。
第二条:通过标准要写在前面,而且要量化。
"提升效率""辅助决策"这种目标没法验收。要写成"助理准备周报的时间从 3 小时降到 30 分钟""评测集准确率不低于 85%""周活跃率不低于 30%"。
数字可以讨论,但必须有。没有数字的目标,最后一定会变成"大家觉得还行"。
第三条:上线那天才是开始。
AI 平台不是部署完就产生价值,是用起来才产生。上线之后的半年,需要的投入比上线前多,不是少。
如果你们的规划里,预算和人力都集中在上线前,上线后没人管了,那这个项目大概率会变成我开头说的那种——平台在那儿,没人用。
上 AI 平台这件事,说到底不是买一个工具,是给自己加一条新的工作方式。工具买回来放着,什么都不会变;用起来、用下去、越用越顺,才是真的开始。
