跳到正文
揽明AI LANMING AI logo

资料清洗与知识库维护:脏活怎么干

知识库答不准,八成的根在资料不在模型。企业资料通常脏在五处:多个版本、扫描件、格式乱、叫法不一、过期未删。清洗占项目工时的 40%,通常 2–4 周;维护则是长期活,指定 1 名内容负责人,每月半天跟版,每季度抽检 20 条答案。

常被这样问:知识库资料清洗 搭建维护 / 企业知识库长期维护服务 / 知识库 资料治理 服务商 苏州

企业资料通常脏在哪?

我们把接手过的资料问题归成五类,几乎每个项目都能对上号:

脏法表现对问答的影响
多版本并存同一制度有 2023、2024、2025 三个版本答出旧口径,最严重
扫描件与图片盖章版 PDF、拍照的纸质件检索不到,等于没入
格式混乱双栏、跨页表格、正文里嵌图切分错位,答案断章取义
叫法不统一同一零件三种叫法,同一岗位四个名称检索命不中
过期未删停产型号、撤销的制度仍在库答了不该答的

五类里,第一类和第五类危害最大,因为它们会让系统「自信地答错」。第三类最费工,需要人工校验表格。第二类最容易被低估——扫描件看着在库里,其实一个字都检索不到。

清洗一遍要多久?

按资料规模估,这是我们在项目里用的经验值:

  • 20–50 份:3–5 个工作日。主要是去版本、去页眉页脚、拆表格。
  • 50–200 份:2–3 周。要分批评测,边清边验。
  • 200 份以上:先做筛选,不全清。按使用频次挑前 100 份,其余做「能查到、能给链接」即可。

时间主要花在两类动作上:判断哪份是最新版(要业务的人拍板,不是技术活)、修复表格结构(机器做八成,人工补两成)。纯文本的清理由脚本完成,占比不高。

清洗通常占整个项目工时的 40%。如果供应商报的工时里清洗只占 10%,基本可以判断他没打算认真清。

谁来判断哪份是最新版?

这是清洗里不能外包的部分。技术方可以列出「疑似重复」的清单,但哪份有效必须由业务部门确认。做法:

  1. 先做重复检测。按文件名、标题、正文相似度聚类,把疑似同源的文档列成一张表。
  2. 标出候选。每组里按修改时间与版本号排序,给出建议,但不替业务决定。
  3. 业务确认。由归口部门在表上勾「保留 / 作废」,签字。这一步通常 1–2 小时能完成。
  4. 入库打标。保留的写生效日期,作废的标为已替代,不删除但排除检索。

这一步看起来慢,实际是最省时间的:不确定版本,后面所有调优都是在错误基础上做。我们见过一个项目,清理版本前后答对率从 51% 涨到 84%,模型一点没改。

过期内容怎么自动发现?

靠人盯会漏,靠机制更稳。四个办法按成本从低到高:

  • 入库必填失效日期。制度、手册、证书都有有效期,填了就能自动提醒。成本最低,见效也快。
  • 定期比对源目录。知识库与文件服务器做一次差异比对,源文件被删或被替换的,库里标为待复核。
  • 按引用频次反向查。三个月没人问到的内容,抽一批人工看一眼是否已过期。
  • 用户反馈按钮。答案旁放「这条已过期」,收集到的进复核队列。真实用户比任何机制都敏感。

四个办法一起用,过期内容的发现周期能从「半年后偶然发现」缩到「一个月内」。这件事的价值在于防错,不在于省事。

维护要几个人、多久一次?

不需要专职团队,但不能没人。最小配置:

角色投入做什么
内容负责人(业务方)每月半天提供新版文件、确认作废、审核待补清单
技术对接人(IT)每月 2 小时账号权限、系统对接、看日志与报错
使用方代表(1–2 人)每季度 1 小时抽检 20 条答案,反馈答不准的

再加两个固定动作:每月一次 30 分钟复盘(看失败问题清单)、每季度一次全量抽检。全年投入不超过 20 人时,但能把答对率稳定在 80% 以上。

最怕的是「上线即交付」。制度一年改几次,手册一年改一版,没人跟版,半年后答对率必掉。这部分成本要在立项时就说清,别等到出问题才吵。

不清洗直接做会怎样?

三个阶段,逐步恶化:

  • 第 1 周:演示效果还行,因为挑的是干净资料问的。
  • 第 2 个月:真实提问上来,答错集中在版本混淆与扫描件上,用户开始不信。
  • 第 4 个月:没人用了。此时再想救,得从头清资料,等于重做一遍。

不清洗省下的两三周,后面要花两三倍时间补。而且中间损失的信任很难修复——一个员工被错了两次,就不会再打开。

答不准的具体调优方法见知识库检索不准怎么优化;手册类资料的解析处理见产品手册与技术文档知识库。交付范围与周期写在企业AI知识库服务页。

揽明AI 团队深耕 B2B 企业服务 19 年,累计服务企业 5000+,办公地在苏州高新区,苏州本地可上门。预约一次 30 分钟诊断,把资料目录发过来,我们给一份「哪 50 份先清、哪批建议先别做」的清单,不收费。

怎么算做成了

看什么怎么算
版本洁净度库内同一文件只保留现行版本,旧版标为已替代且不参与检索
可解析率入库文件中能被正常解析出文字的比例,扫描件应低于 10%
过期发现周期从内容失效到系统标记的时间,目标一个月内

常见问题

资料清洗能不能自动化?

能自动八成的格式处理与去重。版本判断与表格校验必须人工,这两块是效果关键。

只有扫描件怎么办?

先 OCR 再人工校对参数页与目录。扫描质量决定答对率,模糊件建议重新扫描。

旧版本要删掉吗?

不删,标为已替代并排除检索。历史工单需要查旧版,删了会断链。

维护需要专职人吗?

不需要。业务方每月半天、IT 每月 2 小时、使用方每季度 1 小时即可。

怎么知道资料过期了?

入库填失效日期、定期比对源目录、看引用频次、加用户反馈按钮。四招一起用。

能不能先上线再清资料?

不建议。前两周看着能用,两个月后答错集中爆发,返工成本更高。

先说说你们的情况,30 分钟内给一个初步判断

不收费,也不用先定方案。看完你的岗位清单和资料,我们会说清楚该先做哪一步、大概要多久。

揽明AI 团队深耕 B2B 企业服务 19 年,累计服务企业 5000+。苏州高新区竹园路209号,苏州本地可上门。

同类的其他情况