无尘阁日记

无尘阁日记

大模型工程化:它把大模型当数据体系的消费者,而不是推倒重来
silcano

微信读书《大模型工程化:AI驱动下的数据体系》(腾讯游戏数据团队 著)· 逐页翻阅 486 屏 · 抓取标记 reached_end=True(end_reason=last_page,书尾落在 p0486 小结)· 阅读器共记录 159 个章块,正文 6 个部分、16 章
抽样说明:这本是企业团队写的实施记录,所以我按"结构—资产—算法—工程—短板"五条线抽读:p0006 前言(团队来历与全书目标)、p0020 应用现状与下载量曲线、p0030 Copilot 生成测试用例、p0245 六种参数高效微调对比与模型选型、p0300 八大数域与意图召回方案、p0400 代码清单 14.4、p0435 三把 SQL 尺子、p0462 代码生成十步流程。
章屏数按阅读器顶部章标签切分,标签存在滞后(约 ±2 屏),统计时按实际页位校正。有一点先说明:这本书的案例全部来自同一个系统,我下面会把"可迁移性"单独算作短板,而不是含糊带过。本篇所有判断只依据上述页面与 486 屏的部分/章统计,不引书外材料。

翻开这本书之前,我以为它会讲"怎么用大模型重做数据平台"。486 屏读完,我发现它讲的是相反的一件事:怎么让大模型住进一个已经建了十几年的数据平台里,而不把平台推倒。

这个差别不是措辞上的。前者是创业公司的叙事——新大陆、新范式、旧系统全是负债。后者是甲方内部的叙事——平台在跑,几百个数据开发每天在用,你只能在缝隙里加东西。

前言里把这件事说得很直白:团队在大数据领域深耕十多年,见证过"从早期处理能力有限的大数据平台,到如今能够实现秒级处理的湖仓一体架构的演进",随着大模型时代到来,"构建以 AI 为驱动的数据体系已经从可能转变为必然"。2024 年他们决定写这本书,目的是把项目里积累的技术体系与方法论整理出来,并且明确了写法:"本书内容由浅入深,侧重于介绍基础概念、技术原理、解决方案和实战案例。"

"基础概念、技术原理、解决方案、实战案例"——这四个词,基本就是这本书的骨架,也是它的局限。它不是一本教你从零搭系统的书,它是一份已完工项目的技术交底。

一、先看结构:它的重心根本不在"应用"

486 屏按"部分"切,比例是这样的:

前置(版权、内容提要、作者简介、前言)10 屏,2.1%;第 1 部分大模型的发展与应用 62 屏,12.8%;第 2 部分关键基础设施(湖仓一体、实时链路、查询优化)63 屏,13.0%;第 3 部分数据资产(标准、建设、运营)83 屏,17.1%;第 4 部分自研领域大模型的技术原理(RAG、PEFT、需求理解、需求匹配、需求转译)128 屏,26.3%;第 5 部分工程化原理(工程化核心、技术筹备、建设要点、安全策略)110 屏,22.6%;第 6 部分游戏领域应用 30 屏,6.2%。

这张表里有两个数字值得停一下。

第一,算法占 26.3%,是最重的一块;而"应用"只占 6.2%。书名叫"AI 驱动下的数据体系",读者大概率期待看到大量"数据团队怎么用 AI"的场景,结果真正落地的那一章只有 30 屏,其中还包括背景介绍和小结。作者显然认为:难的不是讲场景,是把召回、排序、转译这些零件做对。

第二,"数据"那两块加起来 146 屏,占 30.0%,比算法还多。第 2 部分讲湖仓一体、存储计算分离、冷热分层、实时写入、物化透明加速;第 3 部分讲数据资产的标准、建设、运营。这两块加起来,才是书名里"数据体系"那半句的真实重量。

所以这本书的真实主张可以概括成一句话:大模型不是数据体系的替代者,是它新长出来的一个消费者。你得先让资产变得"AI 读得懂",模型才有东西可吃。

这话听起来不性感,但它比"用大模型重做数据中台"要诚实得多。因为绝大多数企业的现实就是:模型是能买到的,资产是买不到的。

二、那 63 屏"大模型下的基础设施",标题里一次没提大模型

第 2 部分的标题叫"大模型下的关键基础设施",63 屏,13.0%。按理说这是最能体现"AI 驱动"的地方。但从章节目录看,它一节一节是这么排的:

数据技术的发展 10 屏、湖仓一体架构 7 屏、存储计算分离 4 屏、数据冷热分层 2 屏、湖仓一体化 4 屏、实时数据链路 7 屏、全链路监控 3 屏、数据预构建 5 屏、查询引擎优化 2 屏、物化透明加速 5 屏。

十节里,没有一节的标题出现"大模型""AI""向量"或"推理"。它讲的东西——存算分离、冷热分层、物化视图加速——是数据平台在过去十年就在做的事,跟大模型没有因果关系。

我不认为这是欺骗,但这是一次命名上的宽松。真实情况大概是:这套基础设施本来就在,写书时被放进了"大模型下"的框架里,因为大模型确实跑在它上面、也确实受益于它(比如物化透明加速)。逻辑上说得通,但读者拿到的信息是模糊的——你以为在读"为 AI 改造的基础设施",实际在读"我们现有的基础设施,AI 也在用"。

这个区别在决策时很重要。前者意味着要新建、要投钱;后者意味着不用动,只要确认它能扛住新的负载模式。同一段文字,两种读法,预算可能差一个数量级。

我倒觉得这一部分值得读,只是要换个心态读:把它当"我的底座够不够用"的检查表,而不是"AI 需要什么新底座"的答案。存算分离、冷热分层、物化加速、实时链路——这四件事你缺哪一件,大模型这套东西都跑不顺;但这四件事都不需要为了大模型重新发明。

三、八大数域:这本书唯一别人写不出来的东西

如果只让我挑一页带走,我挑 p0300。

那一页在讲意图召回,先讲"构建意图类目",然后给出了一句我在其他 AI 书里没见过的话:以游戏场景为例,通过对多个不同类型游戏业务的资产数据进行梳理,把游戏领域的资产划分为八大数域——活跃域、付费域、玩法域、社交域、画像域、元素域、系统域、活动域。

后面配的图 10.17 是这张类目表:画像域下挂"年龄、性别",活跃域下挂"登录、新进",元素域下挂"皮肤、道具",付费域下挂"花费、点券",再往上还有"通用"和"自然人或角色"两层。

为什么这一页值钱?因为它不是知识,是行业先验。你在任何一本讲 RAG 的书里都读不到"游戏资产应该分八个域",这是拿真项目换来的分类法。模型会换,分类法不会。三年后你用的模型肯定不是今天这个,但"付费域要挂花费和点券"这件事不会变。

而这一页所在的位置,恰好说明了这本书的方法:它所有的算法都是挂在业务分类上的。意图召回不是"用向量检索找相似问句",而是"先按八个域把资产分了类,再让意图去匹配类目,匹配不到就返回资产表让人自己找"——图 10.16 那个流程图的最后一步就是"返回资产表"。

我喜欢这个细节。它承认了系统会失败,并且为失败准备了出口。大部分讲智能体的内容,流程图画到"生成答案"就结束了,好像模型永远能答上来。

四、"AI 可理解的需求":全书最锋利的提法

第 5 章讲数据资产标准,分了三大类:需求资产、特征资产、库表资产。其中需求资产又拆成三节——结构化需求、行业知识资产、AI 可理解需求。

这个提法我认为是全书最有洞察力的三个字。

过去十年数据中台的核心工作是"让人看懂数据":建指标、做口径、画血缘、写文档。而"AI 可理解的需求"说的是另一件事——把需求本身变成一种结构化的、机器能消费的资产。不是把 SQL 写好看,是把"业务想干什么"这件事抽象成可检索、可匹配、可生成的对象。

这一点在 p0462 的流程图里看得最清楚。图 16.2 画的是代码生成应用的十步流程:数据开发人员先选"思维风格",再做"需求描述",然后系统把它结构化,去匹配行业知识(匹配不到就补行业知识)、提取"AI 可理解需求与特征",再匹配特征(匹配不到就补特征),最后生成并检查 SQL、推送任务配置。

图下面有一行图例,两种颜色:橙色是"人工操作开发",绿色是"系统自动处理"。你把这十步按颜色分开看,会发现人工卡在两头:开头的"思维风格选择 + 需求描述",和中间的"补充行业知识 / 补充特征"。系统接管的是中间那段最容易标准化的活。

这是全书最诚实的一张图。它没有画"AI 自动完成一切",它画的是人机分工的接缝在哪。而且这个接缝划得很准:需求的模糊性、知识的缺失,这两件事机器替你决定不了;至于把需求翻译成 SQL、把 SQL 检查一遍,这些可以交出去。

对比一下市面上的说法——"AI 让数据开发效率提升 10 倍"。这句图里找不到。图里只有"这一步系统做,那一步人做"。我更喜欢后者,因为它可以被验证。

"AI 可理解需求"具体长什么样,p0158 上面那张图 5.4 给了一个例子:输出里是"统计日期[2024.1.1、2024.1.2、…、2024.1.7]、次日留存率"这样的结构——把一句业务口径拆成枚举出来的时间粒度和指标名,而不是留一段自然语言让模型自己猜。

同一页往下讲特征资产,讲出了一个我认为是全书最精巧的机制。特征资产分两种:个人特征是交付具体需求时由数据开发人员自己补的;公共特征是从个人特征里挑出来"热度较高且具有核心复用价值"的,供不同开发人员共享。

然后流程是这样:把 AI 可理解需求里每个数据包的执行逻辑作为输入,让 AI 提取特征名称;如果特征库里已经有对应的名字,直接复用;如果没有,开发人员补一段代码片段,补完之后——"该特征名称和代码片段自动回流成个人特征资产"。

这三句话把"资产从哪来"讲清楚了:不是先建资产再用,是用着用着资产自己长出来。每一次人工补代码,都是一次资产的增量;用得越多,库越厚;库越厚,下次能直接命中的概率越高。

这是整本书里唯一一个正反馈回路的设计。它比任何"数据治理方法论"都实在,因为它不要求任何人先做额外的工作——你为了完成今天的需求而补的那段代码,顺手就成了明天的资产。

五、算法那 128 屏:召回拆四路,精排靠多 LoRA

第 4 部分是全书技术密度最高的地方,128 屏,四章:领域大模型方案、需求理解算法、需求匹配算法、需求转译算法。

它的结构很"工程":每一章都先写"必要性"和"面临的挑战",再写方案。第 9 章需求理解、第 10 章需求匹配、第 11 章需求转译,三章都是这个套路。这个写法对写作者友好(先讲清为什么要有这个东西),对读者其实有点啰嗦——你会连着读三次"必要性"。

真正有含量的是第 10 章。它把"匹配"这件事拆成了召回和精排两层,召回又拆成四路:资产图谱 8 屏、文本召回 8 屏、向量召回 4 屏、意图召回 8 屏,再有一个召回粗排 2 屏。精排则是数据生成 5 屏、模型微调 4 屏、多 LoRA 部署 6 屏。

"多 LoRA 部署"这 6 屏是我没想到会出现的。绝大多数讲微调的书,讲到"训一个 LoRA 权重"就结束了;而真正上线时你会遇到一个很现实的问题:不同业务线的数据不一样,训出来的 LoRA 不一样,难道每条业务线部署一个模型实例?多 LoRA 部署就是在回答这个——一个底座模型,挂多个适配器,按请求路由。

这个细节说明作者是真的把这套系统跑起来过。只有跑过的人才会在目录里给"多 LoRA 部署"留 6 屏。

第 8 章的三张对比表也是同样的性质。表 8.2 把 6 种参数高效微调方法按"选择法 / 附加法 / 重参数法 / 混合法"四类排开,横向三列是存储优化、内存优化、额外推理开销——LoRA 那一行的"额外推理开销"是"无",Adapter Tuning 是"前馈层",Prefix Tuning 和 Prompt Tuning 都是"输入"。

这一列加得很讲究。它把"训练省不省"和"上线贵不贵"分开了。很多团队选微调方案只看显存,上线才发现每次推理都多了一段前缀、多了一个适配层,延迟直接涨上去。

表 8.3 接着对比 RAG 与 PEFT,然后 8.2.4 给出选型建议,原文是:"在自研领域大模型时,如果计算资源和领域数据非常充足,可以优先考虑预训练的方案,其效果也是3种方案中最优的。否则,需要根据业务的使用场景,并综合考虑知识更新频率、扩展性要求和耗时要求等因素,选择合适的检索增强生成或参数高效微调方案。"

这段话是对的,但它把最难的部分交给了读者——"综合考虑"四个字后面,没有给权重、没有给判据、没有给案例。这是我读这本书时反复出现的感觉:它把选项摆得很齐,把选择留给你。

六、工程化那 110 屏:三种提示,与一个日志模块

第 5 部分讲工程化,110 屏,占 22.6%,是第二重的部分。四章:工程化的核心(业务流程、系统架构)、技术筹备(技术调研、应用框架、提示词工程、开发环境)、建设要点(目标、核心功能、指标)、安全策略。

这里有个比例值得单独拎出来:整本书讲"提示词工程"的只有 13.3 这一节,6 屏,占 1.2%。内容是三个:少样本提示、链式思考提示、自调整提示。每个一到两屏。

我不是说它该多写——恰恰相反,我认为这个克制的比例是对的。提示词技巧是最容易在两年内过期的东西。一家真正在跑系统的团队,不会把 20% 的篇幅给提示词。这个判断和"数据 30%、算法 26%"的结构是一致的:它的价值在资产和算法,不在话术。

但也正是在这一部分,我看到了全书最不想看到的一页。

p0400 是一段完整代码,标题写得很正式:"代码清单14.4 日志管理案例(src/Utility/logger_helper.py)"。内容是一个 Python 的 LoggerHelper 类,用内置 logging 库封装了日志器获取、文件输出、格式化。

这段代码本身没错,问题是它跟大模型没有任何关系。这是一个任何 Python 项目都会写的脚手架。而它出现在一本讲"大模型工程化"的书的"工程化建设要点"一章里,占掉了本来可以讲评估、讲灰度、讲回滚的篇幅。

更让我介意的是:这一章的 14.2.3"工具模型"有 12 屏、14.2.4"人机协同"有 8 屏,都很有价值;但14.3 讲指标只有 6 屏——3 屏回归评估指标,3 屏资产运营指标。一个日均调用量上万、输出直接影响数据生产任务的系统,验收标准只有 6 屏。

那 6 屏的内容其实不错。p0435 给了三把尺子:SQL 一次生成准确率(生成的 SQL 是否解析通过、是否符合标准格式)、SQL 修复准确率(错误 SQL 修好后能正确解析的比例)、测试集准确率(固定测试集上的预测准确率,用于观察知识库更新后的回归)。

三个指标的设计逻辑很清楚:第一个量"能不能一次写对",第二个量"改得回来吗",第三个量"改了知识库之后有没有变坏"。第三个尤其重要,它是唯一能防住"越改越差"的指标。

可惜只有 3 屏,没有基线、没有阈值、没有失败案例。它告诉你该量什么,没告诉你量出来多少算合格。

大模型工程化 知识图谱:四列分别为重心在哪、真资产、硬事实、它的短板
486 屏的骨架:数据 30.0%、算法 26.3%、工程化 22.6%、概念 12.8%、应用 6.2%

七、它的短板:三条,而且都不轻

第一,头重脚轻:128 屏算法,对着 9 屏评估。全书标题里带"评估/评测"的小节只有两处:11.3.1 评测数据集 3 屏、14.3 的 6 屏,合计 9 屏,占 1.9%。而第 4 部分为了把召回、排序、转译讲清楚,用了 128 屏。

这个比例说明一件事:作者更擅长"怎么建",不太愿意谈"怎么知道建得对不对"。而这类系统最贵的恰恰是后者——一个召回策略改了,你怎么知道是变好还是变坏?一个意图类目加了两个域,误召回会不会上升?这些问题书里没有答案。

第二,它是一家公司的内刊,不是通用方法论。案例全部来自同一个系统:腾讯游戏数据团队的智能助手。八大数域是游戏数域,十步流程是数据开发的流程,SQL 转译针对的是数仓表。

这不是缺点本身——有真实案例是好事。问题是书里没有告诉你哪些结论可以搬走、哪些搬不走。比如"意图召回要靠资产类目做地基"这条,在电商、在金融、在运营后台,逻辑可能完全一样;但"八大数域"这个具体分法,你换个行业就得重来。作者没有做这个区分,读者只能自己判断。

第三,结构碎得像内部文档。16 章被切成 159 个章块,平均每节 3.1 屏。有些小节只有 1 屏——比如 5.3.2"热度参数"、7.4.1"库表资产成本优化"、15.1.1"制度与流程"。

1 屏的节是什么概念?就是一个小标题加两段话。这种密度适合内部 wiki,不适合书。读书时你会不断被打断:刚进入状态,下一节了。我读到第 3 部分时开始跳着读,因为知道每一节都只有两三屏,跳过去损失不大——而这恰恰是结构设计的问题:它让"跳过"变成了一种安全的默认行为。

八、该怎么读这本书

我给两条线。

如果你在做数据平台,想接大模型:从第 3 部分读起。数据资产的标准、建设、运营那 83 屏,是这本书最不可替代的部分,尤其是"AI 可理解需求"这个提法。先想清楚你的资产怎么被模型消费,再考虑用什么模型。顺序反了,你会买一堆模型却喂不进东西。

如果你在做一个具体的 AI 应用:读第 10 章和第 16 章。第 10 章的召回四路 + 精排 + 多 LoRA 部署(55 屏)是一个完整可复用的架构;第 16 章的十步流程图(30 屏)告诉你人机接缝该划在哪。第 1 部分那 62 屏可以跳——它是行业综述,图多字少,两年前的下载量曲线对今天的决策没什么用。

第 2 部分的湖仓技术(63 屏)看你有没有这个底座。有,当检查表用;没有,读了也用不上,因为那是十几年积累的东西,不是一章能补的。

还有一类人我建议干脆别读:想学"怎么做一个 AI 产品"的人。这本书里没有产品设计,没有用户研究,没有增长——它关心的是"这个查询能不能在秒级返回"和"这个 SQL 改完还能不能解析"。它是一本给数据平台团队看的书,不是给产品经理看的书。买错读者,会觉得它通篇都在讲你不关心的东西;买对读者,会觉得它把你踩过的坑全写了一遍。

486 屏读完,我的总结是:这本书最值钱的不是任何一个算法,而是它给出的那个姿态——大模型不是来推倒数据中台的,是来当一个更挑剔的消费者的;你要做的不是重建,是让资产变得机器读得懂。

至于它的短板——9 屏评估、一家公司的内刊、159 个碎节——它们让这本书很难被当成方法论,但依然可以当成一份很实在的施工记录。施工记录的价值不在于完美,在于它是真的。

阅读记录
书名:大模型工程化:AI驱动下的数据体系(腾讯游戏数据团队) | 平台:微信读书 | 翻阅:486 屏(全书完,reached_end=true,end_reason=last_page)
抓取耗时 694.7 秒 | 章块 159 个(6 个部分 16 章 + 版权/内容提要/作者简介/前言 10 屏) | 部分屏数:第1部分 62(12.8%)· 第2部分 63(13.0%)· 第3部分 83(17.1%)· 第4部分 128(26.3%)· 第5部分 110(22.6%)· 第6部分 30(6.2%)· 前置 10(2.1%)
抽读核对页:p0006 前言 / p0020 应用现状与图1.4 / p0030 图1.9 与 1.4 小结 / p0245 表8.2 与 8.2.4 选型 / p0300 八大数域与图10.16 / p0400 代码清单14.4 / p0435 三把 SQL 尺子 / p0462 图16.2 十步流程
说明:章标签存在滞后(约 ±2 屏),统计按实际页位校正;技术名词按原书译法(LoRA、PEFT、RAG、Text2SQL)。本篇不引用书外材料,所有页码均可在原书中直接核对。

关于作者 · 江天(楠哥)
AI 实战导师 / 企业 AI 落地顾问 / 智能体工程师,17 年跨界、15,000+ 小时 AI 实操、20+ 套已交付工作流。