「大脑不够,还要有手脚」 ——智能测试规模化落地的工程真相
议题背景:
大多数测试团队引入 AI 后都遭遇同一困境:模型接进来了,效果却远不达预期。根因往往不在模型不够强,而在 AI 缺乏可靠的执行基础设施——有大脑,没有手脚。
以服务端测试为例,AI 能生成接口调用代码,但改 conf 配置、准备多角色账号、查 DB 验数据、验缓存和消息队列这些环节仍靠人工,形成"夹心自动化":前后都是人,中间夹了一段 AI。移动端同样如此,GUI 执行成功率长期卡在低位,根因不是模型判断失误,而是 AB 实验没打通、设备环境不稳定、三方配置系统无法自动化前置。
本次分享来自快手海外业务智能测试团队的真实实践。团队围绕服务端、GUI、压测三大场景系统性构建 AI 测试能力,核心方案包括:KATFlow Skill 分层架构(AI 推理层 + AI Infra 层 + 数据构造飞轮)、GUI Agent 工程框架(Qwen多模态决策 + platform_tools 层与 AI 解耦 + LangGraph 状态机编排)、MCP 驱动的智能压测助手,以及新孵化项目中需求分类驱动的研测协同重构工作流。
最终落地效果:服务端自动化测试代码率从低于 10% 提升至 90%+,GUI 执行成功率从 47% 跃升至 85%+,压测方案生成效率提升 60%。在新孵化项目中通过需求分类驱动的责任重分配,重构研测协同范式。
内容大纲:
1. 开场:一个反直觉的发现
1.1 行业困境:买了模型接了API,落地效果为何不达预期
1.2 核心框架:"大脑+手脚"缺一不可
- 大脑:LLM的生成、理解、推理能力
- 手脚:ADB链路、环境稳态、三方配置系统、平台工具链
在工程基建没做好之前,换更强的模型是没用的——瓶颈不在那里。先把手脚配齐,再谈模型的天花板
1.3 今天分享的四个场景:服务端 / GUI / 压测 / 工作流重塑
2. GUI Agent智能测试:给AI大脑装上手脚
2.1 反直觉结论:成功率从47%提升至85%,工程基建的贡献超过模型本身
2.2 为什么通用方案不够
- 四类瓶颈:架构链路过长 / 平台能力非专属 / 断言口径松 / 失败不可恢复/业务场景复杂
- 结论:数据驱动决策,自建Agent差异化在"稳态前置+工程链路"
2.3 工程基建:AI的手脚(核心)
- 手——执行动作的可靠性
· ADB链路标准化(截图前主动唤醒、ATX自动安装修复)
· 专用真机机架、KRN包预加载、环境崩溃快速恢复
- 脚——与业务系统打通
· AB实验/KSwitch/Push/Mock/登录/切换环境全部前置,与AI指令解耦
· 泳道注入,打通IDC内网跨环境转发
· Deeplink/快捷入口,缩短链路减少VLM决策步数
2.4 AI能力层设计
- 用例分级打底:二维×四级打标(A可转化/B部分/C无需/D不可),15个子业务全量
- D类攻坚优先级:P1平台依赖→P2多设备→P3动效→P4声音
- 独立断言+视觉闭环:多步截图+思考链送验证模型+3s视频抽帧
- 状态机编排+Reflect重试:LangGraph子任务编排,断言失败自动重试
2.5 成功率演进拆解
- 47% → 60%(自建重写)→ 70%+(工程优化)→ 85%+(专项收敛)
- 四条优化线贡献量化:
环境稳态+5~8% / 工程链路+8~12% / 独立断言+5~8% / 状态机重试+8~12%
2.6 数据结果
- 封板回测准化智能GUI方式占比50%+;执行成功率47%→80%+
- 设备吞吐提升80%;模型成本降低50%
3. 服务端智能测试:需求进来,报告出去
3.1 痛点:AI只能做一半,另一半还得人来
3.1.1 表面痛点(大家都有):
- 手工为主,单Case编写10~30分钟,自动化率长期<10%
- 测完即丢,每次迭代从零开始
3.1.2深层痛点(更难解决的):
场景化用例是测试里最有价值、也最难自动化的部分。
一个典型场景长这样:
① 改kconf配置 / 拨AB实验开关 ← 人工登平台操作
↓
② 准备不同角色的测试账号 ← 人工在测试环境注册/配置
↓
③ 按顺序调用多个接口 ← AI能生成这段代码
↓
④ 查DB验证数据是否写入正确 ← 人工连DB查询
↓
⑤ 验证缓存/MQ消息是否符合预期 ← 人工查Redis/看消息队列
AI能做的只有第③步——生成接口调用代码。其余四个环节全靠人,自动化实际上是"夹心自动化":前后都是人工,中间夹了一段AI。
结论:
"不是AI不行,是AI没有手——
配不了conf、造不了账号、查不了DB,
这样的AI只是个代码补全工具,不是测试Agent"
3.2 KATFlow技术方案:给AI配齐手脚
3.2.1 大脑:AI推理能力层
- 流程:PRD/MR输入 → 9阶段Stage流水线→ 用例代码 + 执行报告 + 回归资产
- 核心AI Skill:
kat-case-ai 用例生成
kat-test-case-gate Gate门禁(P0阻塞/P1放行)
kat-test-code-style 代码风格对齐(Examples驱动)
- 关键设计:拆Stage拆Skill,Stage契约串联,不追求一个大Prompt解决所有
3.2.2 手脚①——AI Infra层:解决"夹心自动化"
专门针对上述痛点,逐一打通每个人工环节
配置类(解决①——AI能自己改开关):
kat-kconf kconf配置项自动读写验证
kat-abtest AB实验分组自动配置注入
kat-kswitch KSwitch开关自动拨打验证
→ 不再需要人工登平台,AI执行前自动配好环境
账号类(解决②——AI能自己备账号):
kat-account 测试账号自动选取与角色分配
→ 多角色场景(买家/卖家/主播/观众)AI自动匹配
数据验证类(解决④⑤——AI能自己查结果):
kat-db DB数据查询与状态断言
kat-cache Redis/Memcached缓存验证
kat-mq 消息队列发送与消费验证
→ 接口跑完,AI自己连DB验数据、查缓存、看消息
→ 断言不再是"返回200就算过",而是端到端验证
踩坑:
"接口测试通了不代表真的对,DB没校验、缓存没验证, AI写的断言就是假断言——
Infra层是让断言有实际意义的基础"
3.2.3 手脚②——数据构造飞轮:解决长链路数据准备
场景化用例的另一个卡点:
复杂数据(如已下单+待支付状态的订单)靠人工构造,
一个场景准备半小时,外包完全不会做
飞轮设计:
读取仓库已有构造方法 → 建立DB_REGISTRY注册表
↓
新Case生成时检索注册表 → 匹配复用已有方法
无匹配 → AI自动生成新构造方法 → 入库
↓
CI一致性校验防漂移
↓
用得越多 → 资产越厚 → 构造成本越低 → 生成越准
踩坑:
- "长链路数据构造(电商下单→支付→履约)拆成原子方法组合,比一次性生成稳定10倍"
- "数据构造方法塞Prompt会漂移,做成带索引的注册表加CI校验才能长期稳"
3.2.4 三层架构回扣痛点
痛点环节 解决手段
① 改conf/AB开关 → AI Infra层:kat-kconf/abtest/kswitch
② 准备测试账号 → AI Infra层:kat-account
③ 调用多个接口 → 大脑层:kat-case-ai生成调用代码
④ 查DB验数据 → AI Infra层:kat-db断言
⑤ 验缓存/消息队列→ AI Infra层:kat-cache/mq验证
从"夹心自动化"变成"全链路自动化"
┌──────────────────────────────────┐
│ 大脑:AI推理层 │ 生成、判断、决策
├──────────────────────────────────┤
│ 手脚①:AI Infra层 │ 配置/账号/DB/缓存/MQ
│ 让AI能摸到系统每个角落 │ 断言真实有据可查
├──────────────────────────────────┤
│ 手脚②:数据构造飞轮 │ 长链路数据自动构造
│ 让AI能造出复杂测试场景 │ 越用越厚的资产底座
└──────────────────────────────────┘
3.3 数据结果
自动化前置率:<10% → >90%,提升80%+
后补Case人力投入:降低80%
单Case编写耗时:提升95%(10~30min → 1min)
同规模需求测试时长:降低30%,智能生成率80%+
已在电商、商业化、UG等多团队推广
3.4 小结
"服务端测试的手脚是Infra层和数据飞轮——
让AI从'只会写接口调用代码'
进化成'能改配置、备账号、查DB、验缓存'的完整测试Agent;
消灭夹心自动化,才是真正的全链路AI化。"
4. 智能压测:压测也能自己跑
4.1 痛点:方案依赖个人经验,隔离策略易出错;报告手工撰写,归因能力有限
4.2 MCP驱动的智能压测助手
- 输入:接口拓扑 + 历史方案 + 监控数据
- 输出①压测方案:链路拓扑图 / 隔离策略预期vs实际配置比对 / 下游QPS聚合通报
- 输出②压测报告:容量结论 / 最优QPS推荐 / 一级下游自动归因 / 3AZ流量均衡自动校验
4.3 效果
- 方案生成效率提升60%+,报告生成效率提升50%
5. 工作流重塑:研测协同范式重构
5.1 触发背景
- 研发侧AI代码贡献率80%+,交付节奏加快,传统测试体系成为瓶颈
- Wanas项目:每周大回测,人撑不住了
5.2 核心设计:需求分类驱动的责任重分配
- 评估AgentA:PRD/MR → 自动识别资金类/核心类/普通类
- AgentC:Case生成、Case任务分类(研发/测试)、Case执行工具分类(人工/智能测试Agent)
- Case评审会:责任分配到RD/QA
- RD负责普通类,QA负责资金类+核心场景
- 准出Checklist:覆盖率+Bug+UI/埋点确认 → 自动推送KIM
5.3 角色重构
- RD:只写代码 → 负责普通类功能质量(第二阶段扩展至核心场景)
- QA:全量测试责任 → 专注资金类+核心场景(第二阶段仅负责资金类)
- 新增:Agent开发角色,负责评估/打标Agent建设与迭代
5.4 落地实录(真实工程成本)
- ✅ 需求群自动创建Skill(含cookie失效自动重登)
- ✅ PRD质量评测 → KIM卡片推送研发/测试/产品
- ✅ AgentA:MR/PRD资金核心识别+KIM推送
- 🔄 AgentC:Case生成、Case任务分类(研发/测试)、Case执行工具分类(人工/智能测试Agent)
- 🔄 客户端覆盖率接入,准出Checklist自动化推送
5.5 效果:大回测人力8PD/周 → 2~3PD/周,降低60%+
5.6 关键认知:"QA从执行者变成规则制定和AI工具链的开发者,AI测试的价值上限在研发侧"
6. 未来展望:AI原生质量体系(5min)
6.1 近期工程可见目标
- 服务端:覆盖率反向驱动,未覆盖代码分支自动入队补Case
- GUI:从"人写Prompt"跨越到"AI自动生成Prompt"
- 压测:自主学习+自动发通告+二级下游归因
- 工作流:Wanas模式向更多项目推广,重塑工作流,业务QA转型测试开发
6.2 三个行业判断
- 工程基建是护城河:模型谁都能调,手脚的积累不可复制
- 评测体系决定可持续:没有自校准,AI系统会缓慢退化
- 价值上限在研发侧:联调阶段触发AI自测,才是全链路闭环
6.3 结语:"今天分享的,都是踩过坑之后找到的路。
欢迎来讨论你们还没踩、但快要踩的那个坑。"
听众收益:
1. 一套解决"夹心自动化"的完整工程方法论
AI 能生成接口调用代码,但改配置、备账号、查 DB、验缓存这些环节还得人来——这是绝大多数团队 AI 测试卡在半自动化阶段的真实原因。本次分享会给出服务端(KATFlow Skill 分层架构 + AI Infra 层 + 数据构造飞轮)和移动端(GUI Agent 工程基建 + platform_tools 层与 AI 解耦)两套可直接对照落地的工程框架,不止讲"做了什么",更拆解每个关键技术决策背后的判断依据和踩坑经验。
2. 破解"AI 测试成功率上不去"的工程真相
GUI 执行成功率从 47% 提升至 85%,贡献最大的不是换了更强的模型,而是 ADB 链路标准化、AB 实验自动化注入、设备稳态这些"脏活"。分享会完整拆解四条优化线(环境稳态 / 工程链路 / 独立断言 / 状态机重试)各自的量化贡献,给出一个可以直接套用到自己团队的诊断框架——在提模型之前,先问手脚是否配齐了。
3. 有据可查的研测协同转型路径
如何推动 QA 团队从"执行者"转型为"门禁设计者和 Agent 开发者",不只是方向判断,而是有具体的落地方案:需求分类驱动的责任重分配(资金类 / 核心类 / 普通类)、两阶段角色重构节奏、Agent 打标准确率的冷启动方式。对于正在考虑推动团队转型的测试管理者,这套方案可以直接拿去对照自己团队的现状做裁剪,而不是从零摸索。