专场:AI 质量管控:从左移到右移的全链路实践
随着AI编码工具的快速普及,生成代码已成为开发日常,但随之而来的幻觉、缺陷和安全隐患也越来越突出,传统的质量保证方式已明显跟不上节奏。 本专场探讨在AI时代,如何建立一套真正适配的全链路质量保障体系:从开发早期就做好针对AI代码的评审和幻觉检测,到引入适合AI原生应用的新型测试方法,再到利用智能工具加强安全扫描和生产阶段的持续监控,实现从左移预防到右移验证的完整闭环。结合当前行业面临的实际挑战与最新实践,分享如何在加快交付的同时,切实把控住代码质量和风险,帮助团队平稳完成向AI驱动开发的转型。
专场出品人:陈磊
前京东测试架构师
阿里云 MVP ,华为云 MVP  。著有图书《接口测试方法论》、《持续测试》、《大模型测试技术与实践》、《现代软件测试技术权威指南》、《软件研发效能权威指南》等。极客时间专栏《AI 重塑测试开发系统实践》、《接口测试入门课》作者、拉勾教育《软件测试第一课》作者。多年质量工程技术实践经验,专注于研发质量效能提升、智能化测试等方向,公开发表学术论文近30篇,专利20余篇,国内多个技术峰会的演讲嘉宾、出品人。
庞可盈
中兴通讯 AI 研发工程师
AI 研发工程师,5 年以上 AI 工程化与代码质量领域经验。
现负责 AI 代码评审系统架构设计与持续演进,主导构建了覆盖 10 门语言、184 条规则 + 215 条检测器 的多引擎 AI 评审体系,支持多种引擎即插即用与横向对比。系统上线 12 个月,累计完成 30 万+ 次评审,覆盖 33 个团队、115 个仓库、2,526 名开发者,月活 1,480 人,峰值月评审量 5.2 万次,可用率 99.8%。同时构建了 checker 级数据驱动自演进闭环:通过补充 多 个 checker 的检测规则、优化上下文判断逻辑,将优化后规则的复现率降至 0%、准确率达到 100%,让 AI 评审从"能用"走向"审得准、可信赖"。
待定
待定
规模化 AI 代码评审的质量保障实践:
10 语言、30 万次评审的工程之道
议题背景:
AI 代码评审的落地难点不在于"能不能审",而在于规模化之后能不能让开发者信、让质量可控。我们的系统运行 12 个月,完成 30 万次评审,覆盖 33 个团队、2,526 名开发者——这背后不是简单接了一个模型,而是一整套让 AI 评审从"工具"变成"质量基础设施"的工程体系。
核心包括三件事:
1)多引擎可插拔架构 + 10 语言 × 184 规则 × 215 checker 的结构化规则体系,确保评审覆盖度而非依赖单一模型;
2)上百个标准评测用例 + checker 级自演进闭环,新规则上线前必须通过评测、薄弱 checker 自动识别定向优化,让准确率可量化、可追溯;
3) 从命令行到 Gerrit CI 门禁的全流程嵌入,让 AI 评审成为代码合入决策的一环而非可有可无的参考。

内容大纲:
1. 为什么 AI 评审是质量保障的必选项
1.1 人工评审困境:覆盖不均、响应延迟、知识流失——33 个团队的共同痛点
1.2 AI 评审定位:不是替代人工,而是填补"没人审、审不全"的质量空白
1.3 核心判断:从"AI 能不能审"到"开发者用不用"——信任是质量保障的前提
2. 工程架构:构建可扩展的 AI 评审系统
2.1 多引擎可插拔架构:Skill Registry 统一注册,不同引擎一键切换,解决"绑定单一模型"风险
2.2 规则体系:rule(审什么)→ checker(怎么审)双层解耦,10 语言 × 184 规则 × 215 checker × 6 大缺陷类别
2.3 Claude Code 插件生态集成:从命令行到 Gerrit CI 门禁自动触发——嵌入研发主流程
2.4 6 步标准化评审流水线:预备→同步规则→获取变更→拆分任务→并行评审→格式化报告,每步产物可审计
3. 让评审结果可信:质量保障的四个关键机制
3.1 事前拦截——标准化评测集:7 类 (Badcase 回归/Goodcase 检出/对抗样本/挑战/边界/业界基准/端到端),规则上线前必过评测
3.2 事中约束——上下文装配控制:调用链追溯深度取舍、评审范围刚性约束(变更行 ±0 行)、规则版本冲突自动检测
3.3 事后量化——反馈数据闭环:每条评审意见独立追踪开发者 accept/reject,按 checker_id 聚合识别薄弱点
3.4 持续演进——checker 级自优化:三板斧定向优化 + 评测集复验,降低badcase复现率、提升评审准确率
4. 工程踩坑:规模化落地的 5 个关键教训
4.1 规模化下的质量保障:多引擎横向对比 + 评测集复验,确保每次规则变更的质量基线不退化
4.2 规则膨胀陷阱:184 条规则的维护成本线性增长,分级管理(核心/推荐/实验)策略
4.3 上下文窗口博弈:AI 一次能看多少?多了失忆、少了漏报——按文件拆分 + 调用链按需追溯的平衡
4.4 多引擎适配代价:流程步数差异大(2~6 步),统一 skill_calls.json 协议避免 N×M 适配爆炸
5. 落地效果与演进方向
5.1 12 个月数据:303,101 次评审 / 2,526 开发者 / 33 团队
5.2 AI 评审的工程价值:填补人工评审空白、统一评审标准、沉淀团队代码规范知识
5.3 下一步:从"人触发评审"到"待办驱动 Agent"——自动感知变更、匹配规则、评审、人工确认闭环

听众收益:
1. 获得一套规模化落地 AI 代码评审的工程架构参考不是"选个模型跑评审"的入门教程。包括:多引擎可插拔架构(Skill Registry 模式)、规则体系双层解耦(rule → checker)、6 步标准化评审流水线产物审计、插件生态下的 CI/CD 集成方案。可直接参考搭建自己的 AI 评审系统。
2. 掌握让 AI 评审被开发者信任的实战策略核心问题不是"AI 能不能审",而是"审了开发者用不用"。分享信任建设机制:事前对抗样本 + 标准评测集拦截误报;事中上下文控制 + 范围约束防止 AI 跑偏;事后反馈数据闭环驱动 checker 级精准优化。每个策略有数据和案例支撑。
3. 带走 3 个规模化落地 AI 评审的真实教训
1)规则越多越难维护:184 条规则的分级管理策略(核心/推荐/实验),避免成本失控
2)AI 一次看太多 → 失忆,看太少 → 漏报:按文件拆分 + 调用链按需追溯的粒度平衡
3)多引擎接入成本高:统一协议,每加一个引擎零适配
王美君
平安人寿保险 测试经理
5年以上金融保险行业研发与质量保障经验,毕业后在腾讯、华为、平安三家公司任职,当前在平安寿险质量部门担任测试分组经理。与工具团队共建集团级AI质量平台,协助推动AI智能化测试体系核心业务落地。擅长AI赋能测试体系搭建和落地、智能缺陷检测、研发效能提升。负责平安寿险AI代码静态扫描挖掘缺陷工具的设计和工程化落地,覆盖50+系统
待定
待定
基于业务的缺陷扫描测试左移实践
—— 从传统左移到 AI Agent 时代的业务逻辑缺陷预发现
议题背景:
AI编程普及后,开发产能大幅提升(从100-200行/人/天跃升至5000+行/人/天),测试产能面临巨大挑战。AI生成代码的缺陷密度是人工的2.3倍,传统代码评审聚焦语法规范层面,无法识别业务逻辑缺陷,传统的静态扫描工具和AI静态扫描准确率低漏报率高、且未与实际业务结合发现缺陷类型有限,实际研发流程中开发测试无精力逐个问题分析,质量风险高。
核心痛点:①传统扫描工具误报率高;②缺乏有效的结合业务的缺陷扫描工具;③测试阶段测试执行等动作介入太晚,错过早期质量把控窗口。
创新方向:融合代码上下文工程、Multi-Agent智能体编排、三层噪声过滤、历史缺陷知识库、测试用例推荐等技术,构建面向业务逻辑缺陷的AI缺陷挖掘体系,实现从传统左移到AI Agent时代的左移手段升级。

内容大纲:
1. 发现问题:AI时代质量与效率的挑战
1.1 缺陷发现越晚,修复成本呈指数级增长
1.2 传统开发自测手段难以覆盖复杂业务逻辑
1.3 AI时代核心矛盾从产能不足转向质量跟不上速度
1.4 测试左移四代演进,大模型开启新机遇
2. 探索与解法:从传统左移到AI Agent的技术演进
2.1 踩坑分析,全量代码分析路径验证失败,
2.2 分类降级+噪声过滤突破瓶颈,召回率从15%提升至50%
2.3 从Demo验证到平台化,三步工程化落地路径
3. 最终方案设计:核心架构与关键技术方案
3.1 基于多源融合的业务缺陷预发现六层架构设计
3.2 代码上下文工程:AST解析、依赖分析、智能摘要
3.3 推荐调用树定位关键链路,三层噪声过滤累计屏蔽95%
3.4 ReAct智能体+有状态编排,反馈闭环驱动持续进化
3.5 历史缺陷库与测试用例推荐形成端到端闭环
4. 落地与成果:双轨交付实践与价值度量
4.1 独立系统与AI平台Skill双形态灵活落地
4.2 CI/CD流水线集成,实现缺陷提测前自动拦截
4.3 实践成果展示
4..4 商业价值量化:缺陷逃逸率下降、人工评审效率提升
5. 未来规划
5.1 构建领域功能代码链路地图
5.2 实时变更影响链路推荐与智能修复
5.3 集团多业务线规模化推广

听众收益:
1. 如何构建面向业务逻辑缺陷的AI静态扫描缺陷检测体系:
从架构设计、技术选型到工程化落地的完整实战经验,包括代码上下文工程、Multi-Agent编排、三层噪声过滤等核心技术方案。
2. AI质量保障从Demo到生产可用的关键跨越:
全量分析不可行的教训、踩过的坑(误报率80%→28%)、召回率从15%提升至50%的核心突破路径。
3. 历史缺陷知识库+测试用例推荐的落地方法:
如何让AI不仅发现新缺陷,还能防止旧缺陷复发,并通过智能用例推荐形成发现→验证→闭环的完整流程。
郑锐剑
bilibili 资深测试开发工程师
2021年加入哔哩哔哩,目前部担任大会员&活动业务的测试负责人,涵盖会员权益、外渠合作、大型活动、广告投放等场景,高效保障业务迭代质量,按时达成交付的同时建立健全业务线的质量体系。拥有丰富的业务质量保障、探索AI Testing提效、稳定性治理、测试效能平台开发等方面的经验。
待定
待定
Skill 驱动的 UI 自动化探索与实践
议题背景:
本议题聚焦:在多端融合背景下,UI自动化方案面临的局限性和对应解法?如何避免模型生成不规范的用例?AI是否能够自检后运行用例,并针对失败的用例开展自愈?整体流程跑通后如何开展运维稳定性调优?本议题将分享Skill驱动下UI自动化核心流程提效的实践过程中,所遇到的具体问题和坑点,最终将用例生成、自动执行、自愈能力集于一体,并分享投产到业务总包回归任务中实际效果。
核心痛点:
1、自动化用例编写门槛高:传统的UI自动化用例编写比较依赖测试人员对业务场景、POM类封装、代码规范等方面的经验积累,从总包用例的改写、元素定位的抓取、测试数据的准备、等待及异常处理、结果断言到产出可投产自动化用例,整个流程长,新人上手难度大;
2、跨端场景存在重复劳动:当业务的前端拥有Android, iOS, 鸿蒙原生、React Native, H5等多种平台及技术形态时,每种技术栈都需要不同的自动化框架(Uiautomator2 + WebDriverAgent + Hypium等)和适配代码,用例规范难以统一,测试脚本无法复用。
3、后期运维成本居高不下: UI自动化实际运维过程中,严重依赖XPath, Resource ID, Text甚至是坐标点等属性来进行定位元素,UI元素频繁变更会导致用例大规模失效,失败后的用例改写成本又依赖测试人员对业务场景和多端特性的熟悉程度,往往需要投入大量人力进行用例维护和稳定性调试。
思考的方向:
1、写得更快(生成):降低UI自动化的用例编写门槛,提升效率,让不熟悉编程的测试人员也能快速生成用例;
2、跑得更稳(执行):在稳定性调优方向,引入图片降级兜底、多端Mock打通、规范等待及异常处理,来减少重复返工;
3、修得更好(自愈):基于语义匹配开展Xpath变更后的修复,并更新POM类的中定位代码;用例中的部分测试数据失效后可以自主替换;视觉基线更新后,识别图片变化情况,进行更新;自动分析运行时报错原因,并给出修复建议;

内容大纲:
1. 背景与痛点:
1.1 传统UI自动化建设的瓶颈(编写门槛  / 定位漂移 / 跨端重复 / 人工排障)
1.2 核心思路设计:人在环路理念 & skill如何串联UI自动化的核心流程
2. 整体框架与流程拆解:
2.1 Agent整体框架——四层设计生成体系
「多端总入口 + 业务路由 + 规则约束 + 工具调用」分层结构设计
2.2 流程闭环:自然语言 / TAPD 链接 → 业务路由 →  用例生成 → 自检后执行 → 执行报告(AI负责解析、生成、增强和自愈,人负责核心决策)
2.3 具体流程拆解及Skill串联闭环:将整个流程拆解成各司其职的 skill 和工具
① 传统流程 vs Skill驱动流程的对比,引出各个环节对应的专职skill
② 用例解析skill ——根据case需求链接自动抓用例详情,负责处理前置准备、具体步骤,断言设计和基准图管理等;
③ 用例生成skill ——可以根据样例case、业务规则、Xpath库等references,实现智能化的步骤拆解 + 元素定位 + 多维断言;批量生成规范可执行的多端用例,并自检用例是否合规;
④ 用例自愈skill ——沉淀高频的用例失败原因,智能化给出失败根因分析,并可在人决策后进行自愈尝试,如自动更新测试数据、更新基准图、推断正确定位方式、调整弹窗顺序等;
⑤ 其他scripts工具 ——多端用例管理、mock工具跨端共享、区域排除截图等;
3. 工程化实践与挑战:
 3.1 分渲染范式讲局限:为什么一套解法搞不定
① 原生 View/XML 静态解析可达约80%;坑:View[N] 位置索引是运行时结构、跨模块 resource-id 重复、动态 content-desc 解析不到、布局复用致用途模糊、RecyclerView/ViewStub 运行时才 inflate
② Compose 无 resource-id,只能写深层链式 View[N] xpath,收银台整页几乎无 XML 布局、覆盖率极低
③ H5 按 Chrome WebView a11y tree 映射推导约70%;坑点:空 div/span 是否进 a11y tree 取决于 CSS → View[N] 整体偏移、第三方组件内部 DOM 不透明
3.2 半自动 XPath生成:脚本生成初稿(原生约80% / H5 约70%)+ 真机校准反哺 + 规律固化回脚本;Xpath自动生成存在天花板,静态源码推不出运行时的动态结构,但实践发现可以把人工成本从 100% 压到约20–30%;
3.3 分级解法:从「能自动化到什么程度」出发,选对武器
① 能规则化兜底:多文案兼容 xpath(续费/开通/好礼)、双索引 click_condition(View[6]/View[5] 存在才点)、坐标换算(1080×2400 比例)、弹窗顺序 click_condition(有则点无则跳)等;
② 靠数据构造:Mock bmitmproxy 打通 HTTP+gRPC三端、自动启停;构造接口超时兜底、极端数据、实验分组等常规难覆盖场景
1) gRPC 难点:RecordIO 反序列化 + gRPC URL→bapis proto 映射 + gzip 解压 + json_format 重序列化 + 重算 content-length
2) 降级边界:gRPC 无降级方案(直接报错提示),HTTP/JSON 可降级到本地 addon 文件消费
③ 只能视觉化:图片比对,元素定位不可靠时(如纯 Compose、动态内容)退而求其次,用视觉比对断言页面状态
1)要做的工作:基准图治理(一图对多 case、按页面状态语义命名、AI 绝不自动命名强制反问)· 阈值分场景(默认 0.75 / 收银台 0.6 / mock 0.9)· 多基准图 image_mulmatch 取两图 max(实验分组)· 区域裁剪 screenshot_exclude + SSIM 区域比对
2)坑点:运营换素材→图片必挂→必须配套文字断言兜底·、阈值难调(太松漏报、太紧误报)、动态内容/分辨率差异、比对失败设为「非致命上报」才能一轮收齐全部失败
④只能人工:涉及审核态、支付相关链路等约约30% 场景无法开展 UI 自动化;
3.4 失败了不占人力:AI 自愈闭环
①底层支撑:图片比对非致命上报 + RUN_CASE_IDS 单 case 入口 → 一次运行收齐全部失败,而非首个失败即中断
②闭环流程:运行 → 收集全部失败 → 一次性归类 → 按策略修复 → 重试验证,支持单 case / 批量双入口
③标准化修复:针对 xpath 失效、图片阈值波动、弹窗顺序、坐标偏移等高频失败沉淀策略,AI 按策略优先修复而非乱改
4. 总结与展望
4.1 实际效果总结:
①三端均已投产:通过率持续提升并稳定在 95%+;
②提效情况:
1)用例编写工时显著下降,产出周期缩短,多端生成成本降低;
4.2 自愈价值验证:Android播放页横屏试看条业务改版,导致 7 条失败全部自愈;iOS 因 xpath/基准图变化失败 6 条自愈 5 条;节省后期运维人力70%以上;
4.3 可迁移的方法论:业务规则和知识沉淀、分级解法(规则化/mock/视觉化/人工)、多业务复用;
5. 未来规划:
① 进一步理解不规则的纯自然语言,增强步骤推理能力、自动生成多维断言,推断基准图;
② 规范测试专用的定位元素生成规则,提供skill与研发协作共建;
③ 每个步骤进行截图,并记录执行操作,动态化展示执行过程;
④ vibe coding能力与远程调度平台一体化(自然语言→生成→调度→执行→报告),实现一站式vibe到result,赋能业务;

听众收益:
1. Skill 驱动UI自动化核心流程提效的设计结构,把 AI 用例生成从「幻觉频发」收敛为「规则可控」的具体工程手段(路由约束、用例规范、强制反问)。
2. 稳定性调优的兜底策略、定位自生成方案的探索经验、跨端自动化背景下一次投入,多端投产、提高用例稳定的全局解法及局限性。
3.  UI元素改版后,如何降低人工逐个排查失效用例的成本,AI批量分析根因(检测变更、定位修复、更新基准)、人工只做关键决策、实现可持续运营。
4. 实践过程中的场景坑点及常见解法,并分享实际投产中的三端真实通过率曲线与运维人力变化情况;完整提效思路与量化收益情况,可直接迁移到其他UI自动化团队;

李明慧
bilibili 高级测试开发工程师
2024年加入哔哩哔哩,目前部担任Caster容器发布平台业务的测试负责人,涵盖容器发布、回滚、水平自动扩缩容、流量治理、服务注册等场景,保障发布链路稳定性。在测试过程中主动联动研发、产品和上下游组件方,推动问题闭环和机制优化。拥有独立搭建测试环境、验证复杂链路、风险识别与自动化建设能力。积极探索AI 在测试提效、稳定性治理等方面的应用。
待定
待定
流水线信息蒸馏和自愈
议题背景:
解决的问题:将流水线的测试信息从“噪声”变成“结论 + 归因 + 推送”。
核心痛点:
1. 流水线的测试失败信息分散且没有去重;
2. 原始内容噪声大、重复多、上下文不完整;
3. 研发和测试经常需要在多处来回切换才能确认“失败了什么、为什么失败、是不是持续失败、是否需要立即处理”。
思考的方向:不是单纯做告警通知,而是把“失败分析 + 自愈修复”做成一条工程链路:
1)先保证信息稳定接入,再把报告加工成结构化结果;
2)进一步结合历史失败情况判断稳定性,结合AI进行失败分析;
3)最后决定是否推送、如何推送、是否可自动修复。核心目标是同时解决看不懂、找不全、重复吵、难复盘、修不动这几类问题。
基于以上背景,我们希望把失败报告接入统一处理链路,通过任务化、结构化蒸馏、稳定性判断、业务知识库和AI分类,把原始失败信息转成可直接行动的结论;对其中可规则化、可确认的失败,再进一步自动触发自愈与重试,减少人工排查和重复修复成本,并用 MySQL 沉淀任务、结果和推送状态,形成稳定、可追溯、可迭代的闭环。

内容大纲:
1. 背景与痛点:
1.1 流水线信息原始内容噪声大、重复多,无法获取核心关键信息;
1.2 测试人员需要手动定位失败信息和日志,确认为什么失败。
2. 总体思路:把失败处理做成闭环
2.1 这套方案不是单点优化,而是围绕“接入—分析—决策—推送—自愈”五个环节做闭环设计;
2.2 入口上同时保留 webhook 和定时 scanner,两路互补,当webhook不工作时,scanner作为兜底;
2.3 处理上由 worker 统一消费任务,拉取 report/detail,抽取失败 case、断言、响应片段和步骤信息,再交给蒸馏模块做结构化整理;
2.4 决策上结合稳定性历史、业务知识库、规则分类和 AI 分类,判断这次失败属于“新问题、持续问题、偶发问题”还是“可自动修复问题”;
2.5 输出上分成两条线,一条是企业微信推送,另一条是自愈重试任务。这里 MySQL 不是简单存结果,而是承担任务队列、状态流转、结果沉淀和去重状态的中心角色,保证链路可追踪、可恢复、可重放。
3. 核心链路:从原始报告到可行动结论
3.1 第一步是接入与入队。系统收到测试失败通知后,会先做幂等校验,再把 report_id、plan_id、触发来源、通知策略等信息写入 MySQL 的任务表,避免同一失败被重复消费。
3.2 第二步是详情拉取与蒸馏。worker 会根据 report_id 拉取报告详情,识别失败 case,提取步骤、断言、请求响应、错误码等关键字段,并整理成统一的结构化结果。
3.3 第三步是分类与稳定性判断。系统会结合最近 N 次报告的历史失败情况,判断 case 是稳定失败、间歇失败还是新失败,同时把业务知识库、样本召回和规则分类一起用于归因。
3.4 第四步是推送和去重。只有满足通知条件的报告才会进入推送,且要和上次推送的失败集合做比较,避免相同失败在短时间内反复刷群。
3.5 第五步是自愈。对于明确的参数漂移、断言变化、请求结构变化等场景,系统会进入自愈流程,生成修复动作或重试任务,让一部分失败在机器侧先闭环。
4. 技术抉择:为什么这样设计
4.1 服务采用容器化方式部署,保障了高可用、易扩缩、易重启、易观测。避免单点进程挂掉导致整条链路失效。
4.2 多处使用缓存:这个系统里很多信息是高频复用的,比如业务知识、分类结果、样本召回结果等;如果每次都实时查外部接口或重复计算,成本高且容易被短时抖动拖慢。缓存是为了降低外部依赖压力、减少LLM调用次数、提升链路稳定性。我们把“高频读、低频变”的内容前置下来,既减少接口调用次数,也降低 AI 分类和蒸馏链路的延迟。
4.3 为什么需要样本库,为什么用 BM25检索:样本库的作用不是“给 AI 凑上下文”,而是把历史上已经人工确认过的失败模式沉淀下来,作为分类和归因的参照系。没有样本库,AI 很容易只看当前 case 的表面特征,缺少业务语义和历史类比,分类会飘。BM25 的选择是因为它简单、可解释、稳定,适合在样本规模不算特别大、但需要快速做关键词和语义近似召回的场景里使用。它比纯手写规则更灵活,比直接上复杂向量检索更轻量,尤其适合这个项目里“先召回少量高相关样本,再交给 prompt 进一步判断”的工作方式。
4.4 为什么要用文件存储: 文件存储更适合放大一些、非强事务但需要持久化的对象数据,比如样本内容、历史归档、结构化结果快照或一些需要跨进程共享的 blob 数据。它和 MySQL 的分工是清楚的:MySQL 管索引、状态和查询主路径,文件存储 管较大的内容体和归档体。这样做可以避免把大 JSON、历史样本、反馈材料全压在 MySQL 里,保持主库表结构更轻,也方便后续做冷热分层和批量处理。
5. 工程实践:把“能跑”做成“长期能跑”
这套系统里有几个关键工程实践:
1) 第一是幂等设计,所有任务围绕 idempotency_key 建模,避免 webhook 重复投递、scanner 重复补入造成双重处理。
2) 第二是状态机设计,任务从 pending 到 processing,再到 done 或 failed,每一步都能回溯。
3) 第三是退避重试,短暂抖动不会让任务直接失败,而是按 next_run_at 延后重试。
4) 第四是推送去重,使用 last_notified 记录上次失败集合和时间窗口,既避免刷屏,也保留持续失败的再次提醒。
5) 第五是知识沉淀,业务知识库和 few-shot 样本池不是一次性配置,而是持续更新的,用户可以针对每次的AI分类进行反馈,反馈内容回流进样本库。
6) 第六是自愈分层,把“可自动修复”的问题单独识别出来,不和普通告警混在一起,保证修复动作不会污染主链路。
6. 总结与展望
6.1 实际效果总结:这套方案的价值不只是“自动发消息”,而是把失败处理变成了一条可持续演进的工程链路。
6.1.1 失败信息从原始通知变成了结构化结论,排查路径明显缩短,
6.1.2 推送去重,减少相同失败测试的内容通知,使重复噪声也得到了有效控制;
6.1.3 利用AI进行失败归因,使分类准确率相比规则分类有了明显提高,能够覆盖更多常见失败模式;
6.1.4 自愈能力则把部分可规则化、可确认的失败前移处理,减少了人工重复介入。
6.2 未来规划:
6.2.1 继续扩展自愈能力,把目前已验证有效的规则化处理经验推广到更多失败类型和业务线;
6.2.2 持续完善业务知识库和样本库,提升 AI 分类的准确率和稳定性;
6.2.3 推动系统从单一工具演进为统一的平台能力,逐步承接更多测试和质量信号,形成更完整的分析、修复和度量闭环。

听众收益:
1. 获得一套可复用的测试失败治理思路:听众可以看到如何从“失败通知”升级到“接入、蒸馏、归因、推送、自愈、复盘”的完整链路,而不是只做一个告警机器人。对于已有自动化测试体系的团队,可以直接借鉴其中的任务化、幂等、去重、稳定性判断和失败分类设计。
2. 理解 AI 能力在工程系统中的落地边界:分享会重点讲为什么没有把失败归因完全交给大模型,而是采用“规则兜底 + 样本库 + BM25 召回 + AI 分类”的组合方案。听众可以获得一套更务实的 AI 工程化经验:哪些场景适合 AI 增强,哪些地方必须保留确定性逻辑,如何处理格式漂移、分类不稳定和业务知识缺失等问题。
3. 学习一个长期可运维系统的技术取舍:通过 K8s 容器化部署、MySQL 与 BOSS 的职责划分、多级缓存、自愈任务隔离、推送去重和可观测性建设,听众可以看到一个内部效率工具如何从脚本演进为长期运行的服务。这部分对有一定经验的技术同学更有价值,因为重点不是“功能怎么写”,而是“系统为什么这样设计、如何避免线上跑不稳”。
谢檬檬
百度 资深工程师
现负责百度 APP质量治理与技术体系建设,聚焦移动端复杂业务场景下的稳定性风险与用户体验保障,持续推动质量管理从单点监控向覆盖问题发现、影响评估、智能分析、根因定位、快速止损、值班协同和复盘进化的全链路体系演进。主导建设智能监控、故障定位、AI 值班及质量自进化等关键能力,探索将趋势数据、代码上下文、变更信息和协同过程统一纳入故障治理闭环。擅长大型质量平台架构、智能化策略设计、复杂系统工程落地和跨团队协作,致力于以工程能力与数据智能驱动质量治理持续进化,提升百度 APP 的可靠性、研发效率与用户体验。
待定
待定
AgentLoop 落地移动端:百度APP AI 全链路质量自进化体系构建
议题背景:
百度 APP 线上质量问题具有规模大、类型多、变化快、影响面广等特点,复杂的业务生态与高频交付节奏对全链路质量保障提出了极高要求。传统依赖人工经验的治理方式存在故障采集分散、定位效率不足、值班决策依赖个人、经验难以复用等痛点。本议题以 AgentLoop 为核心,建设 AI 值班驱动的全链路质量自进化体系:自动采集故障事实、代码上下文与处置轨迹,智能完成监控分析、根因定位、风险定级、止损决策和通告跟进;在故障闭环后基于可执行反馈自动反思,生成并验证策略、规则乃至代码级改进,通过测试、评估和可回滚机制持续迭代报警条件、报警策略、定位策略与处置流程,让管理系统能够“自我诊断、自我修改、自我验证”,实现从“发现问题”到“解决问题”,再到“系统自主提升治理能力”的真正闭环。

内容大纲:
1. 背景:移动端质量治理面临的新挑战
1.1 百度 APP 线上质量问题的复杂性  
1.2 传统质量治理模式的核心痛点
1.3 需要解决的核心问题
2. 总体方案:以 AgentLoop 构建质量自进化闭环
2.1 AgentLoop 的核心思想
2.2 自进化的定义
2.3 质量管控场景Loop系统的关键组成
3. AI 值班:从故障发现到问题闭环
3.1 故障事实自动采集
3.2 值班动作自主决策
3.3 AI 值班的工程实践与踩坑
4. 智能定位:从初步结论到动态定位
4.1 为什么定位是全链路关键
4.2 workflow 和 react 双模引擎
4.3  智能定位中的工程实践与踩坑
5. 自动反思:从故障处理过程提炼治理经验
5.1 为什么不能只分析 Agent Trace
5.2 多源故障反思
6. 系统进化:从经验沉淀到策略和代码自我修改
6.1 报警条件和报警策略进化
6.2 定位策略进化
6.3 值班流程进化
6.4 自进化的安全边界
7. 进化评估:如何证明系统真的变好了
7.1 离线历史回放
7.2  在线灰度验证
7.3 评估指标
7.4  进化有效性的判断标准
8. 案例:一次故障如何推动系统能力升级
9. 总结:从处理故障到让系统从故障中学习

听众收益:
1. 获得一套可落地的 AI 质量治理方法论
理解如何以 AgentLoop 串联故障采集、智能定位、值班处置、自动反思和系统进化,构建从发现问题到持续优化的完整闭环。
2. 掌握复杂故障场景下的智能定位实践
了解 Workflow 与 ReAct 双模编排、群聊上下文采集、定位结论动态刷新,以及如何结合趋势、源码、CR 和变更单提升定位效率与准确性。
3. 了解 AI 系统自我进化的工程实现路径
学习如何将故障复盘转化为报警规则、定位策略、流程配置乃至代码改动,并通过历史回放、自动化测试、灰度发布和可回滚机制验证进化效果。
胡延军
CMMI 研究院 中国特邀专家
CMMI研究院中国特邀专家、CMMI高成熟度评估师/讲师,AI-Native、AI4SE、IPD、Scrum、SAFe、DevOps、Six Sigma 领域资深专家。深耕精益与敏捷开发、项目与过程管理、产品与系统架构设计,精通 DevOps 体系搭建、质量与绩效管理优化、研发效能度量分析。拥有美国硅谷近十年工作经历,曾任 Angel Engineers Inc 高级副总裁、ACTEL 公司高级项目经理及工程师,主导并参与百余个大中型研发与交付项目,服务伟世通、中国人寿、中车集团、海康威视、京东方、潍柴动力、富士康、光大银行等数十家行业领军企业。
待定
待定
CMMI AIM 实践地图:AI 研发质量如何保障?
议题背景:
AI 正在把研发产出速度成倍提高,质量保障体系却没有同步升级,三道缺口随之出现:幻觉缺陷,AI 产出逻辑自洽但事实未必可靠,传统评审经验识别不出来;评审跟不上,产出量倍增而评审人力不变,评审从质量关口退化为走过场;责任边界模糊,AI 参与产出之后,缺陷归属与追溯链路断裂。
更深的缺口在组织侧:管理者说不清 AI 能力建设到了哪一步、还缺哪一块,工程师说不清自己手上的实践放进 AI 场景要改什么,两边讲不到同一件事上。本次分享的思考方向,是把零散的 AI 工具体验,转化为可定位、可评估、可演进的组织能力。

内容大纲:
1. 开场:AI 提速之后,质量链条断在哪一环
1.1 三个断点
1.2 一个共同缺口:组织缺少共同坐标
2. CMMI AIM 实践地图怎么读
2.1 从 CMMI 到 CMMI AIM
2.2 地图骨架 4 类别·12 能力域·31 实践域
2.3 用同行评审演示一次定位
2.4 AI 上下文专属信息(AI CS)的两层注入
2.5 AI 应用场景的四种形态
2.6 视图组合
2.7 评估范围界定五步法
3. 保障体系怎么搭
3.1 实施框架总图
3.2 技术抉择一:AI 增强与 AI 原生分场景并行,而不是二选一
3.3 技术抉择二:场景适配矩阵
3.4 度量支撑 DM+DQ+MPM
3.5 工程实践:四道质量门禁
3.6 踩过的坑(一)不分场景一刀切
3.7 踩过的坑(二)只改流程不落数据
3.8 踩过的坑(三)度量口径与考核挂钩
3.9 三阶段落地路线
4. 案例:同行评审从"人评人"到"人机共审"
4.1 为什么选 PR
4.2 PR 的实践要求与价值主张
4.3 形态一 AI 当评审助手
4.4 形态二 AI 产出作为被评审对象
4.5 形态三 AI 当评审者
4.6 人在环路模式的抉择
4.7 评审数据采集口径设计
4.8 改造前后对照:量化收益
5. 带走什么
5.1 落地检查单
5.2 度量指标清单
5.3 三个起步动作

听众收益:
1. 一张能对上自己团队现状的坐标。 听完可以把团队正在做的 AI 质量动作放到 CMMI AIM 地图上,判断当前缺的是评审环节、度量环节还是治理环节,而不是继续在工具层面反复试点;也能借助视图组合,判断几十人到几百人规模的组织该从哪里起步。
2. 一个完整可复制的改造样例。 同行评审从人评人走向人机共审的全过程,包含三种 AI 形态的适用判断、三种人在环路模式的选型依据、评审数据采集口径的设计方法,以及三类高频坑的规避方式。
3. 一份可直接使用的检查单与指标清单。 落地检查单可现场拍照带走,评审度量指标清单可用于设计本团队的度量口径;同时把"AI 评审出来的问题责任算谁的"讲清楚。

敬请期待
......
.....
待定
待定
敬请期待
....
关注QECon公众号
关注QECon视频号
议题投稿
speaker@qecon.com.cn
商务合作
151-2264-3988  木子
票务联系
159-0126-5561 小娟 
媒体合作
135-1619-6409  皮皮
购票咨询
小娟 15901265561
服务总线
400-183-9980  
电话咨询
联系电话:
翟国娟 15901265561