日程 › Agent 开发实践 › 纪要
开源项目实践 ② — OpenFab：下一代软件工厂
金句 · 一句话抓重点
AI 大规模生成代码，让传统扫描器「结构性失明」——代码提交，不可跳过人类问责。
📊 信息图 · 一图读懂
音频聚焦构建可信 AI 软件工程，介绍了传统软件供应链安全规范，分析了 AI 编程带来的新问题，提出实现可控的侧重点和构建信任闭环的方法
①
传统软件供应链安全规范
法律规范与方法论：传统软件行业有欧盟的 CRA 标准、美国的相关法律条款
②
AI 编程带来的新问题
安全威胁
③
实现可控的侧重点
契约：通过算法驱动编程和沙箱策略，结合可控的软件工程流程，约束大模型行为
④
构建信任闭环
OpenFAIR 软件工厂：在 AI 生成代码过程中，将传统软件的验证、
智能纪要
音频聚焦构建可信 AI 软件工程，介绍了传统软件供应链安全规范，分析了 AI 编程带来的新问题，提出实现可控的侧重点和构建信任闭环的方法，内容如下：
- 传统软件供应链安全规范
- 法律规范与方法论：传统软件行业有欧盟的 CRA 标准、美国的相关法律条款及方法论，用于解决供应链安全问题，要求软件符合 SPOU 等规范，通过透明日志、密码学等实现合规。
- 解决的问题：主要解决商业依赖攻击、供应链攻击等问题，确保软件出厂可信，无被动手脚情况。
- AI 编程带来的新问题
- 安全威胁
- 新型攻击手段：AI coding 流行后，出现新安全问题，如 master 有 144 个 NPMO 被偷植入木马偷大模型密钥，Cuda 出现仿冒客户端，还有大模型生成的乳虫病毒，且这类攻击几乎无 CV1 特征，扫描器难发现。
- 结构性失明：攻击者可仿造签名合法进入供应链，导致传统扫描器无法识别，出现结构性失明。
- 发展趋势：AI 编程趋势从自动补全到多一层工作，再到软件工厂，工程重心向 AI 自动化软件工厂发展，近半年有上下文工程、阿里斯工程、路路工程等不同定义。
- 实现可控的侧重点
- 契约：通过算法驱动编程和沙箱策略，结合可控的软件工程流程，约束大模型行为。
- 验证：将意图编译成规格后，要保证意图可验证，因 AI 编程效率提高，传统供应链体系逐渐失灵，需关注代码编写者责任、契约达标和独立复现问题。
- 构建信任闭环
- OpenFAIR 软件工厂：在 AI 生成代码过程中，将传统软件的验证、签名等加入流程，明确真人审查代码、agent 及使用的 prompt，形成信任闭环。
- 人类评审：软件工厂中至少需两人进行审查，确保代码可追溯，形成完整闭环，最终达到不可跳过人类问责，代码需经人类审查提交。
章节速览
00:01构建可信AI软件工程经验交流分享
本章节主要围绕构建可信AI软件工程展开。说话人1表示感谢与大家交流行业经验，将议程题目从下一代AI软件工程临时改为构建可信AI软件工程，指出上午讨论多侧重可控层面，自己更侧重可信层面，让软件工厂管住过程并使结果可信，此可信主要针对供应链问题，说话人2还提到麦克风相关话。
01:30传统软件供应链安全规范及可信证明问题
本章节围绕可信产品展开，说话人1以大厂咨询问题为例，指出客户担心二进制软件被动手脚，提出要证明出厂软件可信。介绍了传统软件行业有一套规范来解决供应链安全问题，包括欧盟CRA标准、美国法律条款、方法论等，还涉及组件规范、签名，底层运用透明日志或密码学。
04:08AI编码流行下的安全问题及发展趋势
本章节指出今年上半年出现新的安全问题，如AI coding流行时，NPMO被偷密钥、Cuda有仿冒客户端、针对高购用户的乳虫病毒或由大模型生成，这类问题扫描器难以检测，存在结构性失明。还提到AI扣点从自动补全到多一层工作再到软件工厂的发展趋势，工程重心向此转移，近期有多种相关名词定义，都指向AI自动化软件工厂。
06:54AI参与软件工程需关注可控、验证与身份认证
本章节主要讲述大模型行为可控的三个侧重点，即契约（AI扣点）、算法驱动编程和沙箱策略，以及关键的验证环节。指出AI编程效率提高使传统供应链体系失灵，强调软件工程不仅要控制代码质量，更要保证供应链可信。此外，因AI的agent等成为攻击对象，AI身份认证在信任层面需形成闭环。
09:35OpenFAIR软件工厂代码生成与人类审查闭环流程
本章节介绍了 OpenFAIR 软件工厂的相关流程，在 AI 生成代码时将传统软件的验证、签名等加入流程，形成信任闭环。软件可追溯性上需完整闭环，最终要实现不可跳过人类问责，代码可复现但还需人力评审。过程能自动化固件编译，加入相关界面，最后代码提交必须经过人类审查。
🤖 模型解读 · 要点点评AI 生成的第三方点评 · 由大模型 Claude（Opus 4.8）依据本场智能纪要撰写，非主办方 / 演讲者观点，可能有误，仅供参考
张汉东补上了全天最关键也最容易被兴奋情绪忽略的一环：供应链安全。当 AI 大规模生成代码，传统扫描器面对「AI 生成 + 仿冒签名」的攻击出现「结构性失明」。OpenFab 的主张很硬核——把传统软件的验证 / 签名 / 人类问责重新嵌入 AI 生成流程，「代码提交不可跳过人类审查」。
要点AI coding 带来新型攻击：投毒 NPM 包偷大模型密钥、仿冒客户端、几乎无特征的恶意代码，扫描器「结构性失明」。
点评全天对安全风险最具体的警告。AI 生成既放大了攻击面、又让恶意代码更难被特征匹配发现——这是「AI 提效」账单里被系统性忽略的隐性成本。（部分术语为现场转写，宜核对原意。）
要点可控的两个侧重：契约（算法驱动 + 沙箱约束模型行为）+ 验证（意图编译成规格后须可验证）。
点评把「可控」拆成契约与验证两条腿，逻辑清晰。它与林云的需求编译、董劲松的形式化在「规格可验证」上交汇——说明无论从生产还是安全入口进入，终点都是「可验证的规格」。
要点OpenFab 信任闭环：明确真人审查者、agent 及其 prompt，至少两人评审，代码可追溯。
点评「不可跳过人类问责」是这套方案的灵魂，也是对「全自动软件工厂」乌托邦的必要约束。但它与「效率最大化」存在天然张力——人类评审是闭环也是瓶颈，如何在不牺牲可信的前提下扩展，是真问题。
要点上午多讲「可控」，本场补「可信」，主要针对供应链问题。
点评这个「可控 vs 可信」的区分很有价值。可控是「让 agent 别乱来」，可信是「让结果经得起第三方检验」——前者面向过程，后者面向交付物。一个成熟的软件工厂，两者缺一不可。
现场幻灯片 · 3 张
📷 参会者现场拍摄的演讲幻灯片 · 点击放大翻看（支持 ← → ↑ ↓ 键、滑动、自动播放 ▶）。为保护隐私，画面中的人脸已自动打码；按拍摄归集，个别可能串场。
本场涉及 · 知识库
以上为飞书妙记 AI 自动生成的纪要与章节摘要，可能存在识别误差，仅供参考。