开源项目实践 ② — OpenFab：下一代软件工厂

音频聚焦构建可信 AI 软件工程，介绍了传统软件供应链安全规范，分析了 AI 编程带来的新问题，提出实现可控的侧重点和构建信任闭环的方法，内容如下：

• 传统软件供应链安全规范
• 法律规范与方法论：传统软件行业有欧盟的 CRA 标准、美国的相关法律条款及方法论，用于解决供应链安全问题，要求软件符合 SPOU 等规范，通过透明日志、密码学等实现合规。
• 解决的问题：主要解决商业依赖攻击、供应链攻击等问题，确保软件出厂可信，无被动手脚情况。
• AI 编程带来的新问题
• 安全威胁
• 新型攻击手段：AI coding 流行后，出现新安全问题，如 master 有 144 个 NPMO 被偷植入木马偷大模型密钥，Cuda 出现仿冒客户端，还有大模型生成的乳虫病毒，且这类攻击几乎无 CV1 特征，扫描器难发现。
• 结构性失明：攻击者可仿造签名合法进入供应链，导致传统扫描器无法识别，出现结构性失明。
• 发展趋势：AI 编程趋势从自动补全到多一层工作，再到软件工厂，工程重心向 AI 自动化软件工厂发展，近半年有上下文工程、阿里斯工程、路路工程等不同定义。
• 实现可控的侧重点
• 契约：通过算法驱动编程和沙箱策略，结合可控的软件工程流程，约束大模型行为。
• 验证：将意图编译成规格后，要保证意图可验证，因 AI 编程效率提高，传统供应链体系逐渐失灵，需关注代码编写者责任、契约达标和独立复现问题。
• 构建信任闭环
• OpenFAIR 软件工厂：在 AI 生成代码过程中，将传统软件的验证、签名等加入流程，明确真人审查代码、agent 及使用的 prompt，形成信任闭环。
• 人类评审：软件工厂中至少需两人进行审查，确保代码可追溯，形成完整闭环，最终达到不可跳过人类问责，代码需经人类审查提交。