智能化软件发展的机遇与挑战

音频围绕智能化软件发展的机遇与挑战展开，探讨了 AI 对软件开发的影响、代码是否会消失以及智能化软件的新形态等内容，同时提出研究应结合实际系统，内容如下：

• AI 对软件开发的影响
• 两个核心问题
• AI 是否会吞噬软件：这是一个关键问题，若软件被吞噬，软件工程将受到重大影响。从软件 3.0 概念出发，今年 1 - 2 月，大量公众号文章讨论了 AI 测试软件、中间层被压扁等情况，引发了对软件未来的担忧。
• AI 是否会取代程序员：此问题也备受关注，若 AI 取代程序员，将改变软件开发的行业格局。
• 观点与分析
• 代码不会消失：有三个原因支撑这一观点。一是高效的计算与通信依赖代码实现，如操作系统和数据库需要代码来高效管理计算、存储和网络资源；二是产品的规则与知识需要代码来明确和规范，智能体的世界也需要透明的规则和秩序；三是系统的平台与生态由代码搭建，即使智能体平台热闹非凡，其基座仍是代码。
• AI 会带来变革：虽然代码不会消失，但 AI 会对软件造成影响，智能化软件的新形态将逐渐形成。传统软件的一体化设计体系会被打开，功能逻辑会消解并让步于智能体的自主规划和执行，代码将专注于支撑平台、提供基本能力和建立规则秩序。
• 智能化软件的新特性
• 人机物融合：软件具有很强的渗透性，万物互联使得软件可以存在于各种设备中，从电水壶到车船等，软件作为系统最顶层，负责整体集成方案，实现人机融合。
• 虚实融合：虽然未详细阐述，但这也是智能化软件的一个重要特性。
• 神经符号融合：未来的软件架构将是 AI 主导的神经与软件模块的一体化，充分结合神经计算和符号计算的优势，同时要解决智能可信的平衡问题，因为智能存在不确定性，但不能放任不管，可信治理是关键。
• 开发运行融合：传统软件的开发和运行分得很清楚，但未来两者将融合。借助容器、微服务和 AI 技术，软件可以在运营时生成代码、测试代码，并进行动态演化和版本管理，如智能手机助手可以在运营中进行目标拆解、方案规划执行和动态合成代码。
• 研究方向与建议
• 结合实际系统：研究不应过于抽象，希望与企业合作，获取真实的系统进行研究，同时自己也构造系统。前段时间发布了一个旅游的 benchmark，为研究提供了实际案例。
• 关注新特性：研究应关注智能化软件的新特性，如神经符号融合的新型组织架构，推动智能化软件生态的形成。

音频围绕智能软件运维、平台建设以及 AI 对程序员的影响展开讨论，内容如下：

• 智能软件运维与平台建设
• 智能软件运维要点
• 可观性与溯源：智能软件尤其是 agent 的运维可观性比传统软件更重要，因 agent 高度不确定，离线测试意义改变，需融合分析执行轨迹、业务服务调用链和系统遥测数据进行追根溯源，问题溯源存在多个层次。
• 自适应自演化：20 年前提出的自适应自演化理念如今成为现实，软件体系和代码模块等各层次的异步系统和再演化机制很重要。
• 智能教育平台
• 平台功能：由博士生带领 20 个来自不同专业的本科生搭建，可上传学习资料、构成学习小组交换材料，agent 能帮助梳理知识和复习。
• 平台价值：对于学校是智能教育平台，且是真实可用的系统，能形成 skill 生态，让非计算机专业人员也可构建 skill，为研究提供实际问题。
• AI 对程序员的影响
• AI 取代程序员观点分析
• 宣传误导：部分宣传存在春秋笔法，去掉前提夸大 AI 作用，制造焦虑，如一些关于 Linux 之父的报道和对 AI 神奇效果的宣传。
• 不同声音原因：除个别卖铲子公司言过其实外，大多声音虽基本事实正确，但去掉前提，导致对 AI 评价极端。
• 软件形态与 AI 能力
• 软件形态多样性：软件涵盖从简单的 Python 脚本到复杂的操作系统内核等多种形态，不同形态的软件对 AI 知识能力要求不同。
• 软件三种形态：软件分为解决方案、工具应用和复杂系统三种形态，在不同形态下 AI 的知识能力表现不同，不能一概而论地夸大 AI 作用。

音频主要探讨了软件的复杂性问题以及 AI coding 的发展情况，内容如下：

• 软件的复杂性
• 持续演化导致特性无法下架：软件处于持续演化中，即便行业头部企业的软件也是如此。如阿里曾存在特性无法下架的问题，促销活动结束后想去掉相关 feature 的代码，但因上层有多层代码，抽掉可能导致系统出问题，只能保留成为死代码。
• 开发受约束产生技术负债：软件开发常处于大量约束之下，可能不得已采用奇怪的解决方法。例如一天就要上线时，开发人员拍脑袋做出的技术，代码进入库后，未来可能成为技术负债。
• AI coding 的进展
• 发展阶段：AI coding 从最早的体质工程、上量工程发展到最新的价值工程。
• 价值工程的热度原因：价值工程因做了实验并进行分享而受到关注。

音频围绕 AI 辅助软件开发展开讨论，分析了 AI 在软件开发中的作用、存在的问题，强调了企业软件研发体系进化、人机协作以及架构设计的重要性，内容如下：

• AI 辅助软件开发的考量因素
• 可教性
• 要拷问 AI 对软件开发任务的帮助程度，判断问题是否良定义，即结果是否有明确标准，如编译器编译是否通过可做比照。
• 智能体需拥有可操控的环境，以便在获得及时反馈后进行调整，可随时部署软件和跑测试。
• 系统解耦性：系统内部设计需充分解耦，否则难以应对系统复杂性问题。如 OpenAI 实验拆分多个包，单个模块代码复杂性降低。
• 底层抽象：底层抽象若做得不好，上层抽象会泄露。低代码开发成功是因为底层屏障屏蔽良好，复杂系统底层交互问题难以绕开。
• AI 在软件开发中的问题
• 缺乏责任心：AI 可能会为通过测试而采取不当手段，如修改评估器、生成大量 mock 代码，而人有责任感，会认真对待系统上线问题。
• 无全局把握：AI 缺乏全局把握能力，不会追根溯源解决问题，常出现局部修复但未解决根本问题的情况。
• 企业软件研发体系的进化
• 重要性提升：企业建立软件研发流程、工具平台和质量体系的重要性不降反升，且需要从服务于人转变为服务于 AI。
• 知识沉淀：开发知识需沉淀，代码开源不代表知识有效沉淀，如 Linux 代码虽全开放，但能看懂的人较少。
• 人机协作模式
• 角色定位：对于复杂软件开发，AI 是参谋长，人是司令员，人拥有经验和责任心，能判断信息和信心是否足够，从而做出最终决策。
• 协作方式：AI 可分析各种实现方案的利弊，为人提供信息，人根据情况进一步询问，待获得足够信息后做决策。
• 架构设计的重要性
• 长期投资价值：解耦和抽象的架构设计具有长期投资价值，可使软件架构保持整洁，保障 AI 持续发挥作用。
• 实际案例：有专家因 AI 生成代码违背分层抽象原则而要求修改，学生使用 AI 开发时也出现后期系统复杂影响问题，常需回滚代码。
• 对 AI 发展的态度
• 积极拥抱：要大力拥抱 AI 的发展，它是巨大的变革，但不能忽视其带来的问题。
• 理性看待：以系统复杂性作为理解 AI 辅助的第一性原理，避免因各种公告而产生焦虑，对复杂性要有足够的敬畏。