日程 › Agent 开发实践 › 纪要

驾驭未来:智能体软件的起源和演进

陈岳
Futurewei
主题三 Agent 开发实践⏱ 14:30–14:45🎙 27 分钟现场录制
📊 信息图 · 一图读懂🎙 27 分钟 · 11 章节 · 17 关联实体
音频围绕开源、智能体软件及相关标准展开,探讨了智能体软件带来的机遇与挑战,分析了 Harness 加模型的发展路径,提出建立标准组织和平台的设想
模型权重问题:模型有效权重可能不到 50%,可修剪大量权重,这是蒸馏的基础,小模型可蒸馏出大模型能力
智能体软件带来的机遇与挑战
软件发展的新时代
智能体软件的应用场景
终端发展场景
Harness 加模型的发展路径
大模型的问题与挑战
建立平台与标准的设想
美国的情况
后续工作计划
探讨合作路径:与社区进一步探讨 Harness 加模型的发展路径,落实在

智能纪要

音频围绕开源、智能体软件及相关标准展开,探讨了智能体软件带来的机遇与挑战,分析了 Harness 加模型的发展路径,提出建立标准组织和平台的设想,内容如下:

  • 智能体软件带来的机遇与挑战
      • 软件发展的新时代
          • 智能体改变软件物种:随着智能体加入,软件进入新时代,与传统软件有本质区别。传统软件是指令驱动、确定性的,需基于需求开发,缺乏环境适应性和容错性,而智能体软件无明确目标,可基于意图自主规划和行动,能自我学习进化。
          • 软件发展的历史与未来:从全球首位程序员阿达·拉芙蕾丝开始,软件开发历经变迁,如今全球约有 3000 万以软件工程为职业的人。未来软件将泛化,可能实现自然交互,如科幻电影中少用键盘鼠标,更多采用语音交互。
      • 竞争格局与社区发展
          • 基金会与标准制定:Linux Foundation 成立了 AI 基金会,致力于制定标准。未来社区形式值得探讨,是人的社区还是 agent 的社区,以及 agent 社区的样子、Linux 是否开放等问题受关注。
          • 传统软件与智能体的差异:传统软件人驱动迭代,而智能体软件自主性强,能自我学习和进化,这为行业带来新的竞争策略和发展方向。
  • 智能体软件的应用场景
      • 终端发展场景
          • APP 形态的变革:当前安卓生态有三四百万 APP,制约了发展。未来 APP 可能变成个性化暂态,模型输出模态可能改变,能直接写 APP,实现千人千面,用户可按需创造功能。
          • 无 APP 手机项目:有项目计划推出无 APP 手机,仅暴露 API 给智能体,通过语音输入,让用户控制智能体产生 APP,去除开发者、SDK 和应用商店等。
      • 工业场景
          • 工业软件的需求:工业软件需确定性和可靠性,也需容错性,以应对复杂环境。如宇宙飞船上的软件,需智能体进行净化、愈合和自修复,产生未预设的技能。
          • AI 在工业软件的应用:AI 已进入自我设计和进化的正向循环,如 Elon Musk 用仿真技术做企业软件,OpenAI 用 12 个月流片成功一款推理芯片。
  • Harness 加模型的发展路径
      • 大模型的问题与挑战
          • 时空衰减特性:Transformer 模型有内生性的时空衰减特性,注意力非线性,远信息关注少,时间反馈误差会积累,导致大规模内存短缺和算力资源倾斜。
          • 模型权重问题:模型有效权重可能不到 50%,可修剪大量权重,这是蒸馏的基础,小模型可蒸馏出大模型能力。
      • Harness 的优势与应用
          • 资源优势:Harness 资源不缺,还可结合人的知识、洞察和指导,在解决问题上有优势。
          • 解决模型问题:Harness 可通过存储换算力,回填信息,降低输出误差,通过验证和负反馈维度,纠正模型错误,提高输出质量。
      • 降低复杂性与提升质量
          • 验证比生成便宜:验证比生成成本低,如数学验证可靠,Rust 编译器输出大量错误信息,提高了语言生成质量。
          • 弱模型提升方法:弱模型通过人类反馈和验证,可提高输出质量,只要概率不为 0,多轮迭代可生成正确结果。
          • 降低软件复杂性:复杂软件不适合 agent 开发,可将其拆分为小应用,更适合 AI 处理。
  • 建立平台与标准的设想
      • 美国的情况
          • AI 基金会:美国有 AI 基金会,融资规模大,一年会员收入达 1000 万美元,不接受中国做黄金会员,且在定义 MCP、agent MCP 等标准。
          • 生态问题:如 Gemini 与安卓的开源可能失去意义,苹果也有其生态,若明年 AI Phone 推出,中国在移动领域缺乏可竞争平台。
      • 建立标准组织和平台
          • 对标 AI Phone 的标准组织:希望建立 open 组织,结合开源、社区和学术界力量,通过实践驱动,将理论在工业界验证,发表论文,参与联合国标准制定。
          • agent 的 OS 平台:期望在 agent 的 OS 上形成类似 OpenCL 的现象级平台,作为未来 agentos 的内核,避免行业分化。
  • 后续工作计划
      • 探讨合作路径:与社区进一步探讨 Harness 加模型的发展路径,落实在平台、标准和开放生态方面的合作。
      • 推动标准建立:积极推进对标 AI Phone 的标准组织建设,以及 agent 的 OS 平台的形成。

章节速览

01:24开源、智能体软件及行业标准相关探讨
本章节说话人1先解决下载网络问题,之后表示接下来进入环节,主要谈开源及相关标准。提到智能体软件带来机会与挑战,软件加智能体进入新时代。还探讨了不同竞争策略,如克劳德模型、哈尼斯与模型结合等。此外,关注Linux Foundation成立AI基金会做标准,以及未来社区形态、agent相关问题和Linux开放性等。
04:09传统软件与智能体对比及AI对软件的影响
本章节对比了传统软件和智能体的特点。传统软件是指令式、确定性的,基于需求开发,无环境适应性和容错性,靠人驱动迭代。而智能体无明确目标和意图,能基于意图自主规划和行动,可自我学习、进化反馈,这是传统软件所不具备的。最后还提出疑问,未来是否AI会取代软件。
05:11软件发展历程、未来趋势及AI智能体展望
本章节探讨了软件发展相关话题。从全球首位程序员阿达·拉芙蕾丝说起,提到如今全球有3000万软件工程从业者,未来软件将泛化,可能实现语音自然交互。还指出资源便宜时使用规模会变大,智能体类似人类使用工具,软件会成为AI可迭代的工具,目前处于较粗任务级别,未来目标是自我演化和增强。
08:00未来终端发展:APP个性化及无APP手机设想
本章节指出有两个与业务相关的关键场景,其中一个对未来终端发展有较大甚至颠覆性影响。当前安卓生态 APP 数量多制约发展,未来 APP 可能成个性化暂态,模型或能写 APP,实现千人千面。还提到有个无 APP 的手机项目,将 API 暴露给智能体,靠语音输入让用户自行创造 APP,希望与社区合作让 AI 产生 APP。
10:22工业软件需求及智能体裁剪要点探讨
本章节围绕工业软件展开,以人类探索宇宙飞船为例,指出当前飞船远程控制方式难以应对大量不确定性。强调工业软件有两个极端需求,既要求确定性、可靠性,又要有容错性,能进行净化、愈合和自修复。还提到可采用类似 Linux 的通用 agent 针对工业场景裁剪,但需满足上述不同需求。
12:24AI自我进化循环,芯片及软件开发进展显著
本章节指出AI已进入自我设计、自我适应、可进化的正向循环。提到Elon Musk的Microhard公司对标Microsoft,用仿真和做风架技术、巨大算力迭代做企业软件;OpenAI在12个月内做出流片成功的推理芯片,由AI打造。AI能为自己造芯片、训练模型再造新芯片,前景激动又不确定。
13:36AI发展算力短缺,harness或成解决方案
本章节指出发展面临算力短缺问题,难以按AI或anthropic方式发展。Transformer有内生性时空衰减特性,大规模内存短缺。提出harness可能是机会,可通过存储换算力,弥补模型规模缺陷。还指出注意力产生高质量输出,误差会累积,模型有效权重可能不到50%,小模型可蒸馏大模型能力。
17:13开源模型迭代优势及harness与模型结合思路
本章节主要讨论模型发展相关问题。指出开源对模型知识扩散重要,开源模型迭代和知识分享更快,模型差距会逐步缩小。美国发展模型投入高资本,而我国可将harness与模型结合,利用已验证技术,同时要解决大模型时空失效问题,通过回填信息、验证、负反馈等纠偏,认为这条思路可行。
20:38降低软件复杂性及Loop工程验证原则探讨
本章节讨论了降低复杂性的规律,如验证比生成便宜,Rust 编译器输出大量错误信息提升生成质量;弱模型输出质量差异源于人类反馈,可通过验证提高正确结果概率。还指出软件不应过于复杂,可拆分小应用。loop engineering 要将更多内容置于可验证区域,提及模型重复已知内容价值有限,这是原则性问题。
23:09人类资源优势及与工程化结合的可能性
本章节强调人的优势,指出工程师不会失业,作为最终判定的兜底人员必不可少。顶级专家在应对未接触过的任务,如鸿蒙开发时,模型学习需要人类大量辅助,要精英开发者提供库。本地化、文化、合规等问题不能靠模型解决,需人类价值判断,认为人跟工程化结合在某些方面是有可能的。
24:32探讨AI领域标准组织、平台构建及发展路径
本章节主要围绕美国AI现状及国内应对策略展开。美国有融资大的基金会定义相关标准,生态上Gemini与安卓、苹果情况特殊,若明年AI Phone推出,中国无移动领域可抗衡平台。提出建立对标AI Phone的标准组织,结合开源、社区和学术界力量;在agent OS上形成类似OpenCL的平台。还指出智能化软件是趋势,希望在平台、标准和开放生态上共同讨论。

现场幻灯片 · 22 张

📷 参会者现场拍摄的演讲幻灯片 · 点击放大翻看(支持 ← → ↑ ↓ 键、滑动、自动播放 ▶)。为保护隐私,画面中的人脸已自动打码;按拍摄归集,个别可能串场。

本场涉及 · 知识库

以上为飞书妙记 AI 自动生成的纪要与章节摘要,可能存在识别误差,仅供参考。
← Panel:Agent 软件工程的理开源项目实践 ① — Arc:Age →