电子行业专题报告:AI大模型需要什么样的硬件?

大模型应用#1:从 Chatbot 到 AI Agent,个人助理重塑手机应用生态

AI 大模型的能力进步推动 Chatbot 在 C 端广泛“出圈”。Chatbot(聊天机器人)通过自动 化方式来处理和回复用户输入,可以模拟人类对话,通过文字或语音与用户进行实时交互。2010 年代,随着 NLP 等技术的发展,Chatbot 已经在客服、营销、企业信息服务等领域得 到了广泛应用。然而,由于语言理解及生成能力有限,因此 Chatbot 的落地范围局限在 B 端特定服务型场景,并未诞生具有广泛影响力的 C 端产品。2022 年 12 月,ChatGPT 在文 本生成、代码生成与修改、多轮对话等领域展现了大幅超越过去 AI 问答系统的能力,标志 着 Chatbot 行业进入 AI 大模型时代。此后,Chatbot 作为 C 端用户体验大模型门槛最低的 产品,成为大模型厂商的“标配”,谷歌 Bard、百度文心一言、阿里通义千问等产品在 2023 年纷纷推出。

在文字对话功能之外,Chatbot 功能随着 AI 大模型能力的发展而迅速丰富。过去一年,我 们看到,各大模型厂商的 Chatbot 产品普遍新增了图像理解、文生图功能,并且新增应用 插件商店以拓展 Chatbot 功能。以 ChatGPT 为例,2023 年 9 月,OpenAI 将 DALL-E 3 整 合到ChatGPT中,从而支持文生图功能。2024年1月,OpenAI正式上线应用商店GPT Store, 当时用户已经创建超过 300 万个 GPTs,主要的 GPTs 涵盖图像生成、写作、科研、编程/ 软件开发、教育、生产力工具和生活七大类别。GPT Store 取代了此前的插件商店(2024 年 3 月关闭),用户不仅可以在平台上分享自己创建的 GPTs,还可以从其他人那里获取各 种 GPTs,形成丰富的 GPTs 生态系统。GPT Store 定制版本可以针对特定任务或行业进行 优化,允许用户与外部数据(如数据库和电子邮件)进行简洁的交互。2024 年 5 月,随着 OpenAI 更新 GPT-4o 模型,ChatGPT 能够识别用户语音的感情,并输出语音,实现如同 与真人对话一般的沉浸式体验。

Chatbot 逐渐向 AI Agent 演进。AI Agent 是指大模型赋能的,具备规划、记忆、工具、行 动能力的智能体。我们认为 Chatbot 的演进方向是智能化和自动化程度逐渐提升,需要人 类参与的程度逐渐下降,逐渐过渡到人与 AI 协作的 Copilot,最终形态是 AI Agent,Agent 只需要人类的起始指令和结果的反馈,具有自主记忆、推理、规划和执行的全自动能力, 执行任务的过程中并不需要人的介入。从 Chatbot 向 AI Agent 的演进过程中,手机应用生态或将发生改变。我们认为手机或是 向 AI Agent 演进率先落地的硬件载体,发挥 AI 个人助理的作用。AI 个人助理可以记住生活 和工作中的各种信息,如下周的晚餐计划或工作会议的内容,并自动整理和索引这些信息;可以帮助用户完成例如安排约会、预订旅行、点餐、播放音乐、回答问题等各种任务。落 地过程中,手机应用生态或将从目前以应用商店+APP 的模式转变为 Agent Store+Agent 的模式,手机厂商可能都会发布自己的 Agent Store。

AI 手机:AI 大模型驱动软硬件升级

手机是人们日常生活较高的交互终端,具有普及率高、使用频率高的特点,考虑终端算力、 存力以及客户应用需求等因素,手机已经成为 AI 大模型在 C 端落地的重要设备。去年底至 今,随着三星 Galaxy S24、Google Pixel 8 等重要产品上市,以及苹果 WWDC 推出 Apple Intelligence,手机 AI 的功能逐渐清晰。目前语音助手、修图、写作助手等功能成为主流。以三星今年 1 月发布的 Galaxy S24 为例,该机型搭载自研大模型 Samsung Gauss,具备 实时翻译/圈选搜图/生成式编辑/笔记助手等功能。软件方面,基于 OneUI 6.1 系统,强化虚 拟助手 Bixby,为用户提供丰富多样的应用服务。据 Techweb,Google 有望在 10 月推出 Pixel9 系列,预计将搭载基于最新 Gemini 模型的 AI 助手,执行复杂的多模态任务。芯片 方面,下半年将发布的骁龙 8Gen4 较上一代产品有望进一步支持 AI 应用。

2024 年 6 月举行的苹果 WWDC 2024 大会推出全新个人化智能系统 Apple Intelligence, 由苹果端侧大模型、云端大模型、ChatGPT 共同组成,算力足够下依赖终端,复杂场景则 使用私密云计算或 ChatGPT,能够 1)增强 Siri 理解能力,配备多轮对话、总结信息、屏 幕内容感知、应用智能交互等能力,2)提供邮件智能回复、通知整理,备忘录和通话录音 /撰写/摘要等功能,3)支持图像生成/智能修图等功能,4)ChatGPT4o 将融入 siri 和 writing tools,作为云端备选模型。我们看到 Apple Intelligence 核心能力包括文生文、文生图、跨 App 交互与个人情境理解,并需要以 OpenAI ChatGPT4o 作为云端备选模型,配备上了目 前已有的大部分 AI 功能。苹果通过 Siri,把 AI 当作手机不同 App 之间联系的工具,而不是 像此前三星和谷歌的 AI 应用更侧重于让 AI 去完成单一特定任务。苹果让 Siri 在未来成为应 用分发入口和流量入口,以超过 13 亿台用户基数生态去提供好的产品解决方案。

IDC 认为,新一代 AI智能手机需拥有至少 30 TOPS性能的 NPU,能够在手机上运行 LLMs, 符合标准的 SoC 包括 Apple A17 Pro、MediaTek Dimensity 9300、Qualcomm Snapdragon 8 Gen 3 等。此类手机在 2023 年下半年开始进入市场。硬件方面,我们看到:1)SoC:AI 引擎升级、NPU 算力提升,SoC 进一步升级确定性强;2)存储:手机 RAM 升级至 24GB LPDDR5X,相较当前主流的 8GB LPDDR4X,成本提 升 300%;3)电源:电池/电源管理芯片升级,但弹性相对较小;4)光学:AI 推动屏下摄 像头应用取得突破。软件方面,新一代 AI 智能手机在系统架构和应用方面更加匹配个性化、 场景化服务需求。软件方面,与功能机和前代智能机相比,新一代 AI 智能手机更加注重场景化服务能力。前 代智能机在功能机的基础上增加了手机 OS 和内嵌语音助手,并针对用户不同需求推出独 立 APP 进行响应。新一代 AI 手机在大模型和原生化服务组件库的基础上,提供用户可定 义的智能体开发平台和专属智能体,实现 AI 文本/AI 图像/Al 语音/Al 视频等功能,满足用户 健康管理/生活服务/角色扮演/高效办公/游戏助手等场景化需求。

据 IDC,全球 AI 手机 2024 年出货量有望同比增长 233%至 1.7 亿台。中国 AI 手机所占份 额自 2024 年以后会迅速增长,预计 2024 年中国市场 AI 手机出货量为 0.4 亿台,2027 年 将达到 1.5 亿台,且 AI 手机渗透率有望在 2027 年超过 50%。我们认为,AI 手机以其智能 化、个性化的特点,有望吸引更多用户进行换机升级,从而引领新一轮的换机潮。

根据 2024 年 4 月 7 日发布的《4 月手机观察:华为份额继续提升,关注 P70 等新机发布》, 根据 IDC 数字,苹果 2023 年销量 2.34 亿台,华泰预测苹果 2024 年销量下降 8.2%到 2.15 亿台。根据 BankMyCell 数字,2024 年苹果手机活跃用户 14.6 亿人,对应目前换机周期 6.23 年,如果 Apple Intelligence 能够缩短换机周期 3 个月,可以带动约 1000 万台新机销 售。利好苹果产业链公司业绩增长(立讯、鹏鼎、环旭、水晶光电、蓝思、东山精密、比 电、鸿腾、瑞声、长电等)。

AR/VR:AI 大模型交互能力,看好智能眼镜等轻量级 AR 发展机遇

AI 大模型有望提升 AR/VR 交互能力,加速其进入主流市场。据 IDC,2023 年,AR/VR 产 品全球出货量 675 万台,同比-23%。随着苹果 VisionPro 发布,AR/VR/MR 出货量在 2024 年有望温和复苏。AI 大模型的出现驱动语音助手、物体识别和生活助理等功能赋能 AR/VR 设备,提升了用户与虚拟环境的互动质量,据 VR 陀螺(2024/6/5),Meta 雷朋智能眼镜出 货量已超百万副,AI 大模型的出现有望加速 AR/VR 技术进入主流市场的步伐。语音助手、物体识别、生活助理等 AI 功能已在 AR/VR 产品中广泛出现。语音助手功能让 AR 眼镜能够通过上下文语义理解与用户进行更自然的交流,如李未可 Meta Lens S3 通过 大型语言模型 AI 系统提供闲聊和建议。物体识别技术使 AR 眼镜能够识别现实世界中的物 体,例如 Meta 雷朋智能眼镜引入建筑识别和菜单翻译功能。此外,生活助理功能与用户的 社交生活深度绑定,提供聊天回复、邮件整理、购物建议等个性化服务。这些 AI 功能的融 合不仅提升了用户体验,还预示着 AR/VR 产品将更加智能化,为用户提供更便捷和个性化 的服务。随着技术的不断进步,预计未来 AR/VR 设备将实现更复杂的多模态 AI 应用,进 一步增强其作为下一代计算平台的潜力。

大模型应用#2:生产力工具的 AI 化有望推动新一轮 PC 换机周期

生产力工具、沟通工具及协作工具经历了 PC 时代、移动互联网时代的演进,正在进入 AI 时代。微软、谷歌与金山办公等公司以 AI 大模型对原有的生产力工具应用进行升级,通常 提供文档理解、文字生成、图片生成、数据分析与处理等等功能,提升用户生产力。

办公:微软、谷歌引领产品矩阵全面 AI 化

微软是全球生产力工具的领导企业,围绕企业业务与管理流程,已经形成了布局完整的产 品矩阵,目前正主导生产力工具的 AI 化。微软的产品矩阵覆盖企业办公、客户关系管理、 资源管理、员工管理、低代码开发等业务环节,微软已经围绕这些业务环节,推出相应的 Copilot 产品,对原有产品进行 AI 大模型赋能。从 Copilot 时点来看,微软首先在主力产品 Office 套件上线 Copilot,然后逐步在企业业务与管理流程的 Dynamics 套件、开发相关的 Power Platform 条件、员工管理的 Viva 套件上线 Copilot。我们认为 Copilot 正以“通用助 手”为切入点,重塑微软生产力工具矩阵,向数据协同、功能联动的方向发展。目前办 公场景 Office、企业业务流程场景 Dynamics 下的 Copilot 已明确单品收费标准。微软的 Copilot 产品分为和家庭两大场景。工作场景方面:1)面向企业办公场景推出 Copilot for Microsoft 365,根据微软 FY3Q24(对 应日历季度 1Q24)业绩会,近 60%的财富 100 强企业正在使用。2)面向企业流程中的财 务、销售和客服场景,分别推出 Copilot for Finance/Sales/Service;3)面向云运营和管理 场景,推出 Copilot for Azure;4)面向 IT 安全场景,推出 Copilot for Security;5)此外, 微软推出 Copilot Studio 支持用户自定义 Copilot,根据 1Q24 业绩会,已有 3 万名用户使 用。家庭应用方面:1)面向 C 端用户办公场景推出 Copilot Pro;2)面向 Win 11 和部分 Win 10 推出 Copilot for Windows,支持通过任务栏上或键盘上的 Copilot 按钮进行快速访问;3) 在 Bing 搜索、Edge 浏览器推出 Copilot。

谷歌将 Gemini 大模型内置在其 2B 云端办公套件 Workspace 中。谷歌将 Gemini for Workspace 的功能定义为:1)写作,例如生成项目计划、提案、简报等、以及优化文本;2)整理,例如通过简单描述创建项目跟踪表格;3)创建图像;4)联系,例如在视频通话 中创建自定义背景,提高声音和视频质量;5)无代码创建应用。金山办公 WPS 已陆续在主要产品上线 WPS AI 服务。WPS AI 已经覆盖文字、演示、PDF、 表格、智能文档、智能表格、智能表单等产品,涵盖了金山办公的主要产品。此外,金山 办公发布了 WPS AI 企业版,推出 AI Hub(智能基座)、AI Docs(智能文档库)、Copilot Pro (企业智慧助理)三大功能。

编程:AI 协助编程开发,提高开发效率与质量

AI 编程工具在功能上具有高度相似性,主要包括自动代码生成、代码分析与错误检测、实 时编程建议。AI 工具的应用极大地提高了开发效率,自动完成编写样板代码、设置环境和 调试等重复性任务,使得开发者能腾出时间进行创造性开发;实时语法与错误检查功能有 助于提升代码质量,减少代码调试时间,加快开发过程。根据微软官网调查数据,使用 AI 工具辅助编程后,74%的开发人员反映能够专注于更令人满意的工作,88%的使用者感觉 工作效率更高,96%的开发人员在处理重复性任务时速度更快。

GitHub Copilot 是 AI 编程领域最具代表性的 AI 工具,由 OpenAI 与 Microsoft 合作开发。Copilot 具备强大的网络搜索和推理决策能力,能回答开发过程中的问题。比如通过自然语 言描述需求,Copilot 可以自动生成代码,并提供部署建议。据微软 FY3Q24(对应日历季 度 1Q24)业绩会,GitHub Copilot 付费用户数已达到 180 万,环比增速 35%以上,收入同 比增长超过 45%。2024 年 5 月微软 Build 大会进一步升级 GitHub Copilot,包括 1)更新 Extensions,提升开发者的效率。开发者在编写代码之外花费了 75%的时间用于追踪工作 流和撰写文档。Extensions 将所有流程整合在一起,可从 Neovim、JetBrains IDE、Visual Studio 和 Visual Studio Code 等多种编辑器实时工作,减少上下文切换,开发者只需专注 于核心代码。2)推出 Copilot Workspace,提高团队使用 GitHub 管理项目的效率,提供清 晰的代码变动可视化界面,增强项目掌控感。3)推出 Copilot connectors,便于开发者用 第三方数据和应用定制 Copilot,提升开发效率。例如,开发者可以用西班牙语语音要求 Copilot 用 Java 编写代码,或询问 Azure 资源的可用性。

PC:AI PC 24 年下半年渗透率有望持续提升

AI PC = 边缘算力+内置大模型。目前 AI PC 定义众多,芯片厂商、PC 品牌厂商、第三方 机构均各自有自己的定义。我们认为广义来说,处理器具有 NPU 提供的边缘算力能力,以 及具有内置大模型,就可以称之为一款 AI PC。以联想 4/18 推出的 AI PC 系列产品看,目 前 AI PC 主流功能可以分为 8 类,PPT 智能创作、文生图、文档总结、智能问答、AI 识图、 会议纪要、智会分身、设备调优,我们认为这是公司在 AI PC 的初期尝试,预计 24 年底全 新一代 AI PC 随着处理器升级而推出后,全球 AI PC 渗透率有望更快提升。IDC 预计全球 PC 出货总量稳定增长,AI PC 渗透率持续提升,2027 年或达 60%。根据 IDC 数据,2023 年全球 PC 出货量约 2.5 亿台,AI-capable PC 出货量 0.25 亿台,市占率约为 10%;2024 年全球 PC 出货量 2.75 亿台,AI-capable PC 市占率约 19%;预计到 2027 年, 全球 PC 出货量为 2.93 亿台,届时 AI-capable PC 市占率有望达到 60%。

AI PC 下 NPU 与独立 GPU 方案或将长期共存。AI 应用落地将对 PC 算力提出更高要求, 高通、英特尔、AMD 等芯片厂商纷纷展开布局,陆续推出针对 AI PC 场景优化的芯片产品。在 PC 侧,使用独立 GPU 运行 AI 运载,具备高性能、高吞吐量等优势,但功耗高;NPU 方案更具高能效、低功耗等特点,但对高性能要求 AI 负载支持能力有限。考虑 AI 任务需求 以及用户偏好不同,我们认为 AI PC 市场使用 1)CPU+NPU+GPU 处理器(英特尔 Meteor Lake/AMD 8040 等);2)CPU+独立 GPU;3)CPU+NPU+GPU 处理器+独立 GPU 等组 合作为处理 AI 负载主力的算力架构方案或将长期共存。2022 年,据 IDC 数据,ARM 架构 CPU 在 PC 市场的市占率约 11%,主要布局厂商为苹果。2023 年 10 月,高通推出的基于 ARM 架构 X Elite 芯片具备突出的 AI 性能表现,符合 AI PC 发展趋势,有望带来 ARM CPU 在 PC 市场取得进一步突破。2024 年 6 月举行的 COMPUTEX 2024 上,ARM CEO Rene Haas 表示称,Arm 预计将在五年内拿下 Windows PC 市场 50%以上的份额。

AI PC 推动存储规格升级,DRAM 最低 16GB、LPDDR 占比或逐渐提高。1)阿里通义千 问7B模型的原始大小是14.4GB,在联想的Lenovo AI now中运行的模型则压缩到了4GB。由此,AI大模型+电脑本身的缓存,大概只要5-6G内存能运行起来,而OS本身需占用5-6GB, 故未来运存最低也需要 16GB 才能保证 PC 稳定运行。2)根据 Trendforce,Qualcomm Snapdragon X Elite、AMD Strix Point 及英特尔 Lunar Lake,三款 CPU 的均采用 LPDDR5x, 而非现在主流的 DDR SO-DIMM 模组,主要考量在于传输速度的提升;DDR5 目前速度为 4800-5600Mbps,而 LPDDR5x 则落于 7500-8533Mbps,对于需要接受更多语言指令,及 缩短反应速度的 AI PC 将有所帮助。今年 LPDDR 占 PC DRAM 需求约 30~35%,未来将 受到 AI PC 的 CPU 厂商的规格支援,从而拉高 LPDDR 导入比重再提升。硬件级的安全芯片确保隐私安全。根据联想和 IDC 联合发布的《AI PC 产业(中国)白皮书》, AI PC 需要设备级的个人数据和隐私安全保护,除了个性化本地知识库提供本地化的个人数 据安全域以及本地闭环完成隐私问题的推理之外,还可能引入硬件级的安全芯片在硬件层 面确保只有经过授权的程序和操作才能读取、处理隐私数据。此外联想等厂商也同样在自 研 AI 芯片(如联想拯救者 Y7000P、Y9000P、Y9000X、Y9000K 四款新品笔记本搭载的 搭联想自研 AI 芯片——LA 系列芯片),实现智能的整机功耗分配。

大模型应用#3:AI 大模型推动具身智能技术加速迭代