通信人家园

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索

军衔等级:

  少将

注册:2015-11-2608
跳转到指定楼层
1#
发表于 2024-8-5 10:08:40 |只看该作者 |倒序浏览
王洪军 李娟 天翼智库

AI大模型进入2.0时代,行业焦点由壮大模型参数转向PC、手机、XR、汽车以及泛智能等领域的端侧应用落地场景。电脑(PC)服务与AI大模型应用领域高度契合,率先成为商用大模型的“理想载体”;传统PC和云电脑(Cloud PC)均将AI作为重构产品形态的变革方向,前者如联想、惠普等与英特尔、AMD的新CPU路线图同步,推出全新AI PC;后者如中国电信推出汇聚AI助手和各类大模型应用的天翼AI云电脑。从实践意义上说,PC智能化率先打响了基于大模型的人机跨端交互和应用创新第一枪。

640?wx_fmt=png
相向而行的智能PC终端

PC和云电脑作为各具特点的AI能力载体,代表了大模型在终端应用中的两个典型方向。

1.大模型在PC终端应用的两个定位:数字孪生和智能工具

AI PC着眼于为使用者提供个人的数字孪生,而AI云电脑定位是有智能的工具。

AI PC较传统PC进步的本质在于本地化个人大模型和个人数据库的形成,使终端能主动理解使用者意图,帮助用户实现各类任务事件的推理、计划和行动,让AI PC成为真正了解个人需求的专属助手,将逐步转变为个性化、专属化的AI孪生体。

AI云电脑因实体终端配置较低,本地化AI功能受限,以提供在线AI应用为主,定位满足在线教育、家庭娱乐、企业办公等特定电脑云场景需求的工具,如文档总结、AI绘图、文档创作和代码生成等;其个人专属化特征和能力相对弱化,短期即便AI应用不断丰富也不会改变工具性定位。

2.大模型在终端的两种能力架构:端侧能力和云侧能力

AI PC以NPU(神经网络引擎)介入来保障端侧本地化大模型算力,AI云电脑则强调云端大模型无限扩展能力。

AI PC以本地算力为卖点,CPU+GPU+NPU增强架构可装载足够“巨大”的大模型,以MacBook 为例,强大芯片配合高效能16核NPU,支持700亿参数大型语言模型 (LLM)和图像生成扩散模型,甚至不需要任何剪枝和模型蒸馏压缩;国内联想、海尔等AI PC也可离网运行200亿参数的大模型。

AI云电脑以云端弹性算力为特征,本机化部署大模型不具备经济性,且大模型占用存储空间较大,以苹果公司70B大模型为例,仅模型文件就超100 GB,已超过多数云电脑的总体硬盘空间。目前形成两种云侧能力支持模式,一是以数据中心级的云端算力,提供重量级、智能化的大模型服务,并对个人用户支持随时按需订购AIGC套餐,理论上具备近无限的扩展能力;二是支持以私有算力部署私有化AI大模型,实现多台云电脑按需调用。

3.大模型在终端的两种应用生态:原生和汇聚

AI PC强调整体系统的原生AI能力,而AI云电脑以AI应用聚合模式为主。

AI PC通过底层芯片支持的原生AI能力增强,提供强大的大模型应用全新体验。如英特尔基于酷睿Ultra,增强消费级领域AI应用支持,包括对话、PC助理、Office助手、个人知识库、图像处理以及AI管理等全新场景应用;再如Windows 11 AI PC,基于与高通X Elite芯片合作,提供大量 Arm64 原生应用程序体验,包括Microsoft 365应用,以及爱奇艺、哔哩哔哩、Foxit PDF Editor、酷狗音乐、QQ 音乐等。

640?wx_fmt=png
图1 英特尔AI PC六大场景

AI云电脑因其操作系统底层受限以及云端使用的特征,不提供基于终端底层能力的原生AI支持,更多以AI中心的打造,调用和汇聚生态应用。目前主要通过AI助手、AI空间、AI客服三大功能模块,为办公、教育、创作、生活等场景提供智能化支持。如天翼AI云电脑调用自有星辰大模型提供AI助手服务,同时在AI空间聚合智慧备课、智能评卷、图文生成、PPT生成、报告生成等场景化应用 。

4.大模型实现终端侧普及的两种商业路径:边缘硬件增强与边际成本下降

AI PC以终端能力提升获得大模型持续低成本使用;AI云电脑则依赖云端大模型边际成本持续降低带来的价格下降或免费模式。
AI PC硬件以有限的成本上升,实现了本地大模型应用能力的实质改变,商业化速度超出行业预期。早期业界预计AI PC定价有望达到传统PC的2-3倍,呈现初期高价、中后期下探渗透的特点;而实际上,得益于芯片快速成熟商用,业界AI PC价格一步到位,较传统PC未出现明显的价格上升,如联想AI PC在5K+的价位上推出,涨幅在6%左右,苹果新款iPad Pro涨幅也在10%以内。

云电脑的融AI能力无需本地硬件能力提升,如AI云电脑除定制云笔电增加快捷访问按钮外,本地和云端的硬件并无差异;其AI能力普及取决于所调用大模型的成本。近日字节、百度、阿里等企业生成式AI服务价格集中下调,如阿里Qwen—Long API输入价格降至0.0005元/千tokens(降幅97%),豆包最强版主力模型输入定价降至0.0008元/千tokens,已形成“更强模型,更低价格”的AI普及基础。

5.大模型保障数据安全的两种服务模式:个体应用和集体应用

AI PC以本地化数据和电脑厂商背书增加安全性保障, AI云电脑则以私有云化的部署模式实现集体数据的安全防护。

AI PC大模型本地运行的特点,在保证个人隐私和数据安全方面具有天然优势,厂家可根据用户敏感信息的调用和训练要求,为不同隐私级别的任务合理分配安全策略;如微软全系 Win11 AI PC启用 Pluton Security 处理器,引入多种个性化的隐私控制新功能并默认设置,以保障用户数据安全。此外,我国明确规定“生成式人工智能服务提供者应对用户的输入信息和使用记录承担保护义务” ,因此厂家背书安全保障更具有可信赖性。

AI云电脑厂商同样注重模型和数据安全的加密防护,不仅数据传输、存储和处理过程中有多重加密技术,更重要是通过私有云模式的部署确保数据在企业内实现安全闭环。对于中大型客户而言,基于私有算力和自有大模型,赋能本企业的云电脑终端,可以保障“数据不出单位”,是云侧大模型既安全又经济的服务模式。但对于个人用户而言,调用AI大模型的动作均在云端运行,数据不可避免成为公共大数据的一部分。

640?wx_fmt=png
智能PC发展呈现四方面特征

尽管AI PC和AI云电脑的大模型应用模式有明显差异,但其共性特点代表了未来的智能PC特征。

1.PC成为大模型应用汇聚的窗口平台,且逐渐走向深度定制模式

PC已成为主要的AI应用窗口。PC终端作为用户直接连接的通道和载体,基于智能PC的AI应用场景具备了丰富和普及的基础,成为大模型产业生态的核心中枢和应用抢滩的早期阵地。

原生和定制应用成为主流模式。不同于可自由安装的APP Store模式, AI大模型应用需要与终端能力充分适配,以符合被个人智能体调度的标准。用户在终端AI使用中不会进行比较和选用,而是根据需要,自然调用自有模型应用或合作定制的原生AI能力;在同一PC上,AI应用“散兵式”的竞争局面基本不会出现。

2.助手能力成为智能PC终端的标配型应用,逐步由初级代理向超级助手过渡

AI PC和AI云电脑均以全局型AI助手实现全新的人机交互方式,代理能力从应用调度向超级助手升级。一方面,实现自然语言和语音命令对电脑操作,如Cortana和Siri等, Open AI则实现基于屏幕操作识别、图文手势等语音和图像增加的交互能力,人机对话更贴近人人交互。另一方面,智能体能力从本机应用自动调度向全能型助手升级,包括帮助个人完成着装、日程、法务、理财方面的建议或实际操作,或对企业的重大活动安排提供议程设计、效果推演等。

消费模式从应用驱动转变为意图驱动,智能体将成为应用的主门户。PC操作从传统的应用驱动转变为智能意图驱动,PC准确理解用户指令,给出恰当的反馈,进而完成相对复杂的任务;如Copilot基于最新GPT-4o模型所实现的“回顾(RECALL)”功能,可自动给出新的旅行计划或自动完成特定任务。

3.算力向端侧迁移,混合式AI成为终端能力的基本形态

终端侧和边缘侧算力对大模型的支持能力明显增强,端云协同的混合AI成为智能PC大模型应用的基本模式。

两种端云算力协同模式。主要表现为PC终端算力与大模型平台的协同、(瘦)终端+私有主机+平台的端边云协同模式,基本克服传统云侧集中式学习范式在实时性、个性化、负载成本等方面的不足,满足端侧对于 AI逐步释放的需求。

三种端云任务处理协同模式。1)以终端为中心的混合 AI,云端仅用于分流处理终端无法充分执行的任务;2)基于终端感知的混合AI,边缘侧感知模型作为过程输入,云端多模态大模型形成最终处理结果;3)终端与云端协同处理的混合 AI,即终端向云端发送的多个 token,由云端大模型一次读取和并行计算,根据场景、时限、复杂度、精确度等要求自动分配 AI 计算负载,提升模型运算效率和节省功耗。

640?wx_fmt=png
图2 AI云电脑端云协同的大模型服务模式

4.数据安全的地位被进一步提高,可信赖的个人隐私和数据安全是发展基础

数据安全是保障大模型在终端侧走向个人数字孪生的基础,否则就只能作为有智能的工具。以AI PC为例,不仅要在安全芯片等硬件方面确保只有经授权的程序和操作才能读取、处理个人隐私数据,更要在策略方面保障以本地知识库提供个性化的数据安全域,以本地推理机制保障隐私问题不出本机,仅限授权且非敏感任务与云端交互或调用公共大模型处理等。

可以预见,大模型为智能PC带来颠覆性的创新应用空间。无论运营商还是传统PC厂商,作为布局大模型的先行者,均需顺应面对产业革新趋势,明确产品定位和发力方向,抢滩智能PC市场。

举报本楼

本帖有 1 个回帖,您需要登录后才能浏览 登录 | 注册
您需要登录后才可以回帖 登录 | 注册 |

版规|手机版|C114 ( 沪ICP备12002291号-1 )|联系我们 |网站地图  

GMT+8, 2024-12-28 19:18 , Processed in 0.257813 second(s), 19 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部