客家人 发表于 2024-12-17 11:39
电信买了一堆算力，打折都卖不出去，英伟达供不应求。
AI框架被誉为AI时代的“操作系统”，其在连接算力、数据和算法方面扮演着桥梁的角色。据中国科学院科技战略咨询研究院近日公布的预测，2024年中国AI框架的新增市场中，昇思（MindSpore）的市场份额将达到30%，其已成为全球主流AI框架的第一梯队。
这是中国AI框架在智能时代的一次重要突围，体现出我国在自主创新道路上的坚定步伐。但与此同时，随着人工智能高速发展，大模型技术加速演进，参数量走向万亿级，序列长度迅速增长，模型结构走向多模态甚至全模态，模型计算过程从单模型单任务走向多模型多任务，深度学习和强化学习相融合，AI框架面临前所未有的挑战与机遇。
对此，在12月14日的昇思人工智能框架峰会上，华为ICT战略与业务发展部总裁彭红华表示，人工智能框架是AI时代的操作系统与软件底座，领先的AI框架需要同时具备“更高效、更敏捷、更开放”的技术与生态能力，未来华为将持续投入昇思，坚持以开源的方式，促进中国人工智能框架生态健康、高速发展。
AI框架的意义
《中国经营报》记者了解到，在AI技术体系中，AI框架处于“承上启下”的位置，南向使能多样化算力，北向孵化各类算法模型，是人工智能应用创新的土壤和源泉。
“在大模型时代需要什么呢？时间倒回去年，大家谈得更多的是需要卡、需要算力、需要硬件。有一位业界知名学者曾很幽默地说过：‘谈卡伤感情，不谈卡就没感情。’这是过去一年的真实写照。到了今天，经过这一年各方努力，把这个问题稍稍缓解，现在有了硬件资源，怎么把资源用好？就是AI大模型训练的框架。”智谱AI CEO张鹏这样说道，“对创业企业来说，卡不便宜，成本巨大。如何把千万元人民币的资源发挥到极致，依靠的就是AI框架和基础设施。首先提升大模型的训练性能，这是必须最优先考虑的事情。如何做到这一点，就是依靠框架的不断改进。硬件提升没那么容易，软件层面如何适配硬件和上层算法，这是我们能做的事情，也是昇思做得很好的事情。”
中国移动对此深有体会。今年，中国移动在哈尔滨建成了全球运营商最大的单体计算机群，但要驾驭好如此大规模的计算装置、发挥出最高性能，AI框架至关重要。
“在一年多的时间里，因为中国移动集群分阶段建设，并不是一次性交付这么大的集群，所以经常遇到集群的迁移和并行策略的迁移。如果并行策略发生迁移，就要重新做实验。”中国移动研究院人工智能与智慧运营中心高级总监王斌说，“我们跟昇思团队攻关了模拟模型编译技术，可以把并行策略的实现时间从原来以周而单位，缩短到以天为单位，这是巨大的跃升。由于训练任务需要做迁移，模型需要经常重新拉齐，拉齐的过程一开始耗时比较长。我们跟昇思团队一起打造了编译缓存和执行器调度技术，让模型任务重新拉齐的时间，从以小时为单位优化到以分钟为单位。综合来看，昇思加NPU的软硬件协同组合已经可以媲美业界最优秀的组合，而且更加稳定。”
王斌还认为，目前我国在半导体先进工艺方面受到了限制，突破需要一定时间。“我们可以基于昇思框架在算法和算子层面开展更多的创新。”
清华大学助理研究员、面壁智能首席研究员韩旭认为，模型脱离不了软件栈和硬件的发展，他所在团队与昇思在软件栈上的合作过程中感到，软硬协同的发展，一方面让端侧模型能在更低资源的设备上运行起来，另一方面，能把更大尺寸的模型在更小的硬件、更小的低资源场景上做到很好的部署。
“随着未来像昇思这样的软件栈的发展越来越快，可以想象，在未来一到两年内，包括具身智能和各种各样更加智能的穿戴设备，甚至更好的人机交互模式会越来越多，越来越有想象力。”韩旭说。
中国AI框架的突破
在过去数十年中，AI框架领域一直由谷歌（Google）和Meta（前身为Facebook）等国际巨头主导。但随着中国AI框架的迅猛发展，昇思、飞桨、BytePS等AI框架诞生，逐渐打破了这一格局。
其中，昇思被业内视为发展最快的AI框架之一。开源四年来，昇思开源社区已汇聚了超过3.7万个开发者，全球下载量突破1100万次。“近几年，昇思开源社区影响力快速提升，目前已跻身全球主流AI框架第一梯队，并将迅速发展成为具有全球影响力的开源社区。”中国人工智能学会副理事长、中国工程院何友说，“昇思不仅提供便捷的操作接口，还像变速箱和传动轴一般，调度算力激发系统最佳性能。昇思创新项目大模型孵化、科学研究、端侧应用等多个技术方向，部分实践已经在金融、能源、制造、科研等行业发挥着重要价值，促进了相关领域的科技和产业发展。”
市场调查企业Omdia发布的报告显示，昇思和飞桨在国产AI框架中的开发者认知度排名，目前已经超过了众多国外非常成熟的AI框架。
随着技术持续迭代创新以及应用场景层出不穷，国产AI框架展现出广阔的前景。当下，全球对AI行业的投入已呈现“井喷”态势，AI框架市场也呈现出蓬勃发展局面。
“中国AI框架市场规模正在呈现快速增长的态势，预计到2025年，整体市场规模有望超过数十亿元。”昇思MindSpore开源社区理事长丁诚说。
目前，昇思开源社区已经孵化支持50多个主流大模型。“我们和中国商飞上海飞机设计研究院联合打造了东方·翼风的仿真大模型，与南方电网深度合作打造了驭电大模型。接下来我们将引入更多的企业及科研机构，创新整体框架支撑更多场景应用与科学创新。”丁诚表示。
开源创新的作用
对于大模型的开源与闭源，业界有着许多争论。中国电信人工智能研究院高级算法总监宋双永认为，开源降低了行业科研人员的准入门槛，否则，从零训大模型成本太高。很多科研人员基于已经开源的大模型基础进行自己的科研，会加速整个行业的进步速度，对整个行业有益。
“从另一个角度来看，从社会意义来讲，无论是互联网大厂还是运营商，作为有能力训练基础模型的厂商，我们把自己花了这么多人力、数据和运算资源训练出来的模型开源，让大家免费使用，这是一种社会责任感，对行业起到了很好的推动作用。还有一个小点，开源是方便大家把开源模型的参数接口进行统一化、归一化，这样使得大模型方向更加标准化，大家的使用更加方便。”宋双永说。
对于AI框架而言，开源的意义也不言自明。据华为方面介绍，昇思自2020年开源以来，技术持续创新，生态繁荣发展。目前已孵化、支持50多个国内外主流大模型；开源版本已累计获得1100万次下载，覆盖全球130多个国家和地区的2400多个城市；3.7万多名开发者参与社区贡献；昇思与360多所高校科研院所展开教学及科研合作，联合1700多位生态伙伴，打造超过2000个解决方案；PaperwithCode网站显示，支持基于昇思原创论文发表累计超过1700篇，位列全球第二、中国第一。
客家人 发表于 2024-12-17 11:39
电信买了一堆算力，打折都卖不出去，英伟达供不应求。
客家人 发表于 2024-12-17 11:39
电信买了一堆算力，打折都卖不出去，英伟达供不应求。
客家人 发表于 2024-12-17 11:39
电信买了一堆算力，打折都卖不出去，英伟达供不应求。
Vladimir_lenin 发表于 2024-12-17 14:18
一个不标注制程的产品··· 第一梯队的可信度嘛···
你能想象一个上百万“豪车”用1.5T发送机（美其名 ...
客家人 发表于 2024-12-17 11:39
电信买了一堆算力，打折都卖不出去，英伟达供不应求。
laozhu 发表于 2024-12-17 11:38
为什么好多人说深思不好用呢
Vladimir_lenin 发表于 2024-12-17 14:18
一个不标注制程的产品··· 第一梯队的可信度嘛···
你能想象一个上百万“豪车”用1.5T发送机（美其名 ...
狼人克星 发表于 2024-12-17 01:29
狼人克星 发表于 2024-12-17 01:29
狼人克星 发表于 2024-12-16 22:08
差距还是不小，还要努力
Area_Code_61706 发表于 2024-12-18 00:00
不遥遥领先啦？你不遥遥领先，就该轮到我说遥遥领先了。
coffee198375 发表于 2024-12-17 15:52
客总真给英伟达招黑。。。。
客家人 发表于 2024-12-18 09:10
本来就是，你看民营企业谁还去买某司的，都去买英伟达，毕竟钱不是大风刮来的。
客家人 发表于 2024-12-17 11:39
电信买了一堆算力，打折都卖不出去，英伟达供不应求。
oooooooo 发表于 2024-12-17 11:41
买不到你说个球
马云的云 发表于 2024-12-18 17:31
你又知道买不到？不知道呆梨商很多吗？
oooooooo 发表于 2024-12-18 17:31
正规途径你买去啊
马云的云 发表于 2024-12-18 17:32
不要太在意途径。能买到就行。
客家人 发表于 2024-12-18 09:10
本来就是，你看民营企业谁还去买某司的，都去买英伟达，毕竟钱不是大风刮来的。
马云的云 发表于 2024-12-18 17:32
不要太在意途径。能买到就行。
coffee198375 发表于 2024-12-20 15:32
云圣不讲规则了？。。。
oooooooo 发表于 2024-12-20 16:04
道德标准很灵活
马云的云 发表于 2024-12-18 17:31
你又知道买不到？不知道呆梨商很多吗？
客家人 发表于 2024-12-18 09:10
本来就是，你看民营企业谁还去买某司的，都去买英伟达，毕竟钱不是大风刮来的。
Vladimir_lenin 发表于 2024-12-17 14:18:26一个不标注制程的产品··· 第一梯队的可信度嘛···你能想象一个上百万“豪车”用1.5T发送机（美其...
| 通信人家园 (https://test.txrjy.com/) | Powered by C114 |