通信人家园

标题: 想租运营商的云算力用来研究AI开源模型  [查看完整版帖子] [打印本页]
时间:  2025-12-1 16:48
作者: chenftd     标题: 想租运营商的云算力用来研究AI开源模型

如题，买不起显卡，租用运营商，比如移动的云计算服务来研究开源的AI大模型可不可靠，行不行？
时间:  2025-12-1 17:00
作者: xh1028

这个取决于你有多少预算来搞研究。本身算力都是“通用”的（加上引号以免有缘人钻显卡的品牌）
时间:  2025-12-1 17:11
作者: chenftd

xh1028 发表于 2025-12-1 17:00
这个取决于你有多少预算来搞研究。本身算力都是“通用”的（加上引号以免有缘人钻显卡的品牌）

完全没接触过。运营商的云服务跟“阿里云”这些有没有差距？我的意思是租哪种性价比高一点
时间:  2025-12-1 17:19
作者: xh1028

chenftd 发表于 2025-12-1 17:11
完全没接触过。运营商的云服务跟“阿里云”这些有没有差距？我的意思是租哪种性价比高一点

性能上没有太大差别，运营商一般可以理解性价比高点，阿里系胜在生态好，在应用开发时不同的实例接口支持的比较丰富和规范，拿来做研究差别不大
时间:  2025-12-1 17:21
作者: xh1028

怎么说呢就是你要做架构应用，要调用不同的中台能力和接口，优选阿里平台。要是研究点个体，纯性能需求其他平台差别不大
时间:  2025-12-1 17:30
作者: hzm17

提个醒，运营商的智算算力基本上都是国产化的，你的研究内容需要适配国产化资源~
时间:  2025-12-1 17:32
作者: hzm17

xh1028 发表于 2025-12-1 17:00
这个取决于你有多少预算来搞研究。本身算力都是“通用”的（加上引号以免有缘人钻显卡的品牌）

智算算力并不太通用，运营商的N卡比较少、国产化的居多，大部分的训练都需要N卡生态~
时间:  2025-12-1 17:34
作者: xh1028

hzm17 发表于 2025-12-1 17:32
智算算力并不太通用，运营商的N卡比较少、国产化的居多，大部分的训练都需要N卡生态~

你就属于第一条那个有缘人
时间:  2025-12-1 17:38
作者: laozhu

智算算力还是很贵的
时间:  2025-12-1 17:39
作者: xh1028

hzm17 发表于 2025-12-1 17:32
智算算力并不太通用，运营商的N卡比较少、国产化的居多，大部分的训练都需要N卡生态~

请留意下，哪个算力平台不是多元化算力调度，标明N或国产 只支持一种还能卖的出去？
时间:  2025-12-1 18:50
作者: 不吹不黑

可行不哩？？
时间:  2025-12-2 08:23
作者: hzm17

本帖最后由 hzm17 于 2025-12-2 08:23 编辑
xh1028 发表于 2025-12-1 17:39
请留意下，哪个算力平台不是多元化算力调度，标明N或国产 只支持一种还能卖的出去？

很多训练工具都需要N的生态支持，现实情况是泾渭分明~
国产化基本上只用来跑跑DS或千问之类的LLM~
时间:  2025-12-2 08:26
作者: hzm17

chenftd 发表于 2025-12-1 17:11
完全没接触过。运营商的云服务跟“阿里云”这些有没有差距？我的意思是租哪种性价比高一点

阿里云一般指的是通算算力（云主机），而模型训练需要智算算力（显卡集群），完全不一样的~
时间:  2025-12-2 09:10
作者: chenftd

xh1028 发表于 2025-12-1 17:21
怎么说呢就是你要做架构应用，要调用不同的中台能力和接口，优选阿里平台。要是研究点个体，纯性能需求其他 ...

时间:  2025-12-2 09:11
作者: 努力不苦逼

hzm17 发表于 2025-12-2 08:26
阿里云一般指的是通算算力（云主机），而模型训练需要智算算力（显卡集群），完全不一样的~

大佬，这方面的介绍，哪里可以阅览学习下？
时间:  2025-12-2 09:14
作者: hzm17

努力不苦逼 发表于 2025-12-2 09:11
大佬，这方面的介绍，哪里可以阅览学习下？

B站上有智算科普，可以先了解下，这些都是常识~
跟实践或搞研究还有十万八千里~
时间:  2025-12-2 09:16
作者: hzm17

xh1028 发表于 2025-12-1 17:34
你就属于第一条那个有缘人

基本的常识你都搞不清楚，就别“有缘人”了~
时间:  2025-12-2 09:48
作者: apollo0105

你这个问题，没意义，就好像在问“我想办电话卡，应该办哪家的”一样。。。
如果局限运营商的公有云，那就是天翼云还有移动云咯，没挑的了。沃云就。。。参考一下就好
剩下就是你自己比比价，看想用什么卡，开资源用就是了
时间:  2025-12-2 10:08
作者: chenftd

apollo0105 发表于 2025-12-2 09:48
你这个问题，没意义，就好像在问“我想办电话卡，应该办哪家的”一样。。。
如果局限运营商的公有云，那就 ...

时间:  2025-12-2 10:33
作者: sdjninghu

现实是可以，你需求可以联系我。
时间:  2025-12-2 13:21
作者: 奋斗士

本帖最后由 奋斗士 于 2025-12-2 13:47 编辑

你这是公有云业务，参考这个

公有云大模型.jpg


附件: 公有云大模型.jpg (2025-12-2 13:20, 26.13 KB) / 下载次数 0
https://test.txrjy.com/forum.php?mod=attachment&aid=NzA5NTMxfDI1OGUyOGZjfDE3NjUwNzAyMDJ8MHww
时间:  2025-12-2 13:52
作者: mrzhj

首先要明白你的需求是以英伟达芯片为主还是以国产GPU为主，如果是前者则运营商的云不占优势，如果是后者则运营商的还行，三家之间你就比一下价格，一般移动和电信会好一点。
时间:  2025-12-2 13:53
作者: 奋斗士

通义千问已累计开源模型超300个，全球下载量突破6亿次，衍生模型数量逾 17万个，位居全球开源大模型首位。



Y衍生模型17万.jpg


附件: Y衍生模型17万.jpg (2025-12-2 13:52, 304.4 KB) / 下载次数 0
https://test.txrjy.com/forum.php?mod=attachment&aid=NzA5NTM1fDY5OWRiODcxfDE3NjUwNzAyMDJ8MHww
时间:  2025-12-2 15:08
作者: 奋斗士

mrzhj 发表于 2025-12-2 13:52
首先要明白你的需求是以英伟达芯片为主还是以国产GPU为主，如果是前者则运营商的云不占优势，如果是后者则运 ...

百度、阿里、字节，一样都有他们自研的国产芯片，功能、性能都很强


青海联通绿算.jpg

平头哥.jpg



附件: 平头哥.jpg (2025-12-2 15:07, 51.85 KB) / 下载次数 0
https://test.txrjy.com/forum.php?mod=attachment&aid=NzA5NTQyfDIzY2FmYjU0fDE3NjUwNzAyMDJ8MHww

附件: 青海联通绿算.jpg (2025-12-2 15:07, 250.05 KB) / 下载次数 0
https://test.txrjy.com/forum.php?mod=attachment&aid=NzA5NTQzfDliMDdlYTNhfDE3NjUwNzAyMDJ8MHww
时间:  2025-12-2 15:32
作者: jjxjjx

可以行
时间:  2025-12-2 20:04
作者: xh1028

hzm17 发表于 2025-12-2 09:16
基本的常识你都搞不清楚，就别“有缘人”了~

没办法，防的就是你钻牛角尖
时间:  2025-12-2 20:06
作者: xh1028

xh1028 发表于 2025-12-1 17:39
请留意下，哪个算力平台不是多元化算力调度，标明N或国产 只支持一种还能卖的出去？

你以为我不认识CUDA，我说的也很明确一般有算了的平台，是多种都会有，任选择。这不是租哪家需要考虑的
时间:  2025-12-2 22:41
作者: qcx991

我有高配的云主机，给你优惠
时间:  2025-12-3 08:26
作者: hzm17

xh1028 发表于 2025-12-2 20:04
没办法，防的就是你钻牛角尖

这叫牛角尖吗？还算力“通用”，通用搞国产化干嘛~~
时间:  2025-12-3 08:27
作者: hzm17

xh1028 发表于 2025-12-2 20:06
你以为我不认识CUDA，我说的也很明确一般有算了的平台，是多种都会有，任选择。这不是租哪家需要考虑的

呦~还知道CUDA，不容易~~
时间:  2025-12-3 08:28
作者: hzm17

奋斗士 发表于 2025-12-2 15:08
百度、阿里、字节，一样都有他们自研的国产芯片，功能、性能都很强

性能都在PPT上~很多训练工具和小模型不适配~
时间:  2025-12-3 08:50
作者: dreambotty

自己堆5090吧，万一以后不搞了，芯片出了也不怎么亏钱
记得入关申报。
时间:  2025-12-3 09:22
作者: 奋斗士

hzm17 发表于 2025-12-3 08:28
性能都在PPT上~很多训练工具和小模型不适配~

国产卡里，软硬件生态做的比较好的，据说是寒武纪：拿过去就能用，BUG少
时间:  2025-12-3 09:27
作者: hzm17

奋斗士 发表于 2025-12-3 09:22
国产卡里，软硬件生态做的比较好的，据说是寒武纪：拿过去就能用，BUG少

寒武纪主做端侧芯片，跟华为910B、百度P800这些GPU是两回事儿~
时间:  2025-12-3 10:36
作者: xh1028

hzm17 发表于 2025-12-3 08:26
这叫牛角尖吗？还算力“通用”，通用搞国产化干嘛~~

国产化是政治需求，不是应用产品需求
时间:  2025-12-3 10:37
作者: xh1028

hzm17 发表于 2025-12-3 08:27
呦~还知道CUDA，不容易~~

少T   M阴阳怪气，能讨论讨论  不能一边凉快去
时间:  2025-12-3 10:38
作者: hzm17

xh1028 发表于 2025-12-3 10:36
国产化是政治需求，不是应用产品需求

你就说“通用”不“通用”吧~
通算、智算、超算你都给讲讲~
时间:  2025-12-3 10:39
作者: hzm17

xh1028 发表于 2025-12-3 10:37
少T   M阴阳怪气，能讨论讨论  不能一边凉快去

胡说八道、信口胡诌的见一个怼一个~
时间:  2025-12-3 10:41
作者: xh1028

hzm17 发表于 2025-12-3 10:38
你就说“通用”不“通用”吧~
通算、智算、超算你都给讲讲~

哎  停~我不懂，我也没有要解释这仨的区别和联系，也不在题主的讨论的范围
时间:  2025-12-3 10:45
作者: xh1028

hzm17 发表于 2025-12-3 10:39
胡说八道、信口胡诌的见一个怼一个~

胡说八道啥了，我回的每次都有事实依据，你找找哪个算力官网上还区分国产和非国产？
时间:  2025-12-3 10:46
作者: hzm17

xh1028 发表于 2025-12-3 10:41
哎  停~我不懂，我也没有要解释这仨的区别和联系，也不在题主的讨论的范围

不懂就别误导他人~最基本的常识先学了再来说~
时间:  2025-12-3 10:47
作者: xh1028

hzm17 发表于 2025-12-3 10:39
胡说八道、信口胡诌的见一个怼一个~

运营商是国产的多，这是他服务的政治属性决定的，但不代表他绝对没有nvidia
时间:  2025-12-3 10:48
作者: hzm17

xh1028 发表于 2025-12-3 10:45
胡说八道啥了，我回的每次都有事实依据，你找找哪个算力官网上还区分国产和非国产？

又开始胡诌了~官网上订购资源连GPU型号都要区分选择的~
时间:  2025-12-3 10:48
作者: xh1028

hzm17 发表于 2025-12-3 10:46
不懂就别误导他人~最基本的常识先学了再来说~

那条误导了？错了我道歉
时间:  2025-12-3 10:50
作者: hzm17

xh1028 发表于 2025-12-3 10:47
运营商是国产的多，这是他服务的政治属性决定的，但不代表他绝对没有nvidia

运营商当然有N卡，但禁售后无法公开销售~别啥不懂得都扯ZZ~
时间:  2025-12-3 11:14
作者: hzm17

xh1028 发表于 2025-12-3 10:48
那条误导了？错了我道歉

“本身算力都是“通用”的

性能上没有太大差别”

……
时间:  2025-12-3 11:22
作者: xh1028

hzm17 发表于 2025-12-3 11:14
“本身算力都是“通用”的

性能上没有太大差别”

1、我的理解他指算力是AI智算是依靠GPU或NPU提供的算力为主，不是通算能力。2.结合现有共有云（含运营商）的提供能力看，各家均有各类型智算算力，（重点）且不必考虑架构和品牌。3.“通用”加引号是指的上述表述既不代表通用算力也不特指具体品牌架构。这么说够不够清晰？
时间:  2025-12-3 11:25
作者: hzm17

xh1028 发表于 2025-12-3 11:22
1、我的理解他指算力是AI智算是依靠GPU或NPU提供的算力为主，不是通算能力。2.结合现有共有云（含运营商） ...

通算是通算，智算是智算~先把这个常识搞清楚，别急着狡辩~
时间:  2025-12-3 11:27
作者: xh1028

hzm17 发表于 2025-12-3 11:14
“本身算力都是“通用”的

性能上没有太大差别”

性能没差是指的云平台和自建区别，你自己建CUDA固定量级和租用CUDA固定量级的性能差别不大，国产也一样
时间:  2025-12-3 11:28
作者: xh1028

hzm17 发表于 2025-12-3 11:14
“本身算力都是“通用”的

性能上没有太大差别”

至于他需要哪个架构哪个方案，这叫技术细节，不属于架构或者整体考虑。作为整体我知道云平台可以提供且比自建灵活就够了
时间:  2025-12-3 11:30
作者: xh1028

hzm17 发表于 2025-12-3 10:50
运营商当然有N卡，但禁售后无法公开销售~别啥不懂得都扯ZZ~

你自己都说无法公开了，那就应该知道有高价走私货。这几年过我手项目的就有虽然不多
时间:  2025-12-3 11:34
作者: xh1028

hzm17 发表于 2025-12-3 11:25
通算是通算，智算是智算~先把这个常识搞清楚，别急着狡辩~

不狡辩哈  纯属给你解释
时间:  2025-12-3 12:07
作者: chenftd

dreambotty 发表于 2025-12-3 08:50
自己堆5090吧，万一以后不搞了，芯片出了也不怎么亏钱
记得入关申报。

有道理
时间:  2025-12-3 12:30
作者: hzm17

xh1028 发表于 2025-12-3 11:30
你自己都说无法公开了，那就应该知道有高价走私货。这几年过我手项目的就有虽然不多

说的是运营商资源，这边又跑出来“高价走私货”……咱能别瞎扯吗？
时间:  2025-12-3 12:39
作者: xh1028

hzm17 发表于 2025-12-3 12:30
说的是运营商资源，这边又跑出来“高价走私货”……咱能别瞎扯吗？

A100，你把那个别瞎扯给我去掉！
时间:  2025-12-3 12:45
作者: hzm17

xh1028 发表于 2025-12-3 12:39
A100，你把那个别瞎扯给我去掉！

你说个“A100”又想瞎扯啥？
运营商手里N卡4090、T4、V100居多，后面禁售就没高性能卡了~
商业运营H100、 H800居多~

时间:  2025-12-3 12:51
作者: xh1028

hzm17 发表于 2025-12-3 12:45
你说个“A100”又想瞎扯啥？
运营商手里N卡4090、T4、V100居多，后面禁售就没高性能卡了~
商业运营H100 ...

4090?好了 已经没有必要给你解释了 去娃娃那桌吧
时间:  2025-12-3 14:31
作者: hzm17

xh1028 发表于 2025-12-3 12:51
4090?好了 已经没有必要给你解释了 去娃娃那桌吧

呵呵~
没常识还不问不学~
时间:  2025-12-5 08:54
作者: 帮我点一杯拿铁

有的 北京电信政企部 给你申请最低价 有意私聊



通信人家园 (https://test.txrjy.com/) Powered by C114