通信人家园

标题: 想租运营商的云算力用来研究AI开源模型  [查看完整版帖子] [打印本页]

时间:  2025-12-1 16:48
作者: chenftd     标题: 想租运营商的云算力用来研究AI开源模型

如题,买不起显卡,租用运营商,比如移动的云计算服务来研究开源的AI大模型可不可靠,行不行?

时间:  2025-12-1 17:00
作者: xh1028

这个取决于你有多少预算来搞研究。本身算力都是“通用”的(加上引号以免有缘人钻显卡的品牌)
时间:  2025-12-1 17:11
作者: chenftd

xh1028 发表于 2025-12-1 17:00
这个取决于你有多少预算来搞研究。本身算力都是“通用”的(加上引号以免有缘人钻显卡的品牌)

完全没接触过。运营商的云服务跟“阿里云”这些有没有差距?我的意思是租哪种性价比高一点
时间:  2025-12-1 17:19
作者: xh1028

chenftd 发表于 2025-12-1 17:11
完全没接触过。运营商的云服务跟“阿里云”这些有没有差距?我的意思是租哪种性价比高一点

性能上没有太大差别,运营商一般可以理解性价比高点,阿里系胜在生态好,在应用开发时不同的实例接口支持的比较丰富和规范,拿来做研究差别不大
时间:  2025-12-1 17:21
作者: xh1028

怎么说呢就是你要做架构应用,要调用不同的中台能力和接口,优选阿里平台。要是研究点个体,纯性能需求其他平台差别不大
时间:  2025-12-1 17:30
作者: hzm17

提个醒,运营商的智算算力基本上都是国产化的,你的研究内容需要适配国产化资源~
时间:  2025-12-1 17:32
作者: hzm17

xh1028 发表于 2025-12-1 17:00
这个取决于你有多少预算来搞研究。本身算力都是“通用”的(加上引号以免有缘人钻显卡的品牌)

智算算力并不太通用,运营商的N卡比较少、国产化的居多,大部分的训练都需要N卡生态~
时间:  2025-12-1 17:34
作者: xh1028

hzm17 发表于 2025-12-1 17:32
智算算力并不太通用,运营商的N卡比较少、国产化的居多,大部分的训练都需要N卡生态~

你就属于第一条那个有缘人
时间:  2025-12-1 17:38
作者: laozhu

智算算力还是很贵的
时间:  2025-12-1 17:39
作者: xh1028

hzm17 发表于 2025-12-1 17:32
智算算力并不太通用,运营商的N卡比较少、国产化的居多,大部分的训练都需要N卡生态~

请留意下,哪个算力平台不是多元化算力调度,标明N或国产 只支持一种还能卖的出去?
时间:  2025-12-1 18:50
作者: 不吹不黑

可行不哩??
时间:  2025-12-2 08:23
作者: hzm17

本帖最后由 hzm17 于 2025-12-2 08:23 编辑
xh1028 发表于 2025-12-1 17:39
请留意下,哪个算力平台不是多元化算力调度,标明N或国产 只支持一种还能卖的出去?

很多训练工具都需要N的生态支持,现实情况是泾渭分明~
国产化基本上只用来跑跑DS或千问之类的LLM~

时间:  2025-12-2 08:26
作者: hzm17

chenftd 发表于 2025-12-1 17:11
完全没接触过。运营商的云服务跟“阿里云”这些有没有差距?我的意思是租哪种性价比高一点

阿里云一般指的是通算算力(云主机),而模型训练需要智算算力(显卡集群),完全不一样的~
时间:  2025-12-2 09:10
作者: chenftd

xh1028 发表于 2025-12-1 17:21
怎么说呢就是你要做架构应用,要调用不同的中台能力和接口,优选阿里平台。要是研究点个体,纯性能需求其他 ...


时间:  2025-12-2 09:11
作者: 努力不苦逼

hzm17 发表于 2025-12-2 08:26
阿里云一般指的是通算算力(云主机),而模型训练需要智算算力(显卡集群),完全不一样的~

大佬,这方面的介绍,哪里可以阅览学习下?
时间:  2025-12-2 09:14
作者: hzm17

努力不苦逼 发表于 2025-12-2 09:11
大佬,这方面的介绍,哪里可以阅览学习下?

B站上有智算科普,可以先了解下,这些都是常识~
跟实践或搞研究还有十万八千里~

时间:  2025-12-2 09:16
作者: hzm17

xh1028 发表于 2025-12-1 17:34
你就属于第一条那个有缘人

基本的常识你都搞不清楚,就别“有缘人”了~
时间:  2025-12-2 09:48
作者: apollo0105

你这个问题,没意义,就好像在问“我想办电话卡,应该办哪家的”一样。。。
如果局限运营商的公有云,那就是天翼云还有移动云咯,没挑的了。沃云就。。。参考一下就好
剩下就是你自己比比价,看想用什么卡,开资源用就是了
时间:  2025-12-2 10:08
作者: chenftd

apollo0105 发表于 2025-12-2 09:48
你这个问题,没意义,就好像在问“我想办电话卡,应该办哪家的”一样。。。
如果局限运营商的公有云,那就 ...


时间:  2025-12-2 10:33
作者: sdjninghu

现实是可以,你需求可以联系我。
时间:  2025-12-2 13:21
作者: 奋斗士

本帖最后由 奋斗士 于 2025-12-2 13:47 编辑

你这是公有云业务,参考这个

公有云大模型.jpg


附件: 公有云大模型.jpg (2025-12-2 13:20, 26.13 KB) / 下载次数 0
https://test.txrjy.com/forum.php?mod=attachment&aid=NzA5NTMxfDI1OGUyOGZjfDE3NjUwNzAyMDJ8MHww
时间:  2025-12-2 13:52
作者: mrzhj

首先要明白你的需求是以英伟达芯片为主还是以国产GPU为主,如果是前者则运营商的云不占优势,如果是后者则运营商的还行,三家之间你就比一下价格,一般移动和电信会好一点。
时间:  2025-12-2 13:53
作者: 奋斗士

通义千问已累计开源模型超300个,全球下载量突破6亿次,衍生模型数量逾 17万个,位居全球开源大模型首位。



Y衍生模型17万.jpg


附件: Y衍生模型17万.jpg (2025-12-2 13:52, 304.4 KB) / 下载次数 0
https://test.txrjy.com/forum.php?mod=attachment&aid=NzA5NTM1fDY5OWRiODcxfDE3NjUwNzAyMDJ8MHww
时间:  2025-12-2 15:08
作者: 奋斗士

mrzhj 发表于 2025-12-2 13:52
首先要明白你的需求是以英伟达芯片为主还是以国产GPU为主,如果是前者则运营商的云不占优势,如果是后者则运 ...

百度、阿里、字节,一样都有他们自研的国产芯片,功能、性能都很强


青海联通绿算.jpg

平头哥.jpg



附件: 平头哥.jpg (2025-12-2 15:07, 51.85 KB) / 下载次数 0
https://test.txrjy.com/forum.php?mod=attachment&aid=NzA5NTQyfDIzY2FmYjU0fDE3NjUwNzAyMDJ8MHww

附件: 青海联通绿算.jpg (2025-12-2 15:07, 250.05 KB) / 下载次数 0
https://test.txrjy.com/forum.php?mod=attachment&aid=NzA5NTQzfDliMDdlYTNhfDE3NjUwNzAyMDJ8MHww
时间:  2025-12-2 15:32
作者: jjxjjx

可以行
时间:  2025-12-2 20:04
作者: xh1028

hzm17 发表于 2025-12-2 09:16
基本的常识你都搞不清楚,就别“有缘人”了~

没办法,防的就是你钻牛角尖
时间:  2025-12-2 20:06
作者: xh1028

xh1028 发表于 2025-12-1 17:39
请留意下,哪个算力平台不是多元化算力调度,标明N或国产 只支持一种还能卖的出去?

你以为我不认识CUDA,我说的也很明确一般有算了的平台,是多种都会有,任选择。这不是租哪家需要考虑的
时间:  2025-12-2 22:41
作者: qcx991

我有高配的云主机,给你优惠
时间:  2025-12-3 08:26
作者: hzm17

xh1028 发表于 2025-12-2 20:04
没办法,防的就是你钻牛角尖

这叫牛角尖吗?还算力“通用”,通用搞国产化干嘛~~
时间:  2025-12-3 08:27
作者: hzm17

xh1028 发表于 2025-12-2 20:06
你以为我不认识CUDA,我说的也很明确一般有算了的平台,是多种都会有,任选择。这不是租哪家需要考虑的

呦~还知道CUDA,不容易~~
时间:  2025-12-3 08:28
作者: hzm17

奋斗士 发表于 2025-12-2 15:08
百度、阿里、字节,一样都有他们自研的国产芯片,功能、性能都很强

性能都在PPT上~很多训练工具和小模型不适配~
时间:  2025-12-3 08:50
作者: dreambotty

自己堆5090吧,万一以后不搞了,芯片出了也不怎么亏钱
记得入关申报。
时间:  2025-12-3 09:22
作者: 奋斗士

hzm17 发表于 2025-12-3 08:28
性能都在PPT上~很多训练工具和小模型不适配~

国产卡里,软硬件生态做的比较好的,据说是寒武纪:拿过去就能用,BUG少
时间:  2025-12-3 09:27
作者: hzm17

奋斗士 发表于 2025-12-3 09:22
国产卡里,软硬件生态做的比较好的,据说是寒武纪:拿过去就能用,BUG少

寒武纪主做端侧芯片,跟华为910B、百度P800这些GPU是两回事儿~
时间:  2025-12-3 10:36
作者: xh1028

hzm17 发表于 2025-12-3 08:26
这叫牛角尖吗?还算力“通用”,通用搞国产化干嘛~~

国产化是政治需求,不是应用产品需求
时间:  2025-12-3 10:37
作者: xh1028

hzm17 发表于 2025-12-3 08:27
呦~还知道CUDA,不容易~~

少T   M阴阳怪气,能讨论讨论  不能一边凉快去
时间:  2025-12-3 10:38
作者: hzm17

xh1028 发表于 2025-12-3 10:36
国产化是政治需求,不是应用产品需求

你就说“通用”不“通用”吧~
通算、智算、超算你都给讲讲~

时间:  2025-12-3 10:39
作者: hzm17

xh1028 发表于 2025-12-3 10:37
少T   M阴阳怪气,能讨论讨论  不能一边凉快去

胡说八道、信口胡诌的见一个怼一个~
时间:  2025-12-3 10:41
作者: xh1028

hzm17 发表于 2025-12-3 10:38
你就说“通用”不“通用”吧~
通算、智算、超算你都给讲讲~

哎  停~我不懂,我也没有要解释这仨的区别和联系,也不在题主的讨论的范围
时间:  2025-12-3 10:45
作者: xh1028

hzm17 发表于 2025-12-3 10:39
胡说八道、信口胡诌的见一个怼一个~

胡说八道啥了,我回的每次都有事实依据,你找找哪个算力官网上还区分国产和非国产?
时间:  2025-12-3 10:46
作者: hzm17

xh1028 发表于 2025-12-3 10:41
哎  停~我不懂,我也没有要解释这仨的区别和联系,也不在题主的讨论的范围

不懂就别误导他人~最基本的常识先学了再来说~
时间:  2025-12-3 10:47
作者: xh1028

hzm17 发表于 2025-12-3 10:39
胡说八道、信口胡诌的见一个怼一个~

运营商是国产的多,这是他服务的政治属性决定的,但不代表他绝对没有nvidia
时间:  2025-12-3 10:48
作者: hzm17

xh1028 发表于 2025-12-3 10:45
胡说八道啥了,我回的每次都有事实依据,你找找哪个算力官网上还区分国产和非国产?

又开始胡诌了~官网上订购资源连GPU型号都要区分选择的~
时间:  2025-12-3 10:48
作者: xh1028

hzm17 发表于 2025-12-3 10:46
不懂就别误导他人~最基本的常识先学了再来说~

那条误导了?错了我道歉
时间:  2025-12-3 10:50
作者: hzm17

xh1028 发表于 2025-12-3 10:47
运营商是国产的多,这是他服务的政治属性决定的,但不代表他绝对没有nvidia

运营商当然有N卡,但禁售后无法公开销售~别啥不懂得都扯ZZ~
时间:  2025-12-3 11:14
作者: hzm17

xh1028 发表于 2025-12-3 10:48
那条误导了?错了我道歉

“本身算力都是“通用”的

性能上没有太大差别”

……

时间:  2025-12-3 11:22
作者: xh1028

hzm17 发表于 2025-12-3 11:14
“本身算力都是“通用”的

性能上没有太大差别”

1、我的理解他指算力是AI智算是依靠GPU或NPU提供的算力为主,不是通算能力。2.结合现有共有云(含运营商)的提供能力看,各家均有各类型智算算力,(重点)且不必考虑架构和品牌。3.“通用”加引号是指的上述表述既不代表通用算力也不特指具体品牌架构。这么说够不够清晰?
时间:  2025-12-3 11:25
作者: hzm17

xh1028 发表于 2025-12-3 11:22
1、我的理解他指算力是AI智算是依靠GPU或NPU提供的算力为主,不是通算能力。2.结合现有共有云(含运营商) ...

通算是通算,智算是智算~先把这个常识搞清楚,别急着狡辩~
时间:  2025-12-3 11:27
作者: xh1028

hzm17 发表于 2025-12-3 11:14
“本身算力都是“通用”的

性能上没有太大差别”

性能没差是指的云平台和自建区别,你自己建CUDA固定量级和租用CUDA固定量级的性能差别不大,国产也一样
时间:  2025-12-3 11:28
作者: xh1028

hzm17 发表于 2025-12-3 11:14
“本身算力都是“通用”的

性能上没有太大差别”

至于他需要哪个架构哪个方案,这叫技术细节,不属于架构或者整体考虑。作为整体我知道云平台可以提供且比自建灵活就够了
时间:  2025-12-3 11:30
作者: xh1028

hzm17 发表于 2025-12-3 10:50
运营商当然有N卡,但禁售后无法公开销售~别啥不懂得都扯ZZ~

你自己都说无法公开了,那就应该知道有高价走私货。这几年过我手项目的就有虽然不多
时间:  2025-12-3 11:34
作者: xh1028

hzm17 发表于 2025-12-3 11:25
通算是通算,智算是智算~先把这个常识搞清楚,别急着狡辩~

不狡辩哈  纯属给你解释
时间:  2025-12-3 12:07
作者: chenftd

dreambotty 发表于 2025-12-3 08:50
自己堆5090吧,万一以后不搞了,芯片出了也不怎么亏钱
记得入关申报。

有道理
时间:  2025-12-3 12:30
作者: hzm17

xh1028 发表于 2025-12-3 11:30
你自己都说无法公开了,那就应该知道有高价走私货。这几年过我手项目的就有虽然不多

说的是运营商资源,这边又跑出来“高价走私货”……咱能别瞎扯吗?
时间:  2025-12-3 12:39
作者: xh1028

hzm17 发表于 2025-12-3 12:30
说的是运营商资源,这边又跑出来“高价走私货”……咱能别瞎扯吗?

A100,你把那个别瞎扯给我去掉!
时间:  2025-12-3 12:45
作者: hzm17

xh1028 发表于 2025-12-3 12:39
A100,你把那个别瞎扯给我去掉!

你说个“A100”又想瞎扯啥?
运营商手里N卡4090、T4、V100居多,后面禁售就没高性能卡了~
商业运营H100、 H800居多~



时间:  2025-12-3 12:51
作者: xh1028

hzm17 发表于 2025-12-3 12:45
你说个“A100”又想瞎扯啥?
运营商手里N卡4090、T4、V100居多,后面禁售就没高性能卡了~
商业运营H100 ...

4090?好了 已经没有必要给你解释了 去娃娃那桌吧
时间:  2025-12-3 14:31
作者: hzm17

xh1028 发表于 2025-12-3 12:51
4090?好了 已经没有必要给你解释了 去娃娃那桌吧

呵呵~
没常识还不问不学~

时间:  2025-12-5 08:54
作者: 帮我点一杯拿铁

有的 北京电信政企部 给你申请最低价 有意私聊




通信人家园 (https://test.txrjy.com/) Powered by C114