作者:粉红
资料来源:财联协会
图片来源:由** AI工具生成。
“他们不能等(GPU),否则研究无法推进。”上海六足科技集团创始人张亚洲向记者透露,在拿出大模型秀肌肉的ai厂商的另一端,大厂训练模型使用的计算资源GPU已经陷入供不应求的境地。就算付款抢单,可能也要上半年才能拿到货。在此背景下,一种更具性价比的“计算租赁”模式正在兴起。
6月以来,a股计算租赁板块持续活跃。世纪华通(002602。SZ)、利通电子、GCL等相继宣布“跨界”布局,IDC厂商润泽科技、飞力信也加入了“计算租赁”的概念。
日前,财联社记者多方采访了解到,计算能力租赁市场需求和租赁计算资源的市场订单呈上升趋势,主要集中在人工智能、机器学习、大数据分析等领域。,未来增长率为空。但二级市场很多公司都有炒热的嫌疑。
GPU供不应求。计算租赁正在兴起。
近日,在各AI厂商纷纷拿出大模型“秀肌肉”的时候,多位观察人士对财联社记者表示,大数据、人工智能等领域的快速发展,推动了计算能力需求(尤其是大模型和行业应用)的快速增长。据了解,GPU需求旺盛,已陷入供不应求。
“不像消费级显卡,很多商家都会有库存。它最初只有很少的库存。整个供应链的货没有超过三四千件。GPT火起来之后,全被互联网厂商套牢了。今年3月,市场上基本没有库存。一些大厂商开始直接从国外渠道找一些货。现在50%以上的订单基本都是互联网厂商下的。”张亚洲在接受财联社记者采访时说。
张亚洲告诉财联社记者,包括微软、英特尔在内的海外厂商也在从国外采购,他们的部分预购(GPU订单)可能用于大规模训练,不足以说理。基本上厂家的订单在一亿以内,或许渠道商不愿意搭理,发邮件不回。GPU的普及程度由此可见一斑。
从价格来看,各种GPU的价格从3、4月份开始上涨了近50%。张亚洲说,“4月份(订单)大概10月份就能下了,现在已经到明年上半年了。”
鲸平台专家、电影工场创始人张宏润告诉财联社记者,“很多企业和个人需要使用高性能GPU进行深度学习训练和应用,但购买服务器搭建数据中心的成本较高,因此选择租用云计算平台更具性价比和灵活性。”基于这种逻辑,目前正在兴起租用计算资源的计算能力租赁模式。
上市公司抢入的是真实需求还是热度?
据记者了解,宏博、青云科技-U、东方国鑫、中科曙光、优客德-W、首都在线、润建、汪顺科技、中青宝等上市公司,包括传统IDC厂商,都将目标对准了计算租赁业务,本月又有几个“新面孔”涌入赛道。
6月1日晚间,世纪华通、利通电子发布公告称,世纪华通子公司世纪龙腾与利通电子签署合作框架协议,设立上海世纪利通数据服务有限公司,提供ai计算能力租赁服务。
8日,GCL宣布分别与九州云、九州云子公司顾凡科技签署战略合作框架协议和投资框架协议。据悉,九州云通过顾凡科技成功打造并运营了由英伟达提供动力的,以英伟达RTX为基础打造的,包含英伟达展览体验中心。有媒体称“GCL能科间接攀上了与英伟达的关系”。
盘古智库高级研究员蒋寒对财联社表示,计算力租赁相关的一些厂商已经满足了一些需求,但是还有一些差距。中人协元宇宙工作委员会副会长兼创始秘书长吴也表示:“不同厂商可以根据自身的技术和设备优势,提供不同规模和类型的计算能力租赁服务,但也存在一些不足。”
不过,张亚洲向财联社记者描述了他观察到的行业现状:“大厂产能跟不上,而‘小厂’王婆卖瓜自吹自擂,很多都越来越火。”
值得注意的是,前述“跨界”上市公司的电力租赁业务尚未正式开始。记者致电GCL能科了解到,“第一个项目应该在8月份左右。”此外,利通电子证券部一位人士对财联社记者表示,“目前我们只是签了初步的合作框架,何时开始运作还要看领导的决定。”相比之下,年内涨幅超过400%的AI牛股洪波进步神速。其北京AI创新赋能中心项目一期落地,与百川智能签订1280P订单。
张亚洲说,“判断是否炒作概念,要看厂商是否真的有客户,哪些客户在用。很多厂商都没有公布自己有什么样的客户。目前鸿博股份明确表示与百川智能签了单,但是卡不够,已经‘透支’了。”
“其他数据中心厂商最近也给自己加入了计算能力租赁的概念,也有炒作的嫌疑。数据中心是旧资产,它们必须转变为智能计算中心。”吴还告诉记者,传统的购买服务器来建设数据中心的模式面临着计算能力冗余、灵活性不足、设备维护困难等问题。
有望成为计算电源的主流模式之一。
财联社采访的多位业内人士一致表示,计算力租赁空市场广阔。
蒋寒表示:“随着AIGC的快速发展,计算能力租赁的全球市场份额不断扩大,未来几年将迎来快速发展期。”
张宏润还表示,“随着深度学习模型变得越来越复杂和庞大,对计算能力的需求也越来越高。而且随着云计算技术的进步和普及,计算能力租赁会变得更加便捷和实惠,所以我认为计算能力租赁是一个很有前景和价值的领域,未来会有更多的用户和厂商涌入这个市场。”
据了解,与传统的自建数据中心模式相比,计算能力租赁具有诸多优势。
赛坚尼品牌咨询创始人肖巧琼告诉财联社记者:“与购买服务器建设数据中心的传统模式相比,计算力租赁具有灵活性强、固定成本低、专业技术支持好等诸多优势,有望成为未来计算力供应的主流模式之一。”
“自建数据中心投资周期长,需要不断升级硬件,而计算能力租赁可以随时根据业务需求动态调整计算能力,可以有效优化成本结构。”天使投资人、资深人工智能专家郭涛说。
据吴介绍,“核心成本主要集中在服务器R&D、采购、维护和升级,可以通过具体的技术和管理手段进行控制,比如通过智能化管理降低管理成本,与芯片厂商战略合作降低采购成本。”此外,蒋寒表示,前期成本因公司规模而异。大厂商通常利用集中采购和规模效应来降低成本,小厂商主要通过定制解决方案来满足客户需求。
从用户的角度,张宏润告诉财联社记者,基于计算能力租赁,用户只需按需付费,无需承担硬件设备的购买、维护和升级成本,也不用担心设备闲置或过时造成的浪费;用户可以通过云随时随地访问所需的计算资源,快速开始训练和应用;用户可以根据自己的需求选择不同的计算平台和模型,也可以不受地域和时间的限制,尝试和探索更多的模型和工具等资源。
本网站声明:网站内容来源于网络。如有侵权,请联系我们,我们会及时处理。
温馨提示:注:内容来源均采集于互联网,不要轻信任何,后果自负,本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权,请给我们来信(j7hr0a@163.com),我们会及时处理和回复。
原文地址"gpu 模型训练,“订单要等半年”!大模型爆火GPU陷供应短缺 算力租赁需求兴起":http://www.guoyinggangguan.com/qkl/143370.html。
微信扫描二维码关注官方微信
▲长按图片识别二维码