开yun体育网迟缓变成具有场合特质的“湛江贤达”-开云(中国大陆)Kaiyun·体育官方网站-登录入口

发布日期:2026-10-31 15:22    点击次数:58


开yun体育网迟缓变成具有场合特质的“湛江贤达”-开云(中国大陆)Kaiyun·体育官方网站-登录入口

3 月 12 日,云天励飞中标湛江市AI渗入撑执新质分娩力基础方法开荒花样,中标金额4.2亿元。花样将基于云天励飞自研的国产AI推理加快卡,开荒国产AI推理千卡集群。

该集群将搭载DeepSeek等国产大模子,为政务、产业及各种诈欺场景提供愈加方便、低资本的AI智力,探索打造“国模国芯”的AI生态样板。

无论是春节时刻大热的SeeDance,近期浅薄究诘的“小龙虾”,照旧各行业束缚上线的AI Agent诈欺,背后都离不开推理算力的撑执。凭证Gartner洽商,到2026年,约55%的AI专用云基础方法开销将用于推理责任负载。

畴前,国内很多智算中心无数领受“训推一体”的开荒模式。而这次在湛江开荒的集群,则定位为专注推理任务的AI推理集群,主要面向各种行业诈欺场景,为传统产业的AI化提供径直撑执。

湛江亦然国产大模子DeepSeek独创东说念主梁文峰的家乡。比年来,当地在“DeepSeek+”诈欺探索方面行动频频。2025年头,DeepSeek-R1发布后,湛江即完资腹地部署——基于国产本事栈的DeepSeek-R1大模子最初在湛江政务云上线。该模子在处罚通用政务事务的同期,还大约执续学习腹地产业常识与方言抒发,迟缓变成具有场合特质的“湛江贤达”。

这次云天励飞开荒的AI推理集群,也将与DeepSeek等国产模子进行深度适配,为更多行业诈欺提供算力撑执。

湛江落地的千卡推理集群,领受云天励飞自主研发的AI推理芯片,并在系统架构上诞生了“优先优化Prefill、兼顾Decode”的本事门道。通过在芯片想象中对诡计资源与存储带宽进行针对性建设,使系统在长凹凸文推理场景下照旧大约保执较高的微辞成果。

在网罗互联方面,系统领受和洽高速互联架构,通过400G光网罗构建集群物理层网罗,达成节点之间的高带宽、低延伸通讯。与传统在节点内和节点间离别领受不同契约构建网罗的容颜比较,这种同构互联架构减少了契约鼎新带来的非凡开销,也简化了系统部署。

通过芯片架构、网罗互联以及系统鼎新等多层优化,这一推理集群在合座成果与资本限度方面变成了彰着上风,为AI鸿沟化诈欺提供了愈加经济的算力决策。

据悉,本次AI推理集群将分三期开荒,并一都领受云天励飞自研的国产AI推理加快卡。其中,一期花样将部署云天励飞 X6000 推理加快卡;二、三期开荒将最初搭载公司最新一代芯片家具。

跟着大模子迟缓参预诈欺阶段,产业关爱点正从“算力峰值”转向“单元资本成果”。湛江花样的落地,也为这一运筹帷幄提供了艰巨的膨胀场景。千卡级推理集群不仅大约欢腾现时AI诈欺需求,同期也为更大鸿沟算力系统提供本事部署平台。

在典型架构下,一个千卡级集群经常由多级扩展结构构成:从单节点8卡、32卡,到64卡以致百卡级超节点,再到跨节点的大鸿沟集群。通过这一鸿沟系统的履行初始,不错充分考据卡间互联、节点通讯和负载平衡等枢纽本事,为畴昔更大鸿沟AI算力系统开荒积聚教学。

南边+记者 郜小平开yun体育网




Powered by 开云(中国大陆)Kaiyun·体育官方网站-登录入口 @2013-2022 RSS地图 HTML地图