欢迎光临澳客官网app免费下载-彩票网电脑版下载官网,主要生产灭菌器,灭菌柜,蒸汽式灭菌柜,,脉动真空灭菌柜,快速冷却灭菌柜,旋转式灭菌柜...

发布千卡规划异构芯片混训渠道无问芯穹要打造最具性价比的 AI 根本的建造 WAIC 2024

时间: 2024-10-28 00:06:28 |   作者: 澳客电脑app官网下载

  无问芯穹认为,优秀的根本的建造,是一种「魔法」,可以让大模型本钱有用下降,让更多人拥抱新技能。

  7 月 4 日,无问芯穹联合发起人兼 CEO 夏立雪发布了全球首个千卡规划异构芯片混训渠道,千卡异构混合练习集群算力利用率最高达到了 97.6%。

  四个月前,无问芯穹Infini-AI大模型开发与服务云渠道宣告初次公测,已有智谱 AI、月之暗面、生数科技等大模型公司客户在Infini-AI上安稳运用异构算力,还有 20 余家 AI Native 运用创业公司在 Infini-AI 上继续调用各种预置模型 API,运用无问芯穹供给的东西链开发本身事务模型。

  建造大模型年代的AI Native基础设施,不只仅可认为 AI 开发者供给更通用、高效、快捷的研制环境,一起也是完成算力资源有用整合,支撑AI工业可继续发展的要害柱石。与国际上模型层与芯片层「相对会集」的格式比较,我国的模型层与芯片层愈加有多样性。

  但是,多样性也代表着应战,很多的异构芯片也形成了「生态竖井」,不同硬件ECO关闭且互不兼容,给算力的运用方带来一系列技能应战。这是构建 AI Native 基础设施的最大难点,也是当时大模型职业面对「算力荒」的重要原因。

  无问芯穹具有顶尖的 AI 核算优化才能与算力解决方案才能,以及对「M 种模型」与「N 种芯片」职业格式的前瞻判别,首先构建了「MxN」中间层的生态格式,完成多种大模型算法在多元芯片上的高效、一致布置。

  「技能上限推高与技能落地分散不对立,且取决于咱们决计怎么样对待这个技能。」夏立雪表明,「未来咱们用各种 AI 运用时,也不会知道它调用了哪些基座模型,用到了哪种加速卡的算力——这便是最好的 AI Native 基础设施。」

联系方式
更多产品信息请联系
+86-512-58375615
给我们留言