发布千卡规划异构芯片混训渠道无问芯穹要打造最具性价比的 AI 根本的建造 WAIC 2024

  无问芯穹认为，优秀的根本的建造，是一种「魔法」，可以让大模型本钱有用下降，让更多人拥抱新技能。

  7 月 4 日，无问芯穹联合发起人兼 CEO 夏立雪发布了全球首个千卡规划异构芯片混训渠道，千卡异构混合练习集群算力利用率最高达到了 97.6%。

  四个月前，无问芯穹Infini-AI大模型开发与服务云渠道宣告初次公测，已有智谱 AI、月之暗面、生数科技等大模型公司客户在Infini-AI上安稳运用异构算力，还有 20 余家 AI Native 运用创业公司在 Infini-AI 上继续调用各种预置模型 API，运用无问芯穹供给的东西链开发本身事务模型。

  建造大模型年代的AI Native基础设施，不只仅可认为 AI 开发者供给更通用、高效、快捷的研制环境，一起也是完成算力资源有用整合，支撑AI工业可继续发展的要害柱石。与国际上模型层与芯片层「相对会集」的格式比较，我国的模型层与芯片层愈加有多样性。

  但是，多样性也代表着应战，很多的异构芯片也形成了「生态竖井」，不同硬件ECO关闭且互不兼容，给算力的运用方带来一系列技能应战。这是构建 AI Native 基础设施的最大难点，也是当时大模型职业面对「算力荒」的重要原因。

  无问芯穹具有顶尖的 AI 核算优化才能与算力解决方案才能，以及对「M 种模型」与「N 种芯片」职业格式的前瞻判别，首先构建了「MxN」中间层的生态格式，完成多种大模型算法在多元芯片上的高效、一致布置。

  「技能上限推高与技能落地分散不对立，且取决于咱们决计怎么样对待这个技能。」夏立雪表明，「未来咱们用各种 AI 运用时，也不会知道它调用了哪些基座模型，用到了哪种加速卡的算力——这便是最好的 AI Native 基础设施。」