随着Cerebras、Inflection、亚马逊和其他公司推出新硬件，下一代人工智能超级计算机将能够支持新的生成式人工智能模型。

大型语言模型和其他类型的生成式人工智能的使用正在快速增长。通过Cerebras、Bard、Copilot等技术，几乎每个数字生态系统中都有聊天机器人，其中GPT-4等模型仍然处于领先地位。然而，下一代生成式人工智能模型即将问世。为了训练这些复杂的人工智能系统，科技公司正在构建新一代人工智能超级计算机。

Cerebras推出的例子是Condor Galaxy1系统，具有2Exaflops的计算能力。该系统由32台Cerebras CS-2计算机组成，仅用了10天就完成了组装并投入使用。据Cerebras称，Condor Galaxy的规模有望在未来12周内扩大一倍。该系统由G42公司拥有，它是总部位于阿布扎比的一家控股公司，旗下拥有9家人工智能公司，包括中东最大的云计算提供商之一G42Cloud。

Cerebras计划在接下来的18个月内安装更多系统，以实现36Exaflops的计算能力，这将使其成为专注于人工智能工作负载的最大超级计算机之一。除了Inflection之外，主要云平台也推出了由Nvidia H100GPU支持的新实例。例如，AWS最近推出了P5实例，最多可运行20,000个H100GPU。Microsoft Azure、Google和Core Weave也提供类似的硬件。

通过轻松获取扩展资源，开发人员可以快速构建生成式人工智能应用程序的原型，因为使用Transformer引擎的H100的训练时间大大缩短。最近在MLPerf基准测试中，Core Weave和Nvidia在约3,500个GPU上训练了一个具有1750亿个参数的GPT-3模型，仅耗时不到11分钟。