英特尔公布1万亿参数AI模型，比ChatGPT大570%

chatgpt2023-05-29 20:31:12261

在 ChatGPT 的推动下，如今有越来越多的公司开始参与生成式 AI 的开发了，大模型领域也 “越来越卷”。英特尔是最新参与进来的玩家，并在近日公布了一个名为 Aurora genAI 的产品，它是一个主要用于科学领域的生成式 AI 模型。

英特尔 Aurora genAI 模型以 Megatron 和 DeepSpeed 为基础，其规模达到了 1 万亿个参数（1 Trillion Parameters，上图中有对应描述），相比之下 ChatGPT 的规模仅为 1750 亿参数，Aurora genAI 在参数规模上增长了约 570%。

Aurora genAI 模型将在通用文本、科学文本、科学数据和与该领域相关的代码上进行训练。这将是一个纯粹以科学为重点的生成式 AI 模型，其潜在的应用范围是：

推动清洁能源聚变研究
催化剂研究
癌症研究
航空航天研究
神经科学研究
宇宙学研究

拥有这么大的规模，那么驱动 Aurora genAI 模型背后的算力肯定也不容小觑。英特尔透露，他们使用的是名为 Aurora（欧若拉）的超级计算机，这是英特尔与阿贡国家实验室和 HPE 合作开发的百万兆级超级计算机。

Aurora 超级计算机采用了 21248 个 Sapphire Rapids 至强 CPU、63744 个 Xe 架构的 Ponte Vecchio GPU（英特尔表示 Ponte Vecchio GPU 的性能要优于英伟达的 H100）。Aurora 超级计算机还使用了 1024 个 DAOS 节点和 10.9 PB 的 DDR5 傲腾持久内存，所有这些组件通过 oneAPI 互相链接，实现了百万兆级性能。

Aurora 超级计算机的浮点运算能力达到了 2 exaFLOPS，而目前 TOP 500 排名第一的超级计算机 Frontier 其浮点运算能力也才 1 exaFLOPS，Aurora 实现了性能翻倍，未来 Aurora 将存放于美国阿贡国家实验室。

相关链接：https://www.intel.com/content/www/us/en/newsroom/news/intel-delivers-ai-accelerated-hpc-performance.html#gs.ywqfx

本文链接：https://yunguke.com/chatgpt/143.html

Aurora genAI Megatron DeepSpeed 英特尔ChatGPT ChatGPT