据小易智创xiaoyizc.com（不可错过的AI创业项目）观察：在2024年AWS re:Invent大会上，亚马逊网络服务（AWS）重磅推出了基于Trainium2芯片的Amazon Elastic Compute Cloud（EC2）实例，标志着技术的又一飞跃。与之前的GPU基于EC2实例相比，这一新实例在价格性能方面实现了惊人的30-40%的提升。AWS首席执行官马特·加曼表示：“我很高兴地宣布Trainium2驱动的Amazon EC2 Trn2实例的正式发布。”
除了Trn2实例外，AWS还推出了令人瞩目的Trn2UltraServers，展示了下一代Trainium3 AI芯片的强大潜力。Trn2实例配备了16个Trainium2芯片，提供高达20.8petaflops的计算性能，专为训练和部署数十亿参数的大型语言模型（LLM）而精心设计。而Trn2UltraServers则将四个Trn2服务器组合成一个系统，提供高达83.2petaflops的计算能力，以实现超高的可扩展性。这些UltraServers拥有64个互联的Trainium2芯片，能够满足客户在训练与推理过程中对极致计算能力的需求。
AWS计算与网络副总裁大卫·布朗表示：“Trainium2实例和Trn2UltraServers的推出为客户提供了解决最复杂AI模型所需的卓越计算能力。”此外，AWS与Anthropic公司携手启动了名为Project Rainier的大规模AI计算集群，采用数十万个Trainium2芯片，以支持Anthropic的开发和优化其旗舰产品Claude在Trainium2硬件上的运行。
同时，Databricks和Hugging Face也与AWS合作，利用Trainium的强大能力提升各自AI产品的性能与成本效率。Databricks计划利用这些硬件增强其Mosaic AI平台，而Hugging Face则将Trainium2集成到其AI开发和部署工具中。其他客户包括Adobe、Poolside和高通。加曼提到，Adobe在使用Trainium2进行Firefly推理模型的早期测试中取得了非常令人满意的结果，并预计能节省大量开支。“Poolside预计能与其他选择相比节省40%”，他补充道。“高通正在利用Trainium2开发更具创新性的解决方案。”
在这一新技术面前，我们见证了AI领域的蓬勃发展和无限可能。
相关文章
