Ayar Labs的光学I/O释放了下一代AI计算架构的潜力
Ayar Labs是一家芯片间光互联公司,正在与Nvidia合作开发基于光I/O技术的基础设施,以满足未来AI和高性能计算(HPC)工作负载的需求。
此次合作的重点将是集成Ayar Labs的技术,为未来的Nvidia产品开发基于高带宽、低延迟和超低功耗光互连的扩展架构。两家公司计划共同加快光学I/O技术的开发和采用,以支持人工智能和机器学习(ML)应用和数据量的爆炸性增长。
Ayar Labs的专利方法使用行业标准的硅处理技术开发高速、高密度、低功耗的基于光学的互连“芯片”和激光器,以取代传统的基于电气的I/O。
光学I/O通过使计算、内存和联网ASIC能够以更高的带宽、更低的延迟、更长的距离和现有电气I/O解决方案的一小部分功率进行通信,从而改变系统设计的性能和功率轨迹。该技术也是实现新兴异构计算系统、分类/组合设计和统一内存架构的基础,这些对于加速未来数据中心创新至关重要。
Ayar Labs首席执行官charles Wuischpard表示:“目前最先进的AI/ML训练架构受到当前基于铜缆的计算到计算互连的限制,这些互连可构建可扩展系统,以满足未来的需求。我们与Nvidia合作开发基于光学I/O的下一代解决方案,为AI能力的下一次飞跃奠定了基础,以解决世界上最复杂的问题。”
Nvidia数据中心产品首席平台架构师Rob Ober表示:“过去十年,Nvidia加速计算在人工智能方面实现了百万倍的加速。下一个百万X将需要新的先进技术,如光学I/O,以支持未来AI和ML工作负载和系统架构的带宽、功率和规模要求。”
随着人工智能模型规模的不断增长,到2023年,英伟达认为模型将拥有100万亿或更多的连接,比2021年增加600倍,将超过现有平台的技术能力。传统的基于电气的互连将达到其带宽限制,从而降低应用性能、增加延迟并增加功耗。需要新的互连解决方案和系统架构来满足下一代人工智能的规模、性能和功率需求。Ayar Labs与Nvidia的合作重点是通过开发具有光学I/O的下一代架构来应对这些未来挑战。
声明:本篇文章属于原创,拒绝转载,如果需要转载,请联系我们,联系电话:0755-25988571。