(资料图)
事件点评
2023年6月19日,腾讯云在北京召开行业大模型及智能应用技术峰会,首次公布腾讯云行业大模型研发进展,依托腾讯云TI平台打造行业大模型精选商店,为客户提供MaaS一站式服务,助力客户构建专属大模型及智能应用。随着大数据AI/ML等应用爆发,内存与算力间技术发展差距逐步加大,成为制约计算系统性能主要因素。
CXL有望突破内存墙及IO墙瓶颈,极高兼容性+内存一致性优势显著。当前主流计算系统数据处理方案依赖冯诺依曼架构(数据存储与数据处理分离体系),为满足速度及容量需求,现代计算系统通常采取高速缓存(SRAM)、主存(DRAM)、外部存储(NAND Flash)三级存储结构。越靠近运算单元存储器速度越快,但受功耗、散热、芯片面积等因素制约,相应容量越小。如SRAM响应时间为纳秒级,DRAM为100纳秒量级,NAND Flash为100微秒级,当数据在高速缓存/主存/外部存储三级传输时,后级响应时间及传输带宽将拖累整体性能,形成“存储墙”。IO墙产生于外部存储中,当数据量庞大需借助外部存储,并用网络IO访问数据。IO方式访问使访问速度成数量级下降,拖累整体性能。CXL(Compute Express Link),作为一种全新互联技术标准,可保证CPU与GPU、FPGA或其他加速器间实现高速高效互联,满足高性能异构计算要求,且维护CPU内存空间及连接设备内存间一致性,可突破内存墙及IO墙瓶颈,缩减整体响应时间。
CXL1.1三种协议直连带来容量及带宽拓展,CXL2.0加入Switch层引入内存池化技术,CXL3.0共享内存时代有望到来。CXL1.1支持CXL.io,CXL.cache,CXL.mem协议。CXL.io为PCIe5.0增强版本,运行于PCIe总线物理层,CXL.cache用于一致主机缓存访问,CXL.mem用于主机内存访问,三种方法构成连接主机与设备新基础路线。CXL2.0在CXL1.1基础上,增加热插拔(Hot Plug)、安全升级、持久内存(Persistent Memory)、Telemetry、RAS支持及Switch等功能。加入Switch层,实现多设备连接到一个root port,且当设备内存不足时,CXL技术能够让设备在内存池里寻找内存空间。在该框架下,跨系统设备实现共享内存池成为可能。CXL3.0建立于PCI-Express6.0之上(CXL1.0/1.1和2.0版本建立于PCIe5.0之上),其带宽提升两倍,且简单化部分复杂的标准设计,确保易用性。
CXL技术发展前景可期,国内外芯片大厂加速布局。2021年10月,Rambus发布CXL2.0控制器。2022年5月,澜起科技发布全球首款CXL内存扩展控制器芯片(MXC)。2022年5月,美满电子宣布将收购先进CXL技术领先开发商Tanzanite。2022年8月,Microchip推出基于CXL新型SMC2000系列智能存储控制器,使CPU、GPU及SoC利用CXL接口连接DDR4或DDR5存储器。2022年8月,SK海力士推出首款CXL存储器样品,有望于2023年量产;10月,全行业率先研发出首款将计算功能与CXL存储器相结合CMS;2023年1月,三星电子展示其512GB CXL内存扩展器;AMD预计将于2023年推出支持CXL1.1接口新品。
建议关注CXL技术相关标的:澜起科技、神州数码、得润电子等
风险提示:AI大模型发展不及预期;算力需求不及预期;CXL技术发展不及预期。
Copyright @ 2008-2017 www.gxff.cn All Rights Reserved 中国创新网 版权所有 关于我们 联系我们: 58 55 97 3 @qq.com 备案号:沪ICP备2022005074号-30