【AMD发布会】揭秘MI300系列芯片，领先性能引领AIGC市场！与微软、甲骨文等合作开辟新格局！

市场展望：
鉴于AIGC需求激增，AMD预计到2027年，数据中心加速器市场将从2023年的450亿美元增长至4000亿美元，对应CAGR超过70%。

MI 300：
AMD推出MI300X和MI300A芯片，皆采用台积电5nm和6nm制程工艺，分别搭载192GB HBM3与128GB HBM3。
MI300X芯片基于新CDNA3架构，对关键AI数据类型的处理性能较上一代CDNA2高出3倍以上。
MI300X晶体管数量为1530亿个，结合先进封装，提供领先的内存容量和带宽。

Instinct MI300X：
Instinct MI300X由8个MI300X组成，Instinct MI300X已从当日开始发货，Instinct MI300A已进入量产阶段。
与H100 HGX相比：
— Instinct MI300X提供1.5TB HBM3内存容量，H100 HGX为680GB
— 运行1760亿参数Bloom模型时，性能是H100 HGX的1.6倍。
— 运行600亿参数Llama 2时，性能H100 HGX的1.4倍。

AI基础设施软件：
AMD宣布ROCm 6开源软件平台，可支持AMD硬件上的AI框架。
ROCm 6专注于对大型语言模型的优化，在运行Llama 2文本生成任务时，其加速性能比前一代提高了大约8倍。
生态系统持续扩大，目前有62000多个模型在AMD GPU上运行，并持续与OpenAI等加强合作关系。
对于130亿参数的AI模型，MI300X上的ROCm 6提供的推理性能是英伟达产品的1.2倍以上。

合作伙伴：
AMD强调了与微软、甲骨文、戴尔、惠普、联想、Super Micro等公司的合作关系，以将MI300X解决方案推向市场。
— Azure云将开放Instinct MI300X虚拟机的预览，并表示ROCm优化为– LAMA-2等机型提供了出色的性能。
— Oracle宣布在其裸金属云计算平台中支持MI300X。
— Dell推出带有MI300X加速器的新型PowerEdge服务器。