随着人工智能 (AI)、机器学习 (ML) 和高性能计算 (HPC) 成为各行各业创新的核心，它们也带来了不容忽视的挑战。这些工作负载需要强大的计算资源、高效的内存管理和经过优化的软件，才能充分利用硬件。对于开发人员来说，将遗留代码迁移到基于 GPU 的框架就像在未知水域中航行，而跨多节点系统扩展通常会增加另一层复杂性。专有平台可能会限制灵活性，使组织更难采用新技术。具有高级优化的开源平台已被证明是释放 GPU 加速器潜力的重要解决方案。
为了应对这些挑战，AMD 推出了 ROCm 6.3，这是一个专为 AMD Instinct GPU 加速器上的 AI、ML 和 HPC 工作负载而设计的开源平台。此版本将高级工具与优化相结合，以提供高性能，同时保持平台对开发人员的可访问性和适应性。
主要特点包括：
- SGLang 支持：通过更高效的语言功能实现加速 AI 推理，从而更顺畅地执行复杂模型。
- 重新设计的 FlashAttention-2：通过解决注意力机制中的性能瓶颈，提高 AI 训练和推理速度。
- 多节点 FFT 支持：通过优化分布式系统中的快速傅里叶变换来增强 HPC 工作流的可扩展性。
- 增强的计算机视觉库：包括精细的算法，可提高基于视觉的 AI 任务（如对象检测和图像处理）的性能。
- AMD Fortran 编译器：帮助将旧代码库与 GPU 加速连接起来，为科学计算应用提供实用途径。
这些功能反映了 AMD 致力于通过实用工具和开放协作来支持开发人员和组织，从而使该平台适用于各种用例。
ROCm 6.3 的设计明确侧重于满足现代工作负载的需求。一些关键技术亮点包括：
- 性能优化：FlashAttention-2 提高了内存使用率和计算效率，这对于需要大量资源的基于 Transformer 的模型尤其有价值。
- 可扩展性：多节点 FFT 支持允许 HPC 工作流程有效地跨 GPU 集群扩展，从而实现大规模模拟和复杂数据分析等任务。
- 开发人员可访问性：AMD Fortran 编译器使用户能够将遗留代码带入 GPU 加速环境，这在科学研究等领域尤其有用。
- 专用工具：增强的计算机视觉库通过提供预先优化的算法，为在自主系统和医学成像等领域开发人工智能应用提供了一种简化的方法。
这些改进使 ROCm 6.3 成为一个多功能平台，适用于实验项目和生产级工作负载，满足初创企业和成熟企业的需求。
ROCm 6.3 的早期用户的反馈表明，其性能和易用性得到了显著改善。例如，与之前的版本相比，FlashAttention-2 已证明可将 Transformer 模型的训练效率提高高达 30%。多节点 FFT 支持已展示出卓越的可扩展性，使研究人员能够更有效地处理大型数据集，同时保持较低的计算开销。
增强型计算机视觉库也通过加快图像识别任务的推理时间证明了其价值。这些优势意味着开发周期更短，实际应用结果更准确。该平台的开源性质意味着它会不断发展，社区贡献有助于保持与新技术和用例的兼容性。
AMD ROCm 6.3 通过全面的功能和优化解决了 AI、ML 和 HPC 工作负载中的关键挑战。通过专注于可扩展性、旧代码集成和性能，它为开发人员和组织提供了可靠且灵活的工具集，以满足现代计算的需求。SGLang 支持、FlashAttention-2 和增强的计算机视觉库等功能提供了实际好处，而没有不必要的复杂性。
随着 GPU 加速继续在技术进步中发挥核心作用，ROCm 6.3 脱颖而出，成为一个周到且功能强大的平台。其开源设计和协作承诺确保它仍然是解决当前和未来计算挑战的宝贵资源。