Ampere Computing Logo
Contact Sales
Ampere Computing Logo

智能流量控制:使用 AmpereOne® 释放弹性性能

Seema Mehta Sr Principal, Technical Marketing
2024年10月2日

在云环境下,当许多用户同时在一个处理器上运行任务时,将嘈杂邻居效应和运行差异降至最低尤其重要。在 AmpereOne® 192 核处理器中,当内核以全速且高利用率运行时,很容易遇到网格拥塞的情况。在这种情况下,通过响应式流量管理技术最大限度地减少独立并发工作负载之间的干扰,在高CPU利用率下实现一致的性能至关重要。


Ampere 流量管理 流量管理使用自适应服务质量算法和特定流量控制技术来避免常见的超额订阅问题,从而在高 CPU 利用率下实现最高内核数量和可预测的性能。


下图 (图 1) 展示了SoC网格中繁忙的流量。复杂的网络和随机数据路径可能会引入不必要的延迟和更高的延迟,从而影响性能。该系统中通信的高度并行性意味着同时有多个事务在进行中。

smart-traffic-shaping-revised.png


为了解决这个问题,Ampere 开发了自适应流量管理,这是作用于核心和 SoC 中的一种技术。自适应流量管理的工作原理是,内存控制器、缓存或一致性引擎等下游代理将其“繁忙”传达给核心等请求者; 然后,核心通过调整它们生成的流量的速率和分布来应对这种繁忙状态。这种智能和自适应的流量控制使 Ampere 能够运行大量不同的工作流,而不会在它们之间产生限制或破坏性干扰。因此,即使在CPU 利用率非常高的情况下, AmpereOne® 处理器也能实现一致的性能,因为内核可以处理潜在的冲突任务。


哈希是一种用于拥塞管理的技术,它减少了对一致性和 DDR 流量的争用,内核可以根据其活动动态响应。例如,运行对延迟敏感的应用程序的核心与运行高带宽工作负载的核心的响应不同。下图(图 2)显示了 AmpereOne 处理器与 x86 CPU 的加载延迟。在此示例中,运行单个对延迟敏感的应用程序,并逐渐添加需要大量带宽的应用程序。

latency-vs-max-bw-revised.png


随着内存子系统负载的增加,CPU 使用系统状态的自定义反馈来调整和提供公平性,从而实现更高的利用率,同时保持 AmpereOne® 处理器(以红色显示)的延迟平坦且较低。相比之下,灰色部分显示延迟随着负载的增加而增加。CPU 的配置请参考附录 1。Ampere 的自适应流量管理确保带宽密集型应用程序不会干扰延迟敏感型应用程序,并且硬件会自动处理这种情况,而无需任何软件干预。

自适应流量管理功能由固件自动设置,是 AmpereOne 处理器中提供一致、有弹性和可扩展性能的重要功能。

*附录 1::

AmpereOne:

•HW: 1 x AmpereOne A192-32X

  • (192c/192t, 3.2GHz)
  • 8 x 64 GiB DDR5 5200 MHz

•OS: Fedora 38

•Kernel: 6.4.13-200.fc38. aarch64

AMD Genoa:

•HW: 1 x AMD EPYC 9654

  • (96c/192t, 2.4/3.55GHz),
  • 12 x 64 GiB DDR5 4800 MHz

•OS: Fedora 38

•Kernel: 6.4.13-200.fc38.x86_64

AMD Bergamo:

•HW: 1 x AMD EPYC 9754

  • (128c/256t, 2.25/3.1GHz),
  • 12 x 64 GiB DDR5 4800 MHz

•OS: Fedora 38

•Kernel: 6.4.13-200.fc38.x86_64


Disclaimer:
All data and information contained herein is for informational purposes only and Ampere reserves the right to change it without notice. This document may contain technical inaccuracies, omissions and typographical errors, and Ampere is under no obligation to update or correct this information. Ampere makes no representations or warranties of any kind, including express or implied guarantees of noninfringement, merchantability, or fitness for a particular purpose, and assumes no liability of any kind. All information is provided “AS IS.” This document is not an offer or a binding commitment by Ampere.

System configurations, components, software versions, and testing environments that differ from those used in Ampere’s tests may result in different measurements than those obtained by Ampere.

©2024 Ampere Computing LLC. All Rights Reserved. Ampere, Ampere Computing, AmpereOne and the Ampere logo are all registered trademarks or trademarks of Ampere Computing LLC or its affiliates. All other product names used in this publication are for identification purposes only and may be trademarks of their respective companies.

Created At : November 1st 2024, 7:42:07 pm
Last Updated At : November 1st 2024, 7:49:34 pm
Ampere Logo

Ampere Computing

4655 Great America Parkway

Suite 601 Santa Clara, CA 95054

image
image
 |  |  |  |  | 
© 2022 Ampere Computing LLC. All rights reserved. Ampere, Altra and the A and Ampere logos are registered trademarks or trademarks of Ampere Computing.
This site runs on Ampere Processors.