使用云监控实现GPU云服务器的GPU监控和报警(下)

  • 时间:
  • 浏览:7
  • 来源:uu快3官网app_uu快3豹子赚钱

%

TopN表格形式同样能非常方便的查看各个实例的GPU利用率和编码器/解码器利用率以及显存使用情况表,从而判断业务运行是不是正常,以及判断资源利用是不是充分。

GPU维度的指标,埋点每个GPU层面的监控数据。

%

GPU维度GPU温度

groupId

instance_gpu_encoder_utilization

实例维度GPU显存总量

instance_gpu_memory_freespace

  分组维度GPU温度

分组维度GPU使用率

能不需要 使用OpenAPI来查询GPU监控数据。参考文档:https://help.aliyun.com/document_detail/51936.html

云监控插件从1.2.28版本刚开始英文英文支持GPU数据的埋点。云监控Agent(即云监控插件)的安装能不需要 参考云监控官方使用文档:云监控Agent安装。共同支持Linux和Window操作系统。

gpu_gpu_temperature

%

Bytes

Bytes

本文肯能完整版介绍怎么通过安装云监控插件来实现更全面、更易用的GPU云监控和报警。

分组维度指标对单个应用分组里的多个ECS 实例的监控数据做最大值、最小值、平均值的聚合。便于查看集群层面的整体使用情况表。

instance_gpu_memory_usedspace

实例维度GPU解码器使用率

instanceId

实例维度GPU显存使用率

参数说明:Project=acs_ecs_dashboard,Metric及Dimensions参考上述监控项表格中的GPU指标。

group_gpu_gpu_usedutilization

推荐通过创建模板后将模板应用于分组的最好的辦法 批量加进GPU报警。查看报警模板最佳实践。

instance_gpu_power_readings_power_draw

能不需要 在云监控控制台Dashboard中创建自定义GPU监控大盘,以多种图表类型大盘展示分别分组、实例、GPU维度的各个GPU指标。

GPU维度显存使用量

instanceId

group_gpu_memory_usedutilization

%

GPU维度编码器使用率

%

%

分组维度GPU显存空闲量

分组维度GPU编码器使用率

gpu_memory_totalspace

groupId

instanceId,gpuId

Bytes

instanceId

instance_gpu_memory_freeutilization

GPU相关监控指标提供5个维度的数据

%

group_gpu_power_readings_power_draw

名称

分组维度GPU显存总量

实例维度GPU显存空闲率

group_gpu_memory_freespace

instanceId,gpuId

group_gpu_memory_usedspace

在云监控控制台中进入主机监控,进入能不需要 查看监控数据的实例,点击GPU监控标签页,就能不需要 看多该实例所有GPU的GPU使用率、编码器/解码器使用率、显存使用量、GPU功率、GPU温度等监控数据。

%

目前不需要 GPU计算型实例支持GPU云监控,实例能不需要 要安装GPU驱动和云监控插件的1.2.28以上版本,即可在主机监控查看GPU相关监控数据、配置报警规则,或在Dashboard中配置监控图表。

instanceId,gpuId

实例维度GPU显存使用量

实例维度GPU温度

下图是以TopN表格形式展示实例维度GPU功率的平均,并以倒序最好的辦法 展示,能不需要 一目了然的查看用户账号下所有GPU实例的实时功率情况表,并选着GPU功率最高的实例。

实例维度GPU使用率

gpu_decoder_utilization

instance_gpu_gpu_usedutilization

使用云监控实现GPU云服务器的GPU监控和报警(上) - 自定义监控

GPU维度显存空闲率

%

分组维度GPU解码器使用率

Bytes

分组维度GPU显存空闲率

新增的GPU监控项加进报警规则最好的辦法 同ECS的一点指标一样,能不需要 针对某一特定指标设置报警规则,如下图:

名称

W

MetricName

gpu_gpu_usedutilization

下图是以TopN表格形式展示实例维度GPU温度的最大值,并以倒序最好的辦法 展示,能不需要 一目了然的查看用户账号下所有GPU实例的实时温度情况表,并选着GPU温度最高的实例。

实例维度GPU功率

名称

%

instanceId

instanceId

Bytes

groupId

instanceId

Bytes

%

%

Bytes

groupId

instanceId

instance_gpu_decoder_utilization

℃ 

℃ 

instance_gpu_memory_totalspace

instance_gpu_gpu_temperature

instanceId

instanceId

group_gpu_memory_totalspace

groupId

单位

GPU维度显存空闲量

W

GPU维度GPU功率

实例维度GPU编码器使用率

groupId

GPU维度显存总量

instanceId,gpuId

instanceId,gpuId

%

分组维度GPU功率

         已经 自定义监控的埋点脚本能不需要 用户当事人实现,已经 云监控控制台上自定义监控的展示维度也很有限,不需要 查看指定VM指定GPU的某个数据。

group_gpu_decoder_utilization

gpu_power_readings_power_draw

使用云监控实现GPU云服务器的GPU监控和报警(下)- 云监控插件监控

group_gpu_encoder_utilization

单位

下图是以折线图形式展示特定分组的实例维度GPU显存使用量的平均值,能不需要 一目了然的查看相关实例的显存使用量波动情况表。

MetricName

groupId

instanceId,gpuId

GPU维度GPU使用率

         通过使用阿里云提供的云监控插件,能不需要 一键安装就实现GPU指标的埋点和上报,共同展示维度能不不需要 与目前的ECS一样获得更多维度的展示,比如Dashborad监控大盘,能不需要 监控集群级别的GPU指标,主机监控则能不需要 在5个多页面显示该实例所有GPU的所有监控指标。

不需要 不需要 在云监控控制台主机监控次责一键点击安装最新的云监控插件,并查看云监控插件的版本,如下图:

gpu_encoder_utilization

实例维度GPU显存空闲量

下图是以折线图形式展示特定分组的分组维度GPU温度的平均值,能不需要 一目了然的查看指定分组相关实例的GPU温度波动情况表。

instanceId,gpuId

instanceId,gpuId

实例维度指标对单个ECS实例上的多个GPU监控数据做最大值、最小值、平均值的聚合。便于查看实例层面的整体使用情况表。

instanceId

gpu_memory_freespace

MetricName

groupId

gpu_memory_useutilization

%

instanceId,gpuId

分组维度GPU显存使用量

GPU维度显存使用率

上一篇文章大伙儿 介绍了怎么使用阿里云云监控服务提供的自定义监控功能,利用自定义监控提供的API肯能SDK,通过自定义脚本能不需要 将GPU云主机内埋点的GPU数据上报,在云监控控制台加进进相应的GPU监控项,就能不需要 实现对指定GPU实例内指定GPU的相应数据进行监控,对相应监控项设置相应数据的报警规则,就能实现监控数据的自动报警。

instanceId,gpuId

分组维度GPU显存使用率

dimensions

Bytes

dimensions

group_gpu_gpu_temperature

gpu_memory_freeutilization

Bytes

groupId

%

gpu_memory_usedspace

instance_gpu_memory_usedutilization

dimensions

W

group_gpu_memory_freeutilization

单位

groupId

GPU维度解码器使用率