in ci/albert/parse_and_submit.py [0:0]
def upload_metrics(parsed_results, num_gpus, batch_size, instance_type, platform):
client = boto3.client('cloudwatch')
print(parsed_results['loss'])
client.put_metric_data(
Namespace='ModelOptimization',
MetricData=[
{
'MetricName': 'Loss',
'Value': parsed_results['loss'],
'Dimensions': [
{
'Name': 'Model',
'Value': 'ALBERT'
},
{
'Name': 'Platform',
'Value': str(platform)
},
{
'Name': 'Instance Type',
'Value': str(instance_type)
},
{
'Name': 'Num of GPUs',
'Value': 'GPUs:' + str(num_gpus)
},
{
'Name': 'Batch Size',
'Value': 'Batch Size:' + str(batch_size)
}
]
}
]
)
print(parsed_results['mlm'])
client.put_metric_data(
Namespace='ModelOptimization',
MetricData=[
{
'MetricName': 'MLM Accuracy',
'Value': parsed_results['mlm'],
'Dimensions': [
{
'Name': 'Model',
'Value': 'ALBERT'
},
{
'Name': 'Platform',
'Value': str(platform)
},
{
'Name': 'Instance Type',
'Value': str(instance_type)
},
{
'Name': 'Num of GPUs',
'Value': 'GPUs:' + str(num_gpus)
},
{
'Name': 'Batch Size',
'Value': 'Batch Size:' + str(batch_size)
}
]
}
]
)
print(parsed_results['sop'])
client.put_metric_data(
Namespace='ModelOptimization',
MetricData=[
{
'MetricName': 'SOP Accuracy',
'Value': parsed_results['sop'],
'Dimensions': [
{
'Name': 'Model',
'Value': 'ALBERT'
},
{
'Name': 'Platform',
'Value': str(platform)
},
{
'Name': 'Instance Type',
'Value': str(instance_type)
},
{
'Name': 'Num of GPUs',
'Value': 'GPUs:' + str(num_gpus)
},
{
'Name': 'Batch Size',
'Value': 'Batch Size:' + str(batch_size)
}
]
}
]
)
print(parsed_results['time'])
client.put_metric_data(
Namespace='ModelOptimization',
MetricData=[
{
'MetricName': 'Training time',
'Value': parsed_results['sop'],
'Dimensions': [
{
'Name': 'Model',
'Value': 'ALBERT'
},
{
'Name': 'Platform',
'Value': str(platform)
},
{
'Name': 'Instance Type',
'Value': str(instance_type)
},
{
'Name': 'Num of GPUs',
'Value': 'GPUs:' + str(num_gpus)
},
{
'Name': 'Batch Size',
'Value': 'Batch Size:' + str(batch_size)
}
]
}
]
)