workload_generator/generate_deepspeed_stage1_2_workload.py [83:90]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
                if param.get_shape()[-1] != 1:
                    self.workload.append(
                        LogItem(
                            comm_type=CommType.computation,
                            msg_size=(
                                (self.batch_size, self.seq_len, param.get_shape()[0]),
                                (param.get_shape()[0], param.get_shape()[1]),
                            ),
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -



workload_generator/generate_deepspeed_stage3_workload.py [139:146]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
            if param.get_shape()[-1] != 1:
                self.workload.append(
                    LogItem(
                        comm_type=CommType.computation,
                        msg_size=(
                            (self.batch_size, self.seq_len, param.get_shape()[0]),
                            (param.get_shape()[0], param.get_shape()[1]),
                        ),
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -