fairscale/nn/data_parallel/sharded_ddp.py [479:489]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
                        self._work_handles.append(
                            Workhandle(
                                handle=dist.reduce(
                                    tensor=bucket.buffer,
                                    dst=bucket.destination,
                                    group=self._process_group,
                                    async_op=True,
                                ),
                                callback=None,
                            )
                        )
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -



fairscale/nn/data_parallel/sharded_ddp.py [637:647]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
                self._work_handles.append(
                    Workhandle(
                        handle=dist.reduce(
                            tensor=bucket.buffer,
                            dst=bucket.destination,
                            group=self._process_group,
                            async_op=True,
                        ),
                        callback=None,
                    )
                )
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -