src/model.py [22:28]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
        self.md_dim = md_dim #size of keys
        self.query_dim = query_dim #size of query vector
        self.md_group_size = md_group_size

        self.use_null_token = use_null_token
        if self.use_null_token:
            self.zeros = torch.zeros([1,1,self.md_dim], requires_grad=False)
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -



src/model.py [76:82]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
        self.md_dim = md_dim
        self.query_dim = query_dim
        self.md_group_size = md_group_size
        self.use_null_token = use_null_token

        if self.use_null_token:
            self.zeros = torch.zeros([1,1,self.md_dim], requires_grad=False)
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -