summarize_from_feedback/models/transformer.py [221:231]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
                attn_dropout=attn_dropout,
                resid_dropout=resid_dropout,
                afn=afn,
                zero_out=zero_out,
                init_scale=init_scale,
                res_scale=res_scale,
                m_attn=m_attn,
                m_mlp=m_mlp,
                mp_comm=mp_comm,
                key_bias=key_bias,
            )
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -



summarize_from_feedback/models/transformer.py [358:368]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
            attn_dropout=attn_dropout,
            resid_dropout=resid_dropout,
            afn=afn,
            zero_out=zero_out,
            init_scale=init_scale,
            res_scale=res_scale,
            m_attn=m_attn,
            m_mlp=m_mlp,
            mp_comm=mp_comm,
            key_bias=key_bias,
        )
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -