nemo_rl.models.huggingface.common

Contenu du Module

Classes

Nom	Description
`FlashAttentionKwargs`	Classe de données pour stocker les kwargs de FlashAttention v2.
`ModelFlag`	Enum qui définit des drapeaux spéciaux pour les comportements spécifiques des modèles.

Fonctions

Nom	Description
`is_gemma_model`	Aucun
`group_and_cat_tensors`	Regroupe et concatène des tenseurs selon les tailles de groupe, puis les remplit pour former un tenseur 2D.
`pack_sequences`	Emballe des séquences en lignes où chaque ligne concatène plusieurs séquences.
`unpack_tensor`	Déballe un tenseur emballé en séquences individuelles remplies à la même longueur.
`get_flash_attention_kwargs`	Renvoie les kwargs requis pour les fonctions avant FlashAttention v2.

Données

Tensor

API

(reste du document traduit de la même manière, en conservant la structure MDX et les éléments de code)