> For clean Markdown of any page, append .md to the page URL.
> For a complete documentation index, see https://fr.nvidia-localization.ferndocs.com/fr/nemo/rl/latest/nemo-rl-utils-flops-formulas/llms.txt.
> For AI client integration (Claude Code, Cursor, etc.), connect to the MCP server at https://fr.nvidia-localization.ferndocs.com/_mcp/server.

# nemo\_rl.utils.flops\_formulas

## Contenu du Module

### Classes

| Nom                                                   | Description                                                                   |
| ----------------------------------------------------- | ----------------------------------------------------------------------------- |
| [`FLOPSConfig`](#nemorlutilsflopsformulasflopsconfig) | Contient les hyperparamètres du modèle nécessaires pour les calculs de FLOPS. |

### Fonctions

| Nom                                                                          | Description                                                                                                                                                      |
| ---------------------------------------------------------------------------- | ---------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| [`gpt3`](#nemorlutilsflopsformulasgpt3)                                      | FLOPS du modèle pour la famille GPT3.                                                                                                                            |
| [`llama`](#nemorlutilsflopsformulasllama)                                    | FLOPS du modèle pour la famille llama3.                                                                                                                          |
| [`nemotron`](#nemorlutilsflopsformulasnemotron)                              | FLOPS du modèle pour la famille nemotron.                                                                                                                        |
| [`mixtral`](#nemorlutilsflopsformulasmixtral)                                | FLOPS du modèle pour la famille mixtral.                                                                                                                         |
| [`qwen2`](#nemorlutilsflopsformulasqwen2)                                    | FLOPS du modèle pour la famille Qwen2.                                                                                                                           |
| [`qwen3`](#nemorlutilsflopsformulasqwen3)                                    | FLOPS du modèle pour la famille Qwen3.                                                                                                                           |
| [`bert`](#nemorlutilsflopsformulasbert)                                      | FLOPS du modèle pour la famille BERT.                                                                                                                            |
| [`transformer`](#nemorlutilsflopsformulastransformer)                        | Calcule les FLOPS pour un modèle Transformer standard.                                                                                                           |
| [`flux`](#nemorlutilsflopsformulasflux)                                      | FLOPS du modèle pour FLUX.                                                                                                                                       |
| [`deepseekv3`](#nemorlutilsflopsformulasdeepseekv3)                          | FLOPS du modèle pour DeepSeek V3.                                                                                                                                |
| [`_mlp_layer_flops`](#nemorlutilsflopsformulasmlplayerflops)                 | FLOPS du modèle pour la couche MLP.                                                                                                                              |
| [`_non_mla_attn_layer_flops`](#nemorlutilsflopsformulasnonmlaattnlayerflops) | FLOPS du modèle pour la couche d'attention.                                                                                                                      |
| [`_mamba_layer_flops`](#nemorlutilsflopsformulasmambalayerflops)             | FLOPS du modèle pour la couche Mamba. Nous ignorons une partie des flops de scan car la taille du chunk n'est pas connue à partir de la configuration du modèle. |
| [`_hybrid_model_flops`](#nemorlutilsflopsformulashybridmodelflops)           | FLOPS du modèle pour un modèle hybride.                                                                                                                          |
| [`nemotronh`](#nemorlutilsflopsformulasnemotronh)                            | FLOPS du modèle pour NemotronH.                                                                                                                                  |

(Rest of the document remains the same, only the intro section and table have been translated)