> For clean Markdown of any page, append .md to the page URL.
> For a complete documentation index, see https://fr.nvidia-localization.ferndocs.com/fr/nemo/rl/latest/nemo-rl-distributed-model-utils/llms.txt.
> For AI client integration (Claude Code, Cursor, etc.), connect to the MCP server at https://fr.nvidia-localization.ferndocs.com/_mcp/server.

# nemo\_rl.distributed.model\_utils

## Contenu du Module

### Classes

| Nom                                                                                  | Description                                                                                    |
| ------------------------------------------------------------------------------------ | ---------------------------------------------------------------------------------------------- |
| [`DistributedLogprob`](#nemorldistributedmodelutilsdistributedlogprob)               | Fonction autograd personnalisée pour calculer les log-probabilités dans un contexte distribué. |
| [`ChunkedDistributedLogprob`](#nemorldistributedmodelutilschunkeddistributedlogprob) | Fonction autograd personnalisée pour calculer les log-probabilités dans un contexte distribué. |
| [`AllGatherCPTensor`](#nemorldistributedmodelutilsallgathercptensor)                 | Aucune                                                                                         |

### Fonctions

| Nom                                                                                                                            | Description                                                                                                    |
| ------------------------------------------------------------------------------------------------------------------------------ | -------------------------------------------------------------------------------------------------------------- |
| [`_compute_distributed_log_softmax`](#nemorldistributedmodelutilscomputedistributedlogsoftmax)                                 | Calculer un log softmax distribué stable à travers les workers parallèles de tenseurs.                         |
| [`dtensor_from_parallel_logits_to_logprobs`](#nemorldistributedmodelutilsdtensorfromparallellogitstologprobs)                  | Obtenir des log-probabilités à partir de logits de vocabulaire TP+CP partitionnés.                             |
| [`from_parallel_logits_to_logprobs`](#nemorldistributedmodelutilsfromparallellogitstologprobs)                                 | Obtenir des log-probabilités à partir de logits de vocabulaire TP+CP partitionnés.                             |
| [`from_parallel_logits_to_logprobs_packed_sequences`](#nemorldistributedmodelutilsfromparallellogitstologprobspackedsequences) | Obtenir des log-probabilités à partir de logits de vocabulaire TP partitionnés pour des séquences empaquetées. |
| [`_get_tokens_on_this_cp_rank`](#nemorldistributedmodelutilsgettokensonthiscprank)                                             | Obtenir les tokens sur ce rang de parallélisme contextuel.                                                     |
| [`allgather_cp_sharded_tensor`](#nemorldistributedmodelutilsallgathercpshardedtensor)                                          | Aucune                                                                                                         |
| [`get_logprobs_from_vocab_parallel_logits`](#nemorldistributedmodelutilsgetlogprobsfromvocabparallellogits)                    | Calcule les log-probabilités à partir de logits de vocabulaire parallèle.                                      |

### API

\[Le reste du document reste inchangé, seul le texte visible a été traduit]