> For clean Markdown of any page, append .md to the page URL.
> For a complete documentation index, see https://fr.nvidia-localization.ferndocs.com/fr/nemo/rl/latest/nemo-rl-models-generation-vllm-utils/llms.txt.
> For AI client integration (Claude Code, Cursor, etc.), connect to the MCP server at https://fr.nvidia-localization.ferndocs.com/_mcp/server.

# nemo\_rl.models.generation.vllm.utils

## Contenu du Module

### Fonctions

| Nom                                                                                                  | Description                                                                                                                   |
| ---------------------------------------------------------------------------------------------------- | ----------------------------------------------------------------------------------------------------------------------------- |
| [`format_prompt_for_vllm_generation`](#nemorlmodelsgenerationvllmutilsformatpromptforvllmgeneration) | Formater une liste de prompts pour la génération vllm (qui nécessite un format spécifique pour sa propre méthode `generate`). |

### API

```python
nemo_rl.models.generation.vllm.utils.format_prompt_for_vllm_generation(
    data: nemo_rl.distributed.batched_data_dict.BatchedDataDict[nemo_rl.models.generation.interfaces.GenerationDatumSpec],
    sample_idx: typing.Optional[int] = None
) -> list[dict[str, typing.Any]]
```

Formater une liste de prompts pour la génération vllm (qui nécessite un format spécifique pour sa propre méthode `generate`).

Voir [https://docs.vllm.ai/en/v0.9.1/features/multimodal\_inputs.html](https://docs.vllm.ai/en/v0.9.1/features/multimodal_inputs.html) pour le format de prompt pour les entrées multimodales.