NVIDIA NIM provides optimized inference for 190+ models on NVIDIA GPU infrastructure.
| Model |
|---|
mistral-7b-instruct-v0.3mistralai/mistral-7b-instruct-v0.3 |
glm-5.3OSSz-ai/glm-5.3 |
glm-5.3-flashOSSz-ai/glm-5.3-flash |
gemma-4-31b-itgoogle/gemma-4-31b-it |
llama-3.2-90b-vision-instructOSSmeta/llama-3.2-90b-vision-instruct |
llama-3.2-11b-vision-instructOSSmeta/llama-3.2-11b-vision-instruct |
llama-3.1-nemotron-ultra-253b-v1nvidia/llama-3.1-nemotron-ultra-253b-v1 |
llama-3.1-nemotron-70b-instructnvidia/llama-3.1-nemotron-70b-instruct |
llama-3.1-nemotron-51b-instructnvidia/llama-3.1-nemotron-51b-instruct |
gemma-3-12b-itgoogle/gemma-3-12b-it |