Una CPU más rápida también puede ayudar a la IA, pero no acorta todas las esperas

Introducción

Un agente de inteligencia artificial necesita algo más que un modelo capaz de decidir qué hacer. Cuando repara un programa, alguien tiene que abrir los archivos, ejecutar el código y comprobar el resultado. Ese trabajo recae en la infraestructura que lo acompaña. Mejorarla puede permitir atender más encargos, aunque la respuesta que espera una persona no llegue en la mitad de tiempo.

Modal publicó el 19 de octubre de 2026 sus primeras pruebas de un servidor con la CPU NVIDIA Vera. La compañía comunicó hasta el doble de tareas completadas por unidad de tiempo frente a una máquina x86 GNR que describe como equivalente. La mejora importa en un servicio con muchas tareas simultáneas, pero la cifra pertenece a ese ensayo y varía según la carga. [1]

En la vista publicada de 150 contenedores, los máximos de Vera y del Intel GNR físico fueron 6.537 y 4.601 tareas verificadas por 60 segundos. La división da alrededor de 1,4 veces, un cálculo propio sobre ese gráfico. El «hasta el doble» de Modal no es una ventaja uniforme ni acredita una comparación a igualdad de precio, núcleos o consumo. [1]

El trabajo que ocurre entre dos respuestas

El banco de pruebas utiliza 50 tareas de Terminal-Bench con soluciones de referencia. Son tareas sin red, ejecutadas en contenedores ya preparados y arrancados. Cada resultado se comprueba con el verificador de la tarea. El diseño permite observar la ejecución local sin mezclarla con el arranque en frío ni con la espera por una respuesta del modelo. [2]

Esa elección ayuda a entender la CPU, el procesador que realiza las operaciones del programa. Al mismo tiempo deja fuera una parte del recorrido del usuario. Un agente puede alternar trabajo local, consultas al modelo y comunicaciones con otros servicios. Ganar tiempo en una etapa solo resuelve esa parte del encargo.

Erik Dunteman, autor de la publicación de ingeniería de Modal, reconoce que Vera no ganó siempre en las pruebas en serie y que, cuando lo hizo, no fue por un margen especialmente grande. Sitúa la ventaja principal bajo carga concurrente, cuando muchas tareas compiten por recursos, y la relaciona con el ancho de banda de memoria. Es la explicación del proveedor de su ensayo. [1]

NVIDIA presenta Vera, compatible con Arm, para tareas que incluyen ejecutar código, utilizar herramientas y gestionar entornos de agentes. Cambiar de arquitectura también tiene trabajo: el repositorio de Modal explica que los entornos se adaptaron para ser compatibles con Arm. Ese esfuerzo forma parte de la comparación, aunque no aparezca en una cifra de tareas por minuto. [2][3]

Qué significa para quien espera

Completar más tareas en un intervalo, o throughput, y reducir la latencia de una tarea son mejoras distintas. Un servicio puede atender a más personas a la vez sin que cada una espere la mitad. Para ver por qué, sirve una cuenta hipotética.

Imaginemos un encargo de cien segundos: sesenta esperando al modelo, veinte en comunicaciones y veinte en trabajo local. Si esa última parte bajase a diez y todo lo demás permaneciera igual, el encargo tardaría noventa segundos. La mejora total sería del 10 %, aunque el tramo de CPU se hubiera reducido a la mitad. Esta cuenta explica el peso de las etapas. No transforma la medición de Modal en una predicción para sus usuarios.

La capacidad adicional sí puede resultar valiosa para un servicio que acumula ejecución local. Podría permitir atender más carga o utilizar menos recursos para el mismo trabajo. Para convertir esa posibilidad en ahorro hacen falta los precios, el consumo, la utilización y el coste de adaptar y operar el sistema. La publicación y el código permiten examinar el método, pero no sustituyen una comparación económica ni una reproducción independiente.

El mérito del ensayo es dirigir la atención hacia el trabajo que la IA encarga a las máquinas. La elección de infraestructura debe juzgarse por las tareas completas que permite terminar, su calidad y su coste. Una mejora local merece interés cuando resuelve una espera real. La cifra más grande del gráfico todavía no nos dice cuál es esa espera en nuestro servicio.