Perspectivas IA
Economía del cómputo: cómo la caída del coste de inferencia transforma a las startups de IA
La inferencia es cada vez más barata mientras que entrenar modelos de frontera es cada vez más caro. Qué significa esta divergencia para los márgenes y la estrategia.
Dos curvas de coste definen la economía de la IA. Entrenar modelos de frontera es cada vez mucho más caro, mientras que el coste de ejecutar un nivel dado de capacidad —la inferencia— no deja de bajar.
Para las startups, esta divergencia es una buena noticia. Los productos construidos sobre modelos heredan esa caída de costes, de modo que los márgenes de los flujos agénticos mejoran con el tiempo sin ingeniería adicional. Tareas que el año pasado no eran rentables lo son este año.
La lección estratégica es diseñar para la portabilidad de modelos. Los equipos que pueden repartir el trabajo entre varios proveedores y modelos de pesos abiertos aprovechan la curva de costes, evitan la dependencia y se protegen frente a shocks de suministro en el mercado de chips.
Preguntas frecuentes
¿Están bajando los costes de inferencia de la IA?
Sí. El coste de ofrecer un nivel determinado de capacidad de IA ha caído de forma constante, mejorando los márgenes de quienes construyen sobre modelos.
