Con frecuencia se usa una infraestructura de nube o una infraestructura tradicional para las primeras fases de desarrollo de la IA o la prueba de concepto, pero cuando la IA se utiliza a escala de producción, los científicos de datos tienen que plantearse el uso de una infraestructura optimizada para la IA.
Hay que tener en cuenta lo siguiente:
- Tamaño y crecimiento de los conjuntos de datos.
- Coste y disponibilidad de GPU, almacenamiento y redes de alto rendimiento.
- Requisitos de seguridad, control, gobernanza y propiedad de los datos.
Muchas veces, una solución híbrida o local (on-premises) ofrecerá unos resultados mejores y más rápidos, con un coste total de propiedad más bajo.