La infraestructura en la nube o heredada se utiliza a menudo para el desarrollo inicial de la AI o la prueba de concepto, pero cuando la AI se utiliza a escala de producción, los científicos de datos deben considerar una infraestructura optimizada para la AI.
Estas consideraciones deben incluir lo siguiente:
- Tamaño y crecimiento del conjunto de datos
- Costo y disponibilidad de las GPU, el almacenamiento y las redes de alto rendimiento
- Requisitos de seguridad, control, gobernanza y propiedad de los datos.
A menudo, una solución híbrida o en las instalaciones ofrecerá resultados mejores y más rápidos, con un costo total de propiedad más bajo.