Este documento analiza las decisiones de diseño arquitectónico para optimizar la eficiencia en la inferencia de modelos de Machine Learning, centrándose en la sostenibilidad energética.
• Mejora del rendimiento: Se da prioridad a la eficiencia de rendimiento como factor clave, optimizando la arquitectura para mejorar la rapidez y reducir el uso de memoria y CPU.
• Investigación en sostenibilidad: Falta de estudios sobre el impacto ambiental de las decisiones arquitectónicas en la inferencia de ML, proponiendo más investigación para abordar esa brecha y promover el desarrollo de sistemas más sostenibles.
• Optimización de la eficiencia energética: Se busca reducir el consumo energético en la fase de inferencia de ML mediante mejores decisiones de diseño arquitectónico y opciones de infraestructuras más eficientes.
Autores:
Francisco Durán
Matías Martínez
Silverio Martínez-Fernández
Patricia Lago
