Descripción de los requisitos de soporte y monitoreo para las soluciones de IA/AA

¿Qué tipos de problemas de soporte y mantenimiento pueden surgir en las soluciones de AA?

Las respuestas variarán, pero pueden incluir: pueden surgir problemas de dependencia de características porque las características están estrechamente entrelazadas en sistemas complejos; también puede haber dependencias de datos que se deben supervisar. Además, se debe realizar un seguimiento de cualquier cambio en el modelo para que se pueda validar su rendimiento. También debe haber un mecanismo para detectar errores, defectos y sesgos en el modelo y los resultados que produce. Por último, los resultados del modelo deben ser reproducibles para los usuarios (no una caja negra) y los resultados deben explicarse y justificarse.

¿Qué tipos de directivas necesitamos para garantizar que la solución siga funcionando correctamente?

Las directivas deben incluir directivas de datos que describan los requisitos de datos, directivas operativas que documenten cómo funciona el modelo, su uso previsto y sus limitaciones y lo que se requiere para que el modelo funcione correctamente y directivas de resultados que abarquen cuándo y cómo los seres humanos revisarán los resultados y que establecen restricciones en el ámbito del uso de los resultados.

¿Qué tipos de problemas continuos en el modelo debe supervisar el equipo de producción?

El equipo debe supervisar el sesgado de datos, comprobando los datos de entrada para asegurarse de que cumplen los requisitos para que el modelo funcione correctamente. También deben supervisar la coherencia del modelo para asegurarse de que el modelo produce resultados según los esperado. Como la solución permanece en producción, el modelo también debe monitorearse para mantener la precisión y evitar la obsolescencia.