Cambios en la lógica del modelo y mitigación

Es posible que algunos marcos de aprendizaje automático y profundo que se usaron en el desarrollo del modelo no se puedan usar en producción debido al software, la seguridad u otras limitaciones. En este caso, es posible que los modelos deban rediseñarse o simplificarse para que funcionen de forma aceptable en el entorno de producción.

Este problema puede presentarse repetidamente si un modelo se crea para un propósito dedicado y se vende a varias organizaciones para su uso. Por ejemplo, un modelo para aprobar solicitudes de tarjetas de crédito basado en factores de crédito podría venderse a muchas instituciones financieras diferentes, y tendrá que integrarse en diferentes entornos de producción para cada una.

Dado que estos tipos de problemas pueden tener ramificaciones legales y éticas graves y costosas, es importante tener un equipo de supervisión que incluya a personas familiarizadas con las leyes y regulaciones, así como la información del dominio del problema. Estas personas deben ser capaces de identificar cualquier área de preocupación con respecto a los datos de entrada, los pasos de preprocesamiento de datos, los pasos del modelo y los resultados.

El equipo de soluciones de AA tendrá que ajustar los datos, las características o la forma en que el modelo genera resultados para abordar estos problemas en el entorno de producción y asegurarse de que la solución cumpla todos los requisitos legales, reglamentarios y éticos.