Campus
Diagrama de temas
-
-
Requisitos de comunicación para la implementación de modelos
Una vez que un modelo de aprendizaje automático (AA) está listo para la implementación, es importante comunicar información sobre su uso y limitaciones a los patrocinadores del proyecto, los usuarios y las personas que trabajarán con el modelo y los resultados que genera. Debe esforzarse por explicar la función y las capacidades del modelo, cómo se diseñó y entrenó, los resultados que se pretende generar y las limitaciones a su funcionalidad.
Cuando se estén preparando y llevando a cabo estos análisis, debe poder explicar los beneficios que el modelo y sus resultados proporcionarán. Estos beneficios pueden incluir los siguientes:- beneficios económicos (ahorro de costos);
- ahorro de tiempo;
- resolución de problemas;
- reducción de errores;
- seguridad humana;
- comodidad humana;
- beneficios ambientales.
También comunique cómo el modelo aborda o mitiga los desafíos que se encuentran comúnmente con los sistemas de IA, incluidos los siguientes:- cuestiones éticas;
- problemas relacionados con el trabajo humano;
- problemas relacionados con la privacidad;
- problemas relacionados con el sesgo;
- problemas relacionados con la seguridad;
- cuestiones legales;
- problemas relacionados con el contexto;
- problemas relacionados con la caja negra.
Aunque puede comunicar estos problemas en una o más conversaciones en vivo, también debe considerar documentar los problemas para tener un registro de ellos. Debe prever compartir esta documentación con su audiencia objetivo para que puedan mantenerse informados a su propio ritmo.
Nota: Los beneficios y desafíos de la IA se analizaron en la lección Revisión de los principios básicos de la IA de este curso.
-
Uso previsto
Es fundamental explicar cómo se pretende usar el modelo. Esto es esencial porque los modelos de aprendizaje automático se entrenan y se ajustan con datos que se seleccionan y optimizan específicamente para resolver un problema determinado. Debe indicar el problema que está intentando resolver, la hipótesis que creó para abordar el problema y cómo los resultados generados por el modelo abordan el problema. Dado que los modelos de aprendizaje automático están controlados por datos, debe incluir una explicación exhaustiva sobre los conjuntos de datos que se usaron para entrenar el modelo, así como sobre cómo se manipularon esos conjuntos de datos.
- Esto debe incluir características clave incluidas en los datos que contribuyen a los resultados generados y una explicación de las características que se descartaron, ya que esto ayudará a explicar las limitaciones del modelo.
- Además, debe explicar cómo se pretende utilizar los resultados para abordar el problema indicado al principio, y cualquier beneficio o desafío que pueda surgir de la aplicación de los resultados según las indicaciones.
Por ejemplo, si usa su modelo de AA para predecir los valores de las viviendas para la aprobación de un préstamo, debe explicar el impacto en los posibles compradores si los resultados del modelo contribuirán a la aprobación o denegación de préstamos. También debe considerar cómo evitar que el modelo sea una caja negra para que los compradores de viviendas y el personal financiero entiendan cómo el modelo determina los valores de las viviendas.
-
Limitaciones del modelo
También debe comunicar las limitaciones del modelo. De nuevo, esto se relacionará con la forma en que se optimizó el conjunto de datos utilizado para entrenar el modelo, incluidas las características clave que contribuyen a la determinación de resultados y las características que se quitaron.
Debe estar preparado para explicar cómo la composición de características del conjunto de datos limita el uso del modelo. Por ejemplo, si ha creado un modelo que predice los valores de las viviendas en el área de Seattle, utilizando características de conjunto de datos que incorporan cifras de crecimiento de la población para los vecindarios de Seattle, el conjunto de datos tendrá dificultades para predecir valores de viviendas precisos para otras ciudades donde el crecimiento de la población es diferente. En ese caso, el modelo debe usarse para estimar los valores de las casas solo en el área de Seattle.
Figura 1. Un modelo sobresale en la predicción de los precios de la vivienda en la ciudad A, pero no necesariamente puede generalizar a la predicción de los precios de la vivienda en la ciudad B. 
Además, si el modelo se pone en uso y las cifras de crecimiento de la población cambian, la precisión del modelo puede reducirse debido a cambios en las características clave utilizadas para determinar los resultados. Por lo tanto, puede recomendar que los datos del modelo se reestructuren y optimicen cada dos años, y que el modelo se vuelva a entrenar para asegurarse de que sigue siendo hábil.
-
Administración de expectativas
La administración de las expectativas de las personas afectadas por el uso del modelo incluye trabajar con patrocinadores, usuarios y afectados por los resultados del modelo (como los clientes).
- Los patrocinadores deben apoyar y justificar la implementación de un modelo y responder si el uso del modelo se cuestiona más adelante. También deben saber cómo se debe manejar el uso de la solución de AA, con el fin de mitigar los problemas negativos de su uso.
- Las personas que usan el modelo para generar resultados deben saber cómo funciona el modelo y los resultados que genera, para que puedan usar el modelo correctamente y ayudar a garantizar que el modelo cumpla correcta y exactamente su propósito previsto.
- Las personas afectadas por los resultados generados deben tener alguna idea sobre cómo llega el modelo a los resultados, y cómo esos resultados podrían ser cuestionados si los resultados son negativos para las partes afectadas.
Figura 1. Las expectativas de las diferentes partes interesadas. 
-
Comunicación de las capacidades y limitaciones del aprendizaje automático
-
Campus
