Requisitos de supervisión
A medida que las organizaciones de todo tipo comienzan a usar soluciones de IA y AA como parte de sus operaciones, se requiere supervisión y gobernanza para garantizar que las soluciones se usen de manera correcta, ética y de forma que beneficien a las personas en lugar de perjudicarlas. Muchas aplicaciones y sistemas computacionales utilizan datos que deben supervisarse, pero las soluciones de IA y AA tienen requisitos únicos porque a menudo dependen y procesan grandes cantidades de datos. Los desafíos potenciales de las soluciones de IA y AA que ya ha visto, incluidos los problemas éticos, de privacidad, sesgo, seguridad, legales, de contexto y de caja negra, hacen que sea aún más importante validar y controlar estas soluciones.
Para ayudar a mitigar los riesgos de las soluciones de IA y AA, se deben crear las siguientes directivas de supervisión:
- Directivas de datos. Estas directivas deben describir la calidad, confiabilidad, relevancia y seguridad necesarias de los datos que utilizará el modelo. También deben exigir la documentación y validación de los datos y el origen de estos.
- Directivas operativas. Los modelos de IA y AA identifican relaciones y correlaciones en los datos para generar resultados, por lo que las organizaciones necesitan directivas operativas que documenten las características clave de los datos y cómo se procesan para generar resultados. Esto evita que el modelo se convierta en una caja negra. La documentación también debe incluir la teoría detrás del modelo y su finalidad prevista. Además, la base de los resultados se puede determinar, explicar y justificar en función de los requisitos, las regulaciones y las restricciones éticas. Las directivas operativas que proporcionan supervisión también deben incluir análisis sobre si el modelo es adecuado y cumple con su finalidad prevista.
- Directivas de resultados. Los resultados de los modelos de IA/AA se utilizan a menudo como entradas para otras aplicaciones o la toma de decisiones humanas. Las directivas de resultados, que a veces se denominan directivas de salidas, deben proporcionar una estructura para la revisión humana, pautas para esa revisión y restricciones en el ámbito de las decisiones que los modelos pueden tomar sin revisión humana. Las directivas de resultados que proporcionan supervisión también deben incluir medidas para realizar pruebas periódicas de sesgo o impacto discriminatorio.
Además, la estructura de supervisión debe estar bien definida y debe estar revisada por roles en una variedad de dominios de conocimiento, incluidos desarrolladores, especialistas en validación de modelos y usuarios de modelos. Las partes responsables de mitigar los riesgos deben estar identificadas claramente, así como las personas que tienen la responsabilidad general de la supervisión. Debe haber una cadena de responsabilidad que registre a cada persona responsable de algún aspecto del proyecto, en especial si esas responsabilidades cambian con el tiempo. En el caso de las soluciones de IA y AA, también es una buena idea incluir a los miembros del equipo con experiencia en la gobernanza, la privacidad y la protección de los datos, así como a las personas con experiencia en ética de la IA.
El equipo de supervisión debe auditar periódicamente la calidad de la solución de AA, su uso, la entrada de datos (incluidos los requisitos de recopilación y consentimiento), los resultados que genera y la cadena de responsabilidad para validar que esta sigue cumpliendo con las expectativas de las partes interesadas en todos los frentes. Estas auditorías ayudarán a garantizar la rendición de cuentas sobre cómo se utilizan los datos y los resultados en una variedad de contextos a medida que la solución madura con el tiempo.
Información adicional
Para obtener información adicional sobre la supervisión de las soluciones de IA y AA, consulte este
sitio.
Campus
Campus
