Evaluación de riesgos
Los proyectos de IA y AA pueden implicar mucho riesgo. Estos proyectos a menudo se construyen con datos que pueden contener información personal, privada y legalmente protegida y los resultados de estos proyectos pueden tener consecuencias personales, cívicas y legales para las personas o poblaciones que se están analizando. Los riesgos pueden incluir cualquiera de los siguientes:
- Riesgos relacionados con los datos, como por ejemplo:
- Proporcionar o permitir el acceso no autorizado a datos y resultados durante el proyecto de fuentes internas y externas.
- La posibilidad de brechas de información.
- Violación de las leyes y regulaciones de cumplimiento de datos.
- Riesgos legales y monetarios. Si se descubre que el equipo u organización actuó de manera inapropiada en el proyecto, podrían estar expuestos a acciones legales penales o cívicas que pueden resultar en multas u otras sanciones.
- Riesgos éticos. Incluso si todos los involucrados siguen todas las leyes y regulaciones relevantes, si los datos o resultados del proyecto de IA o aprendizaje automático se utilizan de una manera que daña a uno o varios segmentos de la sociedad, podría haber una reacción violenta hacia los miembros del equipo y las organizaciones participantes. Esta reacción violenta podría tomar muchas formas, desde consumidores que boicotean las marcas, hasta disturbios sociales.
- Riesgos relacionados con el proyecto. Incluso si el proyecto produce con éxito los resultados esperados y deseados, si esos resultados crean problemas técnicos, legales o éticos, el proyecto podría verse como un fracaso y los miembros del equipo podrían perder la confianza de sus compañeros.
Debido a que los riesgos pueden afectar a tantas personas y entidades de tantas maneras, mitigarlos es una práctica generalmente aceptada. La mitigación es la práctica de reducir la gravedad de algo.
Algunas formas de mitigar los riesgos en los proyectos de IA y AA incluyen:
- Seguir el flujo de trabajo de AA.
- Documentar las decisiones hechas en cada paso del flujo de trabajo de aprendizaje automático.
- Aclarar y documentar objetivos, supuestos y resultados deseados.
- Considerar, evaluar y documentar cualquier resultado potencialmente negativo.
- Incluir expertos legales y éticos al equipo del proyecto para ayudar a identificar resultados indeseables que podrían conducir a responsabilidad legal o ética.
Los miembros clave del equipo del proyecto deben revisar el proyecto regularmente a medida que avanza para evaluar los riesgos y garantizar que se adopten las medidas adecuadas para mitigarlos.
Campus
Campus
