Uso de datos y resultados para fines no deseados

Luego de proporcionar suficientes datos a lo largo del tiempo, el aprendizaje automático puede obtener información significativa de datos aparentemente insignificantes. Por ejemplo, los investigadores demostraron que los datos recopilados por los medidores eléctricos inteligentes, que monitorizan el uso de electricidad en los hogares, podrían revelar qué programas de televisión ven los clientes.

Cada dos segundos, los medidores inteligentes que probaron tomaron medidas detalladas del consumo de energía usado por los electrodomésticos, transmitiendo esas mediciones a un servidor en la compañía de servicios públicos. Los datos recopilados por los contadores incluían la cantidad de electricidad usada, el tipo de aparato usado y, en el caso de los aparatos digitales, como algunos televisores, datos aún más detallados que el aparato puede revelar al contador.

Estos datos permiten que la compañía de energía proporcione a los clientes información muy detallada sobre su consumo de energía, para ayudar a los clientes a monitorizar su consumo de energía. Sin embargo, en las manos equivocadas, los investigadores demostraron que la información detallada, recopilada cada dos segundos, podría usarse para fines que la compañía eléctrica nunca pretendió. Determinaron que los datos en realidad se podían usar para determinar qué canales y programas estaban viendo los clientes en distintos momentos del día. Con suficientes muestras de datos, los patrones de consumo de energía necesarios para mostrar un espectáculo en particular a medida que la imagen y la iluminación cambian en la pantalla servirían esencialmente como una firma de un canal en particular en un momento determinado.

Hay muchos otros ejemplos de cómo los datos recopilados se pueden usar para fines no deseados, si tiene los medios para interpretar los datos. También hay casos en los que los resultados de un modelo pueden ser útiles para un contexto específico, pero se aplican descuidadamente (o malintencionadamente) a un contexto diferente. Por ejemplo, si desarrolla un modelo para sugerir el mejor medicamento para los pacientes con diabetes, y entrena ese modelo exclusivamente en datos de pacientes diabéticos; usar ese modelo para determinar la medicación para los pacientes con cáncer sería extremadamente irresponsable.

También debe tener en cuenta cómo la intención en sí misma no siempre puede ser fácil de comunicar. Es posible que los usuarios de una aplicación de IA ni siquiera acepten su intención declarada, incluso si la entienden. Si un banco desarrolla un modelo para aceptar o rechazar a los solicitantes de préstamos, alguien que es rechazado podría interpretar ese resultado como un ataque a su carácter o identidad, incluso si el banco nunca tuvo la intención de ofenderlo en ninguno de los dos aspectos. Podrían poner en duda la legitimidad de la aplicación de IA. En última instancia, su interpretación de los resultados de un modelo no siempre se va a compartir con las personas que se ven directamente afectadas por esos resultados.

Información adicional