Ética en el PLN

Existen numerosas preocupaciones éticas relacionadas con el uso del procesamiento del lenguaje natural (PLN). Por ejemplo, debe asegurarse de que el PLN no excluya inadvertidamente a los usuarios, por ejemplo, aquellos que hablan un idioma diferente al que admite la aplicación o los usuarios que no pueden oír o hablar.

En algunos casos, los desarrolladores pueden incorporar características destinadas a mejorar la capacidad de una aplicación para comunicarse, al tiempo que infringen inadvertidamente la privacidad de un usuario. Por ejemplo, los desarrolladores de dispositivos domésticos activados por voz pueden ocasionalmente "escuchar" en conversaciones entre los usuarios y la aplicación para evaluar qué tan bien responde el dispositivo a los comandos de voz. Los desarrolladores, también, podrían examinar los mensajes registrados en los registros de la aplicación. Ambos enfoques pueden infringir la privacidad del usuario.

Las tecnologías de PLN como los chatbots se han usado para influir en los diálogos en línea en foros como Twitter. Además de difundir desinformación, los bots pueden manipular la dirección de las discusiones o crear ruido y distracciones que dificultan las discusiones legítimas. Puede ser necesario crear leyes que requieran que los chatbots se identifiquen como entidades automatizadas, o prohibirlas directamente, y poner en marcha repercusiones legales efectivas para aquellos que infrinjan la ley. Dichas leyes probablemente tendrían que requerir que los servicios en línea puedan demostrar la debida diligencia en la vigilancia de sus servicios para la presencia de bots. Si bien la IA y el AA se pueden usar para crear este tipo de bots, también pueden ser útiles para ayudar a los servicios en línea a monitorizar sus sistemas para detectar la presencia de bots.

Información adicional