Actualidad | Noticias | 16 MAR 2018

Sesgos en los algoritmos, un error a evitar en las empresas

A medida que las empresas automatizan más sus procesos corren más riesgos de introducir algoritmos sesgados.
Inteligencia artificial
Redacción

 

¿Cómo puede una empresa continuar con una actividad ética intachable a la vez que implementa soluciones de inteligencia artificial? La consultora Forrester ha lanzado estudio en la que explica las consecuencias de no identificar y prevenir la discriminación y el tratado de datos perjudiciales que pueden dañar la reputación de la marca. De media, un mal uso de esta tecnología cuesta a las empresas hasta un 4% de los ingresos anuales provocando un trasvase de clientes a la competencia.

En la mayoría de ocasiones, explica el informe, el mal tratamiento o la discriminación de información se realiza de manera involuntaria, lo que no exime a las organizaciones de hacer frente a multas de los reguladores o a reacciones de sus usuarios. “Los profesionales deben defenderse de introducir en sus sistemas algoritmos que tengan sesgos humanos”, detalla la consultora. “Deben esforzarse por crear modelos que sean sólidos, evaluables, inclusivos y reversibles”.

Los fallos no solo vienen de pequeñas empresas. Curioso es el caso de Google, que hace varios años deslumbró a todo el mundo por sus nuevas capacidades de clasificación automática de fotografías. Pero cuando un programador haitiano subió imágenes de sí mismo, el sesgo de la solución de la compañía lo confundió con un gorila. El suceso dio la vuelta a todo el globo en poco tiempo. El algoritmo contenía un sesgo ciertamente racista y el error ocasionó grandes mermas reputacionales a una de las marcas más poderosas de la red.

Asimismo, Forrester alecciona a las firmas a cumplir con GDPR pues las consecuencias regulatorias de un mal tratamiento de la información podrían ser catastróficas, sobre todo para la pyme.



Comentar
Para comentar, es necesario iniciar sesión
Se muestran 0 comentarios