Paradigma propone ocho factores para enfocar la Inteligencia Artificial

La Inteligencia Artificial (IA) se ha convertido en una herramienta poderosa con un impacto significativo en diversos aspectos de nuestra sociedad. En los últimos días, una noticia sobre una carta firmada por 300 expertos ha alertado sobre los riesgos asociados con la IA, incluyendo incluso el riesgo de extinción. Estos riesgos incluyen la propagación masiva de desinformación y propaganda, la posible eliminación de empleos y el surgimiento de una IA más inteligente que los seres humanos. Es importante destacar que la IA aprende de nosotros, lo que hace que estos temores sean aún más inquietantes.

Para Carmen Troncoso, DPO de Paradigma Digital existen innumerables riesgos en términos de protección de datos. Según datos del último estudio realizado por TransUnion tres de cada cuatro (75 %) españoles confiesan que están “muy preocupados” o “algo preocupados” cuando comparten información personal. 

Según esta experta hay riesgos específicos relacionados con la protección de datos que deben abordarse a través de una regulación adecuada:

1. Recopilación excesiva de datos: La IA requiere grandes cantidades de datos para su entrenamiento, lo que puede resultar en la recopilación excesiva de información personal.
2. Uso no autorizado de datos: Existe el riesgo de que los datos recopilados para la IA se utilicen para fines no autorizados o más allá del propósito original, lo que plantea preocupaciones de privacidad.
3. Sesgos y discriminación algorítmica: Los algoritmos de IA pueden reflejar sesgos y discriminación inherentes en los datos de entrenamiento, lo que puede resultar en decisiones injustas o perjudiciales para ciertos grupos.
4. Falta de transparencia: La opacidad de los algoritmos de IA dificulta la comprensión de cómo se toman las decisiones y qué datos se utilizan, lo que socava la confianza y el control del usuario sobre sus datos personales.
5. Riesgo de violaciones de seguridad: Los sistemas de IA pueden ser vulnerables a ataques y violaciones de seguridad, lo que podría resultar en la exposición o el acceso no autorizado a datos personales.
6. Rastreo y vigilancia masiva: El uso de la IA para el rastreo y la vigilancia puede plantear preocupaciones sobre la invasión de la privacidad y el monitoreo constante de las actividades de las personas.
7. Inexactitud y toma de decisiones erróneas: La IA puede cometer errores y tomar decisiones incorrectas, lo que puede tener consecuencias negativas para los individuos, especialmente cuando se utiliza en áreas críticas como la salud o el sistema judicial. Si la IA proporciona asesoría jurídica directamente a los clientes por ejemplo en caso de negligencia, ¿quién sería considerado responsable?
8. Falta de consentimiento informado: El uso de IA a menudo implica el procesamiento de datos personales sin un consentimiento informado adecuado.