Logo Computerworld University

La excelencia de la profesión TI

Escudo Computerworld University

Paradigma propone un manifiesto con cinco principios y una mirada ética hacia el avance de la IA

La inversión mundial en sistemas cognitivos y de Inteligencia Artificial superará los 57.000 millones de dólares en 2021

La inversión mundial en sistemas cognitivos y de Inteligencia Artificial superará los 57.600 millones de dólares en 2021, según IDC. Si bien es cierto que su incorporación de estas tecnologías traerá a las empresas innumerables cambios y beneficios (mayor eficiencia, reducción de costes, mejor experiencia de cliente, aumento de la productividad…), también es cierto que su aplicación entraña riesgos y, en ocasiones, consideraciones éticas que deben ser tenidas en cuenta.

Conscientes de que la revolución tecnológica que vivimos ha cambiado las normas del juego a todos los niveles y que la Inteligencia Artificial es, sin duda, uno de los principales motores de ese cambio, Paradigma Digital, multinacional española especializada en la transformación digital de las empresas, ha querido hacer, a partir de su cultura y sus valores, una reflexión desde el punto de vista ético sobre estas cuestiones.

“Esta reflexión nos ha llevado a definir los 5 principios fundamentales que guían y establecen un marco de buenas prácticas en el desarrollo de la IA en Paradigma, y que sientan las bases de cómo trabajamos con nuestros clientes en esta área”, explica Manuel Zaforas, responsable de Data Intelligence en Paradigma Digital.

Esos cinco principios fundamentales son:

1)     Desarrollo de una IA justa y libre de prejuicios. Para velar porque los sistemas de inteligencia artificial sean justos, evitando la discriminación de personas y grupos con las decisiones que tomen, salvaguardando por encima de todo la dignidad humana. Para ello, es necesario asegurarse de no usar conjuntos de datos sesgados y controlar la posible discriminación algorítmica utilizando métricas avaladas por expertos humanos.

2)     Cumplir y ayudar a cumplir. Paradigma conoce la importancia de identificar de manera clara y precisa la responsabilidad de las decisiones tomadas por sistemas autónomos. Por ello, la compañía se marca el objetivo de ayudar a sus clientes a reflexionar sobre su responsabilidad en el uso de este tipo de sistemas. Asimismo, como diseñadores y desarrolladores de estos sistemas, Paradigma garantiza que el desarrollo del software está siempre de acuerdo con las normas legislativas y estándares de la industria. Y también se compromete a ayudar a los clientes en la estimación y evaluación de las posibles consecuencias negativas y positivas de la implantación de sistemas autónomos en sus grupos de interés y en la sociedad en su conjunto.

3)     Conocer el algoritmo y hacerlo transparente. Confiar en los sistemas inteligentes que se desarrollan es fundamental. Conocer los algoritmos que se crean y poder explicar su funcionamiento es la base de “la explicabilidad” de los algoritmos. Por eso Paradigma se compromete a que sean transparentes para poder saber cuál es la lógica que emplean y las consecuencias que se pueden esperar. Para ello diseñan sistemas inteligentes trazables en todas sus etapas, desde la captura de datos, las interacciones con terceros y la toma de decisiones. Así se garantiza que cualquier intervención de un sistema autónomo en una decisión siempre tendrá una explicación satisfactoria y auditable.

4)     Seguridad y privacidad, pilares clave en los sistemas de IA. Los sistemas inteligentes no deben corromper la privacidad de ninguna persona y deben funcionar de forma segura. Por eso, el equipo de seguridad de Paradigma se asegura de que todos los proyectos cumplan la legislación vigente, poniendo especial atención en el GDPR y en las normas locales de los países o regiones donde trabajan. Para ello establecen las medidas de seguridad más adecuadas para proteger los datos y asegurar que se implantan los medios necesarios para que las personas puedan ejercer sus derechos. Además, Paradigma es consciente de que los sistemas basados en IA no deben decidir sin que exista supervisión humana suficiente. Todo individuo tendrá derecho a no ser objeto de una decisión basada únicamente en un tratamiento de datos personales automatizado, que pueda perjudicarle, discriminarle o excluirle.

5)     Orientación hacia el propósito y el impacto positivo. Paradigma apuesta por crear una inteligencia beneficiosa para el mundo y para las personas, en donde la prosperidad económica creada por la IA sea compartida por toda la humanidad mejorando así los procesos sociales. Persigue e incentiva que los sistemas de inteligencia artificial altamente autónomos estén alineados con valores y comportamientos humanos, siendo compatibles con los ideales de dignidad humana, derechos, libertades y diversidad cultural.



Últimas Noticias

ahorro dinero Finanzas