Inteligencia artificial, ética y derechos

En un desenlace que corona días de intensas negociaciones y en sintonía con los objetivos marcados por España durante su presidencia del Consejo, la Unión Europea ha logrado un histórico acuerdo para la regulación de la inteligencia artificial (IA). Este marco regulatorio, sin precedentes a nivel mundial, no solo tiene como propósito impulsar la tecnología que está transformando de manera sustancial nuestra sociedad y economía, sino que también se nutre de la arraigada cultura humanística europea, en la que el respeto a los derechos humanos ocupa un lugar central.

La meta fundamental es establecer un marco que fomente el desarrollo de una inteligencia artificial ética y confiable, colocando a las personas en el epicentro y asegurando que la tecnología sea empleada en beneficio de la sociedad. Aunque este acuerdo representa un sólido primer paso hacia la implementación de la regulación, es necesario tener presente que aún debe ser ratificado, y transcurrirán algunos meses antes de que entre en vigor.

La regulación aborda cuestiones éticas cruciales, como la privacidad, los sesgos y la transparencia en las aplicaciones inteligentes. En este último aspecto, se incluyen los derechos de autor de los contenidos utilizados por la inteligencia artificial generativa durante su entrenamiento, siendo las empresas las responsables de proporcionar resúmenes detallados de los contenidos utilizados por sus aplicaciones. La rápida evolución de la tecnología, evidenciada por la explosión de sistemas de este tipo, como ChatGPT o Bard, ha requerido incorporar regulaciones específicas en estas últimas discusiones, ya que en el 2021, cuando se realizó la propuesta de ley, este tipo de sistemas no habían impactado en el mercado. Este es un ejemplo de la importancia de poner en marcha la regulación en una tecnología tan disruptiva.

Manteniendo su enfoque basado en el riesgo, la regulación impone restricciones significativas a determinados sistemas, exigiendo salvaguardias de los derechos humanos antes de su entrada al mercado. Esto incluye la obligación de reportar evaluaciones de modelos, realizar pruebas adversarias, garantizar la ciberseguridad y reportar sobre la eficiencia energética, entre otras medidas. Los ciudadanos tendrán el derecho de presentar reclamaciones sobre los sistemas de IA de alto riesgo que consideren afectan sus derechos, con la garantía de recibir explicaciones sobre las decisiones tomadas por dichos procedimientos.

El debate crucial se centró en las aplicaciones de IA que serán prohibidas debido a su amenaza para la democracia y los derechos individuales. Esto abarca sistemas de categorización biométrica basados en características sensibles, como raza, religión, creencias políticas u orientación sexual. La utilización de biometría en espacios públicos estará sujeta a restricciones y requerirá autorización judicial previa. La recopilación indiscriminada de imágenes faciales de internet o cámaras de vigilancia para bases de datos de reconocimiento facial también será prohibida, al igual que sistemas de ránking de personas según su comportamiento (una cuestión permitida en otros lugares del mundo) o el uso de reconocimiento facial para catalogar emociones en entornos educativos y laborales.

Aunque el acuerdo solo tiene unas pocas horas, ya ha generado preocupaciones en el mundo empresarial, especialmente en el ecosistema de pymes, sobre si esta regulación podría frenar la innovación y la retención de talento. Al respecto, España anunció hace meses la elaboración de una guía de buenas prácticas para ayudar a las empresas a cumplir con la regulación. Este paso es esencial para mantener la aspiración de ser un referente europeo en IA ética. Además, este es un momento crucial en la definición del futuro de la Aesia, la primera agencia europea para la supervisión ética de la IA.

Este paso, lejos de ser pequeño, representa un hito significativo en términos de protección y regulación de la IA, marcando un compromiso importante de la UE con la ética y los derechos de las personas. Aunque queda aún camino por recorrer, indudablemente marca el inicio de una senda positiva para la IA que los seres humanos necesitamos en el futuro que se avecina.