A debate el derecho y la inteligencia artificial

El derecho, en su aspecto puramente regulatorio, no lo es todo. Tampoco y especialmente en las tecnologías. 

La inteligencia artificial (IA), con todos sus grandes avances y riesgos, puede escapar al derecho (si es que no lo ha hecho ya) por mucho que se preparen normas de alcance europeo como la propuesta de reglamento que se anuncia y de la que se trató en las jornadas de la Fundación Barrié hace unos días en A Coruña.

Como debe ser en todas las buenas leyes, este futuro reglamento incluye una definición de lo que es la IA (algo amplia, claro, porque ese mundo no es muy conocido para el público general) como «el software que se desarrolla para un conjunto determinado de objetivos definidos por seres humanos y que puede generar información de salida, como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa». La IA es el resultado del aprendizaje de las máquinas que ya se viene usando desde hace décadas. Nuestros móviles nos clasifican las imágenes, hablamos con chatbots, o con Alexa, por citar algunas de las aplicaciones actuales.

Como puede deducir el lector aún no siendo experto —ninguno lo somos—, hay muchas sombras, o cajas negras, en esa tecnología. Por eso el derecho requiere la confluencia de la ética y de la robustez técnica de esos modelos para poder proteger a los ciudadanos. Esa es la gobernanza de la IA.

La gran cuestión que se presentará a los países europeos será la aplicación de dicho reglamento que entrará en vigor directamente, pues se ha elegido esa norma y no la directiva, para ir al asunto con mayor rapidez y eficacia. Lo que se está preparando es la gobernanza del mundo de la IA. Sí, la de esos robots que ya vemos haciendo actividades aprendidas (aspirar, regular la temperatura, conducir un coche), programas que predicen o ayudan a jueces y médicos a diagnosticar, o a los portales de empleo a decantar currículos y que por el estado del arte ya están llegando a tomar decisiones autónomas.

España, además, ha avanzado ya la estructura de la que será la autoridad competente: la Agencia Española de Supervisión de la Inteligencia Artificial (Aesia) estará en A Coruña, en el precioso edificio de La Terraza.

Queda aún que esa ley europea se apruebe y que se concrete el modo en que afectará a las empresas, fabricantes, y que se traslade toda esa tecnología al público en general. Ha quedado una gran duda. La seguridad no está ni mucho menos garantizada. Los riesgos de algunas de las tecnologías son muy, muy altos (intolerables, les llama el reglamento) y se prohibirán. Por ejemplo, la vigilancia masiva de las cámaras, o el reconocimiento facial que puede hacerse con ellas. Imagínense los usos.

Pongo otro ejemplo que conozco algo mejor. El volumen y alcance de la desinformación ha incrementado la alarma pública y eso se ha manifestado en nuevas regulaciones, por ejemplo, respecto a los vídeos ultrafalsos (deep fake videos) que, al estilo del anuncio de Cruzcampo con Lola Flores, pueden reconstruir voz, manos o rostro de cualquier humano a partir de piezas de información. En ese mismo reglamento sobre la IA se ha introducido recientemente una enmienda para obligar a los sitios de vídeo o redes sociales (TikTok, Instagram, YouTube) a identificar, perdón, mejor dicho, a que identifiquen como no auténticos los vídeos falsos. A ver cómo maneja esto la Aesia. Los retos no son pocos.

Respecto a los principios, es importante que se afirme en el texto europeo que los derechos humanos son el dique que proteja del «uso de la IA, con sus características particulares (p. ej., la opacidad, la complejidad, la dependencia de datos, el comportamiento autónomo)», pues puede tener repercusiones negativas para múltiples derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea.

Termino. Hubo una pregunta en la sala que me dejó preocupada, sobre todo, por la respuesta. ¿Cómo se podrán pasar estas grandes tecnologías, de las que hay tan poca seguridad, al público en general? «No sé —dijo el ingeniero— yo no soy de gobernanza».