El juez Marchena anima a mantener el rostro humano frente a la «justicia robótica»
SOCIEDAD
El presidente de la sala de lo penal del Supremo pide prudencia al usar algoritmos estadísticos que podrían no ser justos
26 may 2023 . Actualizado a las 05:00 h.El uso de algoritmos e inteligencia artificial en la Justicia genera controversia entre los penalistas. Los bufetes de abogados los usan para leer contratos o predecir sentencias. La policía emplea máquinas predictivas en España para calcular el nivel de riesgo de una maltratada y los jueces de Estados Unidos calculan con ellas el peligro de reincidencia de un detenido si lo dejan volver a la calle. En este caso, los activistas de derechos humanos descubrieron que el algoritmo se alimenta con datos históricos y sus sesgos penalizan a los arrestados afroamericanos. La jurista italiana Serana Quattrocolo recordó que la prueba de los procesos criminales ha de tener garantías y ser de calidad. Recalca que la evidencia para culpar a un acusado no debería basarse en un algoritmo estadístico y que es opaco, ya que el juez no conoce la cadena de deducciones que llevó a la máquina a extraer sus conclusiones.
A este debate entre penalistas se suma ahora el magistrado y presidente de la sala de lo penal del Tribunal Supremo, Manuel Marchena, que impartirá este viernes en Vigo la conferencia Inteligencia artificial, hacia una justicia robótica. Será a las 16.15 horas en el Congreso de Primavera de Avogados Novos en el Círculo de Empresarios de Galicia.
Marchena admite que la inteligencia artificial ya constituye una realidad al servicio del Ministerio Fiscal y la Procura. «El debate actual, sin embargo, adquiere otra dimensión. De lo que hablamos ahora es de la sustitución de la persona que dicta el derecho por una máquina que haría lo propio, pero a partir de una información tratada mediante fórmulas algorítmicas», sostiene Marchena. Incide en que los algoritmos se basan en una justicia estadística sobre casos de precedentes, un método anglosajón que no encaja con la tradición jurídica española que examina cada caso concreto.
Este peso pesado del tribunal que crea doctrina en España cree que la inteligencia artificial plantea muchos interrogantes sin resolver. Se pregunta si un robot puede ser imparcial, y cómo se articularía, si es ello posible, la responsabilidad de la máquina. Otra de sus dudas es sobre quién controla al programador que selecciona la información que convierte en inteligente la respuesta computacional «¿El juez-robot es inmune a los sesgos cognitivos?», cuestiona Marchena. Pide prudencia ante el «entusiasmo sobrevenido» acerca de las formulas alternativas de administrar justicia.
Para este jurista, la respuesta robótica será siempre basada en la información estadística que alimenta el algoritmo mediante el que se pretende solucionar el conflicto. «En nuestro sistema, ajeno al modelo anglosajón del precedente, la preexistencia de un caso similar al enjuiciado no puede, por sí solo, fundamentar el desenlace», advierte. Una decisión robótica exclusivamente basada en el enlace argumental entre el precepto penal aplicable y la jurisprudencia que lo ha interpretado «ofrece una imagen estática, casi petrificada, de precedentes que, estoy seguro, no siempre conducirían a una decisión justa», asegura. Marchena añade que «la justicia no puede perder el rostro humano. La inteligencia artificial está llamada a desempeñar un papel instrumental, complementario del trabajo del juez, pero la decisión del algoritmo no tiene por qué enlazar con el valor constitucional de justicia». Advierte que «la verdad a la que se abrazan los sistemas computacionales es la verdad aritmética, la verdad del precedente, no la solución a la controversia mediante la aplicación, adaptada a cada caso concreto, de los preceptos legales».
Marchena, uno de los magistrados con mayor poder doctrinal de España, recalca que «el juez es algo más que un funcionario que dicta sentencias. Está llamado a resolver la legalidad de las decisiones administrativas. La lucha contra las inmunidades del poder no puede quedar en manos de un dispositivo que solo ofrece fidelidad estadística y aritmética a su programador».
