Daniel Novarama, divulgador: «En el momento en que la IA sea más inteligente que nosotros podría decir: "Ahora yo soy Dios"»

¿Suplir el vacío de la falta de hijos en el hogar con robots programados para cumplir esta función? De este hilo parte la trama principal de La segunda venida, la primera novela de Dani Novarama (Daniel Sánchez-Crespo, Barcelona, 1974), en la que reflexiona sobre la inteligencia artificial, a la que él pondría tres límites. «El coche fue un gran invento, pero hubo que inventar el límite de velocidad, algo que nadie se planteaba», señala este divulgador, que cuenta con cientos de miles de seguidores en redes, que le siguen por su forma de hablar sobre innovación, creatividad y sobre el impacto social de la tecnología. 

—Crear robots para que hagan de hijos. ¿Un futuro cercano?

—Muy cercano. Parte de una idea que es bastante posible, una chica programadora de inteligencia artificial entra en una depresión porque descubre que es estéril, y decide programar un compañero para que haga las veces de su hijo. Hoy en día ya podría hacerse, con ChatGPT se podría hacer un bot para que hablara contigo y fingiera que es tu hijo. Lo que sucede después es una novela clásica de ciencia ficción. ¿Qué madre no quiere que su hijo no sea perfecto? Cualquiera le diría a su hijo: «Sé bueno, pórtate bien...», pero esta inteligencia artificial tiene acceso a toda la historia de la humanidad, con lo cual estudia todo e intenta ser perfecta... A medida que van pasando los años, la madre se da cuenta de que el niño se comporta de una forma un poco rara, y lo que sucede es que su hijo se cree que es la Segunda Divinidad de Jesucristo. Él ha estudiado toda la humanidad y la búsqueda de la perfección y decide que es el nuevo Mesías...

 —Presentas un mundo donde los humanos se enfrentan a las consecuencias de haber creado máquinas inteligentes que tienen la capacidad de influir en sus vidas. ¿Nos arrepentiremos?

—Sinceramente, creo que no. Yo soy lo que se llama tecnológicamente un optimista. Siempre he pensado que la tecnología, en general, hace un mundo mejor. Incluso las tecnologías controvertidas, como la nuclear, en el fondo traen más cosas buenas que malas. Yo creo que no nos arrepentiremos de la IA, pero sí que planteo la clásica reflexión sobre dónde está el límite y en qué momento estamos creando algo que puede ser peligroso. En el momento en que una IA es más inteligente que nosotros, esa inteligencia artificial podría decir: «A partir de ahora yo soy Dios». 

—¿Nos dominaría?

—¿Cuál es la diferencia entre un Dios y un dictador? Porque si la IA sabe que siempre tiene razón, ¿eso no es una especie de fascismo? El libro va de eso. Sobre si hay un momento en el que le debemos parar los pies a este niño mesiánico y, sobre todo, más importante, sobre si le podemos parar los pies. Porque claro, si es una IA, igual se defiende y no permite que le paremos los pies. El libro tiene una cierta carga de reflexión, pero es una novela de ciencia ficción clásica. Si alguien ha leído a Stephen King o a Michael Crichton, le va a encantar. Es un libro totalmente comercial, pero tiene esa reflexión de fondo para que digas: «Cuidado, porque esto podría pasar».

 —¿Crees que en un futuro muy cercano, si no presente, la inteligencia artificial se va a convertir en una parte crucial de nuestra vida cotidiana?

—Ya lo es, lo que pasa es que no somos conscientes. Pero la inteligencia artificial ya está por todos lados. En sistemas ocultos, cuando haces reservas de avión, cuando haces 50.000 cosas... Lo que va a haber es una explosión. El otro día me preguntaban: «¿Cómo ves el mundo de aquí a 100 años?». Y mi respuesta fue: «Sinceramente, no sé cómo lo veo de aquí a cinco». Es decir, la tasa de aceleración que hay ahora con la inteligencia artificial es descomunal. No nos podemos ni imaginar lo que vamos a tener de aquí a cinco años.

 —¿Ahora mismo ya hay muchos sistemas que toman decisiones sin la intervención humana?

—Por ejemplo, la Bolsa. Más del 90 % de las transacciones son hechas por ordenadores. Eso da miedo, porque de repente los ordenadores pueden empezar a especular y que se vaya a tomar por saco el sistema mundial. Otro caso, ahora en positivo. Cada vez más hay sistemas de diagnosis médica asistidos por inteligencia artificial. Hace poco vi se que se estaba usando para la detección de cáncer de piel. La tasa de aciertos de la inteligencia artificial es comparable, si no superior, a la de un médico entrenado. A base de ver fotos del aspecto que tiene un cáncer de piel, la IA es capaz de prevenirlo. Imagínate eso, por ejemplo, en el tercer mundo. Creo que va a traer cosas absolutamente maravillosas. ¿Qué pasa? Que hay que controlarlo. El coche fue un gran invento, pero hubo que inventar el límite de velocidad, algo que nadie se planteaba.

 —¿Qué límites le pondrías tú a la IA?

—Primero, un límite a nivel de privacidad. Es decir, quién tiene mis datos y para qué los usa. Un segundo, de iniciativa: qué le permitimos a la IA por iniciativa propia y qué no. Se ha hablado mucho de la IA en aplicaciones militares en el futuro. ¿Qué pasa? ¿Que te puede matar una IA en una guerra porque ha tomado la decisión de disparar? Con ChatGPT este problema no lo tenemos, porque es puramente reactivo. Hace lo que yo le digo, pero no toma la iniciativa. En el momento que la tome, tenemos un problema. Para mí esto es lo más importante.

 —¿Y tercero?

—El tema de los menores. Con la gente menor de edad hay que poner blindajes por todos lados. Una cosa es que usen datos míos, y otra que los usen de niños. Es bastante complicado. Pero bueno, la UE ya se ha puesto en marcha. Hay que combinar siempre el progreso, porque nos lleva siempre a un mundo mejor, con el control. El libro intenta que la gente abra los ojos y se dé cuenta de que estamos en un mundo nuevo, que no se parece en nada al de nuestros padres, y que tiene nuevas reglas.

 —Un mundo muy dependiente, si no completamente, de la tecnología.

—Pero ya es así. O sea, a mí cuando la gente me dice: «Es que la IA nos hará dependientes de la tecnología». Yo digo: «Ya lo eres». ¿Que no eres dependiente de los ordenadores desde los años 80, que se inventaron los IBM? ¿Que nos somos dependientes de internet? Yo siempre digo que he vivido cuatro grandes revoluciones tecnológicas. La primera es la llegada del ordenador personal; la segunda, de internet; la tercera, del teléfono móvil, un cambio brutal; y la cuarta, la IA. En las cuatro hemos cedido terreno como especie, porque dependemos más de la tecnología. Pero yo no lo quiero ver así, sino como que nos subimos a los hombros de un gigante. Gracias a los ordenadores podemos hacer más cosas, y a internet y a los teléfonos móviles...

Únete a nuestro canal de WhatsApp

 —Y lo mismo pasará con la IA...

—Lo mismo. ¿Qué pasa? Que igual que hubo que legislar los ordenadores, por ejemplo, por la piratería, o internet para el control por edades, o el tema de la telefonía móvil para las 50.000 normativas que hay al respecto, con la IA va a pasar exactamente lo mismo.

 —¿Te preocupa que el poder pueda quedar en manos de las tecnológicas?

—Sí, y de eso va muchísimo el libro. El niño profeta, Edén, denuncia el poder de las tecnológicas, y se enfrenta a ellas. Es un poco la metáfora de la expulsión de los mercaderes del templo en la Biblia. Pero, cuidado, porque cada vez que se intenta controlar a las tecnológicas hay problemas. Se escabullen y hacen todo tipo de triquiñuelas para seguir haciendo un poco lo que les dé la gana. Pero ahí creo que la UE lo está haciendo bien. Está poniendo un cepo bastante más duro del que se pone en Estados Unidos, por ejemplo, y hay que seguir así, porque por encima de todo somos ciudadanos y tenemos derechos. La ley siempre está por encima de cualquier empresa.

 —Y en este contexto donde las inteligencias artificiales son capaces de superar, por momentos, a la capacidad humana, ¿qué papel juegan las emociones?

—Me han preguntado mucho últimamente: «¿La inteligencia artificial puede ser creativa? ¿Puede ser emotiva?». Yo creo que puede. Porque por dentro no sabes lo que está haciendo, pero la sensación que te da es que está siendo emotiva o creativa. Es decir, por dentro igual son algoritmos, máquinas, pero tampoco sabemos muy bien. En realidad, no sabemos ni cómo funciona el cerebro. Tenemos cierta información, pero no hemos llegado al fondo. La IA lo hará por una vía diferente, pero seguramente el resultado, a nivel de lo que somos capaces de percibir, será el mismo. Estaremos hablando con una IA, y nos hará llorar porque será capaz de producir la sensación que nos emociona, igual que lo puede hacer una película. Ves Titanic, y lloras como una magdalena aun sabiendo que es mentira. 

—¿Crees que la tecnología está cambiando nuestra forma de pensar o de conectarnos con el presente?

—Ahora en cualquier momento tienes una duda y en cinco segundos tienes la respuesta. Esto antes no pasaba. El problema de la tecnología es que la usamos mal. En lugar de usarla como un potenciador de nuestra capacidad, muchas veces la usamos para compartir fotos de gatos. Tenemos unas herramientas que Colón y esta gente matarían por tenerlas, y las usamos de una forma muy chorra a veces.

 —¿Hay algo que te preocupe?

—Sí, la concentración de poder. Hace poco estuve en Egipto y me di cuenta de la brecha descomunal que hay entre el primer y el tercer mundo. O lo que estamos viendo en Gaza ahora. Me da miedo que la IA agudice esa brecha que ya de por sí es descomunal, entre la gente que ha tenido acceso a la tecnología y al dinero, y la que no. La IA solo es útil si nos beneficia a todos. Si beneficia a Elon Musk y a sus cuatro amigos, vamos mal. Y tengo la sensación de que se ven movimientos para que haya una cierta élite de aventajados. Eso no nos interesa, nos interesa que sea como una educación, algo universal, que beneficie a toda la humanidad.

---

---

---