Qué son los «deepfakes» y en qué consiste la solución gallega para luchar contra estos fraudes
OCIO@
Son vídeos, imágenes o voz manipulados mediante un software de inteligencia artificial y que se están usando ya en ciberestafas
06 oct 2023 . Actualizado a las 05:00 h.«Con la inteligencia artificial va a haber una oleada de posibilidades para hacer suplantaciones de identidad con foto, vídeo y voz». Es una de las advertencias que hacía el miércoles en A Coruña Carlos Alberto Saiz Peña, abogado experto en ciberseguridad gestión de riesgos en la segunda jornada sobre la materia, organizada por Abanca en colaboración con el Tribunal Superior de Xustiza de Galicia. Los ejemplos se multiplican en la Red. La inteligencia artificial es una de las grandes tecnologías del presente, pero puede entrañar riesgos en las mentes y manos equivocadas. Hace solo unos días una veintena de niñas era víctimas tras haber sido «desnudadas» con inteligencia artificial en Almendralejo. Después llegaron los casos de Alcalá de Henares. Ambos casos son deepfakes, un vídeo, una imagen o un audio que parecen ser reales.
Qué significa deepfake
Los deepfakes no son solo imágenes, en realidad su definición incluye archivos de vídeo, imagen o voz manipulados mediante un software de inteligencia artificial. De este modo, esos materiales parecen reales. Los deepfakes utilizan el aprendizaje de la inteligencia artificial para realizar nuevas creaciones difíciles de distinguir de la imagen o el audio original a simple vista.
Los expertos apuntan a que se trata de una tecnología inofensiva, pero que en las manos equivocadas puede convertirse en una herramienta peligrosa con muchas oportunidades de engaño, difamación y desinformación. Y es que la generación de deepfakes es cada vez más accesible y más potente y, por lo tanto, está más a mano de los estafadores.
Los deepfakes de voz no han sido protagonistas de casos masivos de estafas, pero sí de casos de perfil alto. Ya en el 2019, los ciberdelincuentes usaron esta tecnología para extorsionar a una empresa energética con sede en el Reino Unido. El estafador se hizo pasar por teléfono por el director ejecutivo de la matriz alemana de la empresa y solicitó una transferencia urgente de 220.000 euros a una cuenta de una supuesta compañía proveedora. Además, solo un año después, los estafadores usaron deepfakes para robar 35 millones de dólares a una empresa japonesa, de la que nunca trascendió el nombre.
Una solución gallega
Una tecnológica gallega ha desarrollado una solución para luchar contra este tipo de fraudes. Gradiant y Councilbox han creado una nueva unidad mixta (UMI) enfocada en la gestión de la identidad y la ciberseguridad. Se trata de GIC-TEL y tiene como objetivo garantizar la ciberseguridad en videoconferencias y trámites online con la administración pública y pretende fortalecer las innovaciones tecnológicas contra el fraude de identidad. Así se ha desarrollado una solución híbrida de detección de deepfakes de vídeo, imagen y voz, que muestra grandes capacidades.
Los productos de Councilbox incluyen la videoconferencia como parte fundamental de los procesos de toma de decisión en juntas, asambleas y otras reuniones corporativas, así como para la realización de trámites con organismos públicos y empresas privadas. El riesgo de un posible deepfake sobre la imagen, vídeo o voz de uno de los asistentes a estos procesos podría tener importantes consecuencias al suplantar la identidad de una persona que está emitiendo su voto, por ejemplo, en una junta de accionistas o está decidiendo sobre una inversión a realizar con sus ahorros.
La tecnología anti deepfake que se está desarrollando en la UMI evitará estos riesgos, dotando de un nivel de seguridad aún mayor al que ya implementan los productos de Councilbox mediante la biometría o la identificación mediante certificados digitales.
La inversión en este proyecto se aproxima a los dos millones de euros que se invertirán de forma conjunta durante los próximos cuatro años. La Xunta aportará el 40 % del presupuesto total.