Efrén Varón Gil, agente del Equipo @ de la Guardia Civil en Ourense, alerta sobre cómo actuar ante la difusión de imágenes alteradas por Inteligencia Artificial, las conocidas como "deep fakes", y sobre las estafas a través de la suplantación de imagen en Internet
Las denuncias de varios padres, ante la Policía Nacional en Almendralejo, Extremadura, provocaba un gran revuelo a principios de esta semana. Habían detectado imágenes de sus hijas desnudas en Internet. Realmente no eran ellas, sí era su cara, pero habían sido desnudadas a través de la Inteligencia Artificial en imágenes muy creíbles, no reales, pero muy realistas.
La alarma saltaba en Almendralejo y se destapaba un caso tras otro. Hasta 22 niñas menores detectaron la imagen de su cuerpo desnudo circulando de móvil en móvil cuando aseguraban no haberse desnudado nunca.
La policía se puso con el caso y, por el momento, un total de 11 chicos, también menores, están siendo investigados como presuntos autores de utilizar la IA para desnudar a estas chicas y difundir su imagen alterada. Varios supuestos delitos y un riesgo claro que esconde la Inteligencia Artificial. Son los llamados "deep fakes".
Varios supuestos delitos y un riesgo claro que esconde la Inteligencia Artificial.
La IA había dado lugar a voces falseadas y canciones de famosos cantadas por otros, alteraciones llamativas o que generaban gracia. También aplicaciones interesantes de la IA como la generación de imágenes sobre un tema, informes completísimos, textos con infinidad de referencias elaborados en tiempos récord, vídeos, ilustraciones...
En el caso de Almendralejo hablamos de serios delitos y nos preguntamos si hay algún caso en Ourense o cómo actuar si se detecta algo similar. Nos contestan desde el Equipo @ de la Comandancia de la Guardia Civil en Santa Mariña.
En el caso de Almendralejo hablamos de serios delitos y nos preguntamos si hay algún caso en Ourense o cómo actuar
Efren Varón, miembro del Equipo @ afirma que todavía se está desarrollando la IA y que en Ourense están atentos, pero no han detectado ninguna "incidencia relevante", por el momento. "No obstante, sí tenemos incidencia en lo que es la ingeniería social, en este ámbito tenemos cada vez más".
Lo que se conoce como Deep fakes es una técnica que tiene un par de años. Es lo que le pasó a esas niñas de Almendralejo, es usar la IA para generar contenido inventado.
¿Qué es la ingeniería social?
La ingeniería social es un tipo de delincuencia que utiliza el engaño para hacernos creer algo que realmente no es y va a usar técnicas como provocar la risa, generar una necesidad inmediata porque al imponer la prisa es fácil que la víctima quiera conseguir el objetivo y haga lo que se le pide en Internet, podría ser desnudarse o podría ser la entrega de los datos personales. Se trata de técnicas de ingeniería social.
En cuanto haya conocimiento de que sus fotografías se están usando de forma indebida, "que no les dé vergüenza, que lo denuncien porque son víctimas de lo que se conoce como Deep fakes"
En Ourense, la suplantación de identidad a través de imágenes en caos de sextorsión sí es un delito bastante recurrente. El ciberdelincuente coge un vídeo de los que circulan por Internet en el que una persona se expone por dinero, vídeos de contenido sexual, y con ese vídeo hacen creer a la víctima, con la que van a mantener un contacto a través de Internet, que se trata de una relación real.
Durante la sextorsión, chatean, consiguen que la víctima saque las prendas y le graban. Consiguen un vídeo con el que luego le extorsionan.
En Ourense ha habido bastantes casos de este tipo, asegura Varón. "Nosotros establecemos la línea de investigación dependiendo de la red social y llegamos al autor del delito".
En relación con el caso de Almendralejo, el Equipo @ afirma que podría darse un caso similar en Ourense, menores que publican imágenes de otros para comportamientos de acoso o bullying y, aunque no se ha detectado aún ningún caso de difusión de imágenes modificadas con IA, la Guardia Civil avisa: "los Deep fakes se usan para delinquir, se trata de un mal uso de la tecnología, pero también para generar memes, para simular la imagen o incluso simular la voz", un material con el que se puede ridiculizar, humillas y provocar casos de acoso escolar o bullying.
"Los Deep fakes se usan para delinquir, se trata de un mal uso de la tecnología
Consejos ante casos como el de Almendralejo
El Equipo @ insiste en varios consejos y pautas para evitar posibles delitos similares al caso registrado en Almendralejo, así como casos de sextorsión o acoso entre menores a través de Internet.:
- La formación es fundamental, la gente que utiliza las nuevas tecnologías debe tener una mínima formación.
- Saber que todo lo que se publica en Internet va a ser público
- Restringir la exposición de su imagen al público con perfiles cerrados y evitando la publicación de determinadas fotografías o vídeos.
- Si somos conscientes de que están usando nuestra imagen de forma ilícita para generar un "Deep fake", que no se tenga vergüenza, que se ponga en conocimiento de la autoridad, porque es causa de un delito penal.
