Perfiles, imágenes, voces y conversaciones pueden fabricarse con herramientas de inteligencia artificial cada vez más accesibles. 8.8 advierte que el desafío ya no es solo detectar contenido falso, sino aprender a verificar quién está realmente detrás de una pantalla.

Si una persona te escribe por redes sociales, tiene fotos aparentemente reales, responde con naturalidad y hasta puedes escuchar su voz, ¿cómo sabes que realmente existe?

La pregunta parece sacada de una película de ciencia ficción, pero las herramientas actuales de inteligencia artificial ya permiten construir identidades digitales completas, combinando imágenes, voces, textos y conversaciones diseñadas para generar confianza.

Ese es el foco de una nueva campaña de concientización de 8.8 Computer Security Conference, que busca mostrar cómo la IA puede facilitar nuevas formas de engaño y fraude digital.

Uno de los ejemplos utilizados por la organización es el de Maya, una modelo virtual creada con inteligencia artificial que, según el caso difundido originalmente por CiberSafetyGuy, llegó a reunir 1.247 suscriptores en OnlyFans y generó US$32 mil en un mes.

Lo llamativo no es solamente el dinero. El caso muestra lo accesible que puede ser construir una identidad ficticia capaz de interactuar con personas reales.

La identidad de Maya fue gestionada utilizando herramientas disponibles en línea para generar imágenes, textos y voz. El caso incluso involucró la clonación de voz a partir de muestras de audio.

El problema ya no es solo el contenido falso

Para Gabriel Bergel, cofundador de 8.8, la IA está cambiando la escala del problema.

La dificultad ya no está únicamente en detectar una fotografía manipulada o un video generado artificialmente. Una identidad completa puede construirse alrededor de una persona que, en realidad, no existe.

El engaño puede comenzar con un perfil falso en redes sociales y evolucionar hacia conversaciones prolongadas, imágenes personalizadas, audios y otras interacciones diseñadas para generar confianza.

Y mientras más información pública existe sobre una persona, más material hay disponible para personalizar una estafa.

Fotografías, videos, lugares que frecuentamos, familiares, intereses y otros datos publicados en redes pueden convertirse en materia prima para construir engaños más convincentes.

De las identidades falsas al phishing

La campaña de 8.8 aborda tres escenarios en los que la IA puede potenciar los riesgos digitales: identidades falsas y relaciones construidas mediante perfiles ficticios, manipulación de niños y adolescentes, y nuevas formas de phishing.

En este último caso, la inteligencia artificial permite generar correos y mensajes más creíbles, crear sitios web similares a los originales y personalizar campañas de fraude a gran escala.

El punto en común es la confianza.

Un mensaje puede estar perfectamente redactado. Una fotografía puede parecer auténtica. Una voz puede sonar familiar. Pero ninguna de esas características garantiza que detrás exista realmente la persona o institución que dice estar comunicándose contigo.

¿Cómo protegerse?

Desde 8.8 recomiendan cambiar una pregunta básica frente a situaciones sospechosas.

En lugar de pensar “¿parece real?”, la clave es preguntarse “¿puedo comprobar que es real?”.

Algunas medidas concretas son:

  • Desconfiar de lo demasiado perfecto: una foto, voz o conversación impecable ya no es una garantía de autenticidad.
  • Identificar la manipulación emocional: miedo, urgencia, curiosidad, empatía, confianza o enamoramiento pueden utilizarse para acelerar una decisión.
  • Verificar por otro canal: si una identidad podría estar falsificada, la comprobación debe hacerse mediante una vía independiente.
  • Cuidar la huella digital: la información pública puede utilizarse para construir perfiles falsos más convincentes.
  • Detenerse antes de entregar información o dinero: frente a solicitudes de códigos, datos personales, acceso a cuentas o transferencias, primero hay que comprobar quién está detrás.

¿Qué viene ahora?

8.8 plantea que la expansión de la IA obliga a incorporar una nueva habilidad digital: verificar la realidad de lo que vemos, escuchamos y recibimos en internet.

La organización abordará estos desafíos durante 8.8 Unreal, ¿Confías en lo que ves?, conferencia de ciberseguridad que se realizará los días 1 y 2 de octubre en el Centro Cultural CA660, en Las Condes.

La tecnología para fabricar una identidad convincente ya está disponible. El desafío, cada vez más, está en aprender a no confundir una buena simulación con una persona real.