Instagram anunció un cambio en la forma en que identifica los perfiles que utilizan personas generadas mediante inteligencia artificial (IA), una medida con la que busca evitar que los usuarios confundan a personajes completamente artificiales con personas reales.
La plataforma comenzará a utilizar una nueva etiqueta denominada “perfil generado por IA”, que reemplazará a la actual “creador de IA”. Según explicó Instagram, el cambio busca que sea más fácil para los usuarios comprender cuándo la persona que aparece en un perfil fue creada o generada sustancialmente mediante herramientas de inteligencia artificial.
La nueva medida también contempla consecuencias para quienes no informen correctamente el uso de estos personajes. Instagram podrá reducir el alcance de las cuentas que presenten personas generadas por IA sin utilizar la etiqueta correspondiente.
En cambio, los creadores que incorporen voluntariamente la nueva identificación no serán penalizados simplemente por utilizar una persona generada artificialmente como protagonista de su perfil.
No toda creación con IA deberá llevar la etiqueta
Instagram aclaró que la nueva medida no está dirigida a cualquier contenido que haya sido creado o modificado utilizando inteligencia artificial.
Por ejemplo, quienes utilicen IA para editar fotografías, mejorar textos, crear gráficos u otras modificaciones creativas no tendrán que utilizar la etiqueta de “perfil generado por IA”.
El objetivo apunta específicamente a los casos en que la persona que aparece en un perfil fue creada o modificada de manera sustancial mediante inteligencia artificial.
La compañía explicó que tomó esta decisión, en parte, debido a que algunos usuarios se han encontrado con perfiles que parecían pertenecer a personas reales y solo posteriormente descubrieron que el individuo que aparecía en las imágenes era completamente generado mediante IA.
“Quieren saber cuándo un perfil presenta a una persona generada por IA”, señaló Instagram al explicar el cambio.
Aumenta la preocupación por los influencers artificiales
La decisión llega en medio de un aumento de los perfiles protagonizados por personas generadas mediante inteligencia artificial en distintas redes sociales.
Uno de los casos mencionados recientemente involucró a la aplicación de citas para hombres homosexuales Goose. Una investigación de Wired detectó una red de cuentas que aparentemente utilizaban influencers masculinos generados mediante IA para promocionar la plataforma en Instagram.
Según la investigación, se encontraron más de dos docenas de cuentas que aparentaban presentar influencers artificiales. Algunas incluso habrían contactado directamente a potenciales usuarios mediante mensajes privados para incentivarlos a registrarse.
El problema también se ha extendido al contenido relacionado con salud y bienestar. The New York Times informó en julio sobre la existencia de cientos de médicos, sanadores y personalidades de bienestar generados mediante IA que promocionaban suplementos o realizaban afirmaciones relacionadas con la salud en redes sociales.
Estos casos han aumentado las dudas sobre la dificultad que pueden tener los usuarios para distinguir entre una persona real y un personaje creado artificialmente.
Instagram ya ha enfrentado críticas por el uso de IA
El anuncio también se produce después de que Instagram enfrentara críticas por una herramienta de Meta que permitía generar imágenes utilizando la apariencia de otras personas.
Usuarios cuestionaron que sus contenidos públicos de Instagram pudieran ser utilizados para este tipo de creaciones sin un mecanismo de autorización explícita. Tras la controversia, Meta terminó retirando la función.
Con la nueva política, Instagram busca entregar mayor información a los usuarios sobre la naturaleza de los perfiles que encuentran en la plataforma.
La compañía no está prohibiendo los personajes creados con inteligencia artificial. En cambio, la estrategia consiste en exigir una mayor transparencia y aplicar una reducción de alcance cuando un creador no informe que la persona que protagoniza su perfil es artificial.
El cambio refleja uno de los nuevos desafíos de las redes sociales: a medida que las herramientas de generación de imágenes y personajes se vuelven más realistas, distinguir entre una identidad digital creada por IA y una persona real resulta cada vez más difícil.
