¿Por qué Facebook llenó los hechos de Jesucristo de huevos, espaguetis o coliflores? Tecnología

“Cualquiera disfrute de mi trabajo artístico”, “¡Lo hice con mis propias manos!”, “Mayo 2024 es tu mejor año”, son algunos de los textos que acompañan miles de extrañas imágenes de Jesucristo generadas por inteligencia artificial en Facebook. El algoritmo de promoción, algunas personas lo convierten en virus y captan enormes audiencias para páginas que luego obtienen su éxito para monetizar o incluso acercarse a los usuarios.

“Las imágenes son una advertencia: algunas son hermosas, otras sensacionales y algunas son raras”, dice Renée DiResta, investigadora de la Universidad de Stanford y coautora de un artículo publicado en marzo sobre este fenómeno titulado “Cómo spammers y los expertos utilizan imágenes generadas por IA en Facebook para aumentar la audiencia”. Miles de usuarios interactúan con esas imágenes, muchos de ellos con un simple “amén”, lo que podría significar que son bots.

Con el paso de los años, Facebook se ha transformado en una plataforma donde se comparan contenidos y un objetivo fundamental es aumentar la audiencia. Los Jesucristos son un activo más fácil de crear y que llama la atención: “La capacidad de atención entre los creadores de páginas significa usar cualquier táctica que parezca funcionar, lo que ahora incluye publicar contenido generado por IA que los sistemas de recomendación parecen estar promoviendo”, continúa DiResta.

Los textos que agregamos a los autores se utilizan para promover esta viralidad. En algunas imágenes, un niño negro sube al costado de un Jesucristo con palabras y el texto dice: “Gracias a todos los que aprecian mi arte”. En ninguna de estas imágenes parece que hayan sido creadas artificialmente.

El artículo académico estudió 120 páginas de Facebook que publicaban al menos 50 imágenes generadas por IA cada una. Prueba del éxito es que las páginas cuentan con una media de casi 130.000 seguidores. Nada más mirar estas fotos, el algoritmo de Facebook ofrece más ejemplos y nuevas variaciones. Después de ver EL PAÍS, había páginas de usuarios latinoamericanos que combinaban estas imágenes religiosas con memes, animales y bodegones también hechos con IA, donde escribía “buenos días” o vídeos tiernos. Uno de ellos, un haitiano residente en México, respondió brevemente a este periódico que esas imágenes eran las hacía lui, que la gente realmente apreciaba y reconocía que se podía ganar algo con ellas: “Sí”, respondí, pero no puedo explicarlo. cómo. Este usuario tiene más de 7.000 seguidores.

Además de las trampas dentro de Facebook, el debate de fondo es: si la gente confunde estas imágenes ridículas con arte real, ¿qué pasará cuando sea generado por el realismo real? No hay certezas, aunque el mundo entero esté confundido. Luego de una de estas fotos un usuario dice: “Esa maravillosa escultura es una mano bendita de Dios, mi amor fue una genialidad, Dios las bendiga cada mañana y siempre felicidad desde Colombia”. Otra respuesta: “Sí señora, ¿cómo puede usted creer en estas cosas, que es fácil cometer, no se da cuenta que es una imagen falsa? No me dejen creer todo lo que se publica en números rojos.”

La crédula mujer recibió otra respuesta que ilustra uno de los tipos de estado. Si alguien cree que esas imágenes falsas son reales, probablemente sea el más ingenuo y el más fácil de temer: “Soy francesa y llevo más de 13 años desde que mi marido creció. [sic] en un accidente de coche. Después de la muerte, aquí está la fortuna de mi marido. Teniendo en cuenta mi avanzada edad y mi salud, decidí ayudar económicamente a las personas que quisieran recibir asistencia financiera para sus necesidades, ya que no tengo hijos para beneficiarme de mi herencia y no quiero que el gobierno congele mi fortuna después de mi muerte. Entonces, si estás interesado en hacer negocios, envíame un mensaje y agrega un enlace a un número real de WhatsApp.

“Se ve a menudo cuando interactúas con comentaristas crédulos en publicaciones, tanto en páginas como en grupos, a veces proporcionando información personal sobre ellos u ofreciendo vendedores de productos que no existen”, explica el artículo. Una vez que se ha creado una audiencia en un grupo o una página, las formas de intentar obtener mayores beneficios varían: “Marcamos las páginas como ‘estafa’ si: uno, engañan a los seguidores rellenando, comprando o cambiando el control de la página; dos, indicar falsamente un nombre, dirección u otra característica de identificación; y/o, tres, venden productos falsificados”, detalla el artículo académico.

Algunas de las páginas que utilizan estas tácticas pueden cambiar de nombre y mantener a sus seguidores para pasar a otras cosas o vender al público. Las páginas de spam demuestran la atención de los usuarios hacia las páginas fuera de Facebook que están llenas de anuncios.

Jesucristo es sólo una de las principales quejas. En el tercer trimestre de 2023, una de las 20 imágenes más vistas en Facebook en todo el mundo fue esta cocina con suelo de cristal. Tengo 40 millones de visualizaciones y 1,9 millones de interacciones, según la información trimestral de la plataforma sobre los contenidos más vistos. Algunas de las páginas que han probado este paseo también lo han hecho con animales, niños, cabañas o paisajes, cualquier cosa que pueda llamar la atención en Facebook: “Como Picasso estabas en la época azul, las páginas que han pasado por las épocas, muchas de documentos de esculturas de nieve; muchas docenas de tallados en arena; uno o dos documentos altos en Madeira; Tantos platos de sushi dispuestos artísticamente, cada uno con un estilo muy similar”, dice el artículo.

“Sospechamos que estos altos niveles de interacción fueron diseñados en parte por el algoritmo de recomendación de Facebook”, dicen en el artículo DiResta y su coautor Josh A. Goldstein, de la Universidad de Georgetown. Después de dos años, tras un documento filtrado por Meta, las redes sociales cambiaron su algoritmo para parecerse más a TikTok. El objetivo era, según el documento, “ayudar a las personas a conocer y disfrutar de contenidos interesantes, independientemente de si fueron producidos por alguien con quien están conectados o no”. Los autores mostraron cómo este contenido de “Sugerido para ti” pasó del 8% en 2021 al 24% en 2023 como porcentaje del número de visualizaciones.

Si bien el centro de operaciones de todas estas imágenes virales es Facebook, también está en Instagram: “Las imágenes generadas por IA también son populares en Instagram”, dice DiResta. “Estoy en Twitter y en todos los lados, pero el diseño de Facebook e Instagram significa que las personas crean tipos específicos de contenido visual y construyen audiencias con el tiempo”.

En febrero, Meta anunció que etiquetaría el contenido generado por IA en Facebook, Instagram y Threads. Actualmente no ocurre en ninguno de estos casos. Para evaluar los peligros potenciales, este detalle es importante. Aunque en algunos casos es fácil detectar imágenes generadas por IA, no siempre será así: “Incluso en los casos en los que hay señales obvias, identificarlas hoy requiere un gran esfuerzo cognitivo, y puede que no sea realista esperar para el usuario de Facebook de Promedio que simplemente busca una vista del historial.”

Puedes seguir en EL PAÍS Tecnología es Facebook Sí X o escribe aquí para recibirnos boletín periódico.