Finji, la editora detrás de éxitos indie como Night in the Woods y Tunic, ha revelado que TikTok ha estado utilizando inteligencia artificial generativa para alterar sus anuncios en la plataforma sin permiso. Según la compañía, estas modificaciones no autorizadas incluyen un anuncio que fue cambiado para presentar un estereotipo racista y sexualizado de un personaje del juego de Finji Usual June.
El problema salió a la luz por primera vez cuando la CEO de Finji, Rebekah Saltsman, publicó al respecto en Bluesky, compartiendo una captura de pantalla de otra marca que experimentaba problemas similares. Instó a sus seguidores a enviar capturas de pantalla si veían algún anuncio que no se pareciera al contenido típico de Finji.
En conversación con IGN, Saltsman explicó que, aunque la cuenta oficial de Finji en TikTok sí ejecuta anuncios para sus juegos, la compañía tiene todas las funciones de IA desactivadas. El equipo solo se enteró de los anuncios generados por IA a través de comentarios preocupados en sus anuncios legítimos de usuarios que habían visto las versiones alteradas.
Saltsman recopiló capturas de pantalla de miembros de la audiencia que mostraban los anuncios problemáticos, lo que la llevó a contactar al soporte de TikTok. Los anuncios originales eran promociones en video para los juegos de Finji, pero las versiones modificadas por IA aparecían como presentaciones de diapositivas que parecían provenir directamente de la cuenta oficial de Finji.
Una imagen particularmente ofensiva mostraba una versión editada de la portada de Usual June. El personaje principal, June, fue representado con rasgos físicos exagerados y ropa inapropiada que invocaba estereotipos dañinos, completamente diferente de su representación real en el juego.
Finji proporcionó a IGN capturas de pantalla de su conversación con el soporte de TikTok, donde un agente confirmó que Finji tenía la opción "Smart Creative" de TikTok desactivada. Esta función utiliza inteligencia artificial generativa para crear múltiples versiones de anuncios mezclando y combinando diferentes elementos. También existe una función "Automate Creative" que utiliza IA para optimizar los recursos de los anuncios, ambas las cuales Finji afirma que estaban deshabilitadas.
La compañía también reveló que no puede ver ni editar las versiones generadas por IA de sus propios anuncios y solo se entera de ellos a través de comentarios de usuarios y reportes en su Discord oficial. Saltsman sospecha que puede haber otro anuncio de IA inapropiado con otro personaje de Usual June llamado Frankie, basándose en comentarios de usuarios.
En la conversación de soporte, el agente de TikTok no pudo encontrar una solución inmediata. En un momento, el agente sugirió que Finji podría haber habilitado accidentalmente la función Automate Creative, pero Finji confirmó que esto nunca se activó. Más tarde, el agente declaró que estaban revisando todas las causas posibles pero no encontraron configuraciones de IA habilitadas para los anuncios de Finji.
El agente ofreció crear un ticket para una investigación más profunda pero ignoró las repetidas solicitudes de Finji de un cronograma sobre cuándo podrían recibir una respuesta.
Desde el reporte inicial del 3 de febrero, Finji ha realizado múltiples intentos de seguimiento con el soporte de TikTok. El 6 de febrero, después de pedir una actualización, TikTok Ads Support respondió con lo que parecía ser una respuesta genérica. Finji luego envió nuevamente la captura de pantalla del anuncio ofensivo y pidió una escalada, recibiendo otra respuesta no específica.
Para el 10 de febrero, sin más comunicación ni conexión con un representante senior, Finji hizo otro seguimiento. La respuesta de TikTok describió los beneficios de los anuncios de catálogo y ofreció agregar a Finji a una "lista de bloqueo de exclusión voluntaria" sin garantía de aprobación.
Finji respondió con enojo, exigiendo saber por qué no habían sido conectados con personal senior, por qué TikTok no estaba abordando el contenido racista y sexualizado, por qué no podían rastrear los anuncios generados por IA, por qué fueron incluidos en este sistema sin consentimiento y por qué TikTok no podía garantizar una exclusión voluntaria.
TikTok respondió que su respuesta anterior en realidad provenía de su equipo de escalación, que ya había revisado la situación y proporcionado sus hallazgos finales. Declararon que el representante actual era el equipo más alto disponible para este tipo de problema.
Después de otra respuesta de Finji, el representante de TikTok prometió re-escalar el problema internamente, pero esta fue la última comunicación recibida al momento de la publicación, incluso después de otro recordatorio de Finji el 17 de febrero. TikTok declinó proporcionar comentarios a IGN.
"Tengo que admitir que estoy un poco impactada por la completa falta de respuesta apropiada de TikTok al lío que hicieron", dijo Saltsman a IGN. "Una cosa es tener un algoritmo que es racista y sexista, y otra cosa es usar IA para producir contenido de sus socios comerciales que pagan sin su consentimiento, y luego TAMPOCO responder a ninguno de esos errores de manera coherente?"
Continuó: "Lo que realmente es completamente desconcertante es lo que parece ser un vacío profundo donde normalmente residen el sentido común y el sentido comercial. Mi expectativa era una disculpa adecuada, cambios sistémicos en cómo usan esta tecnología para clientes que pagan y una mirada profunda a por qué su tecnología es tan obviamente racista y sexista. Obviamente, no estoy conteniendo la respiración por nada de lo anterior."
