Los comentarios generados por IA en AO3: Un problema de spam y frustración para los autores

Introducción:

 Los autores acusados han negado el uso de herramientas de IA, y parece ser que algunos comentarios fueron dejados en fics antes de que se utilizaran las herramientas de las que se les acusa. Los administradores de AO3 reconocieron el problema ayer y llegaron a la misma conclusión: es una forma de spam.

Sin embargo, también causa frustración entre los autores. Desde que los comentarios comenzaron alrededor del 1 de abril, muchas personas pensaron que eran una broma del Día de los Inocentes. Algunos sugirieron que podrían ser una publicidad de HoloAI u otros servicios de escritura mencionados ocasionalmente en su lugar, como Sudowrite o NovelAI. Sin embargo, los comentarios han adquirido un tono más crítico a medida que han continuado en abril durante varios días. Una versión reciente aconsejaba a "todos los lectores" utilizar el sistema de detección de IA de Winston para escanear la obra y "denunciar a todos los tramposos que usen IA". Esto ha llevado a la teoría de que se está promocionando detectores de inteligencia simulada, una tecnología que es muy real pero aún experimental.

En resumen, no parece que estos anuncios estén funcionando; AO3 es una plataforma de escritura sin fines de lucro para una comunidad que en gran medida rechaza la IA generativa. No parecen estar dirigidos a un fandom o personaje en particular, por lo que no parecen ser un intento específico de hostigamiento. Puede ser un intento genuino, aunque excesivo, de eliminar la ficción escrita por IA, pero es más probable que sea una forma general de insulto y provocación motivada por la relación antagonista que la comunidad creativa tiene con esta nueva herramienta tan promocionada.

Una explicación por la cual esto molesta tanto a los creadores es porque, en comparación con la mayoría de las plataformas sociales populares, AO3 es un espacio muy personal. Los comentarios en las obras de fanfiction son una herramienta para construir comunidades que muchos miembros del sitio se toman muy en serio y, especialmente en fandoms más pequeños, son recibidos con agrado. En Reddit, un autor se quejó de recibir su primera respuesta a una obra que había publicado, solo para descubrir que era "ese maldito comentario de IA".

Contacté al administrador de AO3, la Asociación para Trabajos Extraordinarios (OTW), sobre los comentarios de spam. "Hemos realizado algunos cambios en el código del sitio para evitar que los bots con un código malicioso ingresen. Sin embargo, bloquear todo el tráfico automatizado no solo detendría el funcionamiento de los bots de IA, sino que también afectaría a los motores de búsqueda y algunas herramientas de lectura de pantalla, entre otras herramientas", escribió Claudia Rebaza, directora de comunicaciones del equipo de soporte de OTW, en un comunicado. Actualmente, OTW sugiere marcar los comentarios como spam.

Rebaza mencionó que la comunidad ha planteado preguntas sobre las herramientas de IA de diversas formas, incluyendo si se debería permitir la ficción generada por IA en AO3. "Si cumplen con los requisitos de ser obras de fanfiction, actualmente no prohibimos las obras de fanfiction generadas por IA", afirmó Rebaza. Sin embargo, enfatizó que están vigilando de cerca la situación y que, dependiendo de las circunstancias, las obras generadas por IA podrían violar sus políticas contra el spam.

Los sitios de ficción pagada han experimentado una avalancha de envíos que parecen spam por parte de entusiastas de la IA, lo que ha convertido el uso de IA generativa en una pesadilla. Los incentivos en AO3, que prohíbe toda forma de monetización, no son los mismos. Desde los primeros días de AI Dungeon, un generador de aventuras de texto, los autores han compartido fic generado por IA, pero a menudo destacando su propia contribución creativa o la capacidad de las herramientas para generar situaciones absurdas. Sin embargo, a medida que ha surgido una guerra cultural en torno a la IA generativa, las reacciones de apoyo o rechazo se han vuelto más fuertes. Ahora, los autores no solo tienen que competir con la IA, sino que también pueden ser acusados de ser IA ellos mismos.