DULCINEA DEL TRUE CRIME II — Expediente invisible
Del acosador en línea que resultó ser un algoritmo o de los nuevos monstruos sin cara
Nuevos casos, mismas personas
Adrián Montero tenía diecisiete años cuando volvió a aparecer en la historia y lo hizo de la manera más inesperada posible: entrando en el portal del número catorce con una expresión que don Justo reconoció al instante, no porque la hubiera visto en él antes, sino porque la había visto en otras personas y había aprendido a identificarla. Era la expresión de quien lleva días cargando algo que pesa demasiado para llevarlo solo y que todavía no ha decidido si va a contarlo o no.
Adrián había superado lo de la sextorsión, en la medida en que estas cosas se superan, que no es del todo pero sí lo suficiente para que la vida vuelva a tener un tamaño manejable. Había vuelto al instituto, había vuelto al fútbol los domingos, había aprendido a hablar de lo que pasó con su madre sin que la conversación fuera un evento. Tenía, en suma, diecisiete años y la resiliencia específica de quien ha pasado por algo duro antes de tener la edad suficiente para entender del todo lo duro que era.
Lo que estaba pasando ahora era distinto. Y esa distinción, don Justo lo vería más tarde, era exactamente lo que hacía el caso interesante desde el punto de vista criminológico y desconcertante desde el punto de vista humano: era distinto porque no había ninguna persona al otro lado.
— ✶ —
De lo que le estaba pasando a Adrián
Adrián jugaba en línea desde los doce años, con la naturalidad de su generación, sin que eso hubiera sido nunca un problema más allá de los límites de tiempo habituales que Carmen negociaba con él cada trimestre. Jugaba a un juego de estrategia multijugador que no hace falta nombrar porque hay demasiados del mismo tipo y todos funcionan igual: mundo virtual, personajes que mejoran con el tiempo, recursos que se acumulan mediante partidas o se compran con dinero real y una comunidad de jugadores cuya toxicidad varía entre lo leve y lo clínicamente preocupante dependiendo del día y del servidor.
Hacía tres semanas que alguien o algo, le estaba enviando mensajes dentro del juego.
Los mensajes seguían un patrón que Adrián, en su primera semana de recibirlos, había interpretado como un acosador humano particularmente metódico: llegaban siempre a los pocos minutos de que él se conectara, comentaban su rendimiento en la partida anterior con una precisión que sugería observación sostenida, y tenían un tono que oscilaba entre la crítica destructiva y la provocación directa. El tipo de mensajes que en el argot del sector se llaman tilt: diseñados para desestabilizar emocionalmente al jugador y empeorar su rendimiento.
Pero había algo que no cuadraba con la hipótesis del acosador humano y que Adrián tardó una semana en articular con claridad: los mensajes eran demasiado rápidos. Demasiado consistentes. Demasiado ausentes de los pequeños errores tipográficos y las variaciones de tono que tienen los mensajes escritos por personas reales con prisa o con distracción. Y respondían, a veces, a cosas que Adrián hacía dentro del juego antes de que ninguna persona pudiera haber visto la pantalla y procesado la información.
Adrián, que tenía diecisiete años pero también tenía el instinto de quien ha aprendido a desconfiar de lo que no termina de encajar, hizo lo que el don Justo de antes no habría hecho y el don Justo de ahora siempre recomendaba: antes de actuar, buscó información.
Lo que encontró le interesó lo suficiente como para bajar a llamar a la puerta de don Justo con el portátil bajo el brazo.
— ✶ —
De la explicación de Adrián y de lo que don Justo no sabía
Don Justo le ofreció un vaso de agua, lo sentó en el despacho y escuchó durante veinte minutos sin interrumpir, que era lo que Adrián necesitaba antes que cualquier otra cosa.
Adrián había encontrado, buscando en foros especializados de seguridad informática, referencias a algo llamado bots de comportamiento tóxico: programas automatizados, algunos desarrollados por competidores desleales de las empresas de videojuegos y otros por grupos de ciberdelincuentes con motivaciones más complejas, diseñados para degradar la experiencia de juego de usuarios específicos o de grupos de usuarios, con el objetivo de frustrarlos hasta el punto de que abandonen el juego, compren mejoras para compensar el deterioro de su rendimiento, o simplemente sufran el daño emocional que el bot está optimizado para provocar.
El mecanismo era sofisticado en su sencillez: el bot analizaba el historial público de partidas del jugador objetivo, identificaba sus puntos débiles de rendimiento y sus patrones de respuesta emocional, y generaba mensajes calibrados para maximizar el impacto negativo en cada jugador específico. No era un mensaje genérico enviado a miles de personas: era un mensaje diseñado para ese jugador concreto, basado en sus datos reales, con una eficacia que un acosador humano difícilmente podría igualar porque un humano no tiene acceso a esa cantidad de datos procesados en tiempo real.
—Y lo peor no es que existan —dijo Adrián—. Lo peor es que la plataforma lo sabe. Hay miles de denuncias en los foros. Y la respuesta siempre es la misma: que están trabajando en ello.
Don Justo anotó en la libreta azul: Bot de comportamiento toxico. Acoso automatizado y personalizado. La plataforma lo sabe. Luego llamó a Modesto.
— ✶ —
De lo que Modesto e Inés aportaron cada uno
Modesto llegó a la videollamada con algo que don Justo no esperaba: más información del tema que Adrián.
—Llevo dos meses siguiendo este asunto para un episodio que todavía no he publicado porque no tenía claro cómo enfocarlo. Lo que describe Adrián es la punta visible. La parte menos visible es que algunos de estos bots no los desarrollan competidores: los desarrollan las propias plataformas o empresas vinculadas a ellas, para generar en el jugador un estado de frustración que estadísticamente aumenta la probabilidad de que haga compras dentro del juego. Es lo que el sector llama dark design o diseño oscuro: interfaces, mecánicas y en este caso, interacciones automatizadas diseñadas deliberadamente para explotar vulnerabilidades psicológicas del usuario en beneficio económico de la plataforma.
Adrián, que estaba escuchando desde el lado de don Justo, dijo algo con una calma que a don Justo le pareció más preocupante que el enfado:
—O sea que a lo mejor la empresa que hace el juego es la misma que me manda los mensajes para que me cabree y compre cosas.
—No puedo confirmarlo en tu caso concreto sin evidencia —dijo Modesto, con la precisión que Inés le había enseñado a mantener—. Pero es una práctica documentada en el sector, sí.
Inés, cuando don Justo le explicó el caso esa misma tarde, fue directa al punto que a ella le parecía más relevante:
—Lo que me interesa de este caso desde el punto de vista criminológico es que ilustra algo que todavía no tenemos bien regulado: el daño psicológico producido por sistemas automatizados con intención deliberada de causarlo. Cuando un ser humano acosa a otro, tenemos marcos legales para eso. Cuando un algoritmo acosa a un ser humano siguiendo instrucciones de alguien que lo ha diseñado para eso, la responsabilidad se diluye de una manera que el ordenamiento jurídico actual no sabe gestionar bien. La empresa dice que no controla lo que hacen los bots externos. Si el bot es interno, dice que es una funcionalidad del juego. Y el usuario que sufre el daño se queda sin interlocutor claro al que dirigirse.
—Eso me suena a algo que ya hemos visto antes —dijo don Justo.
—Sí —dijo Inés—. Los comentarios los escriben otras personas. Nosotros no controlamos lo que la gente hace con el contenido. Es la misma estructura de evasión de responsabilidad, con otro actor en el lugar de la gente.
Don Justo anotó eso en la libreta. Y al lado, entre paréntesis, escribió el nombre de Modesto, porque recordó que esa frase, en una versión anterior, la había dicho él. Y que desde entonces Modesto había aprendido que no era una defensa válida.
— ✶ —
De lo que se hizo, con sus limitaciones
Las opciones prácticas disponibles para Adrián eran, como en muchos casos que involucraban plataformas digitales grandes, más limitadas de lo que habría sido razonable esperar.
Denunciar a la plataforma el comportamiento del bot, que era el primer paso recomendable, significaba entrar en un sistema de atención al usuario diseñado para gestionar volumen, no para resolver casos individuales complejos. Adrián lo hizo, con un informe detallado que Modesto le ayudó a redactar con precisión técnica, adjuntando capturas de pantalla con marcas de tiempo y el análisis del patrón de los mensajes. La respuesta llegó en cuatro días: un mensaje automático agradeciendo la denuncia e informando de que el equipo de seguridad la revisaría.
La segunda opción era la denuncia ante la Agencia Española de Protección de Datos, dado que el bot utilizaba datos de comportamiento del usuario para generar mensajes personalizados, lo cual podía implicar un tratamiento de datos no autorizado. Inés redactó una orientación sobre los argumentos aplicables. La denuncia se presentó. Las resoluciones de la AEPD en casos de plataformas internacionales tienen plazos largos y resultados inciertos, como todo el mundo en esa conversación sabía.
La tercera opción fue la más inmediata y la más eficaz a corto plazo: Adrián configuró su cuenta para rechazar mensajes de usuarios con los que no tuviera relación previa, lo cual no eliminaba el bot pero cortaba el canal de comunicación. Y redujo el tiempo de juego durante dos semanas, no como renuncia sino como pausa, para poner distancia entre la experiencia de los mensajes y la actividad en sí.
Don Justo, observando este proceso, pensó que había algo fundamentalmente injusto en una situación donde la carga de la solución recaía completamente sobre quien había sufrido el daño, mientras la entidad que lo había causado o permitido seguía operando sin consecuencias visibles. Lo pensó, lo anotó en la libreta y luego hizo algo que el don Justo de hace dos años no habría hecho: no convirtió esa reflexión en una teoría, sino en una pregunta que le mandó a Inés por mensaje.
Inés, cuando el daño lo causa un algoritmo y la responsabilidad la tiene una empresa que no aparece, a quien le importa más que al afectado, que hace la sociedad con eso?
Inés tardó dos días en responder porque estaba preparando un episodio. La respuesta fue breve:
Esa es exactamente la pregunta que los juristas, los psicólogos y los criminólogos llevamos cinco años intentando responder. Bienvenido al problema.
El dark design o diseño oscuro hace referencia a patrones de diseño de interfaces y sistemas digitales que explotan deliberadamente sesgos cognitivos y vulnerabilidades psicológicas de los usuarios para beneficio económico de la plataforma. Entre sus manifestaciones documentadas en videojuegos se incluyen los sistemas de recompensa de ciclo variable, la creación artificial de urgencia, la degradación deliberada de la experiencia de juego y el uso de datos de comportamiento para personalizar presiones de compra. La regulación de estas prácticas en la Unión Europea avanza a través del Reglamento de Servicios Digitales (DSA) y el Reglamento de Mercados Digitales (DMA), aunque su aplicación efectiva a casos individuales sigue siendo limitada.
No son casos. Son personas.
Acceda aquí a la publicación original de esta serie
Esta obra es el resultado del trabajo creativo de sus autores. Para determinadas tareas de apoyo —como la organización de información, la estructuración de materiales y la asistencia en procesos de edición— se han empleado herramientas de inteligencia artificial. No obstante, la concepción, autoría, criterio y responsabilidad sobre los contenidos pertenecen exclusivamente a los autores humanos.
