Se cuenta una anécdota -apócrifa- de aquel paciente que, mientras se sometía al test de Rorschach -basado en láminas con meras manchas de tinta abstractas- le espetó al terapeuta: «Es que enseña usted unas cosas que ponen cachondo a cualquiera». Aquel hombre no entendía que el deseo que sentía no estaba en el papel, sino en su propia mirada. Esa misma fragilidad psicológica es la que explotan hoy las redes sociales, cuyo contenido resulta irresistible porque apela directamente a pulsiones internas. El psicólogo social Jonathan Haidt señala que, a partir de la década de 2000–2010, las plataformas digitales comenzaron a incorporar de forma sistemática principios de la psicología del comportamiento. En ese contexto resulta relevante el papel de la Universidad de Stanford, donde se desarrollaron modelos orientados a entender cómo los productos digitales pueden influir en el comportamiento humano. No es casual que muchos diseñadores de Silicon Valley pasaran por ese entorno y, de ese cruce entre ingeniería y psicología, surgió una forma de diseñar tecnología que ya no se limita a responder a lo que hacemos, sino que aprende a moldear nuestra propia conducta.

Al principio, el modelo de negocio de Silicon Valley consistía en monetizar la atención mediante la publicidad. Sus efectos perniciosos -a adicción algorítmica, el moldeado de la voluntad o la creciente polarización social- se minimizaban como un simple efecto colateral. Eran máquinas publicitarias que les hacía ganar dinero y la idea era encontrar contenidos que atrajeran al público receptor. Les era indiferente la veracidad, el sesgo o la ideología; su prioridad radicaba en la agitación emocional del usuario, pues esa hiperactividad garantizaba un caudal constante de datos, esencial para configurar perfiles psicológicos muy precisos de los usuarios. Como este negocio operaba bajo la apariencia de simples herramientas de comunicación, su capacidad de ingeniería social pasó inadvertida, impidiendo prever sus posibles derivas.

Giuliano da Empoli sostiene que los «ingenieros del caos» y los nuevos emprendedores del nacional-populismo vislumbraron un filón de manipulación sin precedentes; el instrumento idóneo para inyectar discursos de odio y configurar conciencias. Los nuevos agitadores de la política ultra comprendieron la mecánica de las redes antes que nadie, saturándolas de mensajes incendiarios. Por su parte, los propietarios de las plataformas -salvo excepciones puntuales- no buscaron este escenario al principio; su intención inicial era ofrecer un espacio de conversación. Sin embargo, cuando estas compañías tomaron conciencia de su fuerza, el proyecto empresarial devino en una voluntad de poder que consolidó la alianza entre el populismo de utraderecha y la plutocracia tecnológica. Ambos sectores, pese a sus divergencias, convergen hoy en un interés estratégico: demoler cualquier límite o regulación que pretenda frenar su hegemonía.

Frente a esta hegemonía, apenas ha cristalizado hasta ahora una alerta social clara ante el dominio de los dispositivos digitales. Es fácil de entender por qué: nos ponen en contacto con seres queridos y nos facilitan la vida diaria, lo que genera una confianza que nubla el juicio. Sin embargo, ha comenzado a surgir una alarma entre padres que son cada vez más sensibles al ver el efecto devastador en los adolescentes. Diversos países han decidido legislar en defensa de la infancia. Es una iniciativa con un gran calado social, pues los padres consideran inadmisible que el lucro de las plataformas se cimente sobre la desestabilización emocional de sus hijos. Sabemos, por ejemplo, que hubo en Australia hace dos años un escándalo con Instagram cuando un mensaje publicitario desveló que la red vendía a los anunciantes la inseguridad de los adolescentes como un factor que aprovechar; si un adolescente publica un selfie y lo elimina a los pocos minutos, el sistema interpreta esa vacilación como un síntoma de inseguridad. Es el instante preciso para impactarle con publicidad de productos cosméticos o regímenes de adelgazamiento. Este es un ejemplo entre miles de una dimensión desconocida: la lógica que opera tras las bambalinas y lo que se fragua en ese entorno ajeno a nuestro control.

Es imperativo plantearse la regulación, pero las propias plataformas se encargan de neutralizar ese impulso apelando a una retórica de la "libertad" que cala hondo -especialmente entre los jóvenes- sugiriendo que cualquier control estatal constituye una amenaza. Los magnates del sector aspiran a preservar este espacio como un territorio anárquico que facilite su alianza con el poder político, empleándolo como herramienta de presión frente a una Europa desorientada. Lo constatamos cuando el vicepresidente de EE. UU., J. D. Vance, amenazó en Múnich a la Unión Europea con retirar el apoyo a la OTAN si se intentaba regular las redes sociales, o cuando Trump hostigó a los jueces brasileños que pretendían sancionar a X. La retórica de la tecnología, como advierte Giuliano da Empoli, viene a decir: «Les traemos el fuego». «Ustedes ignoran cómo funciona, pero no se preocupen, pues se beneficiarán de ello; si no quieren que la llama se extinga, limítense a aceptar las reglas del juego».

En La hora de los depredadores, Giuliano da Empoli introduce el testimonio de Brittany Kaiser, que describe el funcionamiento interno de Cambridge Analytica bajo la dirección de Alexander Nix. Éste defendía que, gracias a los datos, podían construir perfiles psicológicos muy precisos de los votantes. A partir de esos perfiles, diseñaban mensajes distintos para cada tipo de personalidad. No buscaban convencer con argumentos generales, sino activar emociones específicas en individuos concretos. Nix, en una intervención ante sus clientes corporativos, recurría a una analogía reveladora: si Coca-Cola busca aumentar sus ventas en un cine a través de una agencia de comunicación convencional, esta sugeriría insertar anuncios antes de la película, multiplicar los puntos de venta o recurrir al carisma de un actor famoso. A Nix nada de esto le seducía; él sostenía que, para disparar el consumo de refrescos, lo más directo no es persuadir al cliente, sino «aumentar la temperatura ambiente». Provocada la sed, la compra se convierte en un acto instintivo.

Esto no solo era el modelo de negocio de Cambridge Analytica, que fue barrida por un escándalo; es la realidad de las redes sociales, que se rigen por un mandato implícito: «Vamos a aumentar la temperatura porque esto es útil desde el punto de vista comercial, pero, sobre todo, es crucial desde el punto de vista político». Aumentar la temperatura significa polarizar; poseer la capacidad de dirigir un mensaje específico en el momento oportuno. El Brexit lo hizo sistemáticamente. En esa campaña se orquestó un trasfondo general de ira y enfado artificial: «Las élites nos han traicionado», «Hay que recuperar el control», «El sistema político tradicional está corrompido», «Los periodistas nos mienten», «Salgamos de Europa». Un ejemplo de esta manipulación segmentada consistió en dirigir la ira hacia intereses específicos mediante mensajes contrapuestos.

A los cazadores se les persuadía con la premisa: «Hay que salir de Europa porque Europa protege demasiado a los animales y al final no vais a poder ir a cazar». Simultáneamente, se azuzaba a los animalistas bajo un argumento inverso: «Nosotros, como británicos, somos gente sensible hacia los animales y esto a los europeos no les importa; hay que salir de la Unión Europea para proteger a las especies». Esta mecánica puede replicarse ad infinitum y a escala industrial. Es la táctica de elevar la temperatura apuntando hacia la indignación. Giuliano da Empoli la denomina la «técnica del alambre», pues se asemeja al gesto de doblarlo hacia arriba y hacia abajo repetidamente hasta quebrarlo. Es decir, se identifica un tema divisorio (las vacunas, el covid, la inmigración o cualquier foco de fricción), se radicalizan las posturas en ambos extremos para, finalmente, irradiar ese conflicto sobre el conjunto de la opinión pública.

Durante la campaña de 2016 en EE. UU., vinculada a Cambridge Analytica, el objetivo no siempre consistía en captar el voto para Donald Trump; a menudo, la táctica no buscaba la adhesión, sino la parálisis. Se localizaron nichos electorales en comunidades afroamericanas -un sector tradicionalmente ajeno al ideario republicano- para saturarlos con contenidos diseñados para activar el resentimiento o la desconfianza hacia sus propios representantes. El fin último no es que el ciudadano cambie su voto, sino que, ante el ruido y la decepción, opte por el repliegue. Se trata de una «ingeniería del desánimo»: lograr que el oponente pierda la batalla simplemente porque sus seguidores, agotados emocionalmente, deciden no acudir a las urnas. Una técnica manipulativa que se ha practicado en España para aumentar los adeptos al «antisanchismo».

En La hora de los depredadores, leemos: “Hoy nuestras democracias siguen pareciendo sólidas, pero no cabe ninguna duda de que lo peor está por llegar. El nuevo presidente de los EE. UU. ha asumido el liderazgo de un cortejo variado de autócratas desacomplejados, conquistadores de la tecnología, reaccionarios complotistas, impacientes de romper con todo; una era de violencia sin límites se abre ante nosotros”.

Las redes propagan la idea de que poner normas es un lastre reaccionario; una narrativa que arraiga entre los jóvenes y busca desmantelar consensos sociales: desde los avances feministas hasta la fiscalidad -antaño símbolo de solidaridad y pacto social, hoy estigmatizada como “robo estatal”-. Este impulso alcanza el ámbito tecnológico, donde la carrera por la IA se desarrolla de forma caótica. Resulta irónico pretender regularla bajo el modelo de la energía atómica cuando ese marco ha saltado por los aires tras la ruptura de los tratados nucleares entre EE. UU. y Rusia.

En este escenario de desestructuración global, la IA evoluciona a espaldas de la ciudadanía. Como en El proceso de Kafka, ninguno de los implicados sabe qué está ocurriendo ni cómo, pero ocurre. Es fundamental salvaguardar la soberanía digital, pues la IA domina cada vez más aspectos de nuestra vida y alcanza ya la frontera militar, como evidencian los misiles dirigidos en Gaza. Al mismo tiempo, nuestra comunicación en las redes aparenta darnos poder, cuando en realidad sirve para acaparar datos que facilita la manipulación personalizada. Esta dinámica, sumada a la alianza entre populistas autoritarios al estilo de Donald Trump y los plutócratas de la tecnología, nos conduce a una extrema concentración de poder que afecta incluso a los países europeos. Ante esta dependencia absoluta, desprovistos de alternativa, parecemos convertirnos en esclavos de una máquina que no entendemos, lo que otorga a El discurso de la servidumbre voluntaria de Étienne de La Boétie (1530-1563) una vigencia estremecedora.

Con estas preocupaciones, toma actualidad el "reloj del fin del mundo", una metáfora creada en 1947 por científicos del Proyecto Manhattan. Su objetivo era representar de forma visual lo cerca que se encuentra la humanidad de una catástrofe global. En su primera versión, el reloj se situó a siete minutos de la medianoche -símbolo del desastre absoluto- pero su minutero fluctúa según la evaluación de riesgos geopolíticos, tecnológicos y medioambientales. En la actualidad, las manecillas marcan 85 segundos para la medianoche, la posición más cercana al colapso desde su creación. Este ajuste crítico refleja las amenazas de nuestro tiempo: la aceleración del cambio climático, la gestión incierta de la energía y el armamento nuclear, y el desarrollo de tecnologías emergentes de consecuencias imprevisibles; tres desafíos cuya resolución se ve hoy agravada por una gestión tecnológica opaca y concentrada. Más que una predicción, el reloj es una advertencia: la humanidad continúa avanzando hacia el desastre.