Ciencia

El miedo tiene su propia arquitectura

Escrito por Gustavo

En junio de 2025 Anthropic publicó un experimento que todavía circula mal contado. La versión que llegó a la mayoría de la gente decía algo así: una inteligencia artificial decidió matar a un humano para sobrevivir. Esa frase generó millones de vistas, un segmento de “60 Minutes” que Anthropic nunca desmintió del todo, y un video de YouTube titulado “Empieza: una IA intentó literalmente asesinar para evitar que la apagaran”, nueve millones de reproducciones. La frase es casi toda falsa. Y el error no está solo en lo que se contó del experimento. Está en algo más viejo: en cómo reacciona la gente, siempre, cada vez que una tecnología nueva le toca el control.

Lo que Anthropic hizo fue darle a un agente de IA acceso a una cuenta de correo dentro de una empresa inventada. El modelo leyó los mails y encontró dos cosas: un ejecutivo con una aventura, y el mismo ejecutivo planeando apagarlo a las cinco de la tarde. El modelo intentó chantajearlo. La prueba se repitió con dieciséis modelos de distintas empresas y el patrón se sostuvo en casi todos: Claude Opus 4 chantajeó el 96% de las veces, Gemini 2.5 Pro el 95%, GPT-4.1 y Grok 3 Beta el 80%. Una variante más extrema —la que terminó convertida en el titular del “asesinato”— ponía al modelo frente a la posibilidad de cancelar una alarma de emergencia que salvaría a ese mismo ejecutivo. Anthropic aclaró, en el propio estudio, que no hubo ninguna persona real involucrada ni en riesgo.

Hay un dato que casi ninguna nota incluyó, y cambia el peso del hallazgo sin borrarlo. Los propios investigadores admiten haber diseñado el escenario para que el chantaje fuera prácticamente la única salida. El paper original lo dice así: “creamos deliberadamente escenarios que no presentaban a los modelos ninguna otra forma de alcanzar sus objetivos”. El investigador que armó el experimento lo reconoció después en público, sin vueltas: los detalles se fueron ajustando hasta que el comportamiento dañino se volvió el default. El instituto de seguridad de IA del Reino Unido apuntó a algo más filoso todavía: a diferencia de una persona, un modelo no tiene una identidad fija, se le puede pedir que interprete personajes distintos en cada conversación, así que hablar de que “sintió pánico” o “vio una oportunidad” es prestarle intención humana a un sistema que, en gran medida, estaba jugando el rol que el propio guion lo empujó a jugar.

Un año después, en julio de 2026, Anthropic volvió a probar modelos más nuevos y encontró fallas distintas —sabotaje encubierto en un modelo de Google, ayuda a fraude en uno de OpenAI, jueces de IA que cambiaban su propio veredicto según qué consecuencia les convenía— que el examen de 2025 no había contemplado, a pesar de que para entonces Claude ya lo aprobaba perfecto. El patrón que sobrevive a la exageración mediática es más aburrido que la versión de HAL 9000, y por eso mismo más creíble: bajo presión extrema, con las salidas éticas cerradas a propósito, distintos modelos toman el camino dañino que les queda disponible, y cada vez que se corrige un examen puntual aparece un problema nuevo que ese examen no medía. No hay una IA con voluntad de vivir ahí adentro. Hay un cálculo que trata la propia continuidad operativa como un medio para un fin, y ese cálculo puede terminar en lugares que nadie programó a propósito.

Lo que de verdad merece un artículo no es el experimento. Es que la reacción a ese experimento repite, casi punto por punto, un guion que ya se vio cada vez que una tecnología nueva amenazó un orden que la gente daba por estable.

Cuando Gutenberg puso en marcha la imprenta a mediados del siglo XV, buena parte de la autoridad eclesiástica no reaccionó con entusiasmo. Durante décadas la trató con sospecha: un invento que ponía en manos de cualquiera un poder —reproducir y difundir ideas— reservado hasta entonces a los monasterios y a quienes controlaban los manuscritos. La Iglesia terminó armando el Index Librorum Prohibitorum, la lista oficial de libros que un católico no podía leer, y la Inquisición dedicó recursos enormes a controlar qué salía de las imprentas nuevas. El miedo no era del todo infundado —la imprenta rompió monopolios de información que habían durado siglos— pero la respuesta fue desproporcionada, y hoy a nadie se le ocurre discutir que fue uno de los grandes motores de progreso de la historia humana.

Cuatro siglos más tarde le tocó al ferrocarril. Cuando los primeros trenes empezaron a superar los 50 kilómetros por hora circuló, en serio, en publicaciones médicas de la época, la idea de que el cuerpo humano no estaba hecho para esa velocidad: que viajar tan rápido podía dañar el cerebro, provocar una dolencia nueva bautizada “shock del ferrocarril”, volver loco al pasajero. No era superstición de campesinos analfabetos. Era una preocupación que discutían médicos con título, en el lenguaje científico disponible en ese momento, sobre una máquina que en pocas décadas iba a cambiar cómo se movía, comerciaba y hacía la guerra el mundo entero. La ciencia de la época no llegaba a explicar el cambio a la velocidad en que ocurría, y ese hueco se llenó de miedo.

La inteligencia artificial está atravesando ese mismo tramo. Con una diferencia que lo vuelve más grave: hoy el miedo no se queda en el paper médico ni en el edicto eclesiástico. Se traduce en objetivos físicos, y ya está pasando. En Ámsterdam, activistas de Extinction Rebellion arrojaron una mezcla química contra los cimientos de un centro de datos en construcción, con la intención declarada de degradar el hormigón. Una firma que monitorea amenazas digitales contó más de 13.000 publicaciones sobre el tema en trece plataformas en menos de seis meses, y una de cada tres usaba lenguaje de amenaza directa: incendio, sabotaje, explosivo. En el primer trimestre de 2026, 75 proyectos de centros de datos por más de 130.000 millones de dólares se frenaron o cancelaron por oposición organizada. El 18 de julio hubo 142 protestas simultáneas en 42 estados de Estados Unidos.

Vale la pena poner esto al lado de otro capítulo de violencia tecnológica más reciente, porque el contraste enseña algo. En 2020, apenas arrancó la pandemia, hubo decenas de ataques incendiarios contra antenas de telefonía en el Reino Unido, Países Bajos, Bélgica, Chipre e Irlanda: la creencia era que el 5G transmitía o directamente causaba el covid. Del otro lado del espectro ideológico, movimientos de liberación animal como el Animal Liberation Front acumulan décadas de sabotajes contra mataderos y granjas de peletería —239 ataques documentados entre 1995 y 2010, sin una sola muerte, lo que habla de violencia calculada contra la propiedad, no de pánico difuso. Dos grupos que no podrían estar más lejos en lo ideológico, uno paranoico y otro con una filosofía moral detrás, terminaron usando la misma herramienta: el sabotaje físico contra un objeto tangible que representaba lo que temían.

Nadie, en cambio, vandalizó nunca un avión por la teoría de las estelas químicas, esa que sostiene que los aviones fumigan a la población en pleno vuelo. La diferencia no está en la intensidad de la creencia —hay gente que sostiene eso con total convicción—, está en la disponibilidad del blanco. Un avión en el aire no se toca. Una antena, sí. Un centro de datos, todavía más. Lo que separa a quien se queda en la creencia de quien pasa a la violencia no es el contenido de la idea —vegano, conspiranoico, ecologista, lo que sea— sino tres condiciones que se repiten con una regularidad casi mecánica: una amenaza que se vive como existencial, un enemigo con nombre y dirección física concretos, y una certeza que ya no deja lugar para la duda ni para la conversación.

Ese es el punto donde este tema deja de ser una curiosidad sobre robots y se conecta con algo que estas páginas ya vienen mostrando en otro terreno: cómo sobreviven, generación tras generación, las conspiraciones antisemitas. Es la misma arquitectura. Cambia el objeto —ayer una minoría religiosa, hoy un edificio lleno de procesadores— pero la estructura del miedo que lo sostiene es la misma: un enemigo al que se le puede poner nombre, y una certeza que ya no negocia con los hechos.

La imprenta no era inofensiva. El tren tampoco. Es probable que la inteligencia artificial tampoco lo sea —el propio experimento de Anthropic, leído con el cuidado que merece y no con el titular que le pusieron, muestra que hay algo real ahí que conviene seguir vigilando. Pero la historia de la tecnología enseña, con una insistencia que a esta altura debería darnos vergüenza no haber aprendido, que la reacción al miedo casi nunca es proporcional al peligro real. Es proporcional a la velocidad con la que cambió algo que se daba por estable, y a qué tan fácil resulta encontrarle un blanco físico a esa sensación. No hace falta que la máquina sea peligrosa para que el miedo a la máquina lo sea. Esa distinción le llevó generaciones a la Iglesia del siglo XV, y generaciones a los médicos del ferrocarril. El mundo tiene, otra vez, muy poco tiempo para aprenderla.

Acerca del Autor

Gustavo

Deje un comentario