Cuando hablamos de los peligros de la IA casi siempre pensamos en Skynet, en robots con mirada roja o en una superinteligencia que decide que sobramos. Pero en las últimas semanas pasaron tres cosas muy reales, nada de ciencia ficción, que me dejaron pensando: un malware que deja sus decisiones en manos de un «comité» de inteligencias artificiales, una plataforma criminal que usaba un chatbot para leer el correo de sus víctimas y una sesión del Consejo de Seguridad de la ONU donde los jefes de OpenAI y Anthropic hablaron de riesgos para la humanidad. Les cuento qué pasó en cada caso.
CLOSEDQUORUM: el malware que pone a votar a cuatro IAs
El 22 de septiembre, los investigadores de Cisco Talos publicaron el análisis de CLOSEDQUORUM, un implante para Windows que, según ellos, es el primero conocido en dejar que modelos de lenguaje comerciales tomen las decisiones del ataque en lugar de un operador humano.
Funciona así: una vez dentro de una computadora, el programa le consulta a hasta cuatro modelos (DeepSeek, Qwen, Mistral y Gemini) cuál debe ser el siguiente paso. Cada modelo «vota» entre opciones cerradas, como robar credenciales, inyectarse en otro proceso, quedarse a vivir en el sistema o moverse a otra máquina, y gana la acción con más votos. Si hay empate, DeepSeek tiene la última palabra.
¿Y qué roba? Contraseñas guardadas en Chrome, Edge y Firefox, credenciales de Windows y datos de carteras de criptomonedas como MetaMask o Exodus. Todo eso lo cifra y lo manda por webhooks de Discord. Talos lo resume con una frase que da escalofríos:
«Toda la operación dinámica queda delegada a la IA».
Cisco Talos
Ojo con un matiz importante: Talos no ha confirmado que CLOSEDQUORUM esté circulando de forma activa. Lo que sí encontró son rastros de sus posibles desarrolladores en foros criminales desde 2025. O sea, todavía no es una epidemia, pero sí una muestra de hacia dónde van las cosas: el atacante ya no necesita estar al teclado.
EvilTokens: el phishing con chatbot que entró a más de 12.000 buzones
El mismo 22 de septiembre, Microsoft anunció que había desmantelado EvilTokens, una plataforma de «phishing como servicio», es decir, un negocio que le alquilaba a cualquier delincuente todo lo necesario para robar cuentas de correo. El acceso costaba 1.500 dólares de entrada y 500 al mes.
El truco se llama phishing por código de dispositivo, y es más tramposo de lo que suena:
- Te llega un correo con un enlace o un archivo que parece legítimo.
- Al abrirlo, se genera un código y te mandan a la página real de inicio de sesión de Microsoft para que lo escribas.
- Como la página es auténtica, todo parece normal. Pero al escribir ese código le estás dando permiso al atacante para entrar a tu cuenta.
Lo que lo hacía diferente era la IA. Según Steven Masada, abogado general asociado de Microsoft:
«En el centro del servicio había un chatbot al estilo de la IA que podía analizar la bandeja de entrada de una víctima y ayudar a los criminales a identificar relaciones de confianza, autorizaciones de pago y responsabilidades sensibles».
Steven Masada, Microsoft
Las cifras: más de 12.000 buzones comprometidos en más de 10.000 organizaciones. Microsoft incautó 50 sitios web y deshabilitó más de 150 dominios con ayuda de empresas como Cloudflare, Coinbase y OpenAI, y la Policía Metropolitana de Londres arrestó a dos hombres el 11 de septiembre.
El consejo práctico que me llevo: si una página les pide escribir un código que ustedes no solicitaron, no lo escriban, aunque la página sea la oficial.
La ONU: Altman y Amodei hablan de riesgos para la humanidad
Al día siguiente, el 23 de septiembre, el Consejo de Seguridad de la ONU dedicó una sesión a los riesgos de la inteligencia artificial. Sam Altman (OpenAI) fue en persona y Dario Amodei (Anthropic) se conectó por video. Según CNN, Altman pidió estándares internacionales para medir capacidades, evaluar riesgos y comprobar si las salvaguardas son suficientes, y dijo que «cualquier posibilidad de una catástrofe causada por la IA no es aceptable». Amodei fue todavía más directo:
«Este es el tema de seguridad global más importante que enfrenta el mundo hoy».
Dario Amodei, ante el Consejo de Seguridad
Amodei propuso prohibir el uso de IA para crear armas biológicas, crear sistemas de verificación entre países y adoptar pruebas comunes con protocolos para notificar incidentes. Eso sí, nadie salió con un acuerdo firmado: un funcionario de OpenAI describió la sesión como plantar «una semilla» para empezar la conversación.
Entonces, ¿cuáles son los peligros de la IA de verdad?
Si junto las tres historias, me queda un patrón bastante claro:
- La IA abarata el crimen. Lo que antes requería un equipo de hackers ahora se alquila por 500 dólares al mes o se programa para que funcione solo.
- La IA decide sin nadie al volante. CLOSEDQUORUM es un experimento, pero demuestra que ya se puede montar un ataque donde ningún humano aprueba cada paso.
- Las reglas van muy por detrás. Los propios creadores de estos modelos piden estándares internacionales, pero hoy no existe un acuerdo que obligue a nadie.
Ahora, para ser justo, la misma tecnología también juega del otro lado. Según Becker’s Hospital Review, el modelo Mythos de Anthropic se usó para probar el software de Epic, la empresa que maneja los historiales médicos de más de 300 millones de pacientes, y encontró fallas que podían permitir ver expedientes sin dejar rastro en las auditorías. Epic dice que no hay evidencia de que alguien las haya aprovechado, y frenó buena parte de su desarrollo para corregirlas. Es decir: la IA que puede atacar también puede encontrar la puerta abierta antes que el ladrón.
Lo que sí creo es que el peligro más cercano no es un robot asesino, sino algo mucho más aburrido y más probable: correos que parecen escritos por tu jefe, programas que deciden solos qué robar y una regulación que llega tarde. Si les interesa el lado más «Terminator» del tema, hace poco les conté cómo Figure AI derritió sus robots F.02 en acero fundido, y si quieren empezar por lo básico, aquí está mi explicación de qué es la inteligencia artificial.
¿Ustedes qué opinan? ¿Les preocupa más la IA que ataca sola o la que ayuda a estafar mejor? Déjenmelo saber en los comentarios.
Fuentes: Cisco Talos: CLOSEDQUORUM · Microsoft On the Issues: EvilTokens · The Hacker News: EvilTokens · CNN vía ABC17: Altman y Amodei en la ONU · Becker’s Hospital Review: Epic y Mythos
