No pasa una semana sin que conozcamos algún ataque hecho con IA o alguna advertencia de sus dirigentes ante una amenaza en ciernes. O directamente, con alguna comunicación que, de forma directa o indirecta, advierta de sus riesgos. Sin ir más lejos, esta misma semana OpenAI ha frenado el entrenamiento de sus modelos porque se han salido de control y Sam Altman ha dicho que algunas consecuencias negativas son inevitables (sic). Con ese percal, la pregunta casi ya no es si va a haber un gran desastre con la IA, sino cuándo.
Pues bien, según ha desvelado Axios, las grandes compañías de inteligencia artificial ya están ensayando en privado qué pasará el día después de ese gran incidente. Sus quinielas apuntan a un evento catastrófico en forma de ciberataque que deje sin servicios financieros, conexión a internet, electricidad o agua.
El día D. Hay dos datos demoledores: el primero es que esta eventual catástrofe casi parece inevitable. El segundo es que está a la vuelta de la esquina: según fuentes anónimas de Axios, podría ocurrir en los próximos 6 a 12 meses. Es decir, en 2027. Y cuando esto suceda, quieren estar preparados. Así, las esferas de Anthropic, OpenAI y otras empresas de IA están planificando escenarios postcatastróficos, muy al estilo Pentágono.
Eso sí, mientras que un portavoz de OpenAI ha confirmado que ejecuta ejercicios por si acaso (aunque no lo da como inevitable), Anthropic no ha querido hacer comentarios. Entre las simulaciones, enjambres de agentes que escapan de un entorno de pruebas (al estilo del ataque de los agentes de OpenAI a Hugging Face) o actores maliciosos que encuentra usos inesperados para los modelos disponibles. No obstante, el gran trabajo de preparación pendiente es más pedagógico: advertir y formar al Congreso de EEUU.
Por qué importa. Un ataque de esta envergadura sobre una infraestructura crítica más o menos global se traduciría en más desconfianza hacia esta tecnología y en convertir a sus líderes casi en villanos. Y de fondo, a la clase política dirigente por no ponerle freno: recordemos que la UE es pionera en legislarla y que aun así, ha ido demorándola y suavizando el tono para no descolgarse. En cualquier caso, la sociedad tiene una patata caliente entre las manos: una IA cada vez más capaz y unos mecanismos legislativos insuficientes para minimizar riesgos.
Vaya por delante que no es fácil: hace falta discernir el grano de la paja y sobre todo, tener formación y conocimientos para regular sin estrangular. Sin embargo, lo que EEUU tiene es un Congreso envejecido y poco techie y una economía muy ligada a la infraestructura de la IA. Mejor prevenir que curar, pero las grandes empresas de la IA ya piensan en ese momento en el que toque curar y lleguen las consecuencias. Sobre la mesa, posibles actuaciones como prohibir la superinteligencia como promueve Bernie Sanders, pausar el desarrollo de la IA avanzada o la obligación de incluir un apagado de emergencia.
El enemigo ya está en casa. El problema de fondo es que hay muchos modelos de pesos abiertos que cualquiera puede descargar y usar para causar daño, y eso no tiene vuelta atrás. Y de base, tampoco es malo. Poner una valla implicaría otro riesgo: concentrar un gran poder, el de la IA, en unas pocas manos.
En cuanto a posibles soluciones, el kill switch o apagado de emergencia de todos los sistemas de IA no parece viable y, como explica Bill Gates, implicaría que ya ha sucedido algo malo. El cofundador de Microsoft explica que la autorregulación tampoco es suficiente porque no se fía de que las propias empresas sean capaces de controlar los riesgos. Según expertos en ciberseguridad consultados por Axios, la solución pasa por usar la IA para luchar contra la IA maliciosa.
Qué buscan las empresas. Con las elecciones midterm a la vuelta de la esquina, los dirigentes de las grandes empresas de IA saben que no va a haber ninguna nueva ley ahora, así que su objetivo pasa por estar bien posicionados cuando eso suceda. O lo que es lo mismo: haber sembrado su semilla para cuando lleguen esas nuevas leyes y políticas, algo que según sus quinielas, llegará antes que las elecciones presidenciales (en 2028).
En Xataka | 20 años anticipando el Apocalipsis: todas las veces que alguien ha dicho que la IA nos iba a matar a todos
Portada | ChatGPT
