A los modelos de inteligencia artificial (IA) se les da de maravilla reconocer patrones. De hecho, esta capacidad reside en el corazón de su funcionamiento y se consigue gracias a miles de millones de parámetros que el modelo va ajustando durante el entrenamiento, conocidos como pesos. Una IA es una gigantesca red de miles de millones de pequeñas conexiones. Durante el proceso de entrenamiento, la IA analiza una cantidad ingente de información y va ajustando esas conexiones para aprender a reconocer patrones.
El valor numérico de cada una de esas conexiones determina cuánto influye cada una de ellas en el comportamiento del modelo. Estos valores son los pesos. OpenAI, Anthropic o Google, entre otras compañías, no publican los pesos de sus modelos cuando los lanzan, de modo que los usuarios no tenemos acceso a los parámetros internos que determinan cómo funcionan. Sin embargo, cuando un laboratorio de IA lanza un modelo y publica sus pesos, es posible descargarlos y ejecutar el modelo de forma local. Así es como funcionan los modelos open-weight o de pesos abiertos.
EEUU está dedicando muchísimos recursos a empujar constantemente la frontera de esta tecnología. China, en cambio, está dando un valor especialmente importante a la distribución de modelos con pesos abiertos, permitiendo así que puedan ser ejecutados por los usuarios localmente. Su apuesta pasa por tener los modelos más baratos, personalizables y accesibles con el propósito de ser los más desplegados, y, así, debilitar a sus competidores estadounidenses desde un punto de vista económico.
Los pesos abiertos cambian radicalmente lo que podemos hacer con los modelos de IA
Un matiz importante que merece la pena que no pasemos por alto: que un modelo tenga pesos abiertos no implica necesariamente que su código fuente esté completamente abierto. Actualmente hay modelos abiertos de origen estadounidense, pero el ecosistema de los modelos de pesos abiertos hoy lo controla China debido a que es su principal motor de crecimiento. Sea como sea, los principales laboratorios estadounidenses publican modelos cerrados, lo que les permite mantener el control de sus IA estableciendo filtros, limitando determinadas funciones, o, incluso, modificando sus propios modelos cuando les conviene hacerlo.
En los modelos de pesos abiertos los laboratorios que los han creado pierden buena parte de su capacidad para controlar qué es posible hacer con ellos
En los modelos de pesos abiertos, sin embargo, los laboratorios que los han creado pierden buena parte de su capacidad para controlar qué es posible hacer con ellos, lo que puede desencadenar problemas de seguridad. En este escenario un usuario puede descargar los pesos, modificar el modelo, debilitar las barreras de seguridad, volver a entrenarlo con otros datos, y, si lo desea, incluso puede distribuir su propia versión del modelo. Curiosamente, China parece estar decidida a acotar los riesgos derivados de la estrategia que está utilizando para competir con EEUU.
Y es que varios investigadores chinos han publicado un informe en el que plantean la necesidad de establecer un proceso sistemático que les permita conseguir que los modelos de pesos abiertos sean más seguros antes de distribuirlos. Lo que proponen es aprobar un proceso de seis etapas que los laboratorios deberán cumplir, y que comenzará con la evaluación de los riesgos de los modelos. Después será necesario continuar con varias fases de identificación, mitigación y verificación de las vulnerabilidades antes de publicar cada modelo.
Esta medida refleja con claridad que China está intentando propiciar la creación de estándares específicos para las IA de pesos abiertos. Sin embargo, encontrar el equilibrio entre la apertura y la seguridad no es nada fácil. Los modelos de pesos abiertos pueden acelerar la investigación y facilitar que las empresas los adapten a sus propias necesidades, pero esta apertura también propicia la aparición de usos maliciosos que los desarrolladores de los modelos no pueden controlar. Este debate también plantea al resto de la industria qué salvaguardas deberían acompañar a la liberación de cada modelo de pesos abiertos.
Imagen | Generada por Xataka con ChatGPT
Más información | SCMP
En Xataka | China tiene un plan para ganar a EEUU la guerra de la IA. Y DeepSeek es su campeón
