Guillem Alsina Gonzàlez
Parece que, tímidamente, las grandes ‘majors’ estadounidenses del ámbito de la inteligencia artificial se van integrando a la tendencia de los jugadores chinos del sector de abrir sus modelos de lenguaje y ponerlos a disposición del público en general como ‘open source’; en un movimiento sorpresivo, OpenAI ha publicado, a través de Ollama, el nuevo modelo gpt-oss, pensado para ejecutarse en local, en los ordenadores de los usuarios.
Pero, pese a que desde la firma dirigida por Sam Altman se ha destacado que este modelo puede ejecutarse en un portátil de gama alta, necesitaremos una GPU de 80 GB para poder trabajar con él, lo que requiere una máquina que monte, por ejemplo, una NVIDIA A100 con Tensor Core, aunque también hay una variante más ligera que puede funcionar con una memoria de 16 GB, y que está pensado para dispositivos edge, con lo que podría llegar a funcionar en un smartphone de gama alta.
Las dos variantes disponibles de este nuevo modelo son la gpt-oss-120b (que sería la más ‘pesada’ y que requiere 80 GB para su uso), y la gpt-oss-20b (que es la pensada para sistemas más ligeros como smartphones), ambas entrenadas con técnicas de refuerzo y alineación idénticas a las empleadas en los modelos propietarios más avanzados de la misma OpenAI.
Ambos se publican bajo licencia Apache 2.0, lo que permite a empresas y desarrolladores usarlos y adaptarlos sin restricciones comerciales.
El modelo gpt-oss-120b se aproxima al rendimiento del mismo o4-mini en pruebas básicas de razonamiento, mientras que gpt-oss-20b alcanza resultados similares a o3-mini y es capaz de funcionar en dispositivos edge con solo 16 GB de memoria. Esta eficiencia abre la puerta a la inferencia local y a ciclos de iteración rápida sin necesidad de disponer de infraestructuras costosas, un factor clave para los responsables de TI que buscan reducir el TCO de sus proyectos de IA.
Gracias a la compatibilidad con la Responses API, estos nuevos modelos ofrecen capacidades agénticas para completar, de manera autónoma, las tareas que impliquen habilidades como la navegación por Internet, la realización de acciones online como compras y contrataciones, y compuestas de múltiples pasos en las que la misma IA tenga que tomar decisiones, o la ejecución de código Python, aunque según lo explicado por OpenAI, sus capacidades en este ámbito no son tan extensas como las de los modelos alojados en los servidores de la compañía. Admiten razonamiento en cadena completo, salidas estructuradas y ajuste dinámico del esfuerzo de razonamiento según la latencia requerida.
En el caso de la navegación web, Ollama proporciona un motor de búsqueda cuyo uso puede ser activado opcionalmente, brindando acceso a informaciones actualizadas.
Las pruebas internas de OpenAI sitúan a ambos modelos por delante de otros de sus sistemas propietarios como o1 y GPT-4o y, según la misma compañía, también por encima de otras alternativas abiertas.
En lo concerniente a la seguridad que ofrecen ambos modelos (menos controlables por parte de la empresa al ser ejecutados en local, y poder modificar su código fuente), desde OpenAI indican que durante el preentrenamiento se filtraron datos sensibles relacionados con CBRN, y el posentrenamiento incorporó alineación deliberada y una jerarquía de instrucciones orientada a rechazar solicitudes inseguras.
La firma estadounidense sometió a gpt-oss-120b a un ajuste adversarial para simular un uso malicioso y concluyó que, incluso con un refuerzo intensivo, el modelo no alcanzó niveles de capacidad altos en los escenarios de riesgo definidos. Tres grupos externos revisaron la metodología y aportaron recomendaciones que ya se han integrado en la tarjeta del modelo, según apuntan desde OpenAI.
Las primeras implantaciones se están llevando a cabo con socios como AI Sweden, Orange y Snowflake, que alojan los modelos en instalaciones propias por motivos de privacidad, o los afinan con datos sectoriales. Este es, precisamente, el objetivo de ambos modelos: alojarlos on-premises para poder disfrutar de privacidad al tratar con datos sensibles.
Otra de las cosas que permite el ejecutar el modelo en la infraestructura propia es que las organizaciones que lo adopten pueden optimizarlo (fine-tunning) para que ejecute a la perfección las tareas relacionadas con la propia organización, perdiendo el carácter más generalista, pero ganando una herramienta que se ajusta como un guante a las necesidades de la organización.
Esta flexibilidad permite a organizaciones públicas y privadas equilibrar coste, rendimiento y soberanía de datos al elegir entre los nuevos gpt-oss y los modelos propietarios de la API de OpenAI.
Paralelamente, la compañía también ha anunciado el lanzamiento de un Red Teaming Challenge dotado con 500.000 dólares en premios. Investigadores y desarrolladores están invitados a identificar vulnerabilidades y, al término del concurso, OpenAI publicará un informe con un conjunto de datos de evaluación basado en las aportaciones validadas.
El objetivo último de esta iniciativa es, según indican, fijar un estándar de transparencia y estimular la investigación en seguridad y alineamiento de modelos con pesos accesibles.
