Los modelos de lenguaje se miden en función de los parámetros que manejan. Phil-3 Mini de Microsoft es una inteligencia artificial generativa compacta, hasta diez veces más pequeña que sus rivales, pero igual de inteligente.

La mayoría de las IA generativas más conocidas que usamos ahora, como ChatGPT o Gemini, son modelos de lenguajes grandes (LLM), pues poseen docenas de miles de millones de parámetros. Es un término que mide la complejidad de la IA.

Como más parámetros tenga, más capacidad de aprender, o de tomar decisiones acertadas. Una IA como GPT 3.5 tiene 175.000 millones de parámetros, y otras como Mistral 8x7B, unos 13.000 millones de parámetros.

Las nuevas mini IA Phil-3 de Microsoft

Microsoft ha presentado Phil-3 Mini, un modelo de lenguaje pequeño (SLM) de solo 3,8 millones de parámetros, pero que es tan inteligente como las IAs actuales con el doble de parámetros.

Phil-3 Mini puede manejar 4.000 tokens al mismo tiempo, aunque existe también una versión más avanzada, con 128.000 tokens.

Un token es la unidad mínima de información que maneja una IA. Como más tokens utilice, más cantidad de datos puede manejar al mismo tiempo, y, por tanto, puede tomar mejores decisiones, y ofrecer mejores respuestas.

¿De verdad mejora ChatGPT tu productividad en el trabajo o nos la están intentando colar?

La gran ventaja de Phil-3 Mini es que puede funcionar en modo local en un móvil o portátil. Es decir, no necesita la nube. Incluso puede funcionar sin Internet.

Esto tiene una gran cantidad de implicaciones. Que funcione en local sin Internet es mucho más privado, además de rápido, ya que se reduce la latencia.

Como explica Microsoft en el comunicado, puede usarse en el hardware de los automóviles, PC sin WiFi, los sistemas de tráfico, los sensores inteligentes en una fábrica, las cámaras remotas o los dispositivos que monitorean el medio ambiente.

Junto a Phil-3 Mini, con 3.800 millones de parámetros, también ha presentado Phil-3 Small, con 7.000 millones de parámetros, y Phil-3 Medium, con 14.000 millones de parámetros.

ChatGPT llega a los ratones, de la mano de Logitech

¿Y cómo consigue Microsoft que Phil-3 Mini sea igual de inteligente que otras IA con el doble o el triple de parámetros? Pues, haciendo un símil, es como llevar al niño al mejor colegio de pago.

Phil-3 ha sido entrenado con datos de máxima calidad extraídos de webs especializadas de primer nivel, libros de texto y otro material premium: "Porque ha aprendido con material similar a un libro de texto, de documentos de calidad que explican las cosas muy, muy bien, se facilita mucho la tarea del modelo lingüístico para leer y comprender este material", asegura el comunicado.

Esta aportación de Microsoft es interesante, porque si se pueden crear modelos de IA compactos, inteligentes pero capaces de funcionar en local, se reduce el acceso a la nube para usar la IA, y con ello la gran cantidad de recursos energéticos que necesita.

Phil-3 Mini ya está disponible en el catálogo de modelos de IA de Microsoft Azure, en Hugging Face, una plataforma para modelos de aprendizaje automático, y en Ollama, un marco ligero para ejecutar modelos en un equipo local.