Google completa su familia de modelos de IA abierta Gemma 2 con nuevas incorporaciones

Hace tan solo un mes Google lanzaba Gemma 2, la versión renovada de su familia de modelos de IA abierta, y ahora acaba de ampliar este grupo con tres nuevas incorporaciones.

Los modelos Gemma están basados en la misma tecnología empleada para desarrollar Gemini, con la diferencia de que estos son de código abierto y más ligeros. Dadas sus características están orientados principalmente a investigadores y desarrolladores.

Nuevos modelos en la familia Gemma 2

Los dos primeros modelos que pudimos conocer de Gemma 2 a finales de junio eran el 27B y el 9B. El primero, como su nombre indica, presenta un tamaño de parámetros de 27.000 millones, mientras que el del segundo es de 9.000 millones. El modelo 27B pronto alcanzó gran popularidad e incluso logró convertirse en uno de los modelos de código abierto de mayor rango en la clasificación LMSYS Chatbot Arena, web dedicada a comparar y evaluar chatbots de IA.

Ahora, Google nos presenta a Gemma 2 2B, ShieldGemma y Gemma Scope, tres nuevos modelos que completan la familia Gemma 2 aportando nuevas características y manteniendo sus altos estándares de seguridad.

Gemma 2 2B

Esta se trata de una versión mejorada del modelo 2B (2.000 millones de parámetros), que incluye avances en seguridad y presenta un destacable equilibrio entre rendimiento y eficiencia. En concreto, este modelo ofrece:

• Gran rendimiento: presenta el mejor rendimiento de su clase para su tamaño, superando a otros modelos abiertos de su categoría.
• Implementación flexible y rentable: puede ejecutarse en un amplio abanico de hardware y ha mejorado su velocidad. Está dirigida a varias implementaciones, desde centros de datos hasta nube, estaciones de trabajo locales, PC y dispositivos de borde, utilizando NVIDIA RTX , GPU NVIDIA GeForce RTX o módulos NVIDIA Jetson para IA de borde. Además, se integra a la perfección con Keras, JAX, Hugging Face, NVIDIA NeMo, Ollama, Gemma.cpp y, próximamente, MediaPipe para un desarrollo optimizado.
• Abierto y accesible: se encuentra disponible para investigación y aplicaciones comerciales bajo los términos comerciales de Gemma. Es suficientemente pequeño para ejecutarse en el nivel gratuito de GPU T4 en Google Colab, facilitando la experimentación y el desarrollo.

De acuerdo con los datos aportados por Google en su comunicado, Gemma 2 2B «supera a todos los modelos GPT-3.5 en Chatbot Arena, lo que demuestra sus excepcionales capacidades de IA conversacional».

Puedes descargarlo en Kagle, , Hugging Face y Vertex AI Model Garden, o probarlo con NVIDIA NIM o Google AI Studio.

• Google lanza en España la app de Gemini: ya la puedes descargar en tu Android

ShieldGemma

Se trata de un conjunto de modelos clasificadores de contenido de seguridad que es capaz de detectar contenido dañino en las entradas y salidas de los modelos de IA con el objetivo de mantener la seguridad del usuario o usuaria. Concretamente, se enfoca en cuatro áreas clave de daño: discurso de odio, acoso, contenido sexualmente explícito y contenido peligroso.

Las características a destacar de ShieldGemma son las siguientes:

• Rendimiento SOTA: este modelo cuenta con capacidades de rendimiento destacables.
• Tamaños flexibles: ofrece varios tamaños que se adecuan a diferentes necesidades. El modelo 2B es perfecto para tareas de clasificación online, mientras que el 9B y el 27B son más adecuados para aplicaciones offline en las que la latencia es una preocupación menor. Todas estas versiones aprovechan las optimizaciones de velocidad de NVIDIA.
• Abierto y colaborativo: su condición abierta fomenta la transparencia y la colaboración.

Gemma Scope

Gemma Scope es una herramienta de interpretación de modelos Gemma 2 que permite conocer y comprender el funcionamiento interno de estos. Para ello, emplea codificadores automáticos dispersos (SAE), los cuales funcionan como redes neuronales que ayudan a descomprimir la información densa y compleja procesada por Gemma 2.

Los investigadores podrán utilizarlo para entender mejor cómo Gemma 2 procesa datos, identifica patrones y hace predicciones. Las características destacadas de Gemma Scope son:

• SAE abiertas: ofrece más de 400 SAE disponibles de forma gratuita que cubren todas las capas de los modelos Gemma 2 2B y 9B.
• Demostraciones interactivas: puedes probar Gemma Scope en Neuronpedia y descubrir el funcionamiento interno de Gemma 2.
• Repositorio de uso sencillo: Google ofrece código y ejemplos para interactuar con SAE y Gemma 2.

Foto: GPT4