LM Studio con Google Gemma: ejecutar Gemma 2, Gemma 4 y CodeGemma en local

La familia Gemma 4 incluye cuatro variantes con requisitos de hardware muy distintos. Los modelos E2B y E4B están diseñados para ejecutarse en dispositivos de consumo (teléfonos, portátiles de gama media) y son los únicos de la familia con soporte nativo de imagen y audio. Los modelos de 26B y 31B requieren hardware más potente pero ofrecen capacidades de razonamiento significativamente superiores.

Cómo descargar Gemma 4 en LM Studio

LM Studio incluye los modelos Gemma 4 directamente en su catálogo. El proceso de descarga es idéntico al de cualquier otro modelo:

1. Abre LM Studio y ve a la pestaña Discover (o pulsa Ctrl+Shift+M en Windows/Linux, Cmd+Shift+M en macOS).
2. Escribe gemma-4 en el buscador. Aparecen las variantes E2B, E4B, 26B-MoE y 31B con las cuantizaciones disponibles.
3. Selecciona la variante adecuada a tu VRAM (ver tabla anterior) y elige la cuantización Q4_K_M para uso general o Q8_0 si dispones de VRAM amplia.
4. Haz clic en Download. LM Studio descarga el archivo GGUF desde Hugging Face en segundo plano y lo almacena en ~/.cache/lm-studio/models/.
5. Una vez descargado, selecciona el modelo en la pestaña Chat. Para E2B y E4B puedes adjuntar imágenes directamente en el cuadro de texto del chat.

También puedes buscar los archivos GGUF directamente en Hugging Face buscando lmstudio-community/gemma-4 y añadir el modelo en LM Studio pegando la URL del repositorio en el campo de descarga manual.

La familia Gemma 2 (2B, 9B y 27B parámetros) destaca en pruebas de razonamiento lógico, matemáticas y generación de texto coherente. El modelo de 9B en cuantización Q4_K_M es el punto dulce para la mayoría de usuarios: cabe en una GPU con 6 GB de VRAM y produce respuestas de calidad comparable a modelos de 13B más antiguos.

Configuración de parámetros para Gemma 2

Los modelos Gemma 2 funcionan bien con la configuración por defecto de LM Studio, pero estos ajustes mejoran la calidad de las respuestas en tareas de instrucción:

Google publica CodeGemma en dos variantes principales optimizadas para distintas necesidades de hardware:

Conectar CodeGemma con VS Code y Continue.dev

Con el servidor local de LM Studio activo (http://localhost:1234/v1), puedes conectar la extensión Continue.dev de VS Code para usar CodeGemma como asistente de código inline:

1. Instala CodeGemma 7B instruct en LM Studio (busca codegemma-7b-it en Discover) y cárgalo en el servidor local.
2. Instala la extensión Continue en VS Code desde el Marketplace.
3. En la configuración de Continue (~/.continue/config.json), añade un proveedor apuntando al servidor de LM Studio:

{
  "models": [
    {
      "title": "CodeGemma 7B (LM Studio)",
      "provider": "lmstudio",
      "model": "codegemma-7b-it",
      "apiBase": "http://localhost:1234/v1"
    }
  ],
  "tabAutocompleteModel": {
    "title": "CodeGemma 2B autocomplete",
    "provider": "lmstudio",
    "model": "codegemma-2b",
    "apiBase": "http://localhost:1234/v1"
  }
}

Con esta configuración, CodeGemma 7B responde a las preguntas del panel de chat de Continue y CodeGemma 2B actúa como motor de autocompletado inline al escribir código, ambos ejecutándose en local sin coste de API.

Para Gemma 4 E4B, Google y la comunidad de LM Studio recomiendan Q8_0 si dispones de 16–24 GB de memoria, ya que el modelo es suficientemente pequeño para que la ganancia de calidad respecto a Q4_K_M sea perceptible. Para Gemma 2 9B y los modelos de 26B+ la recomendación general sigue siendo Q4_K_M como punto de equilibrio.