Cómo usar un modelo local

Los modelos de lenguaje grandes (LLM) difieren en sus capacidades. Para brindarte control y flexibilidad en el desarrollo de software asistido por IA, Android Studio te permite elegir un modelo local, que se ejecuta en tu máquina personal, para potenciar la funcionalidad de IA del IDE.

Elige un modelo

Usar un modelo local es una excelente opción si necesitas trabajar sin conexión, debes cumplir con políticas estrictas de la empresa sobre el uso de herramientas de IA o te interesa experimentar con modelos de investigación de código abierto.

Prueba el modelo Gemma 4

Si necesitas usar un modelo local, te recomendamos que pruebes Gemma 4, un modelo local de estado del arte disponible para la programación agéntica en Android Studio.

Los requisitos de hardware son los siguientes. Te recomendamos usar el modelo Gemma 26B MoE si tienes una máquina de alto rendimiento.

Modelo RAM total necesaria Almacenamiento
Gemma E4B 12 GB 4 GB
Gemma 26B MoE 24 GB 17 GB

Consulta la guía de configuración para obtener instrucciones sobre cómo descargar y ejecutar Gemma 4 de forma local en tu máquina.

Configura la compatibilidad con modelos locales

  1. Descarga e instala la versión más reciente de Android Studio.

  2. Instala un proveedor de LLM, como LM Studio u Ollama, en tu computadora local.

  3. Agrega el proveedor de modelos a Android Studio.

    • Ve a Configuración > Herramientas > IA > Proveedores de modelos.
    • Selecciona el ícono de .
    • Selecciona Proveedor local.
    • Ingresa una descripción del proveedor del modelo (por lo general, el nombre del proveedor del modelo).
    • Establece el puerto en el que escucha el proveedor
    • Habilita un modelo
    Cuadro de diálogo de configuración de Android Studio que muestra los proveedores de modelos en Tools > AI.
    Figura 1: Configuración del proveedor del modelo.
  4. Descarga e instala el modelo que prefieras.

    Consulta los catálogos de modelos de LM Studio y Ollama. Para obtener la mejor experiencia con el modo de agente en Android Studio, selecciona un modelo que se haya entrenado para el uso de herramientas.

    Diálogo de configuración de Android Studio que muestra una lista de los modelos locales disponibles.
    Figura 2: Modelos locales disponibles.
  5. Inicia tu entorno de inferencia.

    El entorno de inferencia entrega tu modelo a las aplicaciones locales. Configura una ventana de tokens de longitud de contexto lo suficientemente grande para obtener un rendimiento óptimo. Para obtener instrucciones detalladas sobre cómo iniciar y configurar tu entorno, consulta la documentación de Ollama o LM Studio.

  6. Selecciona un modelo.

    Abre Android Studio. Navega a la ventana de herramientas Agent. Usa el selector de modelos para cambiar del modelo predeterminado al modelo local configurado.

    Ventana de herramientas de Android Studio Agent que muestra el selector de modelos.
    Figura 3: Selector de modelos.

Después de conectar Android Studio a tu modelo local, puedes usar las funciones de chat en el IDE. Todas las interacciones se basan por completo en el modelo que se ejecuta en tu máquina local, lo que te brinda un entorno de desarrollo de IA independiente.

Considera las limitaciones de rendimiento

Por lo general, un modelo local sin conexión no será tan inteligente ni tendrá un rendimiento tan alto como los modelos basados en la nube. Las respuestas de chat de los modelos locales suelen ser menos precisas y tienen una latencia más alta en comparación con los modelos basados en la nube.

Por lo general, los modelos locales no se ajustan para el desarrollo de Android y pueden devolver respuestas que no tienen en cuenta la interfaz de usuario de Android Studio. Algunas funciones potenciadas por IA de Android Studio y casos de uso de desarrollo de Android no funcionan con un modelo local. Sin embargo, la función de Chat con la IA en Android Studio suele ser compatible con los modelos locales.