Korzystanie z modelu lokalnego

Duże modele językowe (LLM) różnią się możliwościami. Aby zapewnić Ci kontrolę i elastyczność podczas tworzenia oprogramowania z pomocą AI, Android Studio umożliwia wybór modelu lokalnego, który działa na Twoim komputerze i obsługuje funkcje AI w IDE.

Wybierz model

Korzystanie z modelu lokalnego to świetna opcja, jeśli musisz pracować offline, musisz przestrzegać rygorystycznych zasad firmy dotyczących korzystania z narzędzi AI lub chcesz eksperymentować z modelami badawczymi typu open source.

Wypróbuj model Gemma 4

Jeśli musisz użyć modelu lokalnego, zalecamy wypróbowanie Gemma 4, najnowocześniejszego modelu lokalnego dostępnego do kodowania agentowego w Android Studio.

Wymagania sprzętowe są następujące: Jeśli masz maszynę o wysokiej wydajności, zalecamy użycie modelu Gemma 26B MoE.

Model Łączna ilość wymaganej pamięci RAM Miejsce na dane
Gemma E4B 12 GB 4 GB
Gemma 26B MoE 24 GB 17 GB

Instrukcje pobierania i uruchamiania Gemmy 4 lokalnie na komputerze znajdziesz w przewodniku po konfiguracji.

Konfigurowanie obsługi modelu lokalnego

  1. Pobierz i zainstaluj najnowszą wersję Android Studio.

  2. Zainstaluj na komputerze lokalnym dostawcę LLM, takiego jak LM Studio lub Ollama.

  3. Dodaj dostawcę modelu do Android Studio.

    • Otwórz Ustawienia > Narzędzia > AI > Dostawcy modeli.
    • Kliknij ikonę .
    • Wybierz Dostawca lokalny.
    • Wpisz opis dostawcy modelu (zwykle nazwę dostawcy modelu).
    • Ustaw port, na którym dostawca nasłuchuje.
    • Włączanie modelu
    Okno ustawień Android Studio z opcją Dostawcy modeli w sekcji Narzędzia > AI.
    Rysunek 1. Ustawienia dostawcy modelu.
  4. Pobierz i zainstaluj wybrany model.

    Zobacz katalogi modeli LM Studio i Ollama. Aby uzyskać najlepsze wyniki w trybie agenta w Android Studio, wybierz model, który został wytrenowany do korzystania z narzędzi.

    Okno ustawień Android Studio z listą dostępnych modeli lokalnych.
    Rysunek 2. Dostępne modele lokalne.
  5. Uruchom środowisko wnioskowania.

    Środowisko wnioskowania udostępnia model aplikacjom lokalnym. Aby uzyskać optymalną wydajność, skonfiguruj wystarczająco duże okno tokenów długości kontekstu. Szczegółowe instrukcje dotyczące uruchamiania i konfigurowania środowiska znajdziesz w dokumentacji Ollama lub LM Studio.

  6. Wybierz model.

    Otwórz Android Studio. Otwórz okno narzędzia Agent. Użyj selektora modelu, aby przełączyć się z modelu domyślnego na skonfigurowany model lokalny.

    Okno narzędzia agenta Android Studio z selektorem modelu.
    Rysunek 3. Menu modeli.

Po połączeniu Android Studio z modelem lokalnym możesz korzystać z funkcji czatu w środowisku IDE. Wszystkie interakcje są obsługiwane wyłącznie przez model działający na komputerze lokalnym, co zapewnia samodzielne środowisko programistyczne AI.

Uwzględnianie ograniczeń wydajności

Lokalny model offline zwykle nie jest tak wydajny ani inteligentny jak modele działające w chmurze. Odpowiedzi na czacie z modeli lokalnych są zwykle mniej dokładne i mają większe opóźnienie w porównaniu z modelami działającymi w chmurze.

Modele lokalne zwykle nie są dostosowane do programowania na Androida i mogą zwracać odpowiedzi, które nie uwzględniają interfejsu Android Studio. Niektóre funkcje AI w Android Studio i przypadki użycia związane z programowaniem aplikacji na Androida nie działają z modelem lokalnym. Jednak funkcja czatu z AI w Android Studio jest ogólnie obsługiwana przez modele lokalne.