שימוש במודל מקומי

למודלים גדולים של שפה (LLM) יש יכולות שונות. כדי לתת לכם שליטה וגמישות בפיתוח תוכנה בעזרת AI, ב-Android Studio אתם יכולים לבחור מודל מקומי שפועל במחשב האישי שלכם, כדי להפעיל את פונקציונליות ה-AI של סביבת הפיתוח המשולבת (IDE).

בחירת מודל

שימוש במודל מקומי הוא אפשרות מצוינת אם אתם צריכים לעבוד אופליין, אם אתם צריכים לפעול בהתאם למדיניות מחמירה של החברה לגבי שימוש בכלי AI, או אם אתם רוצים להתנסות במודלים של מחקר בקוד פתוח.

רוצה לנסות את מודל Gemma 4?

אם אתם צריכים להשתמש במודל מקומי, אנחנו ממליצים לנסות את Gemma 4, מודל מקומי מתקדם שזמין לתכנות מבוסס-סוכנים ב-Android Studio.

אלה דרישות החומרה: אם יש לכם מכונה עם ביצועים גבוהים, מומלץ להשתמש במודל Gemma 26B MoE.

דגם סה"כ זיכרון ה-RAM הנדרש אחסון
Gemma E4B 12GB 4‎ GB
Gemma 26B MoE 24 GB 17 GB

במדריך ההגדרה מוסבר איך להוריד את Gemma 4 ולהפעיל אותו באופן מקומי במחשב.

הגדרת תמיכה במודל מקומי

  1. מורידים ומתקינים את הגרסה העדכנית של Android Studio.

  2. מתקינים ספק LLM כמו LM Studio או Ollama במחשב המקומי.

  3. מוסיפים את ספק המודל ל-Android Studio.

    • עוברים אל הגדרות > כלים > AI ‏ > ספקי מודלים.
    • לוחצים על הסמל .
    • בוחרים באפשרות ספק מקומי.
    • מזינים תיאור של ספק המודל (בדרך כלל השם של ספק המודל)
    • הגדרת היציאה שבה הספק מאזין
    • הפעלת מודל
    תיבת הדו-שיח של ההגדרות ב-Android Studio, שבה רואים את ספקי המודלים בקטע Tools > AI (כלים > AI).
    תרשים 1. הגדרות של ספק המודל.
  4. מורידים ומתקינים מודל לבחירתכם.

    עיינו בקטלוגים של המודלים של LM Studio ו-Ollama. כדי ליהנות מחוויית השימוש הטובה ביותר ב-Agent Mode ב-Android Studio, מומלץ לבחור מודל שאומן לשימוש בכלים.

    תיבת הדו-שיח של ההגדרות ב-Android Studio עם רשימה של המודלים המקומיים הזמינים.
    איור 2. מודלים מקומיים זמינים.
  5. מפעילים את סביבת ההסקה.

    סביבת ההסקה מציגה את המודל לאפליקציות מקומיות. כדי להגיע לביצועים אופטימליים, מגדירים חלון טוקנים גדול מספיק לאורך ההקשר. הוראות מפורטות להפעלה ולהגדרה של הסביבה מופיעות במסמכי התיעוד של Ollama או של LM Studio.

  6. בוחרים מודל.

    פותחים את Android Studio. עוברים לחלון של הכלי Agent. משתמשים בבורר המודלים כדי לעבור מהמודל שמוגדר כברירת מחדל למודל המקומי שהגדרתם.

    חלון הכלי של Android Studio Agent שבו מוצג בורר המודלים.
    איור 3. התפריט לבחירת המודל.

אחרי שמקשרים את Android Studio למודל המקומי, אפשר להשתמש בתכונות הצ'אט ב-IDE. כל האינטראקציות מופעלות על ידי המודל שפועל במחשב המקומי, כך שאתם מקבלים סביבת פיתוח AI עצמאית.

שיקולים שקשורים למגבלות ביצועים

מודל מקומי אופליין בדרך כלל לא יהיה יעיל או חכם כמו מודלים מבוססי-ענן. התשובות בצ'אט ממודלים מקומיים בדרך כלל פחות מדויקות וזמן האחזור שלהן ארוך יותר בהשוואה למודלים מבוססי-ענן.

בדרך כלל, מודלים מקומיים לא עוברים כוונון לפיתוח ב-Android, והם יכולים להחזיר תשובות שלא מתייחסות לממשק המשתמש של Android Studio. חלק מתכונות ה-AI של Android Studio ותרחישי שימוש של פיתוח ל-Android לא פועלים עם מודל מקומי. עם זאת, התכונה "צ'אט מבוסס-AI" ב-Android Studio נתמכת בדרך כלל במודלים מקומיים.