Mỗi mô hình ngôn ngữ lớn (LLM) có những khả năng khác nhau. Để giúp bạn kiểm soát và linh hoạt trong quá trình phát triển phần mềm sử dụng AI, Android Studio cho phép bạn chọn một mô hình cục bộ, chạy trên máy cá nhân của bạn, để hỗ trợ chức năng AI của IDE.
Chọn một mô hình
Sử dụng mô hình cục bộ là một lựa chọn tuyệt vời nếu bạn cần làm việc khi không có mạng, phải tuân thủ các chính sách nghiêm ngặt của công ty về việc sử dụng công cụ AI hoặc muốn thử nghiệm các mô hình nghiên cứu nguồn mở.
Dùng thử mô hình Gemma 4
Nếu cần sử dụng mô hình cục bộ, bạn nên dùng thử Gemma 4, một mô hình cục bộ hiện đại có sẵn để lập trình dựa trên tác nhân trong Android Studio.
Sau đây là các yêu cầu về phần cứng. Bạn nên sử dụng mô hình Gemma 26B MoE nếu có máy tính hiệu suất cao.
| Mô hình | Tổng dung lượng RAM cần thiết | Bộ nhớ |
|---|---|---|
| Gemma E4B | 12 GB | 4 GB |
| Gemma 26B MoE | 24 GB | 17 GB |
Hãy xem hướng dẫn thiết lập để biết cách tải xuống và chạy Gemma 4 trên máy của bạn.
Thiết lập tính năng hỗ trợ mô hình cục bộ
Tải xuống và cài đặt phiên bản Android Studio mới nhất.
Cài đặt một nhà cung cấp LLM như LM Studio hoặc Ollama trên máy tính cục bộ của bạn.
Thêm nhà cung cấp mô hình vào Android Studio.
- Chuyển đến phần Settings > Tools > AI > Model Providers (Cài đặt > Công cụ > AI > Nhà cung cấp mô hình)
- Chọn biểu tượng
- Chọn Nhà cung cấp tại địa phương
- Nhập nội dung mô tả về nhà cung cấp mô hình (thường là tên của nhà cung cấp mô hình)
- Đặt cổng mà nhà cung cấp đang nghe
- Bật mô hình
Hình 1. Chế độ cài đặt nhà cung cấp mô hình. Tải xuống và cài đặt một mô hình mà bạn chọn.
Xem danh mục mô hình LM Studio và Ollama. Để có trải nghiệm tốt nhất với Chế độ tác nhân trong Android Studio, hãy chọn một mô hình đã được huấn luyện để sử dụng công cụ.
Hình 2. Các mô hình cục bộ hiện có. Bắt đầu môi trường suy luận.
Môi trường suy luận sẽ phân phát mô hình của bạn cho các ứng dụng cục bộ. Định cấu hình cửa sổ token có độ dài ngữ cảnh đủ lớn để đạt được hiệu suất tối ưu. Để biết hướng dẫn chi tiết về cách khởi động và định cấu hình môi trường, hãy xem tài liệu về Ollama hoặc LM Studio.
Chọn một mô hình.
Mở Android Studio Chuyển đến cửa sổ công cụ Agent (Tác nhân). Sử dụng bộ chọn mô hình để chuyển từ mô hình mặc định sang mô hình cục bộ đã định cấu hình.
Hình 3. Bộ chọn mô hình.
Sau khi kết nối Android Studio với mô hình cục bộ, bạn có thể sử dụng các tính năng trò chuyện trong IDE. Tất cả hoạt động tương tác đều hoàn toàn do mô hình chạy trên máy cục bộ của bạn hỗ trợ, mang đến cho bạn một môi trường phát triển AI độc lập.
Cân nhắc các giới hạn về hiệu suất
Mô hình cục bộ, ngoại tuyến thường sẽ không có hiệu suất hoặc thông minh như các mô hình dựa trên đám mây. Câu trả lời trò chuyện từ các mô hình cục bộ thường ít chính xác hơn và có độ trễ cao hơn so với các mô hình dựa trên đám mây.
Các mô hình cục bộ thường không được tinh chỉnh cho hoạt động phát triển Android và các mô hình cục bộ có thể trả về những câu trả lời không liên quan đến giao diện người dùng của Android Studio. Một số tính năng AI của Android Studio và trường hợp sử dụng phát triển Android không hoạt động với mô hình cục bộ. Tuy nhiên, tính năng trò chuyện bằng AI trong Android Studio thường được các mô hình cục bộ hỗ trợ.