Tìm giải pháp AI/ML phù hợp cho tính năng của bạn

Hướng dẫn này giúp bạn tìm được giải pháp AI/ML phù hợp cho trường hợp sử dụng của mình. Tài liệu này cung cấp hướng dẫn giúp bạn tìm hiểu các giải pháp hiện có và chọn giải pháp phù hợp nhất với nhu cầu của bạn, dựa trên các yêu cầu của tính năng mà bạn muốn triển khai.

Nhìn chung, khi chọn công cụ và mô hình để triển khai tính năng AI/ML, bạn nên sử dụng mô hình đơn giản nhất đáp ứng nhu cầu của mình. Để xác định giải pháp tối ưu, bạn cần cân nhắc những điều sau:

  • Tính năng này có cần tạo nội dung mới (AI tạo sinh) hay dự đoán/phân loại theo cách tất định (ML truyền thống) không?
  • Phạm vi tính năng: tác vụ có thể được thực hiện hoàn toàn trong ứng dụng của bạn (trí tuệ nhân tạo trong ứng dụng) hay cần nhiều ứng dụng để hoàn thành (trí tuệ nhân tạo cấp hệ thống)?
  • Vị trí của mô hình: nhiệm vụ có thể được thực hiện khi không có mạng (mô hình trên thiết bị) hay cần tương tác với máy chủ (mô hình dựa trên đám mây)?
  • Phiên bản mô hình hoặc bộ công cụ: mức độ phức tạp của nhiệm vụ, từ nhiệm vụ suy luận đơn giản, đơn lẻ đến điều phối nhiều tác nhân?

Biểu đồ quy trình sau đây cho thấy quy trình ra quyết định ở cấp cao:

Có Không Có Không Có Không Có Không phải tất cả Có Không Tính năng Bạn có cần tạo nội dung mới (thay vì dự đoán hoặc phân loại dữ liệu) không? AI tạo sinh Có phải là một nhiệm vụ liên ứng dụng không? Học máy truyền thống Trí tuệ hệ thống Sử dụng AppFunctions Trí tuệ trong ứng dụng Tính năng này có thể chạy khi không có mạng hay bạn có các quy định ràng buộc về chi phí? Thiết bị mục tiêu có hỗ trợ mô hình trên thiết bị không? Bạn có cần tính năng này tiếp tục chạy (trạng thái được duy trì) khi ứng dụng đóng hoặc cần quyền truy cập vào cơ sở dữ liệu riêng tư không? Mô hình trên thiết bị Sử dụng Gemini Nano thông qua Bộ công cụ học máy hoặc LiteRT Phương pháp kết hợp Ưu tiên mô hình trên thiết bị, nhưng sử dụng mô hình trên đám mây làm phương án dự phòng Mô hình dựa trên đám mây Sử dụng máy chủ tự lưu trữ tuỳ chỉnh Mô hình dựa trên đám mây Sử dụng phần phụ trợ được quản lý thông qua Firebase AI Logic
Hình 1. Quy trình ra quyết định cấp cao để chọn giải pháp AI/ML.

Để đưa ra quyết định sáng suốt ở mỗi bước, hãy tham khảo các phần trong phần còn lại của tài liệu này.

AI tạo sinh so với công nghệ học máy truyền thống

Mô hình AI tạo sinh tạo ra nội dung mới, trong khi mô hình học máy truyền thống dự đoán kết quả hoặc phân loại dữ liệu theo cách hoàn toàn tất định. Nếu tính năng của bạn không liên quan đến việc tạo nội dung mới, thì các giải pháp học máy truyền thống có thể là đủ. Bảng sau đây tóm tắt một số giải pháp học máy truyền thống:

Bộ công cụ/Giải pháp Loại Trường hợp sử dụng chính Ví dụ
SDK Bộ công cụ học máy Trên thiết bị Các tác vụ xử lý ngôn ngữ tự nhiên và thị giác máy tính được tạo sẵn
  • Trình quét biên nhận OCR
  • Đăng ký tham gia sự kiện nhanh chóng bằng mã QR
  • Dịch thực đơn ngoại tuyến
LiteRT Trên thiết bị Thời gian chạy mô hình tuỳ chỉnh
  • Phân loại hình ảnh y tế
  • Dự đoán từ bằng bàn phím thông minh cho chủ đề chuyên biệt
MediaPipe Trên thiết bị Tác vụ nhận thức luồng âm thanh hoặc video theo thời gian thực
  • Hướng dẫn tư thế tập luyện theo thời gian thực
  • Bộ lọc và hiệu ứng khuôn mặt
  • Nhận dạng cử chỉ tay
Google Cloud API, bao gồm cả Cloud Vision API và Cloud Natural Language API Trên đám mây Các tác vụ xử lý ngôn ngữ tự nhiên và thị giác máy tính được tạo sẵn
  • Phụ đề video tự động
  • Quản lý chất lượng và tuân thủ quy định về hình ảnh
Nền tảng tác nhân Trên đám mây Huấn luyện và triển khai mô hình tuỳ chỉnh toàn diện
  • Nhận dạng hình ảnh chuyên biệt trên quy mô lớn
  • Tìm kiếm ảnh từ các kho lưu trữ

Phần còn lại của tài liệu này nói về các giải pháp AI tạo sinh.

Trí tuệ nhân tạo trong ứng dụng so với trí tuệ nhân tạo cấp hệ thống

Để xác định giải pháp AI tạo sinh phù hợp nhất, hãy quyết định xem tính năng AI của bạn hoạt động hoàn toàn trong ứng dụng hay cần tương tác với các ứng dụng khác hoặc Hệ điều hành Android, bên ngoài bất kỳ ứng dụng nào. Nếu tính năng của bạn được hệ thống kích hoạt, bên ngoài bất kỳ ứng dụng nào, thì tính năng đó được tính là trí tuệ ở cấp hệ thống. Bảng sau đây tóm tắt sự khác biệt giữa các tính năng thông minh trong ứng dụng và ở cấp hệ thống:

Trí tuệ nhân tạo trong ứng dụng Trí tuệ ở cấp hệ thống
Phạm vi nhiệm vụ Trong ứng dụng Trên các ứng dụng (hoặc do hệ thống kích hoạt, bên ngoài ứng dụng)
Công cụ SDK Bộ công cụ học máy, LiteRT, Firebase AI Logic hoặc phần phụ trợ tự lưu trữ AppFunctions
Trường hợp sử dụng
  • Tóm tắt, hiệu đính hoặc chép lời văn bản
  • Mô tả hình ảnh
  • Xây dựng chatbot trong ứng dụng
  • Tạo hình ảnh
  • Tạo danh sách mua sắm trong ứng dụng giao hàng dựa trên nội dung bạn đã viết trong tài liệu ghi chú
  • Đặt xe đến văn phòng và nhắn tin cho đồng nghiệp về thời gian đến dự kiến của bạn
  • Tìm một nhà hàng được đề xuất trong hộp thư đến của bạn và đặt bàn

Trí tuệ nhân tạo trong ứng dụng

Các tính năng thông minh trong ứng dụng không cần tương tác với các ứng dụng khác hoặc hệ thống bên ngoài ứng dụng. Sau khi xác định rằng tính năng AI của bạn hoàn toàn nằm trong ứng dụng, bạn cần quyết định xem có thể chạy tính năng này hoàn toàn trên thiết bị, sử dụng mô hình dựa trên đám mây hay kết hợp cả hai hay không.

Nếu bạn đang làm bất cứ việc gì cần đến dữ liệu đầu vào dạng video hoặc các nhiệm vụ liên quan đến nhiều tác nhân, thì bạn nên sử dụng mô hình dựa trên đám mây. Bảng sau đây so sánh các chức năng của mô hình trên thiết bị và mô hình dựa trên đám mây:

Trên thiết bị Mây
Công cụ SDK Bộ công cụ học máy hoặc LiteRT Firebase AI Logic hoặc phần phụ trợ tự lưu trữ
Loại nội dung nhập
  • Văn bản
  • Hình ảnh
  • Âm thanh
  • Văn bản
  • Hình ảnh
  • Âm thanh
  • Video
Loại đầu ra
  • Văn bản
  • Văn bản
  • Hình ảnh
  • Âm thanh
Mức độ nhạy cảm của dữ liệu người dùng Cao hơn Lower
Mô hình
  • Gemma
  • Gemini Nano
  • Gemini Flash
  • Gemini Flash Lite
  • Gemini Pro
Trường hợp sử dụng
  • Xử lý nội dung ngắn, ví dụ: tóm tắt, hiệu đính hoặc viết lại một tin nhắn trò chuyện hoặc email ngắn
  • Mô tả hình ảnh
  • Cá nhân hoá kết quả cho người dùng dựa trên mối quan tâm của họ
  • Xử lý dữ liệu nhạy cảm của người dùng
  • Chép lời một đoạn âm thanh ngắn
  • Xây dựng chatbot
  • Tạo hình ảnh
  • Dịch cuộc trò chuyện theo thời gian thực
  • Chỉnh sửa ảnh trong ứng dụng
  • Nhiệm vụ đa tác nhân

Mô hình trên thiết bị

Mô hình trên thiết bị có thể phù hợp hơn nếu có bất kỳ trường hợp nào sau đây:

  • Giới hạn về chi phí
  • Tính năng phải có thể chạy khi không có mạng
  • Các yêu cầu về quyền riêng tư
  • Nhiệm vụ hiện tại tương đối đơn giản, không cần điều phối nhiều tác nhân

Xin lưu ý rằng thiết bị của người dùng phải hỗ trợ các mô hình trên thiết bị. Các mô hình trên thiết bị thường yêu cầu thiết bị cao cấp hơn, có thể hỗ trợ quá trình xử lý cục bộ.

Sau khi bạn xác định rằng các mô hình trên thiết bị là đủ cho tính năng của mình, bộ công cụ hoặc giải pháp tối ưu sẽ phụ thuộc chủ yếu vào độ phức tạp của nhiệm vụ. Bảng sau đây tóm tắt các lựa chọn cho công cụ AI tạo sinh trên thiết bị, trong ứng dụng:

Độ phức tạp của nhiệm vụ Đặc điểm của tính năng Ví dụ Bộ công cụ/Giải pháp
Thấp
  • Suy luận đơn lẻ
  • Tạo nội dung thuần tuý
Tóm tắt văn bản
Trung bình
  • LLM tăng cường
  • Gọi hàm
  • Nhật ký trò chuyện
Câu hỏi và câu trả lời
Cao
  • Vòng lặp một tác nhân, lặp lại cho đến khi hoàn thành nhiệm vụ
Ý kiến phản hồi của khách hàng hoặc phân loại lỗi

Sử dụng Prompt API của Bộ công cụ học máy để tạo văn bản trò chuyện đơn giản, một lượt hoặc nhiều lượt. Khi tính năng của bạn yêu cầu thực thi nhiều bước, tự động trên thiết bị, hãy sử dụng API Tác nhân GenAI của Bộ công cụ học máy. Agent API hỗ trợ các vòng lặp suy luận trên thiết bị có thể lập kế hoạch, gọi các công cụ được nhập bằng chú thích @Tool, duy trì bối cảnh phiên trong các hoạt động tương tác và thực thi giới hạn lượt bằng maxTurns.

Mô hình dựa trên đám mây

Nếu tính năng của bạn không thể chạy hoàn toàn trên thiết bị, thì bạn cần sử dụng một mô hình dựa trên đám mây. Có hai cách chính để sử dụng mô hình dựa trên đám mây:

  • Phần phụ trợ được quản lý bằng Firebase AI Logic. Nếu bạn đã là người dùng Firebase hoặc muốn tạo nguyên mẫu tương đối nhanh, thì Firebase AI Logic có thể là giải pháp phù hợp nhất.

  • Phần phụ trợ tuỳ chỉnh hoặc máy chủ tự lưu trữ. Nếu muốn sử dụng các mô hình không phải mô hình Gemini, có yêu cầu về quyền riêng tư nghiêm ngặt hoặc cần hoàn thành một nhiệm vụ rất phức tạp, thì bạn có thể cần sử dụng một phần phụ trợ tuỳ chỉnh. Bạn cũng nên sử dụng các công cụ sau đây để thiết lập phần phụ trợ tuỳ chỉnh:

    • Yêu cầu phần phụ trợ tuỳ chỉnh chạy một khung tác nhân như Bộ công cụ phát triển tác nhân
    • Kết nối giao diện người dùng của ứng dụng với phần phụ trợ của tác nhân bằng AG-UI
    • Cho phép tác nhân tạo giao diện người dùng phong phú, có tính tương tác bằng A2UI

Bảng sau đây tóm tắt thời điểm nên sử dụng Firebase AI Logic hoặc một phần phụ trợ tuỳ chỉnh cho công cụ AI tạo sinh dựa trên đám mây trong ứng dụng:

Độ phức tạp của nhiệm vụ Đặc điểm của tính năng Ví dụ Bộ công cụ/Giải pháp
Thấp
  • Suy luận đơn lẻ
  • Tạo nội dung thuần tuý
Tóm tắt văn bản
  • Firebase AI Logic
  • Phần phụ trợ tuỳ chỉnh
Trung bình
  • LLM tăng cường
  • Gọi hàm
  • Nhật ký trò chuyện
Câu hỏi và câu trả lời
  • Firebase AI Logic
  • Phần phụ trợ tuỳ chỉnh
Cao
  • Vòng lặp một tác nhân, lặp lại cho đến khi hoàn thành nhiệm vụ
Ý kiến phản hồi của khách hàng hoặc phân loại lỗi
  • Phần phụ trợ tuỳ chỉnh
Rất cao
  • Điều phối nhiều tác nhân
Tạo một nhóm tác nhân để quản lý các khía cạnh khác nhau của chuyến đi
  • Phần phụ trợ tuỳ chỉnh

Phương pháp kết hợp

Sử dụng phương pháp kết hợp khi tính năng của bạn có thể chạy cục bộ, nhưng không phải người dùng nào cũng có thiết bị hỗ trợ mô hình trên thiết bị và bạn cần sử dụng mô hình đám mây làm phương án dự phòng. Để biết thêm thông tin, hãy xem phần Suy luận kết hợp.

Trí tuệ ở cấp hệ thống

Trí tuệ nhân tạo cấp hệ thống cho phép nền tảng Android hoạt động như một trình điều phối tác vụ. Trí tuệ nhân tạo cấp hệ thống cho phép các tác nhân hệ thống, chẳng hạn như Gemini, hoàn tất yêu cầu của người dùng trên nhiều ứng dụng và dịch vụ web.

Để kết nối ứng dụng của bạn với hệ thống Android Intelligence, hãy chọn một phương thức tích hợp dựa trên việc bạn muốn điều khiển theo chương trình hay thực hiện các hành động tự động dựa trên giao diện người dùng:

Lựa chọn tích hợp Trường hợp sử dụng
AppFunctions Cung cấp các chức năng cụ thể trên ứng dụng để tác nhân khám phá và thực thi trên thiết bị.
Máy chủ MCP từ xa Cung cấp các chức năng cụ thể trên ứng dụng của bạn để tích hợp trực tiếp với phần phụ trợ của tác nhân. Phù hợp để phát triển trên nhiều nền tảng.
Điều khiển máy tính Cho phép trợ lý được tải sẵn của OEM tự động hoá các tác vụ bằng cách tương tác trực tiếp với giao diện người dùng của ứng dụng.

Để biết thêm thông tin về các lựa chọn công cụ thông minh ở cấp hệ thống, hãy xem bài viết Kết nối ứng dụng với hệ thống thông minh của Android.