Wiadomości o usługach

Eksperymentalne wnioskowanie hybrydowe i nowe modele Gemini na Androida

Czas czytania: 3 minuty
Thomas Ezan
Starszy inżynier ds. relacji z deweloperami

Jeśli jesteś deweloperem aplikacji na Androida i chcesz wdrożyć w niej innowacyjne funkcje oparte na AI, niedawno udostępniliśmy nowe, zaawansowane aktualizacje:

  • wnioskowanie hybrydowe, nowy interfejs API dla Firebase AI Logic, który umożliwia korzystanie z wnioskowania na urządzeniu i w chmurze;
  • Obsługa nowych modeli Gemini, w tym najnowszych modeli Nano Banana do generowania obrazów.

Zaczynajmy!

Eksperymentowanie z wnioskowaniem hybrydowym

W ramach nowego interfejsu Firebase API do wnioskowania hybrydowego wdrożyliśmy proste podejście do routingu opartego na regułach jako wstępne rozwiązanie, które umożliwia korzystanie z wnioskowania na urządzeniu i w chmurze za pomocą ujednoliconego interfejsu API. W przyszłości planujemy udostępnić bardziej zaawansowane funkcje routingu.

Umożliwia dynamiczne przełączanie się między Gemini Nano działającym lokalnie na urządzeniu a modelami Gemini hostowanymi w chmurze. Wykonywanie na urządzeniu korzysta z interfejsu Prompt API w ML Kit. Wnioskowanie w chmurze obsługuje wszystkie modele Gemini z Firebase AI Logic w Vertex AI i interfejsie Developer API.

Aby z niego korzystać, dodaj do aplikacji firebase-ai-ondevice zależności wraz z Firebase AI Logic:

dependencies {
 [...] 
 implementation("com.google.firebase:firebase-ai:17.10.1")
 implementation("com.google.firebase:firebase-ai-ondevice:16.0.0-beta01")
}

Podczas inicjowania tworzysz instancję GenerativeModel i konfigurujesz ją za pomocą określonych trybów wnioskowania, takich jak PREFER_ON_DEVICE (w przypadku braku Gemini Nano na urządzeniu przełącza się na chmurę) lub PREFER_IN_CLOUD (w przypadku braku połączenia z internetem przełącza się na wnioskowanie na urządzeniu):

val model = Firebase.ai(backend = GenerativeBackend.googleAI())
    .generativeModel(
        modelName = "gemini-3.1-flash-lite",
        onDeviceConfig = OnDeviceConfig(
           mode = InferenceMode.PREFER_ON_DEVICE
        )
    )

val response = model.generateContent(prompt)

Interfejs Firebase API do wnioskowania hybrydowego na Androidzie jest nadal w fazie eksperymentalnej. Zachęcamy do wypróbowania go w aplikacji, zwłaszcza jeśli korzystasz już z Firebase AI Logic. 

Obecnie modele na urządzeniu są wyspecjalizowane w generowaniu tekstu w jednej turze na podstawie tekstu lub pojedynczego obrazu bitmapowego. Więcej informacji znajdziesz w ograniczeniach

W Katalogu próbek AI opublikowaliśmy właśnie nową próbkę korzystającą z interfejsu Firebase API do wnioskowania hybrydowego. Pokazuje ona, jak za pomocą tego interfejsu można wygenerować opinię na podstawie kilku wybranych tematów, a następnie przetłumaczyć ją na różne języki. Sprawdź kod, aby zobaczyć, jak to działa.

Hybrid_Inference-Inline-imagery.gif
Nowy przykład wnioskowania hybrydowego w działaniu

Nowy przykład wnioskowania hybrydowego w działaniu

Wypróbuj nasze nowe modele

W ramach nowych modeli Gemini udostępniliśmy 2 modele, które są szczególnie przydatne dla deweloperów Androida i łatwe do zintegrowania z aplikacją za pomocą pakietu Firebase AI Logic SDK.

Nano Banana
W ubiegłym roku udostępniliśmy Nano Banana, najnowocześniejszy model do generowania obrazów. Kilka tygodni temu wypuściliśmy kilka nowych modeli Nana Banana.

Nano Banana Pro (Gemini 3 Pro Image) jest przeznaczony do profesjonalnego tworzenia zasobów i może renderować tekst w wysokiej jakości, nawet w określonej czcionce lub symulując różne rodzaje pisma odręcznego.

Nano Banana 2 (Gemini 3.1 Flash Image) to wysoce wydajny odpowiednik Nano Banana Pro. Jest zoptymalizowana pod kątem szybkości i dużej liczby przypadków użycia. Może być używany w wielu przypadkach (infografiki, wirtualne naklejki, ilustracje kontekstowe itp.).  

Nowe modele Nano Banana wykorzystują wiedzę o świecie rzeczywistym i zaawansowane możliwości rozumowania, aby generować precyzyjne i szczegółowe obrazy.

Zaktualizowaliśmy nasz przykład Magiczne selfie (użyj generowania obrazów, aby zmienić tło selfie!), aby korzystał z modelu Nano Banana 2. Segmentacja tła jest teraz obsługiwana bezpośrednio przez model generowania obrazów, co ułatwia wdrożenie i pozwala w pełni wykorzystać ulepszone możliwości generowania obrazów w Nano Banana 2. Zobacz, jak to działa w praktyce tutaj.

magic_selfie.png
Zaktualizowany przykład użycia funkcji Magiczne selfie wykorzystuje Nanobana 2 do zmiany tła selfie

Możesz go używać za pomocą pakietu SDK Firebase AI Logic. Więcej informacji znajdziesz w dokumentacji Androida.

Gemini 3.1 Flash-Lite

Wprowadziliśmy też Gemini 3.1 Flash-Lite, nową wersję rodziny Gemini Flash-Lite. Modele Gemini Flash-Lite są szczególnie popularne wśród programistów na Androida ze względu na dobry stosunek jakości do czasu oczekiwania i niskie koszty wnioskowania. Jest on używany przez deweloperów Androida w różnych zastosowaniach, takich jak tłumaczenie wiadomości w aplikacji czy generowanie przepisu na podstawie zdjęcia dania.  

Gemini 3.1 Flash-Lite, obecnie w wersji podglądowej, umożliwi bardziej zaawansowane zastosowania z opóźnieniem porównywalnym do Gemini 2.5 Flash-Lite.

Więcej informacji o tym modelu znajdziesz w dokumentacji Firebase.

Podsumowanie

To świetny moment, aby zapoznać się z nowym przykładem hybrydowym w naszym katalogu i zobaczyć, jak działają te funkcje, oraz zrozumieć korzyści płynące z kierowania ruchu między wnioskowaniem na urządzeniu a wnioskowaniem w chmurze. Zachęcamy też do zapoznania się z naszą dokumentacją, aby przetestować nowe modele Gemini.

Autor:

Czytaj dalej