产品资讯

适用于 Android 的实验性混合推理和新 Gemini 模型

3 分钟阅读时间
Thomas Ezan
高级开发者关系工程师

如果您是 Android 开发者,希望在应用中实现创新的 AI 功能,那么我们最近推出了强大的新更新:

  • 混合推理,一种新的 Firebase AI Logic API,可同时利用设备端推理和云端推理,
  • 支持新的 Gemini 模型,包括用于图片生成的最新 Nano Banana 模型。

让我们开始吧!

体验混合推理

借助新的 Firebase API for hybrid inference,我们实现了一种简单的基于规则的路由方法,作为初始解决方案,让您可以通过统一的 API 使用设备端推理和云端推理。我们计划在未来提供更复杂的路由功能。

它允许您的应用在设备上本地运行的 Gemini Nano 和云端托管的 Gemini 模型之间动态切换。设备端执行使用机器学习套件的 Prompt API。云端推理支持 Vertex AI 和 Developer API 中的 Firebase AI Logic 的所有 Gemini 模型。

如需使用此功能,请将 firebase-ai-ondevice 依赖项以及 Firebase AI Logic 添加到您的应用:

dependencies {
 [...] 
 implementation("com.google.firebase:firebase-ai:17.10.1")
 implementation("com.google.firebase:firebase-ai-ondevice:16.0.0-beta01")
}

在初始化期间,您将创建一个 GenerativeModel 实例,并使用特定的推理模式对其进行配置,例如 PREFER_ON_DEVICE(如果设备上没有 Gemini Nano,则回退到云端)或 PREFER_IN_CLOUD(如果离线,则回退到设备端推理):

val model = Firebase.ai(backend = GenerativeBackend.googleAI())
    .generativeModel(
        modelName = "gemini-3.1-flash-lite",
        onDeviceConfig = OnDeviceConfig(
           mode = InferenceMode.PREFER_ON_DEVICE
        )
    )

val response = model.generateContent(prompt)

适用于 Android 的 Firebase API for hybrid inference 仍处于实验阶段,我们建议您在应用中试用,尤其是如果您已在使用 Firebase AI Logic。

目前,设备端模型专门用于基于文本或单个位图图片输入进行单轮文本生成。如需了解详情,请查看 限制

我们刚刚在 AI 示例目录中发布了一个新示例,该示例利用了 Firebase API for hybrid,演示了如何使用 Firebase API for hybrid 推理 基于几个选定的主题生成评论,然后将其翻译成多种语言。查看代码,了解其运行情况!

Hybrid_Inference-Inline-imagery.gif
新的混合推理示例的运行情况

新的混合推理示例的运行情况

试用我们的新模型

作为新 Gemini 模型的一部分,我们发布了两个模型,它们对 Android 开发者特别有用,并且可以通过 Firebase AI Logic SDK 轻松集成到您的应用中。

Nano Banana
去年,我们发布了 Nano Banana,这是一款先进的图片生成模型。几周前,我们发布了几个新的 Nana Banana 模型。

_Nano Banana Pro(Gemini 3 Pro 映像)_专为专业资源制作而设计,可以呈现高保真文本,即使使用特定字体或模拟不同类型的手写也是如此。

_Nano Banana 2(Gemini 3.1 Flash Image)_是 Nano Banana Pro 的高效版本。它针对速度和高容量用例进行了优化。它可用于各种用例(信息图表、虚拟贴纸、情境插图等)。  

新的 Nano Banana 模型利用现实世界知识和深度推理能力生成精准且详细的图片。

我们更新了 Magic Selfie 示例(使用图片生成功能更改自拍照的背景!),以使用 Nano Banana 2。现在,背景分割直接由图片生成模型处理,这使得实现更加简单,并让 Nano Banana 2 改进的图片生成功能得以充分发挥。点击 此处查看其运行情况。

magic_selfie.png
更新后的 Magic Selfie 示例使用 Nanobana 2 更新自拍照背景

您可以通过 Firebase AI Logic SDK 使用它。如需了解详情,请参阅 Android 文档

Gemini 3.1 Flash-Lite

我们还发布了 Gemini 3.1 Flash-Lite,这是 Gemini Flash-Lite 系列的新版本。Gemini Flash-Lite 模型因其良好的质量/延迟比和低推理成本而特别受到 Android 开发者的青睐。Android 开发者已将其用于各种用例,例如应用内消息翻译或根据菜肴图片生成食谱。

Gemini 3.1 Flash-Lite 目前处于预览版阶段,它将支持更高级的用例,延迟时间与 Gemini 2.5 Flash-Lite 相当。

如需详细了解此模型,请查看Firebase 文档

总结

现在是探索我们目录中的新 Hybrid 示例的好时机,了解这些功能的实际运行情况,并了解在设备端推理和云端推理之间进行路由的好处。我们还建议您查看我们的文档,以测试新的 Gemini 模型。

作者:

继续阅读