在应用中构建生成式 AI 功能通常意味着要了解各种模型、API 和架构选择:
- 执行位置: 您的模型在哪里运行?在设备上、在云端,还是两者兼而有之?
- 复杂性: 您的设置有多复杂?您是进行单次推理调用,还是需要更智能的工作流?
- 应用内或 Android 系统: 您的功能应内置到 Android 应用中,还是更适合作为 Android 系统集成?
在本系列博文中,我们将与您一起了解这些选择。我们将带您踏上旅程,从一个基本的移动应用开始,将其转变为个性化、智能和智能体体验。
Jetpacker:演示旅行应用
Jetpacker 是一款技术展示应用 ,由我们的团队为今年的 Google I/O 大会从头开始构建(使用 Antigravity 构建)。Jetpacker 的核心功能是帮助用户规划、探索和享受下一次大型冒险之旅。它会显示您的行程概览、每个行程的行程安排,以及该行程中每个活动的详细信息。当然,它遵循了 Android 开发的所有最佳实践,包括精美的 Material UI 设计。
最棒的是什么?它是完全开源的!
今天,我们将发布一系列 技术博文,深入探讨这些功能中的每一个。我们将提供详细的实现步骤、代码段和架构见解,帮助您构建自己的智能 Android 应用。
设备端智能
使用设备端模型不会产生额外的云端推理 费用,这意味着您不必担心互联网连接 问题,并且用户可以确信,私密信息将在设备上本地处理 ,而不会将任何数据发送到云端。
在 Jetpacker 中,我们为以下三个功能选择了设备端推理:
- 行程概览 功能可将杂乱的多日行程安排转换为简洁、可操作的摘要。它通过 ML Kit GenAI API 利用 Gemini Nano 在设备上本地处理数据。我们认为这是一项锦上添花的功能,我们不希望产生额外的云端费用,因此设备端推理是正确的选择。
- 费用跟踪器 会自动从收据图片中提取结构化数据,帮助用户跟踪旅行支出。它通过机器学习套件 GenAI API 使用 Gemini Nano 4 的多模态功能。我们选择设备端解决方案,以便收据图片上的任何隐私敏感信息都不会离开用户的设备。
- 音频日记 会记录语音备注、将其转写为文字,并将其分类到相关的行程活动中。它由 机器学习套件语音识别 API 和 生成式 AI Prompt APIs 提供支持。我们出于隐私和连接方面的考虑选择了设备端解决方案。
云端和混合推理
有时,您的用例需要具有更丰富的世界知识 或更大的上下文窗口 的 AI 模型,并且能够处理复杂的任务 。在这种情况下,我们可以从运行设备端模型切换为使用云端模型。
或者,如果您想兼顾两者,可以使用混合推理在运行时动态选择 云端模型或设备端模型。这样,我们就可以在设备可用时将推理移到设备上,从而降低成本 ,但同时支持运行该应用的所有 Android 设备 。
在 Jetpacker 中,我们使用云端或混合推理实现了以下几个功能:
- 地点问答 功能通过将回答接地到真实世界数据,回答用户有关特定地点的问题。它使用与 Google 地图和 Web 上下文集成的 Firebase AI Logic。由于云端模型具有更丰富的世界知识,因此在这里必须使用云端模型。
- 评价草稿 功能可帮助用户为去过的地点撰写详细的评价。它通过 Firebase AI Logic 的新 Hybrid inference API 利用设备端模型和云端模型。我们希望所有应用用户都能使用此功能,因此当设备端模型不可用时,我们会使用云端模型作为后备方案。
- 自动聊天翻译 功能可实时动态翻译聊天消息,以促进顺畅的交流,并展示自定义混合推理逻辑。同样,我们希望所有应用用户都能使用此功能,但同时在何时选择设备端模型与云端模型方面有一些具体考虑因素。
系统集成
虽然这不是您在应用本身中看到的功能,但 Android 系统集成可直接向 Android 操作系统开放应用的核心功能。它使用 AppFunctions API 与系统级智能集成。
应用内智能体工作流(即将推出!)
智能体引入了更高程度的 自主性,使模型能够充当智能体。智能体不是进行单次推理调用,而是通过编排循环来实现特定目标,该循环允许智能体进行推理、使用工具和调整其路径。根据您的要求,这些智能智能体可以在云端、直接在设备上或在混合设置中运行。
对于 Jetpacker,我们添加了一个预订助理 ,可直接在应用内自动执行端到端预订工作流,以简化预订流程。它使用在云端运行的 A2UI 和 ADK 构建。Android 应用充当在云端运行的多智能体系统的前端。
了解详情
请查看本系列博文的其他部分:
第 1 部分(本文!): 应用简介和概览。
第 2 部分: 设备端智能。深入了解 ML Kit 的 GenAI API 和 Gemini Nano,以构建隐私优先的功能,例如行程安排总结、收据解析和本地音频处理。
第 3 部分: 混合推理和云端推理。了解如何使用 Firebase AI Logic 将 LLM 回答接地到真实世界数据,例如 Google 地图和 Web 上下文。
第 4 部分: 系统集成。使用 AppFunctions 与 Android 智能系统集成。
第 5 部分(即将推出):应用内智能体工作流。使用由 A2UI 和 ADK 提供支持的端到端预订助理扩展应用。
想了解有关 Android 开发的更多信息?请在 YouTube 或 LinkedIn 上关注 Android Developers!
-
操作指南欢迎回到“构建智能 Android 应用”系列博文,我们将在此系列博文中介绍如何将基本的 Android 应用转变为个性化、智能和智能体体验。
Thomas Ezan, Jolanda Verhoef, Caren Chang • 8 分钟阅读时间 -
操作指南欢迎回到“构建智能 Android 应用”系列博文,我们将在此系列博文中介绍如何将基本的 Android 应用转变为个性化、智能和智能体体验。在上一篇博文中,我们介绍了 Jetpacker,这是我们将在本系列中使用的演示版应用。
Caren Chang • 6 分钟阅读时间 -
操作指南欢迎回到“构建智能 Android 应用”系列博文,我们将在此系列博文中介绍如何将基本的 Android 应用转变为个性化、智能和智能体体验。在上一篇博文中,我们探讨了如何利用 Firebase AI Logic 构建云端托管的 AI 功能和混合 AI 功能。
Ben Weiss • 6 分钟阅读时间
每周都会将最新的 Android 开发见解发送到您的收件箱 每周。