제품 소식

ML Kit의 Prompt API: 맞춤 온디바이스 Gemini Nano 환경 구현

전문 길이: 2분
3 작성자
Caren Chang, Chengji Yan, Penny Li

AI를 사용하면 콘텐츠를 사용자에게 적합한 형식으로 변환하여 맞춤 앱 환경을 더 쉽게 만들 수 있습니다. 이전에는 요약 및 이미지 설명과 같은 특정 사용 사례에 맞게 조정된 ML Kit GenAI API를 통해 개발자가 Gemini Nano와 통합할 수 있었습니다.

오늘은 Android의 기기 내 생성형 AI에 있어 중요한 이정표가 되는 날입니다. ML Kit GenAI 프롬프트 API 알파 출시를 발표합니다. 이 API를 사용하면 자연어 및 멀티모달 요청을 Gemini Nano에 전송하여 생성형 모델로 빌드할 때 더 많은 제어 기능과 유연성을 원하는 요구사항을 충족할 수 있습니다.

카카오와 같은 파트너는 이미 프롬프트 API를 사용하여 실제 영향을 미치는 고유한 환경을 만들고 있습니다. 지금 바로 최소한의 코드로 프롬프트 API의 강력한 기능을 실험해 보세요.

 

 

사전 빌드된 온디바이스 생성형 AI를 넘어 맞춤 온디바이스 생성형 AI로 이동

프롬프트 API는 사전 빌드된 기능을 넘어 맞춤형 앱별 생성형 AI 사용 사례를 지원하므로 복잡한 데이터 변환을 통해 고유한 기능을 만들 수 있습니다. 프롬프트 API는 온디바이스 Gemini Nano를 사용하여 데이터를 로컬로 처리하므로 오프라인 기능과 향상된 사용자 개인 정보 보호가 가능합니다.

Prompt API의 주요 사용 사례:

프롬프트 API를 사용하면 생성형 AI 사용 사례를 고도로 맞춤설정할 수 있습니다. 다음은 권장되는 예입니다. 

  • 이미지 이해: 분류를 위해 사진을 분석합니다 (예: 소셜 미디어 게시물 초안 작성 또는 '반려동물', '음식', '여행'과 같은 태그 식별).
  • 지능형 문서 스캔: 기존 ML 모델을 사용하여 영수증에서 텍스트를 추출한 다음 프롬프트 API로 각 항목을 분류합니다.
  • UI용 데이터 변환: 긴 형식 콘텐츠를 분석하여 짧고 흥미로운 알림 제목을 만듭니다.
  • 콘텐츠 프롬프트: 테마에 대한 사용자의 선호도를 기반으로 새로운 일기 항목의 주제를 제안합니다.
  • 콘텐츠 분석: 고객 리뷰를 긍정, 중립 또는 부정 카테고리로 분류합니다.
  • 정보 추출: 이메일 대화목록에서 예정된 이벤트에 관한 중요한 세부정보를 추출합니다.

구현
프롬프트 API를 사용하면 몇 줄의 코드로 맞춤 프롬프트를 만들고 선택적 생성 매개변수를 설정할 수 있습니다.

Generation.getClient().generateContent(
   generateContentRequest(
       ImagePart(bitmapImage),
       TextPart("Categorize this image as one of the following: car, motorcycle, bike, scooter, other. Return only the category as the response."),
   ) {
       // Optional parameters
       temperature = 0.2f
       topK = 10
       candidateCount = 1
       maxOutputTokens = 10
   },
)

프롬프트 API 구현에 관한 자세한 예는 공식 문서와 GitHub의 샘플을 참고하세요.

Gemini Nano, 성능, 프로토타입 제작

프롬프트 API는 현재 최신 버전의 Gemini Nano (nano-v3)를 실행하는 Pixel 10 기기 시리즈에서 가장 우수한 성능을 보입니다. 이 버전의 Gemini Nano는 Google이 I/O에서 오픈 모델 커뮤니티와 처음 공유한 모델인 Gemma 3n과 동일한 아키텍처를 기반으로 빌드되었습니다.

Gemma 3n과 nano-v3 간의 공유 기반을 통해 개발자는 더 쉽게 기능을 프로토타입으로 만들 수 있습니다. Pixel 10 기기가 없는 경우 Gemma 3n을 로컬에서 프로토타입으로 만들어 지금 바로 프롬프트 실험을 시작할 수 있습니다.

생성형 AI API를 지원하는 기기의 전체 목록은 기기 지원 문서를 참고하세요.

자세히 알아보기

공식 문서와 GitHub의 샘플을 참고하여 지금 바로 Android 앱에 프롬프트 API를 구현해 보세요.

작성자:

계속 읽기