제품 소식

ML Kit의 Prompt API: 맞춤 온디바이스 Gemini Nano 환경 제공

2분 읽기
3 작성자
Caren Chang, Chengji Yan, Penny Li

AI를 사용하면 콘텐츠를 사용자에게 적합한 형식으로 변환하는 맞춤형 앱 환경을 더 쉽게 만들 수 있습니다. 이전에는 개발자가 요약 및 이미지 설명과 같은 특정 사용 사례에 맞게 조정된 ML Kit GenAI API를 통해 Gemini Nano와 통합할 수 있었습니다.

오늘은 Android의 온디바이스 생성형 AI에 있어 중요한 이정표가 되는 날입니다. ML Kit GenAI Prompt API의 알파 출시 를 발표합니다. 이 API를 사용하면 자연어 및 멀티모달 요청을 Gemini Nano로 전송하여 생성형 모델로 빌드할 때 더 많은 제어 및 유연성을 요구하는 사항을 해결할 수 있습니다.

카카오와 같은 파트너는 이미 Prompt API를 사용하여 실제 영향을 미치는 고유한 환경을 만들고 있습니다. 오늘 최소한의 코드로 Prompt API의 강력한 기능을 실험해 볼 수 있습니다.

 

 

사전 빌드된 온디바이스 생성형 AI를 맞춤 온디바이스 생성형 AI로 전환

Prompt API는 사전 빌드된 기능을 넘어 맞춤형 앱별 생성형 AI 사용 사례를 지원하므로 복잡한 데이터 변환을 통해 고유한 기능을 만들 수 있습니다. Prompt API는 Gemini Nano 온디바이스를 사용하여 데이터를 로컬로 처리하므로 오프라인 기능과 향상된 사용자 개인 정보 보호가 가능합니다.

Prompt API의 주요 사용 사례

Prompt API를 사용하면 고도로 맞춤설정된 생성형 AI 사용 사례를 사용할 수 있습니다. 다음은 권장되는 몇 가지 예입니다.

  • 이미지 이해: 분류를 위해 사진 분석 (예: 소셜 미디어 게시물 초안 만들기 또는 '반려동물', '음식' 또는 '여행'과 같은 태그 식별)
  • 지능형 문서 스캔: 기존 ML 모델을 사용하여 영수증에서 텍스트를 추출한 다음 Prompt API로 각 항목을 분류
  • UI용 데이터 변환: 긴 형식의 콘텐츠를 분석하여 짧고 매력적인 알림 제목 만들기
  • 콘텐츠 프롬프트: 사용자의 테마 선호도를 기반으로 새 저널 항목의 주제 제안
  • 콘텐츠 분석: 고객 리뷰를 긍정적, 중립적 또는 부정적 카테고리로 분류
  • 정보 추출: 이메일 스레드에서 예정된 이벤트에 관한 중요한 세부정보 추출

구현
Prompt API를 사용하면 몇 줄의 코드로 맞춤 프롬프트를 만들고 선택적 생성 매개변수를 설정할 수 있습니다.

Generation.getClient().generateContent(
   generateContentRequest(
       ImagePart(bitmapImage),
       TextPart("Categorize this image as one of the following: car, motorcycle, bike, scooter, other. Return only the category as the response."),
   ) {
       // Optional parameters
       temperature = 0.2f
       topK = 10
       candidateCount = 1
       maxOutputTokens = 10
   },
)

Prompt API 구현에 관한 자세한 예는 공식 문서 및 GitHub의 샘플을 참고하세요.

Gemini Nano, 성능, 프로토타입 제작

Prompt API는 현재 최신 버전의 Gemini Nano (nano-v3)를 실행하는 Pixel 10 기기 시리즈에서 가장 잘 작동합니다. 이 버전의 Gemini Nano는 I/O에서 오픈 모델 커뮤니티와 처음 공유한 모델인 Gemma 3n과 동일한 아키텍처를 기반으로 빌드되었습니다.

Gemma 3n과 nano-v3 간의 공유 기반을 통해 개발자는 기능을 더 쉽게 프로토타입 제작할 수 있습니다. Pixel 10 기기가 없는 경우 Gemma 3n을 로컬로 프로토타입 제작하여 오늘 프롬프트를 실험해 볼 수 있습니다.

생성형 AI API를 지원하는 기기의 전체 목록은 기기 지원 문서를 참고하세요.

자세히 알아보기

공식 문서() 및 GitHub의 샘플()의 안내에 따라 오늘 Android 앱에서 Prompt API 구현을 시작하세요.

작성자:

계속 읽기