Gemini Nano

‫Gemini Nano מאפשר לכם ליהנות מחוויית שימוש עשירה ב-AI גנרטיבי בלי צורך בחיבור לרשת או בשליחת נתונים לענן. ‫AI במכשיר הוא פתרון מצוין לתרחישי שימוש שבהם העלות הנמוכה ואמצעי ההגנה על הפרטיות הם השיקולים העיקריים.

לתרחישי שימוש במכשיר, אפשר להשתמש במודל הבסיסי Gemini Nano של Google. ‫Gemini Nano פועל בשירות המערכת AICore של Android, שמנצל את החומרה של המכשיר כדי לאפשר השקה מהירה של מסקנות ולשמור על עדכניות המודל.

ML Kit GenAI APIs

ממשקי ה-API של GenAI ב-ML Kit מנצלים את העוצמה של Gemini Nano כדי לעזור לאפליקציות שלכם לבצע משימות. ממשקי ה-API האלה מספקים איכות גבוהה מחוץ לקופסה לתרחישי שימוש פופולריים באמצעות ממשק ברמה גבוהה. ממשקי ה-API של ML Kit GenAI מבוססים על AICore, שירות מערכת של Android שמאפשר הפעלה במכשיר של מודלים בסיסיים של AI גנרטיבי. כך אפשר להשתמש בתכונות כמו שיפור הפונקציונליות של האפליקציה ושיפור הפרטיות של המשתמשים באמצעות עיבוד נתונים מקומי. מידע נוסף

תכונות עיקריות

ממשקי ה-API של ML Kit GenAI תומכים בתכונות הבאות:

• פרומפט: יצירת תוכן טקסט על סמך פרומפט מותאם אישית שמכיל טקסט בלבד או פרומפט מולטי-מודאלי.
• סיכום: סיכום מאמרים או שיחות כרשימה עם תבליטים.
• הגהה: הגהה של הודעות קצרות בצ'אט.
• שכתוב: שכתוב של הודעות קצרות בצ'אט בסגנונות או בטונים שונים.
• תיאור תמונה: יצירת תיאור קצר של תמונה נתונה.
• זיהוי דיבור: תמלול של אודיו של דיבור לטקסט.

android skills add ml-kit-genai-prompt-api

ארכיטקטורה באמצעות AICore

כמודול ברמת המערכת, הגישה ל-AICore מתבצעת באמצעות סדרה של ממשקי API כדי להפעיל הסקה במכשיר. בנוסף, ל-AICore יש כמה תכונות בטיחות מובנות, שמבטיחות הערכה יסודית בהתאם למסנני הבטיחות שלנו. הדיאגרמה הבאה מתארת איך אפליקציה ניגשת ל-AICore כדי להריץ את Gemini Nano במכשיר.

שמירה על הפרטיות והאבטחה של נתוני המשתמשים

‫AI גנרטיבי במכשיר מריץ פרומפטים באופן מקומי, בלי לבצע קריאות לשרת. הפעולה הזו אמנם מסירה את זמן האחזור ברשת, אבל מהירות ההסקה תלויה בחומרה של המכשיר. הגישה הזו משפרת את הפרטיות כי הנתונים הרגישים נשמרים במכשיר, מאפשרת שימוש בתכונות במצב אופליין ומפחיתה את עלויות ההסקה.

‫AICore פועל בהתאם לעקרונות של Private Compute Core, עם המאפיינים העיקריים הבאים:

• קישור חבילות מוגבל: חבילת AICore מבודדת מרוב החבילות האחרות, עם חריגים מוגבלים לחבילות מערכת ספציפיות. שינויים ברשימת ההיתרים הזו יכולים להתבצע רק במהלך עדכון מלא של Android OTA.
• גישה עקיפה לאינטרנט: ל-AICore אין גישה ישירה לאינטרנט. כל הבקשות באינטרנט, כולל הורדות של מודלים, מנותבות דרך קובץ ה-APK הנלווה של Private Compute Services בקוד פתוח. ממשקי API ב-Private Compute Services צריכים להדגים באופן מפורש את האופי שלהם שמתמקד בפרטיות.

בנוסף, AICore מתוכנן לבודד כל בקשה, ולא שומר רשומה של נתוני הקלט או של הפלט שמתקבל אחרי העיבוד שלהם, כדי להגן על פרטיות המשתמשים. מידע נוסף זמין בפוסט בבלוג מבוא לפרטיות ולאבטחה ב-Gemini Nano.

היתרונות של גישה למודלים בסיסיים של AI באמצעות AICore

‫AICore מאפשר למערכת ההפעלה Android לספק ולנהל מודלים בסיסיים של AI. כך אפשר להפחית משמעותית את העלות של השימוש במודלים הגדולים האלה באפליקציה, בעיקר בגלל הסיבות הבאות:

• קלות ההטמעה: AICore מנהל את ההפצה של Gemini Nano ומטפל בעדכונים עתידיים. לא צריך לדאוג לגבי הורדה או עדכון של מודלים גדולים ברשת, וגם לא לגבי השפעה על התקציב של הדיסק והזיכרון בזמן הריצה של האפליקציה.
• הסקת מסקנות מואצת: AICore משתמש בחומרה במכשיר כדי להאיץ את הסקת המסקנות. האפליקציה שלכם תפעל בצורה הכי טובה בכל מכשיר, ולא תצטרכו לדאוג לממשקי החומרה הבסיסיים.