جمینی نانو به شما امکان میدهد بدون نیاز به اتصال به شبکه یا ارسال داده به فضای ابری، تجربیات غنی هوش مصنوعی تولیدی را ارائه دهید. هوش مصنوعی روی دستگاه، یک راهحل عالی برای مواردی است که هزینه کم و حفاظت از حریم خصوصی دغدغههای اصلی شما هستند.
برای موارد استفاده روی دستگاه، میتوانید از مدل پایه گوگل Gemini Nano بهره ببرید. Gemini Nano در سرویس سیستم AICore اندروید اجرا میشود که از سختافزار دستگاه برای کاهش تأخیر استنتاج و بهروزرسانی مدل استفاده میکند.
رابطهای برنامهنویسی کاربردی GenAI کیت ML
رابطهای برنامهنویسی کاربردی GenAI کیت ML، قدرت Gemini Nano را برای کمک به برنامههای شما در انجام وظایفشان مهار میکنند. این رابطهای برنامهنویسی کاربردی، کیفیتی آماده برای موارد استفاده رایج را از طریق یک رابط سطح بالا فراهم میکنند. رابطهای برنامهنویسی کاربردی GenAI کیت ML بر پایه AICore ساخته شدهاند، یک سرویس سیستم اندروید که اجرای مدلهای پایه GenAI را روی دستگاه امکانپذیر میکند تا ویژگیهایی مانند عملکرد پیشرفته برنامه و بهبود حریم خصوصی کاربر را با پردازش دادهها به صورت محلی تسهیل کند. اطلاعات بیشتر .
ویژگیهای کلیدی
رابطهای برنامهنویسی کاربردی (API) ML Kit GenAI از ویژگیهای زیر پشتیبانی میکنند:
- اعلان : تولید محتوای متنی بر اساس یک اعلان متنی سفارشی یا چندوجهی.
- خلاصهسازی : مقالات یا مکالمات را به صورت فهرستی خلاصه کنید.
- تصحیح : پیامهای کوتاه چت را تصحیح کنید.
- بازنویسی : پیامهای کوتاه چت را با لحنها یا سبکهای مختلف بازنویسی کنید.
- توضیحات تصویر : یک توضیح کوتاه برای تصویر داده شده ایجاد کنید.
- تشخیص گفتار : تبدیل صدای گفتاری به متن.
معماری از طریق AICore
به عنوان یک ماژول سطح سیستم، شما از طریق مجموعهای از APIها به AICore دسترسی پیدا میکنید تا بتوانید استنتاج را روی دستگاه اجرا کنید. علاوه بر این، AICore دارای چندین ویژگی ایمنی داخلی است که ارزیابی کاملی را در برابر فیلترهای ایمنی ما تضمین میکند. نمودار زیر نحوه دسترسی یک برنامه به AICore برای اجرای Gemini Nano روی دستگاه را شرح میدهد.
دادههای کاربر را خصوصی و ایمن نگه دارید
هوش مصنوعی مولد روی دستگاه، دستورات را به صورت محلی اجرا میکند و فراخوانیهای سرور را حذف میکند. اگرچه این امر تأخیر شبکه را حذف میکند، اما سرعت استنتاج به سختافزار دستگاه بستگی دارد. این رویکرد با نگه داشتن دادههای حساس روی دستگاه، حریم خصوصی را افزایش میدهد، عملکرد آفلاین را فعال میکند و هزینههای استنتاج را کاهش میدهد.
AICore به اصول هسته محاسبات خصوصی پایبند است و ویژگیهای کلیدی زیر را دارد:
- اتصال بسته محدود : AICore از اکثر بستههای دیگر جدا شده است، به جز استثنائات محدودی برای بستههای سیستمی خاص. هرگونه تغییر در این لیست مجاز فقط میتواند در طول بهروزرسانی کامل OTA اندروید رخ دهد.
- دسترسی غیرمستقیم به اینترنت : AICore دسترسی مستقیم به اینترنت ندارد. تمام درخواستهای اینترنتی، از جمله دانلود مدلها، از طریق APK همراه متنباز Private Compute Services هدایت میشوند. APIهای درون Private Compute Services باید صریحاً ماهیت حریم خصوصی محور خود را نشان دهند.
علاوه بر این، AICore طوری ساخته شده است که هر درخواست را ایزوله کند و پس از پردازش، هیچ سابقهای از دادههای ورودی یا خروجیهای حاصل را ذخیره نمیکند تا از حریم خصوصی کاربر محافظت شود. برای کسب اطلاعات بیشتر، پست وبلاگ «مقدمهای بر حریم خصوصی و ایمنی برای Gemini Nano» را مطالعه کنید.
مزایای دسترسی به مدلهای پایه هوش مصنوعی با AICore
AICore سیستم عامل اندروید را قادر میسازد تا مدلهای پایه هوش مصنوعی را ارائه و مدیریت کند. این امر به طور قابل توجهی هزینه استفاده از این مدلهای بزرگ را در برنامه شما کاهش میدهد، که عمدتاً به دلایل زیر است:
- سهولت استقرار : AICore توزیع Gemini Nano را مدیریت میکند و بهروزرسانیهای آینده را مدیریت میکند. نیازی نیست نگران دانلود یا بهروزرسانی مدلهای بزرگ از طریق شبکه باشید و همچنین نگران تأثیر بر دیسک و بودجه حافظه زمان اجرای برنامه خود باشید.
- استنتاج شتابیافته : AICore از سختافزار روی دستگاه برای تسریع استنتاج استفاده میکند. برنامه شما بهترین عملکرد را در هر دستگاه دریافت میکند و نیازی نیست نگران رابطهای سختافزاری زیربنایی باشید.