วิธีที่การเพิ่มประสิทธิภาพพรอมต์อัตโนมัติช่วยเพิ่มคุณภาพให้กับ GenAI Prompt API ของ ML Kit
ใช้เวลาอ่าน 3 นาที
การเพิ่มประสิทธิภาพพรอมต์อัตโนมัติ (APO)
เรายินดีที่จะประกาศเปิดตัวการเพิ่มประสิทธิภาพพรอมต์อัตโนมัติ (APO) ที่กำหนดเป้าหมายเป็นโมเดลในอุปกรณ์บน Vertex AI เพื่อช่วยให้คุณนำ Use Case ของ ML Kit Prompt API ไปใช้งานจริงได้มากขึ้น การเพิ่มประสิทธิภาพพรอมต์อัตโนมัติเป็นเครื่องมือที่ช่วยให้คุณค้นหาพรอมต์ที่เหมาะสมที่สุดสำหรับกรณีการใช้งานของคุณโดยอัตโนมัติ
ยุคของ AI ในอุปกรณ์ไม่ใช่เรื่องของอนาคตอีกต่อไป แต่เป็นสิ่งที่เกิดขึ้นจริงแล้วในปัจจุบัน การเปิดตัว Gemini Nano v3 ทำให้เราสามารถมอบความสามารถด้านการทำความเข้าใจภาษาและความสามารถหลายรูปแบบที่ไม่เคยมีมาก่อนให้แก่ผู้ใช้โดยตรง โมเดลตระกูล Gemini Nano ช่วยให้เราครอบคลุมอุปกรณ์ที่รองรับในระบบนิเวศของ Android ได้อย่างกว้างขวาง แต่นักพัฒนาแอปที่สร้างแอปอัจฉริยะรุ่นถัดไป การเข้าถึงโมเดลที่มีประสิทธิภาพเป็นเพียงขั้นตอนแรกเท่านั้น ความท้าทายที่แท้จริงอยู่ที่การปรับแต่ง: คุณจะปรับแต่งโมเดลพื้นฐานให้มีประสิทธิภาพระดับผู้เชี่ยวชาญสำหรับ Use Case ที่เฉพาะเจาะจงได้อย่างไรโดยไม่ละเมิดข้อจำกัดของฮาร์ดแวร์อุปกรณ์เคลื่อนที่
ในฝั่งเซิร์ฟเวอร์ LLM ขนาดใหญ่มักจะมีความสามารถสูงและต้องการการปรับโดเมนน้อยกว่า แม้ในกรณีที่จำเป็น ตัวเลือกขั้นสูงอย่างการปรับแต่ง LoRA (Low-Rank Adaptation) ก็อาจเป็นตัวเลือกที่เหมาะสม อย่างไรก็ตาม สถาปัตยกรรมที่เป็นเอกลักษณ์ของ Android AICore จะให้ความสำคัญกับโมเดลระบบที่ใช้ร่วมกันและประหยัดหน่วยความจำ ซึ่งหมายความว่าการติดตั้งใช้งานอะแดปเตอร์ LoRA ที่กำหนดเองสำหรับแต่ละแอปจะมาพร้อมกับความท้าทายในบริการระบบที่ใช้ร่วมกันเหล่านี้
แต่ยังมีอีกเส้นทางหนึ่งที่สร้างผลลัพธ์ได้ไม่แพ้กัน การใช้ประโยชน์จากการเพิ่มประสิทธิภาพพรอมต์อัตโนมัติ (APO) ใน Vertex AI ช่วยให้นักพัฒนาแอปได้คุณภาพที่ใกล้เคียงกับการปรับแต่งอย่างละเอียด ทั้งหมดนี้ทำได้ขณะทำงานอย่างราบรื่นภายในสภาพแวดล้อมการดำเนินการของ Android แบบเนทีฟ APO มุ่งเน้นที่คำสั่งของระบบที่เหนือกว่า จึงช่วยให้นักพัฒนาซอฟต์แวร์ปรับแต่งลักษณะการทำงานของโมเดลได้ด้วยความเสถียรและความสามารถในการปรับขนาดที่มากกว่าโซลูชันการปรับแต่งแบบดั้งเดิม
หมายเหตุ: Gemini Nano V3 เป็นเวอร์ชันที่เพิ่มประสิทธิภาพด้านคุณภาพของโมเดล Gemma 3N ที่ได้รับการยกย่องอย่างสูง การเพิ่มประสิทธิภาพพรอมต์ที่ทำในโมเดล Gemma 3N แบบโอเพนซอร์สจะมีผลกับ Gemini Nano V3 ด้วย ในอุปกรณ์ที่รองรับ GenAI API ของ ML Kit จะใช้ประโยชน์จากโมเดล nano-v3 เพื่อเพิ่มคุณภาพสูงสุดสำหรับนักพัฒนาแอป Android
APO จะไม่ถือว่าพรอมต์เป็นข้อความคงที่ แต่เป็นพื้นผิวที่ตั้งโปรแกรมได้ซึ่งสามารถเพิ่มประสิทธิภาพได้ โดยใช้โมเดลฝั่งเซิร์ฟเวอร์ (เช่น Gemini Pro และ Flash) เพื่อเสนอพรอมต์ ประเมินรูปแบบต่างๆ และค้นหาพรอมต์ที่เหมาะสมที่สุดสำหรับงานที่เฉพาะเจาะจงของคุณ กระบวนการนี้ใช้กลไกทางเทคนิคที่เฉพาะเจาะจง 3 อย่างเพื่อเพิ่มประสิทธิภาพสูงสุด ดังนี้
- การวิเคราะห์ข้อผิดพลาดอัตโนมัติ: APO จะวิเคราะห์รูปแบบข้อผิดพลาดจากข้อมูลฝึกฝนเพื่อระบุจุดอ่อนที่เฉพาะเจาะจงในพรอมต์เริ่มต้นโดยอัตโนมัติ
- Semantic Instruction Distillation: วิเคราะห์ตัวอย่างการฝึกจำนวนมหาศาลเพื่อกลั่นกรอง "เจตนาที่แท้จริง" ของงาน โดยสร้างคำสั่งที่สะท้อนการกระจายข้อมูลจริงได้แม่นยำยิ่งขึ้น
- การทดสอบพรอมต์ที่เป็นไปได้แบบคู่ขนาน: แทนที่จะทดสอบแนวคิดทีละรายการ APO จะสร้างและทดสอบพรอมต์ที่เป็นไปได้จำนวนมากพร้อมกันเพื่อระบุคุณภาพสูงสุดโดยรวม
เหตุใด APO จึงสามารถเข้าถึงคุณภาพการปรับแต่งอย่างละเอียดได้
ความเข้าใจผิดที่พบบ่อยคือการปรับแต่งจะให้คุณภาพที่ดีกว่าการใช้พรอมต์เสมอ สำหรับโมเดลพื้นฐานสมัยใหม่อย่าง Gemini Nano v3 วิศวกรรมพรอมต์ (Prompt Engineering) อาจมีประสิทธิภาพในตัวเอง ดังนี้
- การรักษาความสามารถทั่วไป: การปรับแต่ง ( PEFT/LoRA) จะบังคับให้น้ำหนักของโมเดลจัดทำดัชนีมากเกินไปในการกระจายข้อมูลที่เฉพาะเจาะจง ซึ่งมักจะนำไปสู่ "การลืมแบบหายนะ" โดยที่โมเดลจะเก่งขึ้นในไวยากรณ์เฉพาะของคุณ แต่แย่ลงในด้านตรรกะและความปลอดภัยทั่วไป APO จะไม่แตะต้องน้ำหนัก เพื่อรักษาความสามารถของโมเดลพื้นฐานไว้
- การทำตามคำสั่งและการค้นพบกลยุทธ์: Gemini Nano v3 ได้รับการฝึกอย่างเข้มงวดให้ทำตามคำสั่งระบบที่ซับซ้อน APO ใช้ประโยชน์จากจุดนี้โดยการค้นหาโครงสร้างคำสั่งที่แน่นอนซึ่งจะปลดล็อกความสามารถที่ซ่อนอยู่ของโมเดล ซึ่งมักจะค้นพบกลยุทธ์ที่วิศวกรที่เป็นมนุษย์อาจค้นหาได้ยาก
เราได้ประเมิน APO ในภาระงานด้านการผลิตที่หลากหลายเพื่อตรวจสอบแนวทางนี้ การตรวจสอบของเราแสดงให้เห็นว่าความแม่นยำเพิ่มขึ้น 5-8% อย่างสม่ำเสมอใน Use Case ต่างๆ APO ช่วยปรับปรุงคุณภาพได้อย่างมากในฟีเจอร์ในอุปกรณ์หลายรายการที่ติดตั้งใช้งาน
| กรณีการใช้งาน | ประเภทงาน | คำอธิบายงาน | เมตริก | การปรับปรุง APO |
| การแยกประเภทหัวข้อ | การจัดประเภทข้อความ | จัดประเภทบทความข่าวเป็นหัวข้อต่างๆ เช่น การเงิน กีฬา ฯลฯ | ความแม่นยำ | +5% |
| การแยกประเภทความตั้งใจ | การจัดประเภทข้อความ | จัดประเภทคำค้นหาของฝ่ายบริการลูกค้าเป็นความตั้งใจ | ความแม่นยำ | +8.0% |
| การแปลหน้าเว็บ | การแปลข้อความ | แปลหน้าเว็บจากภาษาอังกฤษเป็นภาษาท้องถิ่น | BLEU | +8.57% |
เวิร์กโฟลว์ของนักพัฒนาแอปที่ราบรื่นตั้งแต่ต้นจนจบ
ความเข้าใจผิดที่พบบ่อยคือการปรับแต่งจะให้คุณภาพที่ดีกว่าการใช้พรอมต์เสมอ สำหรับโมเดลพื้นฐานสมัยใหม่อย่าง Gemini Nano v3 วิศวกรรมพรอมต์ (Prompt Engineering) อาจมีประสิทธิภาพในตัวเอง ดังนี้
- การรักษาความสามารถทั่วไป: การปรับแต่ง ( PEFT/LoRA) จะบังคับให้น้ำหนักของโมเดลจัดทำดัชนีมากเกินไปในการกระจายข้อมูลที่เฉพาะเจาะจง ซึ่งมักจะนำไปสู่ "การลืมแบบหายนะ" โดยที่โมเดลจะเก่งขึ้นในไวยากรณ์เฉพาะของคุณ แต่แย่ลงในด้านตรรกะและความปลอดภัยทั่วไป APO จะไม่แตะต้องน้ำหนัก เพื่อรักษาความสามารถของโมเดลพื้นฐานไว้
- การทำตามคำสั่งและการค้นพบกลยุทธ์: Gemini Nano v3 ได้รับการฝึกอย่างเข้มงวดให้ทำตามคำสั่งระบบที่ซับซ้อน APO ใช้ประโยชน์จากจุดนี้โดยการค้นหาโครงสร้างคำสั่งที่แน่นอนซึ่งจะปลดล็อกความสามารถที่ซ่อนอยู่ของโมเดล ซึ่งมักจะค้นพบกลยุทธ์ที่วิศวกรที่เป็นมนุษย์อาจค้นหาได้ยาก
เราได้ประเมิน APO ในภาระงานด้านการผลิตที่หลากหลายเพื่อตรวจสอบแนวทางนี้ การตรวจสอบของเราแสดงให้เห็นว่าความแม่นยำเพิ่มขึ้น 5-8% อย่างสม่ำเสมอใน Use Case ต่างๆ APO ช่วยปรับปรุงคุณภาพได้อย่างมากในฟีเจอร์ในอุปกรณ์หลายรายการที่ติดตั้งใช้งาน
บทสรุป
การเปิดตัวการเพิ่มประสิทธิภาพพรอมต์อัตโนมัติ (APO) ถือเป็นจุดเปลี่ยนสำหรับ Generative AI ในอุปกรณ์ การเชื่อมช่องว่างระหว่างโมเดลพื้นฐานและประสิทธิภาพระดับผู้เชี่ยวชาญช่วยให้เรามอบเครื่องมือที่จำเป็นแก่นักพัฒนาแอปเพื่อสร้างแอปพลิเคชันบนมือถือที่มีประสิทธิภาพมากขึ้น ไม่ว่าคุณจะเพิ่งเริ่มต้นด้วยการเพิ่มประสิทธิภาพแบบ Zero-Shot หรือปรับขนาดเป็นเวอร์ชันที่ใช้งานจริงด้วยการปรับแต่งที่อิงตามข้อมูล เส้นทางสู่ระบบอัจฉริยะในอุปกรณ์คุณภาพสูงก็ชัดเจนยิ่งขึ้นแล้ว เปิดตัว Use Case ในอุปกรณ์เพื่อใช้งานจริงวันนี้ด้วย Prompt API ของ ML Kit และการเพิ่มประสิทธิภาพพรอมต์อัตโนมัติของ Vertex AI
ลิงก์ที่เกี่ยวข้อง
-
ข่าวสารเกี่ยวกับผลิตภัณฑ์Google มุ่งมั่นที่จะนำโมเดล AI ที่มากความสามารถที่สุดมาสู่อุปกรณ์ Android ในกระเป๋าของคุณโดยตรง วันนี้เรายินดีที่จะประกาศเปิดตัว Gemma 4 ซึ่งเป็นโมเดลแบบเปิดที่ล้ำสมัยล่าสุดของเรา
Caren Chang, David Chou • ใช้เวลาอ่าน 3 นาที -
ข่าวสารเกี่ยวกับผลิตภัณฑ์AI ช่วยให้การสร้างประสบการณ์การใช้งานแอปที่ปรับเปลี่ยนในแบบของคุณเป็นเรื่องง่ายขึ้น ซึ่งจะเปลี่ยนเนื้อหาให้อยู่ในรูปแบบที่เหมาะสมสำหรับผู้ใช้ ก่อนหน้านี้เราได้เปิดโอกาสให้นักพัฒนาแอปผสานรวมกับ Gemini Nano ผ่าน GenAI API ของ ML Kit ที่ปรับแต่งมาเพื่อกรณีการใช้งานที่เฉพาะเจาะจง เช่น การสรุปและคำอธิบายรูปภาพ
Caren Chang, Chengji Yan, Penny Li • ใช้เวลาอ่าน 2 นาที -
ข่าวสารเกี่ยวกับผลิตภัณฑ์ดูวิธีที่เครื่องมือขยายช่องทางของ Google Play ใน Play Console ช่วยเพิ่มการเข้าถึงผู้ซื้อใน Store, เว็บ และแพลตฟอร์มภายนอก พร้อมทั้งปกป้องมาร์จิน
Phalene Gowling, Rejane França • ใช้เวลาอ่าน 4 นาที
รับข้อมูลเชิงลึกล่าสุดเกี่ยวกับการพัฒนา Android ที่ส่งไปยังกล่องจดหมายของคุณทุกสัปดาห์