ข่าวสารเกี่ยวกับผลิตภัณฑ์

วิธีที่การเพิ่มประสิทธิภาพพรอมต์อัตโนมัติช่วยเพิ่มคุณภาพให้กับ GenAI Prompt API ของ ML Kit

ใช้เวลาอ่าน 3 นาที
4 ผู้เขียน
Chetan Tekur, Chao Zhao, Paul Zhou, Caren Chang

การเพิ่มประสิทธิภาพพรอมต์อัตโนมัติ (APO)

เรายินดีที่จะประกาศเปิดตัวการเพิ่มประสิทธิภาพพรอมต์อัตโนมัติ (APO) ที่กำหนดเป้าหมายเป็นโมเดลในอุปกรณ์บน Vertex AI เพื่อช่วยให้คุณนำ Use Case ของ ML Kit Prompt API ไปใช้งานจริงได้มากขึ้น การเพิ่มประสิทธิภาพพรอมต์อัตโนมัติเป็นเครื่องมือที่ช่วยให้คุณค้นหาพรอมต์ที่เหมาะสมที่สุดสำหรับกรณีการใช้งานของคุณโดยอัตโนมัติ

ยุคของ AI ในอุปกรณ์ไม่ใช่เรื่องของอนาคตอีกต่อไป แต่เป็นสิ่งที่เกิดขึ้นจริงแล้วในปัจจุบัน การเปิดตัว Gemini Nano v3 ทำให้เราสามารถมอบความสามารถด้านการทำความเข้าใจภาษาและความสามารถหลายรูปแบบที่ไม่เคยมีมาก่อนให้แก่ผู้ใช้โดยตรง โมเดลตระกูล Gemini Nano ช่วยให้เราครอบคลุมอุปกรณ์ที่รองรับในระบบนิเวศของ Android ได้อย่างกว้างขวาง แต่นักพัฒนาแอปที่สร้างแอปอัจฉริยะรุ่นถัดไป การเข้าถึงโมเดลที่มีประสิทธิภาพเป็นเพียงขั้นตอนแรกเท่านั้น ความท้าทายที่แท้จริงอยู่ที่การปรับแต่ง: คุณจะปรับแต่งโมเดลพื้นฐานให้มีประสิทธิภาพระดับผู้เชี่ยวชาญสำหรับ Use Case ที่เฉพาะเจาะจงได้อย่างไรโดยไม่ละเมิดข้อจำกัดของฮาร์ดแวร์อุปกรณ์เคลื่อนที่

ในฝั่งเซิร์ฟเวอร์ LLM ขนาดใหญ่มักจะมีความสามารถสูงและต้องการการปรับโดเมนน้อยกว่า แม้ในกรณีที่จำเป็น ตัวเลือกขั้นสูงอย่างการปรับแต่ง LoRA (Low-Rank Adaptation) ก็อาจเป็นตัวเลือกที่เหมาะสม อย่างไรก็ตาม สถาปัตยกรรมที่เป็นเอกลักษณ์ของ Android AICore จะให้ความสำคัญกับโมเดลระบบที่ใช้ร่วมกันและประหยัดหน่วยความจำ ซึ่งหมายความว่าการติดตั้งใช้งานอะแดปเตอร์ LoRA ที่กำหนดเองสำหรับแต่ละแอปจะมาพร้อมกับความท้าทายในบริการระบบที่ใช้ร่วมกันเหล่านี้

แต่ยังมีอีกเส้นทางหนึ่งที่สร้างผลลัพธ์ได้ไม่แพ้กัน การใช้ประโยชน์จากการเพิ่มประสิทธิภาพพรอมต์อัตโนมัติ (APO) ใน Vertex AI ช่วยให้นักพัฒนาแอปได้คุณภาพที่ใกล้เคียงกับการปรับแต่งอย่างละเอียด ทั้งหมดนี้ทำได้ขณะทำงานอย่างราบรื่นภายในสภาพแวดล้อมการดำเนินการของ Android แบบเนทีฟ APO มุ่งเน้นที่คำสั่งของระบบที่เหนือกว่า จึงช่วยให้นักพัฒนาซอฟต์แวร์ปรับแต่งลักษณะการทำงานของโมเดลได้ด้วยความเสถียรและความสามารถในการปรับขนาดที่มากกว่าโซลูชันการปรับแต่งแบบดั้งเดิม

หมายเหตุ: Gemini Nano V3 เป็นเวอร์ชันที่เพิ่มประสิทธิภาพด้านคุณภาพของโมเดล Gemma 3N ที่ได้รับการยกย่องอย่างสูง การเพิ่มประสิทธิภาพพรอมต์ที่ทำในโมเดล Gemma 3N แบบโอเพนซอร์สจะมีผลกับ Gemini Nano V3 ด้วย ในอุปกรณ์ที่รองรับ GenAI API ของ ML Kit จะใช้ประโยชน์จากโมเดล nano-v3 เพื่อเพิ่มคุณภาพสูงสุดสำหรับนักพัฒนาแอป Android

APO block diagram.jpg

APO จะไม่ถือว่าพรอมต์เป็นข้อความคงที่ แต่เป็นพื้นผิวที่ตั้งโปรแกรมได้ซึ่งสามารถเพิ่มประสิทธิภาพได้ โดยใช้โมเดลฝั่งเซิร์ฟเวอร์ (เช่น Gemini Pro และ Flash) เพื่อเสนอพรอมต์ ประเมินรูปแบบต่างๆ และค้นหาพรอมต์ที่เหมาะสมที่สุดสำหรับงานที่เฉพาะเจาะจงของคุณ กระบวนการนี้ใช้กลไกทางเทคนิคที่เฉพาะเจาะจง 3 อย่างเพื่อเพิ่มประสิทธิภาพสูงสุด ดังนี้

  1. การวิเคราะห์ข้อผิดพลาดอัตโนมัติ: APO จะวิเคราะห์รูปแบบข้อผิดพลาดจากข้อมูลฝึกฝนเพื่อระบุจุดอ่อนที่เฉพาะเจาะจงในพรอมต์เริ่มต้นโดยอัตโนมัติ
  2. Semantic Instruction Distillation: วิเคราะห์ตัวอย่างการฝึกจำนวนมหาศาลเพื่อกลั่นกรอง "เจตนาที่แท้จริง" ของงาน โดยสร้างคำสั่งที่สะท้อนการกระจายข้อมูลจริงได้แม่นยำยิ่งขึ้น
  3. การทดสอบพรอมต์ที่เป็นไปได้แบบคู่ขนาน: แทนที่จะทดสอบแนวคิดทีละรายการ APO จะสร้างและทดสอบพรอมต์ที่เป็นไปได้จำนวนมากพร้อมกันเพื่อระบุคุณภาพสูงสุดโดยรวม

เหตุใด APO จึงสามารถเข้าถึงคุณภาพการปรับแต่งอย่างละเอียดได้

ความเข้าใจผิดที่พบบ่อยคือการปรับแต่งจะให้คุณภาพที่ดีกว่าการใช้พรอมต์เสมอ สำหรับโมเดลพื้นฐานสมัยใหม่อย่าง Gemini Nano v3 วิศวกรรมพรอมต์ (Prompt Engineering) อาจมีประสิทธิภาพในตัวเอง ดังนี้

  • การรักษาความสามารถทั่วไป: การปรับแต่ง ( PEFT/LoRA) จะบังคับให้น้ำหนักของโมเดลจัดทำดัชนีมากเกินไปในการกระจายข้อมูลที่เฉพาะเจาะจง ซึ่งมักจะนำไปสู่ "การลืมแบบหายนะ" โดยที่โมเดลจะเก่งขึ้นในไวยากรณ์เฉพาะของคุณ แต่แย่ลงในด้านตรรกะและความปลอดภัยทั่วไป APO จะไม่แตะต้องน้ำหนัก เพื่อรักษาความสามารถของโมเดลพื้นฐานไว้
  • การทำตามคำสั่งและการค้นพบกลยุทธ์: Gemini Nano v3 ได้รับการฝึกอย่างเข้มงวดให้ทำตามคำสั่งระบบที่ซับซ้อน APO ใช้ประโยชน์จากจุดนี้โดยการค้นหาโครงสร้างคำสั่งที่แน่นอนซึ่งจะปลดล็อกความสามารถที่ซ่อนอยู่ของโมเดล ซึ่งมักจะค้นพบกลยุทธ์ที่วิศวกรที่เป็นมนุษย์อาจค้นหาได้ยาก 

เราได้ประเมิน APO ในภาระงานด้านการผลิตที่หลากหลายเพื่อตรวจสอบแนวทางนี้ การตรวจสอบของเราแสดงให้เห็นว่าความแม่นยำเพิ่มขึ้น 5-8% อย่างสม่ำเสมอใน Use Case ต่างๆ APO ช่วยปรับปรุงคุณภาพได้อย่างมากในฟีเจอร์ในอุปกรณ์หลายรายการที่ติดตั้งใช้งาน

กรณีการใช้งานประเภทงานคำอธิบายงานเมตริกการปรับปรุง APO
การแยกประเภทหัวข้อการจัดประเภทข้อความจัดประเภทบทความข่าวเป็นหัวข้อต่างๆ เช่น การเงิน กีฬา ฯลฯความแม่นยำ+5%
การแยกประเภทความตั้งใจการจัดประเภทข้อความจัดประเภทคำค้นหาของฝ่ายบริการลูกค้าเป็นความตั้งใจความแม่นยำ+8.0%
การแปลหน้าเว็บการแปลข้อความแปลหน้าเว็บจากภาษาอังกฤษเป็นภาษาท้องถิ่นBLEU+8.57%

เวิร์กโฟลว์ของนักพัฒนาแอปที่ราบรื่นตั้งแต่ต้นจนจบ

ความเข้าใจผิดที่พบบ่อยคือการปรับแต่งจะให้คุณภาพที่ดีกว่าการใช้พรอมต์เสมอ สำหรับโมเดลพื้นฐานสมัยใหม่อย่าง Gemini Nano v3 วิศวกรรมพรอมต์ (Prompt Engineering) อาจมีประสิทธิภาพในตัวเอง ดังนี้

  • การรักษาความสามารถทั่วไป: การปรับแต่ง ( PEFT/LoRA) จะบังคับให้น้ำหนักของโมเดลจัดทำดัชนีมากเกินไปในการกระจายข้อมูลที่เฉพาะเจาะจง ซึ่งมักจะนำไปสู่ "การลืมแบบหายนะ" โดยที่โมเดลจะเก่งขึ้นในไวยากรณ์เฉพาะของคุณ แต่แย่ลงในด้านตรรกะและความปลอดภัยทั่วไป APO จะไม่แตะต้องน้ำหนัก เพื่อรักษาความสามารถของโมเดลพื้นฐานไว้
  • การทำตามคำสั่งและการค้นพบกลยุทธ์: Gemini Nano v3 ได้รับการฝึกอย่างเข้มงวดให้ทำตามคำสั่งระบบที่ซับซ้อน APO ใช้ประโยชน์จากจุดนี้โดยการค้นหาโครงสร้างคำสั่งที่แน่นอนซึ่งจะปลดล็อกความสามารถที่ซ่อนอยู่ของโมเดล ซึ่งมักจะค้นพบกลยุทธ์ที่วิศวกรที่เป็นมนุษย์อาจค้นหาได้ยาก 

เราได้ประเมิน APO ในภาระงานด้านการผลิตที่หลากหลายเพื่อตรวจสอบแนวทางนี้ การตรวจสอบของเราแสดงให้เห็นว่าความแม่นยำเพิ่มขึ้น 5-8% อย่างสม่ำเสมอใน Use Case ต่างๆ APO ช่วยปรับปรุงคุณภาพได้อย่างมากในฟีเจอร์ในอุปกรณ์หลายรายการที่ติดตั้งใช้งาน

บทสรุป

การเปิดตัวการเพิ่มประสิทธิภาพพรอมต์อัตโนมัติ (APO) ถือเป็นจุดเปลี่ยนสำหรับ Generative AI ในอุปกรณ์ การเชื่อมช่องว่างระหว่างโมเดลพื้นฐานและประสิทธิภาพระดับผู้เชี่ยวชาญช่วยให้เรามอบเครื่องมือที่จำเป็นแก่นักพัฒนาแอปเพื่อสร้างแอปพลิเคชันบนมือถือที่มีประสิทธิภาพมากขึ้น ไม่ว่าคุณจะเพิ่งเริ่มต้นด้วยการเพิ่มประสิทธิภาพแบบ Zero-Shot หรือปรับขนาดเป็นเวอร์ชันที่ใช้งานจริงด้วยการปรับแต่งที่อิงตามข้อมูล เส้นทางสู่ระบบอัจฉริยะในอุปกรณ์คุณภาพสูงก็ชัดเจนยิ่งขึ้นแล้ว เปิดตัว Use Case ในอุปกรณ์เพื่อใช้งานจริงวันนี้ด้วย Prompt API ของ ML Kit และการเพิ่มประสิทธิภาพพรอมต์อัตโนมัติของ Vertex AI 

ลิงก์ที่เกี่ยวข้อง 

เขียนโดย
อ่านต่อ