การเพิ่มประสิทธิภาพ Android: ขอแนะนำ AutoFDO สำหรับเคอร์เนล

เราคือทีมเครื่องมือ LLVM ของ Android สิ่งสำคัญอันดับต้นๆ ประการหนึ่งของเราคือการปรับปรุงประสิทธิภาพของ Android ผ่านเทคนิคการเพิ่มประสิทธิภาพในระบบนิเวศ LLVM เราค้นหาวิธีที่จะทำให้ Android เร็วขึ้น ราบรื่นขึ้น และมีประสิทธิภาพมากขึ้นอยู่เสมอ แม้ว่างานเพิ่มประสิทธิภาพส่วนใหญ่ของเราจะเกิดขึ้นใน Userspace แต่เคอร์เนลยังคงเป็นหัวใจสำคัญของระบบ วันนี้ เรายินดีที่จะแชร์วิธีที่เรานำการเพิ่มประสิทธิภาพที่กำหนดโดยการป้อนข้อมูล (Feedback-Directed Optimization หรือ FDO) แบบอัตโนมัติ (AutoFDO) มาใช้กับเคอร์เนลของ Android เพื่อมอบประสิทธิภาพที่เพิ่มขึ้นอย่างมากแก่ผู้ใช้

AutoFDO คืออะไร

ในระหว่างการสร้างซอฟต์แวร์มาตรฐาน คอมไพเลอร์จะทำการตัดสินใจเล็กๆ น้อยๆ หลายพันครั้ง เช่น จะอินไลน์ฟังก์ชันหรือไม่ และมีแนวโน้มที่จะใช้สาขาใดของเงื่อนไข โดยอิงตามคำแนะนำโค้ดแบบคงที่ แม้ว่าฮิวริสติกเหล่านี้จะมีประโยชน์ แต่ก็ไม่ได้คาดการณ์การดำเนินการโค้ดได้อย่างแม่นยำเสมอไปในระหว่างการใช้งานโทรศัพท์จริง

AutoFDO เปลี่ยนสิ่งนี้โดยใช้รูปแบบการดำเนินการจริงเพื่อแนะนำคอมไพเลอร์ รูปแบบเหล่านี้แสดงถึงเส้นทางการดำเนินการคำสั่งที่พบบ่อยที่สุดที่โค้ดใช้ในระหว่างการใช้งานจริง ซึ่งบันทึกโดยการบันทึกประวัติการแยกสาขาของ CPU แม้ว่าเราจะรวบรวมข้อมูลนี้จากอุปกรณ์ในกลุ่มได้ แต่สำหรับเคอร์เนล เราจะสังเคราะห์ข้อมูลในสภาพแวดล้อมของห้องทดลองโดยใช้เวิร์กโหลดที่เป็นตัวแทน เช่น การเรียกใช้แอปยอดนิยม 100 อันดับแรก เราใช้โปรไฟล์เลอร์แบบสุ่มตัวอย่างเพื่อรวบรวมข้อมูลนี้ โดยระบุส่วนของโค้ดที่เป็น "ฮอต" (ใช้บ่อย) และส่วนที่เป็น "โคลด์"เมื่อเราสร้างเคอร์เนลใหม่ด้วยโปรไฟล์เหล่านี้ คอมไพเลอร์จะทำการตัดสินใจเพิ่มประสิทธิภาพที่ชาญฉลาดมากขึ้นซึ่งปรับให้เหมาะกับเวิร์กโหลดของ Android จริง

โปรดพิจารณาข้อเท็จจริงที่สำคัญต่อไปนี้เพื่อทำความเข้าใจผลกระทบของการเพิ่มประสิทธิภาพนี้

• ใน Android เคอร์เนลใช้เวลา CPU ประมาณ 40%
• เราใช้ AutoFDO เพื่อเพิ่มประสิทธิภาพไฟล์ปฏิบัติการและไลบรารีเนทีฟใน Userspace อยู่แล้ว ซึ่งช่วยให้การเปิดแอปแบบโคลด์เร็วขึ้นประมาณ 4% และลดเวลาในการบูตลง 1%

ประสิทธิภาพที่เพิ่มขึ้นในการใช้งานจริง

เราเห็นการปรับปรุงที่น่าประทับใจในเมตริกหลักของ Android โดยใช้ประโยชน์จากโปรไฟล์จากสภาพแวดล้อมของห้องทดลองที่มีการควบคุม เราได้รวบรวมโปรไฟล์เหล่านี้โดยใช้การ Crawl และการเปิดแอป และวัดผลในอุปกรณ์ Pixel ที่ใช้เคอร์เนลเวอร์ชัน 6.1, 6.6 และ 6.12

การปรับปรุงที่เห็นได้ชัดเจนที่สุดมีดังนี้ ดูรายละเอียดเกี่ยวกับโปรไฟล์ AutoFDO สำหรับเคอร์เนลเวอร์ชันเหล่านี้ได้ในที่เก็บเคอร์เนลของ Android ที่เกี่ยวข้องสำหรับเคอร์เนล android16-6.12 และ android15-6.6

ตัวเลขเหล่านี้ไม่ใช่แค่ตัวเลขทางทฤษฎี แต่หมายถึงอินเทอร์เฟซที่ตอบสนองได้ดีขึ้น การสลับแอปที่เร็วขึ้น แบตเตอรี่ใช้งานได้นานขึ้น และอุปกรณ์โดยรวมที่ตอบสนองได้ดีขึ้นสำหรับผู้ใช้ปลายทาง

วิธีการทำงาน: ไปป์ไลน์

กลยุทธ์การติดตั้งใช้งานของเราเกี่ยวข้องกับไปป์ไลน์ที่ซับซ้อนเพื่อให้โปรไฟล์มีความเกี่ยวข้องและประสิทธิภาพยังคงมีเสถียรภาพ

ขั้นตอนที่ 1: การรวบรวมโปรไฟล์

แม้ว่าเราจะใช้กลุ่มอุปกรณ์ทดสอบภายในเพื่อสร้างโปรไฟล์ไบนารี Userspace แต่เราได้เปลี่ยนไปใช้สภาพแวดล้อมของห้องทดลองที่มีการควบคุมสำหรับรูปภาพเคอร์เนลทั่วไป (GKI) การแยกการสร้างโปรไฟล์ออกจากวงจรการเปิดตัวอุปกรณ์ช่วยให้สามารถอัปเดตได้ทันทีอย่างยืดหยุ่นโดยไม่ขึ้นอยู่กับเคอร์เนลเวอร์ชันที่ติดตั้งใช้งาน ที่สำคัญคือ การทดสอบยืนยันว่าข้อมูลที่อิงตามห้องทดลองนี้ให้ประสิทธิภาพที่เพิ่มขึ้นเทียบเท่ากับข้อมูลจากกลุ่มอุปกรณ์จริง

• เครื่องมือและสภาพแวดล้อม: เราแฟลชอุปกรณ์ทดสอบด้วยรูปภาพเคอร์เนลล่าสุดและใช้ simpleperf เพื่อบันทึกสตรีมการดำเนินการคำสั่ง กระบวนการนี้อาศัยความสามารถของฮาร์ดแวร์ในการบันทึกประวัติการแยกสาขา โดยเฉพาะอย่างยิ่งการใช้ ARM Embedded Trace Extension (ETE) และARM Trace Buffer Extension (TRBE) ในอุปกรณ์ Pixel
• เวิร์กโหลด:  เราสร้างเวิร์กโหลดที่เป็นตัวแทนโดยใช้แอปยอดนิยม 100 อันดับแรกจากAndroid App Compatibility Test Suite (C-Suite) เรามุ่งเน้นที่สิ่งต่อไปนี้เพื่อรวบรวมข้อมูลที่แม่นยำที่สุด
  • การเปิดแอป: การเพิ่มประสิทธิภาพเพื่อลดความล่าช้าที่ผู้ใช้เห็นได้ชัดเจนที่สุด
  • การ Crawl แอปที่ขับเคลื่อนด้วย AI: การจำลองการโต้ตอบของผู้ใช้ที่ต่อเนื่องและมีการพัฒนา
  • การตรวจสอบทั้งระบบ: การบันทึกไม่เพียงแต่กิจกรรมของแอปที่ทำงานอยู่เบื้องหน้า แต่ยังรวมถึงภาระงานเบื้องหลังที่สำคัญและการสื่อสารระหว่างกระบวนการ
• การตรวจสอบ: เวิร์กโหลดที่สังเคราะห์นี้แสดงความคล้ายคลึง 85% กับรูปแบบการดำเนินการที่รวบรวมจากกลุ่มอุปกรณ์ภายในของเรา
• ข้อมูลที่กำหนดเป้าหมาย: การทำซ้ำการทดสอบเหล่านี้อย่างเพียงพอจะช่วยให้เรารวบรวมรูปแบบการดำเนินการที่มีความเที่ยงตรงสูงซึ่งแสดงถึงการโต้ตอบของผู้ใช้จริงกับแอปพลิเคชันยอดนิยมได้อย่างแม่นยำ นอกจากนี้ เฟรมเวิร์กที่ขยายได้นี้ยังช่วยให้เรารวมเวิร์กโหลดและเกณฑ์มาตรฐานเพิ่มเติมได้อย่างราบรื่นเพื่อขยายขอบเขตการครอบคลุม

ขั้นตอนที่ 2: การประมวลผลโปรไฟล์

เราประมวลผลข้อมูลการติดตามดิบหลังการประมวลผลเพื่อให้แน่ใจว่าข้อมูลสะอาด มีประสิทธิภาพ และพร้อมสำหรับคอมไพเลอร์

• การรวบรวม: เรารวมข้อมูลจากการทดสอบหลายครั้งและอุปกรณ์หลายเครื่องไว้ในมุมมองระบบเดียว
• การแปลง: เรา แปลงการติดตามดิบเป็นรูปแบบโปรไฟล์ AutoFDO โดยกรองสัญลักษณ์ที่ไม่ต้องการออกตามความจำเป็น
• การตัดโปรไฟล์: เราตัดโปรไฟล์เพื่อนำข้อมูลสำหรับฟังก์ชัน "โคลด์" ออก เพื่อให้ฟังก์ชันเหล่านั้นใช้การเพิ่มประสิทธิภาพมาตรฐานได้ ซึ่งจะป้องกันการถดถอยของประสิทธิภาพในโค้ดที่ใช้ไม่บ่อยและหลีกเลี่ยงการเพิ่มขนาดไบนารีโดยไม่จำเป็น

ขั้นตอนที่ 3: การทดสอบโปรไฟล์

ก่อนการติดตั้งใช้งาน โปรไฟล์จะผ่านการตรวจสอบอย่างเข้มงวดเพื่อให้แน่ใจว่าโปรไฟล์จะให้ประสิทธิภาพที่เพิ่มขึ้นอย่างสม่ำเสมอโดยไม่มีความเสี่ยงด้านความเสถียร

• การวิเคราะห์โปรไฟล์และไบนารี: เราเปรียบเทียบเนื้อหาของโปรไฟล์ใหม่ (รวมถึงฟังก์ชันฮอต จำนวนตัวอย่าง และขนาดโปรไฟล์) กับเวอร์ชันก่อนหน้าอย่างเข้มงวด นอกจากนี้ เรายังใช้โปรไฟล์เพื่อสร้างรูปภาพเคอร์เนลใหม่ โดยวิเคราะห์ไบนารีเพื่อให้แน่ใจว่าการเปลี่ยนแปลงในส่วนข้อความสอดคล้องกับที่คาดไว้
• การตรวจสอบประสิทธิภาพ: เราเรียกใช้เกณฑ์มาตรฐานที่กำหนดเป้าหมายในรูปภาพเคอร์เนลใหม่ ซึ่งยืนยันว่ารูปภาพเคอร์เนลใหม่ยังคงรักษาการปรับปรุงประสิทธิภาพที่กำหนดโดยเกณฑ์พื้นฐานก่อนหน้า

การอัปเดตอย่างต่อเนื่อง

โค้ดจะ "เลื่อน" ไปตามกาลเวลาโดยธรรมชาติ ดังนั้นโปรไฟล์แบบคงที่จะสูญเสียประสิทธิภาพในที่สุด เราเรียกใช้ไปป์ไลน์อย่างต่อเนื่องเพื่อขับเคลื่อนการอัปเดตเป็นประจำเพื่อให้ประสิทธิภาพสูงสุด

• การรีเฟรชเป็นประจำ: เราจะรีเฟรชโปรไฟล์ในสาขา LTS ของเคอร์เนล Android ก่อนการเปิดตัว GKI แต่ละครั้ง เพื่อให้แน่ใจว่าทุกบิลด์มีข้อมูลโปรไฟล์ล่าสุด
• การขยายในอนาคต: ปัจจุบันเรากำลังส่งการอัปเดตเหล่านี้ไปยังสาขา android16-6.12 และ android15-6.6 และจะขยายการสนับสนุนไปยัง GKI เวอร์ชันใหม่กว่า เช่น android17-6.18 ที่กำลังจะมาถึง

การรับประกันความเสถียร

คำถามที่พบบ่อยเกี่ยวกับการเพิ่มประสิทธิภาพที่กำหนดโดยโปรไฟล์คือการเพิ่มประสิทธิภาพดังกล่าวจะทำให้เกิดความเสี่ยงด้านความเสถียรหรือไม่ เนื่องจาก AutoFDO ส่งผลต่อฮิวริสติกของคอมไพเลอร์เป็นหลัก เช่น การอินไลน์ฟังก์ชันและเลย์เอาต์โค้ด แทนที่จะเปลี่ยนแปลงตรรกะของซอร์สโค้ด จึงรักษาความสมบูรณ์ของฟังก์ชันการทำงานของเคอร์เนลไว้ เทคโนโลยีนี้ได้รับการพิสูจน์แล้วว่าสามารถปรับขนาดได้ โดยทำหน้าที่เป็นการเพิ่มประสิทธิภาพมาตรฐานสำหรับไลบรารีแพลตฟอร์ม Android, ChromeOS และโครงสร้างพื้นฐานเซิร์ฟเวอร์ของ Google เองมาหลายปี

เราใช้กลยุทธ์ "อนุรักษนิยมโดยค่าเริ่มต้น" เพื่อรับประกันลักษณะการทำงานที่สอดคล้องกันมากยิ่งขึ้น ฟังก์ชันที่ไม่ได้บันทึกไว้ในโปรไฟล์ที่มีความเที่ยงตรงสูงจะได้รับการเพิ่มประสิทธิภาพโดยใช้วิธีการคอมไพเลอร์มาตรฐาน ซึ่งจะช่วยให้ส่วน "โคลด์" หรือส่วนที่ดำเนินการไม่บ่อยของเคอร์เนลทำงานเหมือนกับในบิลด์มาตรฐานทุกประการ ซึ่งจะป้องกันการถดถอยของประสิทธิภาพหรือลักษณะการทำงานที่ไม่คาดคิดในกรณีที่พบได้ยาก

ในอนาคต

ปัจจุบันเรากำลังติดตั้งใช้งาน AutoFDO ในสาขา android16-6.12 และ android15-6.6 นอกเหนือจากการเปิดตัวครั้งแรกนี้ เราเห็นโอกาสที่สดใสหลายอย่างในการปรับปรุงเทคโนโลยีให้ดียิ่งขึ้น

• การเข้าถึงที่ขยายออกไป: เราหวังว่าจะได้ติดตั้งใช้งานโปรไฟล์ AutoFDO กับเคอร์เนล GKI เวอร์ชันใหม่กว่าและเป้าหมายการสร้างเพิ่มเติม นอกเหนือจากการรองรับ aarch64 ในปัจจุบัน
• การเพิ่มประสิทธิภาพโมดูล GKI: ปัจจุบันการเพิ่มประสิทธิภาพของเรามุ่งเน้นไปที่ไบนารีเคอร์เนลหลัก (vmlinux) การขยาย AutoFDO ไปยังโมดูล GKI อาจทำให้ส่วนย่อยของระบบเคอร์เนลได้รับประโยชน์ด้านประสิทธิภาพมากขึ้น
• การรองรับโมดูลของผู้ให้บริการ: เรายังสนใจที่จะรองรับ AutoFDO สำหรับโมดูลของผู้ให้บริการที่สร้างขึ้นโดยใช้ Driver Development Kit (DDK) เนื่องจากระบบบิลด์ (Kleaf) และเครื่องมือสร้างโปรไฟล์ (simpleperf) ของเรารองรับอยู่แล้ว ผู้ให้บริการจึงสามารถใช้เทคนิคการเพิ่มประสิทธิภาพเดียวกันนี้กับไดรเวอร์ฮาร์ดแวร์เฉพาะของตนได้
• การครอบคลุมโปรไฟล์ที่กว้างขึ้น: มีศักยภาพในการรวบรวมโปรไฟล์จากเส้นทางของผู้ใช้ที่สำคัญ (CUJ) ที่หลากหลายมากขึ้นเพื่อเพิ่มประสิทธิภาพ

การนำ AutoFDO มาใช้กับเคอร์เนลของ Android จะช่วยให้มั่นใจได้ว่ารากฐานของระบบปฏิบัติการได้รับการเพิ่มประสิทธิภาพให้เหมาะกับวิธีที่คุณใช้อุปกรณ์ทุกวัน