תוצאות MLPerf Inference v3.0 מציגות מגמות מרכזיות בתעשייה בשיפור הביצועים

למידת מכונה ובינה מלאכותית היא תעשייה המשתנה במהירות עם חדשנות מתמדת בכל יום. זו הסיבה שהיכולת להשוות בין היכולות של מכשירים היא חשובה ומדוע חשוב גם שיהיה גוף או מספר גופים שיסייעו להנחות את הצמיחה של המגזר. עם MLPerf Inference v3.0, קבוצת MLCommons שואפת להכפיל את הפילוסופיה של מתן הוגן בדיקה קפדנית של יכולות למידת מכונה של מכשירים תוך מתן אימות וניתן לשחזור תוצאות. התוצאות נמצאות כעת ברשימה גדולה עוד יותר של ספקים משנים קודמות.

"הסקת מסקנות" בלמידת מכונה מתייחסת לתוצאה בפועל של תוצאות מאלגוריתם מאומן, כאשר המודל יכול לזהות את מה שהוא הוכשר לזהות. אנו רואים מסקנות בשימוש בכל מיני תחומי החיים, כולל מכוניות בנהיגה עצמית, הצעות חיפוש בגוגל ואפילו צ'אטבוטים של בינה מלאכותית כמו ChatGPT, Bing Chat או Google Bard. MLPerf v3.0 יכול לבדוק את המשימות הבאות:

יש יותר מ-5,300 תוצאות ביצועים ויותר מ-2,400 תוצאות מדידת הספק במסד הנתונים של התוצאות עבור MLPerf v3.0. במיוחד טרנדים שזוהו כוללים הרבה מערכות חומרה חדשות בשימוש עם ביצועים משופרים ברכיבי מרכז הנתונים של כ-30% בחלק אמות מידה. כמו כן, הרבה יותר שולחים נתנו תוצאות הקשורות ליעילות צריכת החשמל, והייתה עלייה פי שלושה בעניין בהסקת הרשת.

Nvidia, שהייתה עמוד התווך של הגשות MLPerf במשך מספר שנים, הגישה את התוצאות הראשונות עבור ה-DGX H100 שלה ואת ההגשה הראשונה שלה עבור L4 Tensor Core GPU שלה. ה-DGX H100 הציע עד 54% יותר ביצועים לכל מאיץ בהשוואה להגשות ה-H100 הראשונות שלו, וה-L4 נתן עד פי שלושה מהביצועים של הדור האחרון של ה-T4.

חברות אחרות שהגישו תוצאות כוללות את קוואלקום, שהחברה אומרת כי "כל המדדים מראים עלייה בביצועים וביעילות החשמל עבור NLP ומחשבים רשתות חזון." החברה גם פירטה כיצד מאז הגשתה הראשונה של MLPerf 1.0, Qualcomm Cloud AI 100 שופר בביצועים של עד 86% ו-52% בהספק יְעִילוּת. ספקים בולטים אחרים ששלחו תוצאות כוללים את Intel, HPE, Gigabyte, Asus ו-Dell.