גוגל, מיקרוסופט ואחרות משיקים פורום חדש לקידום פיתוח בינה מלאכותית אחראית

טייק אווי מפתח

• גוגל, מיקרוסופט, OpenAI ואנתרופיק התאחדו כדי להתמודד עם האתגרים והסיכונים הפוטנציאליים שמציבים "מודלים של AI חזיתי" באמצעות יצירת פורום Frontier Model.
• מודלים של Frontier מתקדמים יותר מדגמי AI קיימים ויכולים לבצע מגוון רחב של משימות, מה שמעורר חששות לגבי התאמתם לערכים האנושיים ולאינטרס הציבורי.
• מטרות הליבה של הפורום כוללות פיתוח שיטות עבודה מומלצות, שיתוף מידע, קידום מחקר בטיחות בינה מלאכותית ושיתוף פעולה עם מחזיקי עניין כדי לבנות קונצנזוס בנושאי פיתוח בינה מלאכותית. חברות זמינות עבור ארגונים המחויבים לפיתוח בינה מלאכותית אחראית.

ההיסטוריה אומרת לנו שלחברות, אפילו כשהן מתחרות, יש אינטרס משותף להתמודד עם אתגרים, הן פועלות יחד כדי להתמודד איתם. ולגוגל, מיקרוסופט, OpenAI ואנתרופיק, הבעיות הנפוצות שמביאות אותן יחד הן האתגרים והסיכונים הפוטנציאליים של מה שחברות אלה מכנות "מודלים של AI חזיתי". בהצהרה משותפת, גוגל, מיקרוסופט, OpenAI ואנתרופיק הכריזו על "פורום דגמי חזית", גוף חדש בתעשייה לקידום מודלים בטוחים ואחראיים של AI.

צ'אטבוטים ושירותי בינה מלאכותית כמו ChatGPT, בינג צ'אט, ו מְשׁוֹרֵר מתמחים בביצוע משימות ספציפיות ולא צברו אינטליגנציה ברמת האדם. אבל ישנו חשש גובר שהוא עשוי לזכות בקרוב לשיקול דעת ותהיה בעל עוצמה מלאה לפעול נגד האינטרס הציבורי הגדול יותר. כמבואר במפרק הַצהָרָה, דגמי חזית הם דגמי למידת מכונה בקנה מידה גדול שהם הרבה יותר מתקדמים מהיכולות של דגמים קיימים ולכן, יכולים לבצע מגוון רחב של משימות. ובהתחשב בסיכונים הכרוכים בכך, הפורום רוצה להביא מנגנונים חזקים כדי להבטיח שהמודלים הללו מתאימים יותר לערכים האנושיים ופועלים למען שירות טובת האנשים.

מטרות הליבה של הפורום יהיו לזהות שיטות עבודה מומלצות לפיתוח ופריסה של AI מודלים, להקל על שיתוף מידע בין חברות וממשלות, ולקדם את בטיחות הבינה המלאכותית מחקר. חלק ממחקר הבטיחות של בינה מלאכותית יכלול בדיקה והשוואה של מודלים שונים של בינה מלאכותית ופרסום המדדים בספרייה ציבורית עבור כל שחקן מפתח בתעשייה כדי להבין את הסיכונים הפוטנציאליים ולפעול לביטול אוֹתָם.

פורום מודל Frontier יקים ועדה מייעצת המורכבת משחקנים מרקע ונקודות מבט שונות כדי לגבש אסטרטגיות וסדרי עדיפויות. נוסף על כך, חברות המייסדות יקימו גם הסדרים מוסדיים עבור כל בעלי העניין לשתף פעולה כדי לבנות קונצנזוס בנושאים הנוגעים לפיתוח בינה מלאכותית. הפורום גם ימנף את הידע והמשאבים הקיימים שכבר הוצגו על ידי קבוצות חברה אזרחית, חוקרים ואחרים. הוא ילמד ותתמוך ביוזמות קיימות של בינה מלאכותית, כגון Partnership on AI ו-MLCommons, לצורך יישום מעשי של קווים מנחים שנקבעו להם.

פורום Frontier Models מציע חברות גם לארגונים המחויבים בתוקף לדבוק בכללים לפיתוח ופריסה של מודלים אחראיים של בינה מלאכותית.