لقد اجتمعت كل من Google، وMicrosoft، وOpenAI، وAnthropic معًا لمعالجة المخاطر والتحديات المحتملة لـ "نماذج الذكاء الاصطناعي الحدودية".
الماخذ الرئيسية
- اجتمعت شركات Google وMicrosoft وOpenAI وAnthropic معًا لمواجهة التحديات والمخاطر المحتملة التي تفرضها "نماذج الذكاء الاصطناعي الحدودية" من خلال إنشاء منتدى Frontier Model Forum.
- تعد النماذج الحدودية أكثر تقدمًا من نماذج الذكاء الاصطناعي الحالية ويمكنها أداء مجموعة واسعة من المهام، مما يثير المخاوف بشأن توافقها مع القيم الإنسانية والمصلحة العامة.
- وتشمل الأهداف الأساسية للمنتدى تطوير أفضل الممارسات، وتبادل المعلومات، وتطوير أبحاث سلامة الذكاء الاصطناعي، والتعاون مع أصحاب المصلحة لبناء توافق في الآراء بشأن قضايا تطوير الذكاء الاصطناعي. العضويات متاحة للمؤسسات الملتزمة بالتطوير المسؤول للذكاء الاصطناعي.
يخبرنا التاريخ أنه عندما يكون لدى الشركات، حتى عندما تكون منافسة، مصلحة مشتركة في مواجهة التحديات، فإنها تعمل معًا للتصدي لها. وبالنسبة لجوجل، ومايكروسوفت، وOpenAI، وAnthropic، فإن القضايا المشتركة التي تجمعهم هي التحديات والمخاطر المحتملة لما تسميه هذه الشركات "نماذج الذكاء الاصطناعي الحدودية". وفي بيان مشترك، أعلنت جوجل ومايكروسوفت وOpenAI وAnthropic عن "Frontier Model Forum"، وهي هيئة صناعية جديدة لتعزيز نماذج الذكاء الاصطناعي الحدودية الآمنة والمسؤولة.
Chatbots وخدمات الذكاء الاصطناعي مثل ChatGPT, دردشة بينج، و بارد متخصصون في أداء مهام محددة ولم يكتسبوا ذكاءً بمستوى الإنسان. ولكن هناك خوف متزايد من أنها قد تكتسب وعياً قريباً وستكون قادرة تماماً على العمل ضد المصلحة العامة الأوسع. كما هو موضح في المشترك إفادةالنماذج الحدودية هي نماذج واسعة النطاق للتعلم الآلي وهي أكثر تقدمًا بكثير من قدرات النماذج الحالية، وبالتالي يمكنها أداء مجموعة واسعة من المهام. ونظرًا للمخاطر التي تنطوي عليها، يريد المنتدى وضع آليات قوية لضمان توافق هذه النماذج بشكل أكبر مع القيم الإنسانية والعمل على خدمة المصالح الفضلى للناس.
وستكون الأهداف الأساسية للمنتدى هي تحديد أفضل الممارسات لتطوير ونشر الذكاء الاصطناعي النماذج، وتسهيل تبادل المعلومات بين الشركات والحكومات، وتعزيز سلامة الذكاء الاصطناعي بحث. سيتضمن جزء من أبحاث سلامة الذكاء الاصطناعي اختبار ومقارنة نماذج الذكاء الاصطناعي المختلفة ونشر المعايير في مكتبة عامة لكل لاعب رئيسي في الصناعة لفهم المخاطر المحتملة والعمل على القضاء عليها هم.
سيقوم منتدى النموذج الحدودي بإنشاء مجلس استشاري يتكون من لاعبين من خلفيات ووجهات نظر مختلفة لوضع الاستراتيجيات والأولويات. علاوة على ذلك، ستقوم الشركات المؤسسة أيضًا بتشكيل ترتيبات مؤسسية لجميع أصحاب المصلحة للتعاون لبناء توافق في الآراء حول القضايا المتعلقة بتطوير الذكاء الاصطناعي. وسيعمل المنتدى أيضًا على الاستفادة من المعرفة والموارد الموجودة التي قدمتها بالفعل مجموعات المجتمع المدني والباحثون وغيرهم. وسوف تتعلم وتدعم مبادرات الذكاء الاصطناعي الحالية، مثل الشراكة بشأن الذكاء الاصطناعي وMLCommons، من أجل التنفيذ العملي للمبادئ التوجيهية التي وضعتها.
يقدم منتدى Frontier Model Forum أيضًا عضويات للمؤسسات الملتزمة التزامًا راسخًا بالالتزام بقواعد تطوير ونشر نماذج الذكاء الاصطناعي الحدودية المسؤولة.