Google, Microsoft, OpenAI i Anthropic okupili su se kako bi riješili potencijalne rizike i izazove "graničnih modela umjetne inteligencije".
Ključni zahvati
- Google, Microsoft, OpenAI i Anthropic udružili su se kako bi odgovorili na izazove i potencijalne rizike koje nose "granični modeli umjetne inteligencije" kroz stvaranje Frontier Model Foruma.
- Frontier modeli napredniji su od postojećih AI modela i mogu obavljati širok raspon zadataka, što izaziva zabrinutost zbog njihove usklađenosti s ljudskim vrijednostima i javnim interesom.
- Temeljni ciljevi Foruma uključuju razvoj najboljih praksi, razmjenu informacija, unaprjeđenje istraživanja sigurnosti umjetne inteligencije i suradnju s dionicima radi postizanja konsenzusa o pitanjima razvoja umjetne inteligencije. Članstva su dostupna za organizacije koje su predane odgovornom razvoju umjetne inteligencije.
Povijest nam govori da kada tvrtke, čak i kada su konkurenti, imaju zajednički interes u rješavanju izazova, rade zajedno kako bi ih riješile. A za Google, Microsoft, OpenAI i Anthropic, zajednički problemi koji ih spajaju su izazovi i potencijalni rizici onoga što te tvrtke nazivaju "graničnim modelima umjetne inteligencije". U zajedničkoj izjavi, Google, Microsoft, OpenAI i Anthropic najavili su "Frontier Model Forum", novo industrijsko tijelo za promicanje sigurnih i odgovornih graničnih modela AI.
Chatbotovi i usluge umjetne inteligencije poput ChatGPT, Bing Chat, i Bard specijalizirani za obavljanje specifičnih zadataka i nisu stekli inteligenciju na ljudskoj razini. Ali postoji sve veći strah da bi uskoro moglo postati razumno i da će biti potpuno moćno djelovati protiv šireg javnog interesa. Kao što je objašnjeno u zajedničkom izjava, granični modeli su modeli strojnog učenja velikih razmjera koji su daleko napredniji od mogućnosti postojećih modela i stoga mogu obavljati širok raspon zadataka. S obzirom na uključene rizike, Forum želi uvesti snažne mehanizme kako bi se osiguralo da su ti modeli više usklađeni s ljudskim vrijednostima i da rade u najboljem interesu ljudi.
Temeljni ciljevi Foruma bit će identificirati najbolje prakse za razvoj i implementaciju umjetne inteligencije modeli, olakšavaju razmjenu informacija među tvrtkama i vladama te unapređuju sigurnost umjetne inteligencije istraživanje. Dio istraživanja sigurnosti umjetne inteligencije uključivat će testiranje i usporedbu različitih modela umjetne inteligencije te objavljivanje referentnih vrijednosti u javnoj knjižnici za svakog ključnog igrača u industriji kako bi razumio potencijalne rizike i djelovao u pravcu uklanjanja ih.
Frontier Model Forum će uspostaviti Savjetodavni odbor koji će se sastojati od igrača iz različitih pozadina i perspektiva kako bi odredili strategije i prioritete. Povrh toga, tvrtke osnivači će također formirati institucionalne aranžmane za sve dionike koji će surađivati na izgradnji konsenzusa o pitanjima koja se tiču razvoja umjetne inteligencije. Forum će također iskoristiti postojeće znanje i resurse koje su već iznijele grupe civilnog društva, istraživači i drugi. Naučit će i podržati postojeće AI inicijative, kao što su Partnership on AI i MLCommons, za praktičnu provedbu smjernica koje su im postavljene.
Frontier Model Forum također nudi članstvo u organizacijama koje su čvrsto predane pridržavanju pravila za razvoj i implementaciju odgovornih graničnih modela umjetne inteligencije.