Google, Microsoft, OpenAI და Anthropic გაერთიანდნენ "სასაზღვრო AI მოდელების" პოტენციური რისკებისა და გამოწვევების მოსაგვარებლად.
გასაღები Takeaways
- Google, Microsoft, OpenAI და Anthropic გაერთიანდნენ, რათა გადაწყვიტონ გამოწვევები და პოტენციური რისკები, რომლებიც წარმოიქმნება "სასაზღვრო AI მოდელებისგან" Frontier Model Forum-ის შექმნის გზით.
- სასაზღვრო მოდელები უფრო მოწინავეა, ვიდრე არსებული ხელოვნური ინტელექტის მოდელები და შეუძლიათ შეასრულონ დავალებების ფართო სპექტრი, რაც იწვევს შეშფოთებას მათი ადამიანურ ღირებულებებთან და საზოგადოებრივ ინტერესებთან შესაბამისობაში.
- ფორუმის ძირითადი მიზნები მოიცავს საუკეთესო პრაქტიკის შემუშავებას, ინფორმაციის გაზიარებას, ხელოვნური ინტელექტის უსაფრთხოების კვლევის წინსვლას და დაინტერესებულ მხარეებთან თანამშრომლობას ხელოვნური ინტელექტის განვითარების საკითხებზე კონსენსუსის შესაქმნელად. წევრობა ხელმისაწვდომია იმ ორგანიზაციებისთვის, რომლებიც პასუხისმგებელნი არიან ხელოვნური ინტელექტის განვითარებაზე.
ისტორია გვეუბნება, როდესაც კომპანიებს, მაშინაც კი, როდესაც ისინი კონკურენტები არიან, აქვთ საერთო ინტერესი გამოწვევების გადაჭრის მიმართ, ისინი ერთად მუშაობენ მათ მოსაგვარებლად. და Google-ისთვის, Microsoft-ისთვის, OpenAI-სა და Anthropic-ისთვის, საერთო საკითხები, რომლებიც მათ აერთიანებს, არის გამოწვევები და პოტენციური რისკები, რასაც ეს კომპანიები „სასაზღვრო AI მოდელებს“ უწოდებენ. ერთობლივ განცხადებაში Google-მა, Microsoft-მა, OpenAI-მ და Anthropic-მა გამოაცხადეს "Frontier Model Forum", ახალი ინდუსტრიული ორგანო, რომელიც ხელს უწყობს უსაფრთხო და პასუხისმგებელი სასაზღვრო AI მოდელების პოპულარიზაციას.
ჩეთბოტები და AI სერვისები, როგორიცაა ChatGPT, Bing ჩატი, და ბარდი სპეციალიზირებულია კონკრეტული ამოცანების შესრულებაში და არ მოიპოვა ადამიანის დონის ინტელექტი. მაგრამ არსებობს მზარდი შიში იმისა, რომ ის შესაძლოა მალე მოიპოვოს სენტიმენტი და იქნება სრულიად ძლიერი იმოქმედოს უფრო ფართო საზოგადოებრივი ინტერესების წინააღმდეგ. როგორც სახსარშია ახსნილი განცხადება, სასაზღვრო მოდელები არის მანქანური სწავლების ფართომასშტაბიანი მოდელები, რომლებიც ბევრად უფრო განვითარებულია, ვიდრე არსებული მოდელების შესაძლებლობები და, შესაბამისად, შეუძლიათ შეასრულონ მრავალფეროვანი ამოცანები. და რისკების გათვალისწინებით, ფორუმს სურს შემოიტანოს ძლიერი მექანიზმები, რათა უზრუნველყოს ეს მოდელები უფრო მეტად შეესაბამება ადამიანურ ღირებულებებს და იმუშაოს ხალხის საუკეთესო ინტერესებისთვის.
ფორუმის ძირითადი მიზნები იქნება ხელოვნური ინტელექტის განვითარებისა და დანერგვის საუკეთესო პრაქტიკის გამოვლენა მოდელები, ხელი შეუწყოს ინფორმაციის გაზიარებას კომპანიებსა და მთავრობებს შორის და გააუმჯობესოს ხელოვნური ინტელექტის უსაფრთხოება კვლევა. ხელოვნური ინტელექტის უსაფრთხოების კვლევის ნაწილი მოიცავს ხელოვნური ინტელექტის სხვადასხვა მოდელების ტესტირებას და შედარებას და კრიტერიუმების გამოქვეყნებას. საჯარო ბიბლიოთეკაში ინდუსტრიის ყველა ძირითადი მოთამაშისთვის, რათა გაიგოს პოტენციური რისკები და იმოქმედოს აღმოსაფხვრელად მათ.
სასაზღვრო მოდელის ფორუმი ჩამოაყალიბებს მრჩეველთა საბჭოს, რომელიც შედგება სხვადასხვა წარმომავლობისა და პერსპექტივის მოთამაშეებისგან, რათა განისაზღვროს სტრატეგიები და პრიორიტეტები. გარდა ამისა, დამფუძნებელი კომპანიები ასევე ჩამოაყალიბებენ ინსტიტუციურ ღონისძიებებს ყველა დაინტერესებული მხარისთვის, რათა ითანამშრომლონ ხელოვნური ინტელექტის განვითარებასთან დაკავშირებულ საკითხებზე კონსენსუსის შესაქმნელად. ფორუმი ასევე გამოიყენებს არსებულ ცოდნას და რესურსებს, რომლებიც უკვე წარმოდგენილია სამოქალაქო საზოგადოების ჯგუფების, მკვლევარების და სხვათა მიერ. ის შეისწავლის და მხარს დაუჭერს არსებულ AI ინიციატივებს, როგორიცაა პარტნიორობა AI და MLCommons, მათ მიერ დადგენილი სახელმძღვანელო მითითებების პრაქტიკული განხორციელებისთვის.
Frontier Model Forum ასევე სთავაზობს წევრობას ორგანიზაციებს, რომლებიც მტკიცედ არიან მოწოდებულნი დაიცვან პასუხისმგებელი სასაზღვრო AI მოდელების შემუშავებისა და დანერგვის წესები.